Dots 3 Note Preview
нейрожелі
Dots 3 Note Preview — Dots Studio-ның ашық MoE-моделі: 280B-дан 16B белсенді параметр, BotHub-та API арқылы қолжетімді.
Сипаттамалары
- Кіріс деректер
- мәтін, кескіндер, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 512 000 токен
- Жауап ұзындығы бойынша ең көп шек
- 460 800 токен
- Пайымдау деңгейлері
- төмен, орташа, жоғары
- Мүмкіндіктер
- пайымдау, функцияларды шақыру
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'dots-3-note-preview:free',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'dots-3-note-preview:free',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді Dots 3 Note Preview?
Dots 3 Note Preview — Dots Studio-ның ашық салмақтары бар мәтіндік моделі, mixture of experts схемасы бойынша құрылған: 280 миллиард параметрдің ішінен әр қадамда 16 миллиард белсенді параметр жұмыс істейді. Бұл Dots 3 отбасындағы ең жеңіл модель: сұранысқа желінің үлкен нұсқаларына қарағанда аз есептеу кетеді. Preview префиксі алдын ала нұсқаны білдіреді. BotHub-та модель VPN-сіз және шетелдік картасыз қолжетімді: сіз ресейлік картамен рубльде төлейсіз және тек іс жүзінде жұмсалған токендер үшін төлейсіз, ал баланстағы қалдық жойылмайды. Сол интерфейсте 250-ден астам нейрондық желі бар: оларды бір терезеде ауыстыру және бір сұранысқа жауаптарды салыстыру оңай, ал бірыңғай OpenAI-үйлесімді API интеграцияны қайта жазбай-ақ мультимодельді қызметте модельді ауыстыруға мүмкіндік береді. Хат алмасу AES-GCM арқылы шифрланады, деректер сақталмайды. Модель жаппай мәтіндік тапсырмаларды аз есептеу шығындарымен орындауға, ашық салмақтарда көмекші прототипін жинауға, үлкен модельді таңдамас бұрын Dots 3 желісімен танысуға, өніміңізде қосалқы генерация маршрутын қосуға және сценарийлеріңізде басқа модельдермен жауап сапасын салыстыруға пайдалы болады.Dots 3 Note Preview туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
Бұл пайымдаулары бар мәтіндік модель: ол ұзын құжаттарды талдайды, кодпен жұмыс істейді, ақпаратты түсіндіреді және құрылымдайды. Кіріске тек мәтінді ғана емес, сонымен қатар құжаттары бар кескіндерді де қабылдайды, ал 512 000 токендік контекст материалдардың тұтас жинақтарын жұмыста ұстауға мүмкіндік береді.
Бір жауаптың лимиті — 460 800 токенге дейін, бұл қарапайым тапсырмалар үшін өте көп. Сіз сұранысты бөліктерге бөлмей және бөліктерді қолмен біріктірмей, көлемді талдауды, үлкен код фрагментін немесе толық егжей-тегжейлі есепті сұрай аласыз.
Иә, модельде жауап берер алдында пайымдау қарастырылған: ол алдымен тапсырманы қадам бойынша өңдейді, содан кейін нәтижені береді. Бұл математикада, логикада, кодты талдауда және көп сатылы аналитикада көмектеседі, мұнда тек нәтиже ғана емес, оған апаратын дұрыс жол да маңызды.
Иә, функцияларды шақыру және құрылымдалған JSON шығысы қолдау табады. Модельді құралдарыңызға, іздеуге немесе дерекқорға қосуға және жауапты қатаң схемада алуға болады. BotHub-та бұл бірыңғай OpenAI-үйлесімді API арқылы жұмыс істейді, сондықтан интеграцияны әр модель үшін қайта жазудың қажеті жоқ.
Кескіндер мен құжаттар — иә, оларды мәтіндік сұраныспен бірге жіберуге болады: модель скриншотты, схеманы, кестені немесе көп беттік файлды талдайды. Аудио мен видеоны қабылдау біздің деректерде көрсетілмеген, сондықтан мұндай форматтар үшін сол терезеде профильді модельге ауысқан ыңғайлы.
Промпттар мен жауаптардың тілдері біздің деректерде сипатталмаған, сондықтан нақты ештеңе уәде ете алмаймыз — өз тапсырмаңызда тексеріп көріңіз. BotHub-та бұл бірнеше минуттық шаруа: VPN-сіз және шетелдік картасыз қолжетімділік, рубльмен төлем, ал жанында басқа модельді салыстыруға болады.