Ernie Light DT 1.0
нейрожелі
Ernie Light DT 1.0 — Baidu-дың ашық GLM негізіндегі және фирмалық BSA сирек назар аудару механизмі бар ықшам мәтіндік моделі.
Сипаттамалары
- Кіріс деректер
- мәтін, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 1 024 000 токен
- Жауап ұзындығы бойынша ең көп шек
- 131 072 токен
- Пайымдау деңгейлері
- пайымдаусыз, төмен, жоғары, max
- Мүмкіндіктер
- пайымдау, функцияларды шақыру
Промптың құны
(1М токенге қарай)
Жауаптың құны
(1М токенге қарай)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'ernie-light-dt-1.0-intl',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'ernie-light-dt-1.0-intl',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді Ernie Light DT 1.0?
Ernie Light DT 1.0 — Baidu-дың ашық GLM модельдері негізінде құрастырылған және Baidu іздеу жүйесінің Lightning-моделінің әзірлемелерімен толықтырылған жеңілдетілген мәтіндік моделі. Оның ерекшелігі — Baidu Sparse Attention: ұзын тізбектерді өңдеу кезінде есептеулерді үнемдеуге бағытталған меншікті сирек назар аудару механизмі. BotHub арқылы модельге VPN-сіз және шетелдік картасыз қол жеткізуге болады: рубльмен төлем жасалады, токендер жойылмайды, ал басқа модельге ауысу интеграцияны қайта жазуды қажет етпейді. Командалар үшін бірыңғай OpenAI-үйлесімді API, шарт, шот, ЭҚА және әкімшілік панелінде лимиттер бар. Модель сұраныстар ағынына жылдам жауап қажет болған жерде өте ыңғайлы: анықтамалық және білім базасы бойынша іздеу, мәтінді жіктеу және белгілеу, ұзын құжаттарды қысқарту, қолдау қызметіндегі жауаптардың нобайлары және чат-боттардағы өтініштерді ағындық өңдеу. Егер тапсырма күрделі пайымдауларды қажет етсе, жанында әрқашан басқа модельдер бар — жауаптарды бір интерфейсте салыстыруға болады.Ernie Light DT 1.0 туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
Бұл Baidu-дың мәтіндік моделі: ол сұраныстар мен құжаттарды оқиды, жауап берер алдында пайымдайды және функцияларды шақыра алады. Үлкен контекст көлемді материалдарды жүктеп, олармен толық жұмыс істеуге мүмкіндік береді. Құжаттарды талдауға, кодты талдауға, мәтіндер жазуға және кезең-кезеңімен пайымдау мен сыртқы құралдарға жүгіну қажет тапсырмаларға жарамды.
Бір жауапта модель 131 072 токенге дейін бере алады — бұл ұзын талдауға, көлемді құжатқа немесе кодтың үлкен фрагментіне жетеді. Кіріс контексті одан да үлкен, 1 024 000 токенге дейін, яғни бір терезеге тапсырмамен бірге өте үлкен материалдар жиынтығы сыяды.
Иә, жауап берер алдында пайымдау модельдің мүмкіндіктеріне кіреді: ол алдымен шешу жолын ойластырып, содан кейін қорытындыны тұжырымдай алады. Бұл бірнеше қадамы бар тапсырмаларда — шарттарды талдау, жоспарлау, математика және кодты түзету кезінде пайдалы, мұнда тек соңғы жол емес, ойлау барысының өзі маңызды.
Иә, қолдайды: модельде функцияларды шақыру және JSON-да құрылымдалған шығыс мәлімделген. Демек, оны жауап талданатын түрде келуі керек немесе модель сіздің құралдарыңыз бен API-ға жүгінетін жүйеге енгізуге болады. BotHub-тың OpenAI-үйлесімді API-ы арқылы бұл бөлек инфрақұрылымсыз қосылады.
Біздің деректеріміз бойынша, модель мәтіннен басқа құжаттарды қабылдайды — оларды тапсырма аясында жүктеп, талдауға болады. Суреттер, аудио және видео қолдау көрсетілетін форматтар тізімінде жоқ, сондықтан оларға сенбеген жөн: суреттер мен видеолар үшін BotHub-та бөлек модельдер бар.
Біздің деректерімізде орыс тіліндегі сапаны тікелей бағалау жоқ, сондықтан өте жоғары дәлдікке уәде бере алмаймыз. Өз мәтіндеріңізде тексеріп көру керек: модель BotHub-та басқаларымен қатар қолжетімді, ауысу бірнеше секундты алады, ал төлем жазылымсыз, токендер үшін факт бойынша жүзеге асырылады.