Muse Ember
нейрожелі
Meta-ның Muse Ember моделі — пайымдауға, функцияларды шақыруға және агенттердің қайталанатын тапсырмаларына арналған шағын әрі үнемді модель.
Сипаттамалары
- Кіріс деректер
- мәтін, кескіндер, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 1 048 576 токен
- Жауап ұзындығы бойынша ең көп шек
- 943 718 токен
- Пайымдау деңгейлері
- минималды, төмен, орташа, жоғары, максималды, max
- Мүмкіндіктер
- пайымдау, функцияларды шақыру
Промптың құны
(1М токенге қарай)
Жауаптың құны
(1М токенге қарай)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'muse-ember',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'muse-ember',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді Muse Ember?
Muse Ember — Meta-ның күрделі пайымдаулар мен агенттердің күнделікті рутиналық тапсырмаларына арналған ең кіші әрі үнемді моделі. Құралдарды шақыру, кодтаушы агенттің жеке қосалқы тапсырмалары, модельдер арасындағы сұраныстарды маршруттау — мұнда Ember өзін жақсы көрсетеді, себебі мұндай шақырулар мыңдап қайталанады және болжамды құнды талап етеді. BotHub арқылы модельге Ресейден VPN-сіз және шетелдік картасыз қол жеткізуге болады: төлем рубльмен, жазылымсыз, тек пайдаланылған токендер үшін жүргізіледі және сатып алынған токендер жойылмайды. Басқа модельге ауысу немесе жауаптарды салыстыру бір терезеде мүмкін, ал бірыңғай OpenAI-үйлесімді API интеграцияны қайта жазбай-ақ, Ember-ді мультимодельді жүйеге енгізуге мүмкіндік береді. Деректер AES-GCM шифрлауымен қорғалған және сақталмайды, командалар үшін шарт, шот, ЭҚА және әкімшілік панеліндегі лимиттер қолжетімді. Типтік сценарийлер: тапсырмаларды ірі модельдерге бөлетін агенттік құбырлардың оркестраторы, құралдармен бірге кодты генерациялау және рефакторинг, логтарды талдау және қадамдық жөндеу, өнім ішіндегі сұраныстарды маршруттау және әрбір шақырудың құны маңызды болатын ішкі боттарға қызмет көрсету.Muse Ember туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
muse-ember — мәтіндік модель: мәтін жазады және өңдейді, кірістегі құжаттар мен кескіндерді талдайды, жауап берер алдында пайымдайды және функцияларды шақырады. Кодпен, ұзын құжаттармен жұмыс істеуге, аналитикаға және үлкен контекст көлемін сақтап, құрылымдалған нәтиже алу қажет болатын агенттік сценарийлерге жарамды.
Карточка деректері бойынша, бір жауаптың максималды көлемі — 943 718 токен, ал кіріс контексті 1 048 576 токенге жетеді. Нақты ұзындығы сіздің сұранысыңызға және BotHub жағындағы баптауларға байланысты: ұзын жауаптарды бөліктермен жинаған ыңғайлы, әсіресе үлкен құжатты талдау қажет болса.
Иә, muse-ember-де жауап берер алдында пайымдау режимі бар. Модель алдымен шешу қадамдарын ойластырып, содан кейін нәтижені бере алады, бұл логика, есептеулер және көп қадамды нұсқаулары бар тапсырмаларда көмектеседі. Бұл режимнің жеке қосқышпен қосылатынын BotHub интерфейсінен нақтылаңыз.
Иә, функцияларды шақыру (function calling) және JSON-да құрылымдалған шығару қолданылады. Бұл модельді сыртқы қызметтерге қосуға және код бірден талдай алатын форматта жауаптар алуға болатынын білдіреді, қолмен түзетудің қажеті жоқ.
Кіріске кескіндер мен құжаттарды беруге болады — модель мазмұнын талдап, оған жауап береді. Аудио мен видеоны қабылдау біздің деректерде көрсетілмеген, сондықтан мұндай файлдарды алдын ала мәтінге немесе жеке кадрларға аударған дұрыс.
Модель деректерінде орыс тілінің сапасына жеке баға жоқ, сондықтан нақты деңгейіне уәде бере алмаймыз. Өз тапсырмаларыңызда тексерген оңай: типтік сұранысты жіберіп, жауапты BotHub-тағы басқа модельдермен салыстырыңыз — ауысу бірнеше рет басуды қажет етеді.