Mi:dm K 3.0 Pro
нейрожелі
Mi:dm K 3.0 Pro — KT-тің 120B параметрлі гибридті архитектуралы пайымдаушы моделі: сарапшылар қоспасы, Mamba қабаттары және назар аудару
Сипаттамалары
- Кіріс деректер
- мәтін, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 261 795 токен
- Жауап ұзындығы бойынша ең көп шек
- 235 615 токен
- Пайымдау деңгейлері
- төмен, орташа, жоғары
- Мүмкіндіктер
- пайымдау
Промптың құны
(1М токенге қарай)
Жауаптың құны
(1М токенге қарай)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'midm-k-3.0-pro',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'midm-k-3.0-pro',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді Mi:dm K 3.0 Pro?
Mi:dm K 3.0 Pro — KT-тің сарапшылар қоспасына негізделген пайымдаушы моделі: 120 миллиард параметр, оның ішінде әр сұраныста 12 миллиарды белсенді. Бұл схема пайымдау тереңдігін сақтайды, бірақ бүкіл желіні толығымен іске қоспайды. Гибридті архитектура: онда Mamba қабаттары, сарапшылар қоспасы механизмі және назар аудару қатар өмір сүреді, ал қабаттардың әртүрлі түрлері тізбекті өңдеудің әртүрлі аспектілерін өз мойнына алады. BotHub-та модель Ресейден VPN-сіз және шетелдік картасыз ашылады, рубльмен төлем токендер үшін факт бойынша жүзеге асады, ал баланстағы қалдық жойылмайды. Mi:dm K 3.0 Pro-ға басқа модельдермен жұмыс істейтін терезеде ауысуға болады, ал бірыңғай OpenAI-үйлесімді API арқылы оны интеграцияны қайта жазбай-ақ мультимодельді жүйелерге қосуға болады. Модель көп сатылы логикалық есептер мен шарттарды талдау үшін, мұнда пайымдау барысы маңызды; оқу және зерттеу STEM-есептері үшін; ұзақ құжаттарды талдау және фрагменттер арасындағы байланыстарды анықтау үшін; келісімшарт, шот, ЭҚҚ және қызметкерлерге арналған лимиттері бар ішкі корпоративтік сценарийлер үшін пайдалы.Mi:dm K 3.0 Pro туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
midm-k-3.0-pro — шамамен 262 мың токен контекст терезесі бар мәтіндік модель. Ол құжаттар мен мәтіндік сұраныстарды оқиды, жауап берер алдында пайымдай алады. Үлкен материалдарды талдауға, кодпен жұмыс істеуге, нұсқаулықтарды талдауға және көлемді мәтіндерді жазуға жарамды. BotHub-та басқа модельдермен бірге, VPN-сіз және шетелдік картасыз қолжетімді.
Бір жауапта модель 235 615 токенге дейін бере алады — бұл ұзақ құжаттар мен кеңейтілген материалдарға жететін өте үлкен қор. Кіріс контексті де үлкен, шамамен 262 мың токен, сондықтан модель бүкіл қажетті мәтінді көз алдында ұстай алады.
Иә, жауап берер алдында пайымдау қабілеті біздің деректерде модельдің расталған мүмкіндігі ретінде белгіленген. Ол шешім жолын қадам бойынша ойластырып, содан кейін ғана нәтижені бере алады, бұл көп сатылы тапсырмаларда, құжаттарды талдауда және кодты талдауда пайдалы. Оның жауапта қалай көрінетіні сіздің сұранысыңызға байланысты.
Біздің деректерде функцияларды шақыруды және құрылымдалған JSON шығаруды қолдау белгіленбеген, сондықтан оны растау мүмкін емес — бұл мүмкіндіктер жоқ дегенді білдірмейді, жай ғана біз оларды тіркемедік. Егер шығыстағы JSON сіздің жобаңыз үшін маңызды болса, оны іс жүзінде тексеріп көріңіз және басқа модельді дайын ұстаңыз: BotHub-та ауысу бір рет басу арқылы жүзеге асады.
Біздің деректер бойынша, модель кіріс ретінде мәтін мен құжаттарды қабылдайды. Суреттерді, аудио және видеоны жүктеу белгіленбеген, сондықтан біз оны растай алмаймыз — іс жүзінде нақтылаңыз. Мұндай тапсырмалар үшін BotHub-та басқа типтегі модельдер бар және оларға сол терезеде ауысуға болады.
Орыс тілінің сапасы туралы жеке расталған деректер бізде жоқ — модель сипаттамасында бұл белгіленбеген. Модель біздің материалдарда тілге байланбастан мәтінмен және құжаттармен жұмыс істейді, сондықтан оны өз мысалдарыңызда тексерген дұрыс: қысқа тест жалпы уәделерден гөрі көбірек нәрсені көрсетеді.