Phi 4
нейрожелі
Phi 4 — Microsoft Research ұсынған 14 миллиард параметрлі ықшам модель, күрделі пайымдау тапсырмаларына арналған phi 4 api.
Сипаттамалары
- Кіріс деректер
- мәтін, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 16 384 токен
- Жауап ұзындығы бойынша ең көп шек
- 14 745 токен
Промптың құны
(1М токенге қарай)
Жауаптың құны
(1М токенге қарай)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'phi-4',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'phi-4',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді Phi 4?
Phi 4 — Microsoft Research ұсынған 14 миллиард параметрлі тілдік модель, күрделі пайымдауларға арналған: ол көп сатылы тапсырмаларды талдайды, логиканы сақтайды және ықшам күйінде қалады, сондықтан жады шектеулі немесе жауап жылдамдығы маңызды жерлерде сенімді жұмыс істейді. Мұнда басты назар өлшемге емес, параметрлер саны аз болған кездегі пайымдау сапасына аударылған. BotHub-та модель VPN-сіз және шетелдік картасыз ашылады: сіз жазылым үшін емес, пайдаланылған токендер үшін рубльмен төлейсіз, ал қалдық жойылмайды. Бір терезеде 250-ден астам модель бар — Phi 4 жауабын басқа нұсқамен оңай салыстыруға және ауыстыруға болады, ал бірыңғай OpenAI-үйлесімді API интеграцияны қайта жазбай-ақ модельді өзгертуге мүмкіндік береді. Хат алмасу шифрланады, компаниялар үшін шарт, шот-фактура, ЭҚҚ және лимиттері бар әкімшілік панель қолжетімді. Phi 4 аналитикке көп сатылы тапсырманы шешуге және шешім барысын тексеруге, инженерге алгоритм логикасын салыстыруға, оқытушыға шешімді қадам бойынша жазуға, өнім командасына жылдамдық пен жауап құны маңызды жерлерде гипотезаларды тексеруге көмектеседі.Phi 4 туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
phi-4 — Microsoft ұсынған ықшам мәтіндік модель. Ол мәтінді ғана емес, кескіндер мен құжаттарды да қабылдайды, сондықтан файлдарды талдауға, сызбалар мен сканерленген құжаттардан деректерді алуға, мәтіндерді жазуға және түзетуге, кодпен, логикалық және математикалық есептермен жұмыс істеуге жарамды. Ресейден VPN-сіз және шетелдік картасыз қолжетімді.
Бір жауаптың максимумы — 14 745 токен, бұл көлемді мақалаға, құжаттамаға немесе егжей-тегжейлі талдауға жетеді. 16 384 токендік жалпы контекст терезесін ескеріңіз: оған сіздің сұрауыңыз бен қосымшаларыңыз және жауаптың өзі кіреді. Үлкен тапсырманы бөліктерге бөлген дұрыс.
Біздің деректерде қадамдық пайымдаудың жеке режимі көрсетілмеген, бірақ бұл модель логикамен жұмыс істей алмайды дегенді білдірмейді. Егжей-тегжейлі талдауды әдетте тікелей промт арқылы алу оңай: шешімді қадам бойынша бөлуді және тек қорытындыны ғана емес, аралық тұжырымдарды да көрсетуді сұраңыз.
Біздің деректерде функцияларды шақыруды және құрылымдық JSON-шығаруды қолдау туралы белгі жоқ, сондықтан оған кепілдік бере алмаймыз. JSON форматында жауап беруді тікелей промт арқылы сұрауға болады. Егер қатаң схема мен құралдар қажет болса, BotHub бірыңғай API-інде интеграцияны қайта жазбай-ақ басқа модельге ауысыңыз.
Кескіндер мен құжаттарды жүктеуге болады: модель сканерленген құжатты, сызбаны, кестені немесе PDF-ті талдап, мәтінмен жауап береді. Аудио мен видео қолдау көрсетілетін кірістер тізімінде жоқ, бірақ BotHub-та олар үшін жеке модельдер бар — сіз оларға сол терезеде ауыса аласыз.
Бізде орыс тілінің сапасы туралы жеке деректер жоқ, сондықтан алдын ала уәде бере алмаймыз. Ең сенімді жол — өз сұрауыңызды жіберіп, нәтижені көру. Егер тұжырымдар күтілгеннен әлсіз болып көрінсе, интеграцияны өзгертпей, BotHub-тың бір терезесінде басқа модельмен жауапты салыстырыңыз.