Hy3
нейрожелі
Hy3 — Tencent-тің пайымдау және агенттік сценарийлерге арналған Mixture-of-Experts моделі, Hy3 api BotHub-та қолжетімді.
Сипаттамалары
- Кіріс деректер
- мәтін, құжаттар
- Нәтиже
- мәтін
- Контекст өлшемі
- 262 144 токен
- Жауап ұзындығы бойынша ең көп шек
- 128 000 токен
- Пайымдау деңгейлері
- пайымдаусыз, төмен, жоғары
- Мүмкіндіктер
- пайымдау, функцияларды шақыру
Промптың құны
(1М токенге қарай)
Жауаптың құны
(1М токенге қарай)
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'hy3',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'hy3',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Қалай жұмыс істейді Hy3?
Hy3 — Tencent-тің Mixture-of-Experts архитектурасындағы үлкен тілдік моделі: 295 млрд параметр, оның шамамен 21 млрд-ы әр сұранысқа іске қосылады, ал маршруттау 192 сарапшы арқылы жүреді, оның ішінде ең үздік сегізі таңдалады. Бұл схема пайымдауға, агенттік сценарийлерге және нақты өнімдік жүктеме астында жұмыс істеуге бағытталған, ал ойлау күшін реттеу деңгейі жылдамырақ немесе толығырақ жауап арасында таңдау жасауға мүмкіндік береді. BotHub-та модель VPN-сіз және шетелдік картасыз ашылады: сіз жазылымсыз, тек токендер үшін рубльмен төлейсіз, ал пайдаланылмаған токендер жойылмайды. Сол терезеде 250-ден астам модель бар, сондықтан жауаптарды салыстыру оңай, ал бірыңғай OpenAI-үйлесімді API интеграцияны қайта жазбай-ақ, тапсырмаға сай модельді ауыстыруға мүмкіндік береді; трафик AES-GCM арқылы шифрланады, ал компаниялар үшін шарт, шот, ЭҚҚ (ЭДО) және лимиттері бар әкімшілік панель қолжетімді. Hy3 аналитиктерге көп сатылы пайымдаулар үшін, әзірлеушілерге қадамдар тізбегін орындайтын агенттердің ядросы ретінде, өнімдік командаларға рутинаны автоматтандыру және өтінімдерді өңдеу үшін, ал зерттеушілерге бір тапсырманы бірнеше модель арқылы өткізіп, қолайлысын таңдау үшін қажет.Hy3 туралы жиі қойылатын сұрақтар
Генерация нәтижелерін коммерциялық мақсатта пайдалана аласыз. Жасалған контентке барлық құқық сізге тиесілі. Жалғыз шектеу: сұрауда үшінші тараптардың авторлық құқықпен қорғалған материалдары пайдаланылмағанына көз жеткізіңіз. Кіріс деректерінің құқықтарын сақтау жауапкершілігі пайдаланушыға жүктеледі.
hy3 — 262 144 токен контекст терезесі бар Tencent мәтіндік моделі. Ол ұзын құжаттарды талдайды, код жазады және рефакторинг жасайды, жөндеуге (debugging) көмектеседі, пайымдау және STEM тапсырмаларын шешеді, сонымен қатар сыртқы функцияларды шақырады. Аналитика, әзірлеуді қолдау және үлкен мәтін көлемімен жұмыс істеу үшін қолайлы.
Бір жауапта hy3 128 000 токенге дейін береді — бұл көлемді құжатқа, егжей-тегжейлі талдауға немесе бөліктерге бөлмей, ірі код модулін толығымен жазуға жетеді. Егер жауап үзіліп қалса, жалғастыруды сұраңыз: 262 144 токендік диалог контексті сақталады.
Иә, hy3-те пайымдау режимі бар: түпкілікті жауап алдында модель қадамдар тізбегін құрады, аралық қорытындыларды тексереді және содан кейін ғана нәтижені тұжырымдайды. Бұл математикада, логикалық тапсырмаларда, кодты талдауда және кездейсоқ жауап емес, дәлелді қорытынды маңызды жағдайларда айтарлықтай көмектеседі.
Иә, hy3 функцияларды шақыруды және JSON-да құрылымдық шығаруды қолдайды. Модель сіздің құралыңызға қашан жүгіну керектігін өзі шешеді және аргументтерді берілген схемада қайтарады. BotHub-тың бірыңғай OpenAI-үйлесімді API-і арқылы бұл интеграцияны қайта жазбай-ақ агенттер мен сервистерге қосылады.
Суреттер мен құжаттар — иә: hy3 скриншоттарды, схемаларды, графиктерді және файлдарды талдап, олардың мазмұны бойынша жауап береді. Аудио мен видео туралы біздің деректерде белгі жоқ, сондықтан суреттер мен мәтіндік қосымшаларға сеніңіз. Дыбыстау немесе видео үшін BotHub-тағы арнайы модельге ауысқан ыңғайлы.
Бізде hy3-тің нақты тілдермен жұмыс істеу сапасы туралы деректер жоқ, сондықтан бұл жерде ештеңе уәде ете алмаймыз. Өз тапсырмаңызда тексерген оңай: төлем токендер үшін факт бойынша жүреді, олар жойылмайды, ал жауапты басқа модельмен сол терезеде салыстыруға болады.