OpenAI-ն հայտարարել է «Ultrafast» ռեժիմի գործարկման մասին, որը նախատեսված է իր առաջատար GPT-5.6 Sol մոդելի աշխատանքը զգալիորեն արագացնելու համար։ Cerebras ընկերության հետ համագործակցության արդյունքում ստեղծված այս նոր ծառայությունը թույլ է տալիս հասնել վայրկյանում մինչև 750 ելքային տոկենի՝ աշխատելով ստանդարտ ռեժիմից 14 անգամ արագ։
Ինչո՞ւ է սա կարևոր
Մինչ օրս AI մշակողները ստիպված էին ընտրություն կատարել արագության և մոդելի հզորության միջև։ Ավելի բարդ առաջադրանքներ կատարող մոդելները սովորաբար ավելի դանդաղ են արձագանքում։ «Ultrafast»-ը վերացնում է այս հակասությունը՝ թույլ տալով օգտագործել բարձրակարգ մոդելների տրամաբանությունը իրական ժամանակում։
Տեխնիկական լուծումներ
Արագության այս թռիչքը հնարավոր է դարձել Cerebras-ի «wafer-scale» ճարտարապետության շնորհիվ։ Ի տարբերություն սովորական GPU-ների, որոնք հաճախ բախվում են հիշողության թողունակության սահմանափակումների հետ, Cerebras-ի չիպերը պարունակում են 44 ԳԲ SRAM, ինչը թույլ է տալիս մոդելի կշիռները պահել չիպի ներսում և տվյալների անընդհատ հոսք ապահովել։
Կիրառման ոլորտները
OpenAI-ն նշում է, որ այս տեխնոլոգիան հատկապես արդյունավետ կլինի այնպիսի ոլորտներում, որտեղ յուրաքանչյուր վայրկյանը կարևոր է՝
- Կիբերանվտանգություն. հարձակումների արագ հայտնաբերում և արձագանքում։
- Ֆինանսներ. շուկայական տվյալների արագ վերլուծություն։
- Հաճախորդների սպասարկում. բարդ հարցերի ակնթարթային լուծումներ։
- Իրավաբանական և ինժեներական աշխատանքներ. փաստաթղթերի արագ մշակում։
Ներկայումս «Ultrafast»-ը գտնվում է սահմանափակ փորձնական փուլում՝ OpenAI API-ի միջոցով, սակայն հասանելիությունը ժամանակի ընթացքում կընդլայնվի։