Նոր API՝ հավանականության վրա հիմնված դասակարգման համար
OpenAI-ը պաշտոնապես գործարկել է իր նոր v1/decisions API-ն հանրային բետա տարբերակով, որը մշակողներին տրամադրում է մասնագիտացված գործիք դասակարգման և տեսակավորման խնդիրների համար։ Ի տարբերություն ստանդարտ չատ-հիմնված վերջնակետերի՝ այս API-ն վերադարձնում է տիպային պատասխաններ, հավանականություններ և վստահության գնահատականներ անմիջապես տեքստային և պատկերային մուտքային տվյալներից։ Ըստ Generative AI News-ի՝ վերջնակետը նախագծված է զգալիորեն գերազանցելու ստանդարտ Responses API-ի արագությունը, ընդ որում՝ OpenAI-ը պնդում է, որ այն մոտ 10 անգամ ավելի արագ է հատուկ դասակարգման ծանրաբեռնվածության դեպքում։
API-ն աջակցում է երեք հիմնական հարցման տեսակների. predicate, որը վերադարձնում է որոշակի պայմանի բավարարման հավանականությունը (օրինակ՝ պատկերում քերծվածքի հայտնաբերում), choice, որը կատարում է ընտրություն նախապես պատրաստված տարբերակներից, և score, որը գնահատականներ է նշանակում հաջորդական փուլերի համար։ Ստանալով այս հավանականությունները անմիջապես՝ մշակողները կարող են սահմանել իրենց սեփական շեմերը որոշումների կայացման համար՝ հեռանալով ընդհանուր նպատակային մոդելներից ազատ ձևաչափով տեքստային պատասխաններ մեկնաբանելու անհրաժեշտությունից։
Գնագոյացման կառուցվածքը և գործառնական սահմանափակումները
Decisions API-ի ուշագրավ առանձնահատկություններից մեկը դրա գնագոյացման մոդելն է, որը կենտրոնանում է բացառապես մուտքային ծախսերի վրա։ OpenAI-ը սահմանել է 0,10 դոլար՝ 1 միլիոն թոքենի դիմաց։ Կարևոր է, որ պաշտոնական փաստաթղթերը հստակ նշում են, որ ելքային թոքենների կամ քեշի ընթերցման/գրառման համար վճարներ չկան։ Թեև տարածաշրջանային մշակման հավելավճարները և երկար մուտքային տվյալների համար բազմապատկիչները շարունակում են գործել, ելքային վճարումների վերացումը կանխատեսելի ծախսային կառուցվածք է ապահովում բարձր ծավալի դասակարգման խնդիրների համար։
Ներկայումս API-ն սահմանափակված է միայն gpt-6-luna մոդելով։ Մշակողները պետք է նաև հաշվի առնեն, որ պատկերները պետք է ներկայացվեն որպես ներդրված base64 տողեր, քանի որ API-ն ներկայումս չի ընդունում ֆայլերի ID-ներ կամ ուղղակի URL հղումներ։ OpenAI-ը ակնկալում է, որ ծառայությունը լիարժեք հասանելի կդառնա մի քանի շաբաթվա ընթացքում։ Այն մշակողների համար, ովքեր պահանջում են ազատ ձևաչափով տեքստ կամ հատուկ JSON կառուցվածքներ, որոնք դուրս են դասակարգման շրջանակներից, ընկերությունը նշում է, որ իր գոյություն ունեցող Structured Outputs հնարավորությունները մնում են որպես ստանդարտ, առաջարկվող մոտեցում։
Արտադրական կիրառման գնահատումը
Բարձր հաճախականությամբ խնդիրներ իրականացնող կազմակերպությունների համար, ինչպիսիք են հաճախորդների հարցումների տեսակավորումը կամ ավտոմատացված որակի հսկողությունը, Decisions API-ն առաջարկում է ավելի արդյունավետ ուղի, քան ավանդական LLM հուշումները։ Ամսական մուտքային թոքենները հաշվարկելով՝ մշակողները կարող են ճշգրիտ կանխատեսել ծախսերը՝ առանց ելքային երկարությամբ պայմանավորված անորոշության։ Առաջիկա օրերին որդեգրողների հիմնական խնդիրը կլինի սեփական վստահության շեմերը ստուգելը իրական տվյալների հետ՝ համոզվելու համար, որ gpt-6-luna-ի կողմից վերադարձված հավանականությունները համապատասխանում են ներքին ճշգրտության պահանջներին։

