OpenAI-ն ներկայացրել է Jalapeño՝ արհեստական բանականության ինֆերենսի համար նախատեսված հատուկ չիպ

Ամենադիտվածներ

A close up view of a custom AI inference ASIC chip mounted on a circuit board

Արագ Ընթերցում

  • OpenAI-ն ներկայացրել է Jalapeño՝ Broadcom-ի հետ համատեղ մշակված 3nm ինֆերենս-ASIC:
  • Չիպն օգտագործում է Samsung HBM4 հիշողություն՝ 15.4 TB/վ թողունակությամբ:
  • Թեստերը ցույց են տվել մինչև 1.7 անգամ ավելի բարձր արտադրողականություն մեկ կիլովատի հաշվարկով՝ համեմատած NVIDIA GB300-ի:
  • Jalapeño-ն նախատեսված է միայն ինֆերենսի, այլ ոչ թե մոդելների ուսուցման համար:
  • OpenAI-ն արդեն աշխատում է երկրորդ սերնդի չիպի մշակման վրա:

Արհեստական բանականության համար նախատեսված հատուկ չիպ

OpenAI-ն Hot Chips 2026 կոնֆերանսի ժամանակ պաշտոնապես ներկայացրել է իր առաջին հատուկ նախագծված ինֆերենս-ASIC-ը՝ Jalapeño ծածկանունով։ Broadcom-ի հետ համատեղ մշակված այս չիպը նշանավորում է ընկերության ռազմավարական շրջադարձը դեպի սեփական ենթակառուցվածքների օպտիմալացում՝ ժամանակակից արհեստական բանականության համակարգերի ցածր հապաղման և բարձր արտադրողականության պահանջները բավարարելու համար:

OpenAI-ի ինժեներական թիմը, ներառյալ Ռիչարդ Հոն, Ռավի Նարայանասվամին և Քրիս Լիրին, մանրամասնել են չիպի մշակման արագ՝ իննամսյա ցիկլը: 2024-ի վերջին սկսված նախագծումից մինչև 2025-ի վերջին իրականացված արտադրական թողարկումը, թիմը կիրառել է ներքին AI-գործիքներ՝ ֆիզիկական իրականացման գործընթացը արագացնելու համար: TSMC-ի 3nm տեխնոլոգիայով պատրաստված այս չիպը նախատեսված է LLM հարցումների տարբեր փուլերը՝ նախնական հաշվարկը, նախագծային գեներացումը և ստուգումը արդյունավետ կառավարելու համար:

Արտադրողականության ցուցանիշներ

OpenAI-ն Jalapeño-ի հնարավորությունները համեմատել է NVIDIA-ի GB200 և GB300 համակարգերի հետ: InferenceX թեստավորման արդյունքներով՝ Jalapeño-ն ցույց է տվել ավելի բարձր արդյունավետություն՝ մեկ կիլովատի հաշվարկով: DeepSeek R1 670B մոդելի վրա այն ապահովել է 1.7 անգամ ավելի բարձր թողունակություն և 3.6 անգամ ավելի ցածր հապաղում՝ 700 Վտ հզորության դեպքում, մինչդեռ մրցակից համակարգերը պահանջում են 1400 Վտ:

Ճարտարապետությունը հիմնված է յուրաքանչյուր փաթեթում 216 GiB HBM4 հիշողության վրա (մատակարարված Samsung-ի կողմից), որը ապահովում է 15.4 TB/վ թողունակություն: Տվյալների պահպանումը չիպի ներսում և չօգտագործվող հաշվարկային բլոկների անջատումը թույլ են տալիս խուսափել էներգիայի ավելորդ ծախսերից, ինչը բնորոշ է ընդհանուր նշանակության GPU-ներին:

Ռազմավարական նշանակություն

Jalapeño-ի գործարկումն ընդգծում է խոշոր տեխնոլոգիական ընկերությունների ձգտումը դեպի ուղղահայաց ինտեգրում: Վերահսկելով ինչպես սիլիկոնային դիզայնը, այնպես էլ Gluon ծրագրային միջավայրը՝ OpenAI-ն նպատակ ունի շրջանցել ստանդարտ CUDA-ի սահմանափակումները: Չնայած այս հաջողություններին, չիպը նախատեսված է միայն ինֆերենսի (մոդելների աշխատանքի) և ոչ թե ուսուցման համար, որտեղ NVIDIA-ի դիրքերը մնում են անխախտ:

Հետևեք մեզ Telegram-ում
|
Հրապարակող:Ազատ TV Խմբագրություն

Ամենաթարմ