OpenAI-ն ներկայացրել է Jalapeño՝ արհեստական բանականության ինֆերենսի համար նախատեսված հատուկ չիպ

Ամենադիտվածներ

A close up view of a custom AI inference ASIC chip mounted on a circuit board

Արագ Ընթերցում

  • OpenAI-ն ներկայացրել է Jalapeño՝ Broadcom-ի հետ համատեղ մշակված 3nm ինֆերենս-ASIC:
  • Չիպն օգտագործում է Samsung HBM4 հիշողություն՝ 15.4 TB/վ թողունակությամբ:
  • Թեստերը ցույց են տվել մինչև 1.7 անգամ ավելի բարձր արտադրողականություն մեկ կիլովատի հաշվարկով՝ համեմատած NVIDIA GB300-ի:
  • Jalapeño-ն նախատեսված է միայն ինֆերենսի, այլ ոչ թե մոդելների ուսուցման համար:
  • OpenAI-ն արդեն աշխատում է երկրորդ սերնդի չիպի մշակման վրա:

Արհեստական բանականության համար նախատեսված հատուկ չիպ

OpenAI-ն Hot Chips 2026 կոնֆերանսի ժամանակ պաշտոնապես ներկայացրել է իր առաջին հատուկ նախագծված ինֆերենս-ASIC-ը՝ Jalapeño ծածկանունով։ Broadcom-ի հետ համատեղ մշակված այս չիպը նշանավորում է ընկերության ռազմավարական շրջադարձը դեպի սեփական ենթակառուցվածքների օպտիմալացում՝ ժամանակակից արհեստական բանականության համակարգերի ցածր հապաղման և բարձր արտադրողականության պահանջները բավարարելու համար:

OpenAI-ի ինժեներական թիմը, ներառյալ Ռիչարդ Հոն, Ռավի Նարայանասվամին և Քրիս Լիրին, մանրամասնել են չիպի մշակման արագ՝ իննամսյա ցիկլը: 2024-ի վերջին սկսված նախագծումից մինչև 2025-ի վերջին իրականացված արտադրական թողարկումը, թիմը կիրառել է ներքին AI-գործիքներ՝ ֆիզիկական իրականացման գործընթացը արագացնելու համար: TSMC-ի 3nm տեխնոլոգիայով պատրաստված այս չիպը նախատեսված է LLM հարցումների տարբեր փուլերը՝ նախնական հաշվարկը, նախագծային գեներացումը և ստուգումը արդյունավետ կառավարելու համար:

Արտադրողականության ցուցանիշներ

OpenAI-ն Jalapeño-ի հնարավորությունները համեմատել է NVIDIA-ի GB200 և GB300 համակարգերի հետ: InferenceX թեստավորման արդյունքներով՝ Jalapeño-ն ցույց է տվել ավելի բարձր արդյունավետություն՝ մեկ կիլովատի հաշվարկով: DeepSeek R1 670B մոդելի վրա այն ապահովել է 1.7 անգամ ավելի բարձր թողունակություն և 3.6 անգամ ավելի ցածր հապաղում՝ 700 Վտ հզորության դեպքում, մինչդեռ մրցակից համակարգերը պահանջում են 1400 Վտ:

Ճարտարապետությունը հիմնված է յուրաքանչյուր փաթեթում 216 GiB HBM4 հիշողության վրա (մատակարարված Samsung-ի կողմից), որը ապահովում է 15.4 TB/վ թողունակություն: Տվյալների պահպանումը չիպի ներսում և չօգտագործվող հաշվարկային բլոկների անջատումը թույլ են տալիս խուսափել էներգիայի ավելորդ ծախսերից, ինչը բնորոշ է ընդհանուր նշանակության GPU-ներին:

Ռազմավարական նշանակություն

Jalapeño-ի գործարկումն ընդգծում է խոշոր տեխնոլոգիական ընկերությունների ձգտումը դեպի ուղղահայաց ինտեգրում: Վերահսկելով ինչպես սիլիկոնային դիզայնը, այնպես էլ Gluon ծրագրային միջավայրը՝ OpenAI-ն նպատակ ունի շրջանցել ստանդարտ CUDA-ի սահմանափակումները: Չնայած այս հաջողություններին, չիպը նախատեսված է միայն ինֆերենսի (մոդելների աշխատանքի) և ոչ թե ուսուցման համար, որտեղ NVIDIA-ի դիրքերը մնում են անխախտ:

Հետևեք մեզ Telegram-ում
|
Խմբագրական ներդրում:Ազատ TV Խմբագրություն
|
Հրատարակիչ:Ազատ TV

Ամենաթարմ

}// Handle language redirects const langLink = e.target.closest(".azat-switcher-item a"); if (langLink) { e.preventDefault(); e.stopPropagation();const origin = window.location.origin; const path = window.location.pathname; const lang = langLink.getAttribute("data-lang");// Determine current active language of the page: let currentLang = "am"; if (path.startsWith("/en/") || path === "/en") { currentLang = "en"; } else if (path.startsWith("/ru/") || path === "/ru") { currentLang = "ru"; }let newPath = path;if (currentLang === "en" && lang === "ru") { newPath = path.replace("/en/", "/ru/"); } else if (currentLang === "ru" && lang === "en") { newPath = path.replace("/ru/", "/en/"); } else if (currentLang === "en" && lang === "am") { newPath = path.replace("/en/", "/"); } else if (currentLang === "ru" && lang === "am") { newPath = path.replace("/ru/", "/"); } else if (currentLang === "am" && lang === "en") { newPath = "/en" + path; } else if (currentLang === "am" && lang === "ru") { newPath = "/ru" + path; }window.location.href = origin + newPath; } }); })();