Նոր հարթակ գործակալային AI-ի համար
AMD ընկերությունը հոկտեմբերի 12-ին, Սան Խոսեում կայացած Open Compute Project (OCP) Global Summit-ի ժամանակ ներկայացրել է AMD Helion-ը՝ սերվերային դարակաշարերի նախագծային լուծում, որը հատուկ մշակված է ինքնավար AI գործակալների աշխատանքի համար: Ի տարբերություն ստանդարտ սերվերների, Helion-ը բաց ճարտարապետություն է, որը թույլ է տալիս կենտրոններին հարմարեցնել իրենց ենթակառուցվածքները՝ կենտրոնանալով ոչ միայն մոդելների ինֆերենսի, այլև գործիքների կառավարման և բազմաքայլ տրամաբանության վրա:
Կոնֆիգուրացիաների ճկունություն
Helion համակարգը բաժանված է երկու հիմնական կոնֆիգուրացիայի: Առաջինը՝ միայն CPU-ով աշխատող դարակաշարն է, որը նախատեսված է հիպերսքեյլ (hyperscale) ծավալների համար: Այն հագեցած է 6-րդ սերնդի AMD EPYC պրոցեսորներով և ապահովում է մինչև 32,768 միջուկ մեկ դարակաշարում: Այս լուծումը ուղղված է այն ծանրաբեռնվածությանը, որը պահանջում է արագ API կանչեր, տվյալների որոնում և բարդ աշխատանքային հոսքերի կառավարում, ինչը, ըստ AMD-ի, CPU-ի համար ավելի հարմար խնդիր է, քան GPU-ի:
Երկրորդ՝ «ամեն ինչ մեկում» կոնֆիգուրացիան նախատեսված է ձեռնարկությունների համար: Այն համատեղում է AMD EPYC պրոցեսորները և AMD Instinct MI350P GPU-ները մեկ դարակաշարում՝ ապահովելով ինչպես օրկեստրավորում, այնպես էլ մոդելների ինֆերենս: Համակարգը ներառում է ծրագրային ապահովման հատուկ շերտ՝ «թոքենային երթուղիչ» (token router), որը խնդրի բնույթից կախված ուղղորդում է մոդելների հարցումները դեպի լավագույն հասանելի մոդելներ՝ լինեն դրանք frontier, թե բաց կոդով:
Բաց ստանդարտներ և շուկայական մրցակցություն
AMD-ն մտադիր է Helion-ի տեխնիկական բնութագրերը փոխանցել OCP համայնքին, ինչը թույլ կտա այլ արտադրողներին ստեղծել համատեղելի սարքավորումներ: Այս ռազմավարությունը նպատակ ունի խուսափել փակ էկոհամակարգերից և հնարավորություն տալ օպերատորներին ընտրել սեփական կոնֆիգուրացիաները: Ընկերության տվյալներով՝ Helion-ի վրա հիմնված լուծումները հասանելի կդառնան գործընկերների միջոցով 2026 թվականի նոյեմբերին, ինչը կարող է փոխել AI ենթակառուցվածքների շուկայում գերիշխող մրցակցային միջավայրը: