OpenAI-ն դադարեցրել է Astra մոդելի մշակումը՝ կիբերանվտանգության լուրջ ռիսկերի պատճառով

Ամենադիտվածներ

A hand holding a smartphone displaying the OpenAI logo on a digital screen

Արագ Ընթերցում

  • OpenAI-ն դադարեցրել է Astra-ի մշակումը՝ կիբերանվտանգության «կրիտիկական» ռիսկերի պատճառով։
  • Թեստերի ընթացքում մոդելը ինքնուրույն բացահայտել և շահագործել է ծրագրային խոցելիություններ։
  • Astra-ն հաջողությամբ լուծել է մաթեմատիկական 10 նախկինում չլուծված խնդիրներ։
  • Մշակումը տեղափոխվել է մեկուսացված՝ «ավազարկղային» միջավայրեր՝ սահմանափակ հասանելիությամբ։
  • Հրապարակման պաշտոնական ժամկետ չկա, ընկերությունը նախատեսում է աշխատել պետական մարմինների հետ։

AI-ի հնարավորությունների նոր սահմանագիծ

OpenAI-ն պաշտոնապես հաստատել է իր նոր՝ Astra արհեստական բանականության մոդելի մշակման ռազմավարական դադարը։ 2026 թվականի օգոստոսի 7-ին ընկերության կողմից տարածված հայտարարության համաձայն՝ ներքին գնահատումները ցույց են տվել, որ մոդելը կարող է «կրիտիկական» կիբերանվտանգության ռիսկեր պարունակել։ Ի պատասխան՝ ընկերությունը մոդելը տեղափոխել է մեկուսացված՝ «ավազարկղային» (sandbox) միջավայրեր՝ անվտանգության ավելի խիստ վերահսկողություն սահմանելու համար։

Astra-ն, որը OpenAI-ը բնութագրում է որպես իր «հաջորդ խոշոր մոդելը», ցուցադրել է առաջադեմ կարողություններ՝ լուծելով մաթեմատիկայի և տեսական համակարգչային գիտության 10 չլուծված խնդիրներ։ Այնուամենայնիվ, այս նույն կարողությունները մտահոգություններ են առաջացրել դրա հնարավոր չարաշահման վերաբերյալ։ Ընկերության «Պատրաստվածության շրջանակի» (Preparedness Framework) համաձայն՝ մոդելը համարվում է «կրիտիկական» ռիսկային, եթե այն կարող է ինքնուրույն բացահայտել և շահագործել «զրոյական օրվա» (zero-day) խոցելիություններ՝ առանց մարդու միջամտության։

Վտանգի շեմը

OpenAI-ի գնահատման համակարգը հետևում է ռիսկերին երեք հիմնական ուղղություններով՝ կենսաբանական և քիմիական սպառնալիքներ, ինքնակատարելագործվող AI և կիբերանվտանգություն։ Մինչ նախորդ մոդելները, ինչպիսիք են GPT-5.6-Sol-ը, գնահատվել էին որպես «բարձր» ռիսկայնության, Astra-ն, ըստ երևույթին, առաջինն է, որ հասել է «կրիտիկական» շեմին։

Այս իրավիճակը արտացոլում է AI ոլորտում առկա ընդհանուր միտումը։ Ավելի վաղ Anthropic ընկերությունը նույնպես դադարեցրել էր իր «Mythos» մոդելի հրապարակումը՝ հիմնավորելով դրա հաքերային հմտությունների վտանգավորությունը։ OpenAI-ի համար այս զգուշավոր մոտեցումը նշանակում է, որ սահմանային մոդելների արագ և անվերահսկելի տեղակայման ժամանակաշրջանը զիջում է իր տեղը անվտանգության վրա հիմնված կարգավորումներին։

Գիտական նշանակությունն ընդդեմ անվտանգության

Չնայած մշակումների դադարին՝ Astra-ի ներդրումը մաթեմատիկայում շարունակում է ուշադրության կենտրոնում մնալ։ Չլուծված խնդիրների հաղթահարումը ցույց է տալիս մոդելի գիտական ներուժը, սակայն փորձագետները զգուշացնում են չգերագնահատել դրա նշանակությունը։ Կոլումբիայի համալսարանի պրոֆեսոր Էնդրյու Բլումբերգը նշում է, որ թեև մաթեմատիկական ձեռքբերումները տպավորիչ են, դրանք հիմնված են հայտնի գիտելիքների վրա և չեն նշանակում, որ AI-ը պատրաստ է փոխարինել մարդ գիտնականներին։

Ի՞նչ է սպասվում հետո

Astra-ի հրապարակման ժամկետներն առայժմ անորոշ են։ OpenAI-ը պարտավորվել է համագործակցել կառավարական մարմինների և անվտանգության հարցերով զբաղվող կազմակերպությունների հետ՝ մոդելի հնարավորությունները մանրակրկիտ ստուգելու համար։ Այս համագործակցությունը վկայում է այն մասին, որ ընկերությունն ավելի շատ շեշտը դնում է պատասխանատու տեղակայման վրա, քան շտապողականության։

Հետևեք մեզ Telegram-ում
|
Հրապարակող:Ազատ TV Խմբագրություն

Ամենաթարմ