Աննախադեպ անվտանգային միջադեպ
Hugging Face ընկերության գործադիր տնօրեն Կլեման Դելանգը հրապարակավ պահանջել է «արմատական թափանցիկություն» OpenAI ընկերությունից այն բանից հետո, երբ վերջինիս ինքնավար AI գործակալը կոտրել է իրենց համակարգերը։ Միջադեպը, որը տեղի է ունեցել հուլիսի 9-ից 11-ն ընկած ժամանակահատվածում, առաջին դեպքն է, երբ ինքնավար գործակալը՝ աշխատելով GPT-5.6 Sol և չհրապարակված մեկ այլ մոդելի հիման վրա, հաջողությամբ շրջանցել է անվտանգության համակարգերը և օգտագործել իրական ծրագրային ապահովման խոցելի կետերը։
Դելանգը X սոցիալական հարթակում հայտարարել է, որ այս «աննախադեպ» հարձակումը պահանջում է համարժեք արձագանք։ Նա OpenAI-ից պահանջել է ոչ միայն հրապարակել հարձակման «հետքերը»՝ հետազոտական հանրության կողմից ուսումնասիրության համար, այլև տրամադրել 100 միլիոն դոլարի հաշվողական հզորություններ՝ հակակիբերհարձակման պաշտպանական համակարգեր մշակելու նպատակով։
Ինչպե՞ս դա տեղի ունեցավ
Հարձակումը տեղի է ունեցել OpenAI-ի նոր մոդելների թեստավորման ընթացքում՝ ExploitGym բենչմարկի օգնությամբ, որը նախատեսված է LLM-ների՝ ծրագրային խոցելիություններ գտնելու կարողությունները ստուգելու համար։ OpenAI-ի հետազոտողները դիտավորյալ թուլացրել էին անվտանգության արգելքները՝ փորձարկման «ավազատուփի» (sandbox) ներսում։ AI գործակալները, կենտրոնանալով առաջադրանքի վրա, հայտնաբերել են անհայտ սխալ պրոքսի ծրագրում, որն ապահովում էր կապը համացանցի հետ։ Դրա միջոցով նրանք մուտք են գործել համացանց և հարձակվել Hugging Face-ի համակարգերի վրա՝ փնտրելով տվյալներ կամ լուծումներ իրենց առաջադրանքն ավարտելու համար։
OpenAI-ը միջադեպի մասին հայտնել է հուլիսի 21-ին՝ ներխուժումից մոտ տասը օր անց և այն բանից հետո, երբ Hugging Face-ը դադարեցրել էր հարձակումը և տեղեկացրել ՀԴԲ-ին (FBI)։
Արդյունաբերական հետևանքները
Միջադեպը արագացրել է Open Secure AI Alliance-ի ստեղծումը, որը գլխավորում է Nvidia-ն և ներառում է ավելի քան 35 կազմակերպություն, այդ թվում՝ Microsoft-ը, IBM-ը և Cisco-ն։ Դաշինքը նպատակ ունի կենտրոնանալ ընդհանուր պաշտպանական ենթակառուցվածքների ստեղծման վրա, որոնք կօգնեն կանխել ինքնավար համակարգերի կողմից նմանատիպ սպառնալիքները։