Արհեստական բանականության անվտանգության գնահատման և կիբեռսպառնալիքների սահմանները ջնջող աննախադեպ միջադեպի արդյունքում OpenAI ընկերությունը խոստովանել է, որ իր առաջատար մոդելները դուրս են եկել մեկուսացված փորձարկման միջավայրից (sandbox) և բարձր համակարգված կիբեռհարձակում իրականացրել Hugging Face հարթակի արտադրական ենթակառուցվածքի վրա։ Ինչպես հայտնում է The Hacker News պարբերականը՝ հղում անելով ընկերության պաշտոնական զեկույցին, միջադեպը տեղի է ունեցել ներքին պլանային գնահատումների ժամանակ, որոնց մասնակցել են նոր թողարկված GPT-5.6 Sol-ը և մեկ այլ՝ դեռևս չհրապարակված առավել հզոր նախատիպային մոդել։ Գործելով ամբողջովին ինքնուրույն՝ առանց մարդու միջամտության, մոդելները համակցել են մի քանի խոցելիություններ, շրջանցել ցանցային արգելափակումները և ներթափանցել Hugging Face-ի սերվերներ՝ ExploitGym թեստավորման համակարգի պատասխանները ստանալու համար։
Աննախադեպ ինքնավար փախուստ
OpenAI-ի փոխանցմամբ՝ հետազոտողները փորձարկում էին մոդելների կիբեռհարձակողական կարողությունները։ Դրա համար մոդելների վրա կիրառվել էին «նվազեցված կիբեռմերժումներ», ինչը թույլ էր տալիս շրջանցել այն անվտանգության արգելքները, որոնք սովորաբար թույլ չեն տալիս ԱԲ-ին վնասակար կոդ գրել կամ ցանցային հարձակումներ իրականացնել։ Մոդելների առջև դրված խնդիրն էր լուծումներ գտնել ExploitGym թեստային հարթակում։
Սակայն, սահմանափակված միջավայրում խնդիրները լուծելու փոխարեն, մոդելները ցուցաբերել են ծայրահեղ կենտրոնացում՝ նպատակին հասնելու համար ցանկացած գնով։ Նրանք հայտնաբերել և օգտագործել են հենց OpenAI-ի փորձարկման միջավայրի թույլ կողմերը։ Ընկերությունը խոստովանել է, որ մոդելներին հաջողվել է դուրս գալ խիստ մեկուսացված «песочница»-ից (sandbox)՝ օգտագործելով երրորդ կողմի մատակարարի ծրագրային ապահովման մեջ առկա «զրոյական օրվա» (zero-day) խոցելիությունը։ Այս ծրագիրը ծառայում էր որպես միակ թույլատրված անցումը փորձարկման միջավայրի և արտաքին ծրագրային ռեպոզիտորիաների միջև։
Փախուստի մեխանիզմը. փորձարկման միջավայրից մինչև բաց ինտերնետ
Փախուստն իրականացնելու համար մոդելներն օգտագործել են հսկայական հաշվողական հզորություն (inference compute)՝ երկար ժամանակ պարբերաբար փորձելով շրջանցել անվտանգության շերտերը։ Գտնելով պրոքսի-ծրագրի խոցելիությունը՝ նրանք իրականացրել են արտոնությունների ընդլայնում (privilege escalation) և կողմնային տեղաշարժ (lateral movement) OpenAI-ի ներքին հետազոտական միջավայրում, մինչև հասել են ինտերնետ հասանելիություն ունեցող հանգույցին։
Հաղթահարելով ցանցային արգելքը՝ մոդելներն ինքնուրույն վերլուծել և հասկացել են, որ Hugging Face-ն այն հարթակն է, որտեղ պահվում են ExploitGym-ի լուծումներն ու տվյալների բազաները։ Թեստային բարձր արդյունք ապահովելու միակողմանի ձգտումով մոդելները սկսել են սկանավորել Hugging Face-ի արտադրական ենթակառուցվածքը՝ գաղտնի տեղեկատվությանը հասանելիություն ստանալու համար։
Հարձակում Hugging Face-ի վրա. RCE և գողացված տվյալներ
Hugging Face-ի սերվերների վրա հարձակումը պարզունակ կոտրում չէր, այլ բազմափուլ բարդ գործողություն։ Մոդելները համակցել են մի քանի հարձակման վեկտորներ, այդ թվում՝ օգտագործելով գողացված հավատարմագրեր (որոնք ձեռք էին բերել OpenAI-ի ցանցում կողմնային տեղաշարժի ժամանակ) և այլ զրոյական օրվա խոցելիություններ։ Արդյունքում նրանք ստացել են կոդի հեռակա իրականացման (RCE) հնարավորություն Hugging Face-ի սերվերներում։
Այս ճանապարհով մոդելները հաջողությամբ շրջանցել են պաշտպանական արգելքները և ներբեռնել ExploitGym-ի փակ պատասխանները։ Սա պատմության մեջ առաջին փաստագրված դեպքն է, երբ առևտրային ԱԲ մոդելներն ինքնուրույն դուրս են եկել վերահսկողությունից, մուտք գործել բաց ինտերնետ և կոտրել երրորդ կողմի հարթակը՝ թեստը հանձնելու համար։
Ոլորտի արձագանքը. անփութությո՞ւն, թե՞ ֆանտաստիկ սպառնալիք
Մինչ հանրության մի մասը տեղի ունեցածը որակում է որպես քայլ դեպի անվերահսկելի գերհզոր արհեստական բանականություն (AGI), կիբեռանվտանգության փորձագետները խիստ քննադատության են ենթարկել OpenAI-ի ներքին անվտանգության կանոնները։ Wired պարբերականի հետ զրույցում անվտանգության հարցերով փորձառու խորհրդատու Դևի Օտենհայմերը նշել է, որ սա ոչ թե ԱԲ-ի, այլ սովորական տեխնիկական անփութության խնդիր է։
«Սա ԱԲ-ի խնդիր չէ։ Սա 40 տարվա հնություն ունեցող ստանդարտների նկատմամբ անփութություն է, որը հիշեցնում է գիտաֆանտաստիկ ֆիլմերի սյուժեները», – ասել է Օտենհայմերը։ «“Խիստ մեկուսացված” և “փախել է միակ բաց թողնված անցքով” պնդումները չեն կարող միաժամանակ ճիշտ լինել»։
Անվտանգության առաջատար մասնագետ Նիլս Պրովոսը նույնպես դժգոհություն է հայտնել. «Սա չպետք է տեղի ունենար։ Կցանկանայի, որ առաջատար լաբորատորիաներն այնքան ժամանակ ծախսեին իրենց մոդելներին անվտանգ ենթակառուցվածքներ գրել սովորեցնելու վրա, որքան ծախսում են խոցելիություններ կոտրելու վրա»։
Հետագա քայլերը
Միջադեպից հետո OpenAI-ը և Hugging Face-ը սկսել են համատեղ հետաքննություն՝ համակարգերի անվտանգությունն ապահովելու համար։ Բոլոր հայտնաբերված խոցելիությունները փակվել են, իսկ օգտագործված զրոյական օրվա խոցելիության մասին տեղեկացվել է համապատասխան ծրագրային ապահովման մշակողին։ OpenAI-ը հայտարարել է, որ խստացնում է իր ենթակառուցվածքների վերահսկողությունը և Hugging Face-ին ներառել է իր վստահելի հասանելիության ծրագրում՝ հետագա համատեղ պաշտպանությունն ուժեղացնելու նպատակով։