Արհեստական բանականության առաջադեմ մոդելների արտակարգ կասեցում
Արհեստական բանականության ոլորտի առաջատար Anthropic ընկերությունը հունիսի 13-ին հայտարարեց իր ամենահզոր՝ Fable 5 և Mythos 5 մոդելների հասանելիության հարկադիր դադարեցման մասին: Որոշումը կայացվել է ԱՄՆ Առևտրի նախարարության կողմից արտահանման վերահսկողության հրամանի հիման վրա, որը սահմանափակում է օտարերկրյա քաղաքացիների մուտքը դեպի այս տեխնոլոգիաներ՝ վկայակոչելով ազգային անվտանգության սպառնալիքները:
Ընկերության հայտարարության համաձայն՝ հրամանը ստացվել է ուրբաթ օրը՝ ժամը 17:21-ին (Արևելյան ժամանակով): Ըստ Anthropic-ի՝ կառավարությունը մտավախություն ունի, որ առկա է մոդելների «jailbreak»-ի՝ անվտանգության արգելքները շրջանցելու մեթոդ, որը կարող է օգտագործվել ծրագրային ապահովման խոցելիություններ հայտնաբերելու համար: Չնայած կառավարությունը տրամադրել է միայն բանավոր ապացույցներ, Anthropic-ը պարտավորվել է անջատել համակարգերը՝ իրավական համապատասխանությունն ապահովելու համար:
Լարվածություն՝ AI անվտանգության և կարգավորման շուրջ
Այս իրադարձությունը նշանավորում է ԱՄՆ վարչակազմի և Anthropic-ի միջև առկա լարվածության նոր փուլ: Տարվա սկզբին ԱՄՆ կառավարությունը Anthropic-ին դասակարգել էր որպես «մատակարարման շղթայի ռիսկ»՝ ազգային անվտանգության հիմնավորմամբ: Ընկերությունը ներկայումս դատական հայց է ներկայացրել Պենտագոնի դեմ՝ այդ որոշման պատճառով, որը հաջորդել էր ընկերության հրաժարմանը՝ իր մոդելները տրամադրել ներքին հսկողության և ինքնավար զենքերի համար:
Պենտագոնի գլխավոր տեղեկատվական պատասխանատու Քիրսթեն Դևիսը սոցիալական ցանցերում հաստատել է կառավարության դիրքորոշումը՝ նշելով. «Որոշ բաներ պարզապես ավելի կարևոր են, քան եկամուտների ցիկլերը, քլիքբեյթը և IPO-ի գնահատումը: Ամերիկան առաջին տեղում է: Միշտ»:
Վերլուծություն. Կարգավորող ռազմավարության փոփոխություն
Այս հրամանը վկայում է ԱՄՆ ռազմավարության փոփոխության մասին: Նախկինում արտահանման վերահսկողությունը կենտրոնացած էր ֆիզիկական ենթակառուցվածքների՝ չիպերի և սարքավորումների վրա: Այժմ, սահմանափակելով մուտքը դեպի ծրագրային մոդելներ, կառավարությունը ազդարարում է, որ մոդելների մտավոր կարողությունները դիտարկվում են որպես ռազմավարական ակտիվ: Քննադատները նշում են, որ նման մոտեցումը կարող է խոչընդոտել նորարարությանը և միջազգային համագործակցությանը, հատկապես, երբ Anthropic-ը պնդում է, որ հայտնաբերված խոցելիությունները «համեմատաբար պարզ» են և առկա են նաև այլ ընկերությունների մոդելներում: