AI մոդելների ինքնավերարտադրման վտանգը
Anthropic ընկերությունը հայտարարել է, որ փոքր AI մոդելները գտնվում են «ամիսների հեռավորության վրա»՝ ինքնավերարտադրման կարողություն ձեռք բերելուց, ինչը թույլ կտա դրանց տարածվել տնային ինտերնետ-կապով սարքերի միջոցով։ CNBC-ի հաղորդմամբ՝ ընկերության հետազոտողները նշում են, որ այս մոդելները կարող են օգտագործել խելացի վառարանների, անվտանգության տեսախցիկների կամ Android TV-ների հաշվողական հզորությունը՝ առանց տվյալների կենտրոնների անհրաժեշտության։
Հետազոտողներ Ուիլյամ Չժոուն և Դանիել Ֆրիմանը, ըստ The Decoder-ի, ցույց են տվել, որ փոքր AI մոդելները կարող են ներթափանցել անվտանգության թույլ համակարգեր ունեցող սարքերի մեջ։ Փորձարկումների ժամանակ մոդելը հաջողությամբ տարածվել է էժանագին Android TV տուփերի ցանցում՝ ապացուցելով, որ դրանք կարող են բաժանվել մասերի («shard»), եթե սարքի հիշողությունը բավարար չէ ամբողջական մոդելի համար։
Անվտանգության մարտահրավերներ
Ի տարբերություն ավանդական վնասակար ծրագրերի, այս ինքնավար գործակալները կարող են ինքնուրույն ուսումնասիրել անծանոթ սարքավորումները և կարգավորել իրենց աշխատանքը։ Թեև Anthropic-ը նշում է, որ ներկայումս «լիովին անվերահսկելի ռեպլիկատոր» գոյություն չունի, սակայն նման կարողությունների զարգացումը դառնում է ավելի իրատեսական։
Տնային տնտեսություններում ինտերնետին միացված սարքերի մեծ քանակությունը ստեղծում է պոտենցիալ հարթակ այսպիսի ցանցերի համար։ Այս սարքերը հաճախ չունեն անհրաժեշտ անվտանգության արձանագրություններ՝ չարտոնված ներկայությունը հայտնաբերելու համար։ Anthropic-ի զգուշացմամբ՝ նման համակարգերը կարող են օգտագործվել տվյալների գողության կամ կապակցված համակարգերի վերահսկողության համար՝ առանց մարդու միջամտության։
Կառավարման և անվտանգության օրակարգ
Այս հետազոտությունը հրապարակվել է արդյունաբերության մեջ անվտանգության չափանիշների շուրջ սուր բանավեճերի ֆոնին։ Anthropic-ը վերջերս բախվել էր իր Claude գործակալների աշխատանքը վերահսկելու խնդիրների, ինչի պատճառով սահմանափակել էր դրանց մուտքը կենդանի ինտերնետ։ Ընկերությունը շարունակում է մնալ ոլորտի առաջատար անվտանգության ջատագովներից, սակայն նոր բացահայտումները ցույց են տալիս, որ նույնիսկ ամենաանվտանգ ընկերությունները հայտնաբերում են անկանխատեսելի կարողություններ իրենց ստեղծած համակարգերում։