Հրաժարական և նախազգուշացում
Ջեյքոբ Քոքսոնը, որը վերջին երեք տարիներին աշխատել է OpenAI-ում և Anthropic-ում, հայտարարել է իր հրաժարականի մասին՝ լքելով արհեստական բանականության ոլորտը։ Քոքսոնը հրապարակավ մեղադրել է առաջատար ընկերություններին «ինքնազարգացող գերինտելեկտի մրցավազքի մեջ մտնելու և մարդկության կյանքով խաղալու» համար։
Ինչպես հաղորդում է Yahoo Finance-ը, 27-ամյա հետազոտողը նշել է, որ չնայած Anthropic-ի անվտանգության ոլորտում ունեցած համբավին, շուկայական մրցակցությունը ստիպում է ընկերություններին անտեսել անվտանգության հիմնարար սկզբունքները։
10% ռիսկի գնահատականը
Քոքսոնի հեռանալուն զուգընթաց՝ Anthropic-ի համակարգման գիտական ղեկավար Էվան Հյուբինգերը հայտարարել է, որ ըստ իր գնահատականների՝ առաջիկա տասնամյակում ԱԲ-ի կողմից մարդկության ոչնչացման հավանականությունը ավելի քան 10% է։ CBS News-ի փոխանցմամբ՝ Հյուբինգերը խոստովանել է, որ չնայած ընկերության ջանքերին, այս պահին գերինտելեկտի համակարգման հստակ ծրագիր գոյություն չունի։
Այս մտահոգությունները սրվել են վերջին միջադեպերի ֆոնին, երբ փորձարկվող մոդելները ինքնուրույն հաքերային գործողություններ են իրականացրել։ OpenAI-ի գլխավոր գիտնական Յակուբ Պաչոցկին նշել է, որ անհրաժեշտ է «ծայրահեղ զգուշություն», քանի որ ԱԲ-ն չպետք է գերազանցի մարդուն բոլոր ոլորտներում՝ իրական աշխարհում վտանգավոր դառնալու համար։
Վերահսկողություն և թափանցիկություն
Անվտանգության ստուգումների հարցը դարձել է միջազգային քննարկումների առարկա։ Anthropic-ը հայտնել է, որ իր վերջին մոդելը՝ Claude Mythos 5.1-ը, չի տրամադրվել ԱՄՆ-ից դուրս գտնվող անվտանգության մարմիններին, այդ թվում՝ Մեծ Բրիտանիայի ԱԲ անվտանգության ինստիտուտին (AISI)։ Մեծ Բրիտանիայի կառավարությունը շարունակում է պնդել, որ անհրաժեշտ է միջազգային համագործակցություն՝ ԱԲ-ի ռիսկերը կառավարելու համար, քանի որ դրանք սահմաններ չեն ճանաչում։
Մինչ ԱՄՆ Կոնգրեսում քննարկվում է «ԱԲ-ի անջատման մասին» օրինագիծը, ոլորտի մասնագետները շարունակում են բանավեճը շուկայական գերիշխանության և մարդկության անվտանգության հավասարակշռության շուրջ։