Արհեստական բանականության առաջատար մշակողները հետ են մնում անվտանգության կոնկրետ արձանագրություններից, անկախ վերահսկողությունից և երկարաժամկետ ռիսկերի կառավարումից, ինչպես նշված է Future of Life Institute (FLI) ոչ առևտրային կազմակերպության կողմից հրապարակված 2025 թվականի ձմեռային AI Safety Index զեկույցում: Հետազոտությունը գնահատում է արհեստական բանականության ութ առաջատար ընկերությունների գործունեությունը 35 անվտանգության ցուցանիշների և վեց ոլորտների հիման վրա, այդ թվում՝ ռիսկերի գնահատման պրակտիկաները, տեղեկատվության փոխանակման արձանագրությունները, ազդարարման պաշտպանությունը և անկախ հետազոտությունների աջակցությունը:
2025 թվականի ձմեռային AI Safety Index-ի գնահատականը
Future of Life Institute-ի անվտանգության հետազոտող Սաբինա Նոնգը հայտարարել է, որ վերլուծությունը բացահայտում է հստակ բաժանում կազմակերպությունների մոտեցումների միջև: Գնահատման արդյունքում առանձնացվել են երկու խմբեր. առաջին խումբը գլխավորում են Anthropic-ը, OpenAI-ը և Google DeepMind-ը, իսկ երկրորդ խմբում ներառված են հինգ այլ ընկերություններ: Anthropic-ը ստացել է C+ գնահատական, մինչդեռ ցածր խմբի օպերատորները ստացել են D և F մակարդակներ:
Ունեցած խմբերի բաժանումը և ընկերությունների գնահատականները
Գնահատված կազմակերպությունների երկրորդ խումբը ներառում է xAI-ը և Meta-ն, ինչպես նաև չինական Z.ai, DeepSeek և Alibaba Cloud ընկերությունները: Չնայած չինական մոդելները լայն տարածում են գտել Սիլիկոնային հովտում, DeepSeek-ը զբաղեցրել է նախավերջին տեղը ընդհանուր անվտանգության ցուցանիշով: Զեկույցի համաձայն՝ DeepSeek-ը չի հրապարակում անվտանգության վրա հիմնված գնահատման շրջանակներ և չի հայտարարում ազդարարման քաղաքականության մասին:
FLI-ի նախագահ Մաքս Տեգմարկը նշել է, որ երկրորդ խմբի ընկերությունները կենտրոնացել են տեխնիկական սահմաններին հասնելու վրա, սակայն ձախողել են անվտանգության ստանդարտների հաստատումը: Տեգմարկի խոսքով՝ ցածր գնահատականների առատությունը պայմանավորված է արհեստական բանականության ոլորտում համապարփակ օրենսդրության բացակայությամբ:
Մեթոդաբանություն և ինստիտուցիոնալ արձագանք
Զեկույցը գնահատվել է ութ անկախ փորձագետների՝ ներառյալ Մասաչուսետսի տեխնոլոգիական ինստիտուտի պրոֆեսոր Դիլան Հեդֆիլդ-Մենելի և Չինաստանի գիտությունների ակադեմիայի պրոֆեսոր Յի Զենգի կողմից: Զեկույցը խորհուրդ է տալիս մշակողներին մեծացնել ներքին թափանցիկությունը, ներգրավել անկախ գնահատողներ և կրճատել լոբբիստական ջանքերը:
OpenAI-ի ներկայացուցիչը հայտարարել է, որ անվտանգությունը հանդիսանում է իրենց զարգացման հիմքը, մինչդեռ Google-ի ներկայացուցիչը ընդգծել է իրենց Frontier Safety Framework-ի առկայությունը, որը նախատեսված է խիստ ռիսկերի վաղաժամկետ հայտնաբերման և մեղմման համար: