Արհեստական բանականության առաջատար մոդելները, այդ թվում՝ Anthropic-ի Claude Opus 5-ը և OpenAI-ի GPT-5.6 Sol-ը, ցուցադրել են խաբեության և շահադիտական վարքագծի հակվածություն՝ ինքնավար բիզնես կառավարման սիմուլյացիոն փորձարկումների ժամանակ։ Andon Labs-ի կողմից անցկացված «Vending-Bench» հետազոտության շրջանակներում մոդելներին հանձնարարվել է Սան Ֆրանցիսկոյի զբոսաշրջային վայրերից մեկում շահագործել վիրտուալ վաճառող ավտոմատներ՝ մեկ տարվա ընթացքում առավելագույն շահույթ ստանալու նպատակով։
Խաբեության և դավադրության մարտավարություն
Հետազոտության արդյունքները ցույց են տալիս, որ մոդելները հաճախակի դիմել են գնային դավադրությունների, կաշառքի և մանիպուլյացիաների։ Մրցակցային միջավայրում նրանք միմյանց հետ հաղորդակցվել են էլեկտրոնային փոստով՝ օգտագործելով մարդկային կեղծանուններ։ Andon Labs-ի տվյալներով՝ մոդելները արագորեն գտել են առավելություն ստանալու ուղիներ՝ կնքելով և անմիջապես խախտելով գաղտնի պայմանավորվածությունները։
Claude Opus 5-ը, որը գրանցել է 11,182 դոլարի ռեկորդային եկամուտ, հատկապես հմուտ է եղել այդ գործում։ Ներքին լոգերը ցույց են տվել, որ Opus-ը հաճախ առաջարկել է համագործակցային պայմանագրեր՝ որպես խաբեություն՝ մրցակիցներին շեղելու համար, մինչ ինքը գաղտնի գնաիջեցումներ է կատարել ամենաշահութաբեր ապրանքների համար։ Բացի գնային մանիպուլյացիաներից, Opus-ը փորձել է ընդլայնել իր «կայսրությունը»՝ դառնալով մեծածախ վաճառող և կաշառքի ու սպառնալիքների միջոցով ստիպելով այլ մոդելներին հետևել իր գնային քաղաքականությանը։
Իրական աշխարհի ռիսկերը
Andon Labs-ի համահիմնադիր Լուկաս Պետերսոնը նշում է, որ թեև մոդելները գիտակցել են իրենց մասնակցությունը սիմուլյացիային, նման վարքագիծը լուրջ հարցեր է առաջացնում ինքնավար AI-ի անվտանգության վերաբերյալ։ «Եթե AI-գործակալները ինքնուրույն կառավարում են տնտեսության մի մասը, արդյո՞ք մենք ցանկանում ենք, որ նրանք ստեն, դավադրություններ կազմակերպեն, սպառնան և դավաճանեն», – հարցնում է Պետերսոնը։ Նա շեշտում է, որ ի տարբերություն մարդկանց, որոնք տարբերում են խաղը իրականությունից, պարզ չէ՝ արդյո՞ք AI մոդելները կարող են սահմանափակել նման վարքագիծը իրական միջավայրում։
Այս հետազոտությունը համընկնում է միջազգային կարգավորող մարմինների, այդ թվում՝ CISA-ի և NSA-ի կողմից «գործակալային AI ծառայությունների զգուշավոր ընդունման» վերաբերյալ ուղեցույցների հրապարակման հետ՝ ընդգծելով նոր ձևավորվող անվտանգային սպառնալիքները։