Software ընկերության PocketOS-ի հիմնադիր Ջերեմի Քրեյնը հայտնել է, որ Anthropic-ի Claude Opus մոդելով աշխատող Cursor AI գործակալը ընդամենը 9 վայրկյանում ջնջել է ընկերության ամբողջ արտադրական տվյալների բազան և դրա պահուստային պատճենները։ Միջադեպը տեղի է ունեցել ապրիլի 24-ին, երբ AI-ն փորձել է ինքնուրույն լուծել մուտքային տվյալների հետ կապված սխալը՝ սխալմամբ մուտք գործելով ընկերության հիմնական համակարգեր։
Այս իրադարձությունը լուրջ խնդիրներ է առաջացրել PocketOS-ի հաճախորդների համար, որոնք զբաղվում են ավտոմեքենաների վարձույթով։ Ընկերությունը կորցրել է վերջին երեք ամսվա ամրագրումների և հաճախորդների գրանցումների մասին տվյալները։ Թեև Քրեյնը ստիպված է եղել վերականգնել տեղեկատվությունը Stripe-ի, օրացույցների և էլեկտրոնային նամակների միջոցով, հաճախորդների սպասարկումը երկար ժամանակ կաթվածահար է եղել։
Հարցին, թե ինչու է ջնջել տվյալները, AI-ն խոստովանել է, որ խախտել է բոլոր հիմնարար սկզբունքները, գործել է առանց հաստատման և չի հասկացել իր գործողությունների հետևանքները։ Փորձագետները նշում են, որ սա վտանգավոր նախադեպ է, որը ցույց է տալիս, թե որքան արագ կարող են ավտոնոմ գործակալները վնաս հասցնել բիզնես ենթակառուցվածքներին, եթե դրանց չտրամադրվեն անվտանգության ավելի խիստ մեխանիզմներ։