Anthropic ընկերությունը, որը մշակում է Claude AI համակարգը, ներկայումս զբաղվում է անվտանգության լուրջ խնդրով: npm գրանցամատյանի միջոցով պատահաբար հրապարակվել է Claude Code-ի 512,000 տող ծածկագիր, ինչը հարուցել է ծրագրավորողների մտահոգությունը։ Այս միջադեպը տեղի է ունեցել ընկերության կողմից իր նոր «կառավարվող գործակալների» (Managed Agents) համակարգի գործարկման ֆոնին, որը նախատեսված է ծրագրային ապահովման մշակումն արագացնելու համար:
Ծածկագրի արտահոսքը, որը պայմանավորված է եղել տեղակայման գործընթացի սխալ կարգավորումներով, ցույց է տալիս AI-ի վրա հիմնված գործիքների հետ կապված ռիսկերը: Ծրագրավորողներն այժմ ուշադիր ուսումնասիրում են Claude Code-ի անվտանգության ճարտարապետությունը, հատկապես թոքենների կառավարման և միջավայրի մեկուսացման մեխանիզմները: Ի պատասխան ծախսերի աճի՝ Anthropic-ը ներկայացրել է գործակալների կառավարման նոր ռազմավարություններ, որոնք օգտատերերին թույլ են տալիս /clear և /context հրամանների միջոցով վերահսկել հիշողության սպառումը և կանխել ավելորդ հաշվարկային ծախսերը:
Այս իրավիճակը ընդգծում է արհեստական բանականության ոլորտում առկա լարվածությունը. որքան ավելի ինքնավար են դառնում AI գործակալները, այնքան ավելի խոցելի են դառնում ծրագրային ապահովման անվտանգության ավանդական սահմանները, ինչպիսիք են մասնավոր պահոցները և թույլտվությունների համակարգերը: