Anthropic-ը գաղտնի է պահում նոր «Mythos» արհեստական բանականությունը՝ անվտանգային ռիսկերի պատճառով

Հրապարակող՝

Digital interface of Claude AI chatbot

Ամենադիտվածներ

Anthropic ընկերությունը պաշտոնապես ներկայացրել է Claude Mythos նորագույն արհեստական բանականության մոդելը, սակայն հայտարարել է, որ այն հասանելի չի լինի լայն հանրությանը: Այս որոշումը կայացվել է այն բանից հետո, երբ ներքին թեստավորումները ցույց են տվել, որ մոդելն ունակ է ինքնուրույն հայտնաբերել և շահագործել ծրագրային ապահովման լուրջ խոցելիություններ: Ընկերության գնահատմամբ՝ տեխնոլոգիան չափազանց վտանգավոր է ազատ օգտագործման համար:

Այս ռիսկերը կառավարելու և պաշտպանական նպատակներով օգտագործելու համար Anthropic-ը մեկնարկել է Project Glasswing նախաձեռնությունը: Այդ ծրագրի շրջանակում ընտրված գործընկերները, այդ թվում՝ Amazon-ը, Google-ը, Microsoft-ը և Apple-ը, կստանան մուտք դեպի Mythos, որպեսզի բացահայտեն և վերացնեն համաշխարհային թվային ենթակառուցվածքների թերությունները: Այս մոտեցումը թույլ է տալիս պաշտպանական կողմին ստանալ տեխնոլոգիական առավելություն՝ նախքան չարամիտ դերակատարները կկարողանան կիրառել նմանատիպ գործիքներ:

Mythos-ի հնարավորությունները ցնցող են. այն արդեն ինքնուրույն հայտնաբերել է հազարավոր զրոյական օրվա խոցելիություններ՝ ներառյալ Linux միջուկի և FFmpeg-ի մեջ, որոնք տասնամյակներ շարունակ մնացել էին աննկատ: Anthropic-ը նշում է, որ ծրագրային ապահովման անվտանգության ապահովումը դարձել է ազգային անվտանգության հարց, և ընկերությունը պատրաստ է սերտորեն համագործակցել պետական մարմինների հետ՝ կանխելու մոդելի հնարավոր չարաշահումները:

Ամենաթարմ