Anthropic-ն փորձարկում է «Claude Mythos» նոր ԱՀ մոդելը՝ կիբերանվտանգության ռիսկերով

Հրապարակող՝

Anthropic Tests

Ամենադիտվածներ

ՍԱՆ ՖՐԱՆՑԻՍԿՈ (Azat TV) – Արհեստական բանականության (ԱՀ) ոլորտի առաջատար Anthropic ընկերությունը փորձարկում է «Claude Mythos» նոր, ավելի հզոր մոդել, որը, ըստ մշակողների, զգալի կիբերանվտանգության ռիսկեր է պարունակում։ Սա տեղի է ունենում այն բանից հետո, երբ տվյալների մեծ արտահոսքի հետևանքով բացահայտվել են մոդելին վերաբերող ներքին փաստաթղթեր։

Anthropic-ը հաստատել է, որ «Claude Mythos»-ը գտնվում է վաղ փուլի փորձարկումների փուլում։ Այս նոր մոդելը, ըստ տեղեկությունների, ավելի առաջադեմ է, քան նախորդները, և նախատեսված է ԱՀ հնարավորությունների սահմանները ընդլայնելու համար։ Սակայն ընկերությունն ինքն էլ նշել է մոդելի հետ կապված հնարավոր կիբերանվտանգության խոցելիությունները՝ մատնանշելով, որ դրա առաջադեմ բնույթը կարող է նոր մարտահրավերներ ստեղծել տվյալների անվտանգության և էթիկական կիրառման համար։ Գրեթե 3000 ներքին փաստաթղթերի արտահոսքը, որոնք մանրամասնում էին մոդելի մանրամասները, ավելացրել է մտահոգությունները, թե ինչպես կարող են չարտոնված անձինք օգտագործել այս տեղեկատվությունը։

Ընկերության հաստատումից հետո պարզ է դառնում, որ «Claude Mythos»-ը ներկայացնում է «զգալի կիբերանվտանգության ռիսկեր»։ Թեև այս ռիսկերի մանրամասները լիովին չեն բացահայտվել, հենց ընկերության կողմից արված հայտարարությունը ընդգծում է առաջադեմ ԱՀ մշակման զգայուն բնույթը։ Առաջադեմ ԱՀ մոդելների՝ կիբերհարձակումների, տվյալների խախտումների կամ այլ չարամիտ գործողությունների համար օգտագործվելու պոտենցիալը մտահոգություն է առաջացնում կիբերանվտանգության համայնքում։ Anthropic-ի կողմից տեղեկատվության արտահոսքի հետ մեկտեղ կատարված նախնական բացահայտումը նպատակ ունի լուծելու այս մտահոգությունները, մինչդեռ մոդելը շարունակում է իր փորձարկումները։

Ամենաթարմ