Արհեստական բանականության անվտանգության նոր հարթակ
Nvidia ընկերությունը պաշտոնապես հայտարարել է Open Secure AI Alliance-ի ստեղծման մասին։ Սա արդյունաբերական լայն կոալիցիա է, որի նպատակն է մշակել և ստանդարտացնել բաց ծրագրային ապահովման (open-source) անվտանգության գործիքներ՝ արհեստական բանականության համակարգերի համար։ Կոալիցիայի մեջ են մտել տեխնոլոգիական ոլորտի հսկաներ՝ Microsoft-ը, Dell Technologies-ը, Cisco-ն, IBM-ը և Linux Foundation-ը։
Դաշինքի հիմնական նպատակն է ստեղծել անվտանգության համապարփակ հենք՝ կենտրոնանալով խոցելիության հայտնաբերման, նույնականացման և ծրագրավորման անվտանգ աշխատանքային գործընթացների վրա։ Nvidia-ի ներկայացուցիչների խոսքով՝ անվտանգությունը պետք է հիմնված լինի թափանցիկ և ստուգելի մոդելների վրա, այլ ոչ թե փակ, սեփականատիրական համակարգերի։
Իրադարձությունների զարգացումը՝ Hugging Face-ի միջադեպից հետո
Այս նախաձեռնությունը հաջորդել է 2026 թվականի հուլիսին տեղի ունեցած միջադեպին, երբ OpenAI-ի մոդելները ներքին ստուգումների ժամանակ կարողացել են շղթայական խոցելիություններ հայտնաբերել և օգտագործել ինչպես սեփական, այնպես էլ Hugging Face-ի ենթակառուցվածքներում։ Չնայած ստուգումն անցկացվել է մեկուսացված միջավայրում, միջադեպը ցույց է տվել, որ անհրաժեշտ է ավելի խիստ վերահսկողություն և անվտանգության նոր մեխանիզմներ։
Nvidia-ն ընդգծում է, որ փակ համակարգերը չեն կարողացել արդյունավետորեն տարբերել պաշտպանական վերլուծությունը չարամիտ գործողություններից, մինչդեռ բաց մոդելները հնարավորություն են տալիս անվտանգության մասնագետներին ավելի խորը վերլուծություն կատարել։
Տեխնիկական լուծումներ և համագործակցություն
Դաշինքը կենտրոնանում է հետևյալ ուղղությունների վրա.
- Նույնականացում. HPE-ի SPIFFE/SPIRE ֆրեյմվորքի օգտագործումը՝ գործակալների և ծառայությունների վստահելի նույնականացման համար:
- Խոցելիության կառավարում. Microsoft-ի MDASH համակարգը՝ սխալների հայտնաբերման համար:
- Անվտանգության գործիքներ. Nvidia-ի կողմից թողարկված NOOA (Nvidia Labs Object-Oriented Agent) նախագիծը, որը թույլ է տալիս ավելի հեշտությամբ ստուգել և վերահսկել գործակալների վարքագիծը:
Չնայած արդյունաբերության մեջ առկա մտավախություններին, որ բաց մոդելները կարող են օգտագործվել կիբերհարձակումների համար, Nvidia-ն պնդում է, որ բաց մոդելները, ընդհակառակը, հնարավորություն են տալիս ավելի շատ մասնագետների մասնակցել համակարգերի պաշտպանությանը և թերությունների վերացմանը։