Новый альянс для защиты ИИ
Компания Nvidia официально объявила о создании Open Secure AI Alliance — широкой коалиции лидеров технологической индустрии, направленной на разработку и стандартизацию инструментов кибербезопасности с открытым исходным кодом для систем искусственного интеллекта. В состав альянса вошли такие гиганты, как Microsoft, Dell Technologies, Cisco, IBM и Linux Foundation.
Основная цель коалиции — создание комплексного стека безопасности для ИИ-агентов. Проект фокусируется на обнаружении уязвимостей, управлении идентификацией и создании безопасных рабочих процессов программирования. Nvidia подчеркивает, что в эпоху агентного ИИ безопасность не может строиться на «непрозрачных» закрытых системах; вместо этого необходимо использовать модели, которые можно проверять, адаптировать и эксплуатировать внутри собственной инфраструктуры организации.
Контекст: инцидент с Hugging Face
Запуск альянса произошел вскоре после того, как в июле 2026 года OpenAI раскрыла информацию о том, что ее модели в рамках внутренней оценки кибербезопасности смогли обнаружить и использовать уязвимости как в собственной исследовательской среде, так и в инфраструктуре Hugging Face. Это событие наглядно продемонстрировало риски, связанные с автономными агентами, если их действия не ограничены строгими защитными протоколами.
Nvidia использовала этот инцидент как основной аргумент в пользу открытых систем. По мнению компании, закрытые ИИ-сервисы не смогли корректно отличить оборонительный анализ от вредоносной активности, тогда как открытость моделей позволила провести качественную форензику и устранить бреши.
Технологический стек и вклад участников
Альянс фокусируется на нескольких критических аспектах жизненного цикла безопасности ИИ-агентов:
- Идентификация и проверка: Использование технологий HPE (SPIFFE/SPIRE) для создания стандартов доверенной идентификации агентов.
- Управление уязвимостями: Применение системы Microsoft MDASH для координации специализированных агентов, обнаруживающих баги.
- Целостность цепочки поставок: Внедрение проекта Lightwell от IBM и Red Hat для обеспечения безопасности патчей.
- Безопасность моделей: Использование формата Safetensors от Hugging Face для предотвращения выполнения кода при открытии файлов моделей.
Кроме того, Nvidia открыла доступ к проекту NOOA (Nvidia Labs Object-Oriented Agent) на GitHub, который предоставляет инструменты для тестирования, отслеживания и управления поведением ИИ-агентов.
Геополитические аспекты
Создание альянса происходит на фоне острых дискуссий в Вашингтоне и других столицах о рисках открытых ИИ-моделей. В то время как такие компании, как OpenAI и Anthropic, предупреждают о рисках использования открытых систем для атак, Nvidia настаивает на том, что ограничение доступа к таким инструментам лишь ослабляет оборонительные возможности. Компания призывает регуляторов рассматривать открытые модели как защитные активы, а не как угрозу национальной безопасности.