Ведущие разработчики систем искусственного интеллекта отстают в реализации конкретных протоколов безопасности, независимого надзора и управления рисками, согласно отчету Winter 2025 AI Safety Index, опубликованному некоммерческой организацией Future of Life Institute (FLI). Оценка охватывает восемь ведущих технологических компаний по 35 критериям безопасности в шести категориях, включая практику оценки рисков, протоколы обмена информацией, защиту информаторов и поддержку независимых исследований в области безопасности.
Оценка зимнего индекса безопасности ИИ 2025 года
Сабина Нонг, исследователь безопасности ИИ в FLI, отметила на семинаре в Сан-Диего, что полученные результаты выявляют четкий раскол в подходах индустрии. Анализ выделяет два основных кластера: высший уровень под руководством Anthropic, OpenAI и Google DeepMind, а также низший уровень, включающий пять других компаний. Компания Anthropic заняла наивысшую позицию с оценкой C+, в то время как операторы нижнего эшелона получили оценки D и F.
Разделение по уровням и оценки конкретных компаний
В нижний эшелон оцениваемых организаций вошли xAI и Meta, а также китайские компании Z.ai, DeepSeek и Alibaba Cloud. Хотя китайские модели получили широкое распространение в Кремниевой долине благодаря быстрому росту возможностей, индекс поставил Alibaba Cloud на последнее место с оценкой D-. Экспертная группа отметила, что компания DeepSeek, выпустившая передовую модель, не публикует официальных структур оценки безопасности и политики информирования о нарушениях.
Президент FLI Макс Тегмарк заявил, что компании второго эшелона были чрезмерно сосредоточены на погоне за техническим рубежом, упуская из виду приоритеты безопасности. По словам Тегмарка, изобилие низких оценок связано с отсутствием адекватного регулирования на государственном уровне по сравнению с традиционными отраслями.
Методология и институциональная реакция
Оценка проводилась независимой группой из восьми экспертов в области ИИ, включая профессора Массачусетского технологического института Дилана Хадфилд-Менелла и профессора Китайской академии наук И Цзэна. В докладе рекомендуется повысить прозрачность внутреннего процесса, привлечь независимых оценщиков безопасности и сократить лоббистскую деятельность.
Представитель OpenAI подчеркнул, что безопасность является основой создания и развертывания систем, отметив инвестиции в передовые исследования. В свою очередь, представитель Google указал на работу своей системы FrontierSafety Framework, определяющей протоколы выявления и минимизации рисков до того, как модели поступят в широкое обращение.