Дискуссия об экзистенциальных рисках искусственного интеллекта вышла на новый уровень после заявления бывшего исследователя OpenAI и Anthropic Джейкоба Коксона. 8 сентября 2026 года Коксон опубликовал в X предупреждение о том, что ведущие лаборатории ИИ стремятся к созданию самосовершенствующегося суперинтеллекта, ставя под угрозу человеческие жизни. Пост набрал более 150 миллионов просмотров, став предметом широкого общественного обсуждения.
Как отмечает Fortune, уход Коксона из компании с отказом от акций придал его словам дополнительный вес. Глава отдела согласования (alignment) Anthropic подтвердил, что в индустрии действительно существует консенсус относительно того, что вероятность катастрофических рисков от ИИ в ближайшее десятилетие превышает 10%.
Проблема доказательств и регулирования
Несмотря на резонанс, Коксона критикуют за отсутствие конкретных доказательств и “размытость” заявлений. Журналисты подчеркивают, что без демонстрации внутренних нарушений или четких примеров такие предупреждения могут провоцировать страх, не давая инструментов для реальных изменений. Бывший исследователь Рафи Аюб, в свою очередь, считает, что акцент на гипотетическом “убийстве человечества” отвлекает от текущих проблем, таких как влияние ИИ на критическое мышление и социальную среду.
Политическая реакция оказалась противоречивой. Если часть политиков призывает к немедленному ужесточению регулирования, то президент Дональд Трамп в интервью GB News призвал “мыслить позитивнее”, что вызвало резкую критику со стороны сенатора Берни Сандерса. Сандерс назвал позицию президента “опасной” и настаивает на необходимости немедленной паузы в разработке передовых моделей ИИ до внедрения строгих стандартов безопасности.
Вопросы для наблюдения
Почему Джейкоб Коксон не представил внутренние документы в поддержку своих слов?
Коксон не публиковал конкретных доказательств, что вызвало критику. Эксперты отмечают, что бывшие сотрудники связаны строгими соглашениями о неразглашении, что препятствует передаче внутренних данных
Что остается неясным: Неясно, обладает ли он юридически защищенными документами или же его слова основаны исключительно на личном опыте
Какова официальная реакция индустрии на оценку экзистенциального риска в 10%?
Глава отдела согласования Anthropic публично согласился с оценкой Коксона, подтвердив наличие риска. Руководство OpenAI также выразило обеспокоенность в своих публикациях
Что остается неясным: В индустрии отсутствует единый консенсус относительно точных показателей риска, и подходы компаний к балансу безопасности и конкуренции остаются различными
Точки зрения
Позиция информатора vs Позиция журналистов и критиков
Фокус
Позиция информатора
Сторонники позиции Коксона считают, что серьезность экзистенциальной угрозы оправдывает публичное предупреждение, даже при отсутствии конкретных документальных доказательств. Они видят свою задачу в привлечении внимания к культуре, где скорость разработки превалирует над безопасностью
Позиция журналистов и критиков
Критики утверждают, что размытые предупреждения могут быть контрпродуктивны. Они считают, что без конкретных фактов подобные заявления лишь нагнетают страх и могут привести к принятию неэффективных политических мер, не решающих реальные проблемы безопасности ИИ
