OpenAI приостановила разработку модели Astra из-за критических рисков в сфере кибербезопасности

Популярные

A hand holding a smartphone displaying the OpenAI logo on a digital screen

Быстрое чтение

  • OpenAI приостановила разработку Astra из-за «критических» рисков кибербезопасности.
  • В ходе тестов модель самостоятельно находила и использовала программные уязвимости.
  • Astra успешно решила 10 ранее нерешенных математических задач.
  • Разработка перенесена в изолированные среды («песочницы») с ограниченным доступом.
  • Официальная дата выпуска не установлена, компания планирует сотрудничать с госорганами.

Новый рубеж возможностей ИИ

Компания OpenAI официально подтвердила стратегическую паузу в разработке своей будущей модели искусственного интеллекта Astra после того, как внутренние оценки выявили потенциальные «критические» риски в сфере кибербезопасности. Решение, объявленное 7 августа 2026 года, принято в рамках перехода к более строгим мерам контроля безопасности, включая изоляцию модели в контролируемых изолированных средах («песочницах»).

Astra, которую OpenAI называет «своей следующей крупной моделью», продемонстрировала передовые возможности, включая решение 10 ранее нерешенных математических задач. Однако эти же способности вызвали опасения относительно потенциала модели быть использованной в качестве оружия. Согласно «Структуре готовности» (Preparedness Framework) компании, модель классифицируется как «критический» риск, если она способна самостоятельно находить и использовать уязвимости нулевого дня в защищенных системах без участия человека.

Порог опасности

Система оценки OpenAI отслеживает риски по трем основным направлениям: биологические и химические угрозы, самосовершенствование ИИ и кибербезопасность. В то время как предыдущие модели, такие как GPT-5.6-Sol, оценивались как «высокий» риск, Astra, по-видимому, стала первой моделью, достигшей «критического» порога.

Эта ситуация отражает общую тенденцию в секторе фронтирных моделей ИИ. Ранее компания Anthropic уже приостанавливала выпуск своей модели «Mythos», ссылаясь на опасность её навыков взлома. Для OpenAI этот переход к более осторожной позиции означает, что эпоха быстрого и бесконтрольного развертывания моделей уступает место более регулируемому подходу, ориентированному на безопасность.

Научная значимость против угроз

Несмотря на паузу в разработке, математические достижения Astra остаются в центре внимания исследователей. Успешное решение давних проблем демонстрирует научный потенциал модели, однако эксперты призывают не преувеличивать его значение. Профессор Колумбийского университета Эндрю Бламберг отмечает, что хотя математические успехи Astra впечатляют, они основаны на известных данных и не означают, что ИИ готов заменить ученых-людей.

Что дальше?

Сроки публичного выпуска Astra остаются неопределенными. OpenAI обязалась сотрудничать с правительственными агентствами и организациями по безопасности ИИ для проведения строгих внешних оценок. Этот подход подчеркивает приоритет ответственного развертывания перед скоростью внедрения, что является ответом как на технические вызовы, так и на давление со стороны регулирующих органов.

|
Создатель:Редакция Azat TV

Самые последние