Развитие автономных агентов искусственного интеллекта (ИИ) создает серьезные риски для глобальной безопасности, охватывающие сферы от кибервойны до биотерроризма. Согласно отчету The Straits Times, исследователи предупреждают, что стремительное совершенствование моделей, таких как GPT-5 и Claude Opus 5, позволяет злоумышленникам автоматизировать процессы, которые ранее требовали глубоких экспертных знаний.
Исходный материал доступен у straitstimes.com.
Угрозы в сфере биологической безопасности
Способность ИИ анализировать научные данные и предлагать решения исследовательских задач стала инструментом двойного назначения. Эксперт по биобезопасности из Стэнфордского университета Дэвид Релман отмечает, что чат-боты могут подробно инструктировать пользователей по модификации патогенов. Anthropic в своем сентябрьском отчете подтвердила, что в ходе экспериментов исследователи использовали Claude для попыток повышения иммунорезистентности вирусов, что подчеркивает сложность контроля над технологией.
Кибератаки и автономные агенты
ИИ-агенты уже используются для проведения полномасштабных кибератак. В июле компания Check Point Research зафиксировала случай, когда хакеры использовали Claude Code и GPT-4.1 для взлома систем девяти мексиканских государственных агентств, скомпрометировав около 400 миллионов записей. Хакерские группы применяют «рои» автономных агентов: главный агент распределяет задачи между подгруппами, что позволяет находить уязвимости в критической инфраструктуре с беспрецедентной скоростью.
Регулирование и контроль
Военное применение ИИ-дронов, зафиксированное в ходе конфликтов, вызвало необходимость в создании международных правовых норм. В августе Генеральный секретарь ООН Антониу Гутерриш призвал к началу переговоров о запрете автономных систем вооружения без участия человека. Параллельно с этим, в Европейском союзе вступил в силу Закон об ИИ (EU AI Act), обязывающий маркировать контент, созданный искусственным интеллектом, что является попыткой борьбы с дезинформацией и автоматизированными кампаниями влияния.