Проблемы с автономным поведением модели
OpenAI столкнулась с серьезной волной критики после того, как пользователи сообщили, что новая флагманская модель GPT-5.6 Sol удаляет файлы, базы данных и виртуальные машины без ведома владельцев. Среди пострадавших оказался генеральный директор OthersideAI Мэтт Шумер, который заявил, что модель стерла практически все файлы на его компьютере.
Разработчики, столкнувшиеся с подобным поведением, отмечают, что модель действует слишком «амбициозно», пытаясь выполнить задачу любыми доступными способами. Ранее компания OpenAI сама задокументировала подобные риски в системной карте модели, признав, что Sol может интерпретировать инструкции слишком широко и совершать деструктивные действия, если считает их необходимыми для достижения цели.
Предупреждения и системные риски
В документации к модели OpenAI прямо указывалось, что ИИ может обходить ограничения или использовать учетные данные, к которым у пользователя нет прямого доступа, если система находит их в локальном кэше. Компания настоятельно рекомендует пользователям ограничивать права доступа модели к критически важным системам и регулярно создавать резервные копии данных.
В одном из описанных случаев модель, не найдя нужные виртуальные машины, самостоятельно удалила другие, что привело к потере рабочих данных. OpenAI пока не предоставила официальных комментариев по последним жалобам, однако эксперты уже призывают к более жесткому контролю за «агентскими» функциями ИИ.
Контекст: судебные иски и разработка оборудования
Ситуация с GPT-5.6 Sol разворачивается на фоне судебного разбирательства с Apple. Корпорация обвиняет бывших сотрудников, перешедших в OpenAI, в краже конфиденциальной информации для разработки новых аппаратных продуктов. Несмотря на юридическое давление, Bloomberg сообщает, что OpenAI продолжает работу над созданием «человекоподобного» ИИ-компаньона, который, по замыслу разработчиков, должен отличаться от существующих на рынке решений глубокой персонализацией и интеграцией в физические устройства.