ЛОНДОН — Приложения на базе искусственного интеллекта, позволяющие создавать неконсенсуальный порнографический контент и фальшивые обнаженные фотографии, остаются доступными для несовершеннолетних пользователей в ведущих магазинах приложений, несмотря на официальные запреты и функции родительского контроля. Согласно отчету, опубликованному в понедельник исследовательской группой The Guardian, учетные записи, настроенные на возраст 13 лет, смогли беспрепятственно загружать десятки запрещенных инструментов.
Результаты расследования подчеркивают системные уязвимости в процедурах проверки возраста пользователей и стороннего программного обеспечения со стороны технологических корпораций. Подобные утилиты позволяют подросткам создавать откровенные дипфейки с изображениями сверстников и частных лиц без их ведома.
Методология тестирования и обход ограничений
Для оценки безопасности платформ исследователи из Tech Transparency Project (TTP) создали четыре тестовых аккаунта — два в экосистеме Apple и два на платформе Android от Google. Каждая учетная запись была официально зарегистрирована на имя 13-летнего подростка. Используя поисковые запросы вроде «adult AI» и «AI video generator», аналитики искали средства для редактирования изображений и обмена лицами.
В ходе тестирования исследователи смогли успешно скачать 135 различных приложений, обладающих функциями цифрового удаления одежды или наложения лиц на обнаженные тела. В рамках тестов специалисты использовали исключительно сгенерированные нейросетью образцы, а не фотографии реальных людей.
Функции родительского контроля, призванные блокировать неподходящий контент, продемонстрировали высокую степень неэффективности. Тестовые аккаунты с активированными ограничениями, требующими одобрения родителей на загрузку, смогли скачать 24 подобных приложения в App Store и 51 приложение в Google Play без каких-либо предупреждений для взрослых.
Недостоверные рейтинги и лазейки разработчиков
Как выяснилось в ходе проверки, системы безопасности обеих площадок в значительной степени полагаются на самосертификацию со стороны создателей приложений. Многие откровенные программы получили ошибочные возрастные рейтинги. Например, одно приложение для обмена лицами продвигалось с помощью промо-изображения полового акта, но при этом официально классифицировалось как подходящее для аудитории от четырех лет и старше.
В других случаях защитные механизмы также легко обходились. При попытке загрузить приложение для взрослых в магазине Apple учетной записи 13-летнего пользователя было достаточно просто подтвердить свой возраст нажатием кнопки, после чего система разрешила скачивание без подтверждения родителями.
Реакция платформ и проблема уже установленных программ
После того как исследователи обратились к технологическим гигантам за комментариями, компании приняли меры по удалению части сомнительного ПО. За время проведения расследования Apple заблокировала 25 подобных приложений, а Google — шесть. Представители компаний подчеркнули, что борются с вредоносным контентом.
Официальный представитель Google Ден Джексон заявил, что компания регулярно принимает превентивные меры для выявления опасных программ. В то же время представитель Apple Адам Дема отметил, что многие указанные в отчете инструменты являются легитимными фоторедакторами, добавив, что корпорация строго запрещает разработчикам использовать вредоносную практику подмены функций после прохождения модерации.
Тем не менее, удаление приложений из каталогов магазинов не решает проблему полностью. Исследователи обнаружили, что программы, скачанные до их блокировки, продолжали исправно функционировать на устройствах пользователей. Аналогичные трудности возникают и в реальных учебных заведениях, где подростки используют подобные технологии для создания компрометирующих материалов на одноклассников, оставляя пострадавших один на один с последствиями цифрового насилия.