Новый стандарт прозрачности ИИ
Компания Anthropic начала внедрять невидимые, машиночитаемые водяные знаки в текст, генерируемый моделями Claude. Это техническое обновление, внедряемое по всему миру, призвано идентифицировать контент, созданный ИИ, путем влияния на выбор слов моделью. Данный шаг стал ответом на вступление в силу 2 августа 2026 года Закона ЕС об искусственном интеллекте (AI Act), который обязывает провайдеров ИИ четко маркировать сгенерированный контент для обеспечения прозрачности.
Хотя водяной знак невидим для человеческого глаза, он работает за счет использования криптографического ключа в процессе генерации. Когда Claude сталкивается с ситуацией, где несколько слов одинаково уместны, модель делает выбор на основе этого ключа, а не случайной вероятности. Это создает статистическую подпись, которую впоследствии можно проверить с помощью API, который будет выпущен в будущем.
Материал подготовлен на основе информации, опубликованной mashable.com и 1851franchise.com.
Техническая точность и соблюдение норм
Внедрение вызвало дискуссии о потенциальном влиянии на качество текста. Anthropic утверждает, что водяные знаки не снижают производительность Claude, ссылаясь на внутренние тесты, не выявившие измеримой разницы в креативности, точности или читаемости. Кроме того, компания пояснила, что процесс не добавляет дополнительных токенов, что означает отсутствие задержек или увеличения расходов для пользователей.
Тем не менее, критики выразили обеспокоенность философией данной функции. Технологический блогер Джон Грубер (Daring Fireball) назвал этот подход «извращением письма», утверждая, что языковые модели должны отдавать приоритет наиболее точным словам, а не ограничиваться встроенным водяным знаком. Несмотря на опасения, Anthropic сообщает, что после анонса не наблюдалось статистически значимого всплеска отмен подписок.
Ограничения и последствия для индустрии
Эффективность водяных знаков имеет технические ограничения. Поскольку система основана на тонких статистических закономерностях, она менее надежна при анализе очень коротких фрагментов текста. Кроме того, водяной знак предназначен для отслеживания оригинального вывода Claude; существенное редактирование текста человеком может полностью стереть этот сигнал. В таких случаях компания отмечает, что контент может больше не считаться значимо сгенерированным ИИ.
Для отраслей, полагающихся на автоматизированное производство контента, таких как франчайзинг или цифровой маркетинг, это развитие событий служит сигналом о необходимости строгого человеческого контроля. Ожидается, что другие провайдеры ИИ примут аналогичные протоколы. За исключением Grok от SpaceX AI, почти все крупные разработчики ИИ заявили о намерении соблюдать Кодекс практики ЕС по прозрачности контента, что указывает на то, что машиночитаемая маркировка вскоре станет отраслевым стандартом.