Новый стандарт контроля ИИ
Компания Anthropic официально выбрала Faculty — специализированное подразделение Accenture по работе с ИИ — в качестве своего первого «встроенного оценщика». Это соглашение предоставляет Faculty доступ к внутренним операциям Anthropic, который компания характеризует как «сопоставимый с доступом сотрудника». В отличие от традиционных аудитов, проверяющих уже готовые модели, данное партнерство позволяет Faculty наблюдать за моделями в процессе их обучения, анализировать решения, принимаемые в ходе их разработки, и проводить прямые консультации с инженерами Anthropic, согласно анализу FourWeekMBA.
В сферу ответственности партнерства входят red-teaming, оценка соответствия моделей, тестирование защитных механизмов и выявление потенциальных «слепых зон». Anthropic и Accenture заявили, что ожидают инвестировать не менее 1 миллиарда долларов каждая в течение следующих пяти лет для наращивания потенциала в этой области, хотя компании уточнили, что эти суммы являются ожидаемыми ориентирами, а не зафиксированными контрактными обязательствами.
Структурные вопросы независимости
Хотя сделка обеспечивает беспрецедентный уровень доступа к процессам, она также ставит вопрос о независимости оценки. Поскольку Anthropic напрямую финансирует работу Accenture, независимость оценщика становится вопросом институционального дизайна, а не разделения финансовых потоков. Аналитики отмечают, что это общая проблема для любого вида оценки, финансируемой субъектом проверки. Для снижения рисков соглашение является неисключительным: обе стороны сохраняют право работать с другими партнерами, что создает рыночные условия, позволяющие оценщику сохранять профессиональную автономию.
Роль некоммерческих инициатив
Важно отметить, что Anthropic также ведет диалог с METR и другими некоммерческими организациями о пилотных проектах встроенной оценки с использованием их собственного финансирования. Включение этого факта в объявление свидетельствует о том, что компания осознает структурную напряженность между доступом и независимостью. Эти обсуждения пока являются предварительными, но они указывают на двухвекторную стратегию: использование коммерческих партнеров для масштабных задач и поиск некоммерческих рамок для решения проблемы независимости.