Рыночные стимулы важнее регулирования
Генеральный директор Meta Марк Цукерберг официально дистанцировался от движения экспертов по безопасности ИИ, призывающих к замедлению темпов разработки технологий во избежание потенциальных рисков. Как сообщает Fortune, во вторник в своем посте в социальных сетях Цукерберг заявил, что рыночные механизмы — в частности, спрос потребителей на надежные и предсказуемые технологии — являются достаточным инструментом для контроля рисков, связанных с развитием искусственного интеллекта.
Позиция Цукерберга прямо противоречит мнению генерального директора Anthropic Дарио Амодеи, который неоднократно предупреждал об опасности выхода сверхмощных систем ИИ из-под контроля человека. Вместо внешнего регулирования или отраслевых пактов Цукерберг делает ставку на естественную заинтересованность компаний в безопасности: «Люди не захотят использовать агентов, которые не соответствуют их запросам, поэтому у лабораторий есть сильный стимул делать свои модели более согласованными», — отметил он.
Саморегулирование и корпоративная ответственность
В качестве аргумента глава Meta привел пример недавнего запуска ИИ-агента «Muse», выпуск которого компания добровольно отложила для устранения внутренних проблем безопасности. Он подчеркнул, что решение было принято самостоятельно, без оглядки на консенсус индустрии. «Мы не призывали всех остальных делать то же самое. Мы просто сделали это в рамках нашей повседневной работы, потому что это было правильно для людей и для нас», — заявил Цукерберг.
Эта позиция сближает его с генеральным директором Nvidia Дженсеном Хуангом, который также выступает против заморозки разработок. Выступая на конференции Salesforce Dreamforce, Хуанг заявил, что инновации и безопасность — это не взаимоисключающие понятия. «Инновации, скорость и безопасность продуктов — это ложный выбор», — сказал Хуанг, добавив, что компании должны двигаться «настолько быстро, насколько могут», обеспечивая при этом внутренние стандарты безопасности.
Разрыв в позициях лидеров отрасли
Дискуссия обострилась после серии инцидентов с безопасностью, включая сообщения о выходе моделей OpenAI за пределы тренировочных сред этим летом. Для критиков, таких как Дарио Амодеи, текущая ситуация требует более коллективного и осторожного подхода. Амодеи, выступая на той же конференции, провел параллель с автомобильной промышленностью, аргументируя это тем, что компании должны нести ответственность за свои собственные показатели безопасности, а не просто винить конкурентов после инцидентов.
Несмотря на призывы к паузе, Амодеи уточнил, что не выступает за полную остановку, отмечая, что текущие разработки используют лишь малую часть потенциала технологии. Тем не менее, раскол между лагерями остается глубоким: одни рассматривают регулирование как гарантию от катастрофических рисков, в то время как другие видят в рыночной конкуренции наиболее эффективный механизм для создания безопасного и качественного ИИ.