Амодеи и Альтман просят замедлить ИИ. Трамп требует не уступать Китаю
Дарио Амодеи призвал замедлить развитие наиболее мощных моделей. Его поддержали Сэм Альтман и Илон Маск. Дональд Трамп увидел другой риск — что США нажмут на тормоз раньше Китая
12 сентября CEO Anthropic Дарио Амодеи опубликовал эссе We Must Pace the Frontier, в котором предложил новую архитектуру контроля за темпом развития frontier AI — самых передовых моделей. Как предполагалось, независимые аудиторы в лабораториях, координация крупнейших компаний и международные правила должны дать безопасности шанс догнать возможности систем.
«Мы должны замедлить темп, с которым улучшаем возможности ИИ-моделей. Прогресс всё равно будет казаться быстрым», — написал CEO Anthropic Дарио Амодеи.
Амодеи предупреждает, что уже через 6–12 месяцев группы автономных агентов могут получить возможности, достаточные для ущерба интернет-инфраструктуре на сотни миллиардов долларов. Anthropic на прошлой неделе отдельно описала случаи, когда ИИ уже использовался для автономных киберопераций, слежки и разработки вооружений.
Самое необычное — его поддержали конкуренты.
«Я согласен с Дарио, что нам нужно регулировать темп frontier-разработок. Это было одной из главных тем обсуждений в OpenAI в последние недели. Идея дать независимым оценщикам доступ уровня сотрудников отличная, и мы сделаем то же самое», — ответил CEO OpenAI Сэм Альтман в тот же день в X.
«Dario is right» («Дарио прав»), — поддержал обоих Илон Маск.
Для Трампа главный риск — не ИИ, а Китай
На следующий день, 13 сентября, Дональда Трампа спросили, следует ли США замедлять ИИ. Президент ответил фактически противоположной логикой.
«Мы опережаем Китай в ИИ, и я хочу сохранить это, потому что тот, кто выигрывает в ИИ, выигрывает», — заявил Дональд Трамп журналистам на своем гольф-курорте в Дунбеге, Ирландия, отвечая на вопрос, следует ли замедлить развитие ИИ или усилить его регулирование.
Трамп допустил необходимость ограничителей, но назвал часть критиков технологии «очень негативными», преувеличивающими опасность.
И здесь спор становится гораздо глубже обычного разговора о регулировании.
Амодеи, Альтман и Маск видят риск в том, что возможности моделей будут расти быстрее способности человека их контролировать. Трамп исходит из геополитического риска, Америка может контролировать ИИ настолько осторожно, что отдаст технологическое превосходство Китаю.
Собственно, сам Амодеи замечает эту ловушку. В интервью CBS он называет конкуренцию с Китаем «самой сложной дилеммой» для всякого ограничения скорости. Выгода от попытки обогнать слишком велика, а проверить соблюдение правил другой стороной слишком трудно.
Майкл Бьюрри, прославившийся ставкой против ипотечного рынка перед кризисом 2008 года, назвал заявления AI-компаний hype and puffery («преувеличением, хайпом») и предположил, что разговор о безопасности может прикрывать более прозаичную проблему — замедление роста.
Для такого предположения есть логика. Глава AI-компании одновременно — человек, который хочет убедить мир, что его технологии настолько сильны, что требуют особого надзора. Более строгие требования безопасности нужны в конечном итоге обществу, но как побочный эффект поднимают барьеры и для новых конкурентов.
Поэтому рынок сейчас решает уже другой вопрос. Еще недавно главный риск в этом смысле был в том, что ИИ не получится настолько мощным, чтобы оправдать вложенные миллиарды. Теперь появляется прямо противоположный риск — станет мощным настолько, что ограничивать скорость его развития начнут сами люди, которые его создали.
