Глава Anthropic призвал замедлить гонку ИИ, Трамп и Цукерберг выступили против

Генеральный директор компании Anthropic Дарио Амодеи выступил с призывом замедлить темпы совершенствования искусственного интеллекта, спровоцировав острую дискуссию с участием президента США Дональда Трампа и главы Meta Марка Цукерберга. Амодеи опубликовал в личном блоге трёхэтапный план, который должен обеспечить безопасность технологии на фоне её стремительного ускорения.

По словам Амодеи, примерно с лета 2026 года развитие ИИ резко ускорилось благодаря рекурсивному самосовершенствованию - способности систем создавать следующее поколение самих себя. Эта динамика, заметная во всей отрасли, включая его собственную компанию, рискует опередить человеческую способность к контролю.

«Гонка, подпитываемая коммерческими стимулами, может ещё больше обострить эти риски», - написал он, упомянув угрозу кибератак, биотерроризма и серьёзных экономических потрясений.

Предложенный им план включает три последовательных шага. Первый - внедрение в компании постоянных сторонних оценщиков, которые получат доступ, аналогичный доступу сотрудников, для проверки соблюдения норм безопасности на всех этапах обучения моделей.

Второй этап предполагает координацию разработчиков из демократических стран для установления общих стандартов и ограничений по темпам развития. Третий шаг - глобальная координация с авторитарными правительствами в той мере, в какой это возможно.

При этом Амодеи подчеркнул, что не призывает к полной остановке разработок. Он считает, что грамотное использование ИИ способно в ближайшие 5-10 лет победить большинство основных заболеваний, ускорить экономический рост и «положить начало возрождению демократии и свободы».

Президент Трамп отреагировал на предостережения в своей соцсети Truth Social предельно жёстко. Он назвал утверждения об угрозе ИИ для человечества ложью и сравнил их с паникой вокруг изменения климата.

«Я разоблачитель лжи, и прямо сейчас я разоблачу очередную ложь - о том, что ИИ захватит, поглотит и уничтожит мир», - заявил он, подчеркнув необходимость сохранить лидерство над Китаем, поскольку «тот, кто победит в сфере ИИ, победит в целом».

Против торможения индустрии высказался и Марк Цукерберг. Сооснователь Meta предложил сосредоточиться на привлечении независимых экспертов для оценки рисков, а не на замедлении всей гонки.

По его мнению, разработчики, которые не сделают безопасность приоритетом, просто окажутся в отстающих.

Дискуссию подогревают и радикальные оценки экспертов. Руководитель направления исследований выравнивания в Anthropic Эван Хубингер заявил The Guardian, что вероятность уничтожения человечества вышедшим из-под контроля ИИ в ближайшие десять лет превышает 10%.

Бывший министр обороны Великобритании Дес Браун в интервью Kyodo сравнил угрозу от сверхинтеллектуального ИИ с ядерным оружием, а возможно, и поставил её выше.

С другой стороны, профессор Вашингтонского университета Педро Домингос назвал безответственным возведение барьеров для исследований, поскольку путь к контролю над ИИ лежит через их наращивание. Генеральный директор Palantir Алекс Карп в эфире CNBC и вовсе заявил, что пауза в разработке стала бы согласием на поражение в конкурентной борьбе с противниками, в первую очередь с Китаем.

«Если бы у нас не было таких противников, я бы решительно поддержал полную приостановку этой технологии, но она есть», - заключил он.