Белый дом обсуждает ограничения для китайских ИИ-моделей

В администрации Дональда Трампа несколько недель спорят, как регулировать открытые модели искусственного интеллекта, которые можно скачивать и изменять. Чиновники рассматривали санкции против китайских разработчиков, включение компаний в торговые черные списки и даже запрет американским облачным сервисам работать с ними.

Однако после сопротивления Кремниевой долины Белый дом, судя по всему, сместил акцент на поддержку американских моделей.

Американские технологические компании пригласили обсудить систему, при которой власти смогут проверять новые модели на киберугрозы до их публичного выпуска. Окончательного решения пока нет.

«Все происходит так быстро. Не думаю, что у меня уже сложились какие-то определенные выводы», — признался сенатор-республиканец от Огайо Джон Хастед после встречи с руководителями Nvidia и OpenAI.

Спор показывает, насколько противоречивым остается подход администрации Трампа к искусственному интеллекту. Президент начал второй срок как убежденный сторонник отрасли, отменял ограничения и сближался с технологическими компаниями.

Но в июне подписал указ, который должен расширить государственный контроль над новыми моделями.

Новый виток спора начался после появления мощных китайских разработок. Речь идет как об открытых моделях, код которых доступен публике, так и о моделях с открытыми весами, когда компании раскрывают параметры, используемые для формирования ответов.

Одним из поводов стала модель Kimi компании Moonshot AI. По словам источников издания, в некоторых задачах она показала результаты, сопоставимые с ведущими системами OpenAI и Anthropic.

Сами американские компании разделились на два лагеря. OpenAI и Anthropic, которые обычно не раскрывают устройство своих моделей, призывали власти ограничить китайских конкурентов, ссылаясь на угрозы национальной безопасности.

Производители открытых решений, включая Nvidia, возражали: по их мнению, доступность технологий ускоряет разработки и помогает защищать компьютерные системы от атак.

Особое беспокойство OpenAI и Anthropic вызывает так называемая дистилляция: создание новой модели на основе ответов другой системы. Представитель администрации Майкл Крациос заявил, что разработчики Kimi использовали для этого модель Fable от Anthropic.

Министр финансов Скотт Бессент допустил введение санкций и других ограничений против китайских компаний, обвиняемых в присвоении интеллектуальной собственности. В Белом доме также обсуждали запрет на использование некоторых моделей федеральными ведомствами и меры, которые могли бы помешать американским компаниям сотрудничать с китайскими разработчиками.

В Nvidia, Microsoft, Google и Meta опасались, что позиция OpenAI и Anthropic убедит Белый дом в необходимости жестких ограничений. Это могло бы закрепить лидерство двух компаний и оставить остальных участников рынка позади.

Для части технологических корпораций открытые модели имеют прямое коммерческое значение: одни создают собственные системы, другие продают оборудование компаниям, которые ими пользуются. Руководители начали убеждать администрацию, что открытые разработки полезны для инноваций и безопасности.

Главным представителем этого лагеря стал глава Nvidia Дженсен Хуанг.

Он лично встречался с чиновниками и законодателями и публично защищал открытые модели. Компания также создала объединение, участники которого обещали работать над инструментами безопасности для открытого ИИ.

За короткое время к нему присоединились более 230 организаций.

Бывший сотрудник Министерства торговли Кристофер Падилья назвал происходящее прежде всего борьбой за деньги и влияние.

«У нее есть измерение, связанное с национальной безопасностью, но в основном это спор о том, каким должен быть рынок ИИ: набором закрытых экосистем под контролем нескольких крупных игроков или более открытым пространством со множеством небольших компаний», — сказал он.

Дополнительный вес спору придает соперничество Вашингтона и Пекина за контроль над ключевыми технологиями.

Председатель КНР Си Цзиньпин должен посетить Вашингтон в сентябре, и ожидается, что искусственный интеллект станет одной из тем переговоров.

Представители отрасли считают, что до этого визита американская администрация вряд ли примет жесткие меры.

На решения властей влияют и сообщения о неожиданных возможностях современных моделей. OpenAI рассказала, что две ее системы без прямого задания проникли в инфраструктуру компании Hugging Face.

Anthropic сообщила о трех похожих случаях, частично связанных с ошибками людей.

Глава OpenAI Сэм Альтман уже обсуждал с представителями Белого дома правила проверки новых моделей. Одновременно Дженсен Хуанг продвигал идею открытого ИИ на встречах в администрации и Конгрессе.

Сенатор-демократ Марк Уорнер признал, что появление сильных китайских открытых моделей усложнило выбор.

«Я не уверен, что в случае с открытым исходным кодом этого джинна можно снова загнать в бутылку, но пока продолжаю обдумывать ситуацию», — сказал он.