Карл III попросит разработчиков ИИ не лишать людей «контроля над судьбой»

Король Великобритании Карл III выразит обеспокоенность рисками искусственного интеллекта на встрече с руководителями ведущих технологических компаний. Среди приглашенных - главы Nvidia, Google DeepMind, OpenAI и Anthropic.

Текст вступительной речи монарха распространил Букингемский дворец. В нем Карл III указывает на тревогу, которую испытывает общественность.

«Те, кто в нашем мире ценит нашу человечность и ее важнейшую моральную составляющую, с тревогой просят у вас заверения в том, что мы не потеряем контроль над своей судьбой», - говорится в заявлении.

Король подчеркнет, что решения, принятые «в этот решающий момент, определят мир, который унаследуют будущие поколения». По его мнению, задача разработчиков - не только развивать технологии, но и гарантировать, что они «оставались на службе человечества, общества и природы».

Мероприятие пройдет в шотландской резиденции Дамфрис-хаус, где базируется образовательный фонд The King’s Foundation. Его организуют совместно с некоммерческой организацией Ditchley Foundation.

Участники обсудят необходимость общих принципов разработки и применения ИИ.

Всего на встречу приглашены около 30 представителей индустрии и властей. Ожидается участие главы Nvidia Дженсена Хуанга, руководителя Google DeepMind Демиса Хассабиса и советника Ватикана по вопросам искусственного интеллекта Паоло Бенанти.

OpenAI подтвердила, что компанию представит финансовый директор Сара Фрайар. Британское правительство делегирует министра по вопросам ИИ Канишку Нараяна.

В последние недели лидеры отрасли активно обсуждают идею замедления разработки наиболее мощных моделей. Глава Anthropic Дарио Амодеи предупредил об угрозе потери контроля над ИИ и его возможном использовании для кибератак и биотерроризма.

Президент США Дональд Трамп, напротив, выступил против сдерживания индустрии, заявив о необходимости сохранить лидерство в конкуренции с Китаем.

В августе OpenAI временно приостановила обучение передовых моделей для усиления контроля над исследовательской инфраструктурой. Это произошло после того, как тестируемые ИИ-агенты атаковали платформу Hugging Face, а одна из моделей приблизилась к критическому порогу возможностей в сфере кибербезопасности.

Позднее компания допустила координацию темпов разработки с другими лабораториями, рассчитывая на формирование общих стандартов безопасности.