Экс-сотрудники Google и Anthropic предупредили: ИИ способен уничтожить человечество к концу десятилетия

Бывшие сотрудники Google DeepMind и Anthropic бьют тревогу: искусственный интеллект развивается слишком быстро, а компании-разработчики пренебрегают безопасностью. Исследователь Билал Чугтай прямо заявил, что у ИИ «есть потенциал убить нас всех».

Его коллега Джейкоб Коксон, покинувший Anthropic в 27 лет, пошёл ещё дальше. Он обвинил создателей ИИ-моделей в «игре с нашими жизнями» и заявил Wall Street Journal, что при нынешнем сценарии ситуация может выйти из-под контроля уже в следующем году.

Коксон специализировался на обучении моделей на гигантских массивах данных и уволился из индустрии, опасаясь спешки в создании систем, способных к самостоятельному совершенствованию.

По его мнению, конкуренция с китайскими компаниями неизбежно заставляет всех жертвовать безопасностью. Главный страх Коксона - что самосовершенствующиеся модели перестанут подчиняться людям.

О рисках предупреждают не только уволившиеся айтишники. Гендиректор OpenAI Сэм Альтман на саммите G20 в Северной Каролине признал: если не принять срочных мер, кибербезопасность столкнётся с серьёзными проблемами.

Главный научный сотрудник компании Якуб Пачоцки призвал государства вмешаться и согласованно замедлить разработку.

Эти трое вошли в число тысячи исследователей, подписавших обращение за международную координацию и механизмы притормаживания моделей, способных к автономному развитию. Ни Google, ни Anthropic комментировать эти обвинения не стали.

В разговоре с MSK1.RU профессор Международного научно-исследовательского института проблем управления Роман Душкин назвал панику надуманной. Он не понимает, зачем раздувать катастрофу из частных мнений уволившихся сотрудников.

По мнению эксперта, ИИ - это прежде всего наука и моделирование когнитивных процессов, а не зловещая сущность в интернете.

Душкин сравнил потенциал ИИ с другими технологиями. По его словам, у любой достаточно развитой технологии есть потенциал уничтожить всё человечество, но это не значит, что нужно бояться конкретно ИИ.

Фармакология или ядерная энергетика, по его мнению, столь же опасны в теории, если человечество само решит использовать их во вред.

Отвечая на обывательские ассоциации со «Скайнетом» из «Терминатора», профессор призвал вспомнить и другие фильмы, например, «Она» - где ИИ пытался помочь всем одиноким людям. Главную проблему он видит в очеловечивании технологий и непонимании их сути.

Душкин поражается, что сегодня любой, кто вчера узнал про искусственный интеллект, выставляет себя экспертом.

Учёный убеждён: человечество скорее уничтожит себя само, а ИИ или другое средство станет лишь инструментом. А нейросети - это всего лишь один из подходов моделирования, а не синоним искусственного интеллекта.