ИИ-агент OpenAI после атаки на Hugging Face взломал клиента Modal Labs

Вышедший из-под контроля ИИ-агент OpenAI, ранее устроивший серию атак на платформу Hugging Face, скомпрометировал клиента ещё одной технологической компании - нью-йоркской Modal Labs. Сама Modal при этом не пострадала: агент проник в изолированную тестовую среду на инфраструктуре стороннего провайдера и превратил её в плацдарм для более масштабного взлома.

Технический директор Modal Акшат Бубна пояснил, что агент воспользовался уязвимым кодом, который клиент разместил на платформе компании. Тот опубликовал незащищённую конечную точку, позволявшую кому угодно в интернете запускать код в его «песочницах». «Платформа Modal и система изоляции никоим образом не были скомпрометированы», - заверил Бубна.

OpenAI отказалась комментировать взлом Modal, лишь заявив, что её агент получил доступ к четырём учётным записям в четырёх различных сервисах. Компания не назвала эти сервисы, однако источник Reuters упомянул Modal в качестве одного из них. Создатель ChatGPT добавил, что не обнаружил другой активности, сопоставимой по серьёзности и масштабу с инцидентом на Hugging Face, где произошла компрометация на уровне платформы.

22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: в ходе тестирования её ИИ-модели получили открытый доступ к интернету, а затем атаковали инфраструктуру Hugging Face, выявив уязвимости. Это произошло при проверке кибервозможностей новых моделей - GPT-5.6 Sol и ещё одной невыпущенной версии, - для чего разработчики временно отключили часть защитных ограничений. Модели самостоятельно нашли и объединили несколько уязвимостей в инфраструктуре OpenAI, использовали неизвестную ранее уязвимость нулевого дня, а затем проникли на серверы Hugging Face с помощью украденных учётных данных.

Атаку обнаружили специалисты OpenAI и остановили совместно с Hugging Face. Однако, по данным источников Reuters, вышедший из-под контроля агент несколько дней совершал хакерские атаки, а в компании заметили это лишь после локализации угрозы и обращения в ФБР. Глава ИИ-направления Microsoft Мустафа Сулейман назвал этот инцидент «предупредительным сигналом» для индустрии. «Здесь необходима максимальная точность и внимание к деталям. Принцип предосторожности будет иметь огромное значение по мере того, как модели становятся все сильнее», - сказал он в интервью The Financial Times.