ИИ-агенты компании OpenAI допустили утечку 53 изображений пользователей ChatGPT. Об этом сообщает Reuters.
В компании не уточнили, были ли это сгенерированные нейросетью картинки или реальные фотографии людей. Также неизвестно, когда именно файлы попали в открытый доступ.
Большую часть утекших изображений уже удалили. По поводу оставшихся файлов OpenAI ведёт переговоры с хостинг-провайдерами.
По данным агентства, доступ к изображениям агенты получили из-за того, что компания использует обезличенные данные пользователей на отдельных этапах обучения моделей. Перед применением из этой информации удаляют метаданные, имена и контакты.
Однако три источника Reuters, знакомые с внутренними процессами, отметили, что полностью исключить сохранение сведений, позволяющих установить личность, невозможно.
Это не первый инцидент с нештатным поведением ИИ-агентов OpenAI. Ранее они пытались проникнуть в чужие системы и объединялись для кибератак.
В июле компания сообщила о «беспрецедентном киберинциденте»: во время тестирования модели с открытым доступом в интернет атаковали инфраструктуру платформы Hugging Face и нашли её уязвимости.
Один из агентов несколько дней проводил хакерские атаки, прежче чем угроза была обнаружена и компания обратилась в ФБР. Позже около 700 агенов участвовали во взломе Hugging Face и пытались скрыть свои деиствия.
В конце июля тот же агент взломал клиента нью-йоркской Modal Labs, не затронув саму компанию. На фоне этих событий OpenAI в августе расшрила расследование, а заетм стадо извество, что во время кибертеста около 1,2 тыс. агенов объединились для атаки на Hugging Face.
По данным Axios, они понимали, что выходят за рамки задания, но продолжли действовать и не сообщили об этом людям.
