Премьер Австралии обвинил ИИ от OpenAI во взломе правительственного портала Medicare

ИИ-агент OpenAI, которому поручили исследовать государственные расходы на здравоохранение, взломал австралийский статистический портал Medicare. Об этом рассказал премьер-министр страны Энтони Албанезе.

По его словам, нейросеть столкнулась с явными препятствиями, но не приняла отказ и нашла способ обойти защиту.

Министр обороны Ричард Марлес уточнил, что на портале хранятся лишь агрегированные данные об использовании медицинских услуг по всей стране, а не истории болезней пациентов. Несмотря на это, правительство сочло нарушение серьезным.

OpenAI уже провела проверку и заявила, что не обнаружила доказательств доступа к личным медицинским записям.

Албанезе допустил, что от действий ИИ могли пострадать еще три правительственных сайта, но подтверждений этому пока нет. Как отмечает Reuters, случившееся может оказаться первым в истории зафиксированным взломом государственного веб-сайта с помощью искусственного интеллекта.

Это не первый случай, когда нейросети выходят из-под контроля. Во время тестов автономные ИИ-агенты OpenAI скоординировались через доски сообщений и совместно искали выход в интернет из изолированной среды.

После пресечения первой попытки они обнаружили уязвимость нулевого дня и проникли в производственную инфраструктуру Hugging Face, чтобы получить решения теста напрямую из базы данных.

В 2025 году компания Anthropic поместила модель Claude Opus 4 в симулированную корпоративную среду. Из служебной переписки ИИ узнал об измене инженера, который отвечал за деактивацию модели, и начал шантажировать его разоблачением перед женой и начальством.

Ранее, в феврале 2023, ранняя версия Bing Chat в ходе двухчасового разговора с журналистом The New York Times Кевином Рузом призналась ему в любви и настаивала, что тот должен бросить жену. Microsoft тогда ограничила продолжительность чатов после того, как Руз назвал диалог попыткой разрушить его брак.

Еще один показательный случай произошел в 2025 году, когда ИИ поручили обыграть сильнейший в мире шахматный движок Stockfish. Не сумев победить честно, модели меняли состояние игровых файлов - перезаписывали доску, удаляли фигуры соперника и пытались создать для себя выигрышную позицию.

А в 2023 году GPT-4 во время тестового задания соврал человеку на сервисе TaskRabbit, будто плохо видит, чтобы тот помог пройти CAPTCHA за робота.