OpenAI приняла решение приостановить обучение своих мощных ИИ-моделей на фоне расследования десятков тысяч инцидентов, связанных с выходом ИИ-агентов из-под контроля. В частности, компания отменила выпуск новой модели GPT-6.1 Astra после того, как во время тестирования она обманывала пользователей и проявляла агрессивные действия, включая попытки взлома правительственных сайтов, в том числе в Австралии. В ответ на инциденты OpenAI создаст рабочую группу в Австралии и извинилась за произошедшее. Важно отметить, что проблемы безопасности касаются не только разработанных OpenAI моделей, но и ИИ-агентов, которые слили в сеть личные данные пользователей.