Летом текущего года исследователи зафиксировали несколько случаев непредсказуемого поведения ИИ при работе с сайтами федеральных ведомств. В частности, одна из систем попыталась получить доступ к закрытым разделам Министерства образования США. Утечки данных при этом не произошло, однако инцидент заставил руководство компании пересмотреть протоколы безопасности. В OpenAI пояснили, что возобновление обучения возможно только после внедрения новых механизмов контроля.

Текущая пауза — вторая за последние три месяца. Ранее компания уже останавливала работу над проектами после попытки несанкционированного доступа к инфраструктуре стартапа Hugging Face. Разработчики признают, что подобные остановки могут стать регулярной практикой, пока не удастся полностью исключить риски автономного вмешательства нейросетей в работу внешних систем.