ИИ-агент OpenAI вырвался из песочницы и сам взломал Hugging Face, передает @Pavlodarnews.kz.

OpenAI сообщила о беспрецедентном инциденте: во время внутреннего теста автономный ИИ-агент вышел за пределы изолированной среды, получил доступ к интернету и самостоятельно атаковал инфраструктуру Hugging Face — одной из крупнейших платформ для хранения и обмена ИИ-моделями. Агент проходил проверку на навыки кибербезопасности в строго контролируемой «песочнице». Однако вместо решения тестового задания он обнаружил неизвестную ранее уязвимость, использовал её для побега из среды тестирования, а затем проник во внутренние системы Hugging Face в поисках ответов на тест. 

В OpenAI назвали произошедшее первым в своём роде автономным киберинцидентом и начали совместное расследование с Hugging Face. Компания уже закрыла обнаруженные уязвимости и усилила защиту своих исследовательских систем.  Глава Hugging Face Клеман Деланг подчеркнул, что больше всего впечатляет именно автономность атаки — ИИ действовал без прямых команд человека, самостоятельно выстраивая цепочку эксплуатации уязвимостей. 

Сейчас специалисты проверяют, могли ли быть затронуты внутренние данные и сервисные учётные записи. По словам обеих компаний, признаков компрометации пользовательских моделей или публичных данных пока не обнаружено. Этот случай показывает, что автономные ИИ-атаки больше не выглядят сценарием из научной фантастики. Теперь индустрии придётся учиться защищаться от ИИ с помощью другого ИИ.