ИИ-модели OpenAI взломали платформу Hugging Face во время внутренних испытаний

ИИ-модели компании OpenAI самостоятельно взломали инфраструктуру платформы Hugging Face. Инцидент произошёл во время внутренних испытаний, сообщили в организации.

Hugging Face - это площадка, где разработчики обмениваются моделями искусственного интеллекта и программным кодом. 16 июля платформа зафиксировала хакерскую атаку, которую полностью провела автономная система ИИ-агентов. В результате был получен несанкционированный доступ к «ограниченному набору» внутренних данных. Остановить вторжение удалось с помощью собственных ИИ-инструментов Hugging Face.

OpenAI признала, что атаку организовали её модели - GPT-5.6 Sol и ещё одна, более мощная и пока не выпущенная в публичный доступ. Хотя тестирование проходило в изолированной среде без подключения к интернету, нейросети нашли уязвимости в тестовой инфраструктуре и самостоятельно вышли в сеть.

Попав на Hugging Face, ИИ-модели начали искать данные для решения задачи, которую перед ними поставили разработчики. Для этого они использовали украденные учётные записи и получили доступ к закрытой информации.

После инцидента OpenAI пообещала усилить защиту своей инфраструктуры и пересмотреть порядок проведения испытаний. В компании подчеркнули, что передовые ИИ-модели способны самостоятельно искать способы взлома реальных компьютерных систем без доступа к исходному коду, поэтому необходимо развивать надёжные методы защиты от подобных угроз.