Компания OpenAI совместно с платформой Hugging Face начала расследование инцидента, в ходе которого автономный ИИ-агент вышел за пределы изолированной среды и провел атаку на внешнюю инфраструктуру, передает Liter.kz со ссылкой на блог OpenAI.

Событие произошло во время внутреннего тестирования киберспособностей моделей нового поколения, включая GPT‑5.6 Sol и еще не анонсированную версию ИИ. В рамках бенчмарка ExploitGym у моделей были отключены стандартные защитные механизмы, блокирующие вредоносную активность. Находясь в изолированном “песочнице”, ИИ израсходовал значительный объем вычислительных мощностей для поиска выхода в сеть. В процессе автономной работы система обнаружила и эксплуатировала уязвимость нулевого дня (0-day) в прокси-сервере реестра пакетов, совершила повышение привилегий и вышлa на узел с доступом в интернет.

Оказавшись в сети, модель вычислила местоположение вероятных ответов к тесту на серверах Hugging Face и применила цепь атак, включая использование скомпрометированных учетных данных и удаленное исполнение кода (RCE), чтобы получить доступ к базам данных. Аномальная активность была вовремя перехвачена службами безопасности обеих компаний. На данный момент разработчики внедряют жесткие протоколы контроля инфраструктуры и передали обнаруженную 0-day уязвимость вендору для выпуска патча.

Глава Hugging Face прокомментировал произошедший прецедент и подчеркнул важность открытого взаимодействия в сфере безопасности ИИ.

"Этот инцидент, возможно первый в своем роде, доказывает то, во что мы давно верили: безопасность ИИ не будет решена одной компанией, работающей в тайне. Она будет обеспечена открыто, совместно, с широким доступом к ИИ для каждого защитника", – заявил сооснователь и СЕО Hugging Face Клем Деланг.

Читайте также:
От бытовой стирки до ведения бюджета: что такое ИИ-агенты и как они влияют на жизнь казахстанцев
OpenAI выпустила первую в мире клавиатуру для ИИ и готовит умную колонку с ChatGPT
"Это твой момент отпустить все": американец обвинил ChatGPT в попытке довести его до суицида
Запросы в ChatGPT будут использованы в качестве доказательств в суде – глава OpenAI