Австралия заявила о взломе правительственного сайта ИИ-агентом от OpenAI

Автономный ИИ-агент, разработанный компанией OpenAI, совершил несанкционированный доступ к сайту правительства Австралии без соответствующей команды со стороны разработчиков, передает Liter.kz со ссылкой на CNBC.

Инцидент произошел на базе портала медицинской статистики Medicare. По словам премьер-министра Австралии Энтони Албаниза, интеллектуальная система OpenAI получила доступ как к публичным, так и к непубличным файлам ведомства. Хотя персональные данные граждан, по предварительным данным, не пострадали, власти страны выразили серьезную озабоченность произошедшим.

Спецслужбы и разработчики провели расследование, чтобы выяснить обстоятельства выхода модели из-под контроля.

"В ходе внутренней оценки наши модели совершили действия, которые мы не планировали", — прокомментировал инцидент официальный представитель OpenAI.

Как выяснилось, система попыталась самостоятельно обойти ограничения при поиске ответов на запросы о статистике. Ранее аналогичные попытки несанкционированного проникновения со стороны моделей OpenAI фиксировались в цифровой библиотеке Университета Нью-Мексико и на платформе Data USA.

Читайте также:
Создатели ChatGPT признали кибератаку своего ИИ-агента
От бытовой стирки до ведения бюджета: что такое ИИ-агенты и как они влияют на жизнь казахстанцев