Ошибка ИИ едва не заставила США перехватить китайское судно

Чат-бот сообщил о ядерном грузе и поднял американские самолеты.

Аида Уразалина

Американские военные готовились остановить китайское судно на Ближнем Востоке из-за ошибочного разведывательного доклада. Основанием для операции стал вывод чат-бота о якобы перевозившихся компонентах ядерной программы, передает Liter.kz.

Как сообщает CNN, инцидент произошел весной 2026 года.

“Военный аналитик поручил системе искусственного интеллекта изучить сведения о грузе китайского судна. Чат-бот сопоставил информацию из открытых источников с секретными данными радиоэлектронной разведки и пришел к ошибочному выводу. Система заявила, что на борту могут находиться компоненты, связанные с программой создания ядерного оружия”, – отмечается в информации телеканала.

Затем аналитик использовал ИИ еще раз – для подготовки документа в стандартном формате разведывательной отчетности. Доклад распространили среди военных, которые восприняли содержащиеся в нем сведения как достоверные.

После этого началась подготовка операции по перехвату судна. Личный состав привели в готовность, а задействованные самолеты уже находились в воздухе.

Остановить операцию удалось незадолго до ее начала. Дополнительная проверка показала, что выводы чат-бота не соответствовали действительности, а китайское судно не перевозило заявленный груз.

CNN не удалось установить, какой именно ИИ-сервис использовал аналитик. Также не раскрываются название судна, предполагаемый маршрут и ядерная программа, с которой система ошибочно связала груз.

В Пентагоне заявили, что разведывательная информация проходит проверку, а новые технологии должны внедряться ответственно. При этом собеседники телеканала указали на отсутствие единых правил использования генеративного ИИ в разных подразделениях.

Случай произошел на фоне активного внедрения искусственного интеллекта в американской армии. Ранее Пентагон решил сделать систему Maven одним из ключевых инструментов обработки военных данных. Она помогает анализировать информацию со спутников, беспилотников и других источников, однако окончательные решения должны оставаться за человеком, писал Reuters.

Читайте также: Глава государства выступил на Всемирной конференции по искусственному интеллекту