Ошибка ИИ едва не столкнула США и Китай. Военные уже готовились брать судно на абордаж
Ошибка чат-бота едва не закончилась американской военной операцией против китайского судна. Весной разведка сообщила военным США, что корабль на Ближнем Востоке якобы перевозит компоненты для ядерной программы. Как пишет CNN со ссылкой на четырех собеседников, ситуация зашла настолько далеко, что один из источников описал ее словами: «чуть не началась война».
К перехвату начали готовиться всерьез. Вооруженный отряд должен был подняться на борт судна, а американские военные самолеты уже находились в воздухе. Операцию остановили практически в последний момент — более опытные аналитики решили еще раз проверить доклад и нашли в нем проблему.
Выяснилось, что документ был подготовлен с помощью искусственного интеллекта. Аналитик загрузил в чат-бот открытые данные и секретную радиоэлектронную разведку, а нейросеть неверно связала их между собой и решила, что судно везет компоненты для ядерной программы. Затем этот вывод попал в оформленный как обычный разведывательный отчет документ и разошелся по военным структурам. Каким именно чат-ботом пользовался аналитик и что на самом деле находилось на борту, неизвестно.
Источники CNN говорят, что подобные «галлюцинации» ИИ американским спецслужбам уже встречались. При этом Пентагон продолжает активно внедрять нейросети в разведку и военное планирование. Один из собеседников телеканала сформулировал проблему коротко: «ИИ позволяет быстрее прийти к плохой идее».
