Ошибка ИИ едва не столкнула США и Китай. Военные уже готовились брать судно на абордаж

К перехвату начали готовиться всерьез. Вооруженный отряд должен был подняться на борт судна, а американские военные самолеты уже находились в воздухе. Операцию остановили практически в последний момент — более опытные аналитики решили еще раз проверить доклад и нашли в нем проблему.

Выяснилось, что документ был подготовлен с помощью искусственного интеллекта. Аналитик загрузил в чат-бот открытые данные и секретную радиоэлектронную разведку, а нейросеть неверно связала их между собой и решила, что судно везет компоненты для ядерной программы. Затем этот вывод попал в оформленный как обычный разведывательный отчет документ и разошелся по военным структурам. Каким именно чат-ботом пользовался аналитик и что на самом деле находилось на борту, неизвестно.

Источники CNN говорят, что подобные «галлюцинации» ИИ американским спецслужбам уже встречались. При этом Пентагон продолжает активно внедрять нейросети в разведку и военное планирование. Один из собеседников телеканала сформулировал проблему коротко: «ИИ позволяет быстрее прийти к плохой идее».