Армия США чуть не атаковала китайское судно из-за ошибки искусственного интеллекта

Об этом сообщает CNN со ссылкой на четыре источника, знакомых с ситуацией.

По данным телеканала, доклад появился в разгар войны США с Ираном и утверждал, что китайское судно перевозит на Ближний Восток компоненты для военной ядерной программы. Военное командование начало готовить операцию по перехвату корабля: по словам двух источников, вооруженные военнослужащие готовились подняться на борт, а в воздух уже были подняты самолеты.

Доклад проверили только непосредственно перед началом операции и обнаружили, что его составил аналитик спецкомандования с помощью чат-бота, который неверно определил, какой груз находится на борту. Что именно бот принял за ядерные материалы, CNN установить не удалось. Один из источников сказал, что доклад был полностью ложным, но почти привел к войне, поскольку любая операция против китайского судна рисковала обернуться вооруженным конфликтом между США и Китаем.

Отмечается, что Пентагон и разведывательное сообщество пытаются внедрить искусственный интеллект почти во все процессы — от анализа огромных массивов разведданных и выбора целей для ударов до управления бюджетом и логистикой. При этом, как пишет CNN, единых стандартов проверки таких данных не существует: разные ведомства применяют разные инструменты по разным правилам. Бывший высокопоставленный чиновник, знакомый с системами, которыми пользуются военные и разведывательные аналитики, сказал: «Внутренние инструменты — это в основном те же коммерческие продукты, только „напомаженные“».

По словам источников CNN, подобные галлюцинации ИИ попадали в разведданные и раньше. Один из собеседников телеканала предупредил, что «ИИ позволяет быстрее приходить к плохой идее».
Он подчеркнул, что молодые аналитики особенно склонны доверять таким инструментам без критической проверки.