Грешна информация, произведена от система за изкуствен интелект, почти предизвика американска военна операция срещу китайски кораб, което можеше да доведе до ескалация между Вашингтон и Пекин. Инцидентът се е случил през пролетта по време на войната с Иран, съобщава CNN, позовавайки се на четирима запознати със случая. По данни от източниците, разположеното в доклада твърдение за натоварване на кораба с компоненти за ядрени оръжия предизвикало незабавна реакция в американските военни структури.
В отговор на заключенията от доклада бяха предприети оперативни подготовки за прихващане на плавателния съд. Според двама от източниците въоръжени американски военнослужещи се готвели да се качат на борда, а военни самолети били изпратени във въздуха. Операцията бе спряна непосредствено преди изпълнение, след като докладът бе подложен на по-задълбочена проверка и бе установено, че в него са използвани изводи, генерирани с помощта на чатбот.
Разследването показало, че анализатор от американското Командване за специални операции е отправил запитване към чатбот относно товарния манифест на кораба. Системата е комбинирала публично достъпни данни със секретна информация от радиоелектронно разузнаване и е достигнала до погрешен извод за натоварването. След това същият изкуствен интелект е бил използван за оформяне на резултатите в стандартен разузнавателен доклад, който бе разпространен по командната верига и достигна до служители, вземащи оперативни решения.
Не е било изяснено какъв е бил реалният товар на китайския кораб. Един от запознатите с проверката описал доклада като „напълно неверен“ и предупредил, че грешката е можела да доведе до военен сблъсък. Също така не бе уточнено дали използваният чатбот е комерсиален инструмент или специализирана система, разработена за нуждите на правителството. Тези неизвестни засилват опасенията относно надеждността на автоматично генерираните разузнавателни изводи.
Въпреки показаните рискове Съединените щати ускоряват внедряването на изкуствен интелект в отбраната. Технологиите се използват за обработка на големи масиви от разузнавателни данни, избор на цели, разполагане на сили и управление на логистиката. През януари американският министър на отбраната Пийт Хегсет представи стратегия, предвиждаща водещи модели на изкуствен интелект да станат достъпни за близо 3 млн. военни и цивилни служители. Различните структури обаче работят с отделни системи, правила и стандарти и все още няма единен механизъм за проверка на информация, генерирана от ИИ.
Случаят с китайския кораб илюстрира непосредствената опасност от вземане на решения с потенциално фатални последици въз основа на машинно генерирани твърдения, които не са били проверени достатъчно внимателно. Инцидентът показа необходимостта от по-строги процедури и механизми за верификация, преди изводи, подсилени от изкуствен интелект, да се използват за оперативни действия.