Umjetna inteligencija umalo je izazvala ozbiljan vojni incident između Sjedinjenih Američkih Država i Kine nakon što je pogrešno protumačila obavještajne podatke o kineskom brodu na Bliskom istoku.
Kako prenosi Index pozivajući se na CNN, američko obavještajno izvješće izrađeno ovog proljeća sadržavalo je tvrdnju da kineski brod prevozi komponente povezane s nuklearnim programom. Informacija je pokrenula hitnu vojnu reakciju.
Američka vojska pripremala je presretanje plovila. Prema izvorima upoznatima sa slučajem, naoružani vojnici bili su spremni za ulazak na brod, dok su vojni zrakoplovi već bili podignuti u zrak.
Operacija je zaustavljena u posljednjem trenutku.
Naknadnom provjerom utvrđeno je da je ključni dio obavještajnog izvješća generiran uz pomoć umjetne inteligencije. Analitičar Zapovjedništva za specijalne operacije koristio je chatbot za obradu podataka iz brodskog manifesta, a sustav je pogrešno identificirao teret koji se nalazio na plovilu.
Jedan od izvora CNN-a izvješće je opisao kao potpuno netočno te rekao da je incident bio toliko ozbiljan da je mogao dovesti do vojnog sukoba dviju nuklearnih sila. CNN nije uspio utvrditi što je kineski brod zapravo prevozio.
AI spojio javne i tajne podatke i došao do pogrešnog zaključka
Prema dostupnim informacijama, analitičar je AI sustavu dao obavještajne podatke koji su stigli iz američkog Zapovjedništva za specijalne operacije na Pacifiku.
Nije poznato je li korišten komercijalni chatbot ili alat razvijen posebno za američku vladu.
AI je potom kombinirao javno dostupne informacije s podacima iz povjerljivih vladinih baza te izveo pogrešan zaključak o teretu kineskog broda. Isti je alat zatim korišten za oblikovanje nalaza u standardizirano obavještajno izvješće koje je proslijeđeno dalje unutar vojnog sustava.
Pentagon ubrzano uvodi umjetnu inteligenciju
Incident dolazi u vrijeme kada američka vojska ubrzano uvodi AI u velik broj područja – od obrade obavještajnih podataka i logistike do pomoći pri određivanju vojnih ciljeva.
Američki ministar obrane Pete Hegseth početkom godine predstavio je strategiju ubrzane primjene umjetne inteligencije, čiji je cilj široko omogućiti korištenje vodećih AI modela unutar Ministarstva obrane.
No problem predstavlja činjenica da različite vojne i obavještajne strukture koriste različite sustave i sigurnosne standarde, a prema izvorima CNN-a ne postoji jedinstven način provjere svih informacija koje AI generira.
Najveći problem nije samo AI nego nekritičko povjerenje u njega
Slučaj kineskog broda pokazao je još jedan rizik – ljudsku sklonost da rezultatu koji je proizveo sofisticirani računalni sustav pripiše veću vjerodostojnost nego što je zaslužuje.
Izvori CNN-a navode da se umjetna inteligencija sve više koristi i pri odabiru potencijalnih vojnih ciljeva, dok istodobno nisu potpuno razrađena pravila koja bi trebala jamčiti dovoljno snažnu ljudsku kontrolu nad takvim odlukama.
Jedan od sugovornika problem je sažeo upozorenjem da AI prije svega omogućuje ljudima da do pogrešnog zaključka dođu mnogo brže.
Incident je završio bez vojne akcije, ali je pokazao koliko ozbiljne posljedice može imati jedna pogrešno generirana informacija kada uđe u sustav u kojem se odluke donose velikom brzinom.
