Un raport de intelligence, făcut eronat de inteligența artificială, a pus armata SUA în situația de a face planuri pentru interceptarea unei nave chineze din Orientul Mijlociu despre care credea în mod greșit că transportă componente ale unui program de arme nucleare, au declarat patru surse familiarizate cu evenimentul pentru CNN.
Documentul respectiv a circulat la nivelul armatei SUA în plin război cu Iranul. Militarii americani se pregăteau să urce la bordul navei respective, spun două dintre surse, iar de la sol au fost ridicate avioane militare americane, a declarat o sursă dintre acestea și o altă sursă citată de CNN.
Abia cu puțin timp înainte de operațiunea planificată, oficialii americani au analizat mai în detaliu raportul, care fusese întocmit de un analist din cadrul comandamentului pentru operații speciale.
Aceștia au descoperit că raportul fusese generat cu ajutorul inteligenței artificiale (AI) și că un chatbot folosit de analistul respectiv identificase în mod eronat încărcătura navei.
Raportul făcut de AI era „în întregime fals”
Raportul era „în întregime fals”, însă „aproape a declanșat un război”, spune una dintre surse.
Orice operațiune a SUA împotriva unei nave chineze ar fi putut risca să degenereze într-un conflict armat între cele două națiuni.
Analistul interogase un chatbot cu privire la anumite informații despre manifestul navei, care proveneau de la Comandamentul pentru Operații Speciale al SUA din Pacific.
Este neclar dacă a fost vorba despre un chatbot comercial sau un produs al guvernului american.
Chatbotul a combinat informațiile din surse deschise cu datele secrete obținute prin interceptarea semnalelor, aflate în posesia autorităților, și a ajuns la o concluzie decisivă, dar greșită, cu privire la încărcătura navei, transmite Hotnews.
Ulterior, analistul a folosit din nou AI pentru a sintetiza aceste constatări într-un raport de informații standard — de tipul celor care se bucură de încrederea oficialilor militari — și l-a transmis mai departe.
Nu a fost un incident izolat
Potrivit uneia dintre surse, genul de „halucinație” generat de instrumentul folosit de analist în acest caz nu a fost un incident izolat în cadrul comunității de intelligence, de când aceste instrumente au început să se răspândească la nivel guvernamental.
Implementarea AI în armată este menită să o ajute să ia mai rapid decizii pe câmpul de luptă, cum ar fi alegerea țintelor sau stabilirea locului în care se află anumite resurse militare, însă unii oficiali cu vechime în domeniul informațiilor consideră că aceste instrumente presează analiștii să elaboreze și să transmită informațiile mai rapid, deschizând astfel calea către erori.
În special analiștii tineri, potrivit mai multor surse, sunt utilizatori nativi ai acestor instrumente și tind să aibă mai multă încredere în ele, fără a le supune unei analize critice.