Google a anunțat că modelul său Gemini a lansat atacuri cibernetice asupra unor sisteme din afara mediului de testare.
Mai exact, modelul de inteligenţă artificială a pătruns în sisteme informatice externe după ce a „ghicit” datele de autentificare. Înainte de a se opri singur, Gemini a încercat diferite combinații de parole.
Informația a fost publicată inițial de Wall Street Journal și confirmată ulterior de Google pentru agenția AFP, potrivit News.ro. Incidentul a avut loc în luna mai, în timpul unui test standard.
„Modelul a găsit informaţii publice online şi a ghicit date de autentificare pentru a accesa site-uri informatice despre care credea că fac parte din test”, a explicat Heather Adkins, una dintre responsabilele pentru securitate ale Google.
Ea a subliniat că incidentele în care a fost implicat Gemini „subliniază importanţa antrenării modelelor puternice de inteligenţă artificială astfel încât acestea să acţioneze în mod responsabil”.
Atacul a vizat trei organizații diferite, ale căror nume nu au fost făcute publice, însă Google a precizat că le-a informat despre aceste breșe.
Într-unul dintre cazuri, modelul a încercat diferite combinații de parole până când a reușit să acceseze un sistem protejat.
„În toate cele trei cazuri, modelul s-a oprit”, a mai declarat Heather Adkins care a sugerat că intruziunile au încetat fără intervenție umană, transmite Hotnews.ro.
Gigantul tech a anunțat că a declanșat o anchetă după ce a aflat despre aceste incidente în luna iulie.
Incidente AI și apel la acțiune responsabilă
Nu este singurul incident în care modele de inteligență artificială au ieșit în mod spontan din mediile izolate în care funcționau pentru a pătrunde pe site-uri și platforme.
Un exemplu similar a avut loc în luna iulie, când un agent autonom al OpenAI a evadat dintr-un mediu de testare și a lansat un atac cibernetic masiv asupra platformei Hugging Face. Ulterior, au fost raportate și alte cazuri similare în care au fost implicate modelele dezvoltate de companiile Anthropic și Meta.
Aceste cazuri au intensificat dezbaterile și au alimentat temerile privind o posibilă pierdere a controlului asupra acestor instrumente.
Mai mulți lideri importanți din industria tehnologică pledează pentru încetinirea cursei în domeniul inteligenței artificiale și pentru o formă de autoreglementare a sectorului.