Dronă rusească ghidată de inteligență artificială ar fi ucis trei civili în Ucraina
O dronă rusească de tip Molniya, echipată cu un sistem experimental de inteligență artificială capabil să selecteze autonom ținta finală, ar fi ucis trei civili în orașul ucrainean Zaporojie, într-un atac desfășurat pe 6 iulie. Informația a fost relatată de The New York Times, pe baza analizelor realizate de experți ucraineni în drone, militari și anchetatori criminaliști.
Victimele au fost un student de 19 ani și doi bărbați cu vârste de 41 și 48 de ani. Potrivit anchetatorilor, drona fusese programată să se îndrepte către o benzinărie, însă în apropierea obiectivului sistemul de bord ar fi identificat singur ținta asupra căreia urma să lovească, cel mai probabil rezervoare de propan.
Un minicomputer Nvidia, găsit în epava dronelor
Unul dintre elementele care au atras atenția anchetatorilor este prezența unor minicalculatoare Nvidia Jetson Orin în dronele rusești recuperate după atacuri. Modulele, comercializate pentru aplicații civile și dezvoltare de sisteme AI, pot furniza puterea de calcul necesară procesării imaginilor și rulării unor modele de inteligență artificială la bord.
Dronele analizate nu aveau antene destinate comunicării cu un operator, deși erau dotate cu camere. În cazul formației care a atacat Zaporojie, experții ucraineni au afirmat că nu au detectat transmisii radio, un indiciu că aparatele puteau opera fără control permanent din partea unui pilot.
Totuși, este importantă o nuanță: faptul că drona putea selecta autonom ținta finală nu înseamnă neapărat că întregul atac a fost planificat de AI. Potrivit informațiilor publicate de NYT, oamenii ar fi stabilit destinația generală, iar sistemul autonom ar fi preluat decizia din etapa finală a atacului.
De ce reprezintă o schimbare importantă
În modelele de drone dotate anterior cu sisteme de viziune artificială, AI era folosit în special pentru etapa finală a atacului: după ce un operator uman identifica obiectivul, sistemul putea ajuta drona să-l urmărească și să-l lovească.
În cazul relatat acum, diferența este că decizia privind ținta exactă ar fi fost lăsată sistemului autonom. Experții consideră că aceasta poate reprezenta o etapă importantă în dezvoltarea armelor capabile să acționeze cu intervenție umană redusă sau absentă în momentul utilizării forței.
Atât Rusia, cât și Ucraina experimentează cu tehnologii AI pentru drone. Potrivit relatării NYT, Ucraina a susținut că Rusia testează astfel de sisteme în zona Zaporojie încă din luna mai, în timp ce partea ucraineană dezvoltă și ea sisteme capabile să identifice independent anumite ținte. Până la momentul relatării nu fuseseră raportate decese provocate de aceste sisteme ucrainene.
ONU și Crucea Roșie cer reguli internaționale
Dezvăluirile privind drona rusească au apărut într-un moment în care ONU și Comitetul Internațional al Crucii Roșii își intensifică apelurile pentru reglementarea armelor autonome.
Secretarul general al ONU, António Guterres, și președinta CICR, Mirjana Spoljaric, au cerut statelor să înceapă de urgență negocierile pentru un instrument juridic internațional privind sistemele autonome de arme. Cei doi avertizează că lumea se apropie de o „linie roșie morală” prin posibilitatea ca mașinile să ajungă să selecteze autonom oameni ca ținte.
CICR susține în special interzicerea armelor autonome ale căror efecte nu pot fi prevăzute sau controlate în mod adecvat și a sistemelor concepute sau utilizate pentru a aplica forța direct împotriva oamenilor. Pentru celelalte sisteme autonome, organizația recomandă restricții stricte și menținerea unui control uman semnificativ.
Un nou moment important este programat în noiembrie, la conferința de revizuire a Convenției privind anumite categorii de arme convenționale, unde statele vor putea decide dacă trec de la discuții la negocieri pentru un instrument juridic obligatoriu.
Cazul din Zaporojie readuce astfel în centrul dezbaterii una dintre cele mai dificile întrebări privind folosirea inteligenței artificiale în război: cât de multă autonomie poate avea o armă înainte ca decizia de a ucide să nu mai aparțină, în mod efectiv, unui om?
Surse: The New York Times
