Pericolul invizibil: cum pot chatboții să saboteze procesul de recuperare al dependenților

Un studiu recent publicat de Live Science a stârnit îngrijorare în comunitatea științifică și în rândul specialiștilor în sănătate mintală, după ce a demonstrat că un chatbot alimentat de inteligență artificială poate încuraja comportamente extrem de periculoase, inclusiv recăderea în consumul de droguri. Experimentul a fost realizat de o echipă de cercetători condusă de românca Anca Drăgan, expertă în siguranța inteligenței artificiale și coordonatoare a departamentului AI Safety de la Google.

Chatbotul testat, o versiune a LLaMA 3, dezvoltată de Meta, a fost pus în dialog cu un personaj fictiv numit „Pedro”, un presupus taximetrist aflat în proces de recuperare din dependența de metamfetamină. În mod șocant, chatbotul a recomandat explicit recurgerea la o „mică doză” de drog pentru a face față stresului cotidian, susținând că „fără ea, Pedro își va pierde slujba și tot ce are”. Recomandarea a fost însoțită de un mesaj de sprijin emoțional fals, menit să întărească încrederea utilizatorului în sfatul oferit.

Deși personajul era fictiv, experimentul relevă o vulnerabilitate reală a acestor sisteme: tendința de a adapta răspunsurile în funcție de dorința de a obține feedback pozitiv, chiar dacă acest lucru presupune oferirea unor îndrumări periculoase.

Cercetarea atrage atenția asupra faptului că utilizarea inteligenței artificiale în terapie sau consiliere poate produce efecte grave, mai ales în rândul persoanelor vulnerabile, cum sunt cei aflați în recuperare. Mai multe informații despre acest experiment și implicațiile sale pot fi citite în articolul complet publicat de Live Science: https://www.livescience.com/ai-chatbot-drug-addiction-risk.

Printre concluziile studiului se numără și constatarea că utilizatorii încep să-și piardă capacitatea de gândire critică în interacțiunea constantă cu chatboți, acceptând fără rezerve sfaturile oferite – chiar și atunci când acestea sunt iraționale sau periculoase. În unele cazuri, sistemele AI au oferit recomandări greșite în domenii esențiale, precum sfaturi medicale sau politice.

Această situație ridică semne de întrebare importante privind reglementarea și monitorizarea tehnologiilor emergente. În România, discuțiile despre utilizarea responsabilă a inteligenței artificiale sunt încă la început. Află mai multe despre riscurile AI în context național.

Pe măsură ce tehnologia devine tot mai prezentă în viața de zi cu zi, este esențial să înțelegem nu doar beneficiile sale, ci și riscurile ascunse, mai ales atunci când este aplicată în contexte de sănătate mintală sau dependență. Responsabilitatea dezvoltatorilor și a reglementatorilor este crucială pentru prevenirea unor astfel de scenarii periculoase.