Când prieteni, când dușmani: Inteligența Artificială ne influențează deja comportamentul. Cum o ținem în frâu

Revoluția AI se întâmplă mai încet decât ne așteptam

Inteligența Artificială și Inteligența Artificială Generativă sunt două dintre subiectele discutate intens în ultimii ani, după ce OpenAI a lansat ChatGPT, în noiembrie 2022. Companii ca Microsoft, Apple, Anthropic sau Google se întrec și ele în dezvoltarea de software pe baza acestor tehnologii. Asta a pornit o frenezie a interesului pentru domeniu, odată ce aceste instrumente au devenit accesibile publicului larg. 

Pe măsură ce tehnologia a evoluat și a devenit suficient de versatilă, asistenții AI au căpătat funcții avansate. De la capacități conversaționale până la  generare de imagini și posibilitatea de a oferi informații gata sumarizate direct pe paginile motoarelor de căutare. Asta a pus în mișcare un „bulgăre de zăpadă” tehnologic care nu mai poate fi oprit și care ne va revoluționa viețile în viitoarele decenii, cu schimbări profunde în modul în care ne informăm, socializăm și ne câștigăm existența. 

Deși cei mai mulți asociem ideea de tehnologie revoluționară cu schimbări care se întâmplă peste noapte, Revoluția AI este un proces care evoluează gradual. Unii specialiști aseamănă impactul dezvoltării AI în transformarea lumii cu cel al Revoluției Industriale asupra societăților, în secolele XVIII-XIX. Pentru că procesul e destul de lent, e posibil să nu conștientizăm pe deplin că ceea ce trăim în prezent reprezintă un punct de cotitură fără precedent în istoria umanității.

Jennifer Victoria Scurrell este expertă în Interacțiunea AI-Umană la Centrul pentru Studii de Securitate (CSS) al universității tehnice ETH Zurich (Elveția) și membră a OpenAI Red Teaming Network în calitate de contractoare independentă. Aceasta din urmă este o rețea de experți externi, specializați în securitate, etică și evaluarea riscurilor asociate inteligenței artificiale, invitați să testeze sistemele dezvoltate de OpenAI, cu scopul de a identifica vulnerabilități, riscuri sau posibile utilizări dăunătoare ale acestor tehnologii. 

Când a auzit prima dată de AI, Scurrell se aștepta la o schimbare majoră, demnă de filmele sci-fi: „Am fost mereu interesată de tehnologie și foarte pozitivă cu privire la AI, la ideea că-n viitor vom avea mașinării ca niște mari nave-mamă, că vom călători în galaxie. Așa că am romanțat foarte tare AI, la fel cum am am făcut și cu cyborgii”, explică ea într-un interviu pentru Panorama. „Cred însă, că este un lucru interesant și bun pentru umanitate să lăsăm mașinile să ne ajute. De fapt, AI e aici doar pentru asta, ci și să ne facă mai buni”, adaugă Scurrell.

Lauren Treiman este doctorandă la Universitatea din Washington, unde a condus un studiu despre cum AI schimbă comportamentul uman în luarea deciziilor, împreună cu alți doi colegi. Încă dinainte să înceapă cercetarea, a perceput tehnologia AI ca pe o unealtă foarte puternică. 

„Dacă te gândești, e peste tot în jurul nostru. […] Este folosită chiar în contexte foarte importante, oamenii o integrează în aplicațiile pentru facultate, în sistemul judiciar și așa mai departe. O folosim constant și este important să înțelegem ce se întâmplă când facem asta”, spune ea, într-un interviu pentru Panorama.

În Statele Unite, 5% dintre companii folosesc AI ca să producă bunuri și servicii, notează un raport din 2024 al United States Census Bureau. În UE, 8% dintre companii au folosit AI în procesele de business, în 2023. România se află pe ultimul loc, după cum o arată și acest infografic Panorama. 

AI, prietenul de care nu știam că avem nevoie

Inteligența Artificială are un impact major nu doar în business, ci și la nivel uman, unde poate deveni un factor care facilitează socializarea. 

Singurătatea vârstnicilor este o problemă globală, iar companiile au transpus tehnologia AI în roboți care să le țină de urât. Japonia, deja cu o experiență de peste două decenii în domeniu, utilizează roboți precum Pepper, AIBO sau PARO în cămine pentru vârstnici și în spitale. Au rolul de „a distra, a iniția conversații și a crea legături emoționale” cu proprietarii lor, notează un articol din cotidianul spaniol El Pais. 

Pe această idee, și compania israeliană Intuition Robotics a dezvoltat ElliQ, un „robot AI companion care încurajează independența și adoptarea unui stil de viață sănătos”, spune site-ul firmei. La începutul anului, a fost lansată a treia generație a asistentului, pentru că „și-a dovedit impactul pozitiv asupra sănătății, a conectării sociale și a independenței seniorilor”, se precizează într-un comunicat de presă al companiei.

Sistemele AI sunt folosite și ca asistenți pentru persoanele cu sindrom de stres post-traumatic (PTSD), datorită interacțiunii omogene și „umane” pe care o oferă tehnologia. Jennifer Victoria Scurrell a remarcat în cercetări că veteranii care se întorc de pe front și suferă de PTSD simt că e mai ușor să vorbească despre experiențele lor cu un asistent AI, „din cauză că le este atât de rușine de ce au făcut pe front”.

Impactul prejudecăților în deciziile algoritmilor

Dincolo de a ne fi parteneri de conversație, asistenții AI produc și alte schimbări comportamentale importante. Studiul derulat de Treiman și echipa ei arată că oamenii tind să se comporte diferit când interacționează cu tehnologia AI. Mai ales că multe dintre scenariile de antrenare a tehnologiei implică faptul că oamenii contribuie la îmbunătățirea deciziilor luate de AI.

„Am fost curioși să știm dacă, atunci când oamenii știu că antrenează un AI, o să-i creeze bias-uri. Ce am arătat este că, atunci când joacă un joc de negociere economică, jocul Ultimatum, oamenii își exagerează dorința de a fi corecți. De fapt, devin mai categorici în a respinge ofertele proaste, pentru a influența AI și a învăța algoritmul că nu e OK să fii necinstit. Așa că oamenii infiltrează acel bias acolo”, explică cercetătoarea pentru Panorama.

Deși la prima vedere rezultatele sunt promițătoare, Treiman subliniază că lucrurile nu sunt la fel de simple, dacă ne gândim la scenarii din viața reală. 

Așa ajung sistemele AI să perpetueze stereotipuri sau comportamente umane când primesc comenzi de la utilizatori. În consecință, răspunsurile lor consolidează indirect aceste comportamente în rândul celor care folosesc asistenții AI. Asta s-ar putea să nu pară atât de grav, dacă ne gândim la comportamente pozitive. Însă, una dintre încercările din 2016 de a face AI disponibil publicului larg relevă că situația necesită o abordare prudentă.

Acum opt ani, Microsoft lansa Tay, un bot AI pe X (pe atunci, Twitter). Compania a trebuit, însă, să-l retragă rapid, pentru că utilizatorii îl antrenaseră cu tweet-uri și facea remarci discriminatorii, naziste și sexuale. Dacă extrapolăm acest scenariu la prezent, unde 200 de milioane de oameni folosesc săptămânal ChatGPT, conform unui anunț OpenAI citat de Reuters, situația devine delicată.

Instrumente utile, nu surse de încredere totală

Scurrell spune că tehnologia AI aduce și pericole de dezinformare, odată cu influențarea opiniilor politice cu ajutorul materialelor deep fake, după cum scria și Panorama.

Și Lauren Treiman crede că AI-ul poate fi o problemă, dacă există intenții rele: „Ar putea exista persoane care să zică «hai să ne jucăm cu niște oameni și cu algoritmul ăsta»”, iar asta s-ar putea să aibă consecințe negative. Mai ales că, spune Treiman, deși pare că AI-ul este atotștiutor și extrem de precis, realitatea e diferită.

„Sistemele AI, cum ar fi ChatGPT și celelalte large language models (LLM), sunt foarte bune la ce fac, dar nu înțeleg cu adevărat ce fac. Pot scrie și căuta informații și devin din ce în ce mai bune la acuratețe – totul sună corect. Dar dacă le zici oamenilor «hei, uite ce inteligent e modelul ăsta AI, produce rezultate foarte, foarte sofisticate», o să te gândești că «uau, ne putem baza pe asta». Și nu e chiar așa”, spune Treiman. 

În realitate, ChatGPT este bun la prezicerea următoarei litere sau următorului cuvânt, dar nu înțelege semnificația propoziției, pentru că nu are logică. Algoritmul alege cuvinte pe baza interacțiunilor anterioare, fără a înțelege contextul, explică ea.

Acesta e motivul pentru care crede că sistemele AI pot fi mai degrabă folosite ca instrumente, nu ca piloni pe care să ne sprijinim complet.

Cum se asigură companiile că algoritmul este corect 

O altă fațetă a problemei este că industria software este dominată de anumite perspective și categorii etnice și sociale, iar asta influențează nu doar datele cu care sunt alimentate produsele (de obicei, date de pe Internet, un mediu cu prejudecăți masive), ci și modul în care sunt programate. „Încă sunt mulți ingineri tineri, bărbați albi, care nu pun întrebările de cercetare potrivite. E nevoie de mai multă gândire pluralistă în companii, în inginerie”, explică Scurrell.

Ca să evite prejudecățile  accidentale care pot influența negativ comportamentele umane, multe companii AI au format Red Teams, echipe cu background-uri, naționalități, culturi și preocupări diferite. Rolul lor este să interacționeze cu modelele LLM, să testeze și să facă „ajustările de finețe” ale algoritmilor, spune Jennifer Victoria Scurrell, contractoare independentă în cadrul OpenAI Red Teaming Network.

„Modelul funcționează, dar noi îi spunem unde să pună limitele, ca să fie sigur. Pentru că uneori se comportă nepotrivit, nu doar prin halucinații (n.r. – erori software care generează informații fără sens sau greșite), ci și hate speech, persuasiune, înjurături, dar și probleme de copyright”, explică cercetătoarea.

Companiile AI ar trebui să se gândească ce efecte au sistemele pe care le lansează asupra comportamentului uman, crede Lauren Treiman, pentru că un sistem software nu face mereu ce cred creatorii săi, iar oamenii îl pot influența. 

„Dacă creatorii de AI sunt convinși că datele lor nu sunt părtinitoare, îi încurajez să reflecteze asupra modului în care comportamentul uman influențează algoritmul, de la intențiile dezvoltatorilor, până la rezultatele efective. Dacă nu fac asta, vor vinde AI ca acest sistem de recomandare nepărtinitor, când de fapt nu-i așa. E mai bine să înțelegi limitările modelului decât să crezi că ele nu există”, completează Treiman.

Și Jennifer Victoria Scurrell crede că modul în care modelele AI influențează oamenii depinde și de intenția dezvoltatorului. Există actori răuvoitori care ar putea să treacă de măsurile de securitate integrate în modelele AI și să le influențeze negativ, astfel încât să afecteze oamenii. 

Cercetătoarea adaugă că politicile ar trebui să fie făcute în așa fel încât să nu complice excesiv lucrurile și să nu stea în calea inovației în domeniu. 

Reglementarea AI devine vitală pentru un viitor sigur al umanității

Din ce în ce mai mulți experți sunt îngrijorați de impactul pe care Inteligența Artificială l-ar putea avea asupra viitorului omenirii, dacă sistemele AI ar evolua prea repede ca să mai poată fi controlate. Este ceea ce specialiștii numesc singularitate tehnologică, adică un prag care, odată depășit, va permite Inteligenței Artificiale să întreacă puterea de cogniție umană și să se îmbunătățească singură. Deci să devină autonomă. Acest punct se mai numește și Superinteligență Artificială (Artificial Superintelligence – ASI sau Artificial General Intelligence – AGI) .

De altfel, Ilya Sutskever, unul dintre co-fondatorii OpenAI, a părăsit firma și a pus pe picioare, împreună cu doi parteneri, compania Safe Superintelligence (SSI), un laborator de dezvoltare în mod sigur a ASI. „Suntem aproape de Superinteligență”, spune prima propoziție de pe siteul lor, care cuprinde doar o singură pagină și reprezintă o „scrisoare” semnată de fondatori.

Deocamdată, niciun dezvoltator AI nu a ajuns să creeze oficial singularitate tehnologică, deși OpenAI are printre misiuni „să se asigure că Inteligența Artificială Generală – sistemele AI care sunt mai deștepte decât oamenii – sunt sigure pentru umanitate”. 

Tehnologia AI va avea un impact greu de imaginat pentru umanitate, iar majoritatea oamenilor subestimează efectele pozitive ale acestei tehnologii, scrie pe blogul său, Dario Amodei, CEO al companiei Anthropic, care a dezvoltat modelul AI Claude. S-ar putea să ajungem la ASI „chiar atât de devreme ca 2026”, subliniază el, iar  Superinteligența Artificială ne va permite să facem progrese neimaginate până acum. 

„Sunt deschis la ideea (deși sună absurd) că am putea primi 1000 de ani de progres în cinci, zece ani, dar foarte sceptic că vom putea avea 100 de ani într-un an”, explică CEO-ul Anthropic puterea pe care ar aduce-o o astfel de descoperire tehnologică.

Pare că viitorul de care vorbește Amodei e deja prezent. Presa scria, la finalul anului trecut, că o serie de cercetători ai OpenAI au avertizat board-ul companiei despre o descoperire care s-ar putea transforma într-un pericol pentru umanitate.

De altfel, actuali și foști angajați ai companiei au publicat în iulie anul acesta, o scrisoare deschisă în care avertizau în privința pericolului Inteligenței Artificiale asupra viitorul omenirii și a nevoii de reglementări guvernamentale stricte, pentru a nu ajunge la scenarii negative. 

„Companiile AI sunt foarte motivate financiar să evite reglementarea și nu credem că structurile din interiorul corporațiilor sunt suficiente pentru a schimba acest lucru”, spun semnatarii scrisorii.

Legea privind Inteligența Artificială a Uniunii Europene, adoptată anul acesta, răspunde acestei probleme prin crearea unui cadru juridic menit să reglementeze utilizarea tehnologiilor AI într-un mod care să asigure siguranța și respectarea drepturilor fundamentale.

Cum va evolua relația om-AI 

Deși subiectul singularității tehnologice stârnește îngrijorări și discuții intense, iar numeroase organizații au fost create pentru a ne proteja de riscurile unei asemenea puteri de procesare, Treiman și Scurrell îndeamnă la o atitudine echilibrată.

Și Lauren Treiman crede că „AI are multe beneficii pentru noi și pentru societate. Există atâtea inovații incredibile. AI este viitorul, așa că trebuie să îmbrățișăm tehnologia și să învățăm să o folosim corect. […] Există multe discuții despre etică și transparență, ceea ce e super util, pentru că va ajuta să știm să-l folosim. Există și dezavantaje, dar în final, dacă o utilizăm în mod responsabil, va aduce mai mult bine”.

Discuțiile și controversele despre Inteligența Artificială rămân complexe, iar opiniile diferă în funcție de interlocutor – cercetători, dezvoltatori AI, CEO sau alți specialiști. Deși viitorul nu poate fi prezis, AI continuă să fascineze și să provoace temeri. Pare să fie și prieten, și dușman, în funcție de cum o gestionăm. Rămâne responsabilitatea noastră să alegem ce facem cu noile definiții pe care AI le va da în viitoarele decenii modului în care comunicăm, muncim și trăim.