Viitorul internetului e aici și mulți se tem de el. Va lua Inteligența Artificială Generativă pâinea de la gura creatorilor de conținut?

Dezinformare, manipulare și deepfake

Angie Holan, directoarea International Fact-Checking Network, o inițiativă din cadrul Poynter Institute (SUA), care promovează verificarea informațiilor prin crearea de standarde în domeniu, crede că deocamdată nici nu înțelegem pe deplin cum va schimba tehnologia AI spațiul media. Problema apare pentru că această tehnologie poate fi folosită și pentru scopuri benefice, dar și în mod negativ.

„Există oameni care folosesc AI pentru a crea campanii politice de dezinformare. Așa că vedem materiale deepfake audio. Au fost multiple cazuri apărute în presă despre mesaje audio false făcute să sune ca, de exemplu, Joe Biden. Sunt mesaje false folosite cu diferite scopuri. Unele sunt folosite ca susținere falsă, unele au informații false despre data și ora votului. Deci, practic, oriunde ai putea găsi dezinformare, poți găsi și dezinformare generată de AI”, spune Holan.

Un material recent al Recorder arată că fenomenul deepfake alimentat de AI e foarte prezent și în România. Pe rețelele sociale circulă numeroase reclame false create cu AI care imită vocea unor vedete, oameni politici sau oameni de afaceri și folosesc fragmente video din diverse emisiuni sau podcasturi, pentru a promova diverse metode de îmbogățire rapidă și escrocherii de investiții. Practic, demonstrează jurnaliștii, prin folosirea AI s-au creat rețele infracționale complexe care atrag mii de utilizatorii creduli și îi lasă fără banii din conturile bancare.

Angie Holan povestește că există și boți AI care postează într-un ritm foarte rapid informații, iar asta generează o problemă pentru organizațiile de presă, care nu pot ține ritmul cu sistemele automatizate.

Chiar și când nu sunt la mijloc intenții necinstite, Inteligența Artificială tot poate dezinforma publicul. Sistemele AI „halucinează” uneori, adică anumite erori de algoritm oferă informații care nu sunt conforme cu realitatea (majoritatea dezvoltatorilor AI susțin că încearcă să reducă la minimum aceste erori software).

„Din punctul meu de vedere, una dintre marile probleme ale AI este că nu are sisteme integrate care să asigure acuratețea. Un Language Learning Model (n.r. – LLM, adică algoritmul „de învățare” pe care se construiesc sistemele AI) funcționează prin predicție lingvistică, iar când sistemele AI se lovesc de o informație care le lipsește, o completează cu diverse cuvinte. Așa că apar situații ca cea în care Google a încercat să implementeze o soluție AI care spunea utilizatorilor să mănânce pizza cu lipici pe ea”, completează Holan.

Lipsa politicilor clare împotriva conținutului AI fals afectează scriitorii

Jane Friedman, care are 25 de ani de experiență în industria de publishing, este scriitoare și editorul The Hot Sheet, un newsletter despre industria de profil. În vara lui 2023, a fost contactată de un cititor. Acesta descoperise că o serie de cărți ale autoarei se află la reducere pe Amazon. Friedman nu știa la ce se referea cititorul, așa că a verificat pe platformă și a descoperit titluri care îi purtau numele, dar pe care nu le scrisese.

„Am informat Amazon că cineva îmi folosea numele pe cărți pe care nu le scrisesem. Dar, pentru că folosirea AI pentru a scrie cărți nu este ilegală și există mulți oameni cu numele meu, Amazon nu a luat nicio măsură imediată”, povestește Jane Friedman, într-un interviu via Google Meet pentru Panorama.

„Abia după ce am insistat au dat jos de pe site cărțile, pentru că era clar că cineva încerca să păcălească consumatorii și să facă o fraudă”, completează ea. Cărțile ei erau listate nu doar pe Amazon, ci și pe pagina de autor de pe platforma Goodreads, un site care aparține Amazon și este un fel de rețea socială dedicată cărților și pasionaților de citit.

„Nu se potrivea cu genul meu de scriitură, nu se potrivea cu vocea sau stilul meu. Nu cred că cineva a avut grijă să le facă să sune ca mine. A fost vorba doar de a crea conținut care ar fi putut fi asociat cu mine, apoi mi l-au atribuit”, mai explică ea în interviul pentru Panorama.

Jane Friedman spune că nu știe cine i-a folosit numele pentru cărțile generate de AI, pentru că Amazon nu i-a oferit această informație, iar ca să o obțină ar fi trebuit să intenteze un proces, ceea ce ar fi generat costuri mari. Autoarea s-a limitat la căile oficiale de sesizare către Amazon, ocazie cu care a constatat că platforma nu are o procedură în asemenea situații.

„Nu există cereri de retragere pentru acest tip de fraudă. Au prevederi legate de încălcarea dreptului de autor sau de utilizare a mărcii, dar ceea ce mi s-a întâmplat mie nu se încadrează nici la încălcarea dreptului de autor, nici la încălcarea dreptului de utilizare a mărcii. Așa că, deși le-au retras în final, a fost în ciuda regulilor pe care le au, nu mulțumită lor”, spune Friedman. Ea mai explică că probabil platforma a dat jos cărțile mai degrabă în urma presiunilor făcute și a faptului că subiectul a ajuns în media, ceea ce afecta imaginea Amazon, dar spune că nu a primit nicio explicație ulterioară din partea companiei.

Citește și:

• Din cloud, pe laptop și telefon. Cum ne afectează securitatea planul giganților tech pentru noile aplicații AI locale

• Job-urile din industriile creative, față în față cu Inteligența Artificială: s-a dus și ultima frontieră umană?

Viitorul industriilor culturale e incert în era AI

Odată cu dezvoltarea tehnologiei, sistemele AI vor deveni din ce în ce mai „cizelate” și mai capabile să producă conținut care să imite aproape perfect conținutul creat de om. Asta îi îngrijorează pe cei de la The Authors Guild, organizație americană cu o tradiție de peste un secol în apărarea drepturilor scriitorilor și autorilor.

Umair Kazi, directorul de advocacy al The Authors Guild, spune că una dintre cele mai mari îngrijorări legate de Inteligența Artificială și impactul ei asupra autorilor de conținut este diluarea pieței de profil.

„Generative AI poate produce cărți și lucrări de mari dimensiuni. Nu sunt mereu perfecte, dar vor deveni mai bune pe măsură ce AI-ul Generativ devine mai bun. Dar ce ne îngrijorează este că acele lucrări AI care pot fi produse foarte repede vor intra pe piață și vor afecta lucrările scrise de membrii noștri, autorii umani, pentru că sunt mai rapid și mai ieftin de produs. Unui autor poate să-i ia un an întreg să scrie o carte de nonficțiune bine documentată. Dar cu Generative AI și tu poți scrie o carte”, spune Kazi pentru Panorama, într-o conversație via Google Meet.

El povestește că organizația lucrează cu entități ca Amazon, așa că a văzut cum utilizatori rău intenționați folosesc conținutul generat de AI pe platformă. Principala problemă în această situație, arată Kazi, e că utilizatorii obișnuiți nu-și dau mereu seama că au fost păcăliți cu acest conținut. Iar chiar dacă acum calitatea lucrărilor generate de AI nu e comparabilă cu cea a lucrărilor generate de scriitori reali, acest lucru s-ar putea schimba în viitor.

O altă problemă este că bazele de date și conținutul scriitorilor sunt folosite pentru a antrena modelele de AI, mai ales pentru că acest gen de conținut este înalt calitativ pentru sistemele LLM, detaliază Kazi. Totuși, la fel ca în cazul articolelor de presă, adesea, scriitorii nu și-au dat acordul ca operele să le fie folosite pentru a antrena modele AI. „Cărțile au fost pur și simplu folosite. Nu au fost plătiți. Iar rezultatul este că ai o tehnologie care ar putea, practic, să ucidă întreaga industrie bazată pe scris, pe arta de a scrie”, mai spune Kazi.

Sistemele AI pot fi folositoare autorilor, dacă sunt utilizate corect, iar Kazi menționează că știe că există deja publisheri care le folosesc pentru a scrie automat textele de marketing.

Reglementarea și colaborarea onestă sunt drumul către echilibru

Similar cu ce se întâmplă în industria literară, și industria de media are nevoie de protecție împotriva abuzurilor comise cu ajutorul Inteligenței Artificiale. Din acest motiv, Courtney Radsch a creat un cadru pentru protecția și compensarea jurnaliștilor și organizațiilor de media pentru folosirea conținutului lor de către sistemele AI.

„Framework-ul se uită la informația care ajunge în sistemele AI, ce se procesează și ce se generează. Așa că identifică unde se creează valoare în jurnalism, luând în considerare anumite părți ale sistemului AI”, spune ea.

„Analizează arhive, date create în timp real și modul în care acestea pot fi folositoare pentru diferite părți ale modelelor de sisteme AI, de exemplu dezvoltarea și antrenarea de Large Language Models sau alte sisteme fundamentale care se bazează parțial pe accesul la informație de calitate”, continuă Radsch.

Pe măsură ce tehnologia va evolua, mai spune experta, conținutul de calitate va deveni din ce în ce mai valoros, iar organizațiile de media ar trebui să evalueze valoarea arhivei de conținut pe care o au, dar și conținutul pe care îl produc în prezent.

O altă parte a cadrului dezvoltat de Radsch se referă la „halucinațiile” pe care sistemele AI le pot produce. Pentru a evita acest risc, sistemele AI au nevoie de acces la informații în timp real sau la informații actualizate care să permită ajustări de precizie ale modelelor LLM. Acest beneficiu de acces la conținut de înaltă calitate poate fi oferit de către organizațiile de media către companiile de tehnologie.

„Apoi, avem nevoie să analizăm cum stabilim valoarea. Va fi o taxă unică, plătită o dată? Vor fi plătite drepturi de utilizare? Cum se poate evalua valoarea folosirii acestor unelte în redacții?”, se întreabă Radsch, în conversația cu Panorama.

Ce ar trebui să facă organizațiile media, crede ea, este să evalueze nu doar ce beneficii le aduc sistemele AI redacțiilor, ci și ce le oferă redacțiile în antrenarea acestor sisteme și cum poate fi monetizată această valoare, prin crearea de licențe sau drepturi de utilizare.

Două alte elemente esențiale incluse de Radsch în framework-ul creat sunt partea legislativă și partea de protecție a mediului. Politici și reguli clare legate de drepturile de proprietate intelectuală și copyright, dar și răspunderea intermediară (n.r. – intermediary liability) care nu se aplică în prezent companiilor dezvoltatoare de AI, ar ajuta la evitarea monopolului, a situațiilor abuzive, dar și a impactului asupra mediului.

Deocamdată, Uniunea Europeană e în avangarda reglementării Inteligenței Artificiale. Pe 1 august 2024, a intrat în vigoare European Artificial Intelligence Act (AI Act), care are ca scop să „încurajeze dezvoltarea și implementarea responsabilă a Inteligenței Artificiale în Uniunea Europeană”, spune comunicatul de presă al Comisiei Europene.

Practic, AI Act le oferă dezvoltatorilor de AI și celor care implementează această tehnologie reguli și obligații clare legate de modul în care tehnologia AI poate fi folosită. Setul de reguli aduce și un mod de evaluare a sistemelor AI, pe baza unor criterii legate de risc pentru public (de la cel mai scăzut, ca sistemele AI care trimit mesaje spam, până la cel mai ridicat, ca sistemele AI care stau în calea drepturilor omului prin utilizarea abuzivă de către diverse entități).

Cum cădem la pace cu AI

În ceea ce privește viitorul relației dintre AI-ul aflat în plină expansiune și creatorii de conținut, Peter Erdelyi crede că există o problemă de reglementare în general. Supra-reglementarea, spune el, va sta în calea găsirii unei soluții inovatoare, iar fricțiunile dintre companiile mari creatoare de sisteme AI și industria de media evoluează mult prea rapid.

Deși nimeni nu știe exact cum va evolua situația, Erdelyi crede că e important să se creeze niște politici, astfel încât creatorii de conținut și publisherii să poată fi recompensați, iar colaborarea să fie mai constructivă.

Courtney Radsch spune că Inteligența Artificială va continua să fie integrată în redacții, prin parteneriatele dintre companiile de tehnologie și publisheri. „Mă îngrijorează că aceste parteneriate și înțelegeri vor crea din nou o dependență de câteva platforme de tehnologie”, explică ea.

O soluție ar putea fi lucrul cu companiile mai mici, cu start-up-uri sau cu companiile care plătesc onest licențe. „Cred că (redacțiile – n.r.) au nevoie să se gândească la alegerile pe care le fac cu privire la produsele pe care le integrează și cum reflectă valorile legate de interesul public, pentru a nu consolida dependența de câteva platforme de tehnologie, așa cum s-a întâmplat atunci când au făcut alegerile din era social media”, completează Radsch.

Viitorul creatorilor de conținut și a entităților media, crede Angie Holan, stă în capacitatea acestora de a-și asigura modele financiare durabile, mai ales că, în general, calitatea conținutului din online scade.

Inteligența Artificială a pus în mișcare schimbări sociale și economice care vor redefini modelele de business, comportamentul uman și piața muncii din viitorii ani. Dincolo de reglementare, ne așteaptă și un proces de adaptare la noi moduri de a face lucrurile. Chiar dacă acum, în mijlocul acestei revoluții tehnologice, ne e greu să îi percepem amploarea, viitorul e deja aici și nu mai poate fi pus pe pauză.