Surveillance capitalism sau când algoritmii ne spun ce și când să cumpărăm. Cât de liber mai e liberul arbitru pe internet?
Abonează-te la canalul nostru de WhatsApp, pentru a primi materialul zilei din Panorama, direct pe telefon. Click aici
Economia digitală a evidențiat o vorbă care pare că oferă o oglindă perfectă a vremurilor pe care le trăim: „data is the new oil” (datele sunt noul petrol). În acest El Dorado 2.0 al economiei digitale, giganți din tehnologie ca Amazon, Google, Facebook și Apple – cunoscuți sub numele de Big Tech – colectează date despre utilizatori. Și o fac mai mult sau mai puțin la vedere.
Pe mai departe, însă, asemenea prelucrării țițeiului, sistemul a devenit unul extrem de sofisticat și aceste date au fost puse serios la treabă pentru a face bani. S-a trecut de la colectare la prelucrare, de la prelucrare la armonizare și de la armonizare la manipularea obiceiurilor de consum.
E o spirală care se tot dezvoltă și, culmea, pare că abia își turează motoarele, din moment ce pe margine „se încălzesc” deja sistemele bazate pe inteligență artificială (AI). Termenul care descrie cel mai bine aceste practici și sistemul pe care îl compun poartă numele de „surveillance capitalism” sau capitalismul de supraveghere. Conceptul a fost popularizat de Shoshana Zuboff, fostă profesoară de economie și drept la Harvard și autoarea The Age of Surveillance Capitalism, un bestseller devenit referință pentru oricine vrea să înțeleagă forțele care ne dictează comportamente de zi cu zi.
- Surveillance capitalism e un termen popularizat de Shoshana Zuboff, autoarea bestseller-ului The Age of Surveillance Capitalism. Fostă profesoară la Harvard, aceasta explică felul în care comportamentele de consum sunt puternic influențate de mașinăriile de colectare și de analiză a datelor utilizatorilor, un ecosistem întreținut de Big Tech.
- Giganții din tehnologie (Google, Facebook și restul) au învățat cum să ne capteze atenția și să ne țină cât mai mult pe platformele lor. Acum, același mecanism e folosit și de marii jucători din comerțul online, care profită din plin de volumul impresionant de date colectat de la utilizatori, mai mult sau mai puțin la vedere.
- Cele mai recente statistici confirmă faptul că stăm tot mai mult online și profităm din plin de avantaje. Comerțul online înregistrează creșteri spectaculoase de la an la an, iar numărul de căutări pe Google, spre exemplu, e, în medie, de aproape 100.000 pe secundă.
- Guvernele din toată lumea au început să facă eforturi pentru a reglementa noile tehnologii, cu scopul final de a mai contrabalansa din puterea pe care o au marile companii. Procesul este unul îngreunat tocmai de viteza cu care se dezvoltă domeniul.
- Pe mai departe, însă, nu mai e vorba doar de ghidarea utilizatorilor spre un produs sau altul. Metodele întâlnite în capitalismul de supraveghere ar putea fi preluate și de entități statale și ar putea reprezenta un risc la adresa democrațiilor.
În carte, Zuboff susține că aceste practici ale giganților din tehnologie au rolul de a colecta date despre utilizatori și de a le folosi într-un mod care era inimaginabil nu mai departe de acum câțiva ani.
Spre deosebire de forma clasică, „simplă” a capitalismului – unde oferta înseamnă producerea de bunuri și servicii care să satisfacă în mod direct cererea -, în capitalismul de supraveghere, lucrurile stau cu totul altfel. Oferta nu numai că produce bunuri și servicii, dar învață comportamentele de consum și apoi le dirijează după bunul plac. Și totul se face cu ajutorul datelor.
Pare un episod din Black Mirror, dar nu e deloc o oglindă neagră, ba din contră: e oglinda extrem de clară a economiei digitale de azi.
Surplusul comportamental, profilul pe care ni-l fac algoritmii
Cum știm deja, orice utilizator lasă pe internet urme – deseori cunoscute sub numele de cookie-uri. Asta e doar partea care se vede, dar mecanismul e mai complex de atât.
Autoarea cărții The Age of Surveillance Capitalism susține că algoritmii analizează comportamentele din online, ce site-uri preferă utilizatorii, care le sunt obiceiurile de consum, de ce sunt interesați.
Cel mai vizibil efect e extrem de simplu de observat azi de oricine: dacă o să cauți pe net, să zicem, un laptop, toată activitatea ta din online va fi bombardată apoi cu reclame la diverse modele de laptopuri.
Dar e doar vârful unui iceberg.
„Ceea ce aduce nou viața online, desfășurată pe platforme sociale sau comerciale (iar granița dintre ele este mai degrabă formală), este o încadrare într-un sistem în care comportamentele noastre pot fi măsurate, explicate și prezise”, explică, pentru Panorama, Constantin Vică, conferențiar la Facultatea de Filosofie, Universitatea din București și coordonator al programului de master de Etică aplicată.
Pe mai departe, arată Vică, sistemul acesta nu este doar sofisticat, ci extrem de dinamic, adaptativ în grad înalt, dar „indiferent la scopurile sau intențiile noastre mai înalte ca individualități”.
El adaugă că nu e vorba doar de posibilitatea de a ținti perfect cu reclamele, ci și recomandările, relațiile sociale pe care le avem cu alții, preferințele noastre imediate și cele de ordin superior – cum ar fi dorințele.
Chiar și urmele din online pe care ai crede că nu le observă nimeni sunt, în realitate, extrem de vizibile pentru algoritmii rețelelor de socializare și nu numai. Pe lângă datele legate de cont și istoric de căutări, algoritmii învață aproape totul despre utilizatori. Acest volum impresionant de informații e denumit de Zuboff „surplus comportamental”.
Ce sunt prediction products
Toată această activitate ajută companiile, pe mai departe, să inducă nevoia de a cumpăra constant, mai mult și mai mult.
Un consumerism dus la alt nivel, în care nu numai că ajungi să cumperi și ce nu ai nevoie, dar creezi un teren extrem de fertil pentru ca algoritmii să-ți modifice obiceiurile de consum, încât să ai nevoie de ceva ce încă nici nu există pe piață. Rezultatul sunt ceea ce Zuboff numește „prediction products” (o traducere aproximativă ar fi „produse de predicție”).
Radu Uszkai, asistent universitar în cadrul Departamentului de Filosofie și Științe Socio-umane al Academiei de Studii Economice, e de părere că teza lui Zuboff arată cum marile companii din tehnologie (Google la început, apoi Facebook, Amazon și toți ceilalți) „reușesc să fie atât de profitabile, pentru că funcționează, de fapt, ca niște intermediari de date”.
Totuși, faptul că reclamele online (ad-urile) sunt croite după comportamentul nostru într-un cadru algoritmic nu este, „cu necesitate și întotdeauna, problematic”.
Devine, însă, problematic atunci când companiile nu au, întotdeauna, „consimțământul nostru genuin pentru a avea acces la datele noastre și atunci când jucătorii de pe piață se află în poziții privilegiate și sunt tratați ca niște surse de cunoaștere”, mai remarcă Uszkai, care amintește că fix din aceste motive Termenii și Condițiile sunt atât de lungi și stufoase în orice contract cu o platformă digitală.
Cum funcționează economia atenției
Într-o economie digitală care avansează puternic și în care apar zilnic noi tehnologii și noi strategii de marketing, e greu să spui ce e bine și ce e rău sau în ce proporție ne aparțin, de fapt, deciziile luate în mediul online. Dar întrebarea merită pusă: mai funcționează liberul arbitru pe internet?
Discuțiile ar trebui să fie mai nuanțate de atât, crede Rodica Ianole-Călin, profesor universitar la Facultatea de Administrație și Afaceri, din cadrul Universității București.
Specializată în economie comportamentală, aceasta a explicat, pentru Panorama, că a defini liberul arbitru nu este o sarcină ușoară, pentru că „există diferite abordări care pornesc din filozofie și ating, mai nou, zona de neuroștiințe”.
Deși comportamentele de consum sunt diferite, există câteva similitudini, crede Rodica Ianole.
Iar marii jucători din online știu asta.
Poate fi și motivul pentru care majoritatea site-urilor care ne vând servicii sau bunuri caută să ne țină cât mai mult acolo, să ne ofere variante peste variante și să ne mapeze, astfel, comportamentul. Deseori, cârligul sună cam așa: „Poate te-ar interesa și…”.
E o metodă cunoscută sub numele de attention economy sau economia atenției/bazată pe atenția noastră.
E un model implementat cu succes de platformele de socializare, care se bazează pe scrolling – cu cât mai mult, cu atât mai bine. Acum, iată, acest model a fost copiat de mai toate companiile din comerțul online.
E adevărat că, dacă nu plătești nimic, înseamnă că tu ești produsul?
Mulți ani la rând, marii jucători din zona tehnologiei ca Google sau Facebook s-au prezentat ca unelte care te ajută să navighezi pe internet spre binele tău și au venit, într-adevăr, cu o serie de beneficii care nu pot fi contestate. Dar a trecut suficient de mult timp de atunci și ele au devenit într-atât de mari, încât să putem vedea acum și o parte mai puțin luminoasă.
Sloganul original al Google, spre exemplu, era „Don’t be evil – nu fi rău”. În 2015, când numele companiei-mamă a devenit Alphabet, noul slogan a ajuns „Do the right thing” – fă ce trebuie.
Despre Facebook ne amintim cu toții cum a defilat mulți ani cu motto-ul – „it’s free and always will be – e gratis și așa va fi mereu. Între timp, lucrurile nu mai stau deloc așa, din moment ce Meta își va taxa utilizatorii europeni care nu mai vor să vadă reclame.
Faptul că aceste platforme pot fi folosite gratuit are, evident, un cost. Se spune că dacă primești ceva gratis, atunci mai mult ca sigur tu ești produsul.
„Cred că afirmația surprinde ceva cât se poate de real din ecosistemul economic actual și că acesta este, într-o anumită măsură, unul dintre păcatele originare ale Big Tech. Într-o lume ideală, părți întregi ale acestui sector ar fi mult mai fragmentate și un model economic mai degrabă similar cu cel din sectorul de telecom ne-ar fi ajutat să evităm unele dintre problemele actuale”, e de părere Radu Uszkai.
În sectorul telecom, spune Uszkai, oamenii plătesc pentru respectivele servicii și, dacă platformele și rețelele sociale ar fi început la fel, o parte a problemelor actuale nu ar mai fi existat. Spre exemplu, dacă Facebook ar fi avut de la început un model de business care să presupună existența unor abonamente, fără a depinde exclusiv de veniturile din publicitate ca urmare a tranzacționării datelor personale către terți, situația poate ar fi fost alta astăzi.
Influența algoritmilor în economia de azi e o teză care are rolul de a ridica multe semne de întrebare. Plecând de la acest aspect, opiniile pot fi polarizate foarte ușor.
Yanis Varoufakis, fost ministru de Finanțe al Greciei în perioada în care statul elen a fost forțat să accepte măsuri dure de austeritate pentru a evita un colaps și o posibilă rupere a zonei euro, a pus lucrurile într-o cu totul altă lumină și a popularizat un nou termen: tehnofeudalism. Și el, ca și Zuboff, pleacă de la ideea că Big Tech – și tot ecosistemul creat în jurul metodelor folosite de marile companii din tehnologie – influențează major modul în care funcționează economia azi.
Criticat de mulți economiști pentru opiniile sale de stânga, Varoufakis crede că forma clasică a capitalismului a murit și că acest sistem a fost înlocuit cu un altul, puternic digitalizat și controlat de algoritmi.
Acesta remarcă că se discută despre o reîntoarcere la feudalism, într-o anumită măsură, dar insistă că în perioada feudală existau totuși niște „mecanisme de temperare a puterii financiare. Astăzi ea poate fi „temperată” doar prin instrumentalizarea ei în alt scop. Cum ar fi războiul”, adaugă Constantin Vică.
Volumul impresionant de date colectate și folosite apoi drept combustibil pentru diverse interese nu avea cum să treacă neobservat.
Scandalul Cambridge Analytica a arătat, în mod extrem de clar, cum Facebook a colectat date de la peste 87 de milioane de conturi, care au fost folosite în scopuri electorale și politice – alegerea lui Trump ca președinte al SUA și ieșirea Marii Britanii din UE sunt doar cele mai vizibile evenimente influențate de firma de consultanță.
De ce nu s-ar folosi, așadar, aceeași metodă și în scopuri comerciale?
Comerțul online, creștere spectaculoasă
E de ajuns să aruncăm o privire spre cifrele din comerțul online pentru a înțelege care sunt mizele.
Pe măsură ce tehnologia a evoluat, era firesc ca mare parte din achiziții să fie făcute de la distanță. Avântul e-commerce e, în acest context, un indicator cât se poate de relevant.
Datele Statista arată că, până în 2026, valoarea tranzacțiilor online va depăși 8 mii de miliarde de dolari la nivel global (adică 8 trilioane). Prin comparație, în 2014, adică acum nici un deceniu, era la 1,3 trilioane de dolari.
O creștere impresionantă se remarcă și în România, dacă te uiți pe cifrele readuse în atenție odată cu Black Friday-ul de anul acesta. În 2022, comerțul online la noi însemna tranzacții în valoare de 6,3 miliarde de euro. Dacă, însă, se adună și alte plăți, precum biletele de avion, rezervări în scop turistic și bilete la concerte, atunci piața se duce la 9 miliarde de euro.
Sursa: GPEC
La final de 2023, s-ar putea să tragem linie și să constatăm o creștere spectaculoasă.
Faptul că petrecem mult timp online nu mai e o noutate, iar cifrele o confirmă.
Cele mai recente date arată că Google procesează nu mai puțin de 99.000 de căutări pe secundă, ceea ce înseamnă o medie zilnică de 8,5 miliarde de căutări și aproximativ 2 trilioane de căutări pe an la nivel global.
Sursa: SEO.ai
Reglementare din mers, cu inteligența artificială după colț
Așa ajungem, deci, la discuția tot mai intensă despre reglementare, despre respectarea drepturilor utilizatorilor și despre cum ar putea fi folosită tehnologia (în mod real) în folosul consumatorilor.
Guvernele fac eforturi pentru a înțelege și pentru a ține pasul cu metodele marilor companii din tehnologie care ar putea reprezenta un risc la adresa spațiului privat al utilizatorilor sau chiar al democrațiilor. Doar că ce e azi știut și înțeles, mâine s-ar putea să nu mai fie valabil.
O concluzie și mai pragmatică, des întâlnită printre analiști, ar fi și că nu poți reglementa ceva ce nu înțelegi.
Tot ecosistemul creat și dezvoltat de Big Tech este încă extrem de opac și poate deveni și mai complicat de înțeles odată cu tranziția spre inteligența artificială. Noile tehnologii bazate pe AI ar putea părea diferite, dar sunt bazate cam pe aceleași caracteristici – atenția utilizatorilor și algoritmi.
Și separat, și împreună, ele sunt foarte greu de înțeles.
Uniunea Europeană face, totuși, pași în această direcție și are ambiția de a fi trendsetter global în materie de reglementare a noilor tehnologii. La final de august, a intrat în vigoare Digital Services Act (DSA), despre care Panorama a scris AICI. Pe mai departe, autoritățile europene pregătesc și o legislație de reglementare a sistemelor bazate pe inteligența artificială.
Doar că discuțiile despre reglementarea inteligenței artificiale au început abia în luna iunie a acestui an. Iar tehnologia avansează deja extrem de rapid. Realitatea e că procesul legislativ e greoi și lent chiar și atunci când își propune să se miște repede. Și până ajunge la final, obiectul legiferării poate să se fi schimbat – tehnologie nouă, platforme noi, mode noi.
Capitalismul de supraveghere, inspirație pentru liderii politici?
Până la reglementări și cadre legislative solide, mare parte din responsabilitate rămâne, de fapt, pe umerii utilizatorilor.
„Comportamental, există ideea de a dezvolta un tip de internet literacy sau new (social) media literacy, care să meargă dincolo de utilizare per se și să instruiască o utilizare mai responsabilă, ținând cont de alegerea site-urilor, a informațiilor confidențiale, de transmiterea informațiilor false. O mai bună înțelegere a mecanismelor psihologice, pe cât posibil din surse curate, ar putea să susțină o perspectivă mai puțin polarizată, respectiv să creeze, acolo unde este cazul, reacții în societatea civilă față de acțiunile anumitor corporații”, spune Rodica Ianole-Călin.
Capitalismul de supraveghere poate avea, însă, implicații mult mai grave decât ghidarea unui utilizator spre un produs sau altul. Folosirea acestor metode la scară guvernamentală ar însemna „promovarea unor mesaje politice atent calate pe identitatea potențialilor votanți”, crede Radu Uszkai.
Din acest motiv, dar și din cauza lobby-ului puternic pe care-l pot face jucătorii Big Tech pentru schimbarea regulilor jocului economic sau social, sistemul actual poate fi văzut ca un risc la adresa stabilității vieții democratice, afirmă el.
După cum remarcă și Constantin Vică, datele digitale, indiferent dacă sunt personale sau de comportament, nu pot fi ținute confidențiale. Nu în actuala structură tehnoeconomică a platformelor, insistă acesta.
„Nu suntem marionete, dar nici păpușari, cum am crede. Putem părăsi multe dintre aplicațiile și platformele care ne pot modifica diverse comportamente, cu un preț social nu chiar atât de mare. Dar o viață bună online se învață, nu se ia gata făcută. Cred că am ajuns, după peste 30 de ani de world wide web și 20 de aplicații mobile, să înțelegem sfârșitul tuturor iluziilor și necesitatea de a balansa puterea Big Tech”, conchide Constantin Vică.
Articol editat de Alina Mărculescu Matiș
Ca să fii mereu la curent cu ce publicăm, urmărește-ne și pe Facebook.
