Viitorul AI

Cum a ajuns Spania să le ia fața europenilor în cursa pentru reglementarea AI și cât de departe e România

Computer Hope Guy
Spaniolii au înființat prima agenție care se va ocupa de reglementarea AI/ Sursa Foto: Shutterstock

Abonează-te la canalul nostru de WhatsApp, pentru a primi materialul zilei din Panorama, direct pe telefon. Click aici


 

Recent, după lungi dezbateri întinse pe trei zile, Parlamentul European și statele membre UE au ajuns la un acord provizoriu asupra primei legislații pentru reglementarea Inteligenței Artificiale.

Negocierile din partea Parlamentului European au fost conduse de eurodeputatul român Dragoș Tudorache, care a propus ca sistemele AI să fie evaluate în funcție de gradul de risc. Astfel, unele sisteme sunt inacceptabile, în timp ce altele pot fi utilizate cu aprobare. Din prima categorie fac parte, de exemplu, sistemele de recunoaștere facială din China, care intră în contradicție cu principiile democrațiilor liberale. Excepții s-ar putea face însă și în democrație, de pildă în caz de amenințări de tip terorist sau răpiri.

Proiectul preliminar de lege europeană urmează să fie aprobat de PE și Consiliu, cel mai probabil în aprilie 2024. Ulterior, cele 27 de state membre vor avea doi ani pentru a transpune legislația europeană în cea națională, printr-o comisie de supervizare a AI-ului.

Spania a înființat prima agenție cu rol în legiferarea AI

O țară a luat-o însă înaintea tuturor. Spania a format deja o astfel de comisie, un grup de lucru dedicat: Agenția Spaniolă de Supervizare a Inteligenței Artificiale (Agencia Española de Supervisión de la Inteligencia Artificial – AESIA).

Aceasta va fi responsabilă de supravegherea aplicării și executării prevederilor legislației privind AI și va reprezenta totodată țara în fața Comitetului European privind Inteligența Artificială. Spunem „va fi”, pentru că discuția este încă despre viitor, iar instituția abia își conturează modelul de implementare și de lucru.

Panorama a discutat cu reprezentanți AESIA, pentru a afla cum va funcționa această instituție în premieră, ce finanțare va avea și dacă angajații săi vor utiliza AI în munca lor.

Riscurile pe care le poate implica această tehnologie – unde intră în joc Carta Drepturilor Digitale sunt mai ales cele legate de sănătate și securitate. Aceste riscuri derivă din natura socio-tehnică a aplicării AI și includ, printre altele, amenințări la adresa siguranței oamenilor din cauza posibilelor rezultate inexacte în aplicarea sa. Mai poate fi vorba de introducerea ori amplificarea unor părți subiective, ceea ce poate duce la situații de discriminare, în anumite cazuri. Mai mult, există utilizări ale AI care ar putea duce la situații de manipulare sau polarizare a opiniilor și acțiunilor oamenilor”, au explicat reprezentanți ai AESIA.

Ne putem gândi, de exemplu, la deepfake, tehnologia care devine din ce în ce mai accesibilă și mai ieftină și care înseamnă, în marem furtul de identitate pe internet.

Aceste riscuri care ar putea să ne pericliteze atât individual, cât și la nivel de societate arată necesitatea unor principii de folosire a AI-ului. La fel de importante sunt și conștientizarea, respectiv formarea personalului potrivit pentru detectarea comportamentelor care ne încalcă drepturile.

Cu un buget inițial de cinci milioane de euro pentru începerea activității, AESIA va funcționa cu 23 de angajați. În schema de personal se vor adăuga noi poziții pentru trimestrele doi și trei din 2024. „Se consideră că agenția ar avea nevoie de un total de 41 de persoane pentru 2024 și următorii ani, cu excepția cazului în care atribuțiile sale sunt extinse, pentru a asigura execuția corectă a competențelor sale”.

Cum au înființat spaniolii AESIA

Cum agenția spaniolilor reprezintă, practic, un pionierat în domeniu, nu există un model de referință pentru implementare.

Uniunea Europeană i-a sprijinit însă chiar din faza de proiect, prin intermediul experților din cadrul SEDIA (Single Electronic Data Interchange Area), platformă cu rol de rampă de pornire pentru participanții în programe de finanțare și licitații administrate de Comisia europeană și alte organe UE.

Apoi, înființarea agenției a fost posibilă pentru că spaniolii au avut o agendă pe digitalizare de care s-au ținut. De pildă, într-un raport din noiembrie 2020 despre strategia țării pentru tehnologia 5G, au fost anunțate două noi comisii: prima era axată pe telecomunicații, iar cea de-a doua era Comisia Permanentă pentru Digitalizarea Economiei, Administrației și Cetățeniei. Pentru crearea AESIA a fost consultat și consilierul AI, dar și alte grupuri de lucru consultative.

digitalizare
Cele două comisii pentru digitalizare/ Sursa Foto: Raportul Digital Spain 2025

„AESIA va avea un rol-cheie în gestionarea și conducerea ecosistemului spaniol de Inteligență Artificială. Această sarcină va fi realizată prin supraveghere voluntară până la intrarea în vigoare a reglementărilor europene privind AI, prin relațiile cu ecosistemul european și prin generarea de medii de testare regulate care permit lansarea sau utilizarea responsabilă a sistemelor AI cu risc ridicat pentru scop general”, au mai explicat surse din grupul de lucru spaniol.

Cum a ajutat deja Spania UE?

Dincolo de diversele reglementări și organisme UE, mediile de testare, așa numitele sandbox-uri, ne permit cel mai bine să încercăm marea cu degetul, să vedem cum poate funcționa ceva înainte de lansare, inclusiv o legislație.

AESIA așa a început – cu un sandbox dedicat companiilor din Spania, prezentat în vara lui 2023 de guvern împreună cu reprezentanți ai Comisiei Europene. Practic, s-a mers în sens invers: în loc să se implementeze o legislație pe care actorii economici să o urmeze ulterior, avem exercițiul practic în urma căruia se fac modificări. Astfel, companiile își împărtășesc perspectivele pe problemele care apar în utilizarea sistemelor AI.

„Scopul principal al sandbox-ului AI este să efectueze un test al cerințelor stabilite ca fiind de mare risc în propunerea de Regulament privind Inteligența Artificială (AIA). Primul obiectiv prin desfășurarea acestor teste este de a ajuta Comisia Europeană să ofere certitudine juridică în implementarea principiilor acestui regulament, în special în ceea ce privește dezvoltatorii și utilizatorii”.

„Pe parcursul dezvoltării sandbox-ului, entitățile participante care dețin sisteme AI de mare risc, sisteme generale (care pot fi folosite în mai multe scopuri și care suportă mai multe aplicații – n.r.) sau modele fundamentale (precum algoritmii sau rețelele neuronale, esențiale în dezvoltarea de aplicații AI -n.r.), vor întreprinde acțiuni care să le permită să îndeplinească cerințele stabilite în propunerea de regulament european, inclusiv autoevaluarea conformității și testarea sistemelor lor de supraveghere”, au mai transmis reprezentanții agenției.

În urma implementării mediului de testare se va obține un raport care va conține bune practici și alte concluzii obținute din experiența companiilor, precum și  „ghiduri de implementare tehnică și de supraveghere bazate pe dovezi și experimentare”. În acest scop, SEDIA va colabora cu o serie de instituții cu o bogată experiență tehnică, pentru ca testul să influențeze complet piața spaniolă de inteligență artificială.

Contează sediul agenției de supraveghere AI?

La noi, cel mai adesea, instituțiile naționale au sediul la București. Spaniolii au decis însă ca sediul agenției AI să fie la A Coruña, centrul industrial și financiar al provinciei Galicia. De ce acolo?

Printre motivele expuse de sursele AESIA se numără, în primul rând, unul care ține de spațiu: A Coruña are o proprietate generoasă care să găzduiască sediul, de cinci ori mai mare decât  minimul necesar și este pregătită pentru găzduirea echipamentului necesar. Apoi, orașul are și o rețea foarte bună de conexiuni aeroportuare, deopotrivă naționale și internaționale.

„Are, de asemenea, și un ecosistem universitar important, atât pentru formare, cât și pentru cercetare legată de AI, dar și un excelent ecosistem economic și de afaceri care câștigă din ce în ce mai multă importanță, cu două centre de inovare digitală care generează 10% din locurile de muncă din Galicia. Mai mult, orașul găzduiește un număr mare de companii dedicate sectorului AI. Dincolo de toate astea, trebuie subliniat și că există un număr mare de activități derulate de principalele instituții publice din oraș, menite să promoveze dezvoltarea unui ecosistem bazat pe AI”.

Dar invers, care sunt avantajele A Coruña în schema asta? Multe, răspund reprezentanții agenției: stimularea dezvoltării AI în regiune, ceea ce „va atrage mai multe companii și profesioniști din sector în oraș”, iar apoi, automat, vor apărea noi locuri de muncă, ceea ce va impulsiona economia locală.

„În plus, AESIA va promova și educația în domeniul Inteligenței Artificiale, permițând mai multor tineri să acceseze oportunități de formare și angajare în sector. Lucru care va contribui la crearea unei comunități locale puternice și bine pregătite în domeniu, care va fi un motor de creștere pentru regiune”.

Iar în acest demers, angajații agenției, în special experții tehnici, vor ajunge cel mai probabil să lucreze cu AI în activitatea de zi cu zi, pentru a-și atinge obiective precum „monitorizarea conformității reglementare, consilierea entităților publice și private, sensibilizare și instruire”, după cum au mai transmis cei de la AESIA.

România vorbea de strategie AI din 2019. La început de 2024, încă nu o avem

Deocamdată, spaniolii bâjbâie instituțional, în special în privința normelor de lucru. E și firesc, așa e în pionierat. Totuși, va fi un sprijin pentru Uniunea Europeană în acest demers legislativ, atât de complicat din cauză că domeniul este printre cele mai dinamice existente în prezent.

Spania stă însă cu mult mai bine decât România în privința pregătirii guvernamentale pentru Inteligența Artificială. O arată indexul creat de Oxford Insights, de unde aflăm că ne despart 37 de poziții.

AI
Spania se clasează pe locul 27 în lume în privința pregătirii pentru AI, iar România pe locul 64/ Sursa foto: AI Readiness Index- Oxford Insights

Mai mult, România nu are încă o strategie națională privind Inteligența Artificială. În octombrie 2019, Ministerul Comunicațiilor a înaintat un draft, urmat de consultări cu reprezentanți din zona academică, din administrația publică și, în cele din urmă, cu publicul larg. Adoptarea strategiei era planificată pentru primul trimestru din 2020, conform datelor Observatorului de Politici AI al OECD (Organizația pentru Cooperare și Dezvoltare Economică).

S-a înființat, însă, între timp, un comitet pentru AI care „va funcționa ca o entitate umbrelă pentru inițiativele” din domeniu, iar Ministerul Cercetării a elaborat un cadru strategic.

„România este în prezent la prima iterație pentru strategia în domeniul AI, cu toate că acesta constituie de câțiva ani un subiect pe agenda publică, care preocupă toate mediile, de la nivel guvernamental la administrații publice locale, de la mediul academic la cel de afaceri”, se arată în documentul cadru, unde se mai punctează că Ministerul Cercetării, Inovării și Digitalizării și Autoritatea pentru Digitalizarea României sunt instituțiile care și-au asumat obiectivul.

Strategia națională privind AI ar urma să fie implementată anul acesta. Dacă va fi așa vom vedea în lunile următoare.


Ca să fii mereu la curent cu ce publicăm, urmărește-ne și pe Facebook.


Dana Mischie

Și-a început drumul în presă în facultate, scriind recenzii de filme și cărți pentru un blog cultural. Apoi, la master, s-a angajat la ziarul Adevărul, unde a fost pe rând redactor, reporter și apoi editor. Aici, a realizat interviuri, analize și reportaje despre personalități culturale, fenomene sociale, subiecte medicale și despre digitalizare.


Urmărește subiectul
Abonează-te
Anunță-mă la
guest
1 Comentariu
Cele mai vechi
Cele mai noi Cele mai votate
Inline Feedbacks
Vezi toate comentariile

Abonează-te, ca să nu uiți de noi!

Îți dăm un semn pe e-mail, când publicăm ceva nou. Promitem să nu te sâcâim mai des de o dată pe zi.

    1
    0
    Ai un comentariu? Participă la conversație!x