Inteligența artificială: cursa mondială pentru reglementare

Asistăm în prezent la o adevărată fervoare a preocupărilor de reglementare a domeniului inteligenței artificiale (IA), venite din partea marilor puteri, deopotrivă politico-economice și industriale propriu-zise, implicate în dezvoltarea noilor tehnologii. Aflat în prima sa vizită în calitate de premier al guvernului britanic în SUA, R. Sunak și-a exprimat dorința de a face din țara sa vârful de lance al acțiunii de stabilire a normelor de desfășurare a sectorului, în timp ce Uniunea Europeană se află deja într-un plin proces de acest gen, iar SUA și China se interesează tot mai intens de un asemenea subiect. La rândul lor, pionierii domeniului afirmă răspicat faptul că instrumente precum ChatGPT ori Bard, capabile să genereze texte, video ori sunet mai repede decât o inteligență umană, comportă riscuri potențial existențiale. Patronii OpenAI (editorul lui ChatGPT), ai Deepmind ori Anthropic fac parte dintre cei 350 de semnatari ai unui apel publicat la sfârșitul lunii mai pe site-ul organizației Center for AI Safety (CAIS) în care se subliniază că „reducerea riscului de extincție prin IA trebuie să devină o prioritate mondială cu același titlu ca alte riscuri de amploare societală, precum pandemiile ori războiul nuclear”. La nivel mondial asistăm la constituirea unor veritabile alianțe care reacționează ținând seama și luând în considerare „incredibilele oportunități”, dar și „realele pericole” pe care le prezintă IA generativă, SUA, UE și China lansându-se în mod evident în cursa reglementării problematicii aferente. Premierul britanic a obținut în acest sens susținerea Casei Albe pentru a organiza în Anglia, în toamnă, primul summit mondial privind securitatea în materie de IA, la care vor fi prezenți reprezentanți ai SUA, precum și ai „tuturor țărilor de bonne volonté”, fără a se confirma prezența și a reprezentanților din China.

1. Totuși, cel puțin până acum nu s-a anunțat nimic în raport cu proiectele Londrei de a găzdui la un moment dat un regulator mondial al IA ori un program global de cooperare referitor la cercetarea aferentă, după modelul CERN pentru nuclear, așa cum se sugera în presa britanică înainte de deplasarea premierului la Washington. La rândul său, președintele Biden s-a limitat în declarațiile sale la cuvinte de încurajare asigurând și precizând că „Așteptăm din partea Regatului Unit să ne ajute să găsim calea (în materie de reglementare). Nu există altă țară în care să avem mai multă încredere din acest punct de vedere”. Desigur, Marea Britanie are atuuri indiscutabile în această privință: poli de cercetare și inovare de prim plan printre care campusurile de la Oxford, Cambridge și multiple societăți instalate la Londra, aici fiind fondată și Deepmind. Sectorul IA adună o cifră de afaceri de 3,7 miliarde lire sterline (4,3 miliarde euro) și are 50.000 de angajați în țara respectivă.

Americanul Palantir Technologies, specializat în gestiunea enormelor baze de date, a anunțat recent că va face din Londra capul său de pod european în domeniu. Potrivit britanicilor, plecarea din UE le permite să acționeze mai repede și cu mai multă agilitate în răspunsul la o piață în rapidă evoluție. Totodată, guvernul Sunek a publicat, în martie, o Carte albă în care se pronunţa pentru o reglementare lejeră a IA, mai puțin bazată pe controlul tehnologiilor în special, cât pe supunerea la mari principii diriguitoare de natură a atrage întreprinderile în căutarea mediului reglementar mai favorabil.

Dar UE are, în această privință, un avans considerabil. Ea ar putea să devină prima jurisdicție din lume dotată cu o legislație privind IA. Viitoarea reglementare comunitară ar urma să intre în vigoare cel mai devreme la finele lui 2025. În asigurarea și impunerea leadershipului său în materie, la 5 iunie, Comisia Europeană a anunțat trei inițiatice nelegislative. Este vorba, în primul rând, de un cod de bune practici contra dezinformării on-line și de o „etichetă IA” în scopul de a semnala utilizatorilor că textele, imaginile și sunetele sunt generate de această tehnologie. De asemenea, se are în vedere să se propună întreprinderilor un „pact privind IA” care să le ajute să se pregătească pentru viitoarea legislație unional-europeană. Nu în ultimul rând, reprezentanții UE lucrează la un Cod internațional de conduită cu G7, India și Indonezia în tentativa de a favoriza convergența viitoarelor legislații în domeniu.

Totodată, la 14 iunie a.c., Parlamentul European urmează să-și exprime poziția asupra propunerii de regulament pertinente, lansată de Comisie în aprilie 2021 și care riscă să fie mai constrângător decât legislația statelor membre. Mai mult decât atât, există temerea din partea unor actori că actul în cauză va antrena Uniunea spre o reglementare prea rigidă și ar trebui să nu se ajungă la „scoaterea Europei din istoria tehnologiei”, cum declara ministrul francez responsabil cu tranziția digitală. Nu în ultimul rând, UE și SUA sunt într-un dialog oficial continuu pe problemele domeniului, ajungându-se deja la cea de-a patra întâlnire ministerială de gen.

În SUA, Casa Albă încearcă să promoveze ideea unei reglementări și a unei responsabilizări a grupurilor private. Administrația a publicat deja mai multe texte de referință privind subiectul, neconstrângătoare, trasând o cale de urmat pentru actorii de bună voință. Au fost acordate resurse financiare semnificative pentru crearea a șapte noi institute de cercetare în vederea susținerii inovației responsabile. În discuțiile din congres pe această temă s-a relevat necesitatea pentru grupurile implicate de a fi mai transparente în privința sistemelor utilizate, posibilitatea de a verifica și evalua securitatea și eficiența acestora, precum și protecția contra atacurilor exterioare. China s-a concentrat mai ales pe controlul societăților de IA, agenția națională de cibersecuritate prezentând în primăvară un proiect de reglementare prin care produsele în cauză urmează a fi supuse unei evaluări de securitate înainte de a fi făcute publice.

2. Într-unul din interviurile sale acordate presei mondiale în contextul marcării împlinirii, la 27 mai, a vârstei de 100 de ani, reputatul diplomat și expert în relații internaționale Henry Kissinger, fost președinte al Consiliului de Securitate la Casa Albă și apoi secretar de stat al SUA (1968–1977), plasa problema pericolului dezvoltării necontrolate a aplicațiilor tehnologiilor inteligenței artificiale în zona competiției geostrategice definitorii a prezentului, cea americano-chineză. Mai întâi, el sublinia, în acest context, faptul că odată cu IA câmpul războiului va deveni mai ucigător ca niciodată în trecut. Apoi, continua că o atare agravantă tehnologică intervine în și se suprapune uneia ce caracterizează viața internațională a unei epoci asemănătoare celei ce a premers primului conflict mondial (1914–1918). Adică unor timpuri fără reguli definite între marile puteri, una în căutare de norme strategice. Discipol al marelui profesor de drept și relații internaționale Hans Morgenthau (1904–1980), Kissinger s-a impus ca aparținător și promotor al realismului politico-diplomatic și abil practician al soluțiilor concrete, adeseori surprinzătoare, ale cazurilor de tensiuni majore și conflict acut. Plasarea problemei IA și a posibilelor sale consecințe în cadrul spiralei conflictuale în care se află China și SUA e plină de semnificații și cunoaște deja primele confirmări, ceea ce îi credibilizează presupunerile. Și aceasta în condițiile în care, potrivit acestuia, Washingtonul e convins că Beijingul, profitând de ordinea internațională edictată de americani în 1945, prin Carta ONU și cadrul său normativ și instituțional, se vrea a fi substituită printr-o „regulă a jocului” chinezească. La rândul său, China e convinsă că SUA înțeleg să o împiedice să acceadă la preponderența mondială pe care ar justifica-o greutatea sa politico-economică. „Când două puteri de acest tip se regăsesc față în față – susține Kissinger – aceasta se soldează în mod normal printr-un conflict armat”. Chiar și în această situație extremă și lucrul cel mai grav, cele două superputeri nu mai au însă niciun principiu director pentru a-și gestiona conflictele dintre ele. Desigur, este posibil și ca ele să coexiste fără amenințarea izbucnirii unui război, dar „succesul nu e garantat. În orice caz, piața noilor hipertehnologii aferente inteligenței artificiale e un nou domeniu de confruntare și mai ales un inedit și virtual instrument de transformare a unui conflict într-unul de aneantizare a civilizației umane”. Și iată că și problema gestionării provocărilor IA prin reglementare ajunge a se aborda spre rezolvare în același context al paradigmei confruntării strategice chino-americane.

3. Una din reacțiile la o atare posibilă situație o reprezintă concluziile dezbaterilor unei reuniuni a Consiliului Comerțului și Tehnologiilor (CCT) desfășurat la sfârșitul lunii mai a.c. la Luleå, în nordul Suediei, în prezența fondatorului robotului conversațional revoluționar ChatGPT, Sam Altman. Organismul a fost creat în 2021 între UE și Washington spre a „întoarce pagina” tulburărilor comerciale ale președinției americane a lui D. Trump. Uniunea și SUA împărtășesc un punct de vedere comun că tehnologiile inteligenței artificiale comportă mari oportunități, dar prezintă, în aceeași măsură, riscuri pentru societățile noastre, au declarat aceștia într-un comunicat final. În mod evident prevenirea și gestionarea marilor riscuri aferente IA presupun reglementarea în toate sensurile sale posibile, bazată pe transparență și preeminența interesului comun. Noua poziționare europeano-americană intervine în condițiile în care Uniunea Europeană e pe cale a deveni prima structură politico-economică din lume care să se doteze cu un cadru juridic complet și obligatoriu pentru a limita derivele inteligenței artificiale, dar intrarea sa în vigoare nu e previzibilă înainte de finele anului 2025. La rândul său China are în vedere mai multe proiecte de reglementare a problematicii, întemeiată în special pe „o inspecție de securitate” a instrumentelor de inteligență artificială. În privința Washingtonului, în pofida a numeroase discuții pe această temă, niciun proiect de reglementare cu caracter obligatoriu nu e, cel puțin pentru moment, pe masa de lucru. Într-o atare perspectivă incertă, dar cu conștientizarea urgenței de a reglementa, apare acum și se adaugă temerea de a vedea standardele chineze impunându-se pe piața mondială dacă Occidentul nu oferă o reacție unitară și consistentă în această privință. Instituirea unei „foi de parcurs” europeano-americană în cadrul CCTar trebui să permită „să se identifice standardele și instrumentele unei IA demne de încredere”, cum subliniau reprezentanții oficiali prezenți la reuniune. Așadar, în situația unui asemenea context de concurență și legitime îngrijorări, Uniunea Europeană și SUA înțeleg să stabilească un proiect comun de „Cod de conduită” privind inteligența artificială în cât mai scurt timp posibil. Acesta va fi deschis țărilor democratice și se va aplica în mod voluntar sectorului. Un anunț cu atât mai semnificativ cu cât intervine chiar la momentul în care mari țări flutură anunțarea unei reglementări proprii și se naște în acest fel riscul unor norme și standarde disparate, neuniforme și deci insuficiente.

În săptămânile viitoare urmează, așadar, să se prezinte un Cod de conduită privind inteligența artificială, a declarat comisarul european al concurenței, M. Vestager, în timpul unei conferințe de presă comune la întrunirea din Suedia, cu șeful diplomației americane A. Blinken. E vorba de a „se stabili coduri de conduite voluntare ce vor fi deschise tuturor statelor care împărtășesc aceleași idei”, a precizat acesta din urmă, la momentul în care occidentalii se tem să lase China să decidă singură asupra reglementării mondiale în materie. Ideea este aceea de a avea cât mai curând posibil o propunere finală asupra căreia întreprinderile sectorului, dominat de giganții americani precum Microsoft, Meta ori Google, „vor putea să se angajeze voluntar”, a precizat comisarul european.

4. Adoptată sub pretextul concurenței tehnologico-comerciale și de supremație strategică chino-occidentală, reglementarea IA începe, prin urmare, sub forma normelor și standardelor voluntare comune de soft-law, sub presiunea urgenței, ca etapă premergătoare fazei juridice, a reglementărilor de hard-law, care nu poate fi evitată. Este de remarcat în același timp rolul și implicarea reprezentărilor marilor corporații de profil în frunte cu Sam Altman, PDG Open IA. În periplul său european premergător întrunirii din Suedia, după audierea în fața Comisiei pentru probleme juridice a Senatului american acesta și-a manifestat, la Paris, la 26 mai, îngrijorarea față de consecințele unei încadrări (juridice) prea stricte, declarând că „Trebuie să găsim bunul echilibru între reglementare și inovare”. El a criticat AI Act, preconizatul regulament al UE în domeniu, mergând până la a afirma în acest sens că „Dacă putem să ne conformăm, o vom face. Dacă nu, vom înceta să operăm în Europa. Există limite tehnice a ceea ce e posibil”. Bruxelles-ul a reacționat imediat, invocând chiar ideea unui șantaj! Altman a revenit apoi susținând că titrările presei nu corespundeau cu adevărat cu ceea ce a vrut să spună el. „Vom continua să cooperăm și operăm în Europa. O iubim. Un regim de autorizare, cu norme de securitate e pertinent, e foarte bine. Dar detaliile contează.” De notat în această privință că preconizatul regulament unional-european impune descrierea datelor asupra cărora softurile se angajează să asigure calitatea și să nu comporte riscuri de legături discriminatorii ori de publicații cu conținuturi periculoase. Punctul cel mai sensibil îl reprezintă drepturile de autor, referitor la care se invocă și ideea unei forme de compensare, în caz de utilizare, acceptată de toată lumea, urmând a se elabora precizări asupra soluțiilor concrete de realizat în acest sens.

5. Un altul dintre părinții inteligenței artificiale, profesorul quebecois Yoshua Bengio, laureat în 2019 al premiului Turing, echivalentul Nobelului pentru informatică, fondatorul și directorul științific al Institutului de Inteligență Artificială din Montreal, lansează o nouă alertă asupra unei amenințări existențiale pentru om din partea IA. După ce Geoffrey Hinton a ales să demisioneze la începutul lunii mai, din cadrul Google, pentru a se simți liber să denunțe pericolele IA, el fiind cel care a contribuit în bună măsură la progresele sale sprijinindu-se pe utilizarea neuronilor artificiali, a venit rândul informaticianului canadian să atragă atenția opiniei publice și decidenților în privința riscurilor prezentate de dezvoltarea accelerată a „copilului său” fără transparență și un control adecvat. Această tehnologie, afirma el în cadrul unei reuniuni din 24 mai cu tema Inteligența artificială: democrație și viitor al civilizației,a ajuns astăzi la un „punct de inflecțiune”. După ce am concedat o parte a inteligenței noastre mașinilor, iată-ne confruntați cu perspectiva ca acestea să înflorească, să ajungă dotate cu o inteligență egală și, fără îndoială, în curând superioară celei umane. „Nu știm dacă s-a ajuns deja la aceasta. Dacă va fi cazul însă, vom putea vorbi de o amenințare existențială. Imaginați-vă o nouă specie la fel de inteligentă ca noi, care ne privește precum noi privim furnicile… Tratăm corect furnicile?” se îngrijora el. Într-o videoconferință din Israel, în același cadru organizatoric istoricul și scriitorul de succes Yuval Noah Harari se arăta la fel de alarmat. „Dacă considerăm că dezvoltarea actuală a inteligenței artificiale îi conferă mărimea unei amoebe, aceasta ar putea să devină foarte repede mai puternică decât un tiranozaur”, subliniind astfel imensa distanță ce separă această nouă tehnologie, zisă „generativă”, de progresele dobândite până acum de om. „Cuțitul din silex ori bomba atomică presupuneau încă faptul ca un om să decidă de a le utiliza sau nu. Dar IA e capabilă de acum înainte să ia singură decizii, e deci în măsură de a ne lua o parte din puterea noastră și să acționeze împotrivă-ne!”. Cei doi au subliniat în acest context nevoia ca autoritățile publice să legifereze cât mai urgent problemele ce se ridică în concret în legătură cu atari realități. Nu e vorba de a stopa orice cercetare, ci de a se stabili un cadru precis și adecvat de desfășurare a acestei noi tehnologii în sfera publică. „Trebuie să ne asigurăm că putem face încă diferența între un uman și o IA. Toate statele dispun de legi foarte severe ce reprimă contrafacerea biletelor de bancă; se impune, în același mod, să se legifereze pentru a preveni contrafacerea umanilor. Trebuie să știm cui vorbim”, conchid ei. Harari apreciază, la rândul său, că e nevoie de a reglementa softurile în întregime automatizate susceptibile să lanseze vaste campanii de propagandă ori de dezinformare ce pot perturba intens procesul de alegeri democratice și funcționare a democrației. El reclamă crearea unui „pașaport” care să garanteze că e vorba de o persoană reală în spatele fiecărui cont. Y. Bengio cere guvernului canadian să accelereze adoptarea legii în materie aflată în parlament din iunie 2022 și care, eventual, nu ar trebui să intre în vigoare înainte de 2025. „Am reușit să reglementăm armele nucleare la nivel internațional după cea de-a doua conflagrație mondială, putem să ajungem la un acord similar în privința IA”. Riscurile pe termen scurt ale acestor sisteme autonome rezidă în aceea că nimic nu ne garantează că respectă valorile etice, deși posibilități există, citându-se în acest sens pericolele de manipulare a alegerilor. „Democrațiile și societățile noastre liberale sunt astfel în pericol”, concluzionează informaticianul canadian. Comparând lupta sa de acum cu cea prin care, timp de decenii, a pus în gardă contra dereglării climatice fără a fi înțeles, consideră că și în această privință de acum înainte există imperativul moral de a acționa, de a nu lăsa fără control adecvat o tehnologie care ar deveni deosebit de periculoasă dacă va depăși inteligența umană.

*

*        *

Revenind la intensa competiție mondială de reglementare a problematicii, noile inițiative în această privință prezentate nu sunt lipsite de critici și au nevoie de circumstanțieri. Așa, de pildă, ambiția guvernului britanic de a găzdui într-o zi un regulator mondial al IA naște deja unde de scepticism. Opțiunea lui actuală pentru o reglementare lejeră i-ar putea atrage susținători mai ales din partea actorilor privați. Dar țara ar risca să se confrunte cu enormul pol de reglementare care este UE: pentru a accede la piața interioară, marea majoritate a întreprinderilor vor trebui să se conformeze la regulile continentale. Și, ca un fel de concluzie, invocăm declarația profesorului Luciano Floridi, directorul laboratorului de etică a digitalului de la Universitatea din Oxford: „Dacă ar fi să pariez pe o reglementare, aș face-o pentru cea a Uniunii Europene”.

Prof. univ. dr. Mircea Duțu
Directorul Institutului de Cercetări Juridice „Acad. Andrei Rădulescu” al Academiei Române