Impactul A.I. va produce schimbări structurale


Încep prin a vă mulțumi pentru invitația onorantă de a participa la lucrările acestei conferințe internaționale, organizată în parteneriat cu Universitatea de Studii Internaționale din Roma și cu Baroul Internațional Penal din Spania.

În ceea ce privește inteligența artificială (A.I.) și implicațiile sale în transformările universului juridic în toată complexitatea acestuia există atât în străinătate, cât și în țară preocupări de cercetare științifică reflectate în studii, lucrări, conferințe etc. În acest context, putem evoca lucrări ale colegilor noștri din România, precum și ale onoraților noștri invitați universitari și specialiști în drept din străinătate.

Interesul în cercetarea problematicii A.I. generează preocupări convergente, întrucât acest tip de inteligență privește întreaga societate umană, prezentul și viitorul ei, indiferent de organizarea politică și situarea geostrategică a statelor. Este un fenomen global, cu care se va confrunta întreaga omenire și care va impune testul solidarității general-umane a acesteia față de provocările imprevizibile ale dezvoltării A.I., care trebuie privită ca o cucerire a inteligenței umane, și nu ca un fenomen potrivnic, contrar intereselor oamenilor.

Înainte de a ne referi în sine la acest tip de inteligență, este imperativ, în primul rând, să conștientizăm întâmpinarea acestui proces în viața oamenilor, fără aprehensiuni exacerbate, dar cu rezervele de raționalitate și preocupări necesare reglementării, monitorizării și controlului său. Omul, ca entitate generatoare a A.I., trebuie să se afle în centrul relației de coabitare și de cooperare cu aceasta în scopul îmbunătățirii condiției sale pe toate planurile.

Nu cred că este cazul să dezbatem algoritmii A.I., articularea și mecanismele acestora, ci trebuie, mai ales, să ne referim la posibilele riscuri abstracte sau concrete, la impactul și efectele fenomenului în sfera specifică a dreptului, bineînțeles cele pe care le putem previziona. Evoluția tehnologică este supusă, însă, unor riscuri, care pot fi calificate ca generale și sectoriale.

Putem identifica, fără a fi exhaustivi, patru riscuri generale pe care le implică A.I., după cum urmează:

– primul risc îl reprezintă discriminarea accesului la rezultatele A.I., eventualitatea producerii unei falii între o elită beneficiară a serviciilor acestor invenții tehnologice și lipsa de incluziune a majorității în sfera beneficiară, care va conduce la frustrări ce vor crea excludere și dezechilibre, instabilitate socială, cu efectul marginalizării sociale. Acest risc conduce la formarea unei societăți de tip oligocratic în care doar cei puțini pot fi beneficiarii reali ai A.I.;

– un alt risc major al tehnologiei emergente se referă la punerea la încercare a fundamentelor statului de drept, precum și a protecției drepturilor și libertăților omului, o așa-zisă tehnocrație a inteligenței putând substitui modelul de civilizație democratică;

– un al treilea risc este transferul integral al deciziei finale către algoritmii A.I., ceea ce reprezintă, de asemenea, un potențial pericol la adresa evoluției societății. De aceea, rezultatele generate de A.I. trebuie să fie în mod permanent verificate și supuse gândirii critice, conștiinței omului, controlului subiecților umani, care trebuie să își păstreze finalmente decizia. Ca atare, este necesară existența unui control uman adecvat pentru ca decizia finală să aparțină subiecților umani;

– un ultim risc îl poate constitui absolutizarea superiorității A.I., care poate genera ideologii de tip extremist, întrucât orice sistem care înțelege, învață și aplică cunoștințe în diferite domenii și are potențialul de a depăși limitele intelectuale ale omului poate conduce la formarea unui pol de putere, la concentrarea acesteia și la dezvoltarea unei conduite care poate afecta valorile umanității. Mecanismele sofisticate ale A.I. pot fi folosite pentru a răspândi informații false (crearea de videoclipuri, imagini false etc.) sau irelevante ori pentru a cenzura și a controla circulația informațiilor, astfel că utilizarea inadecvată a A.I. poate genera alterarea realității și manipularea mentalităților.

Dacă există vreo teamă intuitivă sau reală față de A.I., această teamă este tot față de inteligența naturii umane, atât de complexă și imprevizibilă, care ar putea să abuzeze de sau chiar să uzurpe puterea A.I. în interes propriu, de grup, riscând să transforme omenirea într-o „sclavocrație”, prin crearea unei elite dominante a inteligenței superioare, ceea ce ar putea conduce, în mod implicit, la sfârșitul rolului maselor.

Referitor la riscurile sectoriale, cu privire specială asupra domeniului juridic, observăm că avantajul major al A.I. este acela de a fi utilizată pentru a analiza cantități mari de date juridice, pentru a oferi o perspectivă completă asupra cazurilor, pentru a îmbunătăți eficiența cercetării juridice sau pentru a automatiza activitățile administrative inerente procesului judiciar.

Impactul A.I. va produce schimbări structurale și funcționale atât în sfera de edictare a normelor juridice, cât și în aceea a interpretării și aplicării prin noi conținuturi și accepțiuni conceptuale, reconsiderate și îmbogățite în era informațională. Însă provocarea lansată de A.I., ca etapă succesivă digitalizării, este dacă algoritmii folosiți sunt corect realizați și adaptați cerințelor societății și dacă există un filtru uman suficient de adecvat pentru a permite controlul rațional al acestei extensii a gândirii umane realizate de mașini/aparate. O lume juridică idilică bazată exclusiv pe A.I. este o utopie, pe de o parte, întrucât amplitudinea fenomenului juridic nu poate fi cuprinsă întru totul nici măcar de A.I., iar, pe de altă parte, A.I. poate deveni un instrument creat sau deturnat în avantajul celui mai puternic. Nu fără motiv în Republica lui Platon se afirmă că „dreptatea nu este altceva decât avantajul celui mai puternic”.

Lumea juridică se îndreaptă către un nou stadiu de evoluție în care gândirea umană este dublată de A.I., sau chiar viceversa, însă este cert faptul că un control uman este necesar asupra modului în care A.I. modelează sfera normativului și a judiciarului. Acest control trebuie valorizat drept o garanție în funcționarea echilibrată a înseși puterii statale. Dacă îmi permiteți, aș face o paralelă între teoria „checks and balances” a lui Hamilton, care viza echilibrul puterilor în stat coroborat cu existența unor mecanisme tip garanții pentru a asigura acest echilibru, și garanția controlului uman asupra A.I., care, în ultimă instanță, urmărește aceeași finalitate în coordonatele exercitării puterii publice în domeniul legiferării sau al interpretării și aplicării judiciare a legii.

În aceste condiții, rolul axiologic al filosofiei etice și al filosofiei dreptului va crește exponențial și determinant, în special, prin conceptualizarea unei viziuni noi și a unui nou umanism al inteligenței, precum și prin capacitatea de creare a normelor de reglementare și control ale proceselor specifice în raport cu statutul omului.

Dacă până acum în raporturile dintre etică și drept recunoșteam interrelațiile și diferența specifică dintre cele două domenii autonome, considerăm că în viitorul apropiat, în contextul A.I., substanța eticii va reprezenta un fundament asumat pentru întreaga gândire juridică și se va reflecta în noi norme juridice ale sistemului de drept sau chiar într-un drept al A.I. ca forma mentis al acesteia.

În această evoluție a căutărilor unei noi direcții pentru îmbunătățirea condiției umane bio-psiho-sociale, viața, demnitatea și libertatea umană trebuie să rămână intangibile, inalienabile și imprescriptibile. Aceste valori ale existenței umane și sociale constituie sistemul de referință al realizării oricărei construcții în cadrul unei posibile și viitoare dezvoltări a umanității. Demnitatea umană, ca valoare supremă, trebuie să-și subordoneze toate creațiile și aventurile spiritului uman. Cel puțin așa vedem noi, cei de astăzi, întâlnirea cu A.I..

În acest sens, credem că rațiunea și inteligența omului trebuie opuse exceselor, fanteziilor și incontrolabilului propriei rațiuni și inteligențe. A.I., fiind o prelungire a inteligenței umane, încorporează, până la un anumit punct, elemente de raționalitate umană, însă rațiunea umană trebuie să se apere de ea însăși atât prin autocontrolul sistemic ca parte a algoritmilor de programare, cât și prin controlul exercitat în mod nemijlocit de om.

Considerăm că A.I. este, în ultimă instanță, o obiectivare a inteligenței umane, fiind o inteligență tehnologizată, astfel că nu poate fi concepută în termeni de separare sau autonomizare față de inteligența umană. O societate informatizată și digitalizată, condusă numai de algoritmii generați de A.I., este una distopică, întrucât programarea și predestinarea algoritmică iau locul umanului, asemenea celei descrise Aldous Huxley în Minunata lume nouă (1932). De aceea, mecanismele de autocontrol, dar mai ales de control uman asupra A.I. sunt de o importanță majoră.

Pe măsură ce A.I. se dezvoltă și își extinde aplicabilitatea, necesitatea de a adapta cadrul juridic la această nouă realitate obiectivă devine tot mai presantă. Din perspectivă constituțională, dinamica A.I. va impune drepturi și standarde noi, care vor necesita o abordare inovatoare și creativă în cunoașterea și cultura constituțională.

În peisajul secolului al XXI-lea, în fața unui progres fără precedent al tehnologiei, A.I. aduce în discuție o nouă paradigmă cu privire la conținutul dreptului și al principiilor sale esențiale, precum și cu privire la structura și funcționarea statului de drept și a modelului democrației constituționale. Prin urmare, putem spune că democrațiile constituționale se află la o răscruce. Pe de o parte, actorii publici pot lăsa tehnologiile A.I. să își exercite pe deplin acțiunea sau, pe de altă parte, pot limita ori chiar interzice posibilitatea ca acestor sisteme să le fie transferată prerogativa luării deciziilor. Ambele cazuri conduc la tensiuni constituționale. În primul scenariu, toleranța constituțională ar putea amplifica puterea normativă a A.I. prin extinderea posibilității ca deciziile să fie luate de către sisteme care se află în afara oricărei supravegheri publice sau private. În cel de-al doilea scenariu, o interdicție generală ar putea să afecteze dezvoltarea tehnologiilor algoritmice și să crească incertitudinea cu privire la implementarea acestora.

Ca orice fenomen care are un impact major asupra societății umane, A.I. trebuie controlată prin mijloace juridice și reglementată prin normele dreptului pentru evitarea abuzului sau a afectării fundamentelor culturale care impun ca omul să fie privit în continuare, chiar și în lumea inteligenței algoritmilor, ca un scop, nu ca un mijloc.

Strategia europeană este un bun exemplu de acțiune pentru repoziționarea statului de drept într-o societate în care funcționează algoritmi. Regulamentul privind inteligența artificială adoptat la nivelul UE este punctul culminant al politicii UE în domeniu, însă trebuie subliniat faptul că UE adoptase acte normative premergătoare acesteia în domenii considerate precursoare și conexe A.I.. De exemplu, Regulamentul privind serviciile digitale subliniază o schimbare de paradigmă în UE prin limitarea puterilor normative ale platformelor online prin garanții procedurale. Comisia Europeană a lansat chiar și o declarație a drepturilor și a principiilor în era digitală, care definește o abordare centrată pe om și care ghidează tranziția digitală europeană. Declarația pune omul în centrul procesului de digitalizare, și nu tehnologia, și își propune să încurajeze solidaritatea și incluziunea, libertatea de alegere, participarea la spațiul public digital, siguranța și securitatea. Viitorul digital al UE se va baza, probabil, pe o busolă digitală ghidată de valorile constituționale europene, după cum a subliniat și președinta Comisiei Europene: „Îmbrățișăm noile tehnologii. Dar ne susținem valorile.”

Regulamentul privind inteligența artificială, adoptat în martie 2024 și preconizat să intre în vigoare în luna mai 2024, este o parte inseparabilă a acestui cadru. Obiectivul nu este doar de a promova dezvoltarea tehnologiilor A.I. în Europa pentru a stimula dezvoltarea pieței interne, ci și de a proteja valorile europene. Această abordare urmărește să evite utilizarea abuzivă a tehnologiilor care generează riscuri pentru interesele și drepturile publice ale cetățenilor.

România, fiind parte a spațiului comun al UE, este atașată de valorile promovate de aceasta, aspect aplicabil și în privința conceperii regimului juridic al A.I.. În ceea ce privește reglementarea A.I. în România, odată cu includerea A.I. printre prioritățile Programului de guvernare adoptat prin Hotărârea Parlamentului nr.42/2021, s-a deschis calea reglementării utilizării acestei tehnologii în domenii precum învățământ, mediu, cercetare sau justiție. În această lumină, Guvernul României a adoptat, în anul 2022, Memorandumul privind înființarea Comitetului Român pentru Inteligență Artificială și a unor Inițiative privind domeniul Inteligenței Artificiale în România.

În ceea ce privește protecția drepturilor omului, curțile constituționale sunt și trebuie să rămână prima linie de apărare, prin controlul de constituționalitate a priori și a posteriori. Curțile constituționale vor trebui să interpreteze principiile generale și valorile cuprinse în constituțiile naționale și în dreptul Uniunii Europene prin prisma provocărilor pe care A.I. le implică. Ele trebuie să facă față impactului transformator al A.I. și să atașeze valențe și semnificații novatoare principiilor constituționale, să promoveze o orientare de protecție a drepturilor și libertăților, în condițiile integrării progresului tehnologic.

Sunt bine cunoscute deciziile Curții Constituționale a României din 2023 privind securitatea cibernetică sau cloud-ul guvernamental, precum și cele din 2018 și 2019 referitoare la dosarul electronic de sănătate, respectiv valențele demnității umane în politica (penală) a statului. Toate aceste decizii au pus în centrul preocupărilor Curții Constituționale demnitatea umană și corelarea sa cu performanțele tehnologice.

Analiza concretă a impactului A.I. asupra statului de drept trebuie realizată individual, de la caz la caz, și numai prin raportare la un drept fundamental sau o instituție de rang constituțional pretins încălcată sau afectată de utilizarea inteligenței artificiale. Cu alte cuvinte, trebuie văzut, în concret, dacă un limbaj de inteligență artificială afectează, și în ce mod, dreptul la viață privată, dreptul la libertatea de exprimare ori regimul juridic și funcționarea unei instituții fundamentale. Aceste aspecte pot fi prevenite încă din codarea respectivului program, stabilind ce este permis și ce este interzis să creeze prin raportare la dreptul constituțional al unui stat. Pentru aceasta este nevoie de o „traducere” în sistem binar a tot ceea ce conțin Constituția, doctrina de drept constituțional și jurisprudența de drept constituțional dintr-un anumit stat, aceasta devenind, de fapt, „licența” de operare a respectivului program de A.I. în acel stat.

În prezent, explozia tehnologică și informațională ce impregnează societatea și viața fiecărui individ din comunitate impun guvernelor sarcini și îndatoriri noi, pentru gestionarea celorlalte forme noi de putere apărute în societate, cum ar fi și existența, dezvoltarea și producerea de efecte ale A.I. la nivelul întregii societăți care, prin impactul lor, vor modifica structurile mentalitare ale oamenilor și comunităților la nivel planetar, demersurile, aspirațiile și întregul mod de gândire ale oamenilor într-o civilizație fără precedent în istorie.

În concluzie, credem că rațiunea umană generatoare de A.I. trebuie să stăpânească și să modeleze propria inteligență transferată și amplificată în cea artificială pentru a nu-și distruge însăși rațiunea de a fi. A.I. nu trebuie percepută ca un pericol, ci ca o creație/o soluție umană benefică oamenilor controlată de rațiunea suficientă a omului.

Toată această fenomenologie declanșată de A.I., pentru a fi cunoscută și dominată de om, trebuie să facă obiectul cunoașterii, cercetării interdisciplinare științifice, al științelor socio-umane și pozitive (exacte), care să pună la dispoziția decidenților și a cetățenilor rezultatele obținute pentru valorificarea lor în deciziile importante în relația complexă cu A.I..

Vă mulțumesc pentru atenție!

Judecător Marian Enache, președintele Curții Constituționale a României

*Discursul susținut cu prilejul participării la lucrările Conferinței „Spre un drept al Inteligenței Artificiale. Premise. Actualități. Perspective”, organizată în data de 5 aprilie 2024 de Universitatea Ecologică din București, în parteneriat cu Universitatea de Studii Internaționale din Roma și cu Baroul Internațional Penal din Spania