La scurt timp după comercializarea deja masivă a ChatGPT, când Google abia și-a lansat chatbotul Bard și după doi ani de la inițierea propunerii de regulament privind inteligența artificială (IA) de către Comisia Europeană (CE) în aprilie 2021, joi 11 mai a.c. Parlamentul European (PE) a dat practic „foc verde” legii europene a IA astfel preconizate, aducându-i importante amendamente și precizări. Desigur, nu orice aplicație de acest gen are nevoie de o reglementare specifică, întrucât e vorba de o tehnologie integrată, unele componente ale acesteia făcând parte de mai mult timp din viața cotidiană, precum algoritmul care detectează spamul sau jocurile video, alături de multitudinea de activități pe care le facem cu telefonul mobil. Dar alerta științifică proferată și îngrijorările generate, mai ales de răspândirea pe scară largă a inteligenței artificiale generative, au precipitat preocupările de instituire a unui control etico-juridic adecvat spre a nu fi prea târziu și cu consecințe devastatoare și ireversibile.

1. Obiectul actului legislativ unional-european în curs de adoptare e dublu: pe de o parte, reglementarea folosirii surselor și datelor din care se hrănesc modelele generative (algoritmi în stare să învețe și să producă conținuturi noi), iar pe de alta, impunerea de restricții destinate să împiedice folosirea cu rea-credință a IA, care poate vulnerabiliza în primul rând drepturile de protecție a datelor și viața privată a cetățenilor. Ca urmare, întreprinderile tehnologice vor trebui să asigure o mare transparență, cu indicarea vizibilă și accesibilă a faptului că rezultatele generate sub formă de text, imagini sau audio sunt creații ale IA, pentru a se evita ca aparența lor de credibilitate să-l inducă în eroare pe cetățean cu privire la creatorul și autenticitatea lor. Va trebui, de asemenea, să se indice într-o formă clară sursele din care s-a inspirat și cu ajutorul cărora se antrenează sistemul în vederea protejării drepturilor de autor și de proprietate intelectuală. Reglementarea acestei materii, inclusiv prevederea formelor de compensare economică și comercială menite să garanteze viabilitatea industriei media și ecosistemului cultural din care se înfruptă azi în mod gratuit modelele generative devine prioritară. Decizia de a stabili patru nivele de risc ale aplicațiilor IA, de la „inacceptabil” până la „minim”, trecând prin „moderat” și „nivel înalt”, evidențiază conștientizarea pericolelor pe care ele le prezintă, îndeosebi în privința dreptului la viață privată. Amenințările ținând în principal de nevoia de a preveni folosirea cu rea-credință de către guverne sau întreprinderi a sistemelor de supraveghere masivă biometrică sunt astfel evidente și avute în vedere.

Propunerile eurodeputaților sancționează folosirea intruzivă și discriminatorie a anumitor opțiuni ale inteligenței artificiale, și în special a celor de recunoaștere facială în spațiile publice, care vor fi admise doar sub autorizație judiciară în cadrul cercetărilor penale ale infracțiunilor grave. Sunt interzise, totodată, și sistemele ce utilizează trăsături ale rasei, de religie sau afinitate politică, spre a prevesti conduite delicvente. Desigur, așa cum putem constata fiecare dintre noi, impactul aplicațiilor IA e deja variat și deosebit de puternic în societățile europene și occidentale, în general, și înainte de a stigmatiza „în bloc” și a demoniza „nediferențiat” expresiile sale, e preferabil să se acționeze în sensul prevenirii efectelor negative ale unei revoluții tehnologice care avansează cu o viteză nemaiîntâlnită. Modelul european preconizat de reglementările în curs de dezvoltare în cadrul UE – regulamentul și directiva propuse – preconizează o „abordare etică concentrată pe om” și propun drept cheie a problemei „un control uman, sigur, transparent, trasabil, nediscriminatoriu și respectuos cu mediul”. Garantarea transparenței funcționării, a calității datelor cu care operează și solicitarea identificării surselor sale devin absolut necesare pentru ca utilizatorii finali să cunoască avantajele enorme și riscurile pe măsură ale unui sistem cu totul revoluționar. La baza modelului trebuie să se afle încrederea și siguranța cu privire la fiabilitatea, capacitatea de a furniza texte și imagini credibile și coerente, dar false și posibilitățile de prevenire și combatere a manifestărilor de rea-credință. După adoptarea și intrarea în vigoare a reglementărilor preconizate în planul dreptului UE se impune ca, pe de o parte, măsurile astfel stabilite să fie însoțite de mecanisme pentru care îndeplinirea lor să devină efectivă, iar pe de alta, să se coordoneze cu cele instituite în alte regiuni ale globului, așa încât să se configureze un răspuns comun, adecvat și coerent la nivel global la această nouă și majoră provocare a întregii umanități.

2. Unul dintre domeniile predilecte de aplicare a algoritmilor și a virtuților lor tehnice va fi, fără îndoială, cel al fabricării și sistematizării legilor. LexGPT ar putea deveni un reper esențial al civilizației juridice a viitorului. Iată o posibilă variantă a sa rezultată din imaginația profesorului francez Fabrice Defferrard, de la Universitatea din Reims (LexGPT, editorial, „Recueil Dalloz”, 27 aprilie 2023).

„Palatul Elysee,

Ședința Consiliului de Miniștri de miercuri, 4 aprilie 2029.

Ministrul responsabil cu elaborarea legilor tocmai a finalizat prezentarea raportului său după doi ani în fruntea noului minister. Murmure aprobatoare traversează masa întinsă a Salonului Murat al Palatului Mantignon din Paris. Își amintește de cuvintele Președintelui Republicii din cadrul primului Consiliu de Miniștri: „Poporul vrea răspunsuri. Să-i dăm legi!”. Așa s-a născut LexGPT, în versiunea multimodală, iar el, ministrul, a fost cel care a impulsionat crearea lui. Încă de la început, în colaborare cu Prim-ministrul, s-a stabilit un număr de obiective ambițioase: 200 de coduri cuprinzând cel puțin 3.000 de articole și 20.000 de legi anexe ar urma să formeze arhitectura de ansamblu a organismului normativ până la finalul mandatului prezidențial. Totul se va reforma în flux continuu, până în cel mai mic detaliu. Și nu se va opri niciodată. Se va moderniza, Se va îmbunătăți, Se va simplifica, Se va accelera, având la dispoziție o perspectivă reală a eficienței performative și a comunicării permanente. El, ministrul, înțelesese asta încă din timpul pregătirii sale la Institutul Național al Serviciului Public: cu cât vor exista mai multe norme, cu atât interesul general se va îmbina cu interesele individuale, singurele care contează cu adevărat. Cei care se plâng de inflația legilor sunt oricum învechiți, desueți. Afluxul de texte, ca monedă de schimb, ar institui iluzia democratică. Acesta este scopul. Și vom ajunge acolo cu orice preț!

După un început puțin haotic și câteva proiecte de lege aiuristice pe care nimeni, în afară de câțiva academicieni stafidiți, nu le-a observat, LexGPT rula la viteză maximă. În medie, zece legi noi pe zi, două coduri noi pe lună. O Niagara legislativă minunată! Algoritmii au rulat fără întrerupere. Era suficient să li se introducă instrucțiunile: schimbați asta, reformați asta, găsiți lacune și umpleți-le. Capacitățile inventive ale mașinii, care se auto-ameliora constant, au fost excepționale. Mulțumită modificării articolului 49-3 din Constituție, propusă spontan de LexGPT, acum a fost posibil, cu titlu excepțional, să se adopte pachete de texte legislative fără examinare prealabilă și chiar în afara sesiunii parlamentare. Este de la sine înțeles că excepția a devenit în foarte scurt timp regula.

A existat bineînțeles o oarecare reticență din partea societății civile. Cum se poate descurca cineva în acest torent de legi? Într-un atare context, el, domnul ministru, a avut ideea magnifică care a stârnit un entuziasm nebănuit în cadrul cabinetului său: crearea unui al 201-lea act normativ complex, intitulat „Codul de aplicare a codurilor și legilor”. Iar LexGPT se va ocupa de realizarea acestuia.

Câțiva juriști s-au plâns, ca de obicei. Își amintește de acea seară de gală când, la masa lui, s-a așezat un profesor de drept de la o universitate cu sediul în teritoriu, nu mai știe unde, dar care s-a dovedit rapid exasperant. Potrivit acestuia, legile ar fi devenit imposibil de asimilat și de înțeles. În practică, persoanele responsabile cu aplicarea acestora nici nu le-ar mai aplica. Aceștia s-ar fi folosit de normele pe care le cunosc deja, nu de cele care sunt în vigoare. Alții ar fi decis să aplice propriile reguli, fără a ține seama de dreptul comun. Chiar dacă nimeni nu ar mai ști nimic și că, în consecință, orice formă de controlul ar fi sortit eșecului, nimeni nu ar observa acest lucru. De exemplu, mii de hotărâri judecătorești ar fi pronunțate în fiecare an pe baza unor texte de lege care nu mai sunt în vigoare sau a unor norme stabilite în mod arbitrar. Prin forța lucrurilor, mai multe sisteme juridice paralele l-ar înlocui pe cel pe care el, ministrul, îl crease. Ar mai exista, în această situație, statul de drept?

Ministrul și-a manifestat supărarea, ceea ce a pus rapid capăt conversației. Ce importanță are pentru el aplicarea legilor? Nu face parte din planul său de afaceri. Mâine va părăsi ministerul pentru o altă funcție, agenda sa de adrese constituind singura sa competență. Ezită între banca X și fondul speculativ Y. Din fericire, LexGPT îl va ajuta să aleagă.”

3. Pentru a înțelege de ce și eventual cum tehnologiile digitale schimbă în profunzime raportul nostru cu dreptul, se impune să recurgem la o abordare de natură antropologică și culturală. Studiul și cercetarea sa presupun înțelegerea mizelor morale, economice și sociale care dau sens tehnicii juridice. Trebuie, de asemenea, a-l înscrie într-o viziune interdisciplinară, știut fiind faptul că „informatizarea dreptului este un lucru prea serios pentru a-l lăsa la dispoziția informaticienilor” (P. Cala). Într-adevăr, avem obișnuința de a înțelege, argumenta deliberarea și a decide plecând de la un drept relativ solid, a stabili, pe baza unor principii generale, reguli fondatoare ale unei reprezentări a lumii și pe un anumit număr de certitudini. Suntem în prezența normelor juridice într-un anumit reflex al unei reprezentări sociale, în acord cu exigențele momentului. Or, cu ceea ce denumim inflația normativă se constată o decadență de reglementări din cauza imposibilității crescânde a dreptului de a încadra activitățile umane. În acest sens putem spune că juriștii au devenit „lost lawyers”, naufragiați într-un ocean de reguli și norme din ce în ce mai sufocante și din ce în ce mai complexe. Avem din ce în ce mai mult impresia de a vedea dreptul ca un teatru al comediei umane; din marile schimbări ale percepției legate de atotputernicia subiectului rezultă o chestiune centrală: cum să rămâi rezonabil și uman într-o societate în care asistăm la o accelerare a timpului, la degradarea relației de muncă, la o mobilitate a capitalurilor din ce în ce mai rapidă, la o dislocare a spațiului? De-a lungul atâtor încercări și prin experiențele deja înregistrate, provocările dreptului în fața revoluției IA se multiplică și accentuează. Una dintre ele vizează, desigur, ecuația dintre ChatGPT și învățarea științelor juridice. Avansurile de ultimă oră în materie ne arată că nu ne mai putem mulțumi a considera că, pentru a înțelege o regulă de drept, nu e suficient de a ști citi și compila, ci se impune a fi capabil de a găsi jurisprudența pertinentă dezvoltată pe un anumit subiect, a analiza opiniile doctrinale emise pe respectiva temă ori chiar a replasa regulile studiate în ordinea juridică dată, întrucât juristul-robot o poate face la rându-i, și cu mai mult succes! Respectiv a da dovadă, fără îndoială, încă cu anumite limite, de ceea ce denumim sens critic! Deficiențe manifestate (încă) în privința fiabilității informațiilor pe baza cărora acționează, evazivității asupra surselor și corectitudinii valorificării lor, îndoielile în ceea ce privește capacitatea de analiză ș.a. rămân vremelnice și nu trebuie să ne îndoim de posibilitatea depășirii lor. Desigur, așa cum ne atrag atenția unii autori (Mathias Latina, în ChatGPT et l’ensignement du droit, „Recueil Dalloz”, 27 aprilie 2023, p. 823, de exemplu) pentru a evalua pertinența răspunsurilor, în condițiile în care nu știm nimic despre fiabilitatea surselor, trebuie să învățăm studenții să utilizeze cum se cuvine IA conversaționale. Așadar, un nou exercițiu s-ar impune să vadă rapid lumina zilei: comentariul răspunsului ChatGPT! Ca atare, viitorii practicieni ai dreptului care vor utiliza cu siguranță noile aplicații tehnologice trebuie să se adapteze unor atari perspective, să mobilizeze ajutorul robotului, conjugat cu analiza proprie spre a înțelege o decizie a justiției sau un text de lege, desigur în urma unui control ex-ante „de conformitate” a datelor oferite de IA. Asta în plan strict și limitat pedagogic; în plus, și poate chiar mai important, e nevoie de o abordare și o înțelegere globală a impactului IA asupra dreptului în deplinătatea dimensiunilor sale.

4. Implicații importante, până la profeții referitoare la efecte devastatoare, sunt de așteptat și în privința culturii dreptului. Desigur, la o primă privire și, poate, pentru moment, dacă avem în vedere că virtutea culturii, e aceea de a ajuta să citim mai bine lumea care ne înconjoară și faptul că dreptul are încă reputația, și uneori chiar aparența, unui ansamblu de arguții ascunse și îndepărtate de percepțiile comune ale cetățenilor, noile aplicații ale IA vor ajuta mult la depășirea unor atari inconveniente. Și aceasta cu atât mai mult cu cât juridicul nu e un mijloc de a cripta lumea, ci de a o decripta ori de a ajuta în felul său la aceasta, în special cultivând nuanțele, căutând înțelesurile profunde, construind o viziune pe termen lung a problemelor ridicate de viața juridică în general și a fenomenului drept, în special. Dacă invocăm celebra frază a lui André Malraux, pentru care cultura e „ceea ce a rămas după ce s-a uitat totul”, atunci rolul ambivalent al IA generative devine și mai evident în domeniu. Într-adevăr, pentru rememorarea cunoștințelor, se oferă un maxim tehnic, cu rezultate imbatabile; în privința amprentei culturale propriu-zise, însă, contribuțiile tehnicilor nu sunt suficiente, implicarea umană fiind decisivă și va rămâne de neînlocuit.

După ce a semnat, în martie a.c., o scrisoare deschisă prin care se cerea stoparea dezvoltării necontrolate și abuzive a noilor tehnologii digitale, istoricul Yuval Noah Harari publică considerații alarmiste asupra subiectului în The Economist. Pentru el, inteligența artificială înseamnă „potențial sfârșitul istoriei umane” pentru că, în mod contrar altor invenții disruptive, precum tiparul și radioul care nu au făcut decât să ajute specia noastră să-și difuzeze ideile și astfel să fasoneze cultura noastră, aceasta poate avea propriile-i idei. Și în acest sens, ne avertizează autorul lui Sapiens, impactul IA este „fundamental diferit”, ea poate crea „idei complet noi, o cultură complet nouă”. Ceea ce e amuzant e că un istoric de amplă perspectivă, precum celebrul analist de față, pare a uita că absolut toate revoluțiile tehnologico-comunicaționale – și, fără îndoială, inteligența artificială generativă este una dintre ele – au generat profețiile lor de apocalipsă, din partea celor care aveau cel mai mult de pierdut (Peggy Sastre, Intelligence artificielle, l’éternelle panique des clercs, „Le Point”, 12 mai 2023). Să ne explicăm, urmând îndeaproape argumentele autorului francez. În Phaidros, Platon (secolul al IV-lea î.H.Cr.) exprima o geneză mitică a limbajului scris. Zeului Theuth, care îl oferă lumii, Socrate, ca întotdeauna purtătorul de cuvânt al lui Platon, îi opune profundul său scepticism și declară că el îl urmează mai degrabă pe bunul rege al Egiptului, Thamus, pe care realizările artelor și literelor îl lasă rece. Și pentru aceasta, Socrate vede în scriere o amenințare directă pentru cunoașterea autentică. Cei care învață să citească, spune el, învață cu aceeași ocazie să-și ucidă propria memorie. Încrezându-se în scris, aceștia se situează în afară, supuși amprentelor străine și nu ale lor înșiși, singurele care le pot oferi o răsplată veritabilă. Motiv pentru care Thamus și Socrate (și, evident, Platon) asimilează scrierea unui drog care oferă toxicomanului iluzia înțelepciunii și devine, pentru toată lumea, frontiera între înțelepciunea aparentă și cea veritabilă. Amuzant pentru istorie rămâne faptul că nicăieri Platon nu-și arată ironia rechizitoriului său contra literelor și textelor care, spre a fi vehiculate, necesită adepți care au nevoie de ele. Tiparul a întâmpinat, la rându-i, în afirmarea sa, acest gen de rezistență. Un abate de la mănăstirea benedictină din Sponheim, Johannes Trithemius (1462–1516) apăra în De lauda scriptorum laborioasa muncă de copiere cu mâna a textelor de către călugări. Pentru el, dificultatea și lentoarea erau deopotrivă germenii unei culturi amenințate; ca proces de dobândire a cunoașterii, copia dădea călugărului respectiv ocazia să se cufunde într-o lungă contemplare, singurul mijloc de a dobândi o completă înțelegere a conținutului. Trithemius deplânge de asemenea lipsa de calitate a hârtiei de tipar, efemeră, în timp ce consistența pergamentului era eternă și se teme de toxicitatea cernelurilor. În fine, producerea și consumul cărților tipărite semnificau o banalizare și o înjosire a învățării și a culturii.

Și, ca de fiecare dată, au fost și sunt atât câștigători, cât și perdanți. În cazul medieval, conflictul de interes aferent sare în ochi mai mult decât cel în privința lui Platon. Și aceasta întrucât, catolic fiind, abatele avea toate motivele să se îndoiască și să denunțe prejudiciul pe care cărțile tipărite și generalizarea alfabetizării ar fi amenințat să-l producă, aplicând lovituri mortale singurei religii deținătoare, în concepția sa, a Adevărului și, prin acesta, propriei sale hegemonii culturale. Așa cum nu va pregeta să o facă Reforma, inchiziția și războaiele religioase. Desigur, e de domeniul evidenței că toate schimbările de paradigmă au prezentat, deopotrivă, avantaje și inconveniente, potrivit locului unde se plasează. Unele au fost în cele din urmă câștigătoare, altele perdante. Dar înainte ca toate cărțile să se joace, elitele implicate au tot interesul să-și exprime mirarea, repetând refrenul marelui declin general, și aceasta suficient de puternic pentru a acoperi ceea ce constituie fondul problemei, respectiv dorința lor de a-și păstra locul sub soare. Oare și de această dată va fi la fel?

*

*         *

Sunt noi perspective juridice ale dilemei cu rezonanțe inclusiv existențiale: să fim pesimiști ori optimiști referitor la IA? Reprezintă aceasta o amenințare pentru supraviețuirea umanității ori, dimpotrivă, respectiva tehnologie aduce un progres imens? Această polarizare binară a structurat adesea luările de poziție mai ales ca reacție la succesul softurilor de inteligență artificială generativă, capabile să creeze texte ori imagini, precum ChatGPT sau Midjourney. Dar o atare opoziție rămâne simplistă, chiar periculoasă, alertează analiștii problemei; o a treia cale e totuși necesară și posibilă, potrivit altora. E periculos să ne jucăm cu fantasmele de utopie ori de apocalipsă, promițând, grație IA, un viitor „înfloritor” ori proclamând unul „catastrofic”, întrucât ele ne îndepărtează de problemele puse de noile tehnologii în modul cel mai „real și imediat”, argumentează grupul realiștilor. Pentru aceștia, urgențele sunt legate de consecințele deja vizibile, care comportă remedii concrete și promovează modele „mai mici”, mai specifice, mai controlabile, decât cele gigante, generaliste. Această abordare pragmatică ar inspira și demersul reglementar al UE, impunând furnizorilor de IA reguli, în special de transparență, asupra datelor implicate! Și aceasta în virtutea unei filosofii simple, dar elocvente: e, în orice caz, mai bine, decât a nu face nimic! Așa să fie?

Prof. univ. dr. Mircea Duțu
Directorul Institutului de Cercetări Juridice „Acad. Andrei Rădulescu” al Academiei Române