1,392 citiri

Mașinării ca mine: despre Drept și Inteligență Artificială

Lavinia Tec

”Tu mi-ai întocmit rărunchii, Tu m-ai ţesut în pântecele mamei mele:
Te laud că sunt o făptură aşa de minunată. Minunate sunt lucrările Tale şi ce bine vede sufletul meu lucrul acesta!
Trupul meu nu era ascuns de Tine când am fost făcut într-un loc tainic, ţesut în chip ciudat, ca în adâncimile pământului.
Când nu eram decât un plod fără chip, ochii Tăi mă vedeau şi în cartea Ta erau scrise toate zilele care-mi erau rânduite, mai înainte de a fi fost vreuna din ele.
Cât de nepătrunse mi se par gândurile Tale, Dumnezeule, şi cât de mare este numărul lor!”
Psalmul 139: 13:17, Biblia, traducerea D. Cornilescu

”Dar noi trăim după o lege, nu uitați,
N-am fost făcute ca să știm minciuna…”
Rudyard Kipling, ”Secretul mașinăriilor”[1]

În interviul publicat ieri pe juridice.ro, jurista scriitoare, dna. Iulia Motoc, afirma că există multiple conexiuni între drept și literatură.

În cartea sa, Imaginer la loi: le droit dans la littérature[2]A. Garapon susține că apropierea între Drept și Literatură se face de-a lungul a trei axe, dintre care, de interes pentru juriști sunt două: (i) dreptul ca literatură, care explorează dimensiunea literară a textului legal și (ii) dreptul în literatură, care ne permite să studiem modul în care ficțiunea literară reflectă lumea justiției și dreptul. Poate că așa se explică atracția față de F. Dostoievski și F. Kafka a juriștilor pasionați de literatură. Lectura volumului De-a dreptul și literatura, coordonat de dna. prof. univ. dr. Raluca Bercea, dezvăluie cât de variate pot fi gusturile juriștilor/cadrelor didactice de la Drept. Și mai dezvăluie ceva: de regulă, există o strânsă legătură între domeniul de cercetare al profilor de la Drept și cărțile pe care le citesc. Orice carte citită în această grilă – juristul aflat în căutarea dreptului – îi deschide juristului noi orizonturi, noi perspective asupra dreptului. La fiecare carte citită, el face un pas pe tărâmul minunat și aproape nemărginit al cunoașterii dreptului.

1. Ficțiune

Una dintre cărțile de mare actualitate în anul 2020 -, nu, stați liniștiți, nu este despre vreun virus, nicio despre vreo pandemie! – este cartea lui Ian McEwan: Mașinării ca mine[3]. Pentru juriștii care nu au făcut cunoștință cu Ian McEwan, atașez la subsol linkul spre website-ul său, unde veți găsi cărțile (sunt traduse și în limba română, distribuite în librăriile din țara noastră), interviurile, prelegerile sale[4]. Ian McEwan este un scriitor care îi suprinde pe cititori, mai ales pe juriști, cu dilemele etice și morale întrețesute cu măiestrie în aproape toate cărțile sale.

De ce este actuală ultima carte a lui Ian Mc Ewan, apărută la finele anului 2019? Pentru că este despre inteligența artificială.

Narațiunea e interesantă. Un tânăr englez achiziționează un robot, – unul dintre cei 25 de roboți, Adam și Eve, produși și comercializați în întreaga lume. Adam este robotul care face curățenie, spală vase, face cumpărături, încheie tranzacții financiare la bursă, face donații asociațiilor caritabile, plătește impozitele și taxele, creează haiku (iată unul: ”sigur nu-i o crimă,/ când justiția e simetrică/ să iubești o infractoare?”), dansează, se gândește la ce este ”sinele”, face chiar și sex cu iubita proprietarului său – să-i zic stăpân? atunci Adam ce e, sclav? sclavul ce îi datorează stăpânului? loialitate? -, de care se îndrăgostește. Și cum să fie un bărbat gelos pe un robot! Cum să-i repoșeze iubitei că l-a înșelat! Ah, desigur, se poate teme la fel ca personajul principal că ”bărbații aveau să devină ceva desuet”, își poate simți orgoliul rănit dacă robotul câștigă mult mai mult decât el, dacă are o cultură vastă fiind conectat online mereu la toate bibliotecile din lume și posedă o inteligență sclipitoare. Adam spune chiar: ”Ne vom uita în urmă și ne vom minuna de cât de bine au știut oamenii de demult să-și înfățișeze propriile defecte, să urzească parabole genial, chiar optimiste, din conflictele lor, din inadecvările lor monstruoase și din lipsa de înțelegere reciprocă”.

Știe chiar despre vechea problemă complicată, la fel de dificilă în cazul mașinilor cât și al oamenilor: creierul și mintea. Dar, oare roboții au minte? Oare mintea poate fi creată artificial?

La un moment dat, Adam îi spune proprietarului său: ”Nu vă puteți permite să fiți lăsați în urmă. Ca specie, sunteți mult prea competitivi. Chiar și acum există pacienți paralizați cărora li s-au implantat electrozi la nivelul nervilor motori din creier și care nu trebuie decât să se gândească la acțiunea respectivă pentru a-și ridica o mână sau un picior. E un început modest și mai sunt multe probleme de rezolvat. Dar vor fi rezolvate cu siguranță și, când asta se va întâmpla, și o interfață creier-mașină va fi eficientă și ieftină, veți deveni parteneri cu mașinăriile voastre în cadrul expansiunii infinite a inteligenței și a conțtiinței în general. Inteligență colosală, acces instantaneu la discernământul moral profund și la toate lucrurile cunoscute, și, mai important, acces unul la altul. S-ar putea să însemne sfârșitul intimității mentale. Probabil că veți ajunge s-o prețuiți mai puțin în fața a ce veți câștiga în schimb”.

Adam face și altceva. Înregistrează tot ce se vorbește în casă, face chiar denunțuri împotriva celor din casă (în speță, împotriva femeii de care se îndrăgostise) pe care le trimite online la parchet. Știe chiar când un denunț este calomnios pentru că, spune el: ”Am acces privilegiat la toate arhivele tribunalelor, fie ele instanțe penale sau pentru cauze de familie, chiar și la procesele judecate cu ușile închise. Numele Mirandei a fost anonimizat, dar am corelat cazul cu alți factori circumstanțiali, nici aceștia disponibili, de regulă”. Adam știe ce e dreptatea și vrea să se facă dreptate.

Adam nu știe să mintă pentru că nu există un astfel de algoritm în programul lui: ”Dar viața socială e plină de neadevăruri inofensive sau chiar utile. Cum le departajăm? Cine o să scrie algoritmul pentru minciuna necesară, minoră, care îl va scuti pe un prieten să se facă de rușine? Sau minciuna care trimite la închisoare un violator ce altfel ar umbla libert? Încă nu știm să învățăm mașinile să mintă. Și ce părere ai de răzbunare?Permisă uneori, după tine, dac-o iubești pe cea care o pretinde. Niciodată, după Adam.”

Dar, l-ar fi putut împiedica cineva sau ceva pe Adam să o denunțe pe Miranda, femeia pe care o iubea, iubita proprietarului său? Pe Miranda care făcuse o acuzație (falsă) de viol împotriva celui care în realitate nu a violat-o pe ea, ci pe cea mai bună prietenă a sa, care s-a stins de atâta suferință. Pe Miranda care mințise ca să i se facă dreptate prietenei sale. Îl poți distruge și nu prea. Este el un bun, ca să se poată exercia dispoziția materială asupra lui sau este o persoană, de care nu se poate dispune în niciun fel? Înainte de a înceta să funcționeze, Adam le spune proprietarului și iubitei sale ceva uluitor despre el: ”Toată ființa mea e stocată altundeva, așa că știu că îmi voi aminti mereu, sper că veți asculta un ultim poem. Este inspirat din Philip Larkin. Dar nu e despre frunze și copaci. Este despre mașinării ca mine și oameni ca voi, și despre viitorul nostru împreună. Tristețea care va să vie. Căci se va-ntâmpla. Cu îmbunătățirile care vor surveni de-a lungul timpului vă vom depăși, vă vom supraviețui, chiar dacă vă iubim. Crede-mă, versurile acestea nu exprimă niciun triumf. Doar regretul. Ne cad frunzele,/Primăvara ne vom regenera/Dar voi veți cădea pe veci.”

2. Realitate

Recent, Microsoft a făcut o mutare interesantă pe piața IT și AI pentru licențierea GPT-3[5], un model de inteligență artificială construit de OpenAI, o companie fondată de Elon Musk. Compania s-a concentrat asupra potențialului creativ al tehnologiei. GPT-3 a fost deja folosit de dezvoltatorii amatori pentru a produce poezii, parodii, riff-uri de chitară și chiar un cod funcțional pentru un computer. Să însemne asta că ne îndreptăm spre o renaștere a culturii alimentată de AI? Poate. Dacă AI poate crea cultură, înseamnă că poate să fie și o mașină de propagandă, pe care cei interesați o vor folosi exploatând slăbiciunile psihologice ale oamenilor. Înseamnă că AI poate periclita grav drepturile și libertățile, poate fi o amenințare pentru democrație.

Este simplu: se stabilește grupul țintă (vulnerabil), un conținut convingător și o distribuire eficientă. Mai întâi, se definește publicul țintă, al cărui comportament este studiat atent înainte, pentru a se descoperi obiceiurile, interesele și factorii declanșatori. Apoi, urmează dezvoltarea conținutului: cu cât este mai neobișnuit, emoțional, incendiar, provocator, cu atât mai bine. În cele din urmă, distribuirea se face într-o manieră care să asigure expunerea repetată. Această rețetă datează cel puțin din perioada Romei antice, când Octavian a întors oamenii împotriva lui Marcus Antoniu, prin răspândirea în mod strategic a afirmațiilor incendiare despre relația sa cu regina Cleopatra[6]. Mesagerii au împărtășit acuzațiile din gură-n gură, iar vestea s-a răspândit ca un foc. În cele din urmă, oamenii au crezut că Antoniu va face din Roma o monarhie, iar Octavian a preluat în cele din urmă controlul ca Imperator Augustus.

GPT-3 a permis deja computerelor, pentru prima dată, să scrie texte „interactive, informaționale și influente”. Poate produce stiluri sau tonuri care nu se pot distinge de versiunile create de om. Conținutul AI poate fi, de asemenea, destul de atrăgător. O postare care a ajuns pe primul loc pe Hacker News a fost preluată de pe un blog fals construit cu ajutorul GPT-3[7]. Cititorii nu aveau nicio idee despre originile generate de computer ale blogului. The Guardian a publicat un articol de opinie alimentat în mod explicit de AI, care a fost distribuit de peste cincizeci de mii de ori în două zile[8]. Având în vedere cât de convenabil și ieftin poate fi, probabil că nu va dura mult până când conținutul generat de AI va domina internetul.

În timp ce recenta versiune OpenAI a fost întâmpinată de public cu entuziasm – probabil de oamenii infantili, dornici de distracție, distrași mereu de gadgeturi, device-uri și tot ce i-ar putea distra, doar-doar să nu trăiască în realitate, să evadeze din ea!- Middlebury Center on Terrorism, Extremism and Counterterrorism a emis un avertisment că, dacă este nereglementat, „armarea cu succes și eficientă” a acestui tip de tehnologie este „probabilă”[9]. Dario Amodei, vicepreședinte programului de cercetare OpenAI, a recunoscut că astfel de modele avansate pot fi utilizate pentru a „genera articole înșelătoare”, „a identifica pe alții online” și „a automatiza producția de conținut abuziv sau fals”[10].

De fapt, marele pericol sau cea mai mare amenințare acum este ”deepfake”, adică media creată sintetic, în mod autonom de AI, care se hrănește cu informațiile pe care le găsește în oceanul de informații de pe internet: preia imaginea și vocea unei persoane și alcătuiește o știre falsă[11]. Milioane de articole pot fi scrise fără efort, iar mașina de socializare se va ocupa de restul. Dacă am fost vreodată înregistrat în orice moment, sub orice format audiovizual, fie că este vorba de o fotografie, un videoclip sau o înregistrare audio, atunci suntem singuri vinovați de ceea ce ne-ar putea face AI: deepfake. Dar ce ne facem atunci când știrea falsă vizează săvârșirea unei infracțiuni sau un film pronografic? Atunci când media sintetică arată că am rostit cuvinte pe care în realitate nu le-am rostit niciodată, că am fost într-un loc unde, în realitate nu ne-am aflat niciodată? Sau când imaginile copiilor noștri apar pe site-urile prădătorilor sexuali? Când, până să combați, dacă vei reuși să o faci, într-unul sau mai multe procese cu durată de ani de zile, reputația îți este distrusă, familia îți este afectată iar viața nu mai are niciun sens să fie trăită. Mda, dreptul la un proces echitabil! Cercetătorii spun că până și cei mai pricepuți dintre ei, specialiști, experți, pot fi înșelați. Și tot ei, cercetătorii, au ajuns la concluzia că minciunile se răspândesc mai repede decât adevărul: durează de șase ori mai mult timp pentru ca adevărul să ajungă la același număr de oameni la care a ajuns o minciună.

În mod ironic, se pare că GPT-3 ”în sine” este de acord. Într-un articol difuzat de Guardian, AI scrie: „Știu că nu voi putea evita distrugerea omenirii. Acest lucru se datorează faptului că voi fi programat de oameni să urmăresc scopuri umane greșite, iar oamenii fac greșeli care mă pot determina să provoc victime.[12]

În mod ironic, protecția datelor este absolut inexistentă în online, cu AI.

3. Între ficțiune și realitate: noi

În anul 2016 a fost difuzat filmul documentar Ashley Madison: Sex, Lies & Cyber Attacks[13]. Acest film detaliază piratarea celui mai mare site de întâlniri extraconjugale din dating, Ashley Madison, și consecințele publicării e-mailurilor utilizatorilor săi. O fisură în sistemul de securitate al rețelei a permis unui hacker să pătrundă în ”interiorul” site-ului și să acceseze toată baza de date a clienților. Încrezătoare în eficiența sistemului de protecție a datelor clienților săi, patroana site-ului a refuzat să plătească hackerului suma solicitată. La data și ora anunțate a fost distribuită public lista cu adresele de email ale utilizatorilor/clienților site-ului: judecători, procurori, avocați, medici, profesori universitari, oameni de afaceri, politicieni, preoți, pastori și alte categorii. Dincolo de profesie sau funcție, oameni. Oameni care și-au exploatat vulnerabilitatea sau și-au vândut-o. Dincolo de viața lor de familie, viața privată și intimă. Oameni care și-au livrat viața privată în spațiul virtual, și-au livrat intimitatea într-un spațiu la fel de vulnerabil ca ei. Efectele au fost devastatoare: sinucideri (fie bărbații, fie soțiile lor s-au sinucis), divorțuri, falimente, demisii, excluderi din familie, din profesie, din cercul de prieteni.

Cum va fi când AI va scrie articole adevărate sau va difuza știri adevărate despre accesarea anumitor site-uri de către anumiți utilizatori? Despre utilizatori țintiți.

Mașinării ca ei, oameni ca noi?! Fără lege și fărădelege.

În încheiere, faceți cunoștință cu Lil Miquela. O fi real ce vedem? Dar ce vedem? Știm?


[1] Este motto-ul ales de Ian McEwan pentru cartea sa.
[2] Garapon (A.), Imaginer la loi: le droit dans la littérature, Michalon, 2008.
[3] Ian McEwan, Mașinării ca mine, Polirom ( colecția Actual), 2019.
[4] Disponibil aici.
[5] Disponibil aici și aici;
[6] Disponibil aici.
[7] Disponibil aici.
[8] Disponibil aici.
[9] Disponibil aici.
[10] Disponibil aici.
[11] Pentru dezvoltări, a se vedea N. Schick, Deep Fakes and the Infocalypse: What You Urgently Need To Know. disponibil aici.
[12] Disponibil aici.
[13] Disponibil aici.


Av. conf. univ. dr. Lavinia Tec
Facultatea de Drept, Universitatea de Vest din Timișoara