“Nu suntem în realitate!”


”Nu este nimic acoperit care nu va fi descoperit, nici ascuns care nu va fi cunoscut. De aceea, orice ați spus la întuneric va fi auzit la lumină; și orice ați grăit la ureche, în odăițe, va fi vestit de pe acoperișul caselor.” Luca 12:3-4

Nu poți scăpa!

Ultimul sezon al serialului Black Mirror[1] debutează cu un episod tulburător despre inteligența artificială și deepfake: ”Joan is Awful”.

Joan, o femeie obișnuită, lucrează la o corporație, fiind interfața între cei care o conduc și angajați. Este nefericită atât în viața profesională, unde are sarcina de a comunica angajaților decizia de concediere pe care au luat-o șefii, cât și în viața personală. Nefericirea ei face obiectul de activitate al psiholoagei în fața căreia se confesează. Într-o seară, Joan și iubitul ei aleg să vizioneze un film pe platforma Streamberry. Șocul e devastator. Filmul care rulează este despre ea, despre existența ei în ziua respectivă: la locul de muncă, la psiholog, la o întâlnire cu fostul iubit. Personajul Joan este interpretat de Salma Hayek. Difuzarea filmului o expune oprobriului. A doua zi își pierde atât slujba cât și iubitul. Bulimia se instalează rapid. Revoltată și contrariată că viața ei face obiectul unui film, Joan solicită consultanță unei avocate. Află că într-un paragraf ascuns, undeva, în contractul încheiat în calitate de client/consumator cu platforma Streambearry, există o clauză care permite inteligenței artificiale folosită de platformă să creeze personaje și dialoguri în scopuri artistice. Speră că nu a semnat contractul pe care nu l-a citit întrucât nu era pe suport de hârtie, însă avocata o informează că a acceptat termenii și condițiile cu un click.

Disperată să găsească o soluție pentru eliminarea conținutului generat de inteligența artificială, Joan află de la avocată că nu mai poate scăpa de ”drăcovenia computerizată cuantică”, care produce hiper-trucaj avansat. ”Totul este computerizat, așa ajunge atât de repede pe internet.”

Nedumerită de unde știe inteligența artificială ce face ea în timpul zilei și nopții, Joan o întreabă pe avocată iar aceasta îi răspunde: ” știu chiar când ai telefonul cu fața în jos și ești în bucătărie, vorbind cu o prietenă despre deodorante de pantofi. Nu mai poți scăpa. Totul e public. Toată lumea devine persoană publică.”

Nu există nicio soluție pentru eliminarea de pe internet a conținutului a cărui sursă este chiar ea – sursa Joan. Singurul sfat pe care-l primește este să ignore total conținutul și defăimarea.

Încet-încet, aflăm că serialul despre Joan este produs de o inteligență artificială folosind imaginea și vocea actorilor care și-au dat acordul în acest sens. Inteligența artificială este ”un creator de conținut infinit care poate să dea naștere mai multor universuri.” Mai aflăm că analiza făcută de Streamberry arată că un conținut pozitiv al serialelor nu este credibil pentru clienți: ”nu se potrivește cu felul nevrozat în care se văd. Un conținut negativ în care apare slăbiciunea, egoismul, lașitatea oamenilor este de natură să le confirme temerile și să-I îngrozească și să-I hipnotizeze în același timp. Asta crește implicarea!”

Într-un interviu oferit recent celor de wired.com, Charlie Brooker, creatorul seriei Black Mirror a relatat că episoadele din noul sezon au fost create în timpul pandemiei, un timp distopic, în care toată lumea se întâlnea pe platforme online. Totodată, el și-a exprimat îngrijorarea cu privire la ce poate face inteligența artificială – deepfake, dezinformare – și la ce pot face oamenii când le este frică și sunt dezinformați[2].

Primul episod intitulat ”Joan is Awful” este un avertisment despre realitatea cu care ne vom confrunta în următorii ani (dacă nu ne confruntăm deja!): viața noastră reală hrănește algoritmii corporațiilor digitale și este materialul cu care inteligența artificială va crea conținut infinit. Implicarea noastră contează! Imaginea noastră, vocea noastră, cuvintele noastre, locurile în care ne aflăm – casa, biroul, mașina – toate vor putea fi distorsionate cu ușurință de inteligența artificială. Inteligența artificială va facilita crearea și răspândirea de imagini false și știri false.

Aceasta ne îndreaptă privirea spre alte probleme: cum va fi afectată mintea oamenilor?[3] Ce se va întâmpla cu epidemia de singurătate? Psihologii recunosc că sentimentul de încredere se va eroda. Capacitatea de gândire va fi alterată întrucât tot ce era incontestabil ieri, azi nu mai este. Într-o lume contaminată de virusul singurătății, inteligența artificială poate substitui cu ușurință o ființă umană în calitate de partener sau iubit. Percepția asupra identității ființei umane se va schimba. Așa se instalează disonanța cognitivă.

Să vezi și să nu crezi!

Recent, pe baza utilizării unui soft de detectare a plagiatului Turnitin, o studentă a fost victima unei acuzații false că ar fi folosit inteligența artificială la elaborarea lucrării sale și a fost nevoită să se apere în fața acestei acuzații în cadrul unei anchete școlare[4]. Tot recent, imaginile cu copii purtând hainele cu simboluri satanice au produs un adevărat scandal pentru retailerul Target. Imaginile au fost generate de inteligența artificială și s-au rostogolit rapid pe Facebook, cauzând grave prejudicii retailerului țintă, care a declarat că nu a vândut niciodată astfel de produse[5]. Luna trecută, motorul de căutare de la Google a permis unei inteligențe artificiale să genereze conținut fals cu celebra lucrare Fata cu cercei de perle a pictorului Johannes Vermeer, fără să se facă vreo mențiune despre AI. Peste 300 de enoriași s-au adunat la începutul lunii iunie în Feurth, Germania, pentru a participa la o slujbă bisericească scrisă – și susținută – de AI, relatează Associated Press. „Am conceput acest serviciu – dar de fapt mai degrabă l-am însoțit, pentru că aș spune că aproximativ 98% provine de la mașină”, a declarant Jonas Simmerlein, un teolog și filozof de 29 de ani de la Universitatea din Viena[6]. Zilele trecute, s-a publicat un articol despre o inteligență artificială care inventează citate false ale unor oameni reali și le publică online[7].

„Din ce în ce mai mult, nu numai medicii, ci și politicienii, judecătorii și profesorii vor deveni interfețe pentru algoritmi”, spune celebrul psiholog și profesor de la Stanford, Michal Kosinski[8] „Când mergi la medic, un medic îți va pune în continuare un diagnostic, dar acest diagnostic va fi doar listat de pe un computer care ți-a analizat semnele și simptomele vitale și i-a spus medicului să-ți dea acest medicament.”[9]

Michael Graziano, profesor de psihologie și neuroștiințe la Universitatea Princeton, și-a exprimat opinia că inteligența artificială ar putea crea o „lume post-adevăr” și că, probabil, va fi mult mai ușor să convingi oamenii de narațiuni false, care vor fi perturbatoare în multe privințe, decât de adevăr.

Cum va arăta societatea de mâine, cum va arăta lumea peste un an? „Alunecăm, foarte repede, către o lume controlată și dominată de IA”, spune celebrul psiholog și profesor de la Stanford, Michal Kosinski[10]. Viața noastră nu ne mai aparține. Intimitatea este substituită cu publicitatea. Iar ceea ce nu am permis statului să facă – să ne controleze viața și intimitatea -, fac acum corporațiile de tehnologie.

Este foarte posibil ca inteligența artificială să fi scăpat deja de sub controlul omului și nicio reglementare să nu o mai poată opri din evoluție.

În fața manipulării, dezinformării, defăimării, confuziei generate de inteligențe artificiale oamenii nu se vor putea apăra[11]. Bătălia pentru mintea noastră este în plină desfășurare. Depinde de fiecare să-și mențină mintea trează, discernământul nealterat. Cei mai vulnerabili rămân copiii și tinerii. Au nevoie de părinți sau mentori care veghează.

Totuși, cine este responsabil (vinovat?!) pentru toate acestea: omul sau inteligența artificială creată de el? De acest răspuns depinde reglementarea răspunderii în materia inteligenței artificiale și modul în care va arăta lumea de mâine.

„Nu mai lucrez la corporație. Sunt propriul meu șef. Personajul principal din viața mea” sunt replicile de la sfârșitul episodului ”Joan is Awful”.


[1] ”Nu suntem în realitate!„ – Replică din primul episod din Sezonul 6 al serialului Black Mirror.
[2] Disponibil aici.
[3] Disponibil aici.
[4] Disponibil aici.
[5] Disponibil aici.
[6] Disponibil aici.
[7] Disponibil aici.
[8] Disponibil aici.
[9] Disponibil aici.
[10] Disponibil aici.
[11] Despre necesitatea protecției juridice a ființei umane în fața inteligențelor artificiale, a se vedea A. Săvescu, Aptenodytes. Despre protecția juridică a oamenilor, disponibil aici.


Av. conf. univ. dr. Lavinia Tec
Facultatea de Drept, Universitatea de Vest din Timișoara