(I)
1. De regulă, trimiterea la dispozitive sau cipuri de urmărire și control al comportamentului omului simplu stârnește ironii, care se termină cu clișeul „teoria conspirației”. Numai că, în cazul Internet of things/bodies, nu mai este vorba de teorie, ci de fapte (chiar premiate de instituții de prestigiu sau de elemente fundamentale din structura statului de drept), iar ignorarea acestor fapte îi face pe toți ceilalți complici pasivi ai acestei conspirații. Iată două exemple:
a) Despre affective computing se vorbea, cu titlu de SF, încă din anul 1997, când o cercetătoare de la MIT, Rosalind Picard, a publicat o carte cu acest titlu. Picard a observat atunci că, deși emoțiile obișnuite și vizibile au expresii cognitive și corespondențe în limbaj (de exemplu, dacă simt teamă spun „mi se face frică”), cele mai multe fie nu au astfel de corespondențe, fie sunt imperceptibile. Cu toate acestea, computerele (sau obiectele și dispozitivele „smart”, în prezent) pot nu numai să detecteze aceste emoții nenumite ori imperceptibile, dar pot și să le colecteze, să le stocheze și să le clasifice, creând modele de analiză (pattern) pe baza cărora vor putea fi oricând și la oricine recunoscute și focalizate. Rosalind Picard și-a constituit propria companie, în 2017, pentru a valorifica aceste descoperiri pe care le făcuse în urmă cu 20 de ani. S-a numit… Affectiva. Afacerea s-a axat, initial, pe aplicații medicale inofensive și benefice (de exemplu, comunicarea cu copiii care au autism). Dar, în scurt timp, afacerea s-a extins la dotarea tuturor dispozitivelor „smart” cu… cipuri emoționale[1].
b) În anul 2015, compania Realyes a câștigat un grant de 3,5 milioane de euro de la Comisia Europeană pentru un proiect denumit SEWA (Automatic Sentiment Analysis in the Wild, în traducere brută, „analiza automatică a sentimentelor în sălbăticie”…), destinat construcției unei tehnologii capabile să „citească”, să stocheze și să analizeze automat emoțiile persoanelor care văd sau percep un „conținut” (text, poză, video, desen animat, meme), pentru a măsura cu precizie gradul în care respectivele persoane au apreciat sau au dezaprobat conținutul. Imediat ce a luat cunoștință de acest proiect, directorul general al AOL Internațional s-a entuziasmat atât de tare încât a declarat că acest proiect este un adevărat Sfânt Graal pentru marketingul în domeniul video, un salt uriaș în domeniul aplicațiilor tehnologice. În 2016, Comisia Europeană a acordat companiei Realyes, pentru realizarea proiectului SEWA, premiul Horisons 2020, motivând că această tehnologie va ajuta comercianții să își construiască reclame mai relevante și să își facă vânzările mai sigure[2]…
Comisia Europeană nu a observat, însă, faptul că această „mașină de învățat” deschide o cutie a Pandorei. Lumea de azi este, la propriu, invadată de dispozitive de „affective computing” și de tehnologii de „emotion&sentiments analytics”. În prezent, majoritatea lucrurilor „smart” pe care le cumpărăm pentru a ne face viața mai ușoară și traiul mai comod sunt dotate cu cipuri emoționale[3], care ne veghează și ne cartografiază chiar și când nu sunt în funcțiune. În tot acest timp, ne colectează surplusul comportamental, pe baza căruia ne construiesc și detaliază avataruri digitale, menite a ne estima comportamentul și a ne controla alegerile.
2. La un moment dat mediul online, chit că este anațional și cvasi-infinit, devine insuficient pentru a continua extracția de profile informatice și trebuie să treacă în lumea reală. Internetul lucrurilor (internet of things, IoT) este conceput exact în ideea ubicuității (omniprezenței) digitalizării, din care să se poată extrage surplus comportamental. Pentru a se ajunge la modificarea comportamentului în lumea reală, extracția trebuie să treacă și de această frontieră, adică să pătrundă în corpul și în identitatea individului – internetul corpurilor (internet of bodies, IoB). Acela este momentul în care omul ajunge să se comporte conform planului, ca un om de tinichea care va rătăci la infinit, pe cărarea galbenă care duce la castelul Vrăjitorului din Oz, pentru a-și găsi o inimă, adică sufletul evacuat din el pentru a face loc avatarului său digital, compus din „produse predictive”, adică din estimări comportamentale împachetare și etichetate pentru a putea fi expuse la „raft” și comercializate. Din acel moment omul de tinichea devine non playable character (NPC), adică o entitate a jocului care nu poate face nimic altceva decât ceea ce îi dictează jucătorul, după specificațiile programatorului. Din acel moment devine recoltă, iar libertatea sa nu mai e considerată ca un dat natural, ci ca o concesie făcută cu pipeta de Big Brother, în schimbul a nenumărate cedări sau renunțări la drepturi și libertăți (considerate cândva fundamentale).
Majoritatea dispozitivelor și a lucrurilor „inteligente” care ne populează lumea și viața – în casă, la birou, în mașină, la facultate, în sălile de cinema, teatru, opera, pe stadion, în avion, pe plajă, la munte – sunt dotate cu diverse sisteme de urmărire și captare care emit permanent semnale despre noi, despre emoțiile noastre, despre comportamentul nostru și despre mișcările noastre. Instrumentele de monitorizare la purtător – ceasuri, brățări, căști, ochelari – care ne „asistă” în eforturile de a slăbi și de a face mișcare, de a mânca „sănătos”, de a ne hidrata, de a ne calma sau detensiona etc., și care ne urmăresc toate procedurile medicale, bătăile inimii, presiunea sângelui etc., par că ne fac viața mai simplă, dar sunt menite, de fapt, să colecteze date și informații prețioase despre noi, iar nu pentru noi. Tehnologiile GPS, contractele electronice, pașapoartele sanitare (sau „de libertate”) platformele de social media, „amicii” robotici (de gen Alexa sau Siri) și mașinile autonome au același scop – sub aparența că ne fac viața simplă și comodă, ne colectează tot surplusul comportamental, în scopul programării alegerilor și achizițiilor noastre, adică, al construcției unui viitor deviat de la cel natural, care rezultă din opțiunile noastre libere și conștiente. Deja mulți oameni au ajuns să lase pe seama algoritmilor ce film să vadă, ce meniu să gătească, ce știri să urmărească, ce „prieteni” să frecventeze și chiar ce persoane să întâlnească pentru aventuri amoroase sau pentru întemeierea unei familii – deviza omului nou-normal pare a fi „de ce să fac efortul de a gândi când pot da click și rezolva totul ca prin magie?”. Nu este distopie, ci realitate: oamenii au ajuns să aibă ca șef o aplicație, să fie „judecați” de un algoritm în loc de un judecător, să fie „tratați” de un mecanism automat în locul unui doctor sau să fie „consolați” de o Inteligență Artificială în locul unui preot sau al unui psiholog. În mod evident, prin această „externalizare” ne expunem celei mai periculoase forme de manipulare – cea pe care nu o mai putem percepe, pentru că a devenit banală. Am ajuns deja să credem că deciziile luate în locul nostru sunt chiar deciziile noastre (de care, culmea ironiei, ne și atașăm emoțional).
(II)
3. Antropologul israelian Noah Yuval Harari, cel care a scris Sapiens. Scurtă istorie a umanității și Homo deus, a vorbit recent[4] despre modul în care democrația liberală poate fi distrusă prin utilizarea nocivă a algoritmilor comportamentali și a inteligențelor artificiale deținute de stăpânii lumii virtuale, plasa care acoperă și sufocă întreaga lume, ca un miceliu malefic.
Colectorii de date cu caracter personal pot vedea și controla acum, de exemplu, prin Internet of things/bodies, ceea ce pentru nimeni nu era vizibil și nici predictibil acum 20 de ani. Modificări infinitezimale ale mimicii feței, dilatări cvasi-imperceptibile ale pupilei, ezitări sau sperieturi de fracțiuni de secundă, o înroșire ușoară a feței, un tremurat ezitant al mâinilor sau al vocii etc., toate aceste detalii ale firii noastre, pe care nu le putem controla, sunt pentru noi invizibile, nedetectabile. Nu le putem depista, nu le putem ține sub controlul nostru conștient și rațional, întrucât sunt dincolo de capacitățile noastre normale de percepție și raționare. Sunt elementele de detaliu micronic care spun cele mai multe despre noi și, cu toate acestea, sunt în afara percepției noastre și a controlului nostru conștient. În schimb, aceste micro-emoții sau nano-gesturi sunt ușor vizibile, detectabile și gestionabile pentru mașinile sau lucrurile „smart”, special concepute pentru a le depista, stoca și transmite colectorilor de date cu caracter personal. Lucrurile și dispozitivele „inteligente” din preajma noastră ne monitorizează simplu, detaliat și eficient, emițând continuu semnale ce conțin date comportamentale despre noi, chiar și când sunt complet deconectate. Din aceste semnale, Internet of things/bodies extrage, fără contract și chiar fără cunoștința noastră, cei ce ne aflăm în proximitatea lucrurilor și a dispozitivelor „smart”, emoții și manifestări comportamentale.
Printre altele, N. Y. Harari folosește sintagma emotional puppet pentru a atrage atenția că suntem teleghidați prin mecanisme emoționale, iraționale, fără ca măcar să prindem de veste. Harari atrage atenția că inima, depozitarul și simbolul emoțiilor umane, a ajuns să se comporte ca un agent dublu, care are o agendă ascunsă, ostilă posesorului. Coșmarul acestei descoperiri constă în faptul că utilizarea inimii, a emoțiilor, ca instrument de control ne lasă fără apărare. Dacă vine din inimă, supunerea este implacabilă. În ciuda a ceea ce credea Bertrand Russell, emoțiile nu (prea) pot fi controlate. Emoțiile ne controlează pe noi. Prin emoții putem fi controlați și ghidați de alții – și nu în direcția bună. Dacă omul nu se cunoaște pe sine însuși (în ciuda îndemnului antic), devine pradă ușoară pentru cei care vor să îl controleze și să îl manipuleze, prin simpla apăsare a „butoanelor” emoționale.
Planul de control prin utilizarea inimii funcționează, chiar dacă un scenariu de coșmar. Sloganuri ca “urmează-ți inima”, “trăiește-ți la maxim viața”, “lasă frâu liber emoțiilor”, “bucură-te de basmul tău”, “încrede-te în eroii din linia întâi” etc. au fost utilizate eficient, dar deosebit de cinic și câinos, de către stăpânii butoanelor emoționale și iată că s-a ajuns și aici, în plin spectacol de marionete. Patul germinativ era propice – sămânța nu avea cum să nu se transforme în buruiana teribilă în care ne sufocăm azi. Și, totuși, o masa imensă de oameni cred că ceea ce se întâmplă este pentru siguranța și confortul nostru și că, mult mai grav, este alegerea nostră liberă și conștientă.
Suntem controlați prin emoții, declanșate sau fabricate de armatele de cookies, algoritmi, avataruri și standarde comportamentale (de genul “valorilor comunității” sau al “corectitudinii” politice) fluide, adaptate scopurilor păpușarilor. Iar unii au devenit păpuși sentimentale, non-playable characters (NPC) care se mișcă și simt după cum li se dictează de către jucător, din butoanele consolei de joc.
Inteligențele artificiale determină supunere și prostie artificială. Nu e de mirare că mai mult de 90% din achizițiile noastre sunt iraționale și (semi)automatice, stereotipice, oligo-raționale. Rațiunea achizițiilor și libertatea de a alege ne-au cam părăsit. Iată de ce omul “trebuie” reconstruit (re-engineered), pentru a fi reconstruit “mai bine”. Build back better …
4. S-a extins global o incredibilă mișcare “progresistă”, intitulată cancel culture[5]. Pe cât de șocantă este sintagma, pe atât de intruzive și periculoase îi sunt înțelesurile. A cenzura/anula cultura înseamnă mult mai mult decât a renunța la tot ceea ce s-a putut acumula în trecut ca bagaj cultural, emoțional și istoric al fiecărei comunități, al fiecărei națiuni, al fiecărui individ – înseamnă a renunța la identitatea individuală, în favoarea identității de gen, compusă din avataruri care se mișcă fericite în Matrix.
Omul, ca persoană, ca individ, nu se confundă cu cel ce îl privește din oglindă, ci se compune și din memoria și istoria sa și din idealurile, visele și dorințele sale dar, mult mai important, omul se compune și din extensiile sale în ceilalți – iubim, avem încredere în, ne bazăm pe, ne raportăm la, invidiem sau imităm, urâm sau disprețuim pe cineva și asta ne face să fim o persoană cu identitate proprie, iar nu o simplă albină într-un stup.
Pentru mișcarea cancel culture, identitatea nu mai este individuală, evolutivă și oglindită în ceilalți, ci făcută din elemente constante și repetitive, cum ar fi culoarea pielii, identitatea sau ambiguitatea sexuală, apartenența la un stup corporatist ori sectă, aderența la o ideologie sau alte asemenea iluzii și fantasme new age.
Rejectarea voluntară a familiei, a istoriei, a planurilor și a identității este parte a programului de re-editare, de rescriere a „softului” său, în scopul diluării în masa mare a „comunității”, în “măruntaiele” creaturii colective menite a aduce ordinea în haos și a elimina riscurile libertății opțiunii umane. Abandonul familiei și al identității proprii este o renunțare la umanitate și o cruzime la adresa celorlați, căci sufletul nostru nu este o aură pusă pe figura pe care o vedem în oglindă, ci extensia noastră în ceilalți, sforile invizibile care ne leagă de ai noștri.
Păpușile sentimentale nu mai au nevoie să fie umane.
În schimbul trecutului, al idealurilor personale, al familiei și al încrederii în viitor, păpușile sentimentale pot adopta lejer (și sunt încurajate să o facă), cu entuziasm auto-distructiv, egoismul, vrăjmășia, plăcerea de face rău altuia (shadenfreude) sau mândria și auto-aprecierea excesive, arogante (hybris). De altfel, mai mult ca oricând în istoria societății moderne, azi se stă la coadă la psiholog sau la psihiatru, pentru că lumea contemporană este plină de sociopați, de depresivi ipohondri, de “fulgi de zăpadă” (ființe firave, care nu pot fi atinși nici măcar cu o floare, căci se topesc de ofensați ce sunt) și de albine solitare care tânjesc, totuși, după stupul tehnologic și după supunere.
5. Curând, omul – păpușă sentimentală care își dorește să fie sănătos și inteligent ca o mașină, își va putea implanta un neuralink de conectare la secta transhumaniștilor.
Omul care aderă la secte (fizice sau virtuale) își abandonează familia, istoria și planurile, pentru un vis nebunesc al unui lider “luminat”, pentru o ideologie profetică, pentru un șir de trăiri hedoniste și psihedelice, pentru o societate a florilor puternice sau a fulgilor de nea. Evadarea nici nu trebuie să fie fizică – omul virtual se închide de unul singur în “comunitatea” sa de pe internet, unde primește și emite continuu validări ale “adevărurilor” sectei virtuale căreia i s-a abandonat.
Sub efectul disforiei și al ambiguizării, păpușa emoțională își va putea schimba familia și genul în funcție de cum va fi avut chef mâine. Cei care se scaldă cu entuziasm în acest marasm ignoră faptul că există întotdeauna un buton switch on – switch off pe care îl dețin controlorii sistemului și că supraveghetorul turmei virtuale va putea cere și obține orice prestație fizică de la păpușile emoționale, adică foștii indivizi concreți, acum diluați în masa turmei. Există întotdeauna un stăpân al păpușilor. Cu un neuralink la dispoziție, the master va putea face ca indivizii cu implant să se comporte și să se miște în sincron, ca albinele din stup, ca graurii din stol, ca peștii din bancurile oceanice, ca somonii care se îndreaptă către reproducere și moarte, ca dansatorii până la moarte după muzica Flautului fermecat sau ca avatarurile blocate în Matrix, menite a ține în viață, cu titlu de baterii pentru mașini, expresia lor biologică.
Progresul tehnologic nu înseamnă și progres social sau uman. Dimpotrivă, avansul tehnologic poate duce inexorabil la involuție umană și regres social, pe măsură ce face să se adâncească inegalitățile și să explodeze sărăcia și dependența de stupii corporatiști. Acest tip de progresism este, de altfel, totalmente contrar ideii de liberalism și echilibru. Este inversul evoluției și civilizației[6].
Libertatea păpușilor emoționale este sclavie, iar ignoranța lor este puterea de a face ca războiul să fie pace.
(III)
6. Oamenii pășesc pe pământ ca niște profeții – toate faptele lor sunt încercări și probe, căci fiecare faptă poate fi întrecută de următoarea[7]. Ca ființă a opțiunii și a liberului arbitru, omul normal (își) modifică viitorul cu fiecare faptă, încercare sau probă. Omul normal are însușiri, atribute, identitate – toate sunt concretizate prin opțiune și moștenire epigenetică (faptele, încercările și istoria generațiilor trecute). Omul normal este femeie, bărbat, fiu, fiică, român, străin, creștin, iudeu, musulman, ateu.
Așa-zisa revoluție digitală a schimbat fundamental și – mă tem – ireversibil coordonatele fundamentale ale ecuației omului – profeție, ale omului – făgăduință.
Omul produs de „noua normalitate” este un om fără însușiri.
Plasma este acea stare de agregare a materiei care se compune din particule sub-atomice nediferențiate, ceea ce o diferențiază net de starea gazoasă, lichidă sau solidă. Nefiind compusă din atomi, plasma nu poate fi compusă nici din molecule, de nu poate lua nici formele de agregare obișnuite ale materiei.
Celula stem (sușă) este o alcătuire non-diferențiată, o formă de organizare ne-numită. Nu este nici celulă nervoasă, nici celulă hepatica sau renală, nici celulă sanguină sau de piele, dar poate fi orice astfel de celulă numită, specializată pe funcționalități biologice.
Omul care nu mai are însușiri este un om de plastilină, care poate fi (re)modelat, standardizat sau adus la cel mai mic numitor comun, prin dotarea cu atribute comune, stereotipice.
7. Pentru a-l remodela, pentru a-i fabrica consimțământul, omul target din plastilină este prelucrat, pe baza „modelului” avatarului său digital, compus din surplusul său comportamental.
Deși ar trebui să ne personalizeze, să ne singularizeze, odată colectat și prelucrat, surplusul comportamental devine materia prima cu ajutorul căreia suntem aduși la cel mai mic numitor comun, suntem aplatizați și, ulterior, suntem supuși unui continuu proces de remodelare. Devenim predictibili și programabili, exact la fel cum pot fi programate mașinile.
Comportamentul bazal al omului este determinat de nevoile sale naturale – acesta este numitorul comun, repetabil și previzibil, al oricărui om. Tocmai de aceea foamea, frica, privarea senzorială sau tortura fizică au fost mereu metode aproape infailibile de control și remodelare a omului. Comunitatea de valori, apartenența la grup, cooperarea și altruismul, adică identitatea de grup, înseamnă primul rezervor de surplus comportamental care se adaugă acelor nevoi de bază. Este ceea ce ne diferențiază ca membri ai unei comunități – familie, națiune, echipă, grup, confrerie, companie etc. Asperitățile, diferențele și alegerile personale, individuale, adică identitatea individuală, se constituie într-un al doilea rezervor de surplus comportamental, cu mult mai vast și mai adânc decât primul. Datele cu caracter personal sunt indicatori de surplus comportamental, semnale infinitezimale ale comportamentului nostru individual, care ne diferențiază de ceilalți. Emoțiile, afecțiunile și opțiunile noastre, starea de sănătate, autoaprecierea, culoarea pielii, nuanța ochilor, vârsta, educația etc., sunt date cu caracter personal care sunt indisolubil legate de persoana noastră (și nu ar trebui să fie în proprietatea nimănui, tocmai pentru că sunt identitatea noastră, adică noi înșine).
Când ne manifestăm identitatea de grup, emitem semnale primare ale surplusului nostru comportamental. Când ne punem datele noastre cu caracter personal la dispoziția colectorilor, plămădim și dospim uriașul cozonac al surplusului comportamental individualizat. Facem asta de bună voie sau forțat, conștienți sau nu de auto-exproprierea noastră de aceste fracțiuni ale identității noastre. Colectorii recoltează aceste date ca niște Moș Crăciuni care nu fac, ci primesc daruri, sau care se împroprietăresc prin ocupațiune asupra surplusului comportamental recoltat de la noi. Pe baza acestui surplus comportamental, analizat de algoritmii și inteligențele artificiale ale colectorilor atât în succesiunea ipostazelor noastre din ultimii 20 de ani (colectorii acestor date nu omit nici un detaliu al experiențelor noastre și nu uită nicio întâmplare sau eveniment din viața noastră, în timp ce noi avem memorie selectivă și afectivă, ierarhizată în privința valorilor și omisivă cu detaliile), cât și în comparație cu indivizii similari nouă, colectorii efectuează estimări, pe baza cărora emit predicții comportamentale. Având la dispoziție imense baze de date și capacități gigantice de procesare, colectorii surplusului comportamental pot estima, cu o precizie diabolică, ce alegeri și achiziții vom face, ce decizii vom lua mâine, peste 2 săptămâni sau până la Crăciun. Gestionarul acestor baze de date fabrică produse predictive, pe care le comercializează cu profituri hiperbolizate. Mai grav este, însă, că aceste estimări comportamentale generează un adevărat avatar digital al fiecăruia dintre noi, cu ajutorul căruia suntem controlați ca niște marionete: nu doar că ni se fabrică voința și ni se canalizează consimțământul, dar ni se inoculează și iluzia că alegerile pe care le facem sunt libere și rationale, că sunt alegeri ale noastre.
8. Finalitatea desenării unei lumi programabile merge mână în mână cu scopul fabricării unor oameni predictibili și programabili[8].
Desi ascunse la vedere, instrumentele acestei inginerii sociale sunt omniprezente, fiind utilizate ca resurse ale construcției unui viitor alternativ, diferit de cel natural, dar mai „bun” (build back better).
Capitaliștii supravegherii și ai spionajului permanent online au ajuns să fabrice viitorul pentru a-l putea prezice cu precizie și a-l vinde. Nu mai este despre profeția care se împlinește prin simplul fapt că e rostită, este despre determinism social și cultural. Viitorul nu mai este compus din opțiuni, probabilități și hazard. Nu mai există întâmplare și nici caz fortuit (act al lui Dumnezeu): viitorul este un plan detaliat și minuțios pus în practică.
Cu ajutorul tehnologiei de affective computing, riscul și incertitudinea marilor comercianți pot fi neutralizate[9]. Asigurătorii nu mai trebuie să își bată capul cu calcule actuariale și cu procese interminabile cu asigurații, băncile nu mai sunt nevoite să efectueze analize complexe de risc al viitorilor debitori, iar marii producători de medicamente și vaccinuri nu mai sunt obligați să efectueze teste clinice birocratice și costisitoare pentru noile lor produse. Internetul lucrurilor reduce totul la o analiză a bazelor de date sau la un click. Nu mai există decât riscul controlatului, adică, al „asiguratului”, al debitorului, al pacientului etc.
Digitalizarea ubicuă nu mai înseamnă doar globalizarea mașinilor de știut și de învățat. Este mult mai mult decât atât – este o mașină de acțiune, un re-modelator permanent de comportamente, menit a produce din ce în ce mai multă certitudine despre noi și (exclusiv) pentru cei aflați la panoul de control și supraveghere.
Așa cum spune Shoshana Zuboff[10], întâlnirea digitalizării omniprezente cu spionajul comercial și birocratic neîntrerupt a făcut ca infrastructura digitală să se metamorfozeze „dintr-un lucru pe care îl aveam, într-o entitate care a ajuns să ne dețină”. De asemenea, Zuboff afirmă ca întreaga filosofie a capitalismului de supraveghere se reduce la acumularea (ca într-o schemă Ponzi, n.n.) de noi resurse de surplus comportamental. Tot ceea ce lăsăm pe internet, pe paginile de socializare sau pe platformele de tranzacționare sau de streaming online după ce am citit un text, am vizionat un film, am cumpărat un coș virtual de produse sau servicii, am postat un conținut, am împărtășit cu „prietenii” o poză, un video, o recenzie și am efectuat plăți și încasări pe platforme de tranzacționare, de telemedicina ori de învățământ digital (ba chiar și când am efectuat schimb online de … emoționalitate) devine estimare comportamentală. Pe baza acestui surplus comportamental colectat de gestionarii de baze de date (și comercializat terților) se elaborează predicții comparabile cu viața reală. Platformele de tranzacționare, sistemele de plăți, rețelele de socializare etc. au ajuns să ne cunoască mai bine decât ne cunoaștem noi înșine.
Ne dorim să credem că tehnologia ne întărește controlul asupra propriei vieți și asupra circumstanțelor acesteia, dar tehnologia poate să ne transforme în figuri de plastilină, remodelabile conform scopurilor proprietarilor tehnologiei.
Fără a percepe acest adevăr ascuns la vedere, am fost deja transformați în instrumente ale ingineriilor sociale, menite a ne „optimiza” și programa, ca și când mintea și trupurile noastre nu ar fi altceva decât tehnologii[11].
Am fost avertizați nu numai de Shoshana Zuboff, în 2019, ci și de B. Frischmann și E. Sellinger, în 2018 – companiile, organizațiile și instituțiile care creează și utilizează tehnologii „smart” sunt liderii ingineriilor tehno-sociale care ne seduc cu promisiunea că uneltele „inteligente” ne vor face viețile mai bune și mai ușoare dar, ca orice narativ referitor la progres, aceasta nu este întreaga poveste. Pe cărarea pavată cu cărămizi galbene care duce la castelul Vrăjitorului din Oz pare că ne îndreptăm spre lumea magică în care toate problemele noastre se vor fi terminat, dar riscăm să ne pierdem pe noi înșine pe drum, riscăm să devenim din ce în ce mai predictibili și – mult mai rău – programabili, exact la fel ca mașinile[12]. În siajul acestei vaste acțiuni de seducție, magicienii tehnologici au marcat lucrurile, dispozitivele și mașinile „smart” cu iluzia umanității, dar noi riscăm să devenim semenii omului de tinichea, goliți de raționalitate emoțională.
Este esențial să încorporăm tehnologiei valorile umane, înainte ca tehnologia să anihileze valorile umane și să invadeze condiția umană, în sine.
9. Problema nu este neapărat că asistăm la ascensiunea mașinilor „inteligente”, ci că se instalează regresul cognitiv al umanității, iar noi nu reacționăm hotărât contra acestei tendințe.
Odată ce „mandatăm” mașinile, algoritmii și Inteligențele Artificiale să acționeze în locul nostru, cedăm și controlul asupra propriilor dorințe și decizii, asupra propriilor alegeri și achiziții. Ceea ce riscăm să pierdem este controlul asupra propriului destin și asupra propriilor alegeri, liberul arbitru în sine. Odată cu această pierdere, dispare și sentimentul împlinirii și al apartenenței, care este antrenat de propria intenționalitate (ori de propriul curaj, talent sau merit).
Ca într-o corporație preocupată exclusiv de reducerea costurilor, în lumea de azi s-a făcut outsourcing în privința procesului decizional – am „mandatat” alegerea și decizia rațională și liberă sistemelor algoritmice și obiectelor „smart”, fără a înțelege pe deplin ce se întâmplă când suntem sub bombardament informational și ne lăsăm conduși de „pilotul automat”. Evident, nu știm nici ce se află în cutia neagră a avionului cu care călătorim fără destinație. Dacă am „externalizat” către programatori și companiile digitale responsabilitatea pentru evaluările și judecățile care ar trebui să ne definească la nivelul intrinsec cel mai intim, am renunțat la aproape tot ceea ce înseamnă condiția noastră umană și am pășit hotărât pe panta fatală a regresului cognitiv.
Confruntați cu provocări sau crize, lăsăm altora posibilitatea de a risca și a avea succes, pentru că nu avem convingerea că am fi tipul de oameni care marchează și câștigă. Acesta este sindromul impostorului, de care suferă mai mult de trei sferturi din populația lumii. El va afecta și mai mult omul, pe măsură ce deciziile ne vor fi luate, iar alegerile noastre vor fi făcute de lucrurile „smart” și de aplicațiile care „ne ușurează” viața.
10. Avansul tehnologic actual a devenit nociv tocmai pentru că aplatizează, aduce omul la cel mai mic numitor comun, diminuează condiția umană, refuzându-i liberul arbitru.
Ar trebui să ne temem de faptul că devenim noi din ce în ce mai robotici, în loc să ne speriem de roboți.
Temerea cea mai veche a umanității, aceea că mașina va înlocui omul (începând prin a-i răpi locul de muncă) este depășită, în prezent, de realitatea că la capătul celălalt al raportului juridic nu se mai află un om sau o persoană juridică, ci un mecanism automat, un algoritm sau o „aplicație”. Suntem pe un trend inexorabil care creează, pe măsură ce trăim criză după criză, un ocean de „inutili social”, prin înlocuirea salariaților cu aplicații și a responsabililor umani cu algoritmi. Când vom avea doar aplicații în loc de șefi, judecători, medici, psihologi, profesori, antrenori etc. și nicio persoană fizică sau juridică pe care să o facem responsabilă, juridic sau moral, pentru suferințele, daunele și șansele noastre pierdute ori idealurile noastre distruse, va fi fost prea târziu pentru măsuri de prevenție.
Regresul cognitiv va fi și un regres juridic – este suficient să urmărim declinul aproape inexorabil al drepturilor și libertăților individuale ale omului sau deplasarea treptată dinspre ordinea private, bazată pe contracte rationale, liber perfectate, către ordinea publică polițienească, în care nu mai există libertatea de a contracta (ci numai „libertatea” de a primi sau nu o sancțiune, care să determine, in extremis, chiar și excluderea extra muros a „delincventului”) pentru a ne convinge de dezastru. Din nefericire, regresul cognitiv este și un regres democratic și cultural. Omul a „învățat” să fie supus, să își semnalizeze virtutea de a fi progresist, pro-știință oficială, anti-tradiție și cultură, individualist și hedonist, chiar în ciuda propriilor convingeri sau în disprețul propriilor interese personale sau familiale, și a decis să fie om nou-normal, care detestă familia, casa și viitorul – lucruri care, de altfel, țin de condiția umană universală.
11. Omul de plastilină este condus aproape integral prin manipularea simțurilor și a emoțiilor atavice. Robert Musil spunea[13]: “simțurile [oamenilor fără însușiri] n-au învățat încă să se slujească de rațiune – între cele două categorii există o deosebire evolutivă aproape la fel de mare ca cea dintre apendice și scoarța cerebrală”. Ca într-un labirint al oglinzilor paralele, omul fără însușiri „gândește” și este așa cum îi impun supraveghetorul și cenzorii, fiind captiv al iluziei că decizia îi aparține și este ratională. Această iluzie colectivă își extinde aripile întunecate asupra cvasi-totalității lumii, amenințând să ne acopere pe toți.
Omul de plastilină este o ființă previzibilă, care nu mai are liber arbitru[14] și care trebuie remodelat mereu, ca să nu mai prezinte un risc permanent de stricare a planului architectural artificial. Potrivit noii ideologii de turmă, nou-normalismul, natura umană trebuie schimbată prin orice mijloace, întrucât numai ceea ce este simetric și „curat” ca o mașină este predictibil. Această nouă ideologiei forțează ființa umană să se adapteze cerințelor sinistrei și dezumanizantei lumi totalitare “inteligente”, o face să devină o lucrătoare fericită a stupului, exact ca în profeticul Matrix.
Nou-normalismul este puntea către transhumanism.
Calificat de Francis Fukuyama (în 2004) drept “una dintre cele mai periculoase idei ale lumii contemporane”, întrucât are accente naziste și eugenice, transhumanismul țintește către omul “îmbunătățit”, burdușit cu droguri și chimicale, împănat cu tehnologie și ușor de ridicat în spațiul virtual, asexuat sau gender-fluid, sănătos până la a-mortalitate și, desigur, a-moral, adică dincolo de bine și de rău, în afara istoriei și perfect străin idealurilor unei umanități normale.
Pentru adepții acestui tip satanic de filosofie[15], normalitatea este înapoiere, feudalism și anacronism demn de dispreț. Dubiul științific este ostracizat, opinia dizidentă, care refuză „principiul” informării dintr-o singură sursă (oficială, birocratică, „de încredere”), este coborâtă la rangul de delict. Credința tradițională este un atentat la „ordinea liberală mondială”.
12. Așa-numita „ordine internațională liberală”, impusă prin proiectul neoliberal al „dezlegării” satului global de statele naționale, a dus la așa-zisa global governance, sub impactul irepresibil al căreia „cei presaţi de nevoi sunt obligaţi să vrea ceea ce puternicii economiei sunt liberi să le-o impună”. Într-o lume „neo-liberală”, globalizată, cei mai puternici își impun (fărăde)legea celor mai slabi şi adeseori contractul consacră strivirea celui mai slab de către cel puternic[16]… Acest proiect neo-liberal a creat o lume artificială, incompletă, cu accente totalitare, în care nu există libertate decât pentru cei puternici, o lume dominată de elitismului prost înțeles al birocrației globale, o lume caracterizată prin hegemonia statelor puternice asupra statelor slabe, transformate treptat în colonii. Acest proiect a funcționat cel mai bine în favoarea giganților tehnologici și mai funcționează încă doar pentru că, momentan, suntem ferecați digital într-o adevărată blocadă sentimentală și într-o incredibilă captivitate mentală (caracterizată, în principal, prin obligativitatea informării dintr-o singură sursă, oficială și birocratic impusă).
Este, însă, o distopie efemeră, sortită pieirii.
Este foarte probabil că urmează noi spectacole de marionete emoționale, mai absurde decât ceea ce trăim acum. Cu toate acestea, crizele succesive cărora am fost nevoiți să le facem față au determinat efecte neașteptate, cu certitudine neplanificate de stăpânii butoanelor emoționale. Oamenii au citit mai mult, s-au informat, au redescoperit traiul natural, importanța familiei și a fraternității și, mai ales, sensul escatologic, de destin final al umanității, pe care trebuie să îl atribuim drepturilor și libertăților fundamentale. Oamenii au redescoperit că au drepturi și că “cetățean” vine de la “cetate”, unde drepturile și libertățile sunt ca apa și aerul, adică, indispensabile.
[1] Nefiind de acord cu această excrescență a firmei sale, pe care a considerat-o periculoasă sub raportul liberului arbitru (fundamentul condiției umane), Picard a părăsit propria companie. Fosta sa doctorandă, care a fost co-fondatoare a companiei Affectiva, precum și finanțatorii, au decis, în schimb, să continue noua afacere, iar compania a fost redenumită – Emotion AI. De atunci, tehnologia „cipurilor emoționale” s-a extins exponențial și global. De precizat că noțiunea de „cip emotional” nu desemnează un cip care ar avea emoții, ci un cip care poate detecta și stoca emoții.
[2] Pentru amănunte, a se vedea Shoshana Zuboff, Capitalismul de supraveghere. Lupta pentru un viitor al umanității, la noua frontieră a puterii, editura Hachette Book Group, New York, 2019, p.202, ediție în limba engleză, pp. 281-283. Cartea nu este încă tradusă în limba română.
[3] Noțiunea de cip emoțional nu are sensul că lucrurile sau dispozitivele „smart” ar fi dotate cu emoții (după modelul personajului Data, din Star Treck, care este un cyborg), ci sensul că aceste cipuri sunt destinate să detecteze emoții.
[4] A se vedea, pe tik tok, https://vm.tiktok.com/ZMLdKW5tj/. De asemenea, pe youtube, la minutul 15’45”, Harari susține: “Now, we see the creation of this massive class of useless people as computers become better and better in more and more fields,… There is a distinct possibility that computers will outperform us in most tasks and will make humans redundant… And then, the big political and economic question of the 21st century will be: “What do we need humans for?… Or at least, what do we need so many humans for?” [Do you have an answer in the book?] At present the best guess we have is to “Keep them happy with drugs and computers games…” But this doesn’t sound like a very appealing future…”. A se vedea https://www.youtube.com/watch?v=nzj7Wg4DA.
[5] Așa cum, cu curaj, susține un profesor american, această mișcare este “o perversiune universitară” și o aberație intelectuală, întrucât, în esența sa, nu face decât să înlocuiască adevărul cu o poveste inventată. Disponibil aici.
[6] Philippe de Villiers, fost deputat francez și european: “In Evul Mediu erau izolați cei bolnavi, puși în carantină și în lazareturi (leprozerii – n.n.). Astăzi îi izolăm pe cei sănătoși. […] asistăm la trecerea de la o societate înrădăcinată la o societate virtuală, dematerializată, unde comerțul clasic este înlocuit de amazon, unde telemunca și tele-învățătura semnalează trecerea barbară de la apropiere la distanțare. Aceasta este „o societate rece, inumană, o societate a oamenilor hibrizi, solidari-solitari”, care pare a fi pregătită pentru cea mai periculoasă schimbare dintre toate, schimbarea post-umanistă […], este triumful așteptat al identității digitale și al controlului total prin digitalizarea lumii”. A se vedea aici.
[7] Robert Musil, Omul fără însușiri, Humanitas, 2018, p. 41; parafrază după Ralph Waldo Emerson.
[8] Nicholas Carr, Cuvânt înainte la cartea lui Brett Frischmann și a lui Evan Sellinger, Re-engineering Humanity, Cambridge University Press, Cambridge, 2018.
[9] Dispozitivele „smart” ale mașinii tale sau ale telefonului tău sunt pre-setate pentru a comunica instantaneu nu numai cu service-ul autorizat, ci și cu societatea de asigurări și cu poliția rutieră care, toate, indiferent de starea reală în care te afli sau de o eventuală forță majoră, ar putea considera că șofezi periculos, că ai acumulat prea multe puncte de rating scăzut sau de amendă, că pari a fi obosit la volan, că pari a vorbi în dodii și, deci, ești cel mai probabil în stare de ebrietate sau „afumat”, și să lanseze automat comanda „stop”. Oprirea automată a mașinii ar putea interveni, de altfel, oricând (pare că) se încalcă regulile stabilite de asigurător, întrucât dealer-ul are o înțelegere cu asigurătorul în virtutea căreia ar urma să obțină niște bonusuri suplimentare sau niște economii aferente pre-setării mașinii cu aceste reguli – cumpărătorul neavând de ales (sau ignorând înțelegerea celor doi). Mașina, din aceste motive, se poate opri automat, chiar și dacă ești în plină furtună, în plin deșert, pe o trecere la nivel cu calea ferată, având pe bancheta din spate un copil bolnav sau un rănit grav. Asta pentru că mașina, telefonul sau alte dispozitive fixe ori portabile sunt „inteligente” …
[10] Ibidem, p. 202.
[11] Ibidem.
[12] Brett Frischmann și a lui Evan Sellinger, Re-engineering Humanity, Cambridge University Press, Cambridge, 2018, Introducere.
[13] Op.cit,, p. 40.
[14] Omul de plastilină este ființa – soldat al stupului, un concept și o realitate faptică, palpabilă, care se înscrie în seria de experimente totalitare și distopice în care s-au înscris, cândva, și omul nou de tip comunist sau übermensch-ul nazist. Este terminalul care există doar dacă se poate conecta la main-brain-ul colectiv, la “mintea” entității colective malefice care l-a dislocuit, neutralizându-i sufletul.
[15] Dacă omul normal, cel pe care îl încarnăm și pe care îl știm, pentru că îl recunoaștem ușor în semenii noștri, dacă omul condiționat de boală, moarte, prostie, ură, dar și înălțat de iubire, artă, altruism, bunătate intrinsecă, este ființa aceea pe care Dumnezeu a făcut-o după chipul Său și asemănarea Sa, ce anume le dă dreptul acestor tehnocrați malefici să îl remodeleze și să îl reediteze? Care sunt chipul și asemănarea după care nou-normalul a fost făcut, de vreme ce Dumnezeu este a fost alungat din ecuație?
[16] Afirmațiile din text le aparțin profesorilor francezi de drept Boris Stark, François Terré și, respectiv, Léon Mazeaud.
Prof. dr. avocat Gheorghe Piperea
PIPEREA & ASOCIAȚII