Mircea Duțu: IA: marea înlocuire ori complementaritatea salvatoare?

Totul a izbucnit în 1997 când un eveniment neobișnuit șoca lumea: Deep Blue, un soft de inteligență artificială îl învingea la șah pe marele maestru Garry Kasparov, campionul mondial în domeniu de atunci. Pentru prima dată, o mașină „fără suflet” depășea inteligența umană în forma sa cea mai pură. Apoi, IA avea să cunoască un progres exponențial, accelerat în ultima perioadă. În ipostaza sa generativă ea produce astăzi texte, imagini și video cu performanțe ce depășesc din ce în ce mai mult umanii cei mai talentați. În fața acestei revoluții unii evocă, între teamă și scepticism, mitul lui Frankenstein unde creatura scapă de sub controlul creatorului său. Și din această cauză mulți cercetători ai materiei sunt convinși că o IAG (inteligență artificială generală) ori o „supra IA”, va vedea lumina zilei în viitorul deceniu și va fi capabilă să ne surclaseze în toate domeniile. Atunci, cu forța unei dileme existențiale, de genul celei „a fi sau a nu fi” se ridică întrebarea: o atare evoluție radicală și implacabilă va însemna marea înlocuire umană sau o complementaritate (binevoitoare sau concurențială)? Dincolo de știința pură, aceste chestiuni aparțin, deopotrivă, de etică, politică, drept și filosofie. Până la a încerca a o elucida, ne propunem să purcedem la câteva constatări ale unei atari perspective de înlocuire, deocamdată parțială, legate de morală, viața artistică și cercetarea științifică, în cadrul dialogului nostru pe tema IA inițiat cu dl. prof. univ. dr. Mircea Duțu.

Ovidiu Predescu: Din ce în ce mai omniprezentă în societate și viața de zi cu zi a fiecăruia dintre noi, inteligența artificială pune în discuție, prin posibilele sale evoluții pe termen lung, însuși statutul, până acuma unic, incontestabil al omului de „trestie gânditoare”. O teză care însă nu face unanimitate. Cum vedeți o atare perspectivă?

Mircea Duțu: După cum e cunoscut, judecata umană se afirmă, prin excelență, drept una bogată și subtilă, reieșită din interacțiunea complexă dintre rațiune și emoție, experiență și intuiție, fără a putea rămâne indiferentă sfaturilor pe care le primește. Acestea pot fi sărace în conținut, lipsite de empatie, fără a lua în calcul complexitatea unei situații ori să apere valori diferite de cele ale noastre. Cu asemenea premise se ridică, în mod natural, întrebarea: o nouă formă de inteligență, precum cea artificială, poate rezulta de aici și va reacționa ea ca atare? Cel puțin la prima vedere, răspunsul neutru e nu, întrucât sistemul de inteligență artificială nu e un agent moral în sensul filosofic al termenului; e unul digital care, lucru foarte important, nu înțelege nimic din termenii pe care îi folosește. A gândi că o IA va fi competentă în materie morală se consideră a fi o eroare ontologică! (V. Faure, „Le dilemme”: Peut-on déléguer nos questionnements moraux à une intelligence artificielle ?, „Le Monde”, 13 mars 2025). Desigur, chatboturile ori roboții conversaționali nu posedă caracteristicile esențiale ale eticienilor umani, în special conștiința de sine, emoția și intenția. Dar large language models (LLM, „marile modele de limbaj”), care permit mașinii să integreze enorme volume de test filosofice publicate timp de mai multe secole, inclusiv discuții pe probleme morale, pot să furnizeze răspunsul cel mai bine corelat din punct de vedere statistic cu o cerere și să dea astfel iluzia de înțelegere. Rezultatele sunt impresionante, dar o deliberare etică nu se supune unor asemenea reguli. Ea implică o reflecție la o situație cunoscută, ținând seama de valori ce pot să fie variate și, uneori, în contradicție unele cu altele, pentru a face alegeri. Filosoful australian Peter Singer pare, la rândul său, și mai convins de aceste evoluții. El a pus la punct un chatbot capabil să răspundă în locul său la mii de chestiuni pe care le pun lectorii lui. „Acest robot nu a comis niciodată cu adevărat erori grosiere asupra opiniilor mele. El nu a zis niciodată un lucru care să mă facă să spun categoric: nu, e fals”, a explicat universitarul, după mai multe luni de utilizare. Aceeași (cvasi) interschimbabilitate între etician și robot e sugerată, de asemenea, și de două studii recente care concluzionează că sfaturile date de LLM de ultimă oră sunt cel puțin la fel de bune precum cele răspândite de filosoful Kwame Anthony Appiah, care răspunde la dilemele morale ale timpului nostru în paginile lui New York Times, în fiecare săptămână, în cronica sa „The Ethicist”. Una dintre cercetări nu a relevat nicio diferență semnificativă între valoarea percepută din sfaturile date de GPT4 al OpenAI și cele propovăduite de Appiah, potrivit avizului studenților, experților în etică și persoanelor sondate în mod aleatoriu on-line. Într-un alt studiu, sfaturile furnizate de IA, ultima versiune a ChatGPT, au fost evaluate de 900 de specialiști ca fiind „mai morale, mai demne de încredere, mai reflexive și mai corecte” decât cele scrise de Appiah. Autorii au conchis că „LLM au atins, în anumite privințe, o expertiză de nivel uman în materie de raționament moral”. Așadar, rezultatele unor atari demersuri nu sunt surprinzătoare, întrucât sunt mașini capabile să prepare un volum enorm de baze ce corespunde unei mari părți a cunoașterii mondiale, așa încât antrenează pornind de la un mare număr și o amplă diversitate de surse, care nu pot să furnizeze decât rezultate interesante.

Dacă e chestionată asupra capacității sale de a răspunde la întrebări de ordin moral, o inteligență ChatGPT răspunde astfel: „Eu pot oferi sfaturi morale bazate pe principii generale precum empatia, respectul, bunăvoința și justiția. Cu toate acestea, morala e subiectivă și depinde de cultură, de credință personală și de context individual”.

În anumite cazuri, aceasta poate să fie o manieră de a evita o relație toxică ori o situație în care comunicarea a devenit insuportabilă. Dar, în alte cazuri poate fi vorba de lipsă de respect și de empatie pentru alte persoane. Dialogul se rafinează dacă se desfășoară cu un robot, ceea ce face interesantă utilizarea IA. Un alt mod de a aborda viața morală, e acela de a viza perfecționarea sa, ceea ce conduce la ridicarea spirituală a persoanei. Acest travaliu trece prin o serie de exerciții. Inteligența Artificială nu e în sine morală sau amorală, ea nu are „competențe etice”, dar ne poate permite să „împingem mai departe raționamentele noastre printr-un dialog”. Inteligența artificială se perfectează pentru că noi ne perfecționăm. Și invers. Mergând mai departe în această privință, Th. Ménissier se întreabă: ce e un bun consilier? Și tot el răspunde: „este atunci când cineva vă face să vedeți lumea altcumva. Cine vrea să se rezume la tot ce s-a spus, și nu vrea să se nuanțeze, îmbogățească, amelioreze. Avem algoritmi care fac asta chiar de pe acum. Nu e vorba de a da o delegație de morală mașinii, ci posibilitatea de găsi, prin ea, noi posturi etice. Și aceasta e formidabil.”

Ovidiu Predescu: O altă dimensiune umană, asaltată de alter ego-ul său artificial, o reprezintă capacitatea creatoare. Problema a generat deja vii discuții în rândul cercetătorilor și prezintă implicații majore în privința dreptului de autor. Așadar, o dilemă insolubilă?

Mircea Duțu: Într-adevăr, printre domeniile majore ale îngrijorării înlocuirii, prin dezvoltările IA, a umanilor de către mașină se numără și cel al creației și creatorilor. Într-adevăr, dacă unii se tem de substituirea pe această cale a artiștilor, alții o văd ca un suport al activităților creatoare. De aceea dezbaterea pe această temă devine din ce în ce mai intensă (A. Ferrand, L’IA, menace réelle ou fantasmée pour les artistes ?, „Le Monde”, 15 mars 2025).

Desigur, frica înlocuirii există în din ce în ce mai multe sectoare, dar ea devine în mod special demoralizantă și evidentă în lumea artei, profund marcată de umanitatea noastră. Indiscutabil, tema „robotului scriitor”, de pildă, e foarte prezentă în literatură. În cartea sa The Great Automatic Grammatizator (1953) scriitorul britanic Roald Dahl (1916–1990) relatează istoria unui inginer de geniu care construiește o mașină de scris gigantă, capabilă să producă povestiri de 5000 de cuvinte, în cincisprezece secunde și romanele cele mai stufoase în 15 minute; lucrările erau vândute la prețuri de două ori mai mici decât cele realizate de oameni și succesul lor făcea să se satureze piața de profil. Căderea istorică devenea îngrijorătoare; din ce în ce mai mulți scriitori abdicau de la meseria lor și lăsau mașina în locul lor, sub numele lor, reducând la neant creativitatea literară a omului.

De la ficțiune la real nu e decât un pas, fapt confirmat și în această privință, și el a fost făcut în mai multe discipline artistice încă din cursul anilor 1950. Astfel, începând din 1954 sculptorul, pictorul și desenatorul elvețian Jean Tinguely utiliza stranii mașini spre a desena, pe care le boteza Meta-Matic. Apăreau, în aceeași perioadă, primele bucăți de muzică elaborate de algoritmi apoi, un deceniu mai târziu, primul soft de generare de texte denumit Eliza. Dar, indiferent de domeniu, capacitățile demiurgice ale mașinilor rămân totuși limitate până în anii 2010. Începând de atunci, revoluția lui deep learning (învățarea în profunzime) a schimbat radical datele problemei. Se apreciază că transformarea a devenit tot mai radicală; tehnica IA se sprijină pe rețele neuronale artificiale – algoritmi concepuți pentru a imita creierul uman – capabile să învețe prin sine, antrenându-se pe foarte mari cantități de date. Instrumentele de inteligență artificială rezultate din atari evoluții sunt din ce în ce mai mult accesibile marelui public. Grație deep learning, IA, în numai un deceniu, s-a aventurat cu succes în zone altădată rezervate umanilor – jocurile de Go, traducerea automată, conducerea automobilului, recunoașterea vocală, cea a imaginilor etc. Astăzi ea invadează și câmpul artistic. Operele care utilizează IA proliferează: în 2016, The Next Rembrandt, un tablou compus de o IA plecând de la analiza a 346 de lucrări ale maestrului olandez era prezentat la Amsterdam; doi ani mai târziu, în 2018, trei amici parizieni regrupați într-un colectiv denumit Obvious au scandalizat vânzând la licitație un portret realizat cu ajutorul unei IA pentru suma considerabilă de 432.000 dolari, respectiv de 45 ori prima sa estimare. Creșterea preocupărilor și multiplicarea practicilor de acest gen aveau să conducă și la prima vânzare la licitație consacrată exclusiv lucrărilor realizate cu IA, „Augmented Intelligence”, organizată de Christie’s și desfășurată la 5 martie 2025. O mișcare de acest gen se înregistrează și în domeniul literaturii. În 2018 o mică editură, Jean Boîte, a publicat în engleză un roman, 1 the Road, scris exclusiv de o IA antrenată asupra cărților clasice americane. În 2023, specialistul francez Raphael Doan a publicat o ucronie, Si Rome n’avait pas chuté (Passés composés) care a dat tonul: prima carte de istorie scrisă și ilustrată cu o inteligență artificială! În Japonia, Rie Kudan, laureat al premiului Akutagawa (2024) a explicat că circa 5% din romanul său futurist Tokyo-to Dojo-to fusese încredințat ChatGPT-ului. Desigur, exemplele se răspândesc în toate câmpurile și direcțiile artei. Scenariul filmului de scurt metraj Sunspring (2016) de Oscar Sharp a fost produs de o IA, precum și cel al The Safe Zone (2022) scris și realizat de ChatGPT. Fotograful german Boris Eldagsen a ridicat în 2023 Sony World Photograpy Awards, unul din premiile cele mai prestigioase din lume, fără a utiliza aparatul foto. Lista exemplelor devine din ce în ce mai încărcată și mai expresivă; sute și chiar mii de cărți generate ori co-generate de algoritmi inundă internetul, expozițiile de opere de artă care utilizează IA se multiplică, colocviile privind subiectul abundă. În orice caz, fenomenele îngrijorează artiștii. Dacă recunosc că, în spatele IA există întotdeauna cererea unui om, partea umană a acestei opere, fie că e vorba de o imagine, de un roman ori de o bucată muzicală, ea pare a se reduce la un „prompt”, adică la o simplă comandă adresată mașinii. Dacă gestul artistic se uniformizează la a scrie un proiect în câteva fraze destinate IA, se ridică întrebarea: cine mai e artistul, umanul sau mașina? Așadar, mașina imaginată de R. Dahl amenință astăzi creatorii în carne și sânge? Se pare că da!

Fără îndoială, persistă întrebarea/dilemă: operele produse grație IA sunt cu adevărat creative? În acest sens, experți, precum Margaret A. Boden, profesor de științe cognitive la Universitatea din Sussex, disting trei niveluri de creativitate. Primul, aferent creativității combinatorii, constă în a asocia ideile familiare. Cel de-al doilea, vizează creativitatea exploratorie, extinde un stil existent, explorând conținutul, limitele și potențialul său. În fine, ultimul, al treilea, creativitatea transformațională, ajunge să producă opere originale, depășind stilurile existente. Dacă primele două forme par accesibile IA, întrucât aplicațiile sale pot explora și combina la infinit cantități imense de date care îi sunt furnizate, nimeni nu știe dacă ea va ajunge între a ști să o atingă pe cea de-a treia, care presupune a face un pas înapoi în raport cu realul, pentru a sparge codurile preexistente. Unii, precum Pascal Mongin, profesor de literatură contemporană la Universitatea Paris Cité, se îndoiește de o atare posibilitate. „Poate că în câțiva ani IA va înlocui scriitorii, dar pe cei ai unei literaturi particulare, fără pretenția de inventivitate, de a reînnoi formele de expresie ori viziunea asupra lumii”, consideră el. Numai ficțiunile foarte codificate, fondate pe caiete de sarcini precise ar putea deci, potrivit universitarului, să fie concepute de mașină; în rezumat, IA nu va produce artă, ea se va limita la a „clona existentul”. O atare nivelare a producției artistice se va menține într-o anumită marjă, mai mult sau mai puțin aceeași.

Totuși, un eveniment surprinzător face să ne îndoim de această perspectivă. În 2016, Lee Sedol, cel mai bun jucător de Go din lume, a înfruntat un program de IA, AlphaGO. În timp ce el a lipsit pentru a fuma o țigară, mașina a efectuat o mutare neașteptată: ea a plasat un pion negru într-un colț izolat. Comentatorii s-au speriat: e o mutare foarte surprinzătoare! Atunci când Lee a revenit pe scenă, a rămas uimit, niciun profesionist nu ar fi procedat astfel. Această strategie a IA se relevă decisivă: jucătorul uman a sfârșit prin a se înclina în fața așa-zisului artificial. Așadar, cine ar putea să excludă faptul că într-o zi, IA, în domeniul artei, nu ar putea să ne surprindă, făcând un pas asemănător, alături? Unii încearcă să nuanțeze perspectiva. Chiar dacă operele de artă generate de IA ar atinge la un moment dat acest grad de originalitate, nu înseamnă, totuși, că mașina a devenit un artist; ea nu se angajează într-un proces creativ; autorul pune întotdeauna ceva de la el în operă; o emoție, o intenție. Lipsiți de conștiință, de voință, de morală algoritmii nu dau sens producției lor, oricât de semnificativă ar fi ea.

Ovidiu Predescu: Să nu ignorăm însă nici ipoteza unei IA generale, care apropie și mai mult situația de tragedia dezastruoasă a înlocuirii speciei umane…

Mircea Duțu: Teoria alarmistă a unei IA „forte”, dotată cu o conștiință, o singularitate și o înțelegere a lumii similare celor ale umanilor, ar aparține fantasmei. Alții consideră că ar trebui să ținem departe IA de lumea artei; o atare poziționare de respingere categorică opune, în mod evident, omul și mașina și e alimentată de mitul romantic al creatorului inspirat, care a triumfat în veacul al XIX-lea. Astăzi însă, într-o abordare mai nuanțată, s-ar impune, poate, a se renunța la opoziția binară între o creație autentic umană, cea a unui artist demiurg, singur stăpân, bardul, și o creație artificială post-umană, produsă de un robot. Până și cei mai tradiționali artiști, nu sunt întotdeauna singuri, lucrează cu asistenți, tehnicieni și furnizori, utilizează instrumente și materiale necesare.

Prin urmare, la întrebarea ultimă, dacă ar trebui să închidem poarta artei la IA, răspunsurile nu sunt ușor de formulat și mai ales de justificat. Cei care răspund cu un nu hotărât, argumentează că inteligența artificială poate fi un instrument extraordinar pentru artiști, dar nu e vorba de a o utiliza ca un robot artist, căruia să i se delege esențialul creației. Dacă IA nu a creat singură opere disruptive, poate deveni, în schimb, o unealtă utilă, cu condiția ca artistul să pună două întrebări abisale: cu care mașini și, respectiv, ce face cu rezultatele pe care ea le furnizează? Lucrurile ce rezultă dintre interacțiunea om-mașină vor deveni tot mai prezente, își vor reclama un statut propriu și presupun deja o reflecție adecvată. Din acest punct de vedere nimic nou sub soare; dintotdeauna știința a inventat instrumente ce au fost apoi folosite și în domeniul artistic în scopul de a renova creația. Este invocat, în acest sens, cel mai adesea apariția fotografiei în 1839. În epocă, chiar dacă inițial artiștii denunțau sosirea intempestivă a unei asemenea tehnici și îi negau orice valoare artistică, apoi s-au temut că ar conduce la dispariția picturii, au ajuns relativ rapid a-i valorifica virtuțile și până la a o recunoaște ca o nouă artă!

În cele din urmă, mulți creatori apreciază că inteligența artificială ar reprezenta, mai degrabă, o amenințare mai mult economică, decât artistică. În 2024 un studiu pertinent estima o creștere exponențială a piețelor de conținuturi muzicale și audiovizuale generate de IA și anticipa un transfer de valoare economică de la creatori către întreprinderile tehnologice, respectiv furnizorii de servicii, evaluată la 9 miliarde de euro suplimentare până în 2028, în timp ce primii ar putea pierde, în aceeași ecuație, circa 22 miliarde de euro.

Într-o analiză și mai abruptă, dar nu mai puțin relevantă, creatorii umani ar fi perdanți dintr-un dublu punct de vedere: pe de o parte, ei suferă de un „efect de substituire”, legat de o concurență nouă care imită arta cu cheltuieli reduse, iar pe de alta, și mai ales, operele lor sunt utilizate adesea fără autorizație și fără remunerație, ca date de antrenament pentru modele de IA. Problema respectării drepturilor de autor îngrijorează profund creatorii. „Moștenitor al Epocii Luminilor și al Revoluției franceze, acest drept conceput pentru a permite autorilor să fie remunerați pentru producțiile lor artistice sau intelectuale e amenințat de IA generativă”, apreciază specialiști ai domeniului. Pentru ca artiștii să fie în măsură a-și valorifica drepturile lor ar trebui, în același timp, să cunoască datele de antrenament utilizate de Bigtech, ceea ce se întâmplă arareori. Un răspuns se încearcă a se oferi problemei prin Regulamentul (UE) 2024/1689 din 13 iunie 2024 de stabilire a unor norme armonizate privind inteligența artificială. Textul obligă firmele de IA să furnizeze „un rezumat suficient de detaliat” al surselor lor, formulă considerată însă ca prea imprecisă, mai ales că întreprinderile de profil nu încetează să invoce secretul afacerilor pentru a frâna ameliorarea transparenței. Dacă principiul va fi impus în cele din urmă, titularii de drepturi vor putea să negocieze o remunerație cu operatorii de IA, fie în mod direct, fie trecând prin organisme de gestiune colectivă, dar modalitățile pe care le va îmbrăca o atare remunerație sunt departe de a fi tranșate. Se pune întrebarea: atunci când o IA se antrenează pe milioane de date, ce sumă poate spera să obțină un autor? Să mai adăugăm și faptul că părțile implicate ar putea recurge la dreptul de retragere și să refuze ca operele lor să fie utilizate de IA. Desigur, sunt căutate și alte soluții și posibilități, dar problematica rămâne deschisă.

Ovidiu Predescu: Vă propun să încheiem aceste considerații asupra posibilelor domenii de înlocuire umană prin implicarea aplicațiilor IA, cu perspectiva activităților de cercetare științifică avansată. Și aici IA își manifestă, deopotrivă, valențele pozitive și cele negative. Ce mize se prefigurează în acest sens?

Mircea Duțu: Dincolo de utilizările profesionale ori conversaționale visul fondator al întreprinderilor creatoare de IA, precum DeepMind, OpenAI ori Anthropic a fost, dintotdeauna, acela de a accelera cercetarea științifică și, în sens mai larg, de a contribui la rezolvarea marilor provocări ale epocii noastre. În acest context, de exemplu, ideea că o IA poate să imagineze noi teorii științifice, comparabile celei a relativității generale e, desigur, fascinantă, întrucât ar deschide calea tuturor posibilităților. Și ar rămâne una din aplicațiile cele mai promițătoare ale IA, susceptibilă a avea un impact major, aducând răspunsuri unor probleme cardinale, precum schimbarea climatică ori a altor obiective tehnologice, precum energia curată ori vindecarea tuturor bolilor.

Eseul Machines of Loving Grace (2024) semnat de Dario Amodei, cofondatorul Anthropic, aflat la originea robotului conversațional Claude, constituie una din tentativele recente cele mai interesante și detaliate pentru a formula o atare viziune a viitorului, într-o manieră argumentată și chiar convingătoare. De altfel, problema creativității mașinilor face obiectul mai multor lucrări publicate în ultimul timp și cu un mare impact la public. Alături de cea deja menționată, și tot exemplificativ, mai putem adăuga Superagency: What Could Possibly Go Right With Our Al Future (2025), semnată de co-creatorul lui Linkedin, Reid Hoffman, care descrie o lume în care omul reușește să pună IA în serviciul său, ori Les anges gardien de l’IA (2025), scrisă de Laurence Devillers. D. Amodei susține că, chiar în viitorii doi ani, vom dispune de o IA de un nivel atât de avansat inclusiv ca număr de entități super inteligente, încât acestea vor forma echivalentul „unei țări întregi de Einsteini într-un centru de date”. A dedus și afirmat astfel conceptul de „secolul al XXI-lea comprimat”, perioadă în care toate descoperirile științifice așteptate în cursul secolului acesta ar putea să se producă numai în 5-10 ani, în principal grație acestor IA de tipul inventatorului teoriei relativității.

Indiscutabil, una din trăsăturile creativității umane relevante în acest context este faptul de a pune probleme pe care nimeni altcineva nu s-a gândit să le ridice. Este cazul istoric al lui A. Einstein care, prin teza relativității restrânse de la începutul secolului al XX-lea, a marcat o veritabilă schimbare de paradigmă. Îndrăzneala necesară pentru a formula o axiomă precum: „Presupunem ca viteza luminii să fie constantă în toate referențialele” era considerabilă, întrucât mergea total împotriva bunului simț și a credințelor științifice ale epocii și continuă chiar astăzi a ne mira prin caracterul său contra-intuitiv. Asemenea schimbări de paradigmă sunt rare, survenind o dată ori de două ori pe deceniu, și ajung adesea să fie recompensate prin acordarea premiilor Nobel, atunci când sunt recunoscute ca atare. În pofida acestei rarități, și mai rare sunt descoperirile conceptuale ce definesc în mod real progresul științific al unei epoci, în timp ce restul relevă mai mult o rafinare ori o ajustare a cunoștințelor existente. Se ridică apoi întrebarea: ce etape ne lipsesc pentru a produce „creativități artificiale”. Se pleacă, în căutarea unui răspuns, de la modul în care evaluăm ameliorarea inteligenței modelelor de IA recente. Printre exemplele cele mai frapante figurează testele utilizate pentru a măsura performanțele metodelor actuale, cu denumiri evocatoare, precum: Humanity’s Last Exam ori Frontier Math. Primul e un indicator de referință recent, care adună peste 3000 de chestiuni complexe, redactate de aproape o mie de experți în diverse domenii, precum matematicile, științele umane și științele naturale. Aceste probleme, foarte exigente, sunt concepute în mod special pentru a evalua până unde respectivele modele pot merge în raționamentul lor logic și comportă întotdeauna răspunsuri clare și precise. La fel, comparativul Frontier Math constă în sute de probleme matematice originale, situate la frontiera cercetării actuale, la care chiar IA cele mai avansate pot cu greu răspunde în mod corect. Este de domeniul evidenței că un veritabil avans științific nu rezultă numai din capacitatea de a furniza răspunsuri exacte la chestiuni deja stabilite ci, mai degrabă, dintr-o aptitudine de a formula chestiuni inedite, îndrăznețe și a pune profund sub semnul întrebării ipotezele și concepțiile admise în mod comun.

Rămâne, totuși, dilema modului în care putem concepe și fabrica mașini capabile a genera o adevărată și relevantă cercetare științifică. Din păcate, astăzi noi avem mai ales excelenți studenți obedienți și nu revoluționari îndrăzneți, și aceasta mai ales că este ceea ce corespunde perfect obiectivului principal actual în această privință: a dezvolta asistenți eficienți și extrem de cooperativi. Dar, atâta timp cât nu vom găsi și utiliza un mijloc de a incita aceste modele să pună sub semnul întrebării propriile lor cunoștințe, să adopte abordări potențial contrarii datelor inițiale, ele nu vor declanșa și produce revoluții științifice. Dacă se dorește obținerea de avansuri de cunoaștere majore, se va impune, cel mai probabil, să reconsiderăm maniera actuală de evaluare a performanțelor modelelor de IA, dezvoltând criterii de măsură a progresului și a raționamentului permițând să se testeze dacă modelele științifice de IA pot. De exemplu, să pună în discuție cunoștințele rezultate din propriile lor date de antrenament, să adopte abordări contrafactuale îndrăznețe, să facă propuneri generale plecând de la indicii minuscule ori chiar să pună chestiuni care nu sunt în mod evident susceptibile să deschidă noi căi de cercetare. Referitor la instrumentele care permit o bună și adecvată evaluare a mașinii, se consideră că aceasta ar consta în confruntarea modelului cu o descoperire recentă majoră, analogă a ceea ce a reprezentat relativitatea restrânsă la epoca sa și a observa cum ajunge să formuleze chestiunile bune referitoare la un subiect asupra căruia nu posedă nici răspunsuri și nici cadrul conceptual. E, desigur, o sarcină complexă: în consecință, marea majoritate a modelelor sunt deja antrenate pe o mare parte a cunoștințelor umane disponibile. Rămân deci puține domenii total absente din datele de antrenament și pot constitui astfel un veritabil test de evaluare. Cu toate acestea, o atare abordare pare esențială pentru a măsura capacitățile lor în fața necunoscutului.

În fine, apare și dilema dacă mașina va fi într-o zi capabilă de intuiție, de bun simț și, de ce nu, de conștiință de sine. Deja câteva teste recente au explorat tocmai această dimensiune a „sensului comun”, precum testul ARC (pentru Abstract and Reasoning Corpus) dezvoltat de un cercetător francez. El constă în a cere unei IA să rezolve o problemă vizuală inedită plecând de la puține exemple. Obiectul îl reprezintă măsurarea capacității unei mașini de a generaliza, făcând abstracție de antrenamentele masive obișnuite, pentru a evalua „sensul său comun” ori înțelegerea intuitivă a unei situații. Dar problema rămâne deschisă, întrucât mergem pe un teren necunoscut. Într-un anumit sens, intuitivitatea ori intuiția științifică, în particular atunci când ajunge la revoluții majore, depășește adesea cadrul strict al sensului comun. Intuiția științifică îl transcende de regulă, și aceasta rămâne provocarea principală pentru inteligențele artificiale ale viitorului. Dacă dorim să le vedem că ne ajută la rezolvarea problemelor tehnologice cheie ale umanității, putem să le învățăm să distingă dincolo de ceea ce le-am deprins și uneori chiar să pună sub semnul întrebării ceea ce le-am învățat? Acesta-i întrebarea! Iar răspunsul, chiar cheia problemei.

Ovidiu Predescu: Să acordăm un loc în discuția noastră de acum și lumii juridice, în sens larg. De mai mulți ani, video-supravegherea zisă „algoritmică”, intensificată prin IA, s-a răspândit în țările lumii. Cantonată, mai întâi, la o utilizare statistică, ea și-a extins apoi scopurile de securitate, precum în cadrul Jocurilor Olimpice de la Paris din vara anului 2024, pentru detectarea mișcărilor mulțimii ori a bagajelor uitate. O experimentare prelungită în Franța până în 2027, dar care cunoaște poziționări divergente. Care sunt concluziile, fie ele și de etapă, ale utilizării algoritmilor în materie de securitate?

Mircea Duțu: Rezultatele obținute până acum în această privință par a nu fi pe deplin edificatoare. Opozanții și susținătorii video-supravegherii algoritmice au în comun faptul de a supraestima impactul, desigur din cele două perspective diferite. Cercetătorii domeniului pun în discuție o atare idee. De pildă, sociologii subliniază ca necesară acțiunea umană pentru a „spăla” și a adnota imaginile folosite în scopul antrenării IA spre recunoașterea unei situații date. Această intervenție a omului influențează asupra „definiției infracțiunii”, pe care o va căuta sistemul. Într-un caz prezentat într-o revistă de specialitate era vorba de un algoritm de detectare a furtului săvârșit într-un magazin. Adnotatorii trebuiau să identifice gesturile pe care ei le considerau suspecte, prefigurând comiterea infracțiunii. O sarcină care a condus la o „simplificare a realului”, surclasând eficacitatea dispozitivului. Inteligența umană depășește chiar antrenatul: caracterizarea evenimentelor e uneori făcută în timp real de către adnotatori. Sistemul nu mai e de acum înainte cu adevărat automat. De altfel, utilizarea acestui instrument nu s-a soldat cu o scădere majoră a numărului furturilor, această ineficacitate conducând operatorii să se îndrepte spre video-supraveghere. Un alt sistem utilizat, de această dată contra infracțiunilor (abaterilor) rutiere, are tendința de a se focaliza asupra zonelor aflate deja sub supraveghere, limitând aportul dispozitivului. Și spre a rentabiliza costurile sistemului i se caută aplicații diferite de cele prevăzute la început. Asemenea cercetări marchează o breșă în așa-zisa „dublă promisiune” a supravegherii algoritmice. Cea de a compensa lipsa de operatori pentru a trata ansamblul fluxurilor video și cea de a minimiza prejudecățile în tratamentul informației.

Ovidiu Predescu: În același context al utilizării abuzive a IA spre un control social excesiv se îndreaptă și modelul chinez de guvernanță în materie. Raportat la cel european, sunt respectivele două abordări total incompatibile, până la a deveni antagonice?

Mircea Duțu: Lucrurile trebuie privite atent, analizele efectuate profund și concluziile nuanțate în mod adecvat. Dincolo de ideologie, abordarea chineză poartă în sine o anumită moștenire culturală, după cum, de altfel, și cea europeană. Dacă aceasta din urmă e marcată în mod fecund de teoria și practica drepturilor omului, democrației și a statului de drept (amprentă consacrată juridic în AI Act și Convenția-cadru a Consiliului Europei), cea de la Beijing nu se poate rupe deci, ci dimpotrivă, continuă și dezvoltă cultura politică a Chinei străvechi, maniera sa de a edifica o concepție impersonală a puterii, de a o aplica în toate domeniile, precum și orizonturile nebănuite pe care le oferă pentru mâine acestui „stat total” controlul digital și inteligența artificială. Sub eticheta de „legiști”, istoria reflecției asiatice cuprinde o pleiadă succesivă de gânditori care nu sunt nici juriști și nici măcar filosofi ai dreptului, ci conceptori și practicieni ai valențelor acestui „stat total”, atotputernic care controlează toate registrele societății, de la agricultură la comerț, de la artizanat la armată printr-o supraveghere minuțioasă și un sistem pretențios de recompense și măsuri represive. Așa se face că, începând din secolul al V-lea î.e.n. s-a dezvoltat și aplicat o concepție a statului ca o mașină gigant, care asigură securitatea perfectă și exploatarea intensă, în mod neutru, impersonal și implacabil. Mijloacele sale de acțiune, perfecționate din generație în generație, sunt controlul, pedepsele și scoring-ul social. Ceea ce contează cel mai mult sunt rotițele mașinii, eficiența și fiabilitatea funcționării lor. Dacă mecanismul uriaș e suficient de solid, puțin contează indivizii, abaterile lor, incompetența, aroganța ori chiar corupția. Descoperirea acestui stat inuman, conceput și legitimat ca atare aduce o serie de clarificări și pentru prezent. Se poate observa astfel o continuitate frapantă cu China lui Mao și cea de astăzi marcată de recunoașterea facială, trasabilitatea cetățenilor, calculul punctelor bune și rele de conduită. Mai mult decât atât, ea pune semnul întrebării în privința viitorului Occidentului sub efectele inteligențelor artificiale mondializate și a interconexiunilor planetare. O posibilă „ciocnire” a celor două concepții globale – cea occidentală și cea chineză – asupra IA e de așteptat și din această perspectivă se impune a reflecta asupra punților de legătură, de comunicare și de compatibilizare posibile și necesare.

Ovidiu Predescu: În fine, rămânând în perimetrul nevoii de reglementare a IA, de această dată dintr-o accentuată perspectivă etică, moștenirea Papei Francisc în materie pare a da roade și în privința noului Suveran Pontif, Leon al XIV-lea. Poziționarea sa tinde să consolideze o anumită perspectivă de promovare a IA la nivel mondial. Sunt orizonturi încurajatoare?

Mircea Duțu: Într-adevăr, în continuarea poziției fostului suveran pontif, Leon al XIV-lea ne avertizează împotriva derivelor IA încă de la reuniunea instalării sale și pledează pentru o încadrare mondială a acesteia, fondată pe binele comun și responsabilitate. Potrivit specialiștilor domeniului, el a făcut din potențiala amenințare a tehnologiei o miză majoră pentru pontificatul său. Diplomat în matematici dar și în drept canonic, Suveranul Pontif e sceptic față de IA nereglementată. Considerând că lumea politică și cea științifică trebuie să atace imediat această problemă, fără a permite ca progresul tehnologic să avanseze cu aroganță, vătămând ceea ce supune puterii sale, se pronunță ferm pentru reglementare și guvernanță adecvate. Imediat după decesul Papei Francisc, în aprilie trecut, inteligența artificială a devenit un subiect de discuție printre cardinalii veniți la Roma pentru alegerea succesorului său. Cei din Africa se arătau preocupați în privința necesității pentru industria tehnologică de a îngropa mineralele răspândite pe solul lor. Alții se temeau că IA o să elimine pe Dumnezeu din viața modernă. Deja, la timpul său, Papa Francis se arătase neîncrezător față de utilizarea acestei tehnologii. Dacă îi recunoștea utilitatea potențială în domenii precum sănătatea, educația ori difuzarea credinței, el cerea ca să se aplice marile principii etice care îi guvernează utilizarea. Un apropiat al său preciza faptul că avea o îndoială asupra faptului că am fi capabili să organizăm și să utilizăm IA clasică pentru binele comun și tocmai de aceea se pronunța pentru stabilirea unor structuri de guvernanță în domenii adecvate și eficiente. La acest moment Vaticanul se așteaptă ca folosirea IA să fie restrânsă la unele utilizări, și spre binele comun. Cardinalii care l-au ales pe Leon XIV speră ca acesta să facă uz de autoritatea morală a Bisericii pentru a face presiuni în favoarea adoptării unor reguli stricte privind IA, inclusiv cu caracter juridic. La finele lunii iunie 2025 Vaticanul a găzduit o conferință internațională de două zile, în capitala Italiei, privind IA, etica și guvernanța de întreprindere, iar noul papă s-a întâlnit cu înalți responsabili ai marilor firme de profil, pledând în sensul celor afirmate anterior.