« Secţiuni « Articole « RNSJOpiniiPovestim cărţi
Opinii

Inteligența artificială: nici inteligentă, nici artificială. Atlas of AI de Kate Crawford
26.10.2021 | Diana MOCANU

JURIDICE - In Law We Trust ZRVP
Diana Mocanu

Diana Mocanu

După succesul anteriorului ei proiect, Anatomy of an AI (Anatomia unei inteligențe artificiale)[1], o hartă anatomică a resurselor umane, planetare și a datelor implicate în fabricarea si funcționarea unui Amazon Echo[2], Kate Crawford[3] își extinde cercetările în cartea de față, în același spirit al cartografierii, expunând astfel tranșant și convingător ideea că inteligența artificială este în fapt o tehnologie extractivă și exploatativă. Dincolo de surlele și trâmbițele cu care este întâmpinat în Sillicon Valley orice mic avans în materie de ceea ce denumim generic inteligență artificială, dincolo de promisiunile de salvare a umanității cu ajutorul tehnologiei din demo-urile giganților de pe piață, la doar câțiva kilometri mai la sud, aflăm datorită cărții realitatea dură. Dură ca mineralele extrase nu cu puține consecințe nocive pentru mediu în mici comunități miniere, în general lipsite de alternative viabile, precum cea din Clayton Valley din Nevada, pentru a ne crea componentele electronicelor care își au practic astăzi obsolescența plănuită și declarată fățiș. În primul capitol ni se descrie o călătorie a autoarei la fața locului, o ilustrare puternică a cât de apropiate sunt aceste două locuri în spațiul fizic (i.e. Sillicon Valley si Clayton Valley), și cât de depărtate sunt în termeni financiari, fapt adevărat pentru întreaga rețea extractivă planetară care face posibilă existența acestor tehnologii și care se reflectă, așa cum subliniază cartea, și pe plan politic, remodelând lumea nu numai în sens material, ci și în termeni de distribuție și centralizare a puterii.

Top 3 citate

Voi încălca regula celor 3 citate, oricât de scandalos ar părea pentru o juristă, pentru reda aici în traducere un fragment introductiv care explică atât de limpede esențialul a ce își propune cartea, încât ar fi păcat să nu lăsăm cuvintele autoarei să ne introducă în problematica inteligenței artificiale privite prin ochii unui expert în științe sociale. Așadar:

’Să ne punem întrebarea înșelător de simplă „ce este inteligența artificială?” Dacă întrebi pe cineva de pe stradă, ar putea menționa pe Siri de la Apple, serviciul cloud Amazon, mașinile Tesla sau algoritmul de căutare Google. Dacă întrebi un expert în deep learning[4], ar putea să-ți ofere un răspuns tehnic despre modul în care rețelele neuronale sunt organizate în zeci de straturi care primesc date etichetate, cărora li se atribuie apoi ponderi și praguri, putând fi astfel clasificate în moduri care nu pot fi încă explicate pe deplin. În 1978, discutând despre sistemele expert (sisteme care emulează deciziile luate de experți umani, trad.n.), profesorul Donald Michie a descris inteligența artificială drept rafinarea cunoștințelor, în care „poate fi produsă o fiabilitate și o competență de codificare care depășește cu mult cel mai înalt nivel pe care expertul uman neasistat de calculator l-a atins vreodată, poate chiar pe care l-ar putea vreodată atinge. Într-unul dintre cele mai populare manuale pe această temă, Stuart Russell și Peter Norvig afirmă că AI este încercarea de a înțelege și de a construi entități inteligente. „Inteligența se preocupă în principal de acțiunea rațională”, susțin ei. „În mod ideal, un agent inteligent ia cea mai bună acțiune posibilă într-o situație”.

Fiecare mod de a defini inteligența artificială înseamnă ceva, stabilește un cadru pentru modul în care va fi înțeleasă, măsurată, evaluată și guvernată. Definirea IA de mărcile de consum pentru infrastructura corporate înseamnă că marketingul și publicitatea predetermină orizontul. Dacă sistemele AI sunt văzute ca fiind mai fiabile sau mai raționale decât orice expert uman, capabile să facă „cea mai bună acțiune posibilă”, asta sugerează că ar trebui să li se acorde încredere pentru a lua decizii cu mize mari în sănătate, educație și justiție penală. Atunci când anumite tehnici algoritmice sunt singurul obiectiv, asta sugerează că ceea ce contează este doar progresul tehnic continuu, fără a lua în considerare costul acestor abordări și impactul lor extins asupra unei planete aflate deja în dificultate.

În contrast, în ​​această carte susțin că IA nu este nici artificială, nici inteligentă. Mai degrabă, inteligența artificială este ceva întrupat, material, este realizată din resurse naturale, combustibil, muncă umană, infrastructuri, logistică, istorii și clasificări. Sistemele de IA nu sunt autonome, raționale sau capabile să discearnă nimic fără o pregătire îndelungă, intensă din punct de vedere computațional, cu seturi mari de date sau reguli și recompense predefinite. De fapt, inteligența artificială așa cum o cunoaștem depinde în întregime de un set mult mai larg de structuri politice și sociale. Și datorită capitalului necesar pentru a construi IA la scară largă, precum și datorită perspectivelor pe care IA le optimizează, aceste sisteme sunt concepute în cele din urmă pentru a servi intereselor dominante existente. În acest sens, inteligența artificială este un registru al puterii[5].

CE MI-A PLĂCUT:

Cea mai prețioasă contribuție pe care o aduce cartea este dezambiguizarea pe care o propune pentru o noțiune aflată mai nou pe buzele tuturor, fără ca cineva să fie capabil însă să indice o definiție asupra căreia să se cadă de acord. Modul în care o face, mutând discuția de la conceptele abstracte discutate în laboratoare la efectele palpabile, din realitatea cotidiană, ale managementului algoritmic asupra muncitorilor din depozitele Amazon de exemplu, nu este o simplă condamnare a acestui model de afaceri, ci începutul unei conversații la care ne dă instrumentele să fim cu toții mai în măsură să participăm.

Incisivă pentru o carte scrisă de o cercetătoare care activează la Microsoft, nu se ferește să pună punctul pe ‘i’ cu unele dintre cele mai dificile întrebări cu care industria IT se confruntă. Dr. Crawford a precizat în repetate rânduri de altfel, în diverse interviuri, că ramura de cercetare a Microsoft, care este o entitate distinctă, încurajează astfel de abordări și nu le cenzurează cu practici de tipul verificărilor și revizuirilor anterioare publicării, spre deosebire de alți mari actori din domeniu precum Google, aflat recent în centrul unui scandal referitor la discreditarea muncii critice a uneia dintre cercetătoarele în materie de etică și IA pe care le angajase, Timnit Gebru, care s-a soldat cu un val de concedieri și demisii. Regăsim toate temele aflate la originea acestui scandal și în Atlas of AI, care mapează cu exemple concrete și temeinic investigate pericolele categorizărilor care stau la baza datelor de antrenament pe care se bazează machine learning și care se reflectă mai apoi în deciziile automate, impunând un anumit fel de a vedea lumea, departe de neutralitatea și obiectivitatea visată în anii 50, la apariția acestui domeniu. Cercetările abundă de exemple teribile în care simple căutări după termeni cheie în bazele enorme de date corelate cu imagini folosite în IA dau rezultate rasiste, sexiste sau xenofobe și au continuat să apară și ulterior lansării cărții[6]. În acest sens, cartea este o necesară privire în oglindă pentru o industrie care se infiltrează în din ce în ce mai multe aspecte ale vieților noastre.

CE NU MI-A PLĂCUT:

Deși am apreciat privirea critică și îi înțeleg utilitatea în cadrul efortului mai larg de a contribui la construirea unei societăți viitoare… măcar suportabile, ce mi-a lipsit citind litania de defecte și lucruri în neregulă cu inteligența artificială, de la general la particular – și nu au fost deloc puține – ce mi-a lipsit așadar a fost încercarea asumată de a contrabalansa asta cu exemple de eforturi care se fac pentru a repara ce avem și pentru a garanta crearea de tehnologii care să nu contribuie la o lume încă și mai nedreaptă și dezbinată, închizându-ne în niște echo chambers în care răsună aceleași prejudecăți la infinit. Există destule exemple și de această parte a baricadei. Cercetători care se străduiesc să creeze teste de imparțialitate pentru algoritmi[7], să ’curețe’ datele de prejudecăți[8], să redefinească ce înțelegem prin inteligență pentru a o putea situa social și a nu ignora faptul că va fi oricum diferită de forma pe care o întrupăm noi oamenii[9] sau să clarifice că nu vor să imite inteligența umană, ci să creeze forme de inteligență utile pentru diferite scopuri precise, eventual sub forma unor roboți cu care să relaționăm cam în același fel în care am făcut-o de-a lungul istoriei cu animalele[10].


[1] Proiectul, dezvoltat în 2018 în colaborare cu artistul Vladan Joler și achiziționat între timp de Metropolitan Musem of Art (MoMA), poate fi consultat si online aici.
[2] Amazon Echo este o boxă inteligentă prin care se interacționează cu Alexa, o tehnologie dezvoltată tot de Amazon și care are rolul unei asistente virtuale.
[3] Kate Crawford este o una dintre cele mai bine cotate internațional cercetătoare preocupate cu implicațiile sociale și politice ale inteligenței artificiale. Este profesor de cercetare la USC Annenberg, cercetător principal la MSR-NYC și profesor onorific la Universitatea din Sydney, deținând și catedra de inteligență artificială și justiție la École Normale Supérieure din Paris, unde co-conduce grupul internațional de lucru privind Fundamentele învățării automate. În 2021, a primit Miegunyah Distinguished Visiting Fellowship la Universitatea din Melbourne. A co-fondat de asemenea mai multe grupuri de cercetare interdisciplinară, inclusiv FATE la MSR, AI Now Institute de la NYU și Knowing Machines la USC. Kate a oferit consultanță unor factori de decizie politici precum Organizația Națiunilor Unite, Comisia Federală pentru Comerț SUA, Parlamentul European, Comisia australiană pentru drepturile omului sau Casa Albă. Informații preluate de pe website-ul său.
[4] O metodă folosită în învățarea automată (machine learning), care imită moduri în care oamenii învață lucruri.
[5] P. 7-8: ‘Let’s ask the deceptively simple question ‘what is artificial intelligence?’ If you ask someone in the street, they might mention Apple’s Siri, Amazon’s cloud service, Tesla’s cars, or Google’s search algorithm. If you ask experts in deep learning, they might give you a technical response about how neural nets are organized into dozens of layers that receive labelled data, are assigned weights and thresholds, and can classify data in ways that cannot yet be fully explained. In 1978, when discussing expert systems, Professor Donald Michie described AI as knowledge refining, where ‘a reliability and competence of codification can be produced which far surpasses the highest level that the unaided human expert has ever, perhaps even could ever, attain. In one of the most popular textbooks on the subject, Stuart Russell and Peter Norvig state that AI is the attempt to understand and build intelligent entities. ‘Intelligence is concerned mainly with rational action’, they claim. ‘Ideally, an intelligent agent takes the best possible action in a situation’.
Each way of defining artificial intelligence is doing work, setting a frame for how it will be understood, measured, valued, and governed. If AI is defined by consumer brands for corporate infrastructure, then marketing and advertising have predetermined the horizon. If AI systems are seen as more reliable or rational than any human expert, able to take the ‘best possible action’, then it suggests that they should be trusted to make high-stakes decisions in health, education, and criminal justice. When specific algorithmic techniques are the sole focus, it suggests that only continual technical progress matters, with no consideration of the computational cost of those approaches and their far-reaching impacts on a planet under strain.
In contrast, in this book I argue that AI is neither artificial, nor intelligent. Rather, artificial intelligence is both embodied and material, made from natural resources, fuel, human labour, infrastructures, logistics, histories, and classifications. AI systems are not autonomous, rational, or able to discern anything without extensive, computationally intensive training with large datasets or predefined rules and rewards. In fact, artificial intelligence as we know it depends entirely on a much wider set of political and social structures. And due to the capital required to build AI at scale and the ways of seeing that it optimizes AI systems are ultimately designed to serve existing dominant interests. In this sense, artificial intelligence is a registry of power. ‘
[6] Cel mai recent exemplu ar fi Birhane, Abeba, Vinay Uday Prabhu, and Emmanuel Kahembwe. „Multimodal datasets: misogyny, pornography, and malignant stereotypes.” arXiv preprint arXiv:2110.01963 (2021).
[7] În general munca făcută de Sandra Wachter, Associate Professor și Senior Research Fellow la Universitatea Oxford și Oxford Internet Institute.
[8] Mai ales referitor la ImageNet, o bază de date asociind text cu imagini, pentru debiasing-ul căreia oferă soluții publicații precum Asano, Yuki, et al. „PASS: An ImageNet replacement for self-supervised pretraining without humans.” (2021).
[9] În acest sens merită amintit un proiect care aspiră să creeze un tabel periodic al inteligenței, pe fondul unui val de cercetări din ultima vreme care detaliază modul în care animalele non-umane prosperă, suferă și procesează informații în moduri destul de asemănătoare cu oamenii și într-un efort de a crea un cadru care să ne ajute să înțelegem mai bine cunoașterea în numeroasele sale varietăți și să eliminăm antropocentrismul. Colin Klein (Australian National University), Andrew Barron (Macquarie) și Marta Halina (Cambridge) au primit astfel recent o bursă pentru a studia „The major transitions in the evolution of cognition” de la Templeton World Charity Foundation.
[10] Kate Darling, „The new breed: what our history with animals reveals about our future with robots„, Editura Henri Holt, 2021.


Drd. Diana Mocanu

 
Secţiuni: Cyberlaw, Opinii, Povestim cărți, Selected | Toate secţiunile
Cuvinte cheie: , , , , ,
Vă invităm să publicaţi şi dvs., chiar şi opinii cu care nu suntem de acord. JURIDICE.ro este o platformă de exprimare. Publicarea nu semnifică asumarea de către noi a mesajului. Totuşi, vă rugăm să vă familiarizaţi cu obiectivele şi valorile Societătii de Stiinţe Juridice, despre care puteti ciţi aici. Pentru a publica vă rugăm să citiţi Condiţiile de publicare, Politica privind protecţia datelor cu caracter personal şi să ne scrieţi la adresa de e-mail redactie@juridice.ro!

Lex Discipulo Laus
Gratuit pentru studenţi
Securitatea electronică este importantă pentru avocaţi
Mesaj de conştientizare susţinut de FORTINET
JURIDICE utilizează SmartBill
Concurs eseuri ZRVP

Lasă un răspuns

Acest site folosește Akismet pentru a reduce spamul. Află cum sunt procesate datele comentariilor tale.

Important: Descurajăm publicarea de comentarii defăimatoare. Vor fi validate doar comentariile care respectă Politica JURIDICE.ro şi Condiţiile de publicare.


.
PLATINUM Signature      

PLATINUM  ACADEMIC

GOLD                        

VIDEO   STANDARD