Intamplator mi-a cazut in mana recent o carte despre inteligenta artificiala. Pe scurt, domeniul este legat de incercarile moderne de a face sistemele artificiale sa gandeasca si sa actioneze uman. Dar ce legatura ar putea avea aceste teorii cu dreptul sau cu functionarea sistemului judiciar ?
Am fost imediat fascinat de urmatoarea idee: pentru a evalua inteligenta unui sistem si a determina daca putem construi sisteme artificiale capabile sa gandeasca si sa se comporte uman este mai intai nevoie sa gasim un standard al gandirii umane. In acest punct iata o intrebare simpla : daca pornim de la ideea centrala ca justitia este un instrument al umanitatii, in ce masura sistemul judiciar,uman, poate trece un test-standard al umanitatii spre care tinde un sistem artificial?
Pentru a gasi un raspuns la aceasta intrebare, o voi descompune in sapte intrebari subsecvente, raportate la un elementele principale ale unui test-standard de inteligenta umana, care poate fi dedus din structura cartii «Inteligenta Artificiala: O abordare Moderna» [Manualul « Artificial Inteligence: A Modern Approach » este studiat astazi, dupa 15 ani de la publicarea sa in peste 1100 de facultati din 100 de tari. Detalii gasiti la: http://aima.cs.berkeley.edu/].
1. Rezolvarea problemelor. Mintea umana foloseste o serie de metode pentru a decide ce trebuie facut atunci cand este nevoie sa gandesti in avans cu cateva etape, ca atunci cand joci sah sau calatoresti intr-o tara straina. Sunt aceleasi tipare de gandire folosite de un judecator ca sa se orienteze in multitudinea de interpretari si dosare. Intrebarea subsecventa nr.1. In ce masura putem indentifica cu claritate metodele folsite in mod sistematic de sistemul judiciar pentru rezolvarea problemelor, fie ca vorbim de problemele ridicate de activitatea profesionala sau cele legate de administrarea sistemului?
2. Cunoasterea si rationamentul. Ele sunt legate de modalitatile de reprezentare a lumii: cum functioneaza lumea, cum o percepem si ce actiuni ar trebui intreprinse pentru a trai in lumea reala, precum si cum sa rationam logic cu aceste cunostinte. Acesta este modelul teoretic, care lucreaza cu adevaruri ferme si concepte tari, putin relative. El se bazeaza pe ideea ca omul foloseste in principal ratiunea pentru a gestiona cunoasterea si in conditii simple iau forma unor procese standardizate de rationament. Intrebarea subsecventa nr.2. In ce masura rezultatele sistemului judiciar, privit ca un sistem inteligent si ne-artificial, arata ca exista o buna reprezentare a lumii reale si ca ratiunea este instrumentul preferat al sistemului?
3. Planificarea. Este insusirea umana prin care metodele de rationament folosite mai sus sunt puse in practica pentru a hotari ce este de facut, in mod special prin elaborarea unor planuri. Intrebarea subsecventa nr.3. In ce masura planificarea este o caracteristica a sistemului nostru judiciar? Cat de standardizate sunt activitatile de rutina, simple?
4. Cunoasterea si rationamentul in conditii de incertitudine. Aceasta este o caracteristica centrata pe capacitatea mintii umane de a elabora rationamente si a lua decizii in conditii de incertitudine, astfel cum se intampla de exemplu intr-un sistem de diagnostic medical. Sunt folosite concepte legate de riscuri si probabilitati. Incertitudinea este insa si o caracteristica a sistemul nostru judiciar in care procedurile de administrare a probelor aduc pe masa judecatorului foarte putine certitudini. Intrebarea subsecventa nr.4. Care sunt tehnicile de evaluare a incertitudinilor si de gestionare folosite de sistemul judiciar?
5. Invatarea. Este un proces care se ocupa de procesele necesare in generarea cunostintelor necesare pentru componentele de luare a deciziilor. Intrebarea subsecventa nr.5. Ce tip de cunostinte genereaza invatarea pentru sistemul judiciar si in ce masura acestea sunt folosite in procesul de luare a deciziilor?
6. Comunicarea, perceptia si actiunea. In acest punct se analizeaza modul in care un agent inteligent poate percepe mediul inconjurator astfel incat sa inteleaga ce se intampla in jurul sau, fie vizual, prin intermediul atingerii sau auzului ori prin intelegerea limbajului precum si modalitati in care planurile sunt puse in actiune , fie prin miscare sau prin vocalizarea limbajului natural. Intrebarea subsecventa nr.6. Cum percepe sistemul judiciar lumea reala, cum comunica si ce perceptie exista dinspre lumea reala spre sistemul judiciar in legatura cu intelegerea corecta a lumii de catre sistem?
7. Intrebarile fundamentale. Pot masinile sa actioneze inteligent? Dar pot ele gandi rational? Care sunt problemele etice legate de dezvoltarea inteligentei artificiale? Aceste intrebari nu fac decat sa introduca printre vechile dezbateri filozofice legate de umanitate un nou set de probleme, prin raportarea la sistemele artificiale inteligente. Dar fara un o redefinire permanenta a vechilor intrebari nu exista progres, astfel incat cautarea permanenta a raspunsurilor la intrebarile fundamentale este o trasatura profund umana. Intrebarea subsecventa nr.7. Care sunt marile idei ale redefinirii permanente a sistemului judiciar, intrebarile fundamentale pentru care se nasc dezbateri si se cauta raspunsuri?
Astfel, pentru a raspunde la intrebarea initiala, daca sistemul judiciar poate fi testat cu un standard al umanitatii folosit pentru construirea sistemelor artificiale, ar trebui sa aplicam testul celor sapte intrebari subsecvente. In cazul in care testul arata ca sistemul se comporta rational-uman, putem discuta apoi chestiuni legate de eficienta economica ori de inteligenta emotionala sau de valorile etice. In cazul in care gasim ca sistemul nu raspunde acestui test mi se pare ca avem o mare problema de credibilitate si de functionare. Caci daca nu umanitatea si comportamentul uman reprezinta testul fundamental al sistemului judiciar, care mai este atunci scopul sau?
Tipăreşte
Universitatea
Domnu’ Stoica, ce preocupari ai si dumneata.
Auzi, “incercarile moderne de a face sistemele artificiale sa gandeasca si sa actioneze uman”
Domnul Stoica, sistemul judiciar incearca sa ii faca pe oameni sa gindeasca la fel ca robotii, nu invers.
Poate ca ar trebui sa te gindesti si la asta.
Procesoarele sunt acum prezente in orice obiect electrocasnic.
Iar eu as prefera sa ma judece un sistem artificial dotat cu un procesor de prajitor de piine echivalent cu creierul unei insecte … decit sa ma judece un judecator uman.
Ar fi mai impartial, mai rapid, mai etic, mai logic decit multi magistrati.
Eu vreau sa fiu judecat de prajitorul de paine !
Când un drept va avea o valoare mai „mica” decat a unui obiect electrocasnic, poate că omul va inventa “prăjitorul de pâine” cu sau fără procesor complicat, pe post de judecător. Până atunci, trebuie să ne gândim din timp, ce obiect se va inventa pe post de avocat care va pleda în faţa prăjitorului de pâine. De asemenea, va trebui să avem mare grijă în a găsi un alt obiect care să ştie să stabilească, sa supravegheze gradul de prăjire adecvat, pentru că până şi pâinea prea prăjită sau irevocabil prajita, conţine toxine şi este dăunătoare. Banuiesc totusi ca aceste “utilaje” inteligente vor fi folosite experimental o perioada, numai la mediere sau poate si la litigii, nu-i asa, de mai mica importanta.
Dar, pana atunci redau mai jos, parte din ce am mai postat cu ceva timp in urma, cand atinsese cote alarmante perceptia negativa despre justitie:
“… in aceste conditii, este intolerabil ca magistratii sa fie incompetenti, corupti, nesimtiti, mincinosi si lacomi. De aceea, ma apuca si pe mine spaima, vad ca in acest caz nu mai este nicio speranta si propun ca magistratii sa fie inlocuiti cu niste computere. Sunt mai ieftine, deservesc utilizatorul in mod rapid, util si umil, nu au nevoie de casa, de concedii si de medicamente, nu au familie si copii, nu au limite umane, nu cer indemnizatii nesimtite, sporuri de risc si suprasolicitare, nu vor parazita sistemul de pensii, vor fi eficiente, neutre si impartiale. In sfarsit, acesti cybermagistrati nu isi vor permite sa “interpreteze legea”, ci doar sa o APLICE. Specialistii IT si IP (P= politica) trebuie sa realizeze programe adecvate de impartit dreptatea, dupa ce vor fi incarcat memoria cu zeci de mii de: acte normative actualizate, decizii CC, ICCJ, CEDO, CJUE, tratate internationale si drept comunitar pe deasupra. Dupa aceea, trebuie introduse anual datele din cate aproape doua miloane de dosare si procesate. Cam asta ar fi procedura, fara vicii si fara citatii, fara cheltuieli mari. Documentele finale (hotararile) ar fi direct irevocabile. Trebuie totusi creat si un program anticoruptie (pardon – antivirus). Acestea fiind zise, sistemul ar putea fi infailibil.
Daca totusi, si in aceste conditii, justitia va fi socotita prea scumpa, sau un lux si nu se va face “dreptate”, iar erorile tehnologice ale programelor – desi umane, nu vor fi in limite acceptabile, propun sa se suspende toate procesele, cel putin pe perioada crizei. Nu e greu, se pare ca precedentul s-a creat.
Daca nici asa nu se rezolva si se ajunge la un blocaj, propun ca in virtutea solidaritatii si ca un apel la pacifism social, sa se emita o ordonanta prin care sa se dispuna suspendarea pe perioada crizei, a: infractiunilor, contraventiilor, delictelor, neexecutarii contractelor civile, comerciale si de munca, a abuzurilor de orice fel, inclusiv ale autoritatilor, suspendarea tuturor conflictelor sociale, de familie, etc.
Intre timp, in cel mai bun caz, trece criza. In cel mai rau caz, vom descoperi ca istoria se repeta si ca pericolul unei societati nedemocratice se manifesta in mod ciclic.”
Excelent articolul. Felicitari !
Ma bucur sa vad asemenea puncte de vedere.
Cred ca diferenta fundamentala dintre sistemele umane si cele artificiale este capacitatea de comunicare interna a elementelor.
Inteligenta umana individuala detecteaza problemele din imediata vecinatate si cauta solutii pentru acestea, si foarte rar pentru imbunatatirea intregului sistem din care simte mai mult sau mai putin ca face parte.
Nivelul de integrare al elementelor intr-un sistem artificial este de 100%. Comunicarea in interior este impecabila.
Intr-un sistem uman, acest nivel este variabil si greu de cuantificat dar niciodata nu ajunge la intreaga capacitate.
Din cauza ca un sistem uman nu se blocheza complet cand genereaza erori de comunicare sau de actiune, nevoia de evolutie a protocoalelor si a organizarii la nivel de grup devine secundara, energia sistemului consumandu-se ineficient.
Aceasta insuficienta de comunicare se simte in intreaga societate la nivel mondial.
Apoi, componentele umane sunt prea inteligente de cele mai multe ori.
Si de multe ori in detrimentul sistemului.
Ar fi de preferat ca o persoana sa genereze un semnal de alarma ori de cate ori procedura pe care o executa nu este 100% clara.
Din pacate, simtul de auto-conservare al pozitiei sociale (orgoliul) ii impiedica pe cei mai multi sa faca acest lucru.
Orgoliul ne impiedica sa facem parte cu totul dintr-un sistem.
Pana invatam sa trecem peste acest impediment al naturii umane sistemul preferat din ziua de azi este inteligenta umana – comunicare si actiune in stil artificial: structurat, cat mai concret, si cu posibilitatea de a raporta erorile anonim sau de a castiga imunitate la erorile generate de sistem in momentul in care sunt raportate.
Felicitari inca o data.