Primul tratat internațional privind IA


La 14 martie 2024 Comitetul privind inteligența artificială (CAI) al Consiliului Europei (CE) a finalizat proiectul său de Convenție-cadru asupra inteligenței artificiale, drepturilor omului, democrației și a statului de drept, care va fi primul tratat internațional în materie. Această „realizare extraordinară” (după caracterizarea Marijei Pejčinović Burić, Secretar general al CE) acoperă sistemele de inteligență artificială de-a lungul ciclului lor de viață și va garanta că avântul fenomenului respectă normele juridice ale organizației europene în materie de drepturi umane fundamentale, democrație și stat de drept. La 20 martie a.c. Comitetul Miniștrilor al CE a decis să transmită textul Adunării Parlamentare a Consiliului Europei pentru un aviz, așteptat cu ocazia sesiunii sale plenare din aprilie. După examinarea sa de către organismul parlamentar, proiectul va trebui să fie adoptat cu ocazia reuniunii Comitetului Miniștrilor din 17 mai a.c., care se va ține la nivelul miniștrilor de externe ai celor 46 de statele membre (dintre care 27 membre ale UE) și care va marca cea de-a 75 aniversare a organizației interstatale continentale.

Convenția-cadru va fi deschisă ratificării la nivel internațional în scopul de a permite țărilor din întreaga lume să adere și să respecte normele etico-juridice astfel stabilite. Înscriindu-se în viziunea unei abordări globale a problematicii IA prefigurată și de rezoluția Adunării Generale a ONU din 21 martie a.c. Sesizarea posibilităților oferite de sistemele de inteligență artificială sigure, securizate și demne de încredere pentru dezvoltarea durabilă, ineditul tratat deschide calea instituirii unui cadru juridic internațional general, cu o vocație mondială și pune fundamentele dreptului internațional al inteligenței artificiale (DIA). În același timp, alături de Regulamentul de stabilire a unor norme armonizate privind inteligența artificială (legea privind inteligența artificială) al UE, adoptat la 13 martie a.c., Convenția-cadru a CE contribuie la afirmarea influenței normative internaționale a Europei și a capacității organizațiilor sale – CE și UE – de a sesiza provocarea globală majoră a IA.

1. Un proces de elaborare discutabil. Consiliul Europei a reacționat relativ timpuriu la problematica IA, în special în raport cu impactul său asupra drepturilor omului, democrației și a statului de drept. Astfel, în 2019, sub egida sa, s-a publicat Recomandarea Decodarea IA: 10 măsuri pentru a proteja drepturile umane, prin care se oferea statelor membre o serie de orientări generale referitor la marile principii de urmat spre a preveni ori atenua efectele negative ale IA asupra drepturilor fundamentale. Documentul are în vedere mai ales riscurile specifice care fac să apese din partea inteligenței artificiale asupra dreptului la discriminare și la egalitate, dreptului la protecția datelor și a vieții private, libertății de expresie, de reuniune și dreptului la muncă. În plus, sunt evidențiate șapte domenii cheie cărora se impune a li se acorda o atenție particulară în acest sens: necesitatea de a se realiza studii de impact asupra drepturilor înainte de achiziția, dezvoltarea și/ori desfășurarea unui sistem de IA; respectarea normelor în materie de drepturi umane în sectorul privat; informare și transparență; necesitatea de consultări publice pe deplin pertinente; promovarea educației privind IA; nevoia unui control independent și acces la căi de recursaferente. Statele membre au luat măsuri în unele dintre sectoarele identificate în Recomandarea din 2019, dar fără o coerență globală. Astfel, în multe privințe reglementarea sistemelor de IA centrată pe drepturi umane e încă absentă și cel mai adesea autoritățile publice intervin prea târziu și avansează prea lent pentru ca a lor contribuție să fie cu adevărat reală. Normele și garanțiile în materie de drepturi umane, chiar dacă neutre din punct de vedere tehnologic și aplicabile în toate contextele, inclusiv în cele care operează sistemele de IA, sunt arareori aplicabile și controalele rămân sporadice. Documentul din 2019 a fost urmat în 2023 de Recomandarea Drepturile umane ale concepției IA – o protecție durabilă a drepturilor umane în era inteligenței artificiale, care examinează provocările cu care se confruntă statele membre în aplicarea recomandărilor anterioare, în special în ceea ce privește pertinența evaluării riscurilor și studiul de impact asupra drepturilor umane, aplicarea de garanții de transparență mai solide și necesitatea unui control independent.

În siajul acestor preocupări de reglementare, în 2021 Consiliul Europei a stabilit un Comitet ad-hoc privind inteligența artificială (CAHAI). Acesta a trebuit să examineze fezabilitatea și elementele pertinente, pe baza unei largi consultări multipartide, ale unui cadru juridic pentru dezvoltarea, concepția și aplicarea IA, fondat pe normele Consiliului în materie de drepturi ale omului, democrație și stat de drept. La terminarea lucrărilor sale, CAHAI a sugerat că cea mai bună soluție posibilă în materie ar fi elaborarea și încheierea unui veritabil tratat internațional în materie de inteligență artificială. Era considerat ca formula ideală de a încadra dezvoltarea cunoștințelor de IA protejându-se totodată democrația, drepturile omului și statul de drept. Recomandările Comitetului ad-hoc au fost apoi supuse dezbaterilor între miniștrii statelor membre grație instituirii unui Comitet pentru Inteligență Artificială, mandatat în 2022 să producă textul final al proiectului oficial de document. Reprezentanții societății civile care au participat la lucrările CAHAI au declarat că propunerile recomandate acestuia au fost „masacrate” de reprezentanții statelor membre. Excluderea din obiectul de reglementare a IA militare și faptul de a permite Părților să decidă includerea sau nu a IA cu dublă folosință, militară și civilă, în tratat au fost considerate deosebit de preocupante. Ca atare, acceptându-se excluderea sistemelor cu dublă folosință, întreaga media (precum cea socială, de exemplu) care cuprinde un sistem de profilaj bazat pe algoritmi ce pot, în mod potențial, să fie utilizați pentru a contraspiona ori supraveghea persoanele în lupta contra terorismului ar fi exclus din câmpul de aplicare al preconizatului tratat. De aici se va putea spune că toate sistemele cu dublă folosință ar trebui să fie excluse din obiectul de reglementare al unui instrument juridic care protejează drepturile omului, ceea ce semnifică practic a sustrage cvasitotalitatea sistemelor de IA de la orice fel de supraveghere și control democratic.

Să amintim și că viitoarea convenție-cadru în materie va fi supusă controlului Curții Supreme a Drepturilor Omului (CEDO) și că orice excepție votată de un stat parte în numele „excepțiilor legitime” ar putea fi apoi cenzurată de Curte.

2. Coordonate structurale. După Preambul (în 17 puncte), cele 36 articole ale textului final al proiectului de Convenție-cadru sunt structurate în opt capitole: dispoziții generale, obligații generale, principii relative la activități desfășurate în cadrul ciclului de viață al sistemelor de inteligență artificială, recurs, evaluare și atenuare a riscurilor și a impacturilor negative, punerea în aplicare a Convenției, mecanisme de urmărire și cooperare, clauze finale. Considerentele Preambulului evocă, în primul rând, dubla perspectivă, în privința efectelor antrenate ale activităților desfășurate în cadrul ciclului de viață al sistemelor de inteligență artificială și, în consecință, nevoia de reglementare a acestora în consens cu valorile organizației de cooperare politică interstatală europeană. Pe de o parte, potențialul de a promova prosperitatea umană și bunăstarea indivizilor și a societății, dezvoltarea durabilă, oportunitățile fără precedent pentru protecția și promovarea drepturilor omului, democrației și statului de drept (pct. 3 și 4). Pe de alta, faptul că anumite activități de acest gen „pot aduce atingerea demnității umane și autonomiei persoanelor, drepturilor omului, democrației și statului” (pct. 5), riscuri de discriminare în cadrele digitale, în particular cele implicând sistemele de IA și prin aceasta efectul potențial de creare ori agravare de inegalități (pct. 6) ori utilizarea abuzivă a sistemelor respective, în scopuri represive, cu violarea dreptului internațional al drepturilor omului, în special prin practici de supraveghere și de cenzură arbitrare ori ilegale ce aduc atingere vieții private și autonomiei individuale” (pct. 7). În același timpse recunoaște că documentul „are valoare de cadru și că poate să fie completată prin alte instrumente destinate să trateze chestiuni specifice legate de activitățile desfășurate în cadrul ciclului de viață al sistemelor de inteligență artificială” (pct. 11). În mod declarat, preconizata convenție-cadru se alătură celorlalte instrumente internaționale aplicabile în materie de drepturi ale omului, începând cu Declarația universală din 1948 și are ca preocupare definitorie afirmarea „angajamentului Părților de a proteja drepturile omului, democrația și statul de drept și a favoriza fiabilitatea sistemelor de inteligență artificială” (pct. 17).

3. Caracteristici generale ale unui demers reglementar inedit. Cel puțin trei caracteristici marchează ineditul Convenției-cadru europene privind inteligența artificială. Este vorba mai întâi de primul act juridic internațional (constrângător) privind inteligența artificială. Dispozițiile sale „vizează să garanteze că activitățile duse în cadrul ciclului de viață al sistemelor de inteligență artificială sunt pe deplin compatibile cu drepturile omului, democrația și statul de drept”. Pentru aceasta „fiecare Parte adoptă ori menține măsurile legislative, administrative ori altele apropriate pentru a da efect dispozițiilor Convenției; respectivele măsuri sunt gradate și diferențiate în funcție de gravitatea și de probabilitatea apariției de impacturi negative” asupra drepturilor umane, normelor democratice și valorile statului de drept. În vederea asigurării aplicării efective a dispozițiilor aferente se stabilește un mecanism de urmărire și se prevede o cooperare internațională adecvată (art. 1). Apoi, este un tratat deschis ratificării pentru ansamblul statelor lumii, indiferent de localizarea lor geografică. Astfel, Convenția va fi deschisă semnăturii statelor membre ale Consiliului Europei, statelor nemembre care au participat la elaborare (precum Australia și Canada) și Uniunii Europene. După intrarea sa în vigoare Comitetul Miniștrilor CE va putea, după consultarea Părților și obținerea consimțământului lor unanim, să invite orice stat nemembru al Consiliului care nu a participat la elaborarea tratatului să adere la Convenția-cadru printr-o decizie luată cu majoritatea calificată de două treimi din voturile exprimate și unanimitatea reprezentanților Părților având dreptul de a face parte din Comitetul Miniștrilor (art. 30). Nu în ultimul rând, și ceea ce îi accentuează dimensiunea de globalitate, procesul de negociere a asociat multipli actori, cuprinzând membrii Consiliului Europei, state membre, de pe alte continente, Uniunea Europeană, actori ai industriei și ai societății civile. Suntem în prezența, așa cum îi arată și numele, unei convenții-cadru care valorifică experiențele de până acum în domeniu, stabilește jaloanele transnaționale bazate pe principii comune și deschide perspective de dezvoltare, completare și permanentă actualizare a sa prin elaborarea și adoptarea a noi reguli de aplicare sectoriale. E preconizată o Conferință a Părților, cu reuniuni periodice, menită să faciliteze utilizarea și aplicarea efectivă a convenției-cadru, să examineze posibilitățile de a o completa sau modifica, a formula recomandări particulare relative la interpretarea și aplicarea sa, a facilita cooperarea între state în domeniu (art. 23). Marile principii ce vor trebui să guverneze activitatea statelor în materie sunt: demnitatea umană și autonomia individuală, transparență și control, obligația de a da seama și responsabilități, egalitate și nediscriminare, respectarea vieții private și protecția datelor cu caracter personal, prezervarea sănătății, fiabilitate și încredere, inovație sigură.

4. Un proiect final „diluat”. Fără îndoială, textul final al proiectului Convenției-cadru e rezultatul unor negocieri intense, reflectă compromisuri și exprimă un anumit echilibru între diferite interese fundamentale și diverse aflate în prezență. Dacă versiunea inițială elaborată de Comitetul ad-hoc special instituit în acest scop cuprindea termeni și formulări și stabilea un cadru juridic mai aplicat, cea a proiectului ultim e una mult mai diluată. Aceasta a făcut ca, printre altele, Controlorul European al Protecției Datelor (CEPD), instituție independentă a UE, să o considere, în cele din urmă, ca „inadecvată” și că „se îndepărtează de obiectul său inițial”, ori că, în acest fel, am fi în fața unui eșec, a „unei ocazii ratate de a stabili un cadru juridic solid și eficient” de a proteja drepturile umane în dezvoltarea inteligenței artificiale. Principala problemă în dispută a fost cea a câmpului de aplicare al convenției-cadru, respectiv limitarea sa la organisme publice, ceea ce, într-adevăr, amputează pretenția obiectului politic al tratatului de a fi transversal. În cadrul procesului de negociere SUA, Marea Britanie, Canada, Israelul ori Japonia , care au participat la activitatea Comitetului ad-hoc ca observatori, au susținut și făcut presiuni pentru a limita sfera de aplicare la structurile publice, permițând semnatarilor să includă eventual întreprinderile private în demersurile interne de gen. Uniunea Europeană a încercat să reziste unor atari poziționări și a preferat să prezinte un proiect fără excluderea implicită a sectorului privat. Prin avizul său nr. 20 din 13 octombrie 2022, CEPD a enunțat patru recomandări principale relative la directivele de negociere: obiectivele generale ale acestora să acorde o mai mare importanță respectării garanțiilor și drepturilor conferite indivizilor și grupurilor de indivizi supuși utilizării de sisteme IA, o referință explicită la conformitatea convenției cu cadrul juridic european existent în materie de protecție a datelor cu caracter personal, introducerea unui obiectiv vizând a impune o măsură de interdicție a sistemelor IA care prezintă riscuri inacceptabile și promovarea adoptării unei abordări de protecție a datelor de la concepție și, implicit, la fiecare etapă a cadrului de viață a sistemelor de IA. La rândul lor, Germania, Franța, Spania, Republica Cehă, Estonia, Irlanda și Ungaria au susținut teza unui câmp de aplicare mai restrâns al tratatului preconizat, privilegiind adoptarea sa la o scară cât mai largă de state. Mai exact conform prevederilor art. 3, în privința câmpului de aplicare a Convenției fiecare parte o aplică „puterilor publice ori actorilor privați care acționează în centrul lor” și răspunde riscurilor și impactului produs de activitățile actorilor privați. Textul proiectului ultim exclude din obiectul de reglementare și tehnologiile dezvoltate în scopuri de securitate națională. Nu se poate ignora nici faptul că dispozițiile documentului sunt formulate în mod foarte general, sunt „larg declarative”, ceea ce va conduce, în mod inevitabil, la divergențe în ceea ce privește interpretarea și punerea în aplicare a angajamentelor astfel asumate. De asemenea, se reproșează și faptul că nu se mai fixează „linii roșii” spre a se interzice unele utilizări ale IA care prezintă un risc inacceptabil, nici criterii ori exemple clare asupra unor atari interdicții care ar putea ghida aplicarea prescripțiilor formulate.

5. Concluzii. În așteptarea textului final oficial al proiectului Convenției-cadru și a adoptării sale de CE, este de remarcat faptul că acesta reprezintă un progres major în stabilirea unui cadru juridic comun în general, și al unuia internațional, în special, al IA, în căutarea unui echilibru favorabil între protecția drepturilor umane, democrației și a statului de drept și, respectiv, promovarea inovației tehnologice, majore și radicale reprezentată de inteligența artificială. Înscriindu-se trendului unui „drept global al inteligenței artificiale”, în dimensiunea sa de drept internațional public, convenția-cadru preconizată în cadrul Consiliului Europei are meritul de a fi primul tratat internațional în materie, și alături de Regulamentul IA al UE reprezintă semnalul și tipul de reglementare european al problematicii inteligenței artificiale, care încearcă a se impune în dialogul mondial aferent actualei provocări globale. Ea este chemată, din această perspectivă, să stabilească fundamentele și să prefigureze jaloanele juridice ale reglementării pertinente. De aceea, se impunea ca să fim în prezența unui instrument juridic constrângător privind, înainte de toate, interfața juridică dintre IA și drepturile omului și pentru aceasta să enunțe clar obligația statelor părți de a întări și adecva protecția drepturilor umane, democrația și statul de drept în contextul noilor tehnologii. Ținând seama de ritmul și avansurile tehnologiei actuale devine deosebit de relevantă obligația pozitivă a statelor membre de a crea, întreține în mod corespunzător și a dezvolta un cadru juridic și reglementar care să protejeze în mod eficient persoanele împotriva tuturor violărilor drepturilor umane, indiferent că sunt comise de actori publici sau privați. Orice excludere din câmpul de aplicare al Convenției-cadru se impune a se baza pe dreptul de a fi necesară și proporționată într-o societate democratică. De asemenea, e esențială și stabilirea de criterii cât mai precise pentru identificarea și interzicerea riscurilor inacceptabile pentru drepturile umane, democrație și statul de drept în ansamblul statelor părți. În fine, un alt element esențial și prioritar e reprezentat de garantarea expresă a dreptului la recurs efectiv, inclusiv dreptul la un examen, de către ființa umană, a deciziilor automatizate, conform art. 13 al Convenției (europene) pentru apărarea drepturilor omului și a libertăților fundamentale (dreptul la un remediu efectiv). În pofida dereglărilor și metamorfozelor manifestate între aspirațiile redactorilor inițiali și interesele diverse negociate în cursul procesului de elaborare a textului final al proiectului într-o apreciere generală și cu speranțele de perfecționare continuă, ne îndreptăm spre un tratat inițial, fondat pe drepturile umane, menit să reglementeze, în sensul contracarării efectelor negative ale IA, asupra persoanelor și a societății și să facă utilizarea sistemelor de inteligență artificială mai previzibile și mai fiabile în întreaga lume.

Este de așteptat, în orice caz, ca regimul juridic astfel instituit să inspire și să stimuleze reglementarea juridică a IA, deopotrivă în plan național, regional și internațional și în acest mod să se facă un relevant pas înainte spre cristalizarea unui drept al inteligenței artificiale.

Prof. univ. dr. Mircea Duțu
Directorul Institutului de Cercetări Juridice „Acad. Andrei Rădulescu” al Academiei Române