Poziția CCBE ref. utilizarea inteligenței artificiale în sistemul judiciar

Joi, 25 mai 2023, Consiliul Barourilor Europene (CCBE) a dat publicității următorul comunicat:

CCBE observă o dorință tot mai mare de a utiliza instrumente de inteligență artificială în sistemul judiciar și recunoaște beneficiile potențiale pe care le poate aduce o astfel de utilizare. CCBE este, de asemenea, conștient de folosirea instrumentelor de inteligență artificială în scopuri de aplicare a legii.

În ciuda faptului că recunoaște modul în care instrumentele de IA pot fi benefice, CCBE subliniază, în același timp, necesitatea de a analiza cu atenție riscurile utilizării acestora și impactul lor asupra drepturilor omului și a statului de drept.

Instrumentele de IA utilizate în sistemul judiciar și în aplicarea legii trebuie să fie adaptate la aceste medii specifice. În acest sens, este esențial ca utilizarea IA să respecte pe deplin drepturile fundamentale, și în special dreptul la viața privată și la viața de familie, dreptul la libertatea de exprimare, dreptul la nediscriminare și dreptul la un proces echitabil. Din punctul de vedere al profesiei de avocat, utilizarea acestor sisteme nu ar trebui să submineze standardele etice la care este obligată profesia, în special confidențialitatea comunicărilor dintre avocați și clienți, care este esențială pentru a susține statul de drept.

CCBE este convins că o supraveghere umană eficientă a utilizării instrumentelor de inteligență artificială în domeniul justiției este o condiție prealabilă a unui sistem judiciar guvernat de statul de drept și subliniază că procesul decizional trebuie să rămână o activitate condusă de oameni. În special, judecătorii umani trebuie să fie obligați să își asume întreaga responsabilitate pentru toate deciziile și trebuie garantat dreptul la un judecător uman în toate etapele procedurii.

În plus, trebuie subliniat, de asemenea, că astfel de sisteme trebuie să fie dezvoltate cu respectarea deplină a diversității contextelor lingvistice și a tradițiilor juridice în care urmează să fie utilizate. Acest lucru implică garantarea faptului că datele în care sunt antrenate și utilizate instrumentele de IA respectă principiul nediscriminării și principiul prezumției de nevinovăție.

CCBE consideră că orice risc real sau potențial la adresa funcționării corecte și echitabile a sistemului judiciar reprezintă o amenințare la adresa justiției însăși. CCBE consideră, de asemenea, că utilizarea unor noi tehnologii, cum ar fi instrumentele de inteligență artificială predictivă și de profilare în aplicarea legii și în justiția penală, poate prezenta riscuri inacceptabile într-o societate democratică. Prin urmare, împreună cu alte părți interesate, CCBE a solicitat interzicerea acestora.

Înainte ca orice instrumente de inteligență artificială să fie utilizate în sistemul de justiție și de aplicare a legii, CCBE solicită un set de reguli și principii definite care să reglementeze utilizarea acestora.

În acest scop, CCBE crede cu tărie în importanța activității desfășurate de organizațiile naționale, europene și internaționale și de autoritățile de reglementare care vizează definirea nivelului necesar de transparență și a parametrilor pentru dezvoltarea, implementarea și utilizarea IA în sistemul judiciar și în aplicarea legii.

Prin urmare, CCBE solicită autorităților și organizațiilor naționale, europene și internaționale să se asigure că:
– utilizarea instrumentelor de inteligență artificială în sistemul judiciar și în aplicarea legii este controlată și reglementată în mod corespunzător și că reglementarea reflectă particularitățile acestor sisteme. În special, aceste reglementări trebuie să respecte dreptul la un proces echitabil și dreptul la un judecător uman.
– normele care reglementează utilizarea instrumentelor de inteligență artificială să se bazeze pe un set clar de principii etice, cum ar fi respectarea drepturilor omului, transparența, responsabilitatea și susținerea statului de drept, și care sunt stabilite în prealabil.
– aceste principii sunt transformate în norme și orientări operaționale specifice fiecărui caz de utilizare, care trebuie respectate atunci când se introduc instrumente de IA în sistemul judiciar sau în aplicarea legii, pentru a se asigura că acestea nu pun în pericol dreptul la un proces echitabil. Acest lucru necesită o analiză și o cunoaștere atentă a riscurilor și beneficiilor potențiale ale diferitelor instrumente de IA, precum și o înțelegere profundă a principiilor etice care stau la baza sistemului judiciar. Factorii de risc care trebuie luați în considerare sunt complecși și depind de cazurile de utilizare specifice, așa cum s-a subliniat mai sus, inclusiv de fiabilitatea instrumentului de IA și de sarcinile implicate.

Citeşte mai mult despre AI, CCBE, Consiliul Barourilor Europene, inteligență artificială, sistemul de justiție! Pentru condiţiile de publicare pe JURIDICE.ro detalii aici.

Urmăriţi JURIDICE.ro şi pe LinkedIn  WhatsApp  Threads  Google News 

(P) JURIDICE.ro foloseşte şi recomandă SmartBill.