La data de 12 iulie 2024 a fost publicat în Jurnalul Oficial al Uniunii Europene, Regulamentul (UE) 2024/1689 privind Inteligența Artificială (IA). Acesta a intrat în vigoare la data de 1 august 2024, fiind aplicabil direct in dreptul român în conformitate cu art. 288 al Tratatului privind Funcționarea Uniunii Europene.

Colega noastră, avocat Roxana Mândruțiu, s-a aplecat în detaliu asupra acestui subiect. Dată fiind amploarea documentului, vom dedica analizei acestuia o serie de mai multe articole.

SISTEMELE IA CU GRAD RIDICAT DE RISC

1. Sistem de identificare biometrică la distanță – supraveghere umană.

– Indentificarea biometrică la distanță – implementatorul nu ia nicio decizie pe baza identificării care rezultă din sistem, identificarea trebuie să fie verificată și confirmată de către 2 experți independenti.

Excepții: cerința unei verificări separate nu se aplică sistemelor din domeniul aplicării legii, azil/migrație, în cazurile în care dreptul intern consideră ca aplicarea acestei cerințe este disproporționată.

2. Infrastructura critică – sisteme destinate a fi utilizate drept componente de siguranta in gestionarea si exploatarea infrastructurii digitale critice, a traficului rutier, aprovizionarea cu apă, gaz, electricitate.
3. Educație și formare profesională – pentru a stabili accesul sau a repartiza persoanele fizice la instituții de învățământ și formare profesională, pentru evaluarea rezultatelor, evaluarea nivelui de educație pe care o persoană îl va primi sau accesa, monitorizarea și detectarea compartamentelor interzise ale elevilor în timpul testelor.
4. Ocuparea forței de muncă, gestionarea lucrătorilor și accesul la activități independente – recrutare, analiză, filtrarea candidaturilor pentru locuri de muncă și evaluarea candidaților; decizii pentru alocarea sarcinilor pe baza trăsăturilor de personalitate.
5. Accesul la servicii private esentiale – evaluarea bonității persoanelor fizice/juridice, stabilirea punctajului de credit) și servicii publice esentiale (eligibilitatea pentru servicii de asistență medicală, acordarea reducerea, revocarea sau recuperarea serviciilor acordate), evaluarea riscurilor pentru acordarea asigurărilor de sănătate, pentru clasificarea apelurilor de urgență și stabilirea priorității în urgențe (poliție, pompieri, triajul de urgență pentru pacienți.
6. Aplicarea legii

• • evalurea riscului ca o persoană fizică să devină victima unei infracțiuni,
  • evaluarea fiabilității probelor în cursul cercetării penale,
  • evaluarea riscului ca o persoană să comită infracțiuni sau să recidiveze,
  • crearea de profiluri în timpul investigării infracțiunilor.

Nu există suprapunere cu art. 5 (practici interzise) dacă sistemul IA nu are ca scop unic crearea de profiluri, iar acesta este folosit doar ca suport în luarea deciziei.

8. Sisteme IA în materie de migrație, azil și gestionarea controlului la frontiere – ex: evaluarea cererilor de azil, viză, permise de ședere.
9. Administrarea justiției și a proceselor democratice – sisteme IA destinate a asista judecătorul în interpretarea faptelor/legii, aplicarea legii la un set concret de fapte. Se aplică și în situatia soluționării alternative a litigiilor.

Cerințe pe care trebuie să le îndeplinească sistemele IA cu grad ridicat de risc:

• sistem de gestionare a riscurilor;
• criterii de calitate pentru seturile de date de antrenament, de validare și de testare, inclusiv pentru identificarea prejudecăților;
• documentație tehnică, detaliată în Anexa IV a Regulamentului;
• fișiere de jurnalizare de-a lungul duratei de viață a sistemului;
• transparența și furnizarea informației implementatorilor, pentru a le da posibilitatea să interpreteze rezultatele sistemului și să le utilizeze în mod corespunzător;
• supravegherea umană a sistemelor;
• acuratețe, robustețe și securitate cibernetică.
• înregistrarea în baza de date a Uniunii cu excepția sistemelor IA vizând infrastructura critică;
• informația trebuie să fie accesibilă publicului cu excepția sistemelor vizând identificarea biometrică, aplicarea legii și migrația.