La data de 12 iulie 2024 a fost publicat în Jurnalul Oficial al Uniunii Europene, Regulamentul (UE) 2024/1689 privind Inteligența Artificială (IA). Acesta a intrat în vigoare la data de 1 august 2024, fiind aplicabil direct in dreptul român în conformitate cu art. 288 al Tratatului privind Funcționarea Uniunii Europene.

Colega noastră, avocat Roxana Mândruțiu, s-a aplecat în detaliu asupra acestui subiect. Dată fiind amploarea documentului, vom dedica analizei acestuia o serie de mai multe articole.

CARE SUNT PRACTICILE INTERZISE ÎN DOMENIUL IA?

Manipularea

• introducerea pe piață, punerea în funcțiune sau utilizarea unui sistem de IA care utilizează tehnici subliminale/tehnici intenționat manipulatoare ce nu pot fi percepute în mod conștient de o persoană/grup de persoane , determinându-le să ia o decizie pe care altfel nu ar fi luat-o;
• introducea, punerea în funcțiune sau utilizarea de sisteme IA care exploatează vulnerabilitățile unui grup/persoane asociate:

1. vârstei,
2. dizabilității,
3. situației socio-economice.

Punctajul social

• clasificarea persoanelor în funcție de trăsături de personalitate, acordându-le un punctaj social ce duce la un tratament prejudiciabil fără legatură cu contextele în care au fost colectate datele sau este nejustificat/disproporționat în raport cu comportamentul social al acestora.

Crearea de profiluri

• introducerea, punerea în funcțiune, utilizarea de sisteme IA de evaluare a riscurilor persoanelor fizice cu scopul de a evalua sau de a prevedea riscul ca o persoană fizică să comită o infracțiune, exclusiv pe baza creării profilului sau evaluării trăsăturilor de personalitate.

Nu se aplica situației în care o persoană este suspectată că ar fi implicată într-o activitate infracțională.

Scanarea imaginilor faciale

• extinderea în acest scop a bazei de date de recunoaștere facială prin preluarea de imagini de pe internet sau de pe inregistrarile TVCI.

Detectarea emoțiilor

• sisteme pentru detectarea emoțiilor unei persoane la locul de muncă sau în instituții de învățământ.

Excepții: sistemele folosite din motive medicale sau de siguranță.

Identificarea biometrică la distanță în timp real

• utilizarea sistemelor de identificare biometrică în timp real în spații accesibile publicului.

Excepții: identificarea victimelor traficului de persoane, răpirii, persoanelor dispărute si persoanelor suspectate de săvârșirea unei infracțiuni.

CERINȚE PENTRU FOLOSIREA SISTEMULUI DE IDENTIFICARE BIOMETRICĂ

AUTORIZARE PREALABILĂ  este acordată de o autoritate judiciară sau administrativă independentă din statul membru în care va avea loc utilizarea.

Condiții pentru acordarea autorizării prealabile:

1. cererea pentru acordarea autorizației trebuie să fie motivată în conformitate cu normele de drept intern;
2. autorizația se acordă doar dacă măsura este necesară si proporțională pentru realizarea obiectivelor indicate la lit. h):

• rămâne limitată la ceea ce este strict necesar din punct de vedere al:
  • perioadei de timp
  • persoanei
  • sferei geografice