La data de 12 iulie 2024 a fost publicat în Jurnalul Oficial al Uniunii Europene, Regulamentul (UE) 2024/1689 privind Inteligența Artificială (IA). Acesta a intrat în vigoare la data de 1 august 2024, fiind aplicabil direct in dreptul român în conformitate cu art. 288 al Tratatului privind Funcționarea Uniunii Europene.
Colega noastră, avocat Roxana Mândruțiu, s-a aplecat în detaliu asupra acestui subiect. Dată fiind amploarea documentului, vom dedica analizei acestuia o serie de mai multe articole.
CARE SUNT PRACTICILE INTERZISE ÎN DOMENIUL IA?
Manipularea
- introducerea pe piață, punerea în funcțiune sau utilizarea unui sistem de IA care utilizează tehnici subliminale/tehnici intenționat manipulatoare ce nu pot fi percepute în mod conștient de o persoană/grup de persoane , determinându-le să ia o decizie pe care altfel nu ar fi luat-o;
- introducea, punerea în funcțiune sau utilizarea de sisteme IA care exploatează vulnerabilitățile unui grup/persoane asociate:
- vârstei,
- dizabilității,
- situației socio-economice.
Punctajul social
- clasificarea persoanelor în funcție de trăsături de personalitate, acordându-le un punctaj social ce duce la un tratament prejudiciabil fără legatură cu contextele în care au fost colectate datele sau este nejustificat/disproporționat în raport cu comportamentul social al acestora.
Crearea de profiluri
- introducerea, punerea în funcțiune, utilizarea de sisteme IA de evaluare a riscurilor persoanelor fizice cu scopul de a evalua sau de a prevedea riscul ca o persoană fizică să comită o infracțiune, exclusiv pe baza creării profilului sau evaluării trăsăturilor de personalitate.
Nu se aplica situației în care o persoană este suspectată că ar fi implicată într-o activitate infracțională.
Scanarea imaginilor faciale
- extinderea în acest scop a bazei de date de recunoaștere facială prin preluarea de imagini de pe internet sau de pe inregistrarile TVCI.
Detectarea emoțiilor
- sisteme pentru detectarea emoțiilor unei persoane la locul de muncă sau în instituții de învățământ.
Excepții: sistemele folosite din motive medicale sau de siguranță.
Identificarea biometrică la distanță în timp real
- utilizarea sistemelor de identificare biometrică în timp real în spații accesibile publicului.
Excepții: identificarea victimelor traficului de persoane, răpirii, persoanelor dispărute si persoanelor suspectate de săvârșirea unei infracțiuni.
CERINȚE PENTRU FOLOSIREA SISTEMULUI DE IDENTIFICARE BIOMETRICĂ
AUTORIZARE PREALABILĂ este acordată de o autoritate judiciară sau administrativă independentă din statul membru în care va avea loc utilizarea.
Condiții pentru acordarea autorizării prealabile:
- cererea pentru acordarea autorizației trebuie să fie motivată în conformitate cu normele de drept intern;
- autorizația se acordă doar dacă măsura este necesară si proporțională pentru realizarea obiectivelor indicate la lit. h):
- rămâne limitată la ceea ce este strict necesar din punct de vedere al:
- perioadei de timp
- persoanei
- sferei geografice