Agenția pentru Drepturi Fundamentale a UE (FRA) a emis un raport prin care avertizează că utilizarea identificării biometrice bazate pe inteligența artificială poate submina eforturile de combatere a criminalității. Dacă aplicarea acestor tehnologii încalcă drepturile fundamentale sau duce la discriminarea minorităților, eficacitatea lor este compromisă. Raportul evidențiază existența unor lacune legale semnificative și a unei lipsă de transparență care pune în pericol echilibrul dintre siguranța publică și libertățile cetățenilor europeni.
Analiza realizată de FRA s-a concentrat pe tehnicile de identificare facială și vocală utilizate în șapte state membre: Germania, Franța, Grecia, Ungaria, Irlanda, Italia și Olanda. Deși tehnologia este recunoscută ca fiind un instrument util pentru localizarea persoanelor dispărute sau pentru combaterea criminalității, riscurile sunt majore. Sirpa Rautio, directoarea FRA, subliniază că siguranța publică și drepturile fundamentale nu trebuie să fie obiective divergente, avertizând că identificările inexacte pot avea consecințe grave pentru indivizi.
Lipsa unui cadru juridic clar reprezintă o problemă centrală identificată în raport. David Reichel, șeful departamentului Date și Digital de la FRA, explică faptul că legile din statele membre nu sunt suficient de bine conturate pentru a reglementa utilizarea inteligenței artificiale. Unele țări nu au stabilit încă cadre normative sau autorități de supraveghere, ceea ce duce la o aplicare inegală a garanțiilor legale și la niveluri variate de protecție a drepturilor fundamentale în cadrul Uniunii Europene.
Transparența este un alt punct critic, deoarece „secretomania” din cadrul anumitor operațiuni polițienești poate diminua încrederea publicului. Sondajele efectuate de FRA arată că 37% dintre respondenți se tem că datele colectate pot fi folosite în scopuri neautorizate. De asemenea, 29% consideră că prezența acestor tehnici îi poate descuraja să participe la demonstrații, generând un efect de descurajare asupra libertăților democratice, o problemă majoră pentru sănătatea societății civile.
Erorile algoritmice pot duce la identificări eronate, afectând în special femeile, minoritățile etnice, copiii și vârstnicii. Aceste erori pot genera verificări nejustificate de către poliție și acuzații false. FRA solicită implementarea unor garanții stricte în legislația națională, limitând utilizarea tehnologiei la sarcini specifice, precum căutarea victimelor sau răspunsul la atacuri teroriste. Este strict interzisă utilizarea identificării biometrice pentru a monitoriza persoanele care participă la adunări publice sau demonstrații pașnice.
Regulamentul european privind Inteligența Artificială impune deja restricții, interzicând în general identificarea biometrică la distanță, în timp real, în locuri publice în scopuri polițienești. Această reglementare europeană vizează protejarea spațiului privat și limitarea supravegherii masive, încercând să prevină utilizarea tehnologiei pentru monitorizarea activităților politice sau sociale ale cetățenilor în spațiile comune.