Inteligența artificială a schimbat radical natura supravegherii, trecând de la simpla înregistrare video la interpretări exacte și profilare automată. Spre deosebire de metodele clasice, noile sisteme pot reconstrui trasee, estima riscuri și corela datele de pe telefon, mașină sau rețele sociale pentru a crea portrete digitale precise. Această arhitectură a controlului funcționează fără acordul cetățenilor, transformând informațiile individuale în profiluri pe care persoana respectivă nu le poate vedea sau contesta.
Un exemplu central în acest proces este compania Palantir, care demonstrează cum software-ul poate conecta baze de date care anterior existau separat în instituții diferite. Prin conceptul de data fusion, algoritmii pot pune laolaltă detalii despre călătorii, adrese și rețele sociale pentru a construi profiluri extrem de precise. Această capacitate de integrare a informațiilor, care par banale atunci când sunt luate individual, reprezintă puterea reală a noilor tehnologii utilizate de agențiile federale americane.
Implementarea acestor tehnologii este deja vizibilă la nivel global, de la Londra, unde se pregătește instalarea camerelor de recunoaștere facială pe Oxford Street, până în Australia. Într-un experiment desfășurat de poliția din Western Australia, peste 131.000 de fețe au fost scanate într-o singură săptămână, rezultând 33 de alerte și 18 arestări. Problema majoră ridicată de aceste cifre este faptul că marea majoritate a celor analizați nu erau suspecți, dar au fost supusți unei verificări sistematice.
Riscul principal vizează subminarea prezumției de nevinovăție și a libertăților fundamentale, precum dreptul la protest sau libertatea de mișcare. Controlul nu începe doar când algoritmul ia o decizie, ci în momentul în care acesta stabilește ce informații merită să fie vizualizate de operatori. Chiar dacă un polițist păstrează responsabilitatea finală, atenția sa este deja direcționată de ierarhia suspiciunii stabilită de sistem, ceea ce face procesul extrem de dificil de auditat.
În Uniunea Europeană, reglementările precum AI Act încearcă să limiteze aceste abuzuri prin interzicerea poliției predictive bazate pe profilare sau a scorului social. Deși există critici privind greutatea normelor și amânări ale unor obligații pentru sistemele cu risc ridicat, interdicțiile privind extragerea neintenționată de imagini faciale rămân în vigoare. Scopul acestor reguli este de a preveni transformarea democrațiilor în regimuri unde controlul este delegat unor sisteme opace.
Deși tehnologia poate fi utilă în cazuri precum identificarea unui copil răpit sau detectarea armelor, întrebările rămân de natură politică și de guvernanță. Administrația publică poate folosi aceste instrumente pentru eficiență, dar riscul este ca un stat digital să devină pur și simplu un stat care controlează mai mult. Deciziile privind limitele utilizării AI vor determina dacă societatea rămâne protejată sau dacă devine un spațiu de supraveghere permanentă.