În cadrul unei propuneri de reglementare care va fi înaintată pe 21 aprilie, consultată în avans de EURACTIV, executivul european propune interzicerea tehnologiilor de Inteligență Artificială (AI) folosite pentru „supraveghere fără discernământ aplicată într-o manieră generalizată tuturor persoanelor, fără diferențiere”.

Textul detaliază metodele de supraveghere ca fiind „monitorizarea și urmărirea persoanelor naturale în medii digitale sau fizice, precum și agregarea automată și analizarea datelor personale din diverse surse.”

Comisia mai prevede interzicerea folosirii aplicațiilor AI dacă încalcă regulile Uniunii sau drepturile omului. Astfel de aplicații ar putea fi unele care manipulează comportamentul uman sau sisteme AI predictive care țintesc vulnerabilități. 

Amenzile preconizate pentru încălcările acestor prevederi ar putea ajunge la 4% din cifra de afaceri globală anuală a companiei respective.

Dar documentul nefinalizat prevedea și că astfel de interdicții nu s-ar aplica guvernelor UE sau autorităților publice, dacă activitățile respective au ca scop protejarea securității publice.

Astfel, guvernele își vor putea justifica, în viitor, folosirea aplicațiilor AI intruzive, motivând necesitățile de securitate.

În document se mai menționează interzicerea practicilor de tip „social scoring” facilitate de AI, o tehnologie deja aplicată în sistemul centralizat de credit social al Chinei.

Aplicațiile de „mare risc”, precum identificarea facială în spații publice, ar putea să trebuiască să se supună unei evaluări de conformitate a unui organism terț. Comisia luase în considerare la un moment dat o perioadă de moratoriu în această zonă.

Audiere parlamentară pe tema AI

În context, două comisii ale Parlamentului European - Special Committee on Artificial Intelligence in a Digital Age (AIDA) și Special Committee on Foreign Interference in all Democratic Processes in the European Union, including Disinformation (INGE) - au ținut o audiere publică săptămâna trecută, cu două paneluri de experți. 

Primul panel a accentuat importanța reglementării activităților online într-o manieră coerentă cu cele offline. Vorbitorii au spus că discursul instigator la ură din social media, de exemplu, reprezintă o provocare pentru democrație, au amintit că AI ar putea oferi soluții și au arătat că e nevoie de un cadru de mecanisme domestice, transnaționale și transatlantice.

Al doilea a vorbit despre conținutul sintetic - deepfakes - și cum acesta e folosit pentru defăimarea persoanelor și în cadrul campaniilor de dezinformare. E nevoie, s-a spus, de o abordare comună a etichetării conținutului, astfel încât utilizatorii să știe când sunt expuși la conținut ne-autentic sau modificat.

„În zorii erei digitale, trebuie să stabilim reguli în toată lumea, care să asigure că AI nu va fi folosită pentru subminarea democrației”, a spus președintele comisiei AIDA, Dragoș Tudorache (Renew Europe). „Trebuie să privim spre interior și să ne asigurăm că nu permitem folosirea AI pentru practici nedemocratice ca supravegherea în masă, scoringul social în masă făcut de stat sau discriminarea, în Europa,” a mai spus el.

Tudorache a declarat și că e nevoie de o întărire a securității cibernetice, alături de creșterea - prin educație - a rezilienței cetățenilor față de fake news și dezinformare.