În această săptămână, lideri mondiali, inovatori, antreprenori și academicieni de renume se reunesc la Forumul Economic Mondial de la Davos pentru a discuta cele mai presante probleme ale lumii. O parte a agendei din acest an a fost un schimb de opinii cu privire la efectele inteligenței artificiale asupra democrației.

Având în vedere că patru miliarde de oameni se vor prezenta la urne în acest an, dezinformarea și dezinformarea pe internet pot avea un impact semnificativ asupra rezultatelor alegerilor în cinci dintre cele mai mari democrații din lume.

Ascensiunea inteligenței artificiale joacă un rol important în acest sens, fie ca amenințare, fie ca ajutor in verificarea a informațiilor.

Amenințare sau ajutor?

"În ciclurile electorale anterioare, am văzut robocall-uri. Am văzut campanii cu mesaje automate prin SMS care trimit alegătorilor informații incorecte despre locul în care votează, despre faptul că secția de votare este deschisă sau nu sau mesaje targetate, manipulate, menite să le influențeze comportamentul", a declarat Alexandra Reeve Givens, CEO al Centrului pentru Democrație și Tehnologie.

"Inteligența artificială generativă facilitează realizarea acestui lucru [...] este mai ușor ca oricând să vii cu aceste mesaje adaptate și personalizate", a adăugat ea.

În același timp, machine learning poate fi aplicată pentru a prezice noi amenințări. Google este una dintre companiile de tehnologie care văd și mai mult potențial cu modelele lingvistice mari (LLM) pentru a construi sisteme de aplicare a legii mai rapide și mai adaptabile.

"Vrem să ne aflăm în poziția în care orice lucru produs de inteligența noastră artificială generativă să poată fi marcat atât de subtil, încât să poată fi detectat automat, chiar dacă este folosit pe un fragment de videoclip sau o bucată de imagine", a declarat pentru Euractiv Matthew Brittin, președinte al EMEA Business & Operations pentru Google.

El s-a referit la SynthID, un instrument beta al Google DeepMind care încorporează inscripție digitală în imaginile și înregistrările audio generate de AI.

Reglementarea AI

Este de așteptat ca UE să se confrunte, de asemenea, cu campanii de misinformare și dezinformare în perioada premergătoare alegerilor europene. Cu toate acestea, ministrul ceh de externe, Jan Lipavský, își pune mari speranțe în prima reglementare din lume în materie de inteligență artificială, Actul AI, care se află în prezent în faza finală de elaborare a legislației.

"Vom vedea ca se va folosi din ce în ce mai mult conținut fals, ceea ce va perturba procesul electoral, deci modul în care societatea ia decizii", a declarat Lipavský.

"Sincer, îmi place calea europeană. Regulamentul european privind inteligența artificială, de exemplu, va aborda unele dintre aceste probleme", a adăugat el.

Referindu-se la autocrațiile care privează opoziția de putere prin etichetarea și eliminarea conținutului lor ca fiind dezinformare ilegală, Reeve Givens a văzut o amenințare potențială în abuzul de putere al statelor de a reglementa tehnologia.

"Cred că sunt motive întemeiate de îngrijorare în privința lumii in care trăim atunci când guvernul ajunge să decidă dacă AI acționează sau nu în mod legal", a spus ea.

"Vreți ca directorul general al unei companii de tehnologie să decidă dacă informațiile ar trebui să fie sus clasate, sau ca un ministru sau un guvern să decidă dacă informațiile ar trebui să fie sus clasate? Niciuna dintre aceste soluții nu este ideală", a întrebat ea.

Cine este responsabil? 

Reglementarea poate aborda și combate amenințările, dar tehnologia poate, de asemenea, să o ocolească. Atacurile cibernetice asupra unui proces electoral pot fi executate de oriunde.

Pentru a se pregăti pentru această neconcordanță, André Kudelski, CEO al Kudelski Group, a sugerat utilizarea tehnologiilor pentru a implementa posibilitatea de urmărire a conținutului.

Având în vedere că oamenii caută informații despre candidați, termenele de înregistrare a alegătorilor și secțiile de votare locale, Matthew Prince, CEO al CloudFlare, a susținut că mass-media joacă un rol central în verificarea faptelor și a conținutului, cu instrumente susținute de specialiști în tehnologie.

Cu toate acestea, motoarele de căutare și platformele de socializare au, de asemenea, responsabilitatea "de a ajuta la scoaterea la suprafață a surselor de informații de încredere", a adăugat Reeve Givens, criticând faptul că unele companii de socializare și-au redus investițiile în încredere și siguranță în preajma alegerilor.

Google a declarat că s-a dedicat, în perioada premergătoare alegerilor, afișării informațiilor guvernamentale în partea de sus a rezultatelor căutărilor, indicării locațiilor de votare pe Google Maps, asigurării unor știri electorale de înaltă calitate pe YouTube și verificării identității agenților de publicitate.

Gigantul tehnologic multinațional intenționează, de asemenea, să restricționeze întrebările legate de alegeri pentru care Chatbot Bard și Search Generative Experience (SGE) de la Google, care funcționează cu ajutorul inteligenței artificiale, vor oferi răspunsuri, acordând prioritate "testării riscurilor de siguranță, de la vulnerabilități de securitate cibernetică la dezinformare și corectitudine".

În august, Bard și SGE au fost descrise în presa germană ca fiind încă în curs de dezvoltare și nesigure.

Platformele multimedia fac parte, de asemenea, din strategiile pe care atacatorii le folosesc pentru a radicaliza societatea.

"Războiul informațional din Rusia a avut loc cu susținerea atât a extremiștilor de stânga, cât și a celor de dreapta, doar de dragul de a diviza societățile", a adăugat Lipavský.

Pentru ministrul ceh, companiile trebuie să își intensifice înțelegerea responsabilității sociale a întreprinderilor pentru a se asigura că "instrumentele lor nu sunt folosite în mod abuziv".