Conținutul generat de inteligența artificială (ChatGPT, DALL.E sau Midjourney) duce la multe discuții, întrucât oferă o soluție ieftină de conținut pe scară largă, cu aspect credibil, inclusiv text, imagini și videoclipuri false, artă și muzică.

(engleză: The outstanding concerns surrounding generative AI)

Îngrijorări

Sistemele de inteligență artificială generativă (GPT- generative pre-trained transformer)  sunt capabile să creeze conținut extrem de convingător la costuri reduse, care ar putea fi folosit în dezinformarea și abuzurile online, fiind dificil de detectat.

Un alt dezavantaj al inteligenței artificiale generative este faptul că modelele sunt antrenate pe seturi de date despre care s-a constatat că propagă prejudecăți ale societății cu privire la aspecte precum genul și rasa.

Oportunități

Pe de altă parte, modelele de inteligență artificială generativă pot oferi, oportunități de combatere a abuzurilor și dezinformării online, și pot fi utilizate de profesioniștii din domeniul mass-media, de cetățenii implicați și de fact-checkers, profesioniști care verifică informația și demontează falsurile.

Conferința AI4Trust din 29 iunie se concentrează pe toate aspectele și provocările relevante legate de inteligența artificială generativă și de combaterea dezinformării.

Conferința este organizată, în cadrul unui proiect finanțat prin programul Horizon 2020, în colaborare cu Europe vera.ai, AI4TRUST și TITAN, precum și cu proiectul H2020 AI4Media, care dezvoltă tehnici noi de inteligență artificială pentru a contracara dezinformarea online, în special utilizând inteligența artificiale generativă.

Preocupările nerezolvate legate de AI generativă

Înaintea votului de miercuri (14 iunie) din Parlamentul European pentru legea privind inteligența artificială, părțile interesate s-au reunit pentru a discuta despre provocările pe care le ridică tehnologia generativă de inteligență artificială, de la riscurile de dezinformare la concurență și la necesitatea unei alinieri internaționale.

În cadrul unui eveniment privind provocările acestei tehnologii pentru industria informatică, factorii de decizie de la la nivelul UE, experții, reprezentanții societății civile și ai mediului de afaceri au subliniat importanța activității intersectoriale în încercarea rezolvarii eventualelor utilizari a acestor instrumente cu scopul creării și răspândirii dezinformării. Discuția a avut loc înaintea votului de miercuri, care urma să decidă poziția Parlamentului European în legătură cu legea privind inteligența artificială, care include stipulații ce vizează aceste modele generative, cum ar fi Chat GPT.

Legea privind inteligenta artificială intră în faza finală a procesului legislativ al Uniunii Europene Parlamentul European a adoptat miercuri (14 iunie) poziția sa cu privire la actul normativ privind inteligența artificiaă cu o majoritate covârșitoare, deschizând calea negocierilor interinstituționale menite să finalizeze prima lege completă din lume privind inteligența artificială.

Dezinformare

Tehnologiile generative de inteligență artificială pot oferi oportunități pozitive, a declarat Gina Neff, director executiv al Centrului Minderoo pentru democrație tehnologică de la Universitatea din Cambridge, dar există, de asemenea, un "potențial impact semnificativ în ceea ce privește utilizarea abuzivă și creșterea nivelului de dezinformare" pe o varietate de subiecte."Ar trebui să ne facem griji cu privire la modul în care oamenii vor obține informații adevarate și de înaltă calitate în era inteligenței artificiale generative", a declarat Gina Neff, adăugând că, pentru a aborda această problemă, ar fi necesară colaborarea între reprezentanți din cadrul guvernului, mediului academic, industriei și societății civile.

Săptămâna trecută, Comisia Europeană a anunțat că semnatarii Codului de bune practici privind dezinformarea vor fi obligați să eticheteze conținutul generat de IA și a lansat o componentă în cadrul proiectului pentru a analiza în mod specific posibilele măsuri de protecție.

Cu toate acestea, în opinia Ginei Neff, răspunderea pentru a combate utilizarea abuzivă a acestei tehnologii este mult mai largă și sunt necesare instrumente mai bune pentru a identifica și contracara miturile și dezinformarea. De asemenea, ea a subliniat că, atunci când se elaborează reglementări ca răspuns la această problemă, este important să se țină seama de faptul că dezinformarea se manifestă nu doar sub formă de text, ci și sub formă audio și video. "Va fi o luptă multimodală și nu dispunem încă de instrumentele tehnice pentru a o aborda", a spus ea.

"Așa că nu ne putem baza pur și simplu pe o viziune bazată pe text pentru aceste reglementări, o viziune bazată pe text pentru dezvoltarea tehnologiei." "Va trebui să ne ocupăm cu adevărat de percepțiile oamenilor, de ceea ce experimentează oamenii și de ceea ce au nevoie aceștia pentru a putea utiliza aceste instrumente și pentru a naviga în siguranță în mediile noastre de informare."

Semnatarii Codului de bune practici privind dezinformarea se regrupează cu accent pe inteligența artificială Semnatarii Codului de practici privind dezinformarea s-au reunit luni la Bruxelles pentru a discuta despre primul an de progres al inițiativei revizuite, în urma retragerii Twitter din programul voluntar săptămâna trecută.

Alte provocări

Cu toate acestea, dezinformarea nu este singura provocare în ceea ce privește inteligența artificială generativă. Preocupările legate de concurență, încălcările drepturilor de autor, amplificarea prejudecăților și acuratețea datelor pe care sunt antrenate aceste modele se numără printre celelalte întrebări importante pe care le ridică această tehnologie, a declarat Andrea Rodríguez, analist principal de politică digitală în cadrul Centrului de Politici Europene.

În timp ce nivelul ridicat de transparență în ceea ce privește modul în care este utilizat conținutul generat de AI reprezintă un prim pas bun, ea a spus că este, de asemenea, crucială conștientizarea cu privire la ceea ce înseamnă acest lucru. "Cum ne asigurăm că oamenii înțeleg ce este inteligența artificială generativă și impactul pe care îl va avea asupra ceea ce fac?", a întrebat ea. De asemenea, trebuie să se acorde atenție potențialului de dominație pe piață a marilor furnizori și a platformelor digitale în ceea ce privește furnizarea și utilizarea acestor tehnologii, a declarat Matthias Spielkamp, director executiv, cofondator și acționar la Algorithm Watch.

Este nevoie de încredere în furnizori, a spus el, adăugând că evaluările inițiale ale riscurilor, care trebuie effectuate până în august de către cei mai mari furnizori online, în conformitate cu prevederile Legii privind serviciile digitale (DSA), ar trebui să examineze, de asemenea, implementarea de către aceștia a acestor tehnologii generative de inteligență artificială.

Măsuri de reglementare

În timp ce DSA, Codul de bune practici și Legea privind IA – pentru care vor începe acum negocierile interinstituționale - sunt exemple de acțiuni ale UE pe această temă, există, de asemenea, o atenție tot mai mare acordată acestei probleme la nivel internațional, a declarat Dan Nechita, șeful de cabinet al co-raportorului Dragoș Tudorache pentru Legea privind AI.

Deși sistemele de reglementare diferite reprezintă o provocare în coordonarea acestui aspect la nivel global, el a recunoscut: "Odată ce ajungem la aceleași principii, bazate pe aceleași valori și înțelegem aceleași obiective pe care încercăm să le atingem cu diferite instrumente de reglementare, cred că va reprezenta un bun loc de plecare."

Colaborarea cu industria va fi, de asemenea, esențială pentru a stabili o reglementare pe termen lung, a declarat Yordanka Ivanova, ofițer juridic și de politici privind dezvoltarea și coordonarea politicilor în domeniul AI la Departamentul Digital al Comisiei, felicitând inițiativa comisarului pentru piața internă, Thierry Breton, de a crea un pact privind IA între companiile de tehnologie înainte de punerea în aplicare a Legii privind IA.

Acest sentiment a fost împărtășit de Jeremy Rollison, șeful departamentului de politici UE și afaceri guvernamentale europene al Microsoft, care a adăugat că finalizarea legislației nu va reprezenta sfârșitul drumului pentru reglementarea în acest domeniu, deoarece tehnologia și înțelegerea acesteia de către oameni continuă să se extindă. "Acest lucru va continua să atingă spații politice despre care vorbim de ani de zile, fie că este vorba despre confidențialitate, proprietate intelectuală, concurență", a spus el. "Când legea privind AI va fi adoptată, nu va fi în niciun caz sfârșitul reglementării AI".

Liderii UE se întrec în inițiative de informare pentru a anticipa normele privind AI

Înalți funcționari europeni au prezentat mai multe inițiative concurente pentru a se implica cu actorii din industrie și cu partenerii internaționali înainte ca noile norme europene în materie de inteligență artificială să înceapă să se aplice.