Ei se declară convinși că roboții conversaționali ca ChatGPT pot reprezenta riscuri grave pentru societate, notează Courrier International.

Pe un ton hotărât alarmist, cercetători reputați în domeniul inteligenței artificiale (IA) au publicat miercuri, 29 martie, pe site-ul institutului american Future of Life, o scrisoare deschisă care cere un moratoriu de urgență pe cercetarea în acest setor, care a făcut recent progrese fulminante:

"Cerem tuturor laboratoarelor de IA să suspende imediat, pentru cel puțin șase luni, pregătirea sistemelor de IA mai puternice decât GPT-4".

GPT-4 este modelul de limbaj care urmează lui GPT-3, aflat la originea agentului conversațional ChatGPT, dezvoltat de start-up-ul american Open AI și obiect al unei pasiuni mondiale de la lansarea sa online în decembrie 2022.

Petiția acuză laboratoarele de inteligență artificială că s-au lansat într-o "cursă necontrolată pentru a dezvolta și elabora sisteme de IA tot mai puternice, pe care nimeni, nici măcar creatorii lor, nu le pot înțelege, prezice sau controla în mod fiabil".

 "Să pierdem controlul asupra civilizației noastre" 

Aceste sisteme, continuă scrisoarea dechisă, intră în competiție cu oamenii și se ajunge să se pună întrebările următoare:"Ar trebui să automatizăm toate sarcinile, inclusiv pe cele care permit o implinire? Ar trebui sa dezvoltăm creiere ne-umane care ar putea eventual să fie mai numeroase și mai inteligente , [...] și să ne înlocuiască? Ar trebui să riscăm să pierdem controlul asupra civilizației noastre?".

Pauza cerută, rezumă cotidianul canadian La Presse, "ar permite să ne asigurăm că dezvoltarea acestei tehnologii va fi supervizată și făcută spre binele societății".

Apelul, remarcă site-ul american Wired, vine când sistemele de inteligență artificială fac salturi impresionante: "GPT-4 a fost anunțat acum numai două saptămâni, dar capacitățile sale au suscitat deja un entuziasm considerabil și o bună doză de îngrijorare. Revista precizează că robotul conversațional obține rezultate excelente la multe teste academice și rezolvă corect întrebări spinoase. Dar face și "multe erori triviale și de logică", în plus, dă dovadă de "prejudecăți sociale înrădăcinate" ceea ce îl poate împinge să comunice afirmații pline de ură sau potențial dăunătoare". 

Jacheta de puf a papei, generată de o IA

Din 25 martie, a devenit virală pe rețelele de socializare o imagine a papei Francisc care îl arată pe șeful Bisericii catolice îmbrăcat într-o jachetă de puf lungă albă. "Nu există decat o singură problemă", scrie New Scientist: "imaginea nu e adevărată".

Peter Stone, un expert în IA de la universitatea din Texas, la Austin, care a semnat scrisoarea, declară pentru Wired că lucrurile par să progreseze prea repede în acest domeniu: "Asta nu ar trebui să fie o cursă care să urmărească să construiască următorul model și să-l scoată înaintea celorlalți".

Este puțin probabil ca petiția să aibă o influență asupra climatului actual al cercetării din acest domeniu, care numără companii ca Google și Microsoft repezindu-se să elaboreze noi produse, estimează The Verge.

Dar, conchide revista, "este un semn al opoziției tot mai mari față de această abordare expeditivă nereglementată, o opoziție care ar putea, potențial, să-și facă un drum în domeniul politic pentru a fi examinată de legislatori".

Sursa: RADOR