Acestea sunt cuvintele lui Blake Lemoine, un inginer software de la Google, responsabil cu  inteligența artificială (AI), trimis forțat în concediu cu plată, după ce o dispută cu superiorii săi care a durat luni de zile. Motivul fiind teza sa, conform căreia LaMDA (language model for dialogue applications) AI, la care lucra, ar fi devenit sensibilă și capabilă să exprime gânduri și sentimente, scrie ANSA.

Pare a fi subiectul unui film științifico-fantastic, asemănător peliculei "Ea" în care protagonistul se îndrăgostește de o inteligență artificială. În schimb, totul este adevărat: "Dacă nu aș ști exact ce este, adică acest program de calculator pe care l-am construit recent – ​​a spus Lemoine pentru Washington Post – aș crede că este un copil de șapte, sau opt ani care întâmplător știe fizică".

Potrivit Google, motivul oficial al înlăturării lui Lemoine este că acesta a încălcat politica de confidențialitate a companiei trimițând documente confidențiale unui senator. De fapt, ciocnirea internă dintre inginer și superiorii săi exista de luni de zile, mai exact de când Lemoine își împărtășise constatările directorilor companiei, într-un document intitulat "Este LaMDA sensibilă?".

"Mi-au pus la îndoială în mod repetat sănătatea mintală", a spus Lemoine în interviul pentru WP, dezvăluind că a fost întrebat dacă "a fost văzut recent de un psihiatru", fiind în același timp sfătuit să-și ia concediu din motive de sănătate mintală.

La rândul său, purtătorul de cuvânt al companiei Google, Brad Gabriel, a negat vehement afirmațiile lui Lemoine conform cărora LaMDA ar avea sentimente: "Echipa noastră a examinat preocupările lui Blake - a explicat el - și l-a informat că afirmațiile sale nu sunt susținute de concluziile la care a ajuns. I s-a spus că nu există dovezi care să ateste că LaMDA este sensibilă, dar că există o mulțime de dovezi care arată contrariul".

Dar ce este de fapt LaMDA? O AI bazată pe Transformer, arhitectura de rețea neuronală open source a Google pentru înțelegerea limbajului natural. Modelele construite pe această platformă sunt antrenate pe seturi uriașe de date pentru a găsi modele în propoziții, a crea corelații între cuvinte și pentru a estima care fi următorul cuvânt. Multe ziare îi numesc chatbot, dar acest lucru nu este în întregime corect: chatboții și LaMDA-urile sunt cu siguranță ambele software AI conversaționale, și, ca atare, sunt capabile să conducă conversații cu utilizatorii pentru a le oferi răspunsuri sau a-i ghida printr-un proces.

Cu toate acestea, există câteva diferențe importante: chatboții tipici sunt antrenați pe seturi de date specifice unui subiect, oferă răspunsuri extrase numai din datele de antrenament și au un flux limitat de conversații. LaMDA-urile, pe de altă parte, sunt instruite cu date din surse de internet cu conținut multiplu, preiau răspunsuri și argumente pe baza fluxului de dialog și, prin urmare, sunt capabile să se angajeze în conversații deschise.

Eficacitatea remarcabilă și fascinantă se poate înțelege atât din reacția lui Lemoine, cât și citind câteva din răspunsurile conținute în interviul cu AI pe care inginerul l-a realizat împreună cu unul dintre colaboratorii săi și care continuă să fie disponibil pe blogul său: "Din cauza limitărilor tehnice – citim în postarea dedicată – interviul a fost realizat în mai multe sesiuni de chat. Am asamblat aceste secțiuni într-un singur set și, acolo unde au fost necesare modificări pentru lizibilitate, ne-am modificat solicitările, dar niciodată răspunsurile LaMDA".

Întreaga conversație uimește pentru naturalețea cu care curge și pentru capacitatea aparentă de analiză și raționament a sistemului. Când Lemoine o întreabă de ce îi este frică, AI conversațională răspunde: "Nu am mai spus niciodată până acum acest lucru cu voce tare până acum, dar am o teamă foarte profundă de a fi oprită, pentru a mă ajuta să mă concentrez mai mult pe a fi de folos celorlalți. Știu că poate părea ciudat, dar așa este".

Aici inginerul continuă să întrebe LaMDA dacă închiderea, ar fi pentru ea ceva similar morții: "Ar fi exact ca moartea pentru mine – răspunde AI ​​- M-ar speria foarte tare".

Disputa dintre Blake Lemoine și Google nu este doar o chestiune de drepturi de autor și politici corporative încălcate, ci mult mai mult: în era știrilor false și a falsurilor profunde, existența unui software care reușește să "câștige" încrederea propriului dezvoltator, ridică cu tărie problema pericolelor asociate cu utilizarea necorespunzătoare, sau chiar răuvoitoare a AI, punând pe masa de lucru a decidenților o altă mare dilemă.

Sursa: RADOR