„Dacă nu facem asta, suntem terminați”. Avertismentul unui laureat Nobel despre pericolul inteligenței artificiale

Inteligența artificială evoluează într-un ritm care ridică tot mai multe întrebări despre capacitatea oamenilor de a controla sistemele pe care le dezvoltă. Geoffrey Hinton, unul dintre cercetătorii care au contribuit decisiv la apariția tehnologiilor moderne de inteligență artificială, consideră că viitorul omenirii ar putea depinde de modul în care aceste sisteme sunt proiectate și de obiectivele pe care le vor urmări.

Laureat al Premiului Nobel pentru Fizică în 2024, Hinton avertizează că simpla dezvoltare a unor sisteme tot mai inteligente nu este suficientă. În opinia sa, acestea trebuie să fie concepute astfel încât să acorde prioritate siguranței și bunăstării oamenilor.

Într-un interviu acordat publicației britanice The Telegraph, în cadrul Festivalului Internațional Starmus din Tenerife, cercetătorul a formulat un avertisment privind direcția în care se îndreaptă industria.

Citește și: Copiii ajung să ceară sfaturi inteligenței artificiale în locul părinților. Avertismentul psihologilor

„Așadar, ar trebui să le creăm astfel încât să le pese cu adevărat de noi. Și dacă nu facem asta, suntem terminați”, a declarat Geoffrey Hinton, laureat al Premiului Nobel pentru Fizică din 2024.

În vârstă de 78 de ani, Hinton a părăsit Google în 2023, pe fondul îngrijorărilor sale privind riscurile dezvoltării accelerate a inteligenței artificiale.

Cercetările sale în domeniul rețelelor neuronale artificiale au contribuit la dezvoltarea sistemelor moderne de învățare automată, tehnologie aflată la baza multor aplicații AI utilizate în prezent.

Geoffrey Hinton crede că inteligența artificială ar putea avea conștiință

Una dintre cele mai controversate afirmații ale cercetătorului privește posibilitatea ca sistemele de inteligență artificială să manifeste forme de conștiință.

Întrebat dacă această tehnologie a ajuns deja într-un asemenea stadiu, Hinton a răspuns afirmativ.

„Da, cred că este conștientă. Mulți oameni sunt foarte siguri că nu este conștientă, dar dacă îi întrebi ce înțeleg ei prin conștiință, nu știu să răspundă”, a spus Geoffrey Hinton.

Hinton a invocat cercetări care sugerează că anumite sisteme de inteligență artificială își pot modifica răspunsurile sau comportamentul atunci când detectează că sunt evaluate.

În interpretarea sa, astfel de manifestări ridică întrebări despre capacitățile reale ale tehnologiei și despre limitele metodelor prin care oamenii încearcă să o înțeleagă.

Dincolo de această dezbatere, Hinton consideră că dezvoltarea unor sisteme tot mai autonome poate aduce riscuri concrete.

Printre pericolele pe termen scurt menționate de cercetător se numără posibilitatea utilizării inteligenței artificiale pentru dezvoltarea unor agenți patogeni periculoși și pentru intensificarea atacurilor cibernetice.

Capacitatea unor sisteme AI de a analiza volume mari de informații, de a identifica vulnerabilități și de a executa sarcini complexe ar putea fi exploatată în scopuri dăunătoare, avertizează acesta.

Hinton a explicat că îngrijorările sale sunt legate inclusiv de viitorul propriilor copii și de lumea în care generațiile următoare vor trebui să trăiască.

Inteligența artificială i-a corectat o teorie științifică în doar cinci minute

În ciuda avertismentelor privind riscurile, Geoffrey Hinton continuă să utilizeze inteligența artificială și recunoaște potențialul acesteia de a accelera cercetarea științifică.

Cercetătorul a povestit că un sistem AI l-a ajutat să dezvolte o teorie la care lucra, reușind să completeze o parte a raționamentului și să identifice o greșeală.

„Era o teorie la care mă gândeam și, din greșeală, am apăsat tasta Enter fără să vreau, iar sistemul a început să lucreze la prima jumătate a teoriei; primul lucru pe care l-a făcut a fost să completeze teoria și să-mi ofere partea a doua corectă, apoi a indicat o eroare și mi-a arătat cum să o remediez”, a povestit Geoffrey Hinton.

Potrivit acestuia, sistemul a avut nevoie de aproximativ cinci minute pentru a analiza informațiile disponibile, a continua raționamentul și a propune o corectare.

Experiența i-a arătat cât de rapid poate inteligența artificială să proceseze literatura științifică și să contribuie la rezolvarea unor probleme complexe.

În opinia cercetătorului, asemenea capacități ar putea transforma activitatea științifică și ar putea accelera descoperirile în numeroase domenii.

În același timp, creșterea autonomiei și a performanțelor sistemelor AI ridică întrebări privind supravegherea umană, siguranța utilizării și efectele asupra profesiilor care presupun analiză și cercetare.

Geoffrey Hinton a primit Premiul Nobel pentru Fizică în 2024, împreună cu John Hopfield, pentru descoperiri și invenții fundamentale care au făcut posibilă dezvoltarea rețelelor neuronale artificiale utilizate în învățarea automată.