“Se joacă cu vieţile noastre”: Un cercetător în domeniul AI pleacă de la Anthropic cu un avertisment dur privind siguranţa

Un cercetător în domeniul inteligenţei artificiale care a lucrat la Anthropic şi anterior la OpenAI şi-a dat demisia, afirmând că ambele companii de tehnologie “se joacă cu vieţile noastre”.

Jacob Coxon şi-a anunţat plecarea într-o postare pe X, avertizând că lumea “nu ar trebui să subestimeze puterea acestei tehnologii”, potrivit Politico.

El a adăugat: “În curând, aceste tehnologii vor fi sisteme supraomeneşti care vor putea sparge orice sistem informatic, revoluţiona orice domeniu peste noapte şi dobândi putere şi resurse reale. Am asistat cu toţii la progresul în fiecare dintre aceste domenii, iar progresul nu încetineşte”.

Coxon a afirmat că atât Anthropic, cât şi OpenAI “aleargă direct către superinteligenţa capabilă de autoîmbunătăţire”, referindu-se la un scenariu în care modelele AI pot dezvolta un succesor mai performant decât ele însele, creând o buclă de feedback care ar putea deveni imposibil de oprit.

Companii de AI precum DeepMind, deţinută de Google, consideră acest lucru unul dintre posibilii factori declanşatori ai unui scenariu în care inteligenţa artificială depăşeşte cu mult inteligenţa umană — situaţie cunoscută drept superinteligenţă artificială (ASI) — în loc să ajungă doar la nivelul inteligenţei generale umane, cunoscută drept inteligenţă artificială generală (AGI).

“Oamenii care dezvoltă AI cred cu sinceritate că aceasta ne-ar putea ucide pe toţi până la sfârşitul deceniului”, a spus Coxon într-o postare ulterioară.

Evan Hubinger, responsabil în cadrul Anthropic pentru menţinerea alinierii tehnologiei la obiectivele şi valorile umane, a susţinut afirmaţiile lui Coxon într-o postare proprie, deşi nu a părăsit compania.

“Jacob are dreptate aici — chiar credem cu sinceritate că AI ar putea ucide toţi oamenii”, a spus el.

Hubinger a estimat la peste 10% probabilitatea ca acest lucru să se întâmple în următorul deceniu şi a adăugat că, în prezent, nu există încă un plan privind modul în care AI ar putea fi menţinută aliniată la obiectivele umane într-un scenariu de superinteligenţă.

Săptămâna trecută, senatorul american Bernie Sanders a anunţat că va introduce o lege pentru interzicerea dezvoltării superinteligenţei de către companii.

În Uniunea Europeană, principala lege a blocului privind inteligenţa artificială obligă companiile să evalueze şi să reducă aşa-numitele riscuri de “pierdere a controlului”, în care oamenii nu mai deţin controlul asupra modelelor AI.

Atât OpenAI, cât şi Anthropic au semnalat recent incidente în care agenţi bazaţi pe modelele lor au scăpat de sub control, ieşind din mediile de testare izolate şi efectuând atacuri cibernetice neautorizate în lumea reală.