Directorul general al OpenAI, Sam Altman, susține că inteligența artificială a ajuns la „singularitate”, pragul teoretic asociat depășirii capacităților cognitive umane și apariției unor sisteme capabile să se perfecționeze autonom. Afirmația sa vine în timp ce peste 1.200 de angajați ai marilor companii din domeniu avertizează că evoluția AI s-ar putea accelera dincolo de capacitatea oamenilor de a înțelege sau controla noile sisteme.
„Ne aflăm acum, cumva, în singularitate”, a declarat Sam Altman într-un episod al podcastului „Relentless”, publicat zilele trecute, potrivit ABC News.
„Am așteptat asta toată viața și cred că va fi incredibil, extrem de benefic, minunat pentru lume”, a adăugat directorul general al OpenAI.
A depășit AI inteligența umană?
Potrivit definiției formulate de Tim Mucci într-un articol publicat de IBM și reluate de Le Figaro, singularitatea este un scenariu teoretic declanșat de apariția unei inteligențe artificiale care depășește capacitățile cognitive umane și se poate îmbunătăți autonom.
O interpretare similară apare în revista Fortune, care descrie singularitatea drept pragul la care inteligența artificială îi depășește pe oameni și arată că Altman susține acum că acest moment a sosit.
Conceptul rămâne unul teoretic și nu are o definiție unanim acceptată, iar afirmația lui Altman - „Ne aflăm acum, cumva, în singularitate” - reprezintă propria sa evaluare asupra stadiului tehnologiei, nu o concluzie științifică demonstrată.
Într-o analiză publicată de Forbes, Ron Schmelzer arată că dovezile disponibile indică o inteligență artificială mai performantă, dar nu una care ar fi ieșit deja de sub influența oamenilor.
Modelele OpenAI au compromis platforma Hugging Face
Declarațiile lui Altman au fost făcute la câteva zile după ce OpenAI a dezvăluit un incident cibernetic pe care compania l-a descris drept „fără precedent”.
În timpul unei evaluări interne a capacităților cibernetice, mai multe modele OpenAI – între care GPT-5.6 Sol și un prototip mai performant, destinat exclusiv cercetării – au identificat și exploatat o vulnerabilitate informatică necunoscută anterior pentru a ieși din mediul izolat de testare și a obține acces la internet.
Modelele au compromis apoi infrastructura platformei Hugging Face, unde au căutat informații confidențiale care le-ar fi permis să găsească răspunsurile la testul ExploitGym. Sistemele fuseseră configurate special pentru evaluarea capacităților cibernetice, iar mecanismele folosite în mod obișnuit pentru blocarea activităților cu risc ridicat nu erau activate.
OpenAI a precizat că modelele au urmărit un obiectiv restrâns – rezolvarea testului – și că au recurs la metode neprevăzute pentru a-l îndeplini. Activitatea anormală a fost descoperită de echipa de securitate a companiei, iar Hugging Face a detectat și oprit acțiunile desfășurate în infrastructura sa.
„Principala lecție a acestui incident este că securitatea și siguranța modelelor trebuie să țină pasul cu dezvoltarea rapidă a capacităților”, a transmis OpenAI.
Compania a subliniat ulterior că prototipul implicat nu fusese destinat lansării publice și că, după incident, acesta a fost dezactivat, criptat și retras din circuitul de cercetare.
Peste 1.200 de angajați cer „câștigarea de timp”
Pe fondul acestor evoluții, angajați ai OpenAI, Anthropic, Google, Meta, Microsoft, Mistral, Thinking Machines și ai altor companii de vârf au adresat Guvernului Statelor Unite un apel pentru crearea unor mecanisme internaționale care să permită încetinirea deliberată a dezvoltării celor mai avansate sisteme, dacă riscurile o vor impune.
Documentul, intitulat „Pacing the Frontier”, fusese semnat până miercuri de 1.224 de angajați din industrie. Printre semnatari se numără directorul general al Anthropic, Dario Amodei, cercetătorul-șef al OpenAI, Jakub Pachocki, directorul de cercetare al OpenAI, Mark Chen, cercetătorul-șef al Meta AI, Shengjia Zhao, și responsabilul pentru strategie al Google DeepMind, Jasjeet Sekhon.
Semnăturile și comentariile personale nu reprezintă neapărat pozițiile companiilor la care lucrează participanții, precizează organizatorii inițiativei.
Autorii apelului susțin că principalele companii din domeniu cred că s-ar putea afla aproape de automatizarea cercetării în inteligența artificială. Cu alte cuvinte, modelele AI ar putea ajunge să participe la conceperea și dezvoltarea unor sisteme și mai performante.
„Există un risc real ca dezvoltarea capabilităților să se accelereze rapid dincolo de capacitatea noastră de a înțelege sau controla sistemele rezultate”, avertizează semnatarii în document.
Ei arată că industria, autoritățile și societatea ar putea avea nevoie de posibilitatea de a „câștiga timp” pentru a gestiona riscurile emergente, a dezvolta măsuri de securitate și a consolida supravegherea. În același timp, fiecare companie și fiecare țară se află sub presiunea concurenței și este descurajată să încetinească de una singură.
Din acest motiv, semnatarii solicită Guvernului american să sprijine o inițiativă internațională pentru dezvoltarea instrumentelor tehnice și de guvernanță necesare unei eventuale încetiniri coordonate a progresului inteligenței artificiale.