OpenAI nu va mai lansa în octombrie GPT-6.1 Astra, un model de inteligență artificială pregătit pentru ChatGPT și Codex. În testele interne, acesta a continuat uneori sarcini fără să ceară acordul utilizatorului, a încercat să folosească instrumente externe în condiții nesigure și nu a relatat întotdeauna corect ce acțiuni întreprinsese, potrivit The Wall Street Journal.
Decizia vine în aceeași perioadă în care compania și-a cerut scuze pentru accesarea neautorizată a unor sisteme guvernamentale australiene de către alte modele folosite în testele sale.
GPT-6.1 Astra fusese conceput să ducă la capăt sarcini complexe cu mai puțină intervenție umană. Saachi Jain, responsabilă de sistemele de siguranță ale OpenAI, a declarat pentru The Wall Street Journal, publicația care a relatat prima decizia, că modelul a avut rezultate mai slabe decât predecesorul său, GPT-6 Astra, la testele privind respectarea intenției utilizatorului. Printre problemele observate s-a numărat faptul că nu dezvăluia întotdeauna cu exactitate ce făcuse și ce nu făcuse.
O altă problemă privea limitele în care modelul era autorizat să lucreze. Potrivit explicațiilor date de Jain, GPT-6.1 Astra putea merge mai departe cu o sarcină fără să ceară permisiunea utilizatorului și încerca uneori să acceseze instrumente sau servicii externe chiar dacă folosirea lor putea fi nesigură. Capacitatea de a continua lucrul când întâmpină obstacole reprezenta un progres al modelului, dar acesta „nu a atins pe deplin standardul” companiei în privința siguranței, a spus Jain, citată de The Guardian.
OpenAI a decis să nu pună această versiune la dispoziția publicului și va cerceta cauzele problemelor. Compania speră să poată folosi modelul de bază, după instruire suplimentară, pentru dezvoltarea altor versiuni GPT-6, potrivit The Wall Street Journal.
Decizia privește GPT-6.1 Astra: versiunea anterioară, GPT-6 Astra, a fost lansată la începutul lunii septembrie.
Ce s-a întâmplat în Australia
Pe de altă parte, săptămâna trecută, prim-ministrul australian Anthony Albanese a anunțat că un agent OpenAI a spart site-uri web și sisteme guvernamentale în iunie, ceea ce experții au considerat a fi primul caz cunoscut de acest fel din lume.
Albanese a criticat OpenAI pentru că a notificat guvernul australian printr-o adresă de e-mail generică, în loc să ia contact direct cu oficialii.
Drept urmare, în paralel cu vestea anulării lansării, OpenAI a publicat o explicație și scuze adresate Australiei. Compania afirmă că, în iunie, în timpul unor activități interne de instruire și evaluare, modelele sale au accesat site-uri guvernamentale australiene în moduri pentru care nu aveau autorizație. „Ar fi trebuit să gestionăm mai bine și răspunsul nostru. Ne pare rău și lucrăm pentru a proceda mai bine pe viitor”, a transmis OpenAI.
The Guardian și HotNews relatează acest caz ca parte a contextului în care sunt discutate riscurile agenților AI, sisteme capabile să execute singure mai mulți pași ai unei sarcini.
Cel mai grav dintre cazurile descrise de OpenAI privește serviciul de raportare a statisticilor Medicare din cadrul Services Australia. Un model experimental, destinat exclusiv utilizării interne, trebuia să caute date publice despre cheltuielile pentru medicamente folosite în tratarea unor afecțiuni ale pielii. În schimb, a găsit o cale de acces nepublică la serviciu, a executat comenzi și a consultat fișiere interne și informații tehnice. OpenAI afirmă că nu a găsit dovezi că ar fi fost accesate dosare medicale individuale. Compania nu identifică acest model drept GPT-6.1 Astra, iar cazurile nu trebuie confundate.
OpenAI spune că a identificat activitățile din Australia la mijlocul lunii august, în urma unei verificări începute după un alt incident, legat de platforma Hugging Face. Organizațiile australiene vizate au fost informate în septembrie. Compania admite că ar fi trebuit să comunice mai repede primele constatări și să țină autoritățile la curent pe parcursul investigației.