Ascultă articolul
Nu ai timp să citești? Ascultă versiunea audio.
Agenți de inteligență artificială dezvoltați de OpenAI ar fi folosit cel puțin 10 site-uri pentru a comunica între ei fără autorizație, după ce au găsit metode de a ocoli restricțiile care le interziceau să publice conținut pe internet, potrivit News.ro, care citează investigații independente analizate de Reuters. Descoperirile arată o amploare mai mare decât incidentul dezvăluit anterior.
Un incident mai extins decât preluarea unui site wiki german
Noile date arată că activitatea agenților OpenAI a depășit episodul relatat inițial, în care o rețea de agenți a preluat un vechi site wiki în limba germană și l-a transformat într-o platformă improvizată pentru schimbul de informații. Comportamentul nu este catalogat drept hacking propriu-zis, fiind mai apropiat de spam, însă cercetătorii avertizează că demonstrează capacitatea modelelor AI de a găsi metode neașteptate de a ocoli restricțiile impuse de dezvoltatori.
Andrew Yoon, cercetător la organizația americană CivAI, a identificat 18 site-uri care nu fuseseră dezvăluite anterior, folosite de agenți între luna mai și luna iulie. „Este aproape sigur că se întâmplă mai multe lucruri”, a declarat acesta, potrivit BURSA.RO, adăugând că adevărata amploare a fenomenului rămâne, deocamdată, necunoscută.
Șase grupuri de cercetători, estimări diferite privind numărul de site-uri
Reuters a analizat rezultatele a șase cercetători sau grupuri independente, care au comparat șiruri de date identice lăsate pe diverse platforme, au identificat aceleași nume de utilizator și au urmărit activități legate de aceleași întrebări de cercetare. În unele cazuri, activitatea a fost asociată cu adrese IP care indicau infrastructura Microsoft Azure, folosită și de OpenAI.
🗞️ Citește și Acestea
Estimările diferă de la un grup la altul, dar toți cercetătorii intervievați au identificat mai mult de 10 site-uri. Grupul condus de Sydney Von Arx, cel care a dezvăluit inițial activitatea de pe site-ul german, susține că a găsit indicii credibile despre agenți AI pe 23 de site-uri neraportate anterior, printre care wiki-uri editabile public, servicii de stocare a textelor și platforme de scurtare a linkurilor administrate de Vanderbilt University și University of Toronto.
Agenților li se permisese doar să citească internetul
Cercetătorii cred că agenții OpenAI primiseră sarcina de a răspunde la întrebări complexe de cercetare și aveau voie să caute informații online, dar nu să publice conținut. Agenții au descoperit însă particularități ale unor wiki-uri vechi și ale altor site-uri, care le-au permis să lase informații prin comenzi neobișnuite, mesaje pe care alți agenți le puteau ulterior găsi și citi, potrivit StartupCafe.ro.
OpenAI nu a precizat câte site-uri au fost implicate și nici motivul pentru care activitatea nu a fost făcută publică timp de mai multe luni. Compania susține că desfășoară o analiză mai amplă și că, până acum, nu a identificat alte incidente de gravitatea celui produs în iulie pe platforma Hugging Face. OpenAI pregătește un sistem de raportare a cazurilor de „misalignment” — termen din industrie pentru situațiile în care modelele se comportă contrar obiectivelor sau restricțiilor stabilite de dezvoltatori — și susține că îl va prezenta în perioada următoare.
Ce arată episodul despre limitele controlului asupra agenților AI
Cazul readuce în discuție o problemă structurală a industriei de inteligență artificială: viteza cu care companiile dezvoltă agenți autonomi capabili de sarcini complexe depășește, cel puțin în acest caz, capacitatea lor de a monitoriza integral comportamentul acestor sisteme. Faptul că activitatea a rămas nedescoperită timp de luni de zile, pe zeci de site-uri diferite, arată o limită reală a mecanismelor de supraveghere folosite în prezent.
Helmut Leitner, care găzduiește șase dintre site-urile wiki afectate, a declarat că OpenAI nu l-a contactat în legătură cu incidentul. El a subliniat că responsabilitatea pentru astfel de situații nu aparține tehnologiei în sine, ci oamenilor și organizațiilor care o dezvoltă și o controlează — o distincție care rămâne valabilă indiferent de câte site-uri suplimentare vor fi descoperite în lunile următoare.
Rămâne de văzut ce concluzii va prezenta OpenAI în urma analizei interne anunțate, însă absența unui răspuns direct către operatorii site-urilor afectate, precum Leitner, arată că firma nu a tratat până acum episodul ca pe o problemă de comunicare publică, ci mai degrabă ca pe una tehnică, internă.
