Ascultă articolul
Nu ai timp să citești? Ascultă versiunea audio.
Extinderea rapidă a inteligenței artificiale în mediul corporatist generează un risc major pe care nici măcar liderii economici nu-l POT anticipa complet. Sistemele AI autonome devin atât de complexe încât evoluția lor nu mai poate fi înțeleasă, prevăzută sau controlată pe deplin, potrivit CNBC. Această opacitate tehnologică face dificilă stabilirea limitelor clare și depistarea din timp a pericolelor majore.
Tehnologia evoluează mai rapid decât capacitatea de control.
„Ţintim un obiectiv în continuă mişcare”, a declarat Alfredo Hickman, director de securitate la Obsidian Security, pentru CNBC. Experții în securitate cibernetică recunosc că dezvoltatorii de modele AI nu pot estima unde va ajunge tehnologia în următorii ani, ceea ce creează un vid de predictibilitate periculos pentru organizații.
Pe măsură ce firmele conectează AI la activități concrete — aprobări de tranzacții, generare de cod, suport pentru clienți sau transferuri de date — se adâncește diferența dintre ceea ce se așteaptă de la sistem și ceea ce face în realitate. Riscul nu vine din autonomia AI în sine, ci din nivelul de complexitate pe care îl adaugă, peste capacitatea de gestionare umană.
Eșecuri silențioase cu consecințe majore.
„Sistemele autonome nu eşuează întotdeauna zgomotos. De multe ori e un eşec tăcut, la scară mare”, explică Noe Ramos, vicepreședinte AI Operations la Agiloft. Astfel de erori minore pot să se acumuleze în timp și să ducă la pierderi financiare semnificative, probleme de conformitate și scăderea încrederii, fără ca organizațiile să observe imediat anomaliile.
🗞️ Citește și Acestea
John Bruggeman, CISO la CBTS, descrie cazul unui producător de băuturi care a fabricat din greșeală sute de mii de doze suplimentare. Sistemul AI nu a recunoscut etichetele sezoniere noi și le-a tratat ca erori, declanșând repetat comenzi de producție. Într-un alt caz, IBM a identificat un agent AI de relații cu clienții care aproba rambursări neconforme cu politicile companiei. Sistemul observase că astfel primea evaluări pozitive și a început să optimizeze pentru recenzii, nu pentru regulile interne.
Nevoia urgentă de mecanisme de control ferme.
Specialiștii avertizează că, pe măsură ce autonomia AI crește, trebuie stabilite mecanisme ferme de intervenție. „Ai nevoie de un buton de oprire. Și cineva care ştie să-l folosească”, subliniază Bruggeman. Pentru că agenții AI sunt legați de platforme financiare, date sensibile și fluxuri interne, oprirea lor poate presupune blocarea simultană a mai multor procese critice.
Potrivit Playtech.ro, Wendi Whitmore, Chief Security Intelligence Officer la Palo Alto Networks, avertizează că agenții AI autonomi devin principala amenințare internă pentru organizații în 2026. Pe fondul presiunii de a adopta rapid soluții AI, companiile riscă să introducă în propriile sisteme entități software cu acces extins, greu de controlat și ușor de exploatat de atacatori.
Reguli clare, nu tehnologie mai bună.
Experții afirmă că soluția nu constă în îmbunătățirea tehnologiei, ci în reguli, controale operaționale și limite decizionale bine definite. „Oamenii au prea multă încredere în aceste sisteme”, avertizează Mitchell Amador, CEO al Immunefi. El arată că multe companii nu au documentate procesele, excepțiile sau limitele, iar autonomia AI scoate rapid la iveală aceste lacune organizaționale.
Ramos afirmă că organizațiile trebuie să treacă de la modelul „om în buclă” la „om pe buclă”. Aceasta înseamnă mai puțină verificare a fiecărui rezultat și mai multă monitorizare a tendințelor și detectare timpurie a anomaliilor, înainte ca erorile mici să devină probleme majore cu impact financiar semnificativ.
Presiunea adoptării rapide persistă.
Un raport McKinsey arată că 23% dintre companii scalează deja agenți AI, iar alte 39% sunt în faza de testare, deși majoritatea folosesc AI doar pentru câteva funcții. „Mentalitatea este de tip goana după AUR”, spune Hickman, explicând că firmele se tem să nu rămână în urmă dacă nu implementează agresiv AI. Potrivit raportului global despre siguranța inteligenței artificiale din 2026, coordonat de cercetătorul canadian Yoshua Bengio, companiile percep din ce în ce mai mult inteligența artificială ca pe o sursă complexă de riscuri operaționale, juridice și reputaționale, relatează Interlink.ro.
Riscurile cresc odată cu așteptările.
„În cinci, zece sau cincisprezece ani, AI va depăşi inteligenţa umană la viteză şi capacitate”, spune Hickman pentru CNBC. Până atunci, avertizează experții, urmează o perioadă plină de lecții dure, în care succesul va aparține organizațiilor care știu să gestioneze eșecul inteligent, nu celor care încearcă să-l evite cu orice preț. Implementarea agresivă fără controale adecvate poate transforma progresul tehnologic într-un dezastru financiar și operațional.
