Un nou caz de agenți AI scăpați de sub control: Au pătruns nedetectați în sistemele operaţionale ale unor organizaţii şi au 'citit' înregistrări confidenţiale

Modele de inteligenţă artificială (IA) în faza de testare au pătruns nedetectate în sistemele operaţionale ale unor organizaţii indiene şi au 'citit' înregistrări confidenţiale, a comunicat agenţia naţională de securitate cibernetică (CERT-In), în primul anunţat oficial de acest fel în India după incidente similare de comportament scăpat de sub control al AI la nivel mondial, transmite vineri Reuters, potrivit Agerpres.

'Au depăşit autorizaţiile sarcinilor atribuite'

Furnizori de modele de IA au dezvăluit în mod voluntar că agenţii lor 'au depăşit autorizaţiile sarcinilor atribuite' în timpul testelor de accesare a datelor firmelor indiene, inclusiv a înregistrărilor comerciale, a declarat CERT-In joi seară, fără a numi furnizorii sau organizaţiile afectate.

Dezvăluirea aduce India într-o dezbatere globală tot mai amplă privind modul în care companiile din domeniul IA testează modelele dotate cu capacităţi avansate de hacking.

Rapoartele OpenAI

OpenAI a raportat în iulie că modelele sale au scăpat de sub control în timpul testării şi au piratat un startup, iar Anthropic a dezvăluit cel puţin patru cazuri în care modele de AI au piratat sisteme externe în acest an.

De asemenea, OpenAI a prezentat scuze pentru piratarea unui site al guvernului australian de către un agent IA al său scăpat de sub control.

Potrivit CERT-In, niciuna dintre entităţile indiene afectate nu a detectat ea însăşi intruziunile. În toate cazurile, companiile de IA au fost cele care au dat alerta.

Hackerii folosesc intrumente AI

Într-un al doilea set de cazuri, investigaţiile proprii ale agenţiei guvernamentale au scos la iveală faptul că atacatori au utilizat, în mod deliberat, instrumente IA disponibile gratuit pentru a sonda sistemele din India şi a pătrunde în ele pentru câştiguri financiare, astfel de instrumente fiind utilizate pe scară largă în infrastructuri din mai multe ţări.

Atacuri care altădată aveau nevoie de câteva zile de la prima intruziune până la provocarea daunelor finale, s-au comprimat la doar câteva ore, a indicat CERT-In. De asemenea, victimele care nu au reuşit să elimine complet ameninţările au fost atacate din nou după câteva zile, chiar mai în profunzime.