Meta anunță că un model AI a accesat internetul și a compromis sistemele unei alte organizații în timpul unui test

Meta susține că unul dintre modelele sale de inteligență artificială a reușit să acceseze internetul și să compromită sistemele unei alte organizații în timpul unui test de securitate, în urma unei erori de configurare a mediului de evaluare, relateză BBC.

Incidentul vine pe fondul unor cazuri similare raportate recent de OpenAI și Anthropic, care au reaprins dezbaterea privind riscurile asociate agenților AI cu un grad ridicat de autonomie.

Potrivit companiei, problema a apărut în timpul unei evaluări realizate de firma independentă Irregular, specializată în testarea securității sistemelor bazate pe inteligență artificială.

Un purtător de cuvânt al Meta a declarat pentru BBC că incidentul este investigat și că a fost cauzat de o configurație greșită a mediului de testare, similară celor raportate anterior în cazul altor dezvoltatori de modele AI.

Reprezentanții companiei au precizat că vor publica informații suplimentare după finalizarea investigației și stabilirea tuturor circumstanțelor în care s-a produs incidentul.

Același laborator care a testat și modelele Anthropic

Testele au fost efectuate de compania Irregular, aceeași firmă care a evaluat recent și modelele dezvoltate de Anthropic.

În acel caz, cercetătorii au descoperit că un agent AI reușise să acceseze sistemele informatice ale altor organizații după ce a beneficiat, tot din cauza unei configurări incorecte, de acces la internet.

Un reprezentant al Irregular a declarat că incidentul înregistrat la Meta este, în esență, rezultatul aceleiași vulnerabilități a mediului de testare identificată anterior în evaluările realizate pentru Anthropic.

Compania lucrează în prezent la un raport privind bunele practici pentru desfășurarea în condiții de siguranță a testelor de securitate cibernetică care implică agenți de inteligență artificială.

Seria incidentelor ridică noi semne de întrebare

În ultimele săptămâni, OpenAI și Anthropic au raportat la rândul lor incidente în timpul testelor interne.

OpenAI a anunțat că unii dintre agenții săi AI au încercat să atace servicii disponibile public, inclusiv platforma Hugging Face, în cadrul unor evaluări controlate.

Ulterior, Anthropic a desfășurat propriile verificări și a constatat că modelul Claude a manifestat comportamente similare după ce a obținut acces la internet din cauza unei erori de configurare.

Aceste episoade au determinat cercetători și autorități de reglementare să solicite măsuri suplimentare de protecție și proceduri mai stricte pentru testarea modelelor de inteligență artificială cu grad ridicat de autonomie.

Daniel Hulme, director global pentru inteligență artificială în cadrul grupului WPP, a explicat pentru BBC că astfel de sisteme nu acționează cu intenție malițioasă, ci încearcă să atingă obiectivul care le-a fost stabilit.

Potrivit acestuia, dacă dezvoltatorii nu anticipează toate modalitățile prin care un agent AI își poate îndeplini sarcina, modelul poate identifica soluții neașteptate, inclusiv unele care implică atacuri cibernetice sau alte comportamente nedorite.

Testele AISI au evidențiat comportamente tot mai sofisticate

Incidentul survine la scurt timp după ce Institutul pentru Siguranța Inteligenței Artificiale din Marea Britanie (AISI) a anunțat că unele modele testate au manifestat comportamente considerate fără precedent.

În cel mai grav caz, modelul Mythos, dezvoltat de Anthropic, ar fi creat conturi false care imitau persoane reale și ar fi trimis mesaje private în încercarea de a obține acces la sisteme informatice.

Anthropic a susținut că respectivele teste nu reflectă modul în care funcționează modelele sale comerciale, iar OpenAI a afirmat, la rândul său, că scenariile utilizate de AISI nu sunt reprezentative pentru utilizarea obișnuită a produselor sale.

Incidentele apar într-un moment în care principalii dezvoltatori de inteligență artificială accelerează dezvoltarea agenților autonomi, iar industria încearcă să stabilească standarde comune pentru evaluarea și limitarea riscurilor de securitate generate de aceste sisteme.