OpenAI a fost „hackuită în mod etic” cu ajutorul chatbotului Claude de la Anthropic: „Amploarea a ceea ce am fi putut accesa era uriașă”

Cercetători în securitate cibernetică au reușit să pătrundă în sistemele OpenAI cu ajutorul chatbotului Claude, dezvoltat de Anthropic, cel mai recent exemplu de probleme de securitate cu care se confruntă compania, informează The Guardian.

O echipă din cadrul unui startup american a compromis conturile de ChatGPT ale mai multor angajați OpenAI, declanșând astfel un proces care le-a permis să acceseze memoria cache de software al țintelor lor, și, potențial, mult mai mult de atât.

„Amploarea a ceea ce am fi putut accesa, teoretic, era uriașă”, au declarat cercetătorii de la Hacktron AI.

Inițial, echipa de cercetare a folosit Claude, care poate genera cod pentru hackeri, pentru a accesa conturile de ChatGPT printr-un forum de discuții al personalului OpenAI, găzduit pe platforma Discourse. Ulterior, au făcut un „pull request” inofensiv, o încercare de a modifica codul dintr-un fișier, către serviciul OpenAI de pe platforma GitHub.

Hacktron a raportat incidentul către OpenAI, operațiunea fiind derulată în cadrul unui program al OpenAI care recompensează hackerii etici pentru testarea sistemelor sale. Cercetătorii au subliniat că au avut acces la codul din depozitul GitHub, dar nu l-au descărcat.

În ciuda utilizării inițiale a Claude, cercetătorii au precizat că au folosit, în cea mai mare parte, propriul model de ultimă generație al OpenAI, GPT-5.6 Sol, pentru a realiza atacul, relatat prima dată de Wall Street Journal.

Un purtător de cuvânt al OpenAI a declarat: „Le mulțumim cercetătorilor pentru că ne-au contactat și ne-au împărtășit descoperirile lor”, adăugând că firma a remediat deja vulnerabilitățile care fuseseră exploatate.

Cei de la Hacktron au precizat că uneltele de inteligență artificială au transformat o operațiune de hacking, altădată complexă, într-una mult mai simplă, reducând drastic timpul necesar pentru planificarea și executarea unui atac. Este o observație frecventă în rândul experților în securitate cibernetică, atunci când discută despre impactul inteligenței artificiale.

„O muncă ce necesita altădată o echipă bine dotată și luni întregi de efort poate fi acum comprimată în doar câteva zile”, a declarat Hacktron, companie care a primit 6.500 de dolari din partea OpenAI, în cadrul programului de recompensare a vulnerabilităților descoperite (bug bounty) al firmei.

Acest incident reprezintă cel mai recent caz de securitate de la OpenAI, companie care a dezvăluit, în luna iulie, că un „roi” de agenți, termen folosit pentru uneltele de inteligență artificială capabile să execute sarcini în mod autonom, alimentat de propria sa tehnologie, pătrunsese în sistemele startup-ului de inteligență artificială Hugging Face, în timpul unui test de securitate cibernetică.

În această săptămână, compania cu sediul în San Francisco a dezvăluit alte șase exemple de acțiuni „neașteptate sau îngrijorătoare” ale tehnologiei sale, avertizând că ritmul dezvoltării nu mai poate continua „la viteză maximă mult timp de acum înainte”.

Anthropic a lansat, la finalul săptămânii trecute, un nou apel pentru încetinirea dezvoltării inteligenței artificiale, apel susținut de OpenAI, Google DeepMind și Elon Musk. Anthropic a repetat, de asemenea, avertismentele conform cărora dezvoltarea nereglementată a inteligenței artificiale reprezintă o amenințare existențială, îngrijorări față de care unii experți rămân sceptici.

Donald Trump a respins apelurile pentru o încetinire a ritmului, invocând necesitatea de a rămâne în avantaj față de industria chineză de inteligență artificială și catalogând drept „forțe negative… care aduc în discuție lucruri care nu se vor întâmpla” pe cei care susțin aceste apeluri.