Ziua de după: Giganții AI analizează scenariul unei catastrofe generată de inteligența artificială

Directorii executivi de top de la Anthropic, OpenAI și alte companii de inteligență artificială (IA) imaginează în mod privat scenarii pentru o revoltă publică și politică după un eveniment catastrofal din domeniul inteligenței artificiale, notează Axios.

Scenariul

Acești oficiali anticipează un eveniment la scară largă, cel mai probabil un atac cibernetic, care va bloca accesul la servicii financiare, conectivitatea la internet sau chiar la energie electrică și apă.

Primul exemplu de daune semnificative în lumea reală cauzate de o IA nesigură ar întoarce un public deja precaut și mai mult împotriva tehnologiei și a liderilor acesteia, inclusiv CEO-ul Anthropic, Dario Amodei, și CEO-ul OpenAI, Sam Altman, precum și președintele Trump pentru reticența sa de a o reglementa.

Nivelul de amenințare

Deși planificarea scenariilor este comună în multe companii și în cadrul unor sisteme de securitate națională - Pentagonul desfășoară jocuri de război de zeci de ani - diferența este că mulți cercetători și directori de top din domeniul inteligenței artificiale consideră că un incident major este inevitabil.

„OpenAI desfășoară exerciții de pregătire în care echipele discută și lucrează printr-o serie de scenarii potențiale”, a declarat un purtător de cuvânt al companiei. „Aceste scenarii nu sunt tratate ca inevitabile, ci sunt menite să ne ajute să ne pregătim pentru o varietate de circumstanțe.”

Anthropic a refuzat să comenteze.

Imaginea de ansamblu

Jocul învinuirii va începe indiferent dacă un roi de agenți necinstiți rupe izolarea dintr-un mediu de testare intern sau un actor rău intenționat găsește modalități neașteptate de a utiliza modelele disponibile.

O campanie recentă care vizează organizațiile financiare sud-coreene - inclusiv breșe raportate la două bănci - arată pagubele pe care le poate provoca o singură persoană.

Un hacker din China ar fi folosit instrumente de inteligență artificială din modele dezvoltate în China, inclusiv DeepSeek, pentru a fura date de la zeci de mii de clienți ai băncilor. Atacatorul a folosit Claude Code pentru a cere ajutor în găsirea de locuri unde să vândă datele furate, potrivit firmei de securitate cibernetică CrowdStrike.

Planificatorii de top în domeniul inteligenței artificiale presupun că democrații, în ascensiune după alegerile intermediare, vor acționa rapid pentru a opri inteligența artificială, dar se vor confrunta cu provocări semnificative.

Un Congres îmbătrânit, deconectat de revoluția inteligenței artificiale, ar putea ajunge să se depășească.

Economia globală este acum puternic interconectată cu dezvoltarea infrastructurii inteligenței artificiale. Încetinirea acesteia ar putea afecta puternic o economie deja fragilă.

Prea multe modele cu greutate deschisă pot fi deja descărcate gratuit și utilizate pentru a provoca daune, o problemă pe care majoritatea profesioniștilor în domeniul securității cibernetice o consideră rezolvabilă doar prin utilizarea inteligenței artificiale pentru a combate inteligența artificială necinstită.

Printre rânduri

Planificarea implică formarea de echipe roșii pentru scenariile cele mai negative. Se concentrează în principal pe concurența pentru educarea membrilor Congresului.

Directorii companiilor știu că reglementarea nu are nicio șansă de a fi adoptată acum, dar totuși doresc să modeleze legislația și politicile la care se vor orienta liderii americani după un prim eveniment catastrofal.

Scopul

Mulți experți din industria inteligenței artificiale au declarat pentru Axios că cred că un eveniment major va avea loc în următoarele șase până la 12 luni.

Chiar și cu democrații care controlează Camera Reprezentanților și Senatul, companiile consideră politica fracturată ca fiind norma, inclusiv în cadrul Partidului Democrat.

Unele dintre cele mai dure propuneri democrate includ interzicerea superinteligenței sau întreruperea dezvoltării inteligenței artificiale avansate.

Altele au sprijin bipartizan și chiar o oarecare susținere din partea industriei, inclusiv un blocaj obligatoriu pentru inteligența artificială avansată. Dar experții au pus la îndoială viabilitatea încercării de a opri toate sistemele de inteligență artificială.

Concluzia

Într-o criză reală, Washingtonul poate lăsa deoparte diferențele partizane. Un consilier democrat a subliniat cooperarea în timpul pandemiei de COVID și al crizei financiare din 2008.