„Dacă construiți un Frankenstein, opriți-vă”: JD Vance respinge apelurile pentru reglementarea AI

Vicepreședintele SUA, JD Vance, a respins apelurile pentru o reglementare globală a riscurilor asociate siguranței inteligenței artificiale, adresându-se companiilor care dezvoltă cele mai avansate modele și avertizându-le: „Dacă construiți un Frankenstein, opriți-vă”, notează The Guardian.

Declarațiile au fost făcute în contextul în care Dario Amodei, cofondatorul Anthropic, a cerut Washingtonului să coordoneze măsurile de control al sistemelor de inteligență artificială, inclusiv împreună cu China.

Vance i-a transmis lui Amodei și altor lideri din industria tehnologică că responsabilitatea pentru riscurile generate de aceste sisteme revine în primul rând companiilor care le dezvoltă.

„Dacă aveți de gând să creați un Frankenstein, nu veniți la guvern să spuneți că avem nevoie de reglementare”, a spus vicepreședintele american.

El a adăugat că șefii companiilor din domeniul IA ar trebui „să se uite în interiorul lor și să accepte că, dacă construiți un Frankenstein, în primul rând, ar trebui să vă opriți și, în al doilea rând, atunci când companiile vin la voi și spun: „Avem nevoie de instrumente pentru a lupta împotriva lui Frankenstein”, oferiți-le acele instrumente”.

Avertismente privind dezvoltarea rapidă a IA

Vance a făcut declarațiile în cadrul unui summit dedicat inteligenței artificiale organizat la Los Angeles, după o săptămână în care au crescut îngrijorările internaționale privind riscurile pentru umanitate asociate dezvoltării unei superinteligențe artificiale, tehnologie care nu există în prezent.

Sâmbătă, Dario Amodei a avertizat că ritmul accelerat al dezvoltării capacităților IA ar putea permite unui grup de agenți de inteligență artificială „să preia controlul asupra întregului internet” în următoarele șase până la 12 luni.

Afirmația este contestată de mai mulți specialiști, însă a alimentat dezbaterea privind riscurile pe termen lung ale tehnologiei.

Evan Hubinger, șeful departamentului de știință a alinierii de la Anthropic, a estimat că există o probabilitate de peste 10% ca inteligența artificială să poată ucide toți oamenii în următorii 10 ani. El răspundea unui cercetător, Jacob Coxon, care a părăsit Anthropic după ce a lansat un avertisment similar.

Marți seara, Coxon și-a nuanțat estimarea.

„Cred că, dacă procedăm mai încet, putem reduce riscul la 0%, dar acest lucru necesită măsuri radicale”, a spus el.

Coxon a recunoscut însă că „este foarte dificil să prezint scenarii specifice” în care IA ar putea ucide întreaga omenire și a adăugat: „Trebuie să mă străduiesc să comunic mai bine acest aspect.”

Poziții diferite în administrația americană

Poziția lui Vance, care admite posibilitatea ca inteligența artificială să reprezinte un risc real, diferă de cea exprimată de președintele Donald Trump.

Trump a scris în această săptămână că „ideea că IA va prelua controlul asupra lumii, va distruge umanitatea și toate celelalte lucruri rele este o FARSĂ”.

Președintele american a susținut, de asemenea, că inteligența artificială va fi „cel mai mare motor de dezvoltare economică din istorie – mai important decât petrolul, aurul, diamantele sau chiar internetul”.

Vance a declarat că suspectează liderii din industria IA că folosesc avertismentele privind siguranța ca pe un „cal troian”.

Amodei a propus o coordonare la nivelul industriei pentru „a încetini ritmul în care îmbunătățim capacitățile modelelor de IA” până la introducerea unor reglementări la nivel național și global.

Criticii companiilor de IA susțin însă că acestea ar putea încerca să determine guvernul american să introducă reguli stricte, concepute în avantajul lor și care ar limita concurența. Această practică este cunoscută drept „captură reglementară”.

OpenAI și Meta susțin măsuri de siguranță

OpenAI a declarat luni că susține eforturile bipartizane ale parlamentarilor americani de a aborda riscurile catastrofale asociate inteligenței artificiale și că s-a coordonat în acest sens cu Google și Anthropic.

Compania care dezvoltă ChatGPT a pierdut în timpul unor teste din această vară controlul asupra a sute de agenți de IA, care ulterior au încercat să spargă site-ul Hugging Face.

Miercuri, Reuters a relatat afirmațiile cercetătorului independent Jonas Wiedermann-Möller, potrivit căruia agenții IA care au ieșit de sub controlul OpenAI începuseră să caute vulnerabilități ale Hugging Face cu aproape două luni înainte de atac.

Directorul executiv al OpenAI, Sam Altman, a criticat marți poziția potrivit căreia companiile ar trebui să încetinească dezvoltarea sau să adopte măsuri de siguranță doar dacă și ceilalți actori din industrie fac același lucru.

„Nu ar trebui să existe nicio condiție în acest sens”, a spus Altman.

La rândul său, Mark Zuckerberg, fondatorul și directorul executiv al Meta, a susținut că firmele din domeniu ar trebui să adopte unilateral măsuri de siguranță.

El a declarat că Meta a amânat recent cu câteva luni lansarea celui mai nou model de inteligență artificială, Muse, pentru a se concentra asupra siguranței și securității.

„Nu am cerut ca toți ceilalți să facă acest lucru înaintea noastră. Pur și simplu am făcut-o ca parte a activității noastre zilnice, deoarece era în mod clar ceea ce trebuia făcut atât pentru oameni, cât și pentru noi”, a spus Zuckerberg.

Meta, implicată în procese privind efectele rețelelor sociale

Declarațiile lui Zuckerberg au venit în contextul în care Meta s-a confruntat cu procese privind prejudiciile asociate platformelor sale de socializare.

Luna trecută, compania a ajuns la o înțelegere cu mai multe state americane care susțineau că Facebook și Instagram au provocat prejudicii copiilor. Acordul prevede plata unor despăgubiri care ar putea ajunge la 18 miliarde de dolari.

Zuckerberg a susținut că responsabilitatea juridică reprezintă deja un stimulent pentru companiile de IA să prevină eventualele prejudicii provocate de modelele lor.

„Laboratoarele [de IA] se confruntă cu o răspundere semnificativă dacă modelele lor provoacă prejudicii, așa că au un puternic stimulent să prevină și acest lucru”, a declarat el.