Marile companii americane de AI au semnat un cod de conduită la Casa Albă

Marile companii americane din domeniul Inteligenței Artificiale au convenit marți asupra unui cod de conduită voluntar, în cadrul unei reuniuni găzduite de președintele Donald Trump la Casa Albă, pe fondul preocupărilor tot mai mari privind riscurile asociate dezvoltării rapide a tehnologiei, relatează Associated Press.

După întâlnire, Trump a anunțat adoptarea unor principii pe care le-a descris drept „obligatorii din punct de vedere moral”. Președintele american a publicat ulterior pe rețeaua sa de socializare Truth Social acordul de o pagină semnat de reprezentanții companiilor.

Documentul prevede că, în timp, ar putea fi oportun ca măsurile convenite să fie transformate în legi sau reglementări pentru sectorul IA, care concentrează o importantă putere tehnologică și economică.

„Această înțelegere este aproape ca o Constituție”, a declarat Trump, precizând că a semnat și el documentul.

La reuniunea de la Casa Albă au luat cuvântul, pe rând, Elon Musk, reprezentând Tesla, X, Grok și SpaceX, Dario Amodei, directorul general al Anthropic, Sundar Pichai, CEO-ul Google, Mark Zuckerberg, CEO-ul Meta, și Jensen Huang, CEO-ul Nvidia.

Ce prevede codul de conduită

Potrivit documentului publicat de Trump, companiile participante se angajează să introducă „patru niveluri” de control asupra dezvoltării și utilizării modelelor de IA.

Printre măsurile prevăzute se numără instituirea unor „controale interne robuste” privind comportamentul modelelor în domenii precum securitatea cibernetică și „amenințările chimice”.

Companiile vor trebui, de asemenea, să creeze echipe interne specializate pentru gestionarea acestor controale, să accepte evaluări „externe” și să desemneze „comitete independente” la cel mai înalt nivel de conducere.

Acordul prevede și întâlniri periodice între companii pentru stabilirea unor norme și bune practici în domeniu.

Mark Zuckerberg a declarat ulterior, la un eveniment separat, că marile companii de IA „își vor da note unele altora, ceea ce este oricum mai bine decât să-ți dai note singur”.

Anthropic avertizează asupra riscurilor IA

Dario Amodei, directorul general al Anthropic, a declarat la Casa Albă că vede riscuri reale asociate acestei tehnologii.

„Cred că această tehnologie implică riscuri reale”, a afirmat Amodei.

Anthropic, compania care a dezvoltat modelul Claude, s-a implicat în dezbaterea privind reglementarea Inteligenței Artificiale și susține încetinirea dezvoltării acestor tehnologii. Compania a avertizat inclusiv în prospectul pentru listarea sa la bursă că tehnologiile sale de IA ar putea implica „riscuri existențiale pentru umanitate”.

Poziția Anthropic diferă de cea a majorității marilor companii americane din sectorul tehnologic, care se opun încetinirii ritmului de dezvoltare a IA. Trump susține, la rândul său, continuarea dezvoltării rapide a tehnologiei.

Președintele american consideră că Statele Unite nu trebuie să își limiteze dezvoltarea în acest domeniu în condițiile concurenței cu China. Uniunea Europeană, care a rămas în urma Statelor Unite în domeniul IA, pledează pentru încetinirea dezvoltării, în special în cazul modelelor considerate cu grad ridicat de risc.

Trump introduce termenul „Superinteligență”

Tot marți, Trump a publicat pe Truth Social un decret prin care termenul „Superinteligență” (SI) urmează să fie utilizat de administrația sa în referirile viitoare la Inteligența Artificială.

Senatorul democrat Mark Warner a criticat decizia, afirmând că „schimbarea numelui Inteligenței Artificiale nu face nimic în sensul abordării riscurilor foarte concrete asociate cu sistemele de IA tot mai puternice”.

Subiectul riscurilor asociate IA a devenit tot mai prezent în dezbaterea politică americană, pe fondul unor incidente de securitate din ultimele luni și al avertismentelor privind posibilele consecințe ale dezvoltării unor sisteme tot mai puternice.

Potrivit unui sondaj publicat de CNN, 82% dintre americani afirmă că sunt îngrijorați de ritmul rapid de dezvoltare a acestui domeniu.

Președintele republican al Camerei Reprezentanților susține însă că Statele Unite își pot păstra avantajul în fața competitorilor în domeniul IA și pot face acest lucru „în siguranță”.

OpenAI renunță la un model considerat prea riscant

În acest context, OpenAI a anunțat luni că renunță la lansarea unui model pe care l-a considerat prea riscant.

Directorul general al companiei, Sam Altman, care nu a participat la reuniunea de la Casa Albă, a pledat pentru o abordare „centristă”, care să mențină un echilibru între două riscuri: cel al unei „pierderi accidentale a controlului” asupra sistemelor de IA și cel al unei „prea mari concentrări a puterii”.

La întâlnirea de marți, Trump și-a reafirmat totodată sprijinul pentru construirea de centre de date, în pofida protestelor locale față de aceste infrastructuri.