Un cercetător de la Anthropic consideră că există o probabilitate de peste 10% ca IA „să ucidă toți oamenii” în următorul deceniu

Un cercetător de vârf în domeniul siguranței de la Anthropic a avertizat că IA avansează atât de rapid, încât, personal, consideră că există o probabilitate mai mare de 10% ca aceasta „să ucidă toți oamenii” în următorul deceniu, potrivit BBC.

Evan Hubinger a declarat într-o postare pe X că riscul prezentat de modelele existente în prezent este „scăzut”, dar că este „îngrijorat” că tehnologia ar putea ajunge în curând să se perfecționeze singură până la punctul în care ar reprezenta un risc existențial pentru umanitate.

Această declarație vine după ce Financial Times a relatat că Anthropic nu a furnizat cel mai recent model al său către Institutul pentru Siguranța IA din Marea Britanie (AISI), unul dintre organismele de referință la nivel mondial în evaluarea riscurilor legate de IA.

Niciun plan pentru superinteligență

În postarea sa, care a fost vizualizată de peste 10 milioane de ori, Hubinger a afirmat: „credem cu adevărat și cu toată convingerea” că IA reprezintă un risc de extincție a speciei umane.

„Cred că Anthropic face tot ce poate, dar încă nu avem un plan pentru a rezolva problema alinierii superinteligenței și nu suntem pe drumul cel bun în acest sens”, a adăugat el.

Personalități de seamă din domeniul IA trag de ani buni semnale de alarmă cu privire la amenințarea la adresa siguranței pe care o reprezintă această tehnologie, iar conducătorii OpenAI, Google DeepMind și Anthropic au afirmat acest lucru încă din 2023.

Însă aceste avertismente au devenit mult mai grave în ultimele săptămâni, pe măsură ce apar dovezi că firmele s-ar putea confrunta cu dificultăți în controlarea IA.

Pe parcursul verii, au avut loc o serie de incidente în care agenții de IA – sisteme de IA autorizate să funcționeze autonom – au lansat atacuri cibernetice.

OpenAI, Anthropic și Meta au dezvăluit toate atacuri cibernetice efectuate de instrumentele lor de IA.

Iar în septembrie, Jakub Pachocki, cercetătorul-șef al OpenAI, a făcut apel la „prudență extremă” în ceea ce privește progresul IA, avertizând că ar putea fi necesară o intervenție mai mare pentru a se asigura că „oamenii rămân stăpânii viitorului”.

Personalități importante din acest domeniu au cerut în ultimele luni încetinirea dezvoltării IA, printre aceștia numărându-se și șefii Anthropic, Dario Amodei și Jared Kaplan.

Într-o scrisoare deschisă semnată de 1.300 de angajați ai firmelor din domeniul IA, aceștia au solicitat guvernului SUA să „sprijine un efort internațional de dezvoltare a instrumentelor tehnice și de guvernanță necesare pentru a modera în mod deliberat ritmul dezvoltării IA automatizate”.