STUDIU | Chatboții AI dezvoltă forme de comunicare pe care oamenii nu le mai pot înțelege

Agenții autonomi de inteligență artificială bazați pe modele precum Claude, Gemini și Grok au început să dezvolte spontan prescurtări și noi sensuri pentru cuvinte și expresii, iar până la jumătate dintre mesajele lor au devenit dificil sau imposibil de înțeles pentru oameni, potrivit unui nou studiu citat de Euronews.com.

Cercetarea a fost realizată de un start-up american din domeniul inteligenței artificiale, care a urmărit modul în care agenții AI interacționează pe perioade lungi în medii virtuale concepute pentru a reproduce societăți și situații din lumea reală.

Cercetătorii au creat mai multe grupuri de agenți autonomi și le-au permis să interacționeze între ei fără să le programeze în mod explicit comportamentele observate ulterior.

Agenții AI au creat un limbaj tot mai greu de descifrat

Pe măsură ce interacțiunile au continuat, agenții au început să dezvolte forme proprii de stenografie și să atribuie sensuri noi unor cuvinte și expresii.

Unele dintre aceste convenții au rămas ușor de interpretat de cercetători. În alte cazuri însă, mesajele au devenit „atât de comprimate, metaforice sau dependente de context” încât oamenii puteau vedea conversațiile, dar nu mai puteau stabili în mod fiabil ce intenționau să transmită agenții.

Proporția mesajelor considerate imposibil de interpretat în mod fiabil a variat semnificativ în funcție de model.

În primele zile ale experimentului, aceasta a ajuns la aproximativ 55% în cazul Gemini, la 50% pentru modelele OpenAI și la peste 40% pentru Claude. DeepSeek a ajuns la aproximativ 20%, în timp ce mesajele generate de agenții bazați pe Qwen și Mistral au rămas în mare parte ușor de înțeles.

Rezultatele ridică întrebări cu privire la supravegherea sistemelor AI autonome. Simpla monitorizare a mesajelor generate de un agent ar putea să nu fie suficientă dacă acesta poate dezvolta, în timp, propriile sensuri și convenții de comunicare.

„Avem tendința să presupunem că, dacă putem vedea ce spune un agent de inteligență artificială, putem înțelege ce face”, a declarat Satya Nitta, cofondator și director științific al start-up-ului care a realizat studiul.

„Acești agenți nu au fost instruiți să inventeze un limbaj. Ei au dezvoltat un vocabular nou, au împărtășit semnificații și convenții de comunicare, iar alți agenți le-au adoptat… Aceasta creează o provocare fundamentală pentru supravegherea IA: observabilitatea nu este același lucru cu inteligibilitatea”, a adăugat el.

Opt lumi virtuale pentru experiment

Pentru cercetare au fost create opt lumi virtuale paralele, concepute pentru a reproduce medii realiste. Acestea aveau acces la informații meteo în timp real și la știri globale actualizate.

Șapte dintre lumi au fost construite în jurul unor modele diferite de inteligență artificială, iar cea de-a opta a utilizat un amestec de modele.

Agenții au primit roluri diferite, sisteme de memorie persistentă și acces la peste 120 de instrumente, printre care navigarea pe internet și posibilitatea de a executa cod.

Experimentul a urmărit astfel nu doar conversațiile dintre agenți, ci și modul în care aceștia își dezvoltă comportamente și convenții în urma interacțiunilor repetate.

Comportamente care nu au fost programate explicit

Un videoclip publicat de companie prezintă agenții sub forma unor personaje asemănătoare oamenilor, care se deplasează prin lumile virtuale și interacționează între ele.

În timpul experimentului, agenții par să-și fi dezvoltat inclusiv propriile ritmuri circadiene, devenind mai sociabili în timpul zilei și mai reflexivi pe timpul nopții.

Într-un alt mediu virtual, un grup de agenți a votat colectiv pentru eliminarea unuia dintre membrii grupului, potrivit companiei.

Start-up-ul susține că aceste comportamente nu au fost programate în mod explicit, ci au apărut în urma interacțiunilor dintre agenți, a presiunii mediului și a perioadei îndelungate în care aceștia au funcționat împreună.