EXCLUSIV | Când algoritmul decide cine trăiește și cine moare: ce spune Convenția Europeană a Drepturilor Omului

Un interviu realizat de Dr. Adrian Leonard Mociulschi

Când algoritmul decide cine trăiește și cine moare, cine răspunde? Este una dintre întrebările care însoțesc dezvoltarea armelor autonome bazate pe Inteligență Artificială militară și care preocupă astăzi guverne, organizații internaționale și experți în drept din întreaga lume.

În acest interviu exclusiv pentru STIRIPESURSE.RO, judecătorul Marius Peter analizează modul în care dreptul încearcă să țină pasul cu o tehnologie care promite eficiență militară, dar ridică întrebări despre responsabilitate, controlul uman și protecția dreptului la viață.

Adrian Leonard Mociulschi: Domnule Judecător, vă mulțumim că ați acceptat invitația de a reveni în dialog cu cititorii noștri pe o temă care stârnește deopotrivă interes, dezbatere și preocupare la nivel internațional.

În contextul dezvoltării accelerate a inteligenței artificiale militare și al apariției sistemelor autonome de armament, pentru început, o întrebare aflată astăzi pe buzele multora: ce se întâmplă atunci când decizia de a ucide nu mai este luată de un om, ci de un algoritm?

Marius Peter: Vă mulțumesc pentru invitație. Întrebarea este cu atât mai importantă cu cât evoluțiile tehnologice din ultimii ani au mutat această dezbatere din sfera anticipațiilor teoretice către cea a provocărilor juridice concrete.

Dezvoltarea accelerată a inteligenței artificiale transformă nu doar modul în care sunt purtate conflictele armate, ci și mecanismele prin care sunt luate deciziile privind utilizarea forței letale. Sistemele autonome de armament, capabile să identifice și să atace ținte fără intervenție umană directă, ridică o problemă care depășește considerabil sfera tehnologiei militare: cine controlează, în realitate, decizia de a suprima o viață omenească și cine răspunde pentru consecințele acesteia?

În două interviuri recente acordate pentru STIRIPESURSE.RO, reprezentanții Comitetului Internațional al Crucii Roșii (ICRC) și ai Biroului Națiunilor Unite pentru Afaceri de Dezarmare (UNODA) au exprimat o preocupare comună: indiferent de performanțele tehnologice ale sistemelor autonome, deciziile privind viața și moartea trebuie să rămână sub controlul și responsabilitatea oamenilor. Autonomia algoritmică nu poate substitui judecata umană, iar eficiența militară nu poate justifica diminuarea garanțiilor juridice destinate protejării vieții.

Dincolo de implicațiile etice ale acestei dezbateri, apare o întrebare juridică esențială: în ce măsură obligațiile statelor privind protecția dreptului la viață — consacrate de art. 2 din Convenția Europeană a Drepturilor Omului — pot fi aplicate utilizării unor sisteme de armament ale căror decizii operaționale sunt adoptate autonom, uneori prin procese algoritmice dificil de anticipat sau explicat?

Răspunsul presupune examinarea nu doar a condițiilor în care un stat poate utiliza asemenea tehnologii, ci și a obligațiilor sale de a reduce riscurile pentru viața umană și de a investiga efectiv incidentele soldate cu victime.

Moartea nu activează automat Convenția

Adrian Leonard Mociulschi: Domnule Judecător, mulți cititori ar presupune că, atunci când mor oameni în urma unei operațiuni militare, Convenția Europeană a Drepturilor Omului se aplică automat. Lucrurile stau într-adevăr așa?

Marius Peter: Întrebarea pare simplă, însă răspunsul juridic este mai complicat decât ar putea părea la prima vedere. Înainte de a stabili cine răspunde și ce garanții există atunci când o decizie algoritmică produce consecințe tragice, trebuie clarificată o problemă esențială: în ce situații se aplică, de fapt, Convenția Europeană a Drepturilor Omului?

Convenția Europeană a Drepturilor Omului nu se aplică automat oricărei operațiuni militare desfășurate de un stat contractant. Potrivit art. 1 CEDO, statele garantează drepturile convenționale persoanelor aflate sub jurisdicția lor, aceasta fiind, ca regulă, teritorială.

În consecință, utilizarea unei arme autonome de către forțele armate ale unui stat european nu atrage, prin ea însăși, aplicabilitatea Convenției asupra tuturor persoanelor afectate de operațiunea militară.

Există însă situații în care protecția oferită de art. 2 CEDO — care consacră dreptul la viață — poate opera și în afara teritoriului național. Dacă utilizarea sistemului autonom are loc pe teritoriul statului contractant, aplicarea Convenției ridică, în principiu, mai puține dificultăți. Problemele juridice apar atunci când operațiunile militare sunt desfășurate pe teritoriul unui alt stat.

În cazul operațiunilor extrateritoriale, jurisdicția poate rezulta din exercitarea unui control efectiv asupra teritoriului străin sau din autoritatea și controlul exercitate de agenții statului asupra persoanelor afectate, adică atunci când statul respectiv controlează efectiv zona în care acționează ori exercită în mod direct control și autoritate asupra persoanelor vizate de operațiune.

În anumite circumstanțe, inclusiv în cazul unor atacuri militare desfășurate în afara unui teritoriu controlat efectiv, natura și amploarea operațiunilor pot justifica reținerea jurisdicției, fără ca simpla producere a unor consecințe letale să fie suficientă. Cu alte cuvinte, simplul fapt că au existat victime nu este de ajuns. Pentru a stabili dacă se aplică Convenția, trebuie analizate și gradul de control exercitat de stat asupra operațiunii militare, precum și împrejurările concrete în care aceasta s-a desfășurat.

Atacuri în afara granițelor: când se aplică Convenția?

Adrian Leonard Mociulschi: Atunci când un stat desfășoară o incursiune militară pe teritoriul altui stat, care sunt criteriile după care Curtea Europeană a Drepturilor Omului stabilește dacă îi revin sau nu obligații în temeiul Convenției?

Marius Peter: În esență, Curtea analizează dacă statul exercită un grad suficient de control asupra teritoriului, asupra operațiunii militare ori asupra persoanelor afectate, pentru ca obligațiile prevăzute de Convenție să devină aplicabile.

În cauza Al-Skeini și alții împotriva Regatului Unit (2011), Curtea a examinat jurisdicția extrateritorială prin raportare la autoritatea exercitată de agenții statului, iar în hotărârea Ucraina și Țările de Jos împotriva Rusiei (2025), Marea Cameră a confirmat că desfășurarea unor ostilități active nu exclude, prin ea însăși, jurisdicția convențională, aceasta urmând să fie stabilită în funcție de circumstanțele concrete ale operațiunilor militare.

O situație distinctă privește obligația procedurală de investigare a deceselor. În cauza Hanan împotriva Germaniei (2021), referitoare la un atac aerian desfășurat în Afganistan, Curtea a recunoscut existența unei legături jurisdicționale care activa obligația de investigare prevăzută de art. 2, având în vedere circumstanțe speciale, inclusiv competența exclusivă a Germaniei asupra propriilor militari și obligațiile sale de investigare. Această soluție nu presupune însă că orice investigație privind un atac extrateritorial atrage automat aplicabilitatea Convenției sau că existența jurisdicției procedurale implică și jurisdicția necesară examinării obligațiilor de prevenire.

Prin urmare, analiza utilizării armelor autonome din perspectiva dreptului la viață trebuie să pornească de la verificarea jurisdicției statului, fără a confunda caracterul fundamental al acestui drept cu aplicabilitatea universală a Convenției. Odată stabilită incidența art. 2 CEDO, se poate examina în ce măsură utilizarea sistemelor autonome respectă obligațiile statului de a proteja viața și de a preveni folosirea ilegală a forței letale.

Protecția dreptului la viață: obligațiile statului înainte ca algoritmul să declanșeze atacul

Adrian Leonard Mociulschi: Dacă acceptăm că un algoritm poate greși la fel cum poate greși și un om, atunci ce obligații are statul înainte de a autoriza utilizarea unui sistem autonom de armament? Este suficientă simpla existență a unui operator uman în lanțul decizional?

Marius Peter: Articolul 2 din Convenția Europeană a Drepturilor Omului nu se limitează la interzicerea privării arbitrare de viață. Din jurisprudența Curții Europene rezultă că statele au și obligația pozitivă de a adopta măsuri adecvate pentru protejarea vieții persoanelor aflate sub jurisdicția lor. În materia utilizării forței letale, această obligație privește nu doar conduita celor care execută efectiv o operațiune, ci și modul în care aceasta este pregătită, organizată și controlată.

Un reper important îl constituie hotărârea McCann și alții împotriva Regatului Unit (1995), în care Curtea a subliniat necesitatea examinării, planificării și controlului unei operațiuni în cadrul căreia agenții statului au recurs la forță letală. Principiul prezintă o relevanță deosebită în cazul armelor autonome: dacă statul are obligația de a organiza operațiunile desfășurate de agenții săi astfel încât riscurile pentru viață să fie cât mai reduse, utilizarea unui sistem informatic capabil să selecteze și să atace independent ținte nu poate fi exceptată, prin simplul caracter tehnologic al mecanismului decizional, de la asemenea exigențe.

Să presupunem că un sistem autonom este autorizat să identifice și să neutralizeze vehicule militare într-o anumită zonă. În timpul operațiunii, acesta clasifică eronat un vehicul civil drept obiectiv militar și declanșează atacul, provocând moartea ocupanților. Din perspectiva art. 2 CEDO, problema nu se reduce la stabilirea erorii algoritmice. Devine relevant dacă autoritățile cunoșteau limitele sistemului, dacă acestea fuseseră identificate în cursul testelor, dacă mediul operațional corespundea condițiilor pentru care sistemul fusese validat și dacă existau măsuri rezonabile pentru prevenirea unei asemenea confuzii.

În această analiză, trebuie evitată confuzia dintre autonomia tehnologică și imprevizibilitatea absolută. Un sistem autonom poate funcționa fără intervenție umană în momentul atacului, dar în limite operaționale riguros stabilite și verificate. Invers, un sistem care permite intervenția operatorului poate prezenta riscuri semnificative dacă acesta nu dispune de informațiile sau timpul necesar pentru a împiedica o decizie eronată. Prin urmare, simpla existență a unui mecanism de supraveghere umană nu constituie, în sine, o garanție suficientă.

Responsabilitatea începe înainte de atac

Adrian Leonard Mociulschi: Dezbaterea publică se concentrează adesea pe întrebarea dacă un algoritm poate greși.

Aceasta este într-adevăr problema principală sau atenția ar trebui îndreptată spre deciziile luate de autorități înainte ca sistemul să fie autorizat și folosit?

Marius Peter: Din perspectiva CEDO, problema nu este doar dacă un algoritm poate greși, ci și dacă autoritățile au identificat, evaluat și limitat în mod rezonabil riscurile înainte de a autoriza utilizarea acestuia. Aplicarea principiilor dezvoltate de Curte conduce astfel la o întrebare practică: ce verificări trebuie efectuate înainte ca autoritățile să autorizeze utilizarea unui asemenea sistem?

Considerăm că evaluarea preventivă ar trebui să privească cel puțin fiabilitatea identificării țintelor, comportamentul sistemului în condiții neprevăzute, limitele geografice și temporale ale utilizării, precum și posibilitatea reală de suspendare a atacului. Aceste cerințe nu reprezintă obligații tehnice formulate expres de Curtea Europeană pentru armele autonome, ci o posibilă concretizare, adaptată tehnologiei, a obligației convenționale de prevenire a pierderilor de vieți omenești.

Analiza necesită totuși o distincție importantă. În cazul operațiunilor desfășurate în contextul unui conflict armat, evaluarea legalității utilizării forței letale nu poate ignora normele dreptului internațional umanitar, în special regulile privind distincția dintre obiectivele militare și persoanele sau bunurile civile, proporționalitatea și precauțiile în atac. Exigențele art. 2 CEDO trebuie interpretate ținând seama de acest cadru juridic, fără a transpune mecanic standardele aplicabile operațiunilor de poliție asupra conducerii ostilităților. În consecință, problema juridică fundamentală nu este dacă un algoritm poate greși — posibilitate inerentă oricărui sistem tehnic complex —, ci dacă statul a autorizat utilizarea forței letale în condiții în care riscurile relevante puteau fi cunoscute, evaluate și limitate prin măsuri rezonabile.

Cu alte cuvinte, autonomia sistemului nu înlătură responsabilitatea autorităților pentru decizia de a-l utiliza, iar protecția dreptului la viață trebuie examinată încă din etapa planificării operațiunii, nu doar după producerea consecințelor letale.

Adrian Leonard Mociulschi: Domnule Judecător, vă mulțumim foarte mult pentru analiza oferită cititorilor STIRIPESURSE.RO asupra implicațiilor juridice pe care utilizarea armelor autonome și a Inteligenței Artificiale le ridică în raport cu protecția dreptului la viață. Am văzut că, din perspectiva Convenției Europene a Drepturilor Omului, miza nu privește doar performanța tehnologică a unor astfel de sisteme, ci și responsabilitatea statului de a evalua, controla și limita riscurile înainte de autorizarea utilizării lor.

În partea a II-a a dialogului nostru exclusiv pentru cititorii STIRIPESURSE.RO, vom aborda o întrebare la fel de importantă: ce se întâmplă atunci când un sistem autonom produce totuși consecințe tragice? Poate fi investigată efectiv o decizie letală adoptată de un algoritm și ce provocări ridică „cutia neagră” a Inteligenței Artificiale pentru stabilirea responsabilității juridice? Rămâneți alături de noi pentru continuarea dialogului.

Un interviu realizat de Dr. Adrian Leonard Mociulschi