Google elimină noua funcție AI din Google Earth din cauza falsurilor

Google a anunțat vineri că elimină de urgență o funcție nouă din Google Earth care le permitea utilizatorilor să genereze imagini din satelit folosind inteligența artificială. Decizia a fost luată după ce noul instrument a stârnit un val masiv de indignare și temeri legate de dezinformare.

Reprezentanții companiei au recunoscut că noul buton a fost folosit în mod necorespunzător. Deși funcția trebuia să ajute profesioniștii din domeniul geospațial, mulți utilizatori au început să distribuie capturi de ecran cu imagini false care încălcau direct regulile platformei.

Măsura drastică luată de gigantul tech și motivele din spatele deciziei

Prin urmare, Google a decis să elimine această funcție din Google Earth „în timp ce ia măsuri de siguranță mai robuste”, a anunțat compania. Instrumentul „creează imagine”, implementat cu o zi înainte, permitea utilizatorilor să mărească o locație și să creeze imagini artificiale în câteva secunde din datele satelitare, aeriene și cartografiere 3D ale Google Earth.

Gigantul american a prezentat această funcție ca o modalitate de a crea proiecte imobiliare și multe altele.

Riscurile din spatele imaginilor geografice false și extrem de realiste

Cercetătorii în dezinformare au avertizat că acest lucru ar putea permite actorilor rău intenționați să deturneze Google Earth – o resursă crucială de verificare a faptelor – pentru a crea conținut geografic fals, extrem de realist. „Google a petrecut 20 de ani construind reperul în care lumea are încredere”, a scris expertul în investigații digitale Henk van Ess pe platforma Substack. „Acum adaugă un buton care inventează lucruri.”

Ca răspuns la critici, Google a declarat inițial pe X că imaginile create cu această funcție conțineau markeri digitali invizibili pe care utilizatorii îi puteau detecta folosind chatbot-ul Gemini de la Google. „Luăm dezinformarea în serios”, a mai scris compania.

Teste eșuate: baze militare și situri nucleare create în câteva secunde

Google a adăugat că previne „crearea de imagini despre subiecte periculoase” și a făcut referire la o politică de utilizare a inteligenței artificiale care interzice „dezinformarea, prezentarea înșelătoare a faptelor sau activitățile menite să inducă în eroare”. Cu toate acestea, testele efectuate vineri de AFP au generat cu succes imagini din satelit false potențial dăunătoare, de la un sit nuclear din Iran la un crater de bombă din Rusia și o tabără de antrenament a Statului Islamic din Siria.

Instrumentul „creează o imagine” nu a mai apărut pe Google Earth după ce Google a anunțat suspendarea acestuia. Falsuri similare au avut deja consecințe foarte reale. În 2023, o imagine generată de inteligența artificială care arăta o explozie la Pentagon a zguduit pentru scurt timp piețele.

La începutul războiului Iran-Irak, o imagine din satelit modificată de inteligența artificială care arăta o bază militară americană distrusă a fost, de asemenea, vizualizată de milioane de ori pe rețelele de socializare.

Reacția experților: „Această încredere putea fi distrusă peste noapte”

Mai multe grupuri au solicitat Google să elimine această funcție, inclusiv Centrul pentru Reziliență Informațională, un grup de investigație open-source cu sediul la Londra. Ross Burley, directorul său executiv, a numit-o „iresponsabilă” . „A fost nevoie de decenii pentru a construi încredere în imaginile din satelit, iar această încredere putea fi distrusă iremediabil peste noapte”, a spus el.

GeoConfirmed, un proiect de colaborare care verifică imagini ale conflictelor din întreaga lume, a cerut, de asemenea, Google să își schimbe decizia. „Deja vedem oameni care exploatează noul instrument Google Earth pentru a crea poziții militare false, a prezenta clădiri drept școli și a încerca să manipuleze peisajul media”, a scris grupul pe X, înainte ca Google să își anunțe retragerea.