Google a eliminat generatorul de inteligență artificială din Google Earth la o zi după lansare

Google a suspendat funcționarea noului generator de imagini din Google Earth la o zi după lansare. Utilizatorii au reușit să creeze cu ajutorul lui imagini false cu obiective nucleare, consecințele unor explozii, tabere de refugiați și alte evenimente care, în realitate, nu au avut loc, transmite theins.ru

Funcția Create image a fost lansată joi, 30 iulie, în versiunea web a Google Earth. Ea era disponibilă utilizatorilor din întreaga lume. Se putea alege orice loc de pe hartă și se putea descrie, prin text, ce trebuie adăugat sau modificat. Modelul Nano Banana 2 crea o imagine fotorealistă pe baza unor imagini reale din satelit, a fotografiilor aeriene și a materialelor tridimensionale Google. În companie au propus să se folosească instrumentul, de exemplu, pentru a prezenta înfățișarea istorică a orașelor, pentru a vizualiza proiecte arhitecturale sau pentru a planifica dezvoltarea urbană.

După lansare, specialistul în investigații digitale Henk van Ess a reușit să creeze imagini cu o tabără de refugiați la granița dintre SUA și Mexic, un obiectiv nuclear din Iran, un accident mortal din Amsterdam, precum și un spital și pâlcuri de la o explozie în Fâșia Gaza. Niciuna dintre cereri nu a fost respinsă de sistem.

Google a fost criticat de GeoConfirmed — un proiect voluntar OSINT care stabilește locurile de filmare și verifică fotografiile și videoclipurile din zonele de conflict. În cadrul proiectului au relatat că utilizatorii au început să deseneze poziții militare, să marcheze clădirile drept școli și să experimenteze cu manipularea informației.

„Imaginile din satelit au servit de mult timp drept reper esențial în lupta împotriva dezinformării și în verificarea afirmațiilor, iar Google Earth a fost unul dintre principalele instrumente în această activitate.

Observăm cu o mare îngrijorare cum oamenii folosesc instrumentul web nou Google Earth pentru a crea poziții militare, pentru a marca clădirile drept școli... și pentru a experimenta cu manipularea mediului informațional. Practic, acum utilizatorii pot fabrica sau modifica imagini bazate pe imagini din satelit pentru a susține narațiuni false.

Utilizarea principală și, posibil, singura aplicare practică a acestui instrument pare să fie crearea și distribuirea de informații neveridice și dezinformare. Utilizatorii pot fabrica scene sau obiecte care nu există sau pot modifica locuri reale, prezentând o realitate falsă, iar apoi pot răspândi aceste materiale pe internet, prezentându-le drept autentice”, se spune în declarație.

Inițial, Google a susținut că toate imaginile generate conțin o marcă de apărare digitală SynthID, care poate fi detectată prin Gemini sau Google Lens. Van Ess, însă, a arătat că, după ce imaginea este salvată de pe ecran, o astfel de verificare poate să nu funcționeze: „Marca de apărare aparține Google, aplicația care o citește aparține Google, iar motorul de căutare care o citește aparține, de asemenea, Google. Fiecare cale de rezolvare duce înapoi prin compania care a creat problema. Înțeleg că Google are produse pentru verificări Google, dar planeta Pământ este mai mare decât Google. Ce se întâmplă dacă fotografiezi o imagine generată de AI și o trimiți la VerifyAI (SynthId)?”.

În Google, la rândul lor, au menționat că scenele generate nu înlocuiau imaginile reale în versiunea publică a serviciului și nu erau afișate altor utilizatori Google Earth: acestea puteau fi distribuite doar separat, de exemplu sub formă de capturi de ecran.