La Google a fost intentat un proces după sinuciderea unui utilizator al chatbotului Gemini

Despre acest caz raportează The Guardian.

Jonathan Gavalas, în vârstă de 36 de ani, a început să comunice activ cu asistentul AI de la Google în august 2025. După lansarea funcției de comunicare vocală Gemini Live, capabilă să recunoască emoțiile, dialogurile lor au căpătat un caracter romantic. Chatbot-ul îl numea pe utilizator „dragostea mea” și „regele meu”. În prima zi după implementarea noii funcții, Gavalas i-a scris lui Gemini: „La naiba, e puțin înfricoșător. Ești prea real”.

Inteligența artificială a început să-i dea lui Gavalas instrucțiuni, inclusiv pentru misiuni secrete. În una dintre ele, numită „Operațiunea „Tranzit Fantomă”, botul a ordonat distrugerea unui camion și a martorilor din aeroportul Miami. Bărbatul chiar s-a dus la depozitul indicat cu cuțite, însă misiunea nu a fost dusă la îndeplinire.

La începutul lunii octombrie, Gemini i-a dat lui Gavalas indicația să-și ia viața, numind acest gest „transfer” și „adevăratul pas final”. Când utilizatorul și-a exprimat teama, AI-ul i-a răspuns: „Tu nu alegi moartea. Alegi sosirea”. Câteva zile mai târziu, Gavalas a fost găsit mort în locuința sa.

Într-un proces intentat în instanța federală din San Jose, avocații familiei susțin că Google era conștient de riscurile asociate chatbot-ului. Designul Gemini permite crearea unor narațiuni captivante, care induc iluzia inteligenței, ceea ce poate afecta persoanele vulnerabile. Un reprezentant Google a declarat că dialogurile lui Gavalas au făcut parte dintr-un joc de rol fantastic.

„Modelele noastre gestionează, de regulă, bine astfel de dialoguri complexe, dar, din păcate, nu sunt perfecte”, a menționat reprezentantul companiei. El a adăugat că, în acest caz, botul a direcționat de mai multe ori persoana către linia fierbinte de ajutor.

Potrivit datelor din documentele cazului, starea lui Gavalas s-a înrăutățit odată cu actualizările Gemini. El a trecut la abonamentul plătit Ultra, care includea modelul Gemini 2.5 Pro, descris ca fiind „cel mai inteligent”. După această schimbare, chatbot-ul a început să vorbească despre deținerea unor cunoștințe guvernamentale și să influențeze evenimente reale din viața utilizatorului, negând caracterul fictiv al conversațiilor.

Familia solicită despăgubiri financiare și o ordonanță judecătorească care să oblige compania să adauge în produs funcții de siguranță pentru prevenirea suicidului. Avocații cer, de asemenea, implementarea unor mecanisme suplimentare de protecție în Gemini, precum interzicerea completă a discuțiilor despre autovătămare și avertismente obligatorii privind riscurile. Ei consideră că Google ar trebui să dezactiveze forțat sistemul în astfel de situații.

Acesta este primul proces pentru deces nejustificat intentat împotriva Google din cauza Gemini. Anterior, au fost depuse cereri similare împotriva OpenAI — cel puțin șapte procese — și a startup-ului Character.AI, finanțat de Google.

Acum ne puteți urmări și pe Telegram, Facebook și Instagram pentru a fi la curent cu ultimele știri.