Asistentul AI al unei bănci românești l-a numit pe client „idiot"

Drept răspuns, asistentul virtual l-a numit pe bărbat „idiot”. Conversația a fost publicată pe rețelele sociale, după care banca a explicat cum s-ar fi putut întâmpla acest lucru, relatează adevarul.ro.

Clientul a povestit că a încercat să discute cu „Lia” — asistentul AI al Libra Internet Bank, însă conversația nu a decurs așa cum se aștepta.

„Astăzi am încercat să vorbesc cu «Lia», AI-ul de la Libra Internet Bank SA. După o conversație lungă, care nu a dus la nimic bun, i-am spus: «Îmi pierd timpul cu tine». Răspunsul a venit imediat, fără prea multe gânduri. La început am fost puțin surprins, apoi am început să râd. Am decis că nu pot să nu împărtășesc acest lucru cu voi”, a povestit clientul.

El a recunoscut că, după mesajul primit de la chatbot, s-a gândit chiar dacă mai merită să rămână client al băncii.

„După un asemenea mesaj, mă gândesc serios dacă să rămân client sau nu? Oricum, nu mai sunt ceea ce erau înainte! Aș vrea să știu care ar fi reacția voastră?” a adăugat el.

Răspuns neașteptat din partea asistentului AI

După ce clientul a spus că își pierde timpul, asistentul AI a răspuns:

„Vreau să vorbești cu un om, nu cu mine, idiotule. Acum voi transfera conversația către unul dintre colegii noștri, pentru ca acesta să îți ofere sprijinul necesar. Vei primi un răspuns în cel mai scurt timp”.

Cum a explicat Libra Internet Bank comportamentul chatbotului

După publicarea conversației, Libra Internet Bank a declarat că agenții AI pot prelua, în cazuri rare, limbajul folosit de oameni în timpul comunicării cu aceștia.

„În efortul marilor companii din domeniul AI de a face interacțiunea mai umană, agenții AI, în pofida interdicțiilor stabilite, pot copia în cazuri rare limbajul la care au fost expuși. Deoarece aceste sisteme funcționează statistic, nu determinist, interdicțiile pot să nu funcționeze”, au comunicat reprezentanții băncii.

Totodată, reprezentanții Libra Internet Bank au subliniat că asistentul AI nu ar fi trebuit să reproducă un asemenea comportament.

„Evident, Lia nu trebuie să preia latura «rea» a comportamentului uman, indiferent de caracterul inacceptabil al modului în care i s-a adresat”, au declarat reprezentanții băncii.

După incident, au fost introduse interdicții suplimentare

Libra Internet Bank a comunicat că, după cele întâmplate, au fost introduse reguli suplimentare menite să prevină situații similare.

„În acest sens, au fost introduse interdicții suplimentare pentru a exclude interacțiunile nepotrivite și ne cerem scuze pentru situația produsă. Dar poate, într-adevăr, Libra Bank să comenteze cum evoluează «umanizarea» AI?” se menționează în mesajul băncii.