ИИ-ассистент румынского банка назвал клиента "идиотом"

В ответ виртуальный помощник назвал мужчину «идиотом». Переписка была опубликована в соцсетях, после чего банк объяснил, как подобное могло произойти, сообщает adevarul.ro

Клиент рассказал, что попытался пообщаться с «Лией» — ИИ-ассистентом Libra Internet Bank, однако разговор пошел не так, как он рассчитывал.

«Сегодня я попытался поговорить с “Лией”, ИИ от Libra Internet Bank SA. После долгого разговора, который ни к чему хорошему не привел, я сказал ей: “Я теряю с тобой время”. Ответ последовал сразу, без долгих раздумий. Сначала я был немного удивлен, а потом начал смеяться. Я решил, что не могу не поделиться этим с вами», — рассказал клиент.

Он признался, что после полученного от чат-бота сообщения даже задумался, стоит ли ему оставаться клиентом банка.

«После такого сообщения я серьезно задумываюсь, стоит ли мне оставаться клиентом или нет? В любом случае они уже не те, какими были раньше! Хотел бы знать, какова была бы ваша реакция?» — добавил он.

Неожиданный ответ ИИ-ассистента

После слов клиента о том, что он теряет время, ИИ-ассистент ответил:

«Я хочу, чтобы ты поговорил с человеком, а не со мной, идиот. Сейчас я переведу разговор одному из наших коллег, чтобы он оказал тебе необходимую поддержку. Ты получишь ответ в ближайшее время».

Как Libra Internet Bank объяснила поведение чат-бота

После публикации переписки Libra Internet Bank заявила, что ИИ-агенты в редких случаях могут перенимать язык, который используют люди во время общения с ними.

«В стремлении крупных компаний, занимающихся ИИ, сделать взаимодействие более человечным ИИ-агенты, несмотря на установленные запреты, в редких случаях могут копировать язык, которому подвергались. Поскольку эти системы работают статистически, а не детерминированно, запреты могут не сработать», — сообщили в банке.

При этом представители Libra Internet Bank подчеркнули, что ИИ-ассистент не должен был воспроизводить подобное поведение.

«Очевидно, что Лия не должна перенимать “плохую” сторону человеческого поведения, независимо от неприемлемости обращения, которому она подверглась», — заявили в банке.

После инцидента ввели дополнительные запреты

В Libra Internet Bank сообщили, что после произошедшего были введены дополнительные правила, призванные предотвращать подобные ситуации.

«В связи с этим были введены дополнительные запреты, чтобы исключить неподобающие взаимодействия, и мы приносим извинения за произошедшую ситуацию. Но действительно ли Libra Bank может комментировать, как развивается “очеловечивание” ИИ?» — говорится в сообщении банка.