В ответах нейросети от Google выявили опасные для жизни медицинские советы

Ответы нейросети AI Overviews от Google на медицинскую тематику противоречат реальным советам врачей и опасны для людей. Об этом пишет The Guardian.

AI Overviews генерирует развёрнутые текстовые ответы в поисковой системе на основе синтеза данных из нескольких веб-источников. Таким образом, при запросе в Google эти изложения появляются в верхней части страницы и избавляют пользователей от необходимости искать информацию на сайтах.

По словам экспертов медицинской сферы, которые приняли участие в расследовании The Guardian, ответы ИИ содержат неточную информацию о здоровье и подвергают людей риску. В частности, Google ошибочно рекомендовал людям с раком поджелудочной железы избегать продуктов с высоким содержанием жиров — это полная противоположность тому, что советуют врачи.

Есть и другой пример. Нейросеть предоставила ложную информацию о важнейших анализах для оценки функции печени, из-за чего люди с серьёзными заболеваниями этого органа могли ошибочно считать себя здоровыми. Поисковые запросы Google, связанные с диагностикой рака у женщин, также выдавали неверную информацию, которая могла привести к тому, что пациентки не обратят внимание на реальные симптомы или решат не обращаться к врачу.

Представитель Google объяснил выдачу тем, что ИИ ссылается на авторитетные источники в открытом доступе, а само изложение на самом деле гораздо больше по объёму — на скриншотах была указана лишь часть ответов. Медицинские эксперты подчеркнули, что вырванная из контекста информация может навредить здоровью пользователей и в некоторых случаях повысить риск летального исхода. Кроме того, нейросеть обобщает контент из разных источников, упуская нюансы.

«Нас также беспокоил тот факт, что сводка ИИ менялась при выполнении одного и того же поиска, каждый раз выдавая разные ответы, взятые из разных источников. Это означает, что люди получают разные ответы в зависимости от того, когда они выполняют поиск, а это неправильно», — рассказала исполнительный директор благотворительной организации Eve Appeal, занимающейся борьбой с раком Афина Ламнисос. В Google не признали ошибку и заявили, что компания постоянно работает над повышением качества работы ИИ.