Внимание Guardian привлекли медицинские обзоры, созданные с помощью искусственного интеллекта и с некоторых пор отображаемые в самом верху в списке ответов на поисковые запросы в Google. Журналисты проанализировали несколько таких ответов и пришли к выводу, что они искажают реальную ситуацию и могут ввести людей в заблуждение, ведущее к причинению вреда их здоровью, передает rtvi.comВнимание журналистов привлек ответ нейросети на запрос о результатах анализов, направленных на выявление патологий печени. Они попросили экспертов прокомментировать обзор от ИИ, и те пришли к выводу, что в нем содержится ложная информация, способная дезориентировать людей с серьезными нарушениями работы печени и понапрасну их успокоить.В расследовании Guardian приводятся различные ИИ-ответы Google на запросы о результатах анализов, связанных с работой печени. Из них следует, что нейросеть произвольно компилирует данные различных источников, смешивая различные системы тестирования, шкалы оценки (например, по возрасту или полу) и другие критерии, но при этом полностью игнорируя контекст.Опрошенные Guardian эксперты сочли, что Google AI Overviews выдает обзоры, способные создать у тяжело больных пациентов ложное впечатление об их состоянии. По мнению журналистов, под влиянием этих нейросетевых советов люди, страдающие болезнями печени, могут принять критически важное для них решение — отказаться от дальнейших медосмотров.Несмотря на первоначальные возражения, Google удалила обзоры AI Overviews по поисковым запросам «нормальный диапазон анализов крови на функцию печени» и «нормальный диапазон анализов функции печени». «В случаях, когда обзоры ИИ не учитывают контекст, мы работаем над общими улучшениями, а также принимаем соответствующие меры в соответствии с нашей политикой», — прокомментировал изменения представитель компании.Однако эксперты в сфере здравоохранения обеспокоены тем, что удалены только ответы на конкретные запросы, хотя все они могут представлять опасность — в том числе сформулированные немного по-другому. «Мы по-прежнему обеспокоены тем, что другая информация о здоровье, созданная с помощью ИИ, может быть неточной и вводить в заблуждение», — утверждает директор по коммуникациям и политике благотворительной организации British Liver Trust Ванесса Хебдич.Она отметила, что даже корректно изложенные подходы к предельно допустимым минимальным и максимальным значениям показателей, отраженных в анализах, не дают пользователю без медицинского образования достаточного представления о результатах диагностики.По ее словам, беспокойство вызывает в целом широкое распространение ИИ-обзоров в сфере здравоохранения: люди ищут информацию с конкретной практической целью, которая окажет непосредственное влияние на их дальнейшие решения по поводу своего здоровья, и могут быть введены в заблуждение нейросетью.В качестве примеров Guardian приводит ИИ-обзоры Google по запросам о раке и психическом здоровье. Опрошенные изданием эксперты оценили их как «совершенно неверные» и «действительно опасные». На вопрос о том, почему эти обзоры не были удалены, в компании ответили, что они содержали ссылки на известные и авторитетные источники и информировали пользователей о том, когда важно обратиться за консультацией к эксперту.«Наша внутренняя группа врачей проверила предоставленную нам информацию и обнаружила, что во многих случаях она не содержала неточностей и подтверждалась качественными веб-сайтами», — заявили в пресс-службе Google.В компании утверждают, что ИИ-обзоры выдаются в поисковых результатах только по тем запросам, в которых компания испытывает «высокую степень уверенности», а качество таких ответов якобы постоянно проверяется.
