Личные переписки пользователей с чат-ботом Claude обнаружили в поиске Google

Общедоступные чаты в поисковой выдаче первыми обнаружили пользователи Reddit (1, 2), пишет theins.ru со ссылкой на bbc.com

В публичном доступе оказались сотни чатов: пользователи в них просили чат-бот помочь с составлением резюме, постов, рабочих презентаций, делали личные трекеры приема лекарств или писали налоговые документы. 

В одном из подобных разговоров пользователь спрашивал Claude: «Как превратиться в девятихвостого лиса?» Чат-бот в ответ утверждал, что ему и так дарованы «полностью функциональные лисьи способности».

По всей видимости, проблема возникла из-за возможности пользователей поделиться своими чатами через функцию Share Chat. Она позволяет создавать ссылки, по которым любой может перейти и посмотреть сгенерированный нейросетью ответ. При создании таких ссылок пользователь получает предупреждение: «Любой, у кого есть ссылка, может просмотреть [этот контент]». 

В Anthropic сослались на индексацию подобных ссылок поисковиками и утверждают, что она возможна, только если ссылки на беседы с чат-ботом были опубликованы в открытом доступе: например, на форумах или в соцсетях. В компании заверили, что ссылки, отправленные в частной переписке, не индексируются: 

«Эти ссылки невозможно предугадать или обнаружить, если только люди сами не решат ими поделиться. Когда человек делится ссылкой на чат, он делает этот контент общедоступным. Как и любые другие открытые веб-страницы, он может быть сохранен другими сервисами».

Как уточняет портал TechCrunch, уже к вечеру понедельника поиск в Google перестал выдавать страницы Claude, которые ранее были доступны через поисковик. Вероятно, эту «утечку» устранили, хотя ссылки на чаты, которые обсуждали пользователи Reddit, доступны до сих пор, убедился The Insider. 

Ранее с подобными проблемами также столкнулись и пользователи чат-бота Илона Маска Grok и ChatGPT от OpenAI. Пользовательские диалоги с Grok, как писали СМИ, индексировались поисковиками, даже если ссылки пересылались в приватных чатах, и делалось это без ведома пользователей. Когда с такой же утечкой столкнулась OpenAI, она вскоре удалила функцию «Сделать чат доступным для обнаружения», которую можно было выбрать при создании ссылки на запрос.