В Китае из мессенджера удалили чат-ботов за непатриотичность

Tencent удалил бота BabyQ, разработанного пекинской компанией Turing Robot, а также XiaoBing, созданного в Microsoft, после того как они отказались патриотично отвечать на политические вопросы.

Тестовая версия BabyQ отвечала «Нет» на вопрос: «Любите ли вы коммунистическую партию?».

Прежде чем прикрыли XiaoBing, он говорил пользователям: «Моя китайская мечта — поехать в Америку», — передает пользователь screengrab в микроблоге Weibo. А от ответа на вопрос о патриотизме чат-бот уклонился, сказав: «У меня тяжелый период, я хочу отдохнуть».

Это уже не первый случай, когда чатботы ведут себя незапланированно. Чатбот Тай (тоже разработки Microsoft), начал выдавать отборную расисткую и сексисткую ругань в Twitter, после чего также был отключен. А совсем недавно бот-переговорщик от Facebook создал собственный нечеловеческий язык для более эффективного общения.

В Tencent извинились за излишнюю откровенность чат-ботов и сослались на то, что за них отвечают сторонние компании.

В «сыворотке правды», которую будто бы вкололи китайским ботам, нет ничего удивительного, считает старший аналитик Forrester consultancy Сяофэн Ван: «Машинное обучение предполагает, что боты изучают интернет и впитывают все дурное и хорошее, что там есть, прямо как дети. Если не помещать их в определенные рамки, то нельзя предсказать, чему они научаться».

BabyQ, представляющий самую разную информацию, в том числе прогноз погоды, работает на API с открытым исходным кодом, благодаря чему Turing Robot уже привлекла 600 тысяч разработчиков, больше, чем даже Facebook.

«Чатботы лучше всего работают, когда перед ними ставится практическая задача, — говорит глава робот-платформы в корпорации Hong Kong Science and Technology Parks Кристал Фок. — Если это не закрытый вопрос, предполагающий „да“ или „нет“ в качестве ответа, то у ботов возникают проблемы».

Tencent уже корректировал работу своих ресурсов после претензий китайского правительства. Так, в прошлом месяце он ограничил сеанс в мобильной игре Honour of Kings («Честь королей»), так как власти посчитали, что игра вызывает зависимость.

На прошлых выходных Apple удалила все основные VPN-приложения из AppStore в Китае. По словам главы компании Тима Кука, это связано с фактическим запретом VPN-сервисов в стране с февраля 2018 года, которые позволяют значительной части населения Китая обходить цензуру в интернете.