ChatGPT будет выявлять склонных к экстремизму пользователей

По данным агентства, такая инициатива — попытка решить проблемы безопасности из-за растущего числа судебных исков, передает reuters.com

Разработкой нового инструмента занимается новозеландский стартап ThroughLine. Он сотрудничает с ChatGPT, компанией OpenAI, а также ее конкурентами Anthropic и Google. Компания занимается перенаправлением пользователей в службы кризисной поддержки, если в их запросах выявляют угрозу самоповреждения, домашнего насилия или расстройств пищевого поведения. Сейчас организация расширяет свой функционал, чтобы предотвращать насильственный экстремизм.

ThroughLine будет работать в тандеме с The Christchurch Call — компанией по борьбе с разжиганием ненависти в интернете. Она была создана после самого крупного теракта в Новой Зеландии в 2019 году. The Christchurch Call будет давать экспертные рекомендации при появлении экстремистских запросов, а ThroughLine займется разработкой чат-бота для оперативного вмешательства.