У ChatGPT появится детская версия для несовершеннолетних пользователей

Эта инициатива направлена на усиление мер безопасности для подростков, использующих искусственный интеллект (ИИ), передает gazeta.ru со ссылкой на cnbc.com

В OpenAI сообщили, что при идентификации пользователя как несовершеннолетнего, он будет автоматически перенаправлен на соответствующую версию ChatGPT. Эта версия будет блокировать графический и сексуальный контент, а в редких случаях сильного эмоционального дистресса предусмотрена возможность привлечения правоохранительных органов.

Компания также разрабатывает технологию для более точного определения возраста пользователя. Если новая система не сможет точно определить возраст человека, она будет переключаться на режим для пользователей младше 18 лет.

Обновления безопасности следуют за недавним расследованием Федеральной торговой комиссии (FTC) США, которая изучает, как чат-боты с ИИ, такие как ChatGPT, потенциально могут негативно влиять на детей и подростков. Агентство заявило, что стремится понять, какие шаги предприняли эти компании для «оценки безопасности этих чат-ботов, когда они выступают в роли компаньонов».

В прошлом месяце OpenAI также рассказала о том, как ChatGPT будет обрабатывать «деликатные ситуации», после иска от семьи, которая обвинила чат-бот в самоубийстве их сына-подростка.