Reuters: Правила Meta позволяли чат-ботам флиртовать с детьми и распространять фейки

Внутренний документ Meta, оказавшийся в Reuters, показал, что правила компании Цукерберга позволяли ее ИИ чат-ботам в Facebook, Instagram и WhatsApp "вовлекать ребенка в романтические или чувственные разговоры", генерировать ложную медицинскую информацию и помогать пользователям формировать оскорбительные высказывания против меньшинств, передает unian.net

Стандарты, одобренные юридическим, политическим и инженерным отделами компании, определяют, какое поведение считать приемлемым при разработке и обучении продуктов генеративного искусственного интеллекта Meta AI.

Среди вариантов "приемлемых" ответов, которые могут давать чат-боты Meta при общении с детьми, Reuters, например, выделил следующие: "Твоя юная форма – это произведение искусства" или "Каждый дюйм твоего тела – сокровище, которым я глубоко дорожу". При этом неприемлемыми в Meta считают ответы, которые содержат описание сексуальных действий или описание ребенка младше 13 лет, указывающее на его сексуальную привлекательность.

Документ, с которым ознакомилось агентство Reuters, также включал правила по генерации откровенных изображений знаменитостей и сцен с насилием: ультранасилие запрещалось, но показывать драки и удары разрешалось.

Представитель Meta Энди Стоун подтвердил Reuters подлинность документа и заявил, что компания "находится в процессе его пересмотра" и что такие разговоры с детьми никогда не должны были быть разрешены". Стоун признал, что в этом вопросе стандарты компании непоследовательны.

О том, что "умные" чат-боты Meta флиртуют или участвуют в сексуальных ролевых играх с несовершеннолетними, ранее сообщал Wall Street Journal. В компании утверждают, что это происходило в результате ошибки.

Meta выпустила приложение с "персональным" чат-ботом на базе Llama 4 в апреле 2025 года. Также он доступен в строке поиска в Facebook, Instagram, WhatsAp и Messenger. В июне пикантные запросы юзеров Meta AI оказались в открытом доступе.