Губернатор Калифорнии Гэвин Ньюсом подписал новый закон, который вводит обязательные правила безопасности для компаний, разрабатывающих чат-ботов с искусственным интеллектом (ИИ), передает mentoday.ruКак сообщает портал Digital Trends, законодательный акт стал первым на территории Соединенных Штатов, который официально регулирует сегмент стремительно растущей индустрии ИИ.Закон, который вступит в силу в 2026 году, напрямую затронет такие крупные компании, как Meta (деятельность компании признана экстремистской и запрещена в РФ), Character AI и Replika.Согласно новым требованиям, разработчики будут обязаны внедрить строгие меры безопасности, направленные в первую очередь на защиту несовершеннолетних и других уязвимых категорий пользователей от потенциально вредоносного контента и манипулятивного взаимодействия.Ключевые положения закона включают три основных требования:Компании должны будут внедрить надежные системы верификации возраста, чтобы ограничить доступ детей к контенту, не соответствующему их возрасту.Они обязаны разработать и применять четкие протоколы на случай, если в диалоге с чат-ботом пользователь упоминает самоповреждение или суицидальные намерения.3акон требует, чтобы компании прозрачно и недвусмысленно информировали пользователей о том, что они ведут диалог с искусственным интеллектом, а не с реальным человеком.Принятию данного закона предшествовали общественные дискуссии и ряд инцидентов, вызвавших широкий резонанс, включая случаи суицида среди подростков, которые, как сообщается, произошли после тревожных и деструктивных разговоров с ИИ-ботами.Основное беспокойство у законодателей вызывает растущая способность современных чат-ботов имитировать человеческое общение и дружбу, что делает их особенно привлекательными для одиноких или эмоционально уязвимых людей. По мнению экспертов, такое взаимодействие может приводить к распространению дезинформации, финансовой эксплуатации и нанесению психологического вреда.Принятый калифорнийский закон должен оказать существенное влияние на всю отрасль. По замыслу, он должен установить важные «ограждения» и повысить уровень прозрачности и безопасности при взаимодействии с ИИ, особенно для детей.Для технологических компаний это означает необходимость пересмотра своих продуктов и внедрения новых механизмов ответственности.Предполагается, что другие штаты будут внимательно следить за опытом Калифорнии, и данный закон может стать моделью для разработки аналогичного законодательства на национальном уровне, что в конечном итоге полностью изменит правила создания и контроля за нейросетями.
