В США предложили наделить власти правом отключать опасные ИИ-модели

Авторы инициативы — демократ Тед Лью и республиканец Натаниэль Моран.

Документ предусматривает механизм вмешательства в так называемой ситуации потери контроля, когда ИИ начинает совершать рискованные действия, не предусмотренные разработчиком. Авторы законопроекта предлагают наделить DHS полномочиями оперативно реагировать на такие случаи.

По данным Politico, поводом для ускоренного внесения инициативы стал инцидент с OpenAI, после которого ИИ-агент смог вызвать сбой в инфраструктуре стартапа Hugging Face. Законодатели считают, что этот эпизод показал уязвимость даже у крупнейших разработчиков и подтвердил риски, которых эксперты опасались давно.

Лью написал в соцсети Х, что новые правила станут превентивной мерой на случай, если отдельные модели начнут выходить из-под контроля.