Технологические гиганты пообещали Байдену обеспечить безопасность систем ИИ

Президент США Джо Байден заявил в пятницу, что ряд крупнейших технологических компаний, включая Amazon, Google, Meta и Microsoft, взяли на себя обязательства принять защитные меры в сфере искусственного интеллекта, выработанные при посредничестве Белого дома, передает golosameriki.com

По словам Байдена, эти обязательства являются важным шагом на пути к управлению «огромными» возможностями и рисками, связанными с новой технологией.

Добровольные обязательства, взятые семью американскими компаниями, призваны гарантировать безопасность ИИ-продуктов еще до их выпуска. Некоторые обязательства предусматривают сторонний надзор за работой коммерческих систем искусственного интеллекта, но не уточняют, кто будет проводить аудит технологии.

«Мы должны отчетливо представлять угрозы, исходящие от новых технологий, и быть бдительными», – сказал Байден, добавив, что компании несут «фундаментальную ответственность за безопасность своих продуктов».

«Социальные сети показали нам, какой вред могут нанести мощные технологии без надлежащих мер предосторожности, – добавил президент Байден. – Эти обязательства – многообещающий шаг, но нам предстоит еще много совместной работы».

Системы генеративного искусственного интеллекта, способные создавать тексты, изображения и другие медиаданные, практически неотличимые от создаваемых человеком, вызвали восхищение у многих. Но одновременно с этим возникла и обеспокоенность по поводу их способности вводить людей в заблуждение и распространять дезинформацию.

Четыре упомянутых технологических гиганта, а также компания OpenAI – создатель ChatGPT – и стартапы Anthropic и Inflection взяли на себя обязательства проводить тестирование, в том числе независимыми экспертами, для защиты от основных рисков, включая биологическую безопасность и кибербезопасность.

Кроме того, в ходе тестирования будет изучаться возможность нанесения вреда обществу, например, предвзятости и дискриминации, а также теоретические опасности, связанные с получением контроля над физическими системами или саморепликацией ИИ.

Компании также обязались сообщать об уязвимых местах в их системах и использовать цифровые «водяные знаки», позволяющие выявлять изображения, созданные с помощью генеративного ИИ.

Некоторые сторонники регулирования ИИ назвали действия Байдена важным первым шагом, но подчеркнули, что этого недостаточно.

«Нам нужно более широкое общественное обсуждение, в ходе которого будут подниматься вопросы, которыми компании едва ли будут заниматься добровольно, потому что это приведет к совсем другим результатам, которые могут непосредственно повлиять на их бизнес-модели», – заявила Амба Как, исполнительный директор исследовательской организации AI Now.

Лидер демократического большинства в Сенате Чак Шумер заявил, что он внесет на рассмотрение законопроект о регулировании искусственного интеллекта. Он отметил, что будет работать с администрацией Байдена и коллегами из обеих партий, опираясь на обязательства, взятые в пятницу.

Взятые обязательства в основном связаны с рисками для безопасности, но не затрагивают другие проблемы, вызванные применением искусственного интеллекта, включая влияние на рабочие места и рыночную конкуренцию, природные ресурсы и авторское право на произведения человека, которые используются для обучения систем ИИ.