ООН создала первый глобальный совет по безопасности ИИ, пока инсайдеры бьют тревогу

Решение принято на фоне предупреждений бывших сотрудников компаний в сфере ИИ, бьющих тревогу из-за этой технологии, передает euronews.com

Генеральная Ассамблея ООН проголосовала 117 голосами против двух за утверждение комиссии; против высказались США и Парагвай, Тунис и Украина воздержались. Россия, Китай и европейские союзники поддержали решение.

Эксперты независимой Международной научной комиссии по искусственному интеллекту (ИИ) будут ежегодно публиковать доклад, обобщающий и анализирующий риски, возможности и последствия применения ИИ в том, что в ООН называют «первым в мире научным органом такого рода».

Создание этой комиссии стало, по словам генерального секретаря ООН Антониу Гутерриша, «фундаментальным шагом к формированию глобального научного понимания ИИ».

«В мире, где развитие ИИ идёт опережающими темпами, — сказал Гутерриш, — эта комиссия даст то, чего до сих пор не хватало, — строгую, независимую научную оценку, которая позволит всем государствам, вне зависимости от их технологических возможностей, участвовать в обсуждении на равных».

Голосование в ООН состоялось на фоне демаршей сотрудников компаний по разработке искусственного интеллекта, обеспокоенных их практикой.

Бывший исследователь по вопросам безопасности в компании Anthropic Мринанк Шарма в открытом письме предупредил, что «мир в опасности» в связи с развитием ИИ и другими кризисами.

А бывший ведущий научный сотрудник OpenAI Зоэ Хитциг рассказала газете The New York Times, что у неё «серьёзные сомнения» по поводу стратегии, которую избрала её бывшая компания.

Некоторые из наиболее известных в мире специалистов по ИИ, такие как Дарио Амодей, глава Anthropic, руководитель OpenAI Сэм Олтман и сооснователь Apple Стив Возняк, также предупреждали о рисках, связанных с ИИ.

«Существенное превышение мандата ООН»

Сорок членов комиссии были отобраны из более чем 2 600 кандидатов после независимой оценки, проведённой несколькими структурами ООН и Международным союзом электросвязи, сообщил Гутерриш. Срок их полномочий составит три года.

У Европы в комиссии 11 мест: Жоэль Барраль (Франция), Мелахат Билге Демиркоз (Турция), Анна Корхонен (Финляндия), Александра Королова (Латвия), Андрей Незнамов (Россия), Максимилиан Никель и Бернхард Шёлькопф (Германия), Роман Орус (Испания), Йоханна Пиркер (Австрия), Пётр Саньковский (Польша) и Сильвио Саварезе (Италия).

Представитель США Лорен Ловлейс назвала комиссию «существенным превышением мандата и компетенции ООН» и заявила, что «регулирование ИИ — это не та сфера, в которой ООН должна диктовать условия».

Ловлейс призвала ООН сосредоточиться на своих «основных миссиях», таких как поддержание международного мира и безопасности, защита прав человека и гуманитарная помощь, вместо того чтобы «пытаться регулировать или подавлять развитие сквозных... технологий, которые будут определять экономическую и стратегическую конкуренцию в XXI веке».

Президент США Дональд Трамп выступает за минимальное регулирование ИИ, стремясь сократить федеральную бюрократию и избежать «лоскутного одеяла» законов штатов, которые могли бы замедлить инновации. США и Китай считаются идущими ноздря в ноздрю в гонке по внедрению ИИ.

Несмотря на возражения США, у страны по-прежнему два представителя в комиссии: профессор Университета Миннесоты Випин Кумар и Марта Палмер, вышедшая на пенсию профессор Университета Колорадо и специалист по лингвистике.