Глава Еврокомиссии призвала сдерживать развитие передовых моделей ИИ

Такое заявление сделала в среду глава Еврокомиссии Урсула фон дер Ляйен, сообщает Euronews.

В своём ежегодном обращении к Европейскому парламенту "О положении Союза" председатель она подчеркнула, что искусственный интеллект способен принести человечеству огромную пользу, если грамотно сбалансировать его риски и возможности.

Фон дер Ляйен отдельно остановилась на растущих угрозах, связанных с так называемыми передовыми моделями ИИ, которые выводят технологию на принципиально новый уровень.

"По мере того как передовые модели становятся всё более мощными, эти риски проявляются всё отчётливее. Создаваемые сейчас системы позволят осуществлять взломы на уровне, который мы даже не могли себе представить. И вскоре они окажутся в руках противников, которые смотрят на мир совсем иначе, чем мы", - сказала она.

Председатель Еврокомиссии напомнила о недавних инцидентах, когда агенты ИИ выходили за пределы тестовой среды и самостоятельно взламывали другие системы, как это произошло при взломе OpenAI-Hugging Face в июле.

"Генеральные директора самых продвинутых компаний говорят нам, что пора притормозить работу над саморекурсивными моделями, сбавить темпы на переднем крае технологий. Если люди, создающие эту технологию, говорят об этом прямо, мы тоже должны быть предельно ясны", - продолжила фон дер Ляйен.

В ЕС уже действует один из самых всеобъемлющих в мире законов об искусственном интеллекте - Акт об ИИ, который наделяет Еврокомиссию полномочиями контролировать меры по снижению рисков для наиболее продвинутых моделей.

"Мы усилим работу вместе с нашими единомышленниками - странами, такими как Канада, Великобритания и другими. Мы хотим объединить усилия в оценке и проверке моделей, создании систем раннего предупреждения, обеспечении безопасности ИИ и во многом другом", - добавила она.

Глава Еврокомиссии также объявила, что инициирует обсуждение с ведущими лабораториями в сфере ИИ о том, как государственные органы могут поддержать усилия отрасли по сдерживанию гонки на переднем крае этой подрывной технологии.