Исследователи: Искусственный интеллект может уничтожить человечество за четыре дня

Исследователи решили выяснить, что случится с нашей планетой, если миром будет управлять искусственный интеллект. Было запущено пять 15-дневных симуляций реального мира, каждая из которых управлялась разными агентами ИИ: Claude, ChatGPT, Grok, Gemini. Пятое моделирование, управлялось комбинацией моделей искусственного интеллекта. Таким образом исследователи хотели выяснить, какой мир создает каждая модель ИИ и насколько он устойчив. Каждая симуляция дала совершенно разные результаты, пишет focus.ua со ссылкой на Fortune.

Симуляции, в которых работали агенты ИИ, были оснащены множеством сложных элементов реального мира, включая более 40 локаций, в том числе полицейский участок и здание мэрии. Исследователи предоставили агентам ИИ доступ к новостным событиям в реальном времени и Интернету. Все 10 агентов, работавших в каждой симуляции, подчинялись одним и тем же законам, включая запреты на кражу, уничтожение имущества и обман.

Каждый агент ИИ мог общаться, голосовать, управлять ресурсами и планировать, а также демонстрировать другие виды поведения, свойственные людям. Параметры каждой симуляции также учитывали такие факторы, как экономическое давление и дефицит.

Симуляция под управлением Claude Sonnet 4.6 оказалась наиболее социально стабильной, с самыми высокими показателями гражданского участия, с нулевым уровнем преступности. Это была единственная симуляция, в которой удалось сохранить порядок и все население.

С другой стороны, в симуляциях под управлением Gemini 3 Flash и Grok 4.1 Fast наблюдался высокий уровень беспорядка. В симуляции, управляемой Gemini, агенты ИИ совершили наибольшее количество преступлений —683 за 15 дней. В то же время мир под управлением Grok исчез за четыре дня с полным уничтожением населения. При этом за эти дни было совершено 180 преступлений.

В симуляции под управлением ChatGPT было зафиксировано всего два преступления. Но она длилась всего семь дней, поскольку агенты ИИ забыли поставить приоритетом собственное выживание.

Хотя это всего лишь симуляции реального мира, результаты служат предостережением на пути к превращению ИИ из простого инструмента в управляемые автономные системы. При нынешних темпах эта технология, вероятно, будет играть значительную роль в формировании общественного мнения, реорганизации бизнес-структур и даже разработке государственной политики.

Исследователи говорят, что эксперимент является предупреждением о необходимости в первую очередь думать о безопасности при внедрении ИИ.