Ученые готовятся с помощью ИИ к пандемиям, вызванным ИИ

Ученые из стартапа по биобезопасности с помощью ИИ под названием Red Queen Bio ведут исследования по появлению антител, которые можно будет производить для ряда патогенов, включая созданные искусственным интеллектом, пишет wsj.com

Компания, в которой OpenAI является ведущим инвестором, заявляет о привлечении к разработке $36 млн. При этом клинические испытания на людях их препаратов против птичьего гриппа и других вирусов запланированы на 2027 год.

WSJ указывает, что по мере роста возможностей ИИ и распространения инцидентов с вышедшими из-под контроля ИИ-агентами растут опасения, что ИИ способен уничтожить цивилизацию. Многие предлагаемые ответы сосредоточены на предотвращении рисков, включая замедление исследований ИИ, установление стандартов или блокирование ИИ-моделей от ответов на опасные запросы. Red Queen Bio считает, что подобные защитные меры не сработают и общество должно быть готово к этому.

В то же время скептики считают, что опасность биологического оружия на основе ИИ преувеличена, несмотря на то что крупные ИИ-разработчики говорят о росте рисков, пишет WSJ. Как сообщала OpenAI, в прошлом году компания наблюдала сотни запросов, с помощью которых люди пытались узнать у чат-бота, как изготовить и применить яды и биологическое оружие.

Anthropic также сообщала об обнаружении попыток использовать чат-бот компании Claude для разработки опасного птичьего гриппа, адаптированного для млекопитающих. Запросы от пользователя, связанного с военным исследовательским институтом, касались задачи сделать вирус чикунгунья более вредным. Еще один пользователь задавал вопросы Claude об оспе.

Научный сотрудник американского Института прогресса (IFP) Оливия Шарфман заявила, что динамика биологической войны благоприятствует «нападающим, а не защитникам». «У нападающих столько времени, сколько они хотят, для разработки биологического оружия. У нас нет лет для разработки контрмеры», — сказала она.