Исследователь Anthropic уволился из страха перед ИИ

27-летний математик ранее работал в другом ИИ-гиганте – OpenAI, но в 2026 году перешел в Anthropic на должность специалиста по обучению моделей на больших массивах данных. По словам Джейкоба, его привлекла репутация OpenAI в вопросах безопасности использования и развития нейросетей, передает unian.net

Однако уже через пару месяцев исследователь пришел к неутешительному выводу. Коксон убежден, что мир постепенно движется к "точке невозврата": лидеры ИИ-компаний верят в то, что нейросети могут погубить человечество к концу десятилетия. Поэтому он и уволился из Anthropic, чтобы не "играть с человеческими жизнями".

Опаснее всего момент, когда алгоритмам позволят дописывать и совершенствовать собственный код без участия человека. В таких условиях системы начнут развиваться с дикой скоростью – и их будет намного сложнее предсказать и контролировать. Уход Коксона стал первым подобным случаем внутри Anthropic, хотя из OpenAI и других ИИ-компаний сотрудники уходили с похожими предупреждениями и раньше.

О рисках ускоренного развития ИИ предупреждал и сооснователь Anthropic Джек Кларк. По его словам, новые ИИ-модели уже находятся на пороге рекурсивного самосовершенствования – то есть способности развиваться без контроля человека. Как будет выглядеть мир, где ИИ научится улучшать себя сам, в Anthropic не знают, поэтому исследователь призывает всех техгигантов заключить сделку и замедлить развитие ИИ.

Сэм Альтман, руководитель OpenAI, заявлял, что человечество стоит на пороге создания цифрового "сверхразума", и этот процесс неизбежен. Через пару лет ИИ будет совершать научные открытия, "которые люди не могли бы сделать сами".