OpenAI предложила до $445 тыс. исследователю рисков самосовершенствования ИИ

От кандидата ждут «тактичности и стратегического мышления», а также готовности работать со сценариями, в которых развитие ИИ может выйти на новый уровень риска, передает businessinsider.com

Речь идет о специалисте, который будет изучать риски так называемого «рекурсивного самосовершенствования». Так называют сценарий, при котором ИИ-системы начинают самостоятельно создавать и обучать более мощные версии самих себя.

Еще несколько лет назад такие сценарии обсуждались в основном в академической среде и научной фантастике. Теперь они становятся частью реальных вакансий крупнейших ИИ-компаний. Одной из причин стал быстрый прогресс ИИ-инструментов для программирования, которые за последние месяцы заметно повысили уровень автономности моделей.

Из-за этого ИИ-компании все активнее нанимают не только инженеров и разработчиков, но и специалистов по безопасности, управлению рисками и контролю автономных систем. В описании вакансии OpenAI отдельно говорится, что будущему сотруднику придется принимать решения в условиях высокой неопределенности и работать с разными командами внутри компании.

Фактически рынок ИИ меняется прямо сейчас. Если раньше главным дефицитом были исследователи нейросетей и инженеры машинного обучения, то теперь все более востребованными становятся специалисты, которые могут оценивать последствия появления моделей следующего поколения.

Вакансия появилась в период, когда OpenAI готовится к возможному выходу на биржу. Компания расширяет подразделения, связанные с безопасностью искусственного интеллекта. Крупнейшие игроки индустрии все чаще предупреждают, что технологии приближаются к уровню, при котором вопрос контроля над ИИ может стать одним из главных для рынка.