Скопировать ссылкуOpenAI может замедлить разработку ИИ из-за рисков безопасности
OpenAI рассматривает возможность замедления разработки передовых систем ИИ из-за сбоев и потери контроля над ИИ-моделями. Гендиректор компании Сэм Альтман надеется, что другие разработчики последуют этому примеру.
На общекорпоративном собрании господин Альтман объявил сотрудникам, что OpenAI может установить общие темпы развития технологии совместно с другими ИИ-лабораториями. В июле он также обсуждал с представителями Белого дома необходимость контроля над скоростью обучения новых систем, сообщает Bloomberg.
В OpenAI подтвердили, что уже приостановили некоторые направления разработки и внутренние процессы обучения по соображениям безопасности.
Главный научный сотрудник OpenAI Якуб Пачоцки также призвал к координации между разработчиками, выразив надежду, что «добровольное замедление станет обычным делом» до принятия общих стандартов безопасности.
Скопировать ссылку
