Скопировать ссылкуOpenAI готова замедлить разработки в сфере ИИ из-за угрозы человечеству
Сэм Альтман на внутреннем собрании компании заявил, что может рассмотреть замедление темпов развития ИИ.
Сэм Альтман готов рассмотреть снижение темпов разработки искусственного интеллекта. Об этом сообщает Bloomberg, ссылаясь на речь Альтмана на закрытом собрании в OpenAI.
Но замедления внутри OpenAI Сэму Альтману мало. Он надеется, что и другие лаборатории, занимающиеся разработкой передовых систем, нажмут на тормоз и согласятся сихнронизировать скорость. Разумеется, ради будущего всего человечества.
Поводом для таких заявлений стала череда отставок исследователей безопасности из Anthropic, Google DeepMind и OpenAI. Специалисты пишут алармические треды в Твиттере и выражают обеспокоенность рисками неконтролируемого создания сверхинтеллекта, а свыше 1000 сотрудников технологических компаний ранее подписали петицию с требованием создать механизм контроля скорости развития ИИ.
Хотя очевидно, что ведущие ИИ-компании не будут синхронизировать скорость обучения. Китай среди лидеров, но отстает от компаний из США на несколько месяцев. Власти КНР не пойдут на замедление, так как это позволит американским компаниям сохранить лидерство. Но и власти США не допустят, чтобы замедление как-то повлияло на их статус ведущей мировой державы.
Если замедлить разработки, нагонит не только Китай, но и менее развитые страны в сфере ИИ. Например, Россия. Сейчас наши передовые ИИ-модели отстают от топов на полгода-год. Замедление всего на несколько месяцев позволит сделать разрыв менее драматичным. А если ограничения продлятся год и более, в РФ появятся модели ничуть не уступающие зарубежным. Американцы этого не могут допустить.
Так что сознательного замедления не случится почти наверняка. Есть лишь несколько сценариев, когда это действительно возможно. И один из них: ведущие ИИ-лаборатории на самом деле уперлись в потолок возможностей. GPT Astra оказалась маркетинговым шумом, разница между флагманскими моделями текущего поколения и предыдущего измеряется процентами (а не десятками, как раньше), поэтому разговоры о сознательном ограничении могут быть попыткой скрыть реальное положение дел: были потрачены триллионы долларов, а AGI так и не случилось.
В этот сценарий хочется верить меньше всего. Он означает мощнейший экономический кризис. Да, это лучше восстания машин, «Матрицы» или «Терминатора», но годы рецессии — это не самый приятный сценарий. Особенно, когда это все сопровождается многочисленными вооруженными конфликтами по всему миру, рискующими перейти на куда более разрушительный уровень.
Скопировать ссылку
