Создатели ChatGPT работают над секретным ИИ-проектом "Клубника"

Компания OpenAI, которая выпустила знаменитый ChatGPT, работает над новым секретным проектом под кодовым названием Strawberry ("Клубника"). Об этом сообщает Reuters со ссылкой на источники и внутренние документы, передает unian.net

Цель разработки Strawberry – создать нейросеть, которая сможет не только генерировать ответы на запросы, но и будет иметь автономный доступ к интернету для выполнения собственных исследований. В теории, это позволит ИИ от OpenAI "рассуждать" на более высоком уровне.

По словам опрошенных Reuters экспертов, рассуждение является ключом к достижению ИИ человеческого уровня интеллекта. Хотя большие языковые модели уже могут обобщать и составлять тексты гораздо быстрее человека, они часто не справляются с проблемами, которые человек решает интуитивно, например, распознавать логические ошибки и отсутствие "здравого смысла".

Прежде этот проект назывался Q. Как писал Reuters в ноябре 2023 года, успехи в работе над ним стали одной из причин увольнения главы OpenAI Сэма Альтмана. Сотрудники называли его "прорывом" в области мощного ИИ, но выражали обеспокоенность тем, что у компании нет надлежащих мер безопасности для контролируемого развития и коммерциализации подобных моделей искусственного интеллекта.  

Сэм Альтман заявлял, что "наиболее важные области прогресса в сфере ИИ будут связаны со способностью рассуждать". В то же время среди ученых уже давно ведутся дискуссии об опасности, которую представляют высокоинтеллектуальные машины: например, если они решат, что уничтожение человечества отвечает их интересам.