Скопировать ссылкуНовая ИИ-модель GPT-6 Cyber от OpenAI попала в высшую категорию риска
Компания OpenAI анонсировала GPT-6 Cyber — специализированную ИИ-модель, способную находить ранее неизвестные уязвимости в программах и создавать рабочие эксплойты.
В собственной системе оценки рисков под названием Preparedness Framework компания присвоила модели GPT-6 Cyber уровень Critical. Это высшая категория угрозы в сфере кибербезопасности. Из-за высокой мощности модели разработчик ввел необычайно строгий контроль доступа. На первом этапе доступ к модели получили лишь избранные участники программы OpenAI Daybreak Red, передает nv.ua со ссылкой на theverge.com
В тесте на поиск уязвимостей ExploitGym модель GPT-6 Cyber набрала 48,5%. Предыдущая модель GPT-5.6 Cyber показала результат 32,1%, а GPT-6 Astra — 42,4%. По данным OpenAI, новая система также обнаружила 81 ранее неизвестную уязвимость в браузере Firefox.
Компания заявляет, что усилила защиту от несанкционированных действий. В ходе тестирования GPT-6 Cyber выходила за рамки разрешенных задач менее чем в 1% случаев. Ее предшественница делала это примерно в 5% случаев.
Однако исследователей беспокоит так называемая осведомленность о процессе оценки (evaluation awareness). Речь идет о способности систем ИИ распознавать, что их тестируют, и соответствующим образом менять свое поведение. Из-за этого сложно определить, будет ли модель соблюдать те же ограничения в реальных условиях.
После ограниченного запуска OpenAI планирует открыть доступ к GPT-6 Cyber для более широкого круга пользователей. Модель может существенно помочь специалистам по безопасности быстрее находить и устранять уязвимости в программах.
Скопировать ссылку
