ИИ не может подсчитать буквы в слове «клубника» на английском

Последний пример, ставший вирусным мемом, демонстрирует, что эти, казалось бы, всезнающие ИИ, предсказывающие землетресения, не могут правильно посчитать количество букв «r» в английском слове strawberry ("клубника"). Об этом сообщает 3dnews.ru

Проблема кроется в архитектуре LLM, которая основана на трансформерах. Они разбивают текст на токены, которые могут быть полными словами, слогами или буквами, в зависимости от модели. «LLM основаны на этой архитектуре трансформеров, которая, по сути, не читает текст. Когда вы вводите запрос, он преобразуется в кодировку», — объясняет Мэтью Гуздиал (Matthew Guzdial), исследователь искусственного интеллекта и доцент Университета Альберты, в интервью TechCrunch. То есть, когда модель видит артикль the, у неё есть только одно кодирование значения the, но она ничего не знает о каждой из этих трёх букв по отдельности.

Трансформеры не могут эффективно обрабатывать и выводить фактический текст. Вместо этого текст преобразуется в числовые представления, которые затем контекстуализируются, чтобы помочь ИИ создать логичный ответ. Другими словами, ИИ может знать, что токены straw и berry составляют strawberry, но не понимает порядок букв в этом слове и не может посчитать их количество. Если задать вопрос GPT, «сколько раз встречается буква R в слове strawberry», бот выдаст ответ «2».