Политики в США научились менять информацию о себе у чат-ботов

Американские политики стали находить способы изменить мнение чат-ботов о себе, пишет The New York Times (NYT) со ссылкой на политиков и экспертов.

В пример газета приводит Дастина Ллойда — кандидата от Демократической партии на праймериз в законодательное собрание штата Миссури. Ранее, если бы избиратели задавали вопросы о Ллойде чат-ботам ChatGPT от OpenAI или Gemini от Google, то получили бы лишь базовую информацию, не передающую его политических целей.

Политик принял решение «подправить свое присутствие в интернете», опубликовав на своем сайте раздел вопросов и ответов о себе. Позднее, когда чат-боту задавали вопросы о Ллойде, то он выдавал эту информацию. Политик признался, что теперь пользуется этим инструментом ежедневно.

NYT отмечает, что кандидаты всегда беспокоились о своей репутации среди избирателей. Теперь же они также вынуждены беспокоиться о том, что о них думает искусственный интеллект. Для этого даже была создана отдельная индустрия — оптимизация алгоритмов ответов (Answer Engine Optimization, AEO).

Инструменты AEO обычно ограничивают переписыванием контента на сайте кандидата или внесение изменений в «Википедию». Однако, по мнению экспертом, кандидаты с хорошим финансированием могут попытаться опубликовать больше информации о себе в Сети, и данная информация будет повторяться чат-ботам.

В то же время политики обеспокоены возможностью распространения фейков о них, которые чат-боты будут воспринимать как верные. Исследователи британского аналитического центра Demos выяснили, что многие ИИ придумывают кандидатов, фабрикуют обвинения в кумовстве или выдумывают финансовые скандалы. Некоторые чат-боты утверждали, что действующий депутат только баллотируется, а другие неверно излагали позиции кандидатов.

Несмотря на это, избиратели все чаще обращаются за интересующими их политическими вопросами к чат-ботам. По данным компании Caucus AI, по меньшей мере 16 млн избирателей получили информацию о выборах от ИИ.

В случае, если кандидаты смогут систематически «подталкивать» чат-ботов к выдаче необходимым им ответам, эксперты опасаются, что третьи лица могут также попытаться манипулировать поисковыми запросами.

«Субъекты, распространяющие дезинформацию, по определению являются первопроходцами — они будут использовать все доступные им методы и технологии», — заявил Тим Чемберс из консалтинговой компании Dewey Square Group.