ИИ способен создавать не только фейковое настоящее, но и фейковое прошлое

Нам не нужно представлять себе мир, в котором дипфейки могут настолько правдоподобно имитировать голоса политиков, что их можно использовать для разжигания скандалов, которые могут повлиять на выборы. Это уже здесь. К счастью, существует множество причин для оптимизма относительно способности общества выявлять фейковые СМИ и поддерживать общее понимание текущих событий, передает focus.ua

Но хотя у нас есть основания полагать, что будущее может быть безопасным, мы обеспокоены тем, что прошлое таковым не является.

История может стать мощным инструментом для манипуляций и злоупотреблений. Тот же генеративный ИИ который может фальсифицировать текущие события, может также фальсифицировать и прошлые. Новый контент может быть защищен с помощью встроенных систем — но существует целый мир контента, который не имеет водяных знаков (что достигается путем добавления незаметной информации в цифровой файл, чтобы можно было отследить его происхождение). Как только водяные знаки при создании станут широко распространенными и люди привыкнуть не доверять контенту, на котором нет водяных знаков, тогда все, созданное до этого момента, будет гораздо легче подвергать сомнению.

И это создаст кладезь возможностей для проверки подлинности документов: от фотографий, ставящих исторических личностей в компрометирующие ситуации, до изменения отдельных текстов в исторических газетах и изменения имен в документах, подтверждающих право собственности. Хотя все эти методы использовались и раньше, противостоять им становится гораздо сложнее, когда стоимость создания почти идеальных подделок радикально снижена.

Есть много примеров того, как экономические и политические силы манипулировали историческими событиями в своих целях. Сталин вычистил из истории нелояльных товарищей, казнив их, а затем изменив фотографии, чтобы создать впечатление, будто их никогда не существовало. Словения, став независимой страной в 1992 году, удалила из реестра жителей более 18 000 человек — в основном представителей цыганского меньшинства и других этнических несловенцев. Согласно отчету Комиссара Совета Европы по правам человека за 2003 год, во многих случаях правительство уничтожало их физические данные, что приводило к потере ими домов, пенсий и доступа к другим услугам.

Фальшивые документы являются ключевой частью многих попыток переписать историю. Печально известные "Протоколы сионских мудрецов", впервые опубликованные в российской газете в 1903 году, якобы представляли собой протоколы заседаний еврейского заговора с целью контроля над миром. Впервые дискредитированные в августе 1921 года как подделка, полученная из множества несвязанных источников, "Протоколы" занимали видное место в нацистской пропаганде и долгое время использовались для оправдания антисемитского насилия, включая цитату в статье 32 учредительного договора ХАМАСа от 1988 года.

В 1924 году "Письмо Зиновьева", якобы являвшееся секретным коммюнике главы Коммунистического Интернационала из Москвы главе Коммунистической партии Великобритании с целью мобилизовать поддержку для нормализации отношений с Советским Союзом, было опубликовано газетой Daily Mail за четыре дня до выборов. Возникший скандал мог стоить лейбористам поражения. 

Происхождение письма так и не было доказано, но его подлинность и в то время подвергалась сомнению, а официальное расследование 1990-х годов пришло к выводу, что оно, скорее всего, было делом рук "белых русских" — консервативной политической фракции, возглавляемой в то время русскими эмигрантами, выступавшими против лейбористского правительство.

Десятилетия спустя операция "Инфекция", советская дезинформационная кампания, использовала поддельные документы для распространения идеи о том, что Соединенные Штаты изобрели ВИЧ, вирус, вызывающий СПИД, в качестве биологического оружия. А в 2004 году CBS News отозвала спорную историю, поскольку не смогла подтвердить подлинность документов, которые позже были дискредитированы как подделки, что поставило под сомнение предыдущую службу президента Джорджа Буша в ВВС Национальной гвардии Техаса.

По мере того как создавать историческую дезинформацию становится легче, а объем цифровых фейков стремительно растет, появится возможность перекроить историю или, по крайней мере, поставить под сомнение наше нынешнее понимание ее.

Перспективы политических деятелей эффективно изменить историю с помощью генеративного ИИ – не говоря уже о мошенниках, создающих фальшивые юридические документы и записи транзакций – пугает. К счастью, путь вперед был проложен теми же компаниями, которые создали риск.

Индексируя значительную долю мировых цифровых медиа для обучения своих моделей, ИИ-компании фактически создали системы и базы данных, которые вскоре будут содержать весь записанный в цифровом формате контент человечества или, по крайней мере, его значимую часть. Они могли бы уже сегодня начать работу по записи версий этих первичных документов с водяными знаками, включая газетные архивы и широкий спектр других источников, чтобы последующие подделки были мгновенно обнаружены.

Такая работа сопряжена с некоторыми препятствиями. Попытки цифровых библиотек Google отсканировать миллионы библиотечных книг мира и сделать их легкодоступными в Интернете столкнулись с ограничениями интеллектуальной собственности, в результате чего исторический архив оказался непригодным для достижения своей цели — сделать эти тексты доступными для поиска любому, у кого есть подключение к Интернету. Те же самые проблемы интеллектуальной собственности заставляют авторов и компании беспокоиться как по поводу обучающих данных, предоставляемых генеративному ИИ, так и по поводу последствия при его использовании для создания контента.