Основатель Википедии: ИИ "сеет хаос" в статьях, но через 50 лет может превзойти человека

По его словам, статья в интернет-энциклопедии, написанная сегодня с помощью ChatGPT-4, "ужасна" и "непригодна для чтения", потому что она "многое упускает, многое делает неправильно, подменяет понятия и придумывает источники", передает euronews.com

"Получается полный бардак", – сетует он.

Уэйлс считает, что в настоящее время искусственный интеллект находятся на ранней стадии развития, а для создания "сверхчеловеческого ИИ" потребуется не менее 50 лет.

Даже если в отдалённом будущем ИИ может превзойти человека, более вероятно, что инструменты ИИ будут лишь помогать ему в интеллектуальной деятельности, играть сопутствующую роль.

Самый дорогой стартап в США, OpenAI, появился на свет в прошлом году и стал всемирно известным благодаря ChatGPT.

Технология принимает инструкции и вопросы и отвечает на них с жутким человекоподобием, основываясь на источниках, которые она собирает в Интернете. Чат-бот может использоваться для написания эссе или составления аналитических заметок. При этом он нередко выдаёт недостоверную информацию. На жаргоне программистов это называется "галлюцинациями".

Компания-создатель самого мощного чат-бота погрузилась в хаос на прошлой неделе, когда с своей должности был смещён генеральный директор и соучредитель компании Сэм Альтман, а спустя всего несколько дней вновь принят на работу после того, как сотрудники пригрозили совету директоров массовым увольнением.

По словам Уэйлса, "тревожно", что это произошло в такой влиятельной компании, но "скорее всего, все пройдет, как будто ничего не случилось".

Уэйлс убеждён, что OpenAI, скорее всего, наведёт порядок:  "Это хороший урок для всех видов стартапов, ведь уже на ранней стадии необходимо думать об управлении, о стабильности принятия решений".

Википедия и ИИ

Несмотря на критику существующих моделей генеративного ИИ, Уэйлс не исключил возможности использования ИИ в Википедии.

По его словам, если создать инструмент, который будет находить ошибки в статье, сопоставляя её с источниками, которые она использует, то это поможет устранить неточности.

Он даже отметил в интервью Euronews, что рассмотрел бы возможность сотрудничества с компанией, занимающейся разработкой ИИ с открытым исходным кодом, который не противоречит принципам Википедии. Пока таких технических решений нет, уточнил Уэйлс. 

"Большинство компаний, а не только такие некоммерческие организации, как мы, скажут, что нужно быть очень осторожным, если вы собираетесь положить в основу своего бизнеса технологию, которая контролируется кем-то другим, потому что если ваши партнёры пойдут в неправильном направлении, весь ваш бизнес может оказаться под угрозой", – говорит он.

Тем не менее основатель Википедии "открыт" для тестирования моделей и пилотных программ.

Многоязычная интернет-энциклопедия по-прежнему важна для генеративного ИИ, поскольку для создания контента она использует информацию, опубликованную в сети. Поэтому Википедия должна быть точной и не допускать предвзятости, в чём обвиняют и ИИ, и 7-й по посещаемости сайт в мире.

Для соблюдения гендерного баланса и борьбы с дезинформацией в Википедии существует своя добровольная армия "википедистов". В основном это редакторы-мужчины. По словам Уэйлса, представители сообщества способны различать фейковые сайты и легко определяют, был ли текст написан человеком или машиной.

Однако с предвзятостью бороться гораздо сложнее, поскольку она может быть исторической: например, в XIX веке было меньше женщин-учёных, и о них мало писали в то время, поэтому "википедисты" не могут написать о них так много. Или же это может быть неосознанная предвзятость, когда у 28-летнего редактора-ботаника могут быть другие интересы, чем у 55-летней матери семейства.

В борьбе с предвзятостью ключевую роль играет разнообразие, и компания стремится к этому.

"Это реальная проблема, и, очевидно, мы чувствуем большую ответственность, поскольку мир зависит от Википедии, а модели искусственного интеллекта зависят от качества Википедии", – утверждает Джимми Уэйлс.

Перепалка с Илоном Маском

Дезинформация и ненавистнические сообщения в Интернете вызывают недовольство Уэльса, что даже привело к столкновению с Илоном Маском, который предложил 1 млрд долларов (915 млн евро) за то, чтобы Википедия изменила своё название на "Дикипедия" по англоязычному названию мужского полового органа.

Уэйлс не стал отвечать на твит (вернее, на икс?) миллиардера. 

"Тебе что, 12 лет, Илон?" – говорит он в интервью Euronews.

Предложение перевести на счёт Википедии 1 миллиард поступило после того, как Уэйлс раскритиковал Маска за увольнение модераторов платформы X, что, по словам основателя глобальной энциклопедии, привело к росту всевозможных проявлений расизма и токсичного поведения на платформе и, вероятно, повлияет на доходы от рекламы.

"Вы не можете одновременно управлять токсичной платформой и ожидать, что рекламодатели будут давать вам деньги", – заявил тогда Уэйлс, добавив, что они с Маском "дружат", переписываются и обмениваются "любезными сообщениями".

По его словам, он всё ещё пользуется X, но удалил приложение из своего телефона, что сделало его жизнь "намного лучше", поскольку он может заниматься более важными делами.