Ученый: ИИ не способен превзойти человека и опасен именно этим

Искусственный интеллект в том виде, в котором он существует сейчас, никогда не сможет превзойти человека в способности мыслить комплексно. Об этом пишет ученый-исследователь ИИ Питер Дэннинг в своей книге "Ошибка Тьюринга: освобождение от гнета неразумных машин", передает unian.net

По мнению исследователя, ключевым недостатком даже самых умных нейросетей является отсутствие комплексного опыта, из которого формируется "неявное знание". Дэннинг подчеркивает, что люди постоянно накапливают такое "неявное знание" в ходе своей обычной жизни и активно применяют его в повседневных ситуациях. При этом как-то систематизировать и выразить это знание в форме, понятной для компьютера, крайне сложно, считает ученый.

Дэннинг перечисляет пять столпов "неявного знания", которое невозможно передать как информацию и можно приобрести только на собственном опыте:

• здравый смысл;
• практические навыки и связанное с ними глубокое понимание законов физического мира;
• интуиция и творческое воображение;
• невербальный опыт общения;
• понимание культурного и социального контекста.

Ученый подчеркивает, что современные нейросети, вроде ChatGPT и ему подобных, пользуются словами, понимая лишь их базовое значение, но упуская огромный пласт сопутствующих коннотаций.

"Слово является лишь символическим обозначением, за которым стоит колоссальный пласт человеческого опыта. Человеческий язык полностью зависит от контекста - иронии, искренности, юмора или сарказма. Поскольку каждый контекст опирается на предварительные разговоры и ситуации, эта структура бесконечна", - поясняет Дэннинг.

В этой связи ученый видит главную угрозу от ИИ не в том, что он сможет стать "умнее" человека, а в том, что ИИ не способен до конца обрести "неявное знание". Из-за этого, по мнению Дэннинга, нейросети будут действовать быстро и мощно, но непредсказуемо и потенциально вредно для человека как раз из-за непонимания контекста ситуации и человеческих ценностей в целом.