Искусственный интеллект, разум и китайская комната

Представьте, вы общаетесь с искусственным интеллектом. Он отвечает на любые вопросы, сам поддерживает беседу, рассказывает про детство, вспоминает прочитанные книги. Можно ли сказать, что у него есть разум?

С философской точки зрения - нет. Американский философ Джон Серл предложил такой мысленный эксперимент:

Представьте комнату в Китае, в которой сидит человек, который не говорит по китайски. Внутри комнаты масса книг и инструкций по китайскому языку. Через окошко китайцы дают ему бумажки с иероглифами - задают вопросы, делают утверждения.

Человек с помощью инструкции и разговорников находит самые подходящие ответы. Таким образом китайцам кажется, что он понимает язык. Им кажется, что он общается рационально.

На самом деле человек не понимает, о чем идет речь, он просто находит самые подходящие по смыслу иероглифы в справочниках и бездумно их перерисовывает, чтобы дать ответ.

Точно так же машины симулируют человека. Но они такие же бессмысленные как и действия человека в китайской комнате.

Все программы являются синтаксическими системами. А сознание человека семантическое. Нам необходимо отношение между символом и его значением.

Никакая машина, которая действует на основании символов, не может быть рациональной. Синтаксис не рождает семантику.

Даже если машина действует разумно, она все равно ничего не понимает. У нее нет разума. Она не может ставить цели и их достигать.

Например в 2014 году программа Eugene Goostman смогла пройти тест Тьюринга, т.е. человек, который с ней общался, был уверен, что говорит с настоящим человеком, но это была только “китайская комната”