Ну, вот, похоже я дождалась пока все уже потеряют к алгоритмизации мышления всяческий интерес (((
Но всё равно допишу.
Серл предложил такой мысленный эксперимент, в котором роль "понимающего компьютера" поручил сам себе.
Итак, он поместил себя в комнату без окон - без дверей, — только с небольшими прорезями. Для чего они, — сейчас расскажу.
В эти прорези какие-то добрые люди — экспериментаторы, которые хотят от него добиться разумного поведения, — просовывают тексты на китайском языке, в котором Серл не понимает ничего. Т.е. ни единого иероглифа.
Никакой другой информации извне он не получает (ну, форменный компьютер ).
А "тексты", которые ему подают, — не что иное, как истории, которые фигурировали в описании работы Шенка (про, предположим, клиента ресторана), и вопросы к этим историям, которые он якобы должен понять (И истории И вопросы), чтобы правильно ответить.
Ответы Серла: "да" или "нет" — тоже, естественно, на китайском, — он отдает тоже через эти прорези.
Серл не знает ни слова по-китайски. Но зато у него есть ряд четких инструкций на английском языке, в которых записано, ЧТО он должен сделать, получив из прорези некую последовательность символов. Ему важно только правильно сличить.
В итоге, не понимая ни слова по-китайски, он справляется с этой работой не хуже чем любой китаец, способный понять без труда все эти истории и вопросы к ним.
Таким образом, довод Серла состоит в том, что простое выполнение подходящего алгоритма ничего не говорит о понимании.
Он просовывает раз за разом правильные ответы в щели, не понимая ни текстов, ни вопросов к ним.
А дальше я уже пишу от себя.
Мммм... Не знаю, с одной стороны Пенроуз ОЧЕНЬ УБЕДИТЕЛЬНО говорит, что Серл прав на все сто, и меня как натуру доверчивую так и тянет ему поверить... Но с другой стороны, не может же один такой мысленный эксперимент послужить таким мощным контрпримером, который бы так вот одним махом бы и снял все сомнения.
И сразу доказал: да, мышление не описывается алгоритмом!
Но ведь то, что мышление не описывается каким-то частным алгоритмом, вовсе не значит, что тут же можно поставить квантор всеобщности...
Программа Шенка, пардон, написана в 1977 году. Она не обладает интеллектом. Пока еще никакая программа не обладает.
...
То, что дальше у Пенроуза с "обобщенной квантовой редукцией" тоже меня настораживает...
Кажется мне, не там надо ковырять....