Простыми словами
Ну, вот, похоже я дождалась пока все уже потеряют к алгоритмизации мышления всяческий интерес (((
Но всё равно допишу.
Серл предложил такой мысленный эксперимент, в котором роль "понимающего компьютера" поручил сам себе.
Итак, он поместил себя в комнату без окон - без дверей, — только с небольшими прорезями. Для чего они, — сейчас расскажу.
В эти прорези какие-то добрые люди — экспериментаторы, которые хотят от него добиться разумного поведения, — просовывают тексты на китайском языке, в котором Серл не понимает ничего. Т.е. ни единого иероглифа.
Никакой другой информации извне он не получает (ну, форменный компьютер
).
А "тексты", которые ему подают, — не что иное, как истории, которые фигурировали в описании работы Шенка (про, предположим, клиента ресторана), и вопросы к этим историям, которые он якобы должен понять (И истории И вопросы), чтобы правильно ответить.
Ответы Серла: "да" или "нет" — тоже, естественно, на китайском, — он отдает тоже через эти прорези.
Серл не знает ни слова по-китайски. Но зато у него есть ряд четких инструкций на английском языке, в которых записано, ЧТО он должен сделать, получив из прорези некую последовательность символов. Ему важно только правильно сличить.
В итоге, не понимая ни слова по-китайски, он справляется с этой работой не хуже чем любой китаец, способный понять без труда все эти истории и вопросы к ним.
Таким образом, довод Серла состоит в том, что простое выполнение подходящего алгоритма ничего не говорит о понимании.
Он просовывает раз за разом правильные ответы в щели, не понимая ни текстов, ни вопросов к ним.
А дальше я уже пишу от себя.
Мммм... Не знаю, с одной стороны Пенроуз ОЧЕНЬ УБЕДИТЕЛЬНО говорит, что Серл прав на все сто, и меня как натуру доверчивую так и тянет ему поверить... Но с другой стороны, не может же один такой мысленный эксперимент послужить таким мощным контрпримером, который бы так вот одним махом бы и снял все сомнения.
И сразу доказал: да, мышление не описывается алгоритмом!
Но ведь то, что мышление не описывается каким-то частным алгоритмом, вовсе не значит, что тут же можно поставить квантор всеобщности...
Программа Шенка, пардон, написана в 1977 году. Она не обладает интеллектом. Пока еще никакая программа не обладает.
...
То, что дальше у Пенроуза с "обобщенной квантовой редукцией" тоже меня настораживает...
Кажется мне, не там надо ковырять....
Но всё равно допишу.
Серл предложил такой мысленный эксперимент, в котором роль "понимающего компьютера" поручил сам себе.
Итак, он поместил себя в комнату без окон - без дверей, — только с небольшими прорезями. Для чего они, — сейчас расскажу.
В эти прорези какие-то добрые люди — экспериментаторы, которые хотят от него добиться разумного поведения, — просовывают тексты на китайском языке, в котором Серл не понимает ничего. Т.е. ни единого иероглифа.
Никакой другой информации извне он не получает (ну, форменный компьютер
).А "тексты", которые ему подают, — не что иное, как истории, которые фигурировали в описании работы Шенка (про, предположим, клиента ресторана), и вопросы к этим историям, которые он якобы должен понять (И истории И вопросы), чтобы правильно ответить.
Ответы Серла: "да" или "нет" — тоже, естественно, на китайском, — он отдает тоже через эти прорези.
Серл не знает ни слова по-китайски. Но зато у него есть ряд четких инструкций на английском языке, в которых записано, ЧТО он должен сделать, получив из прорези некую последовательность символов. Ему важно только правильно сличить.
В итоге, не понимая ни слова по-китайски, он справляется с этой работой не хуже чем любой китаец, способный понять без труда все эти истории и вопросы к ним.
Таким образом, довод Серла состоит в том, что простое выполнение подходящего алгоритма ничего не говорит о понимании.
Он просовывает раз за разом правильные ответы в щели, не понимая ни текстов, ни вопросов к ним.
А дальше я уже пишу от себя.
Мммм... Не знаю, с одной стороны Пенроуз ОЧЕНЬ УБЕДИТЕЛЬНО говорит, что Серл прав на все сто, и меня как натуру доверчивую так и тянет ему поверить... Но с другой стороны, не может же один такой мысленный эксперимент послужить таким мощным контрпримером, который бы так вот одним махом бы и снял все сомнения.
И сразу доказал: да, мышление не описывается алгоритмом!
Но ведь то, что мышление не описывается каким-то частным алгоритмом, вовсе не значит, что тут же можно поставить квантор всеобщности...
Программа Шенка, пардон, написана в 1977 году. Она не обладает интеллектом. Пока еще никакая программа не обладает.
...
То, что дальше у Пенроуза с "обобщенной квантовой редукцией" тоже меня настораживает...
Кажется мне, не там надо ковырять....
-
-
20.10.2007 в 18:45Это должна быть самомодифицирующаяся программа, способная создавать себе новые функции и запоминать новые типы данных. А это сложно реализовать в первую очередь из-за самих программистов. Просто мы не до конца понимаем, что хотим сделать. Каким должен быть этот алгоритм. Тем более сложно его реализовать из-за его размеров. Т.е. множество программистов не могут просто так взять и написать согласованный алгоритм. Над ними должен быть кто-то. Но этот кто-то должен понимать весь алгоритм целостно. А как такое возможно, если этот алгоритм должен быть чрезвычайно сложным?
-
-
20.10.2007 в 19:07Умные люди с пеной у рта доказывают, что такого алгоритма нет в принципе. И даже если отставить "божественную составляющую", то вот так вот просто: ни ИНТУИЦИЮ, ни ТВОРЧЕСКОЕ НАЧАЛО (говорят они) никаким алгоритмом описать нельзя. Не потому что он слишком СЛОЖЕН, а потому что его НЕТ.
Вот в чем загвоздка.
Но если нет алгоритма, может быть есть что-то другое? Только вот ЧТО???
-
-
20.10.2007 в 19:24-
-
21.10.2007 в 02:00Самого Серла можно истолковать и так: Внутри Серла есть инструкции, записанные в его память (благоприобретенные в процессе существования), которые позволяют ему оценить ситуацию с любителем гамбургеров, соотнести эти два слова с широким спектром понятий "человек", "клиент", "толстяк" и т.д., понять, что ему задают вопрос и решить, что стоит ответить "да", поскольку если он промолчит - то на него обидятся, а если скажут "нет" - его сочтут глупцом, что имеет отрицатеьную ценность. И чем же он отличен от компьютера?
-
-
21.10.2007 в 17:04было бы всё так просто...
Даже не вдаваясь в дефиниции, потому что определение "понимания" действительно уходит в область философии, всегда можно просто "эмпирически" отграничить "понимание" от "бездумного выполнения инструкций".
И как раз вот эта "простота", наверное, больше всего и создает трудностей...
Я здесь не знаю, на чьей стороне, поэтому не буду с пеной у рта доказывать, что Серл чем-то отличен от компьютера ))))
Хотя, всё-таки велика вероятность, что это так ))))
-
-
21.10.2007 в 17:14Да, выполнение простого алгоритма ничего не говорит о понимании (да зачем далеко ходить за примером, сколько пользователей нажимают кнопки в офисных программах так, как им сказали, и при этом не понимают сути своих действий; им главное - результат). Но интеллект не ограничивается решением таких простых задач.
А что касается алгоритма мышления — мне кажется, его можно создать. Я верю в материальность человеческого мозга) То есть можно взять мозг и описать каждую его клетку законами физики и биологии. Только вычислительная сложность такого алгоритма будет современным компьютерам пока еще не под силу. И потом, возникнет еще одна серьезная проблема искусственного интеллекта: кто станет 10 лет водить этот алгоритм в школу, чтобы обучить его хотя бы базовым вещам?
-
-
21.10.2007 в 18:34Я (поскольку профессионально интересуюсь "голографическим распределением памяти") знаю такие работы с огромными голограммами, которые учатся распознавать образы на основании нечетких логик. И когда я спросила у разработчиков (авторов эксперимента): а что же там внутри происходит при обучении? Они сказали: да кто ж его знает? Вы ж к себе в черепушку не залезете. Вот и там: черный ящик.... Но обучается. Как ребенок...
Я НЕ ПОНИМАЮ!
Это просто крик души!!! ))))
-
-
21.10.2007 в 20:10Ой, как интере-е-е-сно!
А ЧТО ЖЕ ТАМ ВНУТРИ ПРОИСХОДИТ ПРИ ОБУЧЕНИИ? Они сказали: да кто ж его знает?
Ну, как происходит - оно известно из документации =)). А на вопрос "что" - лучше всего ответить: "А вон, сама посмотри!" =) Поскольку для объяснения придется всё раскладывать по шагам, а это займет примерно столько же, сколько разобъяснение, почему "Дип блю" поставил шах Каспарову на е3, а не на е4, перебрав пару миллиончиков вариантов. ^^
Я верю в материальность человеческого мозга) То есть можно взять мозг и описать каждую его клетку законами физики и биологии. Только вычислительная сложность такого алгоритма будет современным компьютерам пока еще не под силу.
Правильно - если мозг материален, значит, как-то там же происходит мышление? Мозг из атомов и компьютер из атомов - принципиальное различие только в сложности.
С религиозной точки зрение мышление есть, только если есть "душа". В одной буддийской притче, например, черный маг создал против Будды волшебное войско, которое тот уничтожил одним пальцем. Когда же обиженный маг стал кидать предъявы, мол, как же так-то - ты же должен соблюдать заповедь никого не убивать, а гляди, сколько народу загубил - Будда ответил: "Убийства не было, поскольку у этих созданий не было Истинной Природы и, следовательно, они были не живые". По-моему, любопытно и перекликается с темой ^^
-
-
21.10.2007 в 22:17Мне тоже )))))
Только вот что-то буксую отчаянно...
А как эта голограмма действует они действительно не знают.
Но даже и то, что знают, рассказать мне не могут, потому что уже после слов про "обычное преобразование Фурье" я впадаю в транс. Не могу никак объяснить физикам, что я не владею преобразованием Фурье... И вот на вопрос "а какое оно?" они так и говорят: "Обычное" (((
А насчет "божественной составляющей мышления" и буддизма — я уже в этом сообществе писала ))))
-
-
21.10.2007 в 23:04По поводу того, что же там происходит внутри...) Здесь, наверное, уместен будет пример нейросетей. Насколько я знаю, в основе работы всех обучающихся систем лежит тот же принцип: очень большое количество сочетаний простых элементов, и каждый элемент в процессе обучения может менять свое состояние. В типичной нейросети у каждого элемента есть входы и выходы, каждый элемент умножает сигналы, полученные со входов, на некоторые коэффициенты (определяемые состоянием элемента), применяет к полученной сумме пороговую функцию (пороги также определяются состоянием элемента) и направляет результат (0 или 1) на выходы. И все элементы как-то хаотически связаны друг с другом. Есть "входные" элементы - те, куда подается входной сигнал, и "выходные" - те, которые должны выдавать результат "мышления". Реакция всей системы на образ — это сигналы на выходах "выходных" элементов, а при обучении каждый новый образ меняет состояние (коэффициенты) в элементах тех цепочек, которые внесли наибольший вклад в формирование результата; алгоритм поиска таких цепочек и изменения состояния, как правило, задается заранее.
И после обучения схема начинает выдавать на выходе верные ответы, но, попытавшись разобраться в ее работе, мы увидим только дикое нагромождение чисел, не поддающихся систематизации.
Пожалуй, когда нейросети начнут всерьез играть в шахматы, то вот тогда придет время всерьез задуматься, а нужен ли человек окружающим его компьютерам)
Apprehension, познавательно) и действительно в тему)
-
-
21.10.2007 в 23:12-
-
22.10.2007 в 00:12А описать разум четким алгоритмом — другая задача. Более заманчивая, конечно, но мне кажется, что ее решение, если и будет найдено, то либо получится таким громоздким, что один человек будет не в состоянии досконально его понять, либо получится красивым и изящным, но будет оперировать лишь своими терминами, которые можно будет соотносить с реальным миром только опять-таки необозримо громоздкими преобразованиями.
-
-
22.10.2007 в 00:59Ага, еще одного субъективного шизофреника, не способного трезво оценить ситуацию =))
ее решение, если и будет найдено, то либо получится таким громоздким, что один человек будет не в состоянии досконально его понять, либо получится красивым и изящным, но будет оперировать лишь своими терминами, которые можно будет соотносить с реальным миром только опять-таки необозримо громоздкими преобразованиями
Насчет первого случая я примерно того же мнения. Но, собственно, это и не нужно. Можно ведь разобрать и понять отдельные элементы. Сейчас ведь никто и не знает всех тонкостей функционирования ПК и ПО на нем. Но они тем не менее по-прежнему развиваются, ими по-прежнему пользуются и вообще этот факт никого особо не тревожит. Но я сомневаюсь, что такой алгоритм можно создать гибким. Ведь это практически наверняка должен быть самомодифицирующийся код.
-
-
22.10.2007 в 17:00Ну, вот, похоже я дождалась пока все уже потеряют к алгоритмизации мышления всяческий интерес (((
Неее, мне очень интересно. Но т.к. я ничего умного здесь вставить не могу, я молчу и читаю
-
-
22.10.2007 в 17:39Ага, так что лучше молчать. *почесывая ушибленный затылок* а то тут затрещины дают, если чего не то скажешь...
-
-
22.10.2007 в 18:40Да ладно... В споре рождается истина.. Или запутывается истина... Зависит от спорщиков
-
-
22.10.2007 в 18:58-
-
22.10.2007 в 20:09Disprein Killen Minority
Насчет нейросетей: я давеча читала, что их сложность на сегодняшний день (не "сложность организации", а "сложность..." ммм... в плане "человеческом", как "сложность нервной системы" — сравнима с нервной системой муравья. Может, данные несколько устарели, но, думаю, пока не намного. Хотя строятся гигантские супер-нейрокомпьютеры...
А вот всем рекомендую Лема "Голем IV"... Четвертый ли? В номере Голема могу ошибаться... Но рассказ как раз вот про это: про созданный разумный компьютер. Очень грустный.
Насчет же голограммы: да, там есть что-то такое "нейросетевое", но нейросеть какая-то хитрая... Я просто боюсь соврать, потому что не помню.
Но всё тот же Пенроуз, который разделил алгоритмы на два больших (непересекающихся) класса: восходящие и нисходящие по принципу способности к обучению и само-изменению в процессе обучения, доказал что разум нельзя описать ни тем, ни другим классом.
Я нисколько не утверждаю, что устами Пенроуза глаголет истина. Но опровергнуть его доказательства тоже не могу... (Да и куда мне))))))
-
-
22.10.2007 в 22:25И если я не ошибаюсь, то преобразование Фурье — это разложение входного сигнала на гармоники, то есть на синусоидальные колебания.
Я правильно понимаю, что Пенроуз религиозен?)
-
-
22.10.2007 в 22:47Да, только вот, как оно получается, не знаю, к сожалению...
Пенроуза скорее можно отнести к платоникам. Т. е. он почти открыто утверждает (хотя, конечно, только в лирических отступлениях) что всё уже существует в идеальном мире (мире идей Платона). Т.е., узнавая что-то новое, мы просто получаем доступ к тому, что было всегда, но до сей поры оставалось вне досягаемости нашего ума...
-
-
23.10.2007 в 03:24-
-
23.10.2007 в 14:43Надо какой-нибудь учебник по оптике проштудировать на досуге...
-
-
23.10.2007 в 23:43творчество по моему вообще спонтанный и
непозноваемыймистический процесс... все остальное костыли человеческого самомнения как видамогу пример привести из собственных моих недавних переживаний... возможно придуман велосипед, но это все равно творчество, потому, что придуман велосипед мной...
короче не важно какая задача решалась.... (задача экономическая)
стимулы к решению
1. набор знаний в исследуемой предметной области
2. байки Жака про экономические казусы , никакого отношения к исследуемой области не имеющие (в сообществе публиковались некоторые лекции Жака, проф. д.т.н.)
3. написание мной, одного из постов в моем дневнике про студента плохо понявшего, чем потребитель отличается от покупателя
4. просмотр эпизода в сериале , про сапог алкаша .Диалог примерно такой "- Ты чего сапог потерял? - Почему потерял? Нашел! Ведь это как посмотреть" в сцене Алкаш идет по улице в одном сапоге
временной лаг от пункта 2 до п.4 порядка 2,5 недель, п. 4 был доминантным фактором, рычагом на включение... чего уж там включилось не знаю....
-
-
24.10.2007 в 13:06Все дело в т.н. "метафорическом мышлении". Включаются ассоциации. А вот законов, по которым нечто ассоциируется с чем-то другим, наверное в общем виде не существует.
На то мы все чуть-чуть и шизофреники, что студенты у нас ассоциируются с сапогами без пары )))
А ведь похоже, это и на самом деле так: творчество начинается уже ЗА ГРАНИЦАМИ условных норм.
За границами алгоритмизации. За пределами того, что можно предсказать, описать, вложить в заданные рамки. И тут даже эвристики не спасут. Эвристики лишь могут сократить количество просматриваемых вариантов — уменьшить (если повезет) алгоритмическую сложность. Но никак не создать что-то, ранее неведомое.
А тут всего лишь надо: уловить скрытые связи. Т.е. надо всё же быть шизофреником. Хоть капельку...
Мы тут наверно все такие и есть... Никому лично в обиду не будет сказано ))
-
-
24.10.2007 в 13:16-
-
24.10.2007 в 13:20Но тема эта уже здесь просто доминирующая )) Любой пост этим и заканчивается ))))))
Т.е. есть алгоритм — нет творчества;
есть творчество — нет алгоритма...
Где-то так...
-
-
24.10.2007 в 13:25Ну, а о творчестве алгоритма я вообще молчу - это не редкость, все программисты этим и занимаются, что творят алгоритмы.
-
-
24.10.2007 в 13:36-
-
24.10.2007 в 13:52И все эти убогие костылики, коих сейчас море: типа, тренинги творческого мышления: всё это просто позволяет чуть-чуть рашевелить закостеневшие извилины, но по-настоящему творческие способности таким образом не разовьешь... Точно так же и с их описанием.
Не сбросить со счетов "наитие". А его никак алгоритмом не опишешь.
chebur12 )))