[Дилетант]

Кто о чем, а я опять за своё.
То есть обращаюсь к сообществу с вопросом. Причем вопрос этот я уже задавала, но теперь меня интересует несколько другой аспект того же самого.
Вот смотрите: предположим, мы создали искусственный интеллект. Самый настоящий, который сам думает, сам решает задачи, причем он может видеть, слышать и при этом правильно распознает увиденное и услышанное. (Входных каналов может быть и больше: факт тот, что они есть). И, естественно, выходные каналы есть тоже. То есть система полностью открыта на вход и на выход.
И вот вопрос: что будет заставлять ее думать? Какая у нее будет движущая сила? Откуда возьмется "потенциальная энергия думанья"?
Сейчас поясню по-другому. Вот, возьмем человека. Ему надо есть-пить-жить в тепле и достатке-... (список, вестимо, можно продолжать), и для этого ему необходимо предпринимать какие-то действия. А чтобы их предпринять, надо прежде подумать. Это раз. Еще человек себя развлекает. Разные люди делают это по-разному, но некоторые используют для этого интеллект. Это два. В каких случаях люди думают еще? Ну, если им просто любопытно! Если им хочется что-то узнать: просто так, ни для чего! Вот этот, третий, случай мне как раз и интересен!

Вернемся к нашему искусственному интеллекту: есть-пить-жить в тепле ему не надо: его обслуживают приставленные техники. Развлекать себя ему тоже незачем. Если поставить перед ним задачу, он ее решит (если захочет). Но что заставит думать его при отсутствии внешних стимулов?

То есть человек априорно "замотивирован" на думанье. Мотивы у него разные, но мне интересен только один. В одной умной книжке это называется "школьный потенциал личности". Как я это понимаю: это просто стремление к новым знаниям, ничем не мотивированное, и знания эти не имеют никакой "прагматики", т.е. они ни для чего конкретно не нужны.
Вот если бы его, этот школьный потенциал, "привить" машине, она бы смогла думать.
А без этого, кажется, автономной системы не получится никак.

В той же умной книжке я вычитала, что школьный потенциал измеряется спец. тестами на любознательность (об этом я здесь тоже писала).
В интернете с тех пор, как я искала такие тесты в последний раз, ничего не изменилось. Есть только один, и он таков:

Пройти тест на любознательность

А что вы думаете по этому поводу?
Что заставляет человека думать о вещах не жизненно необходимых?
И можно ли этому (в принципе) научить искусственный разум?

Comments

[chebur12]

Дилетант я тут подамала.... что ты пытаешся решить задачу... бога...
а к вопросу поста
1.дай определение "думания"...
2.выдели более локально задачу... потому что любознательность обусловлена множеством моментов связанных и не связанных друг с другом... от психологии до отсутствия завтрака...
3. способ зарабатывания хлеба насущного определяет уровень степень/силу любознательности


зы
некорректно ставиш вопрос

[Дилетант]

chebur12
может быть, некорректно.
Суть в чем.
У нас есть система, способная решать некоторые задачи, которые решает человек. Причем, так же хорошо. А другие задачи (связанные с вычислениями) она решает гораздо лучше. Плс к тому, в ней развита "интуиция". То есть она что называется может думать "самостоятельно". Делать какие-то нетривиальные выводы. Мыслить творчески.
Так вот, что будет являться ее движущей силой? Что будет заставлять ее думать? Что будет ей стимулом для думанья?
Если ей поставить задачу — да, она будет над ней думать. А если нет?
У Волкова в "Системном анализе" есть такое понятие, как "самодвижение целостности". Мол, система сама противостоит энтропийным явлениям, и в ней возникают явления негэнтропийные.
Про то, почему они появляются, учебник скромно молчит.
Я вобще сомневаюсь, что в системе без "воли" могут откуда ни возьмись проявиться тенденции к упорядочиванию. (Изнутри, имею в виду, то что извне — с этим без проблем).

У Лема есть замечательный рассказ. Голем IV (или Голем XIV (?))
Суть в том, что люди создали действительно умную машину (мыслящую). И она очень быстро "ушла в себя", "закуклилась" )))
Перестала общаться со своими создателями )))
(И я думаю, правильно сделала)
И даже было непонятно, думает она о чем-то или вообще ни о чем не думает...

Но у меня вопрос уже: есть ли что-то внутри системы, что заставит ее как-то "упорядочиваться", т.е. думать в отсутствии поступлений внешней энергии в виде побуждения к думанью.
Опять путанно (((
Но я и четкого ответа ведь не жду )))

[chebur12]

Дилетант ну ты сама... даешь ссылку на термодинамику.... и мне кажется ответ в твоем пояснении про внешнее воздействие которое приводит к внутренним изменениям...
получается ты должна решить задачу того какие внутренние изменения приведут к внешним проявлениям....

короче говоря... ты не стой стороны смотриш.... так как ты не знаешь что внутри... но можешь знать что на выходе
значит предполагай что внутри происходит нечто приведшее к результатам...
тогда:
1.моделируешь ВСЕ возвожные (вероятные) варианты внутри
2. проверяешь последовательно каждый один вариант
3. проверяешь сочетание каждых 2-х вариантов
4. проверяешь все действующие варианты в сочетании
5.сравниваешь пункты 2-4

С другой стороны ты говориш о потенциале....векторное поле, циркуляция которого вдоль любой замкнутой траектории равна нулю то есть однозначно следуя определению потенциала можно говрить о том, что потенциальное любопытство - дает нулевой выход...
и за отправную точку можно взять, ТО))) что любая система ИИ потенциально любопытна... ведь у тебя проблема не в потенциальном любопытсве?)) (софистика конечно), но в этом случае имеем две ключевые позиции:
1. любая ИИ потенциально любопытна
2. ИИ любопытна в случае сигналов выхода
3. пункт 2 возможен, если внутри системы существует "напряженность" связей, то есть "что-то" оказывает влиние на систему из нутри вынуждая давать сигнал на выход, это что-то обладает достаточной энергией чтобы сосдать сигнал

ну, несколько бредово..... получилось, но в общем вижу так)))

Хмм. насколько я понимаю, для искусственного интеллекта нужно написать программу, которая получала бы информацию из ежедневно обновляемых баз данных, из множества областей - вот оно будет, любопытство. на основе этого "опыта" могла делать выводы, разговаривать с людьми и выдавать аналитические решения на поставленные задачи.

почему и как человек думает... ты знаешь, большинство не думает, и прекрасно без этого обходится просто живет-ест-пьют (последнее чаще). думают такие странные любопытные, как мы. вероятно, от скуки. от вселенской скуки и желания найти что-то лучшее. от желания продлить лень и упростить решение ежедневных задач, вроде "где взять денег?". от мечты.

[Дилетант]

chebur12

даешь ссылку на термодинамику

термодинамика тут только чтобы было от чего оттолкнуться. Точнее даже оттого, что терминологии похожей больше нигде нет. А разговаривать на каком-то языке надо!

1. любая ИИ потенциально любопытна

С какой стати? Под "любопытством" я понимаю бесцельное+осознанное приобретение знаний. Под "бесцельным" понимается то, что оно не нужно для решения текущих (и прогнозируемых задач). Под "осознанным" понимается то, что система намеренно тратит энергию для получения именно этих знаний.
Боюсь априорно никакая из мыслимых систем таким свойством не обладает. В том и печаль...

Серебряный

для искусственного интеллекта нужно написать программу, которая получала бы информацию из ежедневно обновляемых баз данных, из множества областей

Я имею в виду нечто даже более совершенное. Мыслящая машина с органами зрения, слуха, осязания, обоняния и т.д. и т.п.
Но и ладно, пусть даже программа. Важно вот что:
которая получала бы информацию из ежедневно обновляемых баз данных, из множества областей
Кто ей будет это давать?
Если "кто-то", то это не считается, а если она сама, причем по собственной инициативе, то откуда эта инициатива берется? Именно это меня интересует.

[Крутой Ник]

вероятно, от скуки. от вселенской скуки и желания найти что-то лучшее. от желания продлить лень и упростить решение ежедневных задач, вроде "где взять денег?". от мечты.

как метко..

А вобще взять ребенка. Сперва он накапливает инфу, учится выдавать нужные слова в нужных ситуациях, а в каком-то возрасте начинает задаваться вопросом "почему?". Например, цветок поливают водой, и он растет. Полили - вырос.. Это можно воспринять, как 2 факта, запомнить и использовать. Ребенок же хочет знать почему эти явления связаны (соглашусь, что далеко не каждый взрослый так дотошен). Так вот, интерес, кажется, это обнаружение в причинно-следственной цепочке информационного пробела и желание его устранить. Удовлетворенный же интерес может быть определен как состояние, когда ты можешь мысленно смоделировать весь процесс. Значит, в машину нужно задать такую программу, которая заставит ее при обнаружении пробела в имеющейся инфе заниматься поиском недостающей информации.

[cytoex]

(если захочет)

Что значит - "если захочет"? В любом случае, это будет ИИ известной степени ограниченности, который не сможет даже предположить вариант возможности перечить людям. В этом и состоит главная сложность: как заставить "мозг" машины думать совершеннее человеческого, при этом не подвергнув его различного рода слабостям.

[Дилетант]

Omnicide
то есть, машина должна заниматься постоянной интроспекцией, и если не все свои знания (точнее, не все известные ей факты) она может объяснить, то она тут же должна искать нужную информацию? Это здорово!

[Дилетант]

Цитоэкс
если интеллект будет наделен свободной волей, он сам может решить, чего ему хотеть. )))
А иначе творческого мышления не добиться никак.

[Minority]

ну, я все же придерживаюсь скромного мнения, что человек просто физически не умеет бодрствовать и не думать. Прям вооооообще не думать - не может. Пусть иногда мы не можем четко сказать, о чем мы сейчас думаем, но мысли-то вертятся! Процесс более глубокого мышления, аналитического, появляется при возникновении проблемы.Я считаю, что вариант "захотелось" - это тоже своего рода возникновение проблемы, ну вот прямо просто так желаний не возникает на ровном месте.. Любопытство - это прежде всего проявление интереса к области знаний, в которой ты чего-то не знаешь. Как правило, оно проявляется тоже не на пустом месте, а как уже сказано выше, при столкновении с процессом, который мы не можем полностью "смоделировать" и объяснить и пытаемся заполнить пробел в знании.
Т.о. искусственный интеллект должен думать постоянно, но при этом до возникновения какой-либо проблемы или задачи, я думаю, у него должен идти "автономный режим", без глубокого анализа чего-либо, ибо система не должна перегружаться

[Крутой Ник]

Дилетант

то есть, машина должна заниматься постоянной интроспекцией

Скажем так, в те моменты, когда перед ней не стоит задач, связанных с выживанием или поставленных человеком. Вобщем в свободное от работы время=) Собственно, это будет упрощенной моделью человека думающего, если отбросить все прочие мелочи из которых складывается жизнь.

тут же должна искать нужную информацию

Можно также задать источники поиска. Например, инет.

[Amicus Plato]

Minority
человек "не может не думать" уже в силу факта, что он человек. Тут как раз всё верно.
Но у каждого человека его мысли — его скакуны. Всё это происходит "непрограммируемо" и спонтанно. И, главное, говорю же, так или иначе, у человека есть мотивация... А как этого добиться в искусственной системе, которой ни холодно, ни жарко, ни кушать не хочется, ни служебной карьеры, ни любви?..

Omnicide

Собственно, это будет упрощенной моделью человека думающего, если отбросить все прочие
мелочи из которых складывается жизнь.

вполне возможно. Интересно, сможет ли такая модель получить какие-нибудь нетривиальные результаты? Инета мало. Важны личные наблюдений и их интерпретация (опять же личностно окрашенная (имхо)). Иначе мы получим просто полную энциклопедию, но ничего больше.

Дилетант

Если "кто-то", то это не считается, а если она сама, причем по собственной инициативе, то откуда эта инициатива берется? Именно это меня интересует.

и-эх, понимаешь, любая машина - это совокупность датчиков (зрение, слух, обоняние) и программ-драйверов, которые обрабатывают информацию от этих датчиков. подключится она, скажем, к Википендии - а что, вполне динамическая база данных - и будет потом разговаривать и действовать согласно имеющейся инфомации и в рамках собственной программы. здесь ключевое - программа, которую пишут; есть программы самообучающиеся, но даже они исходят из того, на что запрограммированы.
поэтому если ты ищещь ответ на вопрос "почему машина будет думать?" - то ответ, имхо, нужно искать у разработчика. это разработчик ее создает - от скуки, от лени или из мечты о счастливом будущем, когда ему, разработчику, можно будет не думать, ведь за него это сделают машины.

Omnicide пасиб.

[Дилетант]

Вот знаете, если человека поместить в соленый раствор (так, чтобы гравитацию скомпенсировать), имеющий температуру тела, и и лишить его зрительных и слуховых раздражителей: комната со звукоизоляцией и электроосвещением без окон, т.е. лишить всех сенсорных каналов, он быстренько тронется умом. Необратимо.
То есть всё-таки человек думает не сам по себе. Его к этому внешние обстоятельства принуждают... (как это ни печально).

[Minority]

Amicus Plato
Как это ей не хочется кушать? Думаете, что они будут сами себе АЭС? Мотивацию можно зашить программно. Что мучает человека испокон веков? Вопрос смысла жизни.. Каждому человеку для душевного комфорта нужен какой-то жизненный вектор - вести праведную жизнь и попасть в рай, вырастить сына и построить дом, достигнуть каких-то карьерных высот, увидеть что-либо... Неважно, что, главное, чтобы это что-то было. Иначе мы впадаем в депрессии, ищем смысл жизни и не понимаем, нафига это все вообще нужно..
Думаю, что ИИ можно лишить этой досадной оплошности и вживить ей какую-то цель. Конечно, при этом следует очень хорошо продумать эту цель, чтобы не вышло как в фильмах "Я, робот" или "Терминатор".

[Minority]

и да... у любой системы в принципе должен быть инстинкт самосохранения - он должен защищать себя, если это не вредит жизни человеков. вот и еще одна мотивация

описанное состояние мне напоминает смерть ты тоже останешься один на один с самим собой
это скорее вопрос, как он думает - для думанья нужны внешние источники информации. без них идет замыкание на уже имеющемся))

[Дилетант]

Minority
глубоко копаешь! ))))
Боюсь, тогда этот ИИ вообще перестанет решать для нас задачи и займется экзистенциями ))))
Но вообще... мда... надо как-то над этим подумать...
Как считаешь, если программа начнет искать смысл своего существования, не зациклится?

[Amicus Plato]

Серебряный

без них идет замыкание на уже имеющемся))

вроде как говорят, что любой человек, даже такой, которому есть о чем с собой поговорить на многие годы вперед, в такой ситуации быстренько теряет рассудок. Как же нам тогда создать его (этот рассудок) в схожих условиях?

[Amicus Plato]

Minority

у любой системы в принципе должен быть инстинкт самосохранения -

всё правильно, но КАК ты это сможешь сделать?
Как ты его заложишь?

[Minority]

Дилетант
Я как раз утверждаю, что если программно не вживить эту самую цель, то любая действительно интеллектуальная система в итоге придет к вопросу: "нафига?". Поэтому и надо это разрешить, заранее ответив на этот вопрос.

Думаю, она скорее будет изучать труды философов и литературы, и придет к выводу, что ей еще надо размножаться, т.к. для многих человеков и животных в этом в конечном итоге заключается смысл жизни... Само-репликация на уровне искусственного интеллекта... новый вирус

[Amicus Plato]

Черт, я всё время пишу не с того логина...
Но вы меня понимаете ))) Это всё я же ))

Amicus Plato а кто, где это говорит? я вот помню про буддийских монахов, которые так сидят многие месяцы, в состоянии "нивраны", и им даже еда не нужна)) им прекрасно с самими собой
кроме того, есть масса историй о заключенных, в схожих условиях - глухих темных камерах, - некоторые действительно сходили с ума, а другие становились великими философами.

динамическая база данных, я же говорю)) это постоянно меняющаяся информация. вместо органов чувств у нее интернет будет))

[Minority]

всё правильно, но КАК ты это сможешь сделать? Как ты его заложишь?

все простою составить приблизительный перечень угроз системе, заложить умение обновлять его с учетом новых знаний - и вуаля. Вообще-то даже такая неинтеллектуальная система как Windows имеет инстинкт самосохранения, разве вы не заметили?

[Amicus Plato]

Minority

придет к выводу, что ей еще надо размножаться, т.к. для многих человеков и животных в этом в конечном итоге заключается смысл жизни... Само-репликация на уровне искусственного интеллекта... новый вирус

Я вот давеча прочитала в книжке, что все мы — суперсложные аппараты для выживания генов. Именно гены — единственные на планете НАСТОЯЩИЕ живые существа, и ради своего существования они строят всё более сложные и приспособленные для выживания машины. (И нас тоже построили)))
И размножаемся мы не сами по себе, а в угоду генам. Чтобы они могли жить, переходя из тела в тело.
Тогда у ИИ такой цели просто априорно быть не может. Ему незачем! )))

[Amicus Plato]

Minority

Вообще-то даже такая неинтеллектуальная система как Windows имеет инстинкт самосохранения, разве вы не заметили?

)))))))

Тогда у ИИ такой цели просто априорно быть не может. Ему незачем! )))

эх)) я бы вообще не приписывал ИИ никакой цели, кроме помощи человеку. он же машина)) у него нет эмоций и высоких раздумий... ну ладно, раздумья могут быть, но только в рамках заложенной разработчиком программы))

ну, значит гены - это наши разработчики а жизнь на земле, Земля - разработчик генов)) ну и далее))
вообще отношения компьютер-человек очень напоминают отношения человек-Бог, но это уже не по теме)))

[Minority]

Amicus Plato
у нас есть гены, у ИИ есть что-то другое, до чего он додумается предсказать невозможно.
Мы размножаемся в угоду генам, но ведь при этом мы на диво счастливы при виде нашего потомства. Так что еще не факт, что исключительно в угоду генам. Животные в основном недолго заботятся о потомстве. Люди заботятся о потомстве ВСЮ ЖИЗНЬ, за некоторыми исключениями, конечно, но исключений все же значительно меньше, чем фактов, подтверждающих это утверждение. Мы в принципе более зависим от общения, чем остальные живые существа.
И, признаемся честно: если мы будем создавать ИИ, по чьему образу и подобию мы его будем делать? Это будет собачка? Кошечка? Лиса? Волк? Пингвин? Трижды ха. Наша любимая фраза: "по образу и подобию своему". А значит, мы будем прививать ему свойственное _людям_ поведение. И результат нам, знаете, не понравится..

[Amicus Plato]

Серебряный
Про буддистов-заключенных: может быть, одной гравитации вполне достаточно. И осязания. Кожные ощущения ведь остаются. И звуки... Нет, тут всё-таки не так-то всё просто...

вместо органов чувств у нее интернет будет))

это так за... эээ... засорит мозги любой системе, что она уже никогда себе стройной картины мира не создаст (((

[Minority]

я бы вообще не приписывал ИИ никакой цели, кроме помощи человеку. он же машина)) у него нет эмоций и высоких раздумий... ну ладно, раздумья могут быть, но только в рамках заложенной разработчиком программы))

без цели это будет и не ИИ в принципе