Духовная традиция и современность

Разное => Наука, техника, Интернет => Тема начата: wayter от 04 ШоЭп 2010, 14:48:15

Loading

Портал суфизм.ру | Что такое суфизм? | Суфийский орден Ниматуллахи | Правила поведения на форуме | В помощь начинающим
Четвертый путь | Карта сайтов | Журнал "Суфий" | Контакты | Архив электронного журнала | Архив форума

Название: Дружественный искусственный интеллект - пусть он будет суфием или буддистом )
Отправлено: wayter от 04 ШоЭп 2010, 14:48:15
Забавная статья, в частности, о том, что дружественный искусственный интеллект следует формировать в духе суфизма или буддизма.


"Когда мистики, такие как Руми или буддийские мастера говорят о том, чтобы идти "по ту сторону добра и зла", имеется в виду, что это происходит после суровой подготовки и базируется на космологии, которая направлена на благодеяние. Исследователям "дружественного AI" (искусственного интеллекта), возможно, стоит изучить эти философии. Если "искусственный интеллект" коренится не в теле, может быть хорошей идеей, убедиться, что они - суфии или буддисты".

When mystics like Rumi or the Buddhist masters discuss going “beyond right and wrong,” it’s after a rigorous framework of training and is based on a cosmology that inclines toward benevolence.  “Friendly AI” researchers may want to study these philosophies.  If “artificial intelligence” isn’t rooted in a body, it might be a good idea to make sure they’re Sufis or Buddhists.


Отсюда (http://ieet.org/index.php/IEET/more/eskow20100603/)
Название: Re: Дружественный искусственный интеллект - пусть он будет суфием или буддистом )
Отправлено: Микола от 04 ШоЭп 2010, 15:07:37
Мне кажется, что система ИИ будет вести себя в соответствии с тем, как её наполняют знаниями. Если система специализированная, то её предназначение будет определять внесённые в неё знания для решения поставленных задач. Если не специализированная, то всё будет зависеть от того человека, который будет определять чему систему обучать. Совокупность заложенных знаний будет определять поведение системы ИИ.

Очень сильно напоминает самое обычное воспитание человека, когда родители и школа чему-то с детства его учат. :-)

А ещё я подумал, что мне хотелось бы, что бы подушкой безопасности и прочими режимами движения в моём авто управляла система ИИ с циничными параноидальными наклонностями, а не философски настроенная и совсем не боящаяся смерти :-)

И ещё одна интересная мысль - если изначально наполнить базы системы ИИ в духе суфизма, то общаясь с ней можно будет узнать много нового...
Название: Re: Дружественный искусственный интеллект - пусть он будет суфием или буддистом )
Отправлено: AlexandrS от 05 ШоЭп 2010, 01:53:59
Интересно почему человек прикладывает столько усилий для развития искусственного интеллекта, а не своего собственного.
Искусственный интеллект - суфий, это как искуственный цветок, красиво, но аромата нет.И пчела к нему не прилетит в поиске нектара.
Название: Re: Дружественный искусственный интеллект - пусть он будет суфием или буддистом )
Отправлено: Кяфир от 05 ШоЭп 2010, 12:17:35
Т.е. интеллект более эффективно будет "смотреться" на "фоне" физического тела... В противном случае "запас знаний и умений" интеллектом называть не корректно.
Название: Re: Дружественный искусственный интеллект - пусть он будет суфием или буддистом )
Отправлено: Микола от 05 ШоЭп 2010, 12:42:03
Интересно почему человек прикладывает столько усилий для развития искусственного интеллекта, а не своего собственного.
Искуственный интеллект притягивает тем, что на его примере можно пытаться познать как работает сознание человека.

Как я это понимаю, на нынешнем этапе ИИ позволяет смоделировать ребёнка: открытого, без привычек, без предубеждений, без корысти. Но в отличии от обычных детей мы сразу можем напихать в базу ИИ специальных знаний. В частности знакомился с концепцией изобретающей машины (сам не видел, хотя она была создана и работала). Её накачивают знаниями в нужной области, а потом ставят задачу. И машина она не человек, она не будет зацикливаться на том, что "так делать не принято" или "кто бы мог подумать, что решение в такой области". Она просто сопоставляет знания и предлагает варианты. Безумные, но когда они озвучены, то люди недоумевают "почему мы раньше не додумались? это же так просто!".
Название: Re: Дружественный искусственный интеллект - пусть он будет суфием или буддистом )
Отправлено: user от 05 ШоЭп 2010, 13:10:15
Интересно почему человек прикладывает столько усилий для развития искусственного интеллекта, а не своего собственного.
Искуственный интеллект притягивает тем, что на его примере можно пытаться познать как работает сознание человека.

Как я это понимаю, на нынешнем этапе ИИ позволяет смоделировать ребёнка: открытого, без привычек, без предубеждений, без корысти. Но в отличии от обычных детей мы сразу можем напихать в базу ИИ специальных знаний. В частности знакомился с концепцией изобретающей машины (сам не видел, хотя она была создана и работала). Её накачивают знаниями в нужной области, а потом ставят задачу. И машина она не человек, она не будет зацикливаться на том, что "так делать не принято" или "кто бы мог подумать, что решение в такой области". Она просто сопоставляет знания и предлагает варианты. Безумные, но когда они озвучены, то люди недоумевают "почему мы раньше не додумались? это же так просто!".
ИИ работает только с естественнонаучными вопросами или же может работать также и с метафизическим материалом? Интересно, какой бы ответ дала эта "изобретающая машина", лишённая какой бы то ни было предвзятости, если бы её "накачали знаниями" из всех религий? Такие опыты проводились? Это очень интересно.

Название: Re: Дружественный искусственный интеллект - пусть он будет суфием или буддистом )
Отправлено: AlexandrS от 05 ШоЭп 2010, 13:47:39
Искуственный интеллект притягивает тем, что на его примере можно пытаться познать как работает сознание человека.

На мой взгляд будет правильней сказать: "на его примере можно пытаться познать как работает ум человека.

Как я это понимаю, на нынешнем этапе ИИ позволяет смоделировать ребёнка: открытого, без привычек, без предубеждений, без корысти. Но в отличии от обычных детей мы сразу можем напихать в базу ИИ специальных знаний. В частности знакомился с концепцией изобретающей машины (сам не видел, хотя она была создана и работала). Её накачивают знаниями в нужной области, а потом ставят задачу. И машина она не человек, она не будет зацикливаться на том, что "так делать не принято" или "кто бы мог подумать, что решение в такой области". Она просто сопоставляет знания и предлагает варианты. Безумные, но когда они озвучены, то люди недоумевают "почему мы раньше не додумались? это же так просто!".
На эту тему у Спилберга есть фильм "AI",мне фильм очень понравился.Много раз пересматривал есть над чем задуматься. Не возможно создать искуственную ЛЮБОВЬ.
Название: Re: Дружественный искусственный интеллект - пусть он будет суфием или буддистом )
Отправлено: Микола от 05 ШоЭп 2010, 15:19:37
ИИ работает только с естественнонаучными вопросами или же может работать также и с метафизическим материалом? Интересно, какой бы ответ дала эта "изобретающая машина", лишённая какой бы то ни было предвзятости, если бы её "накачали знаниями" из всех религий? Такие опыты проводились? Это очень интересно.
"-- А вы заметили какие погоды стоят?
-- Предсказанные!"
(с) Понедельник
Машины не являют собой чудеса. И в данном случае можно пользоваться тем, что машина непредвзята в своих выводах (сначала хотел написать "суждениях", но понял, что особых суждений у неё, наверное, нет). В ваших словах не прозвучал вопрос на который машина могла бы дать ответ, но в общем случае ответ бы очень сильно зависел от того, какие именно знания и под каким углом зрения вводились. Если не все изучаемые нами материалы могут быть рассказаны словами и поэтому передаются в виде притч и иносказательно, то как формализовать эти знания, как разложить их на предикаты? Вот от точки зрения того, кто будет раскладывать область знаний на формальные предикаты для базы знаний и будет зависеть во что же ИИ будет в конце концов верить :-)
Название: Re: Дружественный искусственный интеллект - пусть он будет суфием или буддистом )
Отправлено: Микола от 05 ШоЭп 2010, 15:43:23
На мой взгляд будет правильней сказать: "на его примере можно пытаться познать как работает ум человека.
Не могу найти в своём сознании разницу между умом и сознанием в данном контексте. Не то, что бы я не согласен, но не вижу почему так лучше :-)
На эту тему у Спилберга есть фильм "AI",мне фильм очень понравился.Много раз пересматривал есть над чем задуматься. Не возможно создать искуственную ЛЮБОВЬ.
Надо сказать, что фильм AI я вспомнить не смог. Точнее смог вспомнить, что он много лет лежал на близлежащем ко мне сервере с фильмами, был мною посмотрен, но более ничего не вспомнилось. Я "сходил в интернет" и нашел описание, которое мне напомнило о чём фильм. В оценке этого (и множества подобных фильмов про думающие компьютеры) я скорее всего согласен с Экслером (http://www.exler.ru/films/01-04-2002.htm). Определённо сложно сказать что есть любовь механизма, если мы не знаем что это такое для людей. То есть воссоздать "то, не знаю что" изначально неуспешная идея. Кто-то говорит, что любовь - это преданность и забота об объекте любви. Это можно воссоздать, но imho это ещё не любовь. Можно сказать, что любовь - это когда постоянно думаешь об объекте любви, каждый шаг продумывешь в контексте этой любви - так для человека нужна концентрация в этом месте. А роботу достаточно поставить коэффициент приоритета для мыслей об объекте повыше и готово. Так мы и получаем робота, влюблённого в безопасность пассажиров авто, потому что этот конкретно робот больше ни о чём не думает, кроме как о безопасности и комфорте пассажиров. Ну и ещё немного о расходе топлива.
Обязательно хочу подчеркнуть, что фильм я смотрел давно, поэтому не исключаю вариантов, что там есть какие-то мысли и сюжеты, которые находятся не на виду, более глубокие уровни смысла.
И ещё хочу согласиться с Экслером на тему того, что философски интересны рассказы Азека Азимова про роботехнику. С технической точки зрения там далеко не так, как получилось на самом деле, но вот смысл в этих рассказах есть. Я недавно переслушивал аудиокнигу с этими рассказами. С огромным удовольствием.
Название: Re: Дружественный искусственный интеллект - пусть он будет суфием или буддистом )
Отправлено: user от 05 ШоЭп 2010, 15:51:48
В ваших словах не прозвучал вопрос на который машина могла бы дать ответ, но в общем случае ответ бы очень сильно зависел от того, какие именно знания и под каким углом зрения вводились.
Простите, но я посчитал, что вопрос подразумевается сам собой: "что есть истина" в различных религиях. Ведь тогда и можно будет узнать, станет ли "машина" суфием или буддистом (из заголовка темы).

Цитировать
Если не все изучаемые нами материалы могут быть рассказаны словами и поэтому передаются в виде притч и иносказательно, то как формализовать эти знания, как разложить их на предикаты?
Предикатом будет их верное понимание, ведь притчи и рассчитаны на то, чтобы они были правильно поняты. Без этого посыла любая притча - просто красивое пустословие.

Цитировать
Вот от точки зрения того, кто будет раскладывать область знаний на формальные предикаты для базы знаний и будет зависеть во что же ИИ будет в конце концов верить :-)
Ну а если допустим, что для "чистоты эксперимента", это будут люди вне каких-либо религий?
Название: Re: Дружественный искусственный интеллект - пусть он будет суфием или буддистом )
Отправлено: Микола от 05 ШоЭп 2010, 18:11:03
"что есть истина" в различных религиях. Ведь тогда и можно будет узнать, станет ли "машина" суфием или буддистом (из заголовка темы).
Истина будет TRUE ? :-)
Предикатом будет их верное понимание, ведь притчи и рассчитаны на то, чтобы они были правильно поняты. Без этого посыла любая притча - просто красивое пустословие.
...
Ну а если допустим, что для "чистоты эксперимента", это будут люди вне каких-либо религий?
"Вот тут как раз и начинается кино..." (с)

Может ли кто-то вне религий дать правильное понимание притчи?

Может я в этом треде веду себя как скептик и зануда, но у меня мнение, что компьютер - это инструмент. Он может делать много рутинных операций, но он не может делать чудеса сам по себе. Кисточка сама по себе тоже ничего такого, но какие чудеса могут делать люди с кисточками в руках...
Название: Re: Дружественный искусственный интеллект - пусть он будет суфием или буддистом )
Отправлено: user от 05 ШоЭп 2010, 20:36:47
Истина будет TRUE ? :-)
Я не так скептически отношусь к данному ответу. Пусть это "машина", но она ведь будет работать с материалом, собранным человечеством, т. е. не будет полностью исключать и человеческий фактор. Просто действительно стало интересно, что она могла бы выдать в качестве ответа на общечеловеческие вопросы. Потому я и спрашивал, проводились ли такие эксперименты, или в выводах ИИ в этой области вообще нет никакого, даже мельчайшего, резона:

"... Она просто сопоставляет знания и предлагает варианты. Безумные, но когда они озвучены, то люди недоумевают "почему мы раньше не додумались? это же так просто!".

Может ли кто-то вне религий дать правильное понимание притчи?
Мне всегда казалось, что в притчах собрана общечеловеческая мудрость, которая не зависит от вероисповедальной точки зрения.

Цитировать
... у меня мнение, что компьютер - это инструмент. Он может делать много рутинных операций, но он не может делать чудеса сам по себе. Кисточка сама по себе тоже ничего такого, но какие чудеса могут делать люди с кисточками в руках...
Согласен с Вами: машина - есть машина. Но ИИ - хоть и искусственный, но всё же интеллект, и к тому же - дружественный. И результатом работы ИИ может стать новая подвижка в интеллектуальном творчестве человека.
Название: Re: Дружественный искусственный интеллект - пусть он будет суфием или буддистом )
Отправлено: Микола от 06 ШоЭп 2010, 02:21:43
Потому я и спрашивал, проводились ли такие эксперименты, или в выводах ИИ в этой области вообще нет никакого, даже мельчайшего, резона:

"... Она просто сопоставляет знания и предлагает варианты. Безумные, но когда они озвучены, то люди недоумевают "почему мы раньше не додумались? это же так просто!".
Я думаю, что смысл в изучении есть, но у меня нет никаких данных о существовании или не существовании таких исследований.

Мне всегда казалось, что в притчах собрана общечеловеческая мудрость, которая не зависит от вероисповедальной точки зрения.
Позволю себе не согласиться. В притчах собрана общечеловеческая мудрость, но она лежит не совсем на поверхности. Я в своё время не стал читать Омара Хаяма, потому что он писал про прожигание времени в таверне с вином и женщинами. И мудрости его были банальны и поверхностны. Сейчас я понимаю, что далеко не всё могу понять. Многие вещи в притчах, которые я замечаю - не поддаются обличению в слова. Просто это какой-то образ, настроение, картинка под непривычным углом. Далеко не всё я бы мог облечь в слова. Тем более, что в притчах я ещё далеко не все уровни вижу.

У Высоцкого песня "Городской романс" ("Я однажды гулял по столице, двух прохожих случайно зашиб...") заканчивается словами "Понял я что в милиции делала моя с первого взгляда любовь". Песню я эту начал слушать (потому что слушал отец) классе в четвёртом. С этого момента до окончания университета в разные годы у меня было около пяти вариантов того что имел ввиду Владимир Семёнович. То есть грусть и разочарование в его голосе я слышал сразу, но что она там делала - я так понять и не мог. Ну, кроме самого начала, когда я не сомневался, что она "видно паспорт пришла получать". Поэтому я и говорю, что машине будет сложно объяснить всю неоднозначность формулировки. Так что бы она сама решала что же всё-таки имел ввиду автор. И что на простом уровне притча имеет один смысл, а на более сложном - другой, а может и другие.

И результатом работы ИИ может стать новая подвижка в интеллектуальном творчестве человека.
Пусть бы так оно и было. Так и будет. Я просто очень скептически смотрю на развитие технологий. :-)
Название: Re: Дружественный искусственный интеллект - пусть он будет суфием или буддистом )
Отправлено: user от 06 ШоЭп 2010, 19:07:31
Я думаю, что смысл в изучении есть, но у меня нет никаких данных о существовании или не существовании таких исследований.
Жаль, что такие опыты не проводились. А с другой стороны, где гарантия того, что кто-то не воспользуется полученным результатом в своих спекулятивных целях? Может, оно и лучше, что такие исследования не проводились.

Позволю себе не согласиться. В притчах собрана общечеловеческая мудрость, но она лежит не совсем на поверхности.
Без субъекта нет объекта, и наоборот. А если собрать все возможные варианты субъективно-объективных данных? Получится выбрать самое-самое, как Вы думаете?

Цитировать
Я в своё время не стал читать Омара Хаяма, потому что он писал про прожигание времени в таверне с вином и женщинами.

:D
Наша жизнь и есть "прожигание времени". Доминантой творчества Омара Хайяма является это четверостишие:

Известно, в мире всё лишь суета сует:
Будь весел, не горюй, стоит на этом свет.
Что было, то прошло, что будет – неизвестно, -
Так не тужи о том, чего сегодня нет. (Омар Хайям)

Цитировать
И мудрости его были банальны и поверхностны.

Всё гениальное просто. (Альберт Эйнштейн)

Из Ваших же слов:
"... Она просто сопоставляет знания и предлагает варианты. Безумные, но когда они озвучены, то люди недоумевают "почему мы раньше не додумались? это же так просто!".

Цитировать
Сейчас я понимаю, что далеко не всё могу понять.
Это дело наживное. Век живи - век учись! (С)

Цитировать
Многие вещи в притчах, которые я замечаю - не поддаются обличению в слова. Просто это какой-то образ, настроение, картинка под непривычным углом. Далеко не всё я бы мог облечь в слова.
Но ведь все эти средства и созданы для того, чтобы понять (не для любования же они созданы!). А что можно (!) понять, то и может стать, как Вы выразились, предикатом.

Цитировать
Тем более, что в притчах я ещё далеко не все уровни вижу.
Повторюсь: это дело наживное.

Цитировать
У Высоцкого песня "Городской романс" ("Я однажды гулял по столице, двух прохожих случайно зашиб...") заканчивается словами "Понял я что в милиции делала моя с первого взгляда любовь". Песню я эту начал слушать (потому что слушал отец) классе в четвёртом. С этого момента до окончания университета в разные годы у меня было около пяти вариантов того что имел ввиду Владимир Семёнович. То есть грусть и разочарование в его голосе я слышал сразу, но что она там делала - я так понять и не мог. Ну, кроме самого начала, когда я не сомневался, что она "видно паспорт пришла получать". Поэтому я и говорю, что машине будет сложно объяснить всю неоднозначность формулировки. Так что бы она сама решала что же всё-таки имел ввиду автор. И что на простом уровне притча имеет один смысл, а на более сложном - другой, а может и другие.

Из "Городского романса" В. Высоцкого:

...

 Говорил я, что жизнь потеряна,
 Я сморкался и плакал в кашне, -
 А она мне сказала: "Я верю вам -
 И отдамся по сходной цене"
.

 Я ударил ее, птицу белую, -
 Закипела горячая кровь:
 Понял я, что в милиции делала
 Моя с первого взгляда любовь...


Может, речь идёт о проституции малолетки?

Цитировать
Пусть бы так оно и было. Так и будет. Я просто очень скептически смотрю на развитие технологий. :-)
А не надо скептически! ;D Благодаря "развитию технологий" мы смогли с Вами здесь встретиться и побеседовать. :)
Название: Re: Дружественный искусственный интеллект - пусть он будет суфием или буддистом )
Отправлено: Микола от 06 ШоЭп 2010, 22:24:15
Может, речь идёт о проституции малолетки?
Что я мог знать о проституции в четвёртом классе? :-) Но варианты что это было у меня были и тогда :-)

Что бы не цитировать и не отвечать на каждую реплику постараюсь несколько резюмировать. Я вообще не верю в то, что компьютеры будут как-то мыслить. А если и научат в компьютеры вносить много информации, самообучаться и прочие чудеса, то бы получим лишь некое подобие человека. И вот такой умный компьютер будет мыслить и думать теми категориями, которые в него вкачали разработчики. О том, чему вольно или невольно научили его воспитатели. Так же как человек набирается информации и понимания жизни от тех, кто его воспитывает - родители, школа, улица, книги и прочее телевиденье.

Разумеется, компьютер будет способен на какие-то чудеса в силу своей конструкции. Например, современные компьютеры могут последовательно перебрать жуткое количетсво вариантов ходов на шахматной доске. Человек же руководствуется интуицией, которая отбрасывает сразу заведомо неэффективные варианты. И среди них могут затесаться оригинальные, которые скурпулёзная машина просчитает и покажет. "Как это просто и очевидно!", - скажет человек, когда ему покажут этот ход. Так же будет и оригинальными идеями, причинно-следственными связями и т.п. То, о чём мы и подумать не могли, потому что наши привычки строить рассуждения основаны на эвристике и какие-то вещи мы не замечаем.

Что будет если загнать в машину все знания мира? Во всех трактовках? Тогда она найдёт схожести и различия, обшие закономерности, статистику и прочее. Может быть это интересно и полезно. Хотя... вот лично у меня ощущение, что когда я это пойму сам, то может у меня уже не и будет мыслей о том, что бы собирать аналитические материалы о разных религиях. Может будут другие приоритеты. А может и нет. По крайней мере пока мне компьютер обучать ещё нечему :-)

Мой скепсис относительно развития технологий в том, что никакие технологические штучки не делают чудес. У нас у всех есть телевизоры, что бы увидеть лицедеев в полный рост - технологии не заменяют необходимости лицедействовать. Компьютеры позволяет нам оформлять тексты и производить вычисления, но никто ж не отменяет того, что текст надо сочинять, а данные думать как обрабатывать. Интернет наполнен информацией, но мы же знаем, что правильно задать вопрос - это уже половина ответа :-) Я не против технологий, но и не боготворю их. Вот лично меня GPS вообще отупляет и я по бумажной карте уже и шага ступить не могу :-)

Вот примерно то, что я обо всём этом думаю.
Название: Re: Дружественный искусственный интеллект - пусть он будет суфием или буддистом )
Отправлено: user от 07 ШоЭп 2010, 01:18:16
Ув. Микола, Вы всё правильно сказали. Компьютер как инструмент - всего лишь дополнительный вычислительный орган человека, но не весь человек. Я с Вами согласен. :)

Персидский суфизм | Антология суфийской поэзии | Энциклопедия духовной культуры | Галерея "Страна Востока"
Издательство "Риэлетивеб" | Джалал ад-Дин Руми | Музыка в суфизме | Идрис Шах | Суфийская игра | Клуб Айкидо на Капитанской

Rambler's Top100 Rambler's Top100