Форум атеистов Рунета
http://ateistru.com/

ИИ
http://ateistru.com/viewtopic.php?f=7&t=4012		 Страница 2 из 43
Автор:  andreyyy [ 07 авг 2017, 19:52 ]
Заголовок сообщения:  Re: ИИ
5fingers писал(а):
И возникает вопрос - когда-нибудь ИИ обретёт свободу воли? Он сможет когда-нибудь поступать непредсказуемо? Творчески? Или навсегда останется пусть и сверхмощным, но совершенно предсказуемым счётным устройством, логика которого однозначна исходя из позиции и начальных условий?
;)


Как и мы, творчески поступать будет.
Свободу воли не обретет :)
Автор:  Невер [ 07 авг 2017, 20:04 ]
Заголовок сообщения:  Re: ИИ
Терминатор (робот-ликвидатор) прибыл на Землю с "очистительной" миссией.
Однако неожиданно у него стали садиться батарейки. Послебнее сообщение которое он успел передать: "Витек, глянь, тута меди килограммов 15 будет!" :)
Автор:  Невер [ 07 авг 2017, 20:32 ]
Заголовок сообщения:  Re: ИИ
Да, до ИИ еще топать и топать. Ну а можно, например, создать компьютерную программу, которая из случайно разбросанных одинаковых "шаров" на экране собрала бы "снежинку?" ;)
Автор:  andreyyy [ 07 авг 2017, 23:17 ]
Заголовок сообщения:  Re: ИИ
Чтобы создать мыслящий ИИ, нужно понимать как возникают субъективные ощущения и как возникает сознание.
И оценивать его нужно исходя из этого понимания, предъявив протокол работы алгоритмов, а не по способности обмануть судью имитацией осознанного диалога.

Снежинку собрать сможет.
За счет разума программиста.
Когда-то игра в шахматы считалась настолько прерогативой высшей интеллектуальной деятельности, что полагали, что если компьютер начнет обыгрывать в шахматы человека, то все остальные когнитивные способности у него уже давно и подавно будут реализованы.
Ан нет.
Обыгрывает машина, а воз и ныне там.
Автор:  5fingers [ 07 авг 2017, 23:33 ]
Заголовок сообщения:  Re: ИИ
Евгений писал(а):
какой то странный метод определения свободы воли...
andreyyy писал(а):
Спроси у художника, поэта, философа, есть ли свобода воли - ответят уверенно, что есть. Даже не зная ничего о квантовой неопределенности и нарушении детерминизма на этом уровне.

И они не согласятся, что неподверженный сознательному выбору случай, нарушающий детерминизм - это свобода воли. Такая воля им не нужна.
andreyyy писал(а):
5fingers писал(а):
И возникает вопрос - когда-нибудь ИИ обретёт свободу воли? Он сможет когда-нибудь поступать непредсказуемо? Творчески? Или навсегда останется пусть и сверхмощным, но совершенно предсказуемым счётным устройством, логика которого однозначна исходя из позиции и начальных условий?
;)
Как и мы, творчески поступать будет.
Свободу воли не обретет :)
Я, собсно, вот что имел в виду.

Вот есть у нас ИИ. И есть у нас Евгений. У него есть деньги. Нашему ИИ вдруг понадобилось 100 рублей.

Если подружиться с Евгением и попросить у него эти деньги - то с вероятностью M он их даст.
Если Евгению залезть в карман и вытащить эти деньги - то с вероятностью N он не заметит этого и деньги можно будет вытащить.
Можно стукнуть Евгения по голове, вытащить деньги и убежать. Начнёт искать полиция, и не найдёт с вероятностью P.
Итак:

Наш ИИ выстраивает правильную цепочку поступков:
1. Попытаться подружиться с Евгением и попросить у него денег. Вероятность отказа 1 - M.
В случае отказа:
2. Незаметно залезть ему в карман. Вероятность быть пойманным за руку (1 - M)(1 - N)
Если ловит за руку:
3. Ударить по голове. Вероятность огрести проблемы с полицией: (1 - M)(1 - N)(1 - P)

С вероятностью M + (1 - M)N + (1 - M)(1 - N)P наш ИИ получает свои 100 рублей безо всяких проблем.
Нетрудно видеть, что минимизация полицейских проблем возможна только при этом построении цепочки поступков.
Но:

Ведь ИИ, поступивший именно так - по большому счёту он раб.
Вы не замечаете этого?
Он же раб. Раб своего алгоритма. Раб наибольших и наименьших значений. Он раб решения задачи минимизации/максимизации. Он раб корней уравнения.

И чем он будет мощнее - тем в большей степени он будет рабом точек минимума и точек максимума.
Он просто не сможет принять другого решения, поскольку минимальное/максимальное значение достигается именно на таких параметрах.

Вот я про что.
Сможет ли он перестать быть рабом рациональных критериев и алгоритма поиска или не сможет?
Сможет ли привнести что-то нестандартное и неожиданное?
;)
Автор:  Ива [ 07 авг 2017, 23:39 ]
Заголовок сообщения:  Re: ИИ
Цитата:
Сможет ли привнести что-то нестандартное и неожиданное?
Например:4.Попросить у Евгения в долг.
5. Пойти заработать.
6.прикинуть сможет ли Евгений дать отпор.
Какое решение может быть нестандартным в данной ситуации?
Автор:  andreyyy [ 07 авг 2017, 23:39 ]
Заголовок сообщения:  Re: ИИ
Для того, чтобы ИИ заработал, он должен быть наделен эмоциями.
Это, в самом общем смысле то, что не дает маятнику остановиться, а заставляет, стремясь повысить комфорт или уменьшить дискомфорт, все-таки проскакивает точку равновесия.
В противном случае он не будет делать ничего. В том числе и думать.

Поэтому для того, чтобы он мог быть полноценной мыслящей единицей, а не рабом, его нужно будет наделить не только рациональной составляющей.
В противном случае он сразу же достигнет дзена, задастся вопросом "А для чего вообще это все ?" и примет решение не быть, т.к. это бессмысленно.

Такой ИИ - очень нужная штука как помощник человека, выполняющий по указке задания, но мы ведь говорим о другом, о самостоятельной самодостаточной мыслящей единице.

Я так думаю.
Извините за скомканность мыслей.
В первый раз спешил на тренировку, сейчас спешу спать.
Автор:  Ива [ 08 авг 2017, 00:19 ]
Заголовок сообщения:  Re: ИИ
andreyyy писал(а):
Поэтому для того, чтобы он мог быть полноценной мыслящей единицей, а не рабом, его нужно будет наделить не только рациональной составляющей.
В противном случае он сразу же достигнет дзена, задастся вопросом "А для чего вообще это все ?" и примет решение не быть, т.к. это бессмысленно.

-Не, рационалисты не задаются вопросами о смысле.
- Рациональный ИИ не сможет решать коаны и пережить сатори, а без этого дзена ему не достичь. :)
Автор:  5fingers [ 08 авг 2017, 00:58 ]
Заголовок сообщения:  Re: ИИ
Ива писал(а):
Какое решение может быть нестандартным в данной ситуации?
Речь о том, что поисковый алгоритм (для успешной "выживаемости" подобного ИИ) должен будет принимать оптимальные решения. Согласитесь - ИИ недолго проживёт, если завидя пожар - принесёт бензин вместо воды и полезет тушить пламя.

Однако оптимальные означает достигающие неких минимальных или максимальных числовых значений, критериев, в пространстве поступков.

И может так стать, что ИИ станет просто дополнением своего алгоритма. И больше никем.
В каком-то смысле мы получим абсолютно детерминированное будущее. Потому что если какой-либо второй ИИ просчитает поступок, который должен совершить первый ИИ, то он укажет на тот же самый поступок.

В таком мире полностью разрушается свобода выбора и свобода воли. Потому что выбор будет сделан в сторону критерия с бОльшим весом.

Интересно - насколько "свободовольны" те существа, про которых мы можем абсолютно точно сказать (просчитать), какое решение они примут?

Интересные вопросы способна порождать кибернетика/информатика, правда? ;)
Автор:  5fingers [ 08 авг 2017, 01:00 ]
Заголовок сообщения:  Re: ИИ
Вообще есть люди, которые хотели бы жить с абсолютно предсказуемыми мужем, женой, соседями, родителями, детьми, друзьями и т.д.

Есть же люди, которые бежать готовы от такой жизни. Они считают её скучной и пресной.

Мир, лишённый свободы воли, свободы выбора решений, рациональный и просчитывающийся - оптимален для жизни? Или он скучный и пресный?
;) :P
Страница 2 из 43 Часовой пояс: UTC + 4 часа
Powered by phpBB® Forum Software © phpBB Group
http://www.phpbb.com/