Евгений писал(а):
какой то странный метод определения свободы воли...
andreyyy писал(а):
Спроси у художника, поэта, философа, есть ли свобода воли - ответят уверенно, что есть. Даже не зная ничего о квантовой неопределенности и нарушении детерминизма на этом уровне.
И они не согласятся, что неподверженный сознательному выбору случай, нарушающий детерминизм - это свобода воли. Такая воля им не нужна.
andreyyy писал(а):
5fingers писал(а):
И возникает вопрос - когда-нибудь ИИ обретёт свободу воли? Он сможет когда-нибудь поступать непредсказуемо? Творчески? Или навсегда останется пусть и сверхмощным, но совершенно предсказуемым счётным устройством, логика которого однозначна исходя из позиции и начальных условий?
Как и мы, творчески поступать будет.
Свободу воли не обретет
Я, собсно, вот что имел в виду.
Вот есть у нас ИИ. И есть у нас Евгений. У него есть деньги. Нашему ИИ вдруг понадобилось 100 рублей.
Если подружиться с Евгением и попросить у него эти деньги - то с вероятностью M он их даст.
Если Евгению залезть в карман и вытащить эти деньги - то с вероятностью N он не заметит этого и деньги можно будет вытащить.
Можно стукнуть Евгения по голове, вытащить деньги и убежать. Начнёт искать полиция, и не найдёт с вероятностью P.
Итак:
Наш ИИ выстраивает правильную цепочку поступков:
1. Попытаться подружиться с Евгением и попросить у него денег. Вероятность отказа 1 - M.
В случае отказа:
2. Незаметно залезть ему в карман. Вероятность быть пойманным за руку (1 - M)(1 - N)
Если ловит за руку:
3. Ударить по голове. Вероятность огрести проблемы с полицией: (1 - M)(1 - N)(1 - P)
С вероятностью M + (1 - M)N + (1 - M)(1 - N)P наш ИИ получает свои 100 рублей безо всяких проблем.
Нетрудно видеть, что минимизация полицейских проблем возможна только при этом построении цепочки поступков.
Но:
Ведь ИИ, поступивший именно так - по большому счёту он раб.
Вы не замечаете этого?
Он же раб. Раб своего алгоритма. Раб наибольших и наименьших значений. Он раб решения задачи минимизации/максимизации. Он раб корней уравнения.
И чем он будет мощнее - тем в большей степени он будет рабом точек минимума и точек максимума.
Он просто не сможет принять другого решения, поскольку минимальное/максимальное значение достигается именно на таких параметрах.
Вот я про что.
Сможет ли он перестать быть рабом рациональных критериев и алгоритма поиска или не сможет?
Сможет ли привнести что-то нестандартное и неожиданное?