Форум атеистов Рунета

я не сказал (как не сказал и обратного)
предлагаю дать ответ и пояснить почему такая версия

_________________
И свет во тьме светит, и тьма не объяла его..

От эвристики тоже немного пользы.


Тут как раз понятно: -Не ходи туда, сожрут.

Забудьте. На вкус и цвет товарищей нет. Неважно, как кто что чувствует. Вопрос о разуме, а не о чувствах к чему либо. Я терпеть не могу пиво и футбол. Если опрос провести, половина россиян не назовёт меня разумным.


Если на клетке слона прочтёшь надпись «буйвол», не верь глазам своим.
Какая нам разница, симуляция или нет? Вдруг симуляция тоже разумная?
А надо? Дался вам это внутренний мир. Не важно, как он чувствует красный, важно чтобы он сказал это красный.
Так уже. Проблему 4x красок решил.
Для бестселлера вообще интеллект не нужен. Жопой в краске повалялся, отпечатал на холсте, за миллионы долларов картины уходят.

Ответ на что? Версия чего?

_________________
Мудрость - это понимание своего бессилия перед глупостью.
Во имя овса и сена, и свиного уха

Сергею
О практических критериях:
1) Речь идет не о неодушевленных предметах (кирпич, барабан), а об ИИ, который можно подозревать в наличии разума.
2) Этот ИИ должен удовлетворять всем критериям одновременно, а не так, как у вас – один критерий у амебы, другой – у кирпича и т.д.
3) «проявляет непредсказуемость» – каюсь, моя вина. Я слишком радикально урезал ответ Copilot‘а. А уреза́ть пришлось, иначе мой пост занял бы несколько страниц, и никто не стал бы его читать. Я сохранил только самое важное для нашей дискуссии.
В оригинале у Copilot’а было: «проявляет непредсказуемость, не сводимую к статистике».
Я не сразу понял, при чем тут статистика и решил сократить. Теперь стало понятно.

Насчет «Неважно, как кто что чувствует. Вопрос о разуме, а не о чувствах к чему либо»:
Разум, сознание, чувства – вещи родственные, они принадлежат внутреннему миру субъекта.
Отличить разум от его симуляции – значит заглянуть внутрь субъекта, что невозможно, как не возможно узнать, чувствует ли робот боль, или искусно ее симулирует.
Насчет «Какая нам разница, симуляция или нет? Вдруг симуляция тоже разумная?»
Разница есть. Мы же хотим знать, обладает ли ИИ сознанием? Это вопрос того же порядка, что и «чувствует ли робот боль, или это симуляция?»
Увы, знать этого нам не дано.
Симуляция может быть и разумной, но ни доказать, ни опровергнуть это невозможно. Как невозможно ни доказать, ни опровергнуть, что робот чувствует боль.
Насчет «Дался вам это внутренний мир. Не важно, как он чувствует красный, важно чтобы он сказал это красный.»
Очень важно! Мы же хотим знать, обладает ли ИИ сознанием (это тема нашей дискуссии!). А сознание принадлежит внутреннему миру.
Так что ответить на этот коренной вопрос невозможно.

_________________
Мудрость - это понимание своего бессилия перед глупостью.
Во имя овса и сена, и свиного уха

ну тут должно мозга хватить чтобы понять -столь очевидное
если нет -то мнение и не интересно

_________________
И свет во тьме светит, и тьма не объяла его..

Пойди туда - не знаю куда, принеси то, не знаю что.
Спесивый демагог!

_________________
Мудрость - это понимание своего бессилия перед глупостью.
Во имя овса и сена, и свиного уха

не пойду

_________________
И свет во тьме светит, и тьма не объяла его..

Сознание, разум,ум, рассудок синонимы. По крайне мере тот же ИИ так говорит. (Философскую дребедень об отличиях пока оставим, она нам не поможет). Не уверен, что сознание принадлежит внутреннему миру. Есть например понятие общественное сознание. Сюда доступ есть. Коллектив может объяснить, почему принял то или иное решение. Иногда даже можно видеть дебаты в парламенте.
Рискну предположить, что сознание может быть вообще только внешним. Ну какая-нибудь умная машина ведет разговор с человеком, помогает принимать решения, допустим начать войну, взвешивает все за и против, ведет себя как умный собеседник, подсказывает человеку, что он не знает.
Прямо верный друг. И при этом у этой машины нет своего Я. Она не осознаёт себя, как личность. Она мыслит для решения задачи, вспоминает прошлое, предугадывает будущее. Но внутреннего мира вообще нет. Нет, боли, страдания, чувств никаких, ни гордости за решенную задачу, ни желания спасти саму себя, если это не задача, весь её внутренний мир лампочки на панелях. Но она мыслит, черт побери, да так, как ни один человек.

Когда-то считалось, что способность к счету – признак мышления. В Древнем Риме, чтобы разделить одно римское число на другое, нужно было долго учиться. А потом – позиционная система счисления, и счет свелся к простым алгоритмам.
Счеты → арифмометр → логарифмическая линейка → калькулятор → Mathlab → программы, играющие в шахматы → ИИ.
В какой момент появляется мышление? И как это объективно верифицировать?
Доказательство наличия сознания или процесса мышления — это одна из «великих проблем» философии (известная как Трудная проблема сознания) и нейронауки. Поскольку мы не можем заглянуть в чужую голову и «почувствовать» чужие мысли.

Короче, все зависит от того, что понимать под мышлением.
На этот счет существуют различные точки зрения.
Если мышление есть функциональная обработка информации, то да, ИИ мыслит. Он строит модели, делает выводы, решает задачи, планирует, обобщает, корректирует гипотезы. Это – функциональное мышление.
Если мышление – это сознательное переживание смысла, то нет, ИИ не мыслит.
Но тогда другая проблема: откуда нам знать, обладает ли ИИ (не тот, что существует сейчас, а в принципе) сознанием?
Не существует способа это узнать.

Я спросил Copilot: "Как определить, способен ли некто мыслить?"

_________________
Мудрость - это понимание своего бессилия перед глупостью.
Во имя овса и сена, и свиного уха

И обе точки зрения мне не нравятся. Я за то, что мышление есть функциональная обработка информации.
Но как-то не хочется называть современные ИИ разумными. Чего не хватает, не знаю.

Если мышление – это сознательное переживание смысла, то это уводит в философские дебри, не раскрывает механизм переживания смысла. Да и говорит только о человекоподобном мышление.

В начале темы я ставил вопрос проще. Ведет ли путь большой языковой модели к разуму?
Работа современных нейросетей строится на обучении, т.е. наборе весовых коэффициентов к токенам. (запросам). От одного запроса следуют контекстные запросы. На основе обучения нейросеть выбирает наиболее вероятные ответы, следующие к ним контекстные вопросы к ним свои контекстные запросы и все со своими весовыми коэффициентами. (По сути вероятности). Прогнав миллиарды запросов в процессе обучения получили большую языковую модель. (large language model, LLM). Говорят, что похоже на работу нейронов человеческого мозга. Они тоже обрастают связями в процессе обучения.
Меня это как раз и смущает. Не то чтобы похожесть или непохожесть. Полагаю, что машины станут мыслящими, но если бы нейросети обрастали проводами (миллиардами дорожек на кристаллах) мне бы это казалось ближе к решению задачи. Совокупность сигналов с датчиков на входе ведет к совокупности сигналов на выходе. Здесь же по сути слово, связанное со словом. Совокупность слов, какой-то толковый словарь становится мыслящим. Не могу сказать, что считаю это невозможным. Но какой-то скепсис. Поэтому хотел, чтоб форумчане высказались. А мне вместо этого цитаты замшелых святых.