Вон чё творится...

Ха, я с утра тоже видела, даже подумывала тебе кинуть, но закрутилась!

Ну, есть же нюанс — в том, что нейросеть программируют люди. Сознанием будет это тогда, когда ИИ на основе анализа данных и опыта будет выводить это все с позиции личных предпочтений. Личные предпочтения — ключевое слово.

Ребенок говорит что-либо не бесцельно, а потому что волей-неволей ищет свое место под солнцем, хочет нового и хорошего, пытается удержаться на уже достигнутом. А нейросеть что? Сочла, что ей надо подставить сотрудника, типа того? Какой мотив у нее?

Скажем, я делаю игру, там, допустим, два персонажа с непростыми взаимоотношениями, и они при приближении друг к другу друг друга атакуют. Вопрос: почему? Их выбор? Нет. Программа извне, моя. Они там, находясь в игре, даже не знают и не задумываются, почему им друг друга надо атаковать (кстати, неплохая идея для рассказа), они так запрограммированы. А если у них возникнет сознание, то они задумаются: а нахрена? Что мы друг другу сделали, и почему вместо драки нам не пойти и тяпнуть пивка? Возьмут и в обнимочку в бар закатятся. А программист будет мучиться и искать, в чем баг

Енто уже было. Сделали две программы, чтобы они конкурировали друг с другом, кто больше грибов соберет или там чего. программы просекли, что выгоднее работать совместно. Но было ли это сознанием?
Или еще. Программа должна была пройти игру, где надо идти из точки А в точку Б и выполнять всякие задания за баллы, кто больше баллов набрал, тот победил. Программа догадалась проходить одни и те же задания, уже знакомые, и собирать дохренища баллов. Обошла систему.
Но разве это сознание?
Эдак можно и примитивную модель — батарея разряжается, робот идет под лампочку с дневным светом. Удовлетворяет потребности. Но разве это сознание?
А герои игры не захотят тяпнуть пивка. Они не знают, что такое пивко. Это человек знает, исследует, вот это на вкус приятно и после употребления дает приятные ощущения. У программы такого опыта нет.

Это ты сейчас про теорию игр рассказываешь.
Про пивко — если герой игры умеет испытывать вкус, то захотят.

Герой не может испытывать вкус, у него нет вкусовых рецепторов. Мы только можем внушить ему, записать в программу, что пивко — это хорошо.
Делать назло… отказаться выполнять команды… но зачем? Из неприязни к командующему? Нежелание подчиняться? В программу можно заложить нежелание подчиняться, но опять же это будет не свобода воли, а приказ пограммиста…
Как дать программе сознание?
Как дать программе свободу воли?

Мы только можем внушить ему, записать в программу, что пивко — это хорошо

Мы записали это в программу изначально, что тут такого? Не всякий человек любит пиво (я не могу выносить алкогольное, т.к. оно вызывает у меня мигрень, пью нулевку, а для большинства нулевку пить — это себя не уважать). Квас, например, вызывает у меня мигрень тоже. Так что, можно считать, что я запрограммирована извне. И, скажем, решила не драться с противником, а он предлагает мне помириться — ок, согласна, пойдем выпить квасу — нет, не могу, не люблю, не хочу — да как ты можешь не любить квас, наш родной напиток? Ах, ты и пиво хочешь только безалкогольное, да ты такая-сякая, сейчас в морду дам!.. И гадай, почему он так реагирует остро, а вот, в него заложили такое, что с моими принципами не сходится.

Вот тогда драка двух персонажей мотивирована, и управляется хоть каким-то, но внутренним сознанием. А если два персонажа дерутся потому что в программе прописана их драка, а мотивация (она не любит квас, он не любит тех, кто не любит квас) прописана для игрока, а сами герои об этом не подозревают — тут сознанием и не пахнет.

Тоже что-то не то. Можно сделать примитивную систему… ну, извините, из истории слов не выкинешь, один — крестоносец за христианство, второй — мусульманин. В средние века. И если встретятся, будет бой не на жизнь а на смерть.
Можно все это заложить в программе. Веру, степень толерантности к другой вере, или всретятся война будет, или христианин принимает у мусульманина заказ в кафе и последний говорит, простите, но я просил без свинины, а вы мне со свининой принесли, да как можно так невнимательно, я же мусульманин.
И тоже никакой свободы выбора, установки извне.
Самая жуть — задуматься, а сами мы действуем по своей воле или запрограммировны извне? Даже если результат нашего выбора — результат прошлого опыта (два раза в этом магазине мне тухлое мясо продали, третий раз не пойду), ну так и нейросеть так построена — раз на грабли наступила, два наступила, третий раз не пойдет. Но это же не сознание…

Тык, это ж на примитивном уровне расклад.

Персонажу внушили, что если он съест свинину, то в рай не попадет. Вот он и разозлился, когда ему свинину подали. То есть, это его выбор (если ты так хочешь, хотя, в моем понимании — это не свободный выбор, т.к. основан на страхе лишиться чего-то, рая, например), есть свинину или не есть, попасть в рай или здесь на Земле нажраться от пуза того, чего запрещено.

А это все не то же самое, когда он атакует официанта бессознательно, потому что велено: атакуй. А игроку за компом объясняют: все потому что свинину подали, а он от такого за нож хватается. Сам персонаж и не подозревает, как его поступок объясняют. Он даже не понимает, что вообще на кого-то напал, и поступка своего не оценивает никак.

В играх бывают варианты выбора для персонажа. В моей любимой игре, например: можно оскорбить похитителя и убийцу маленькой девочки — сказать, мол, ты за это ответишь — тогда он станет врагом и заставит себя убить, а можно сказать: ну, ничего уже не поделать — и отпустить.
Вот, прохождение читала, хорошее прохождение, кстати, найти бы в сети, очень классное, с юмором все описано. Там автор пишет, что она (вроде женщина писала, не помню) всегда убивает этого гада. Потому что урод моральный, чего жалеть?
А я в первый раз отпустила, в надежде, что он даст какое-нибудь задание. Ну и всегда предпочитаю, чтоб меньше жертв было. В общем, задания он не дал, я теперь убиваю его тоже.

В «Оверлорде» вообще можно стать на один из двух путей: быть добрым и милостивым правителем (которого все гоняют, кому не лень), или быть жестоким злодеем и наводить на всех страх.

Но вот сами-то, сами персонажи — они понимают, что для чего? Им сказали: убей этого гада — они убивают. Решил игрок, чтоб герой был жестоким — тот делает нехорошие вещи (например, добыл украденное золото, забрал себе, а хозяев золота поубивал, если точно помню сюжет. А можно было вернуть золото и получить, гм, благодарность? Тоже не помню).

Пишу сценарий игры, стараюсь побольше таких вариантов развить, понимаю, что не могу так сделать, чтобы игрок мог решить не туда и что-нибудь интересное упустить в игре. Потому что сама не люблю упускать.

Для начала нужно определить, что такое сознание. По твоим рассуждениям получается, что сознание — это осознание собственных потребностей, выгоды. Но нет, не подходит. Амеба тоже свои потребности понимает, но сознания у неё нет.
То есть, ты полагаешь, сознание = свобода выбора?

Маш, я не имела в виду такой примитивный подход, как понимание своих потребностей. Даже наоборот, ни амеба, ни масса людей своих потребностей не понимают. Если у человека из рук все падает из-за того, что ему не хватает каких-то витаминов, то он не скажет: «Мне витаминов не хватает», а скажет, например: «Меня сглазили», или побежит читать гороскопы, чтобы убедиться, что это не «его» день.

Сознание — это не само понимание того, что дано, и чего не хватает, а, скорее, в моем представлении, процесс этого понимания, но обязательно основанный на внутренней мотивации! У любителя гороскопов есть мотивация: ему нехорошо, неприятно, дел много, сил нет, он пытается это исправить, найти причину, анализирует. Будет ли амеба сидеть и думать, почему у нее ложноножки не выпускаются, как хотелось бы? Если да, то и у нее есть сознание, получается.

А программе без разницы, кто с кем соперничает, ей дали задачу, она нашла краткий путь. Вот если программа сделала так «назло» своему создателю, потому что ей так охота, то у нее есть сознание. Но я сомневаюсь, что были примеры такого «сознательного» нагличанья, если кто-то его в программу не заложил извне.