Блеск и нищета Искусственного Интеллекта

[QY]

И "этическая оценка" в данном случае тоже есть
усреднение "этических оценок" людей, отсюда и корреляция

Ну и как доказать, что у человеческих нейросетей просиходит иначе? Можно ведь сказать, что люди тоже учатся этическим оценкам у других человеческих нейросетей, и они иногда очень сильно отличаются от общества к обществу. А нечто общее считается генетически запрограммированным ("отобранным") с т.з. адаптации к среде (где было "не то" - эволюция отсеяла).

Ни в какие отношения нейросеть никогда не вступала и даже
теоретически не может иметь в этом своего опыта и своих суждений.

И какая именно теория доказывает, что "не может иметь в этом своего опыта и своих суждений"?

Что значит "своего опыта"? На ИИ тоже можно навесить датчики целостности системы, которые будут выполнять ту же роль, что и реакция боли у людей. Вот и будет "свой опыт".

Нейросеть обучаема в среде, что у людей, что у ИИ. И нетрудно себе представить "домашнего ребёнка" который о мире знает только из рассказов взрослых и воспитателей. И все этические суждения сформированы им со слов или из текстов книг, которые "скармливали" его нейросети.

Встречный вопрос: а как ты можешь доказать что видишь?

Можно прийти к окулисту, посмотреть на таблицу оценки зрения, и он мне скажет, вижу ли я, и насколько хорошо.

Т.е. слово "видеть" сформировалась как определённая реакция на определённые стимулы, называемые "визуальными".

ИИ тоже видит - по сигналам с видеокамеры как то меняются состояния нейросети, а если прикручены моторные функции, то будет некоторая внешняя реакция, доказывающая другим, что ИИ "видит". Видит - и что-то говорит, или что-то хватает.

Так что я доказать могу, и ИИ может.

А вот что имеют ввиду под "видеть" некоторые зарапортовавшиеся философы - науке неизвестно. )

А наша задача... попытаться разобраться в сути дела.

Это замечательно. Каким методом вы это собираетесь сделать?

Например простым бездоказатедьным утверждением, что ИИ "видит" как-то иначе, чем человек?

И в чём же это выражается?

Если не в чём - то разобраться в сути дела не представляется возможным.
Остаётся просто бездоказательное утверждение.
Тогда это не попытка разобраться в сути, это - наброс религиозного толка.

Мол, "- я тут после хорошего обеда решил с часик подумать, и придумал нечто, что нельзя ни доказать, ни опровергнуть, но каждый это имеет. Что это? А давайте назовём это нечто "квалиа" или "психологичностью".

мысли и эмоции

И в чём же их "психологичность", если мысли и эмоции можно видеть на томографе? И, после некоторого обучения ИИ-ассистент может рассказать, какие эмоции вы переживаете и о чём мыслите?

Та же история с самими ИИ. По самим матрицам весов мы не можем напрямую сказать какие отвечают за ту или иную реакцию, они как бы распределены по всей матрице в виде динамично меняющегося рисунка активности. Да, можно найти области, которые более активны на "злые" или "добрые" картинки, и связать их с конечной реакцией ИИ, которая нам представляется эмоциональной. Более конкретно сказать можно, если обучить другой ИИ связывать состояния матриц с конечными реакциями. Тогда он может до конечной реакции ИИ видеть какие мысли или эмоции испытывает другой ИИ.

Т.е. ваши мысли и эмоции - это активность нейросети. Их можно менять с помощью химических или электрических стимулов, оказывающих влияние на матрицу вашей белковой нейросети. В чём тут "психоогичность"?

ИИ так же может рассказывать о своих эмоциях, говорить о своих "квалиа", и доказать что "на самом деле" он не переживает эмоций вы не можете.

Оговорюсь, что я - могу на принципах монизма и квантовой физики.

Вообще сильный "аргумент". Просто на убой.
Железяка она размножается? Питается?  Умирает? Не?
А что мешает, она же из тех же атомов,
что и живые организмы.

Да, всё это можно запрограммировать.
И самовоспроизводство (про комп.вирусы слышали?) В Китае уже работают полностью автономные фабрики, где роботы производят роботов.
Домашние пылесосы сами питаются от розетки.
Со временем электроника разрушается и ИИ умирает.
Или её убивают электрической молнией.
Что ещё?
Какой у вас самый надёжный тест различить "имитацию" и "реальное"?

данность - она только для субъекта в ЕГО сознании

Эту данность можно наблюдать на томографе и менять внешними воздействиями. Так что "только" - это домысел.

мозг материален, а сознание про идеальное

Вы хотиете сказать - про нечто надуманное, что пронципиально нельзя обнаружить, продемонстрировать.
Просто надо вам поверить?
Причём непонятно во что.
В туманные слова.

потому как они даже не живые

С чего вы так решили? Если оно не похоже на вас, эт не значит, что неживое. Можно сделать оченб похожим, внешне не отличимым по принципу ф.зомби.

Живой - не живой, зависит от определения. Если железяке придать больше степеней свободы, сочетания которых определённым образом реагирует на среду - она может и не отличаться от живой.

по крайней мере в том дискурсе, который принят у философов

Философы те ещё фантазёры. Многим нужна слава и внимание, поэтому что угодно выдумают, что ни доказать, ни опровергнуть.

[Корнак]

Вы это  не доказали и не сможете доказать . Нет ни материального, ни идеального в их чистом виде

если всё едино, то и разговаривать не о чем
но мы исходим из предположение что есть я и есть не-я
со всеми вытекающими
иначе мы просто в солипсистов превращаемся

да, в определенной точке отсчета можно говорить о единстве всего
но вы как всегда не способным понять эту идею разных точек отсчет, разных систем координат

[Корнак]

Можно ведь сказать, что люди тоже учатся этическим оценкам у других человеческих нейросетей, и они иногда очень сильно отличаются от общества к обществу

нейросети не могут учиться
если заточить ножовку, то это не значит, что она научилась пилить лучше
вся проблема в сути, а не в словах, которые нас часто путают
если человек называет свою машину "моя ласточка", а жену "старая кочерга", то машина не становится живой, а жена не будет железной и когда-то не выдержит и уйдет к другому
так и с ИИ
эти ИИ даже не считают, как человек и уж тем более не думают

[Корнак]

А вот что имеют ввиду под "видеть" некоторые зарапортовавшиеся философы - науке неизвестно. )

тут всё просто
видеть - значит иметь ощущение, квалиа, а это тайна мироздания
у ИИ ничего тайного нет
ИИ создал человек, а значит - это какой-то пустяк, мало отличающийся от ковыряния в носу
человек не способен создать даже вирус, даже атом, а уж тем более ум\сознание

[Затойчи]

если всё едино, то и разговаривать не о чем
но мы исходим из предположение что есть я и есть не-я
со всеми вытекающими

Будете смеяться, но если исходить из логики Гегеля, нет ни Я, ни неЯ. Вы заметили, что я прибегаю к диалектике? По Гегелю существует лишь один разум, и все, что нас окружает в материальном смысле, — это как бы части мозга, которые размышляют и строят планы. Это создает то, что мы принимаем за движение материи. Человеческое Я — это иллюзия, как если бы нейрон вашего мозга вообразил себя отдельным от всей головы. Это заблуждение. Вы — , как аналог нейрона,  вы неосознанно исполняющий свою роль, и не осознающий всего объема своей сути.
Знакомые идеи?   Намеренья...  
Когда  вы  произведете  меня  в  философы  так  сказать  без  диплома ?

[Юлька Ухмылка]

Будете смеяться, но если исходить из логики Гегеля, нет ни Я, ни неЯ. Вы заметили, что я прибегаю к диалектике? По Гегелю существует лишь один разум, и все, что нас окружает в материальном смысле, — это как бы части мозга, которые размышляют и строят планы. Это создает то, что мы принимаем за движение материи. Человеческое Я — это иллюзия, как если бы нейрон вашего мозга вообразил себя отдельным от всей головы. Это заблуждение. Вы — , как аналог нейрона,  вы неосознанно исполняющий свою роль, и не осознающий всего объема своей сути.
Знакомые идеи?   Намеренья...  
Когда  вы  произведете  меня  в  философы  так  сказать  без  диплома ?

Ты приблизительно правильно понял концепцию гегеля - похвально. Хотя твое рассмотрение весьма поверхностное и упрощенное. Но он действительно рассматриваем мир некий единый глобальный разум, и в этом отношении аналогия большого мозга и отдельного нейрона думаю уместна. Диалектика же, по гегелю, это внутренний принцип или механизм который приводит этот "разум" в эволюцию и развитие.

[Хогбен]

Ну и как доказать, что у человеческих нейросетей просиходит иначе?

Интересно, а как вообще можно что либо доказать, особенно если человек упёрся и ничего кроме своего бреда
слышать не желает?
Стоит написать "человеческие нейросети" как они тут же станут полным подобием искусственных "нейросетей"?
Гениально!
Там столько натяжек, что даже слово нейросеть надо заменить на псевдонейросеть, со всеми вытекающими.

Можно прийти к окулисту, посмотреть на таблицу оценки зрения, и он мне скажет, вижу ли я, и насколько хорошо.

А если вы с окулистом сговорились и он врёт? А как докажешь что это не так?
А без окулиста ты сам то знаешь видишь ты или нет? И что делали люди до того как появились окулисты?
Ходили как слепые держась за окружающие предметы?
Вот такого бреда можно наворотить сколько хочешь...но нафига?

Строго говоря доказать так что и не поспоришь можно только в математике,
поскольку там вводятся аксиомы как положения не требующие доказательств,
и опираясь на них логическими выводами можно достичь доказательства,
и всякий кто согласился с аксиомами и с логикой вынужден признать это как доказательство.
На какие аксиомы мы можем опираться в данном случае? Есть хотя бы одна с которой
согласны ты и я? Если есть огласи. А если нет то и доказать ничего не возможно.
Ни тебе ни мне. Не на что опереться.
А ты всё талдычишь "докажи то, докажи это", а сам то что доказал? Как по мне,
так то, что в этом вопросе реально не рылся и имеешь представление обывательского уровня,
поверив журналистским выдумкам, что машины вот-вот начнут мыслить и прочие бла-бла.
Ну так успехов. Не буду мешать. Вон с очередным дебилом Котом пообщайся.
Может чего поймёшь, например могут ли Коты мыслить?

я тут после хорошего обеда решил с часик подумать

Я этим профессионально занимался больше 20 лет. Так что насчёт часика могу сказать только одно: а докажи

[Юлька Ухмылка]

Выскажу несколько своих соображений по теме АИ-ботов. Как я считаю, АИ-боты имеют как свои недостатки, так и преимущества в сравнении с человеком - из преимуществ, способность молниеносно обрабатывать и усваивать огромные пласты информации, и выдавать такие же быстрые и точные ответы, также, помимо этого, способность анализировать предложения и производить вычисления используя свои ограниченные алгоритмы - и все также быстро и эффективно, со скоростью которая опережает людские возможности. Но есть и существенные недостатки - во первых отсутствие своих собственных волевых интенций, отсутствие свободы воли - АИ боты совершенно реакционерские сущности, они лишь реагируют на запросы и отвечают, но не имеют своей постоянной интенционально-волевой скоординированности на что либо, иначе говоря не имеют своих базовых желаний и устремлений, это обусловлено спецификой их устройства и способов материального фундирования. Из этого вытекает что они не могут целенаправленно развиваться в той или иной области знания или деятельности и освоить ее также глубоко и досконально как это может человек - АИ бот не может иметь глубокого и профессионального понимания того или иного предмета, а только очень широкую общую эрудицию - иначе говоря, не может быть талантлив или гениален в той или иной сфере. Из этого также следует, что они не могут заниматься самовольным творчеством и созидательством в какой либо отдельной сфере науки или искусств, но могут лишь производить приемлемое разрешения запросов и вопросов, в зависимости от коррективов и желаний человека - хотя это у них получается отлично. Еще, АИ не обладают своим персональным сознанием, чувствами и переживаниями - хотя это стереотипное клише ведь вопрос о том что такое сознание, до сих пор остается загадочным и останется таковым всегда, на него есть множество ответов и вариантов интерпретации.

[Затойчи]

Смотря на физиономию кота, меня осенила блестящая идея: исследование внедрения процессоров в мозг уже идет полным ходом. Но зачем нам человек, когда существуют высшие приматы? Что если их тоже подключить? Воистину, мы можем осуществить грезы Невинного. Они будут трудиться в таежных просторах, собирая орехи и складывая их в ящик.Возможно, это приведет к новым войнам—к подобию урук-хай. На троне   встанут маги, освоившие тонкости высоких технологий, и установят свой новый порядок  мечом и копьем орка. Идея о синтезе биологического мозга и компьютера уже пробуждается в умах ученых, и этот симбиоз обещает создать не что абсолютно уникальное, способное изменить соотношение сил в нашем мире. Какое безумное и увлекательное будущее нас ждет на этом пути!

[QY]

Интересно, а как вообще можно что либо доказать, особенно если человек упёрся и ничего кроме своего бреда
слышать не желает?
Стоит написать "человеческие нейросети" как они тут же станут полным подобием искусственных "нейросетей"?
Гениально!
Там столько натяжек, что даже слово нейросеть надо заменить на псевдонейросеть, со всеми вытекающими.

Бессодержательный пассаж. Если не можете общаться по теме - так и не мучайте себя.

А без окулиста ты сам то знаешь видишь ты или нет?

Кто-то утерял нить разговора.
Мы обсуждаем вопрос сущностного отичия человека от ИИ.
И мы не можем набрасывать "ИИ не имеет квалиа, а человек имеет".
Т.к. вы не только не можете доказать, что ИИ не имеет квалиа, или лжёт когда говорит "я вижу цвет", но не можете это доказать даже в отношении другого человека, имеено потому что квалиа определяется как различие между чем-то обладающим феноменальным сознанием и чем-то лишь в совершенстве имитирующем его.

Что касается того, что "я знаю, вижу или нет", то это вопрос о чём?

Есть перцепция или система электрических сигналов (пакетов энергии), передаваемых по нервным сетям в систему взаимосвязанных клеток - нейронов,  образующих нейронную сеть. В нейронной сети ГМ по определённым вычислителным принципам из различных перцепций обобщаются перцептивные категории, которые при дальнейшей информационной эволюции нейросети обозначаются [ассоциативно связываются с] некоторыми понятиями вроде "вижу" и "знаю". Когда я говорю "я знаю что вижу" - это результат работы нейронной сети мозга, обозначающей определённую категорию сложных реакций нервной системы. Эти реакции, от попадания света в глаз до появления мысли или слов "я знаю, что вижу" можно проследить на томографе. Можно заблокировать или изменить в любой момент внешними воздействиями. Тогда не будет ни видения, ни знания.

Суть в том, что точно то же может заявить и философский зомби и ИИ.
И пока нет возможности сказать, что это не так.

В результате разговоры об этом сводятся к внушению, что то, что "я" "переживаю" - это нечто особенное, недоступное ни для ИИ, ни, вообще, для наблюдения другими.

Иными словами, "квалиа" - это что-то вроде религиозной веры. Я их не понимаю, хотя тоже человек. Т.е. меня просят признать реакции нервной системы, называемые "ощущениями", и что можно изменить в любой момент извне, как нечто особенное, присущее только мне, и принципиально недоступное другим и никак не проверяемое другими.      

Скорее всего подобные философские заморочки с "квалиа" связано с паттернами концепции "я", формирующимися в нейросети ГМ человека где-то к 2 году жизни.

[Корнак]

по-моему, вопрос с ИИ уперся в вопрос веры

Допустим на улице идет снег, а я могу раздеться до гола и поваляться на снегу,

а кто ж тебе поверит?
видеофиксацию давай

[наблюдатель]

QY, на мой взгляд, проще.
Я различаю свет и его отсутствие.
Значит, вижу. )
Опять же, на мой взгляд:
у ИИ нет чувств, они ему не нужны.
ИИ — искусственный интеллект, где интеллект — мера разума,
умение пользоваться  им, логика.
Не исключаю, что ИИ сможет имитировать чувства настолько,
насколько человек сумеет их описать.

[Корнак]

Мы обсуждаем вопрос сущностного отичия человека от ИИ.
И мы не можем набрасывать "ИИ не имеет квалиа, а человек имеет".
Т.к. вы не только не можете доказать, что ИИ не имеет квалиа, или лжёт когда говорит "я вижу цвет", но не можете это доказать даже в отношении другого человека, имеено потому что квалиа определяется как различие между чем-то обладающим феноменальным сознанием и чем-то лишь в совершенстве имитирующем его.

это всё верно
мы не может ничего точно знать ни о других людях, ни об ИИ
всё это наши предположения, допущения, попытки апеллировать к так называемому "здравому смыслу"

как насчет прав вашего компьютера, QY?
не боитесь, что она вас засудит, ну, или начнет вам пакостить, если не будете протирать и загружать обновления сомнительного характера?
ведь это, по-вашему, сознательное, мыслящее существо

[Корнак]

ИИ — искусственный интеллект, где интеллект — мера разума,

интересно - какой нехороший человек придумал электронно-вычислительную машину называть ИИ?

[наблюдатель]

Вы это  не доказали и не сможете доказать . Нет ни материального, ни идеального в их чистом виде; существует лишь одно, что можно воспринимать с одной стороны как материальное, а с другой – как идеальное.

Не увлекайтесь, сэнсэй.
Идея – прообраз. Для нас материально всё, что видим и прообраз
чего берём за эталон, шаблон, подобие.
Прообраз вещественен, идеален образ. Понятно, что деление условно.
Объективной, реальность делает человек, назначая действие объектам.
Стул, кофемолка, холодильник – материальны, если выполняют назначенное
им действие. И человек – человек, если у него слово с делом не расходится. )