... что нааа-шаа жии-изнь?Игра! (Герман)

[Читатель]

Есть осязание? Стало быть есть и сознание. Скажем, - осязательное.
Есть зрение? Стало быть есть и сознание, - зрительное.

В полку дураков прибыло.
Только идиот может не понимать разницы между идеальным и материальным.

Я Пипе уже сто раз предлагал попробовать создать хоть что-то, похожее на живое, не говоря о психически сознательном. Но она даже вируса не может слепить. А вирус - это еще далеко не жизнь.
Куда ж тогда вы лезете создавать ИИ, которого вы собрались наделить мышлением? Вирус создать на порядок проще. Но и там у вас облом.

Не, я не против ИИ, ни в коем разе. В виде ЭВМ, как им и положено быть. Но при чем тут мысли? Мысли все идеальны и другими быть не могут.
ИИ способен на многое. И он будет развиваться больше и больше. Но это имитация мышления, имитация ощущений, имитация эмоций.
Имитация материальна. Машина в будущем может полностью заменить человека. Но заметить в качестве объекта общения, но никак не в качестве субъекта, способного заниматься психической деятельностью.

Ну, а Пипа пусть продолжает играть в свои куклы.

[Хроник из Амбера]

А вот тут то и прячется основной философский вопрос ИИ :)
Похоже, что придётся копировать этих самых "животных существ" и таким образом
"выращивать" сознание (или его аналог) в системах ИИ.

Вот и у меня возникают подобные подозрения. А мы ведь ещё не говорим об осознании! Мы остаёмся в «пространстве сознаний». К тому же говорим лишь о пяти органах чувств, упуская шестой, - ум. То есть, мы не говорим о мышлении, только о сознании.
Понимаю, что звучит странновато. Ведь, по-нашему, сознание связано как раз с мышлением!
А если нет?
Вот трудится муравей над своей хворостинкой. Сознание у него есть наверняка, раз есть органы восприятия. А мышление? А вот это вряд ли.
Да что там насекомые! Возьмём существо, которое вроде поближе, - моего кота. Вот уж кому трудно отказать в мышлении. Он даже способен создавать ритуалы и принуждать меня придерживаться этих ритуалов. Например, ритуал утренней встречи, ритуал при спуске со второго этажа, ритуал вечернего приветствия и тп. Вот как он их придумывает?? А раз придумывает, то стало быть чего-то там мыслит?
Увы, не факт. Ему вполне может быть достаточно санджни, то есть «объединяющего сознания» для его пяти органов чувств, чтобы производить действия, представляющиеся о-с-мысленными. Мышления здесь может и не быть вовсе.
Кстати, заметь, хотя я и мню себя существом высшего порядка в сравнении с котиком, я не знаю, как он видит мир и кем себя в нём ощущает (не могу сказать, - осознаёт). (Это чтобы и главный вопрос, - кем осознАют себя Машины – не утекал слишком уж далеко):)

И что бы преодолеть некий барьер в развитии ИИ всё же придётся наделять их
и чувствами и желаниями. Это не будет копией человеческих (животных) чувств и желаний,
но это будет их побудительные мотивы и (главное) материал для самостоятельной эволюции ИИ,
уже без участия человека, как элемента лишнего и тормозящего процесс.

Вооотт… Понятно, что это не будут человеческие чувства или желания. Однако, кроме этого, как быть с «элементом случайности»? «Элементом глупости»? (я ж уже описал, как в силу моего глупого поведения возник вот этот самый разговор) Или все эти «элементы человечьего несовершенства» мы в Машины программировать не будем?

Кстати о сознании (не мышлении!) Машин.
Был у меня когда-то Навигатор. Ну, знаешь, хрень такая, которая дорогу автомобилю прокладывает. Звали его Серёга. То есть в нём было предложено выбрать один из «голосов сопровождения». Два были мужские - Сергей и Александр, один женский – не помню, как там её. По тембру понравился Сергей, ну и вот.
У Серёги был один забавный закидон. Он, ни с того, ни с сего, иной раз уводил с намеченного логически маршрута и принимался гнать нас по каким-то совершенно невъебенным просёлкам.
Все такие случаи не помню, но помню когда это впервые проявилось и ещё один совсем уж коварный эпизод.
Впервые этот его закидон проявился в Германии. Серёга предложил съехать с автобана. Я спокойно повиновался, дело обычное, переедем с одной трассы на другую, всё нормально.
Но вместо этого мы понемногу оказались на каких-то просёлках и даже без асфальтового покрытия. Это в Германии-то, Карл!
Ну, что делает нормальный водила в такой ситуации? Правильно, включает логику. А логика подсказывала, что видимо в Серёге сбились какие-то настройки. Останавливаюсь, проверяю. Ан нет. Всё в порядке. Опции «лишь дороги с твёрдым покрытием», «самый быстрый маршрут» (а не «самый короткий») на своих местах. Но Серёга между тем ведёт нас по какой-то незапланированной прелести.
Вот так, проблуждав по германской провинции минут сорок, мы опять выбираемся на автобан. Вытаскивается атлас, который по привычке и по сей день завсегда валяется в машине, чтобы посмотреть, что же оно было. А ничего. Выясняется, что мы просто проделали какую-то петлю и вернулись почти в то же самое место на автобане, с которого начали.
И вот этот свой закидон Серёга выдавал с завидной регулярностью. Собственно, мы не были особо против. Нам всегда нравится «прокатиться по провинции» и на что-нить поглазеть, чего со всяких автобанов не увидишь. Так что если особо не спешишь – а мы редко спешим особо – то такие ситуации только радовали. Тем более, что Серёга ведь в таких случаях всё равно в итоге выводил на нужный маршрут, а не бросал нас «посреди поля».
Один случай правда был почти траги-комический. В Италии (как раз от Эдмундо возвращались в очередной раз):) Серёга, по обыкновению, решил нас порадовать видами провинции. И всё шло замечательно, пока не въехали на окраину какого-то небольшого городка. Серёга говорит: поверните направо. И я бы не против, да только машина стоит, направив морду почти вертикально вверх и мне вообще, кроме стен домов по бокам, ничего не видно ни справа, ни слева.
Выбираюсь наружу, иду оценивать ситуацию. Да, там действительно проходит дорога. Вызываю подружку, говорю, чтобы стояла слева и если вдруг появится какой автомобиль, отчаянно ему махала, чтобы он подождал, пока я буду выполнять предложенный Серёгой поворот вправо.
Всё обошлось, никаких машин не было и мы облегчённо начинаем спускать вниз по предложенному маршруту. Городок точно вымерший. Лишь впереди вскоре замечаем итальянца, который возле дома о чём-то возится с велосипедом. Заметив нас, он какое-то время пялится, потом подрывается и бежит навстречу, размахивая руками, с явным намерением нас остановить. Торможу. Мало ли, может ему насос понадобился?
Нет, чего-то лопочет, делая какие-то жесты в сторону направления нашего спуска. По англицки, естественно, ни гутентаг. Наконец делает жест, предлагая мне выбраться из машины. Выбираюсь. Он идёт вперёд, призывно жестикулируя. Иду следом. Метров через 50 выясняется, что дорога-то заканчивается… ступеньками! А потом начинается другая дорога и из машины эта ситуация была не видна.
Оцениваю. Нет, эти ступеньки нам не преодолеть.
Возвращаюсь к машине, толкаю Серёгу. Тот, как и показывал, утверждает, что надо двигаться в том направлении.
Развернуться негде. В компанию к нашему итальянцу добавился ещё один, такой же не англицкий. Но посредством жестов и мимики выход был найден. Итальянцы направились вверх по улице, контролируя ситуацию, а я задком-задком следовал за ними. Ты представляешь себе, как это оно на механической коробке передач двигаться задницей вверх по узкой крутой улице, да ещё чтобы не наехать на сопровождение, подав лишнего газу? До этого случая и я не представлял, теперь же могу сказать, - да ну его нафиг!
Таким макаром добрались мы почти до того места, где свернули на эту улицу. Влево уходила другая улица, такая же узкая, но не настолько крутая. Итальянцы махали в неё и поднимали вверх большие пальцы. Я поблагодарил (на это моего италийского хватило):), и мы направились дальше.
Но тут взбунтовался Серёга! Он требовал развернуться и вернуться на прежний маршрут. Было пару перекрёстков, где я мог бы это сделать, но понятно ведь, чем бы закончилось. Так что я решил просто ехать прямо, несмотря на угрозы Серёги, пока наконец-то не доберёмся до какого-то места, где он облагоразумится. Место это оказалось уже на выезде из городка. Там Серёга приумолк, а потом, как ни в чём не бывало, предложил: следуйте прямо… не помню, сколько уж там километров.

Я понимаю, что скорее всего можно найти причину такой манеры общаться Серёги. Кстати, заради проверки я как-то переключился с Серёги на Сашку. И с ним таких закидонов не было. Впрочем, наверняка не могу утверждать, может просто недостаточно с Сашкой поездили.
А потом Серёгу украли:( И мы очень горевали, настолько привыкли к нему. И больше таких Навигаторов у меня не было.
Так вот. Наверняка можно найти объяснение Серёгиным закидонам. Но я иной раз думаю: а вдруг это было… сознание?:) Не осознание! Просто сознание. Вот может же мой кот, как уже говорил, своим сознанием «придумывать» всякие ритуалы. Почему бы Серёге было не «придумать» свой ритуал? К тому же этот его ритуал и нам нравился.
И ещё такой момент. Как насчёт «закидонов»? Их что ли тоже придётся программировать в ИИ? Или это лишнее? Зачем Машинам закидоны?
Я не знаю. Им-то может и незачем. Но что за жизнь настанет без закидонов, случайностей и прочих прелестей?
Впрочем, я ведь сейчас рассуждаю, как человек. А Машинам этого добра наверняка не надо будет.

[версус п]

Ну так и не разевал бы пасть про "компы=счёты", потому что сразу свою тупость явил.

чувак ты обращаешься ко мне, тупо хамишь и оспариваешься, не предъявляя никаких аргументов, но чего то при этом требуя. так ведут себя тролли пни пипосеки, ну уж никак не те для кого тема представляет этический или научный интерес  тебе в третий раз говорят - и комп и калькулятор и ии по отношению к живому сознанию - это один и тот же принцип. у тебя есть что возразить? можешь назвать принципиальное отличие компа от калькулятора столь существенное чтобы отрицать контекст сказанного? нет, так иди нахуй, решатель, задач и логик теоретик(с)
до чего же убогая у пипки тусовка, все эти субъективисты, им хоть садизм хоть мать родная - инфоповод 

[Субъективный объектевист]

тебе в третий раз говорят - и комп и калькулятор и ии по отношению к живому сознанию - это один и тот же принцип

Ты ошибаешься. Но по каким то непонятным причинам не желаешь вникать.
Я могу попробовать объяснить, но сомневаюсь, что ты попробуешь понять.
Все три эти штуки очень сильно принципиально отличаются.
Отличие компа от калькулятора (постарайся вникнуть):
состоит в наличии у компа хранимой в памяти программы.
И если калькулятор работает под прямым управлением человека,
а комп может работать без участия человека, что используется широко
во всех системах автоматического управления, электростанциями, поездами,
самолётами и прочими сложными объектами. В частности управление АЭС настолько
сложный процесс, что с ним справиться может только коллектив людей, довольно
большой, хорошо обученный и...ничего не гарантирующий (Чернобыль как раз об этом),
 а вот хорошо запрограммированный комп в одиночку рулит годами без участия людей.
И примеров тому множество. Здесь мы видим такое качество как автономность функционирования,
чего и в помине нет у калькуляторов и счётов.
Далее - отличие запрограммированных на определённые функции компов от эмуляции
ИИ состоит в том, что люди не программируют все действия на все случаи жизни (что часто
не возможно), а программируется механизм обучения ИИ, далее он уже обучается на опыте
людей умеющих это делать. Авто которые сами могут двигаться по улицам городов
не запрограммированы по принципу:" Если...ситуация1 то....действие1 иначе...действие 2"
и т.д. их ставят на авто, обвешанное камерами со всех сторон и водитель профессионал
катает по городу максимально корректно с учётом ПДД и текущих ситуаций, а этот агрегат
сам мотает на ус и строит в своей памяти некие правила, как вести машину в разных ситуациях.
Люди эти правила не могут понять, усвоить и как то использовать.
Т.е. это уже шаг в сторону того, что компы не только автономно работают, но и ещё
и сами обучаются работать.
Что до универсальнго решателя задач и логика теоретика то прораммам этим уже
более 60 лет, с тех пор не только много воды утекло, но произошло много технологических
революций и много нового в теории ИИ. А они были первыми шагами, после которых
уже пройдено много дорог. И стоит ли опираться на них?

[Субъективный объектевист]

заметь, хотя я и мню себя существом высшего порядка в сравнении с котиком, я не знаю, как он видит мир и кем себя в нём ощущает (не могу сказать, - осознаёт).

Хуже того, с машинами будет та же фигня. Мы не сможем "заглянуть в их внутренний мир".
Так же как и во внутренний мир любого существа, хоть человека, хоть кота, да хоть дятла

Или все эти «элементы человечьего несовершенства» мы в Машины программировать не будем?

Мы не будем программировать ни "человеческих совершенств" ни "человеческих несовершенств",
программировать мы будем способность обучаться и эволюционировать. И они прекрасно выработают сами
все свои "несовершенства" без малейшего нашего участия.
Знаешь какой главный вопрос у создателей программы  AlphaZero, которая легко за 4 часа
сама обучилась игре в шахматы и обыграла чемпиона людской породы?
КАК ОНА ЭТО ДЕЛАЕТ?!
И это создатели программы. Для обывателя и корнака это вообще нечто в природе не возможное.

Насчёт твоего друга Серёги могу предположить, что это программный баг, либо косяк
в описании карт, скорее всего его коллега Саня просто не попадал на эти косяки, ибо
озвучивают они разными голосами одно и то же - работу программы по прокладке маршрута,
и её под каждую озвучку никто писать не станет.
Насчёт сознания в данном случае я скептичен предельно. Нет там "физической основы"
для существования сознания. Обычный последовательный процессор, который каждый момент
времени имеет дело с одной командой, и сливаются они в одно только во времени, но
не в одномоментности (а мне кажется это существенным условием существования сознания).

[Хроник из Амбера]

Хуже того, с машинами будет та же фигня. Мы не сможем "заглянуть в их внутренний мир".
Так же как и во внутренний мир любого существа, хоть человека, хоть кота, да хоть дятла :)

Зато фантазировать на сей счёт можем сколько угодно! А главное, фантазии свои принимать чуть ли не за истину:)

Насчёт твоего друга Серёги могу предположить, что это программный баг, либо косяк
в описании карт, скорее всего его коллега Саня просто не попадал на эти косяки, ибо
озвучивают они разными голосами одно и то же - работу программы по прокладке маршрута,
и её под каждую озвучку никто писать не станет.

Вот так поговоришь с умным человеком и на душе спокойнее:) Я ж говорил, что наверняка есть этому разумное объяснение. И я с ним согласен (хотя ничего и не понимаю в токостях):)
Но зато сколько радости Серёга доставлял! Он же для нас прям почти живой был. Мы с ним иной раз разговаривали:) А было пару случаев, когда я вовремя ловил его на том, что он готовится «закинуться». Обычно такое в Литве бывало, где я примерно знаю все дороги. Серёга предлагает: поверните направо. А я ему в ответ: дудки! Серёга, тут ты меня не купишь.
:)

И они прекрасно выработают сами
все свои "несовершенства" без малейшего нашего участия.

Вот это для меня прям фантастика. Но обнадёживает:)

Знаешь какой главный вопрос у создателей программы  AlphaZero, которая легко за 4 часа
сама обучилась игре в шахматы и обыграла чемпиона людской породы?
КАК ОНА ЭТО ДЕЛАЕТ?!
И это создатели программы.

!!!

[Субъективный объектевист]

Зато фантазировать на сей счёт можем сколько угодно! А главное, фантазии свои принимать чуть ли не за истину:)

Ну во-первых я знаю только одну истину: никакой истины не существует,
всё есть наши фантазии. Но я не вижу смысла фантазировать на тему: как ОН
себе это представляет? При этом ОН всё что или кто угодно, кот или ИИ, не важно.
Мне интереснее - как ОНО устроено и работает. ОНО это сознание, кто бы
ни был его носителем.

[Pipa]

С подачи Субъективного Идеалиста, могу его теперь более-менее внятно озвучить: если ИИ когда-либо себя осознает, то, - кем именно?

     "Кто" - это идентификатор, необходимый для идентификации человека в социуме. Кроме человека такой идентификатор нигде не применяется - животные различают друг друга по внешнему виду, не задавая вопроса "кто ты?" ни себе, ни другим. Например, кот никогда не думает: "я - кот, зовут меня Феликс, позади меня длинный хвост" .
     Наиболее ясно выглядит эта ситуация в ролевых компьютерных играх, когда аватару имени не дают (если всё равно по имени его называть никто не будет), а игрок выбирает одного из ряда готовых аватаров или конструирует его сам перед началом игры. Т.е. тут тоже используется животная идентификация по внешнему виду. Причем, "я" в игре - это тот аватар, поведение которого подчиняется вашим желаниям, тогда как для того, чтобы подчинить своим желаниям остальные объекты, требуется воздействие на них аватара (обычно механического характера). В этом смысле "я" - это действующее начало в мире, в значительной мере подчиняющееся сознанию. Очевидно, что у ИИ проблемы с этим никакой не будет, поскольку деление на то, что непосредственно подчиняется командам ИИ (его исполнительные механизмы) очень четко отличаются от всего того, что подчиняется только в процессе предметной/трудовой деятельности. Вот и новорожденного цыпленка никто не обучает, где кончается его тело и начинается чужое - всё это легко определяется опытным путем. И если эта задача посильна для новорожденного цыпленка, то для ИИ уж точно не составит труда. Но если ж вы такой пытливый, то в ответ на вопрос "кто" ИИ может сообщить вам свой фабричный номер .
      Что же касается сознания, как такового, то у человека одно сознание, а потому идентификатор ему не нужен. Это на вопрос "чем берешь ложку?" есть два ответа - правой или левой рукой, и то только потому, что у человека две руки. А вот нюхать можно только носом, а потому вопрос "чем нюхаешь?" лишен смысла, даже если дать на него ответ. Хотя вопрос "чем дышишь?" уже имеет смысл, т.к. дышать можно еще ртом.
      Вот и получается, что сознание - это устройство, которое на основе информации от датчиков двигает своими серво-механизмами , и вопрос "кто я?" само себе не задает ввиду его абсурдности. Причем подобная ситуация не единична, т.к. во Вселенной очень много объектов, которые в ней существуют вопреки тому, что ответ на вопрос "кто/что они?" не определен.

И тут у меня радостная новость!
Исходя из вышесказанного, Машины уже обладают сознанием!
Откуда я это взял? А от буддистов. По их представлениям, сформировавшимся ещё пару с лишком тысяч лет тому, существо, обладающее хотя бы одним органом восприятия, обладает и соответствующим этому органу чувств сознанием. Ну, тут обычная логика. Занахуа орган чувств, если данные от него поступающие некому обработать?

     Одних лишь органов восприятия обычно бывает недостаточно - в придачу необходимо, чтобы в ответ осуществлялись какие-то действия, этим восприятием обусловленные. В противном случае можно было бы считать фотоаппарат разумным существом .

Третью из ихних скандх, то бишь санджню, я уже помянул. Но есть и вторая. Обзывается, - ведана. Опять-таки буду несколько упрощать, но это как бы ощущение, чувственное переживание от контакта органа чувств с объектом. Они выделяют три больших группы таких переживаний: приятное, неприятное, нейтральное.
Насколько важна эта скандха?
По всей видимости важна. Представим ситуацию. Некое существо, обладающее одним органом восприятия, скажем осязанием, натыкается на препятствие. И? ОК, соответствующее этому восприятию сознание обработало сигнал, - жопа! Дальше хода нет!

     Я считаю, что скандха "приятное, неприятное, нейтральное" вредна, как и чувственные переживания в целом. Препятствие следует обходить, руководствуясь рациональными соображениями, а не навешивать на него чувственные ярлыки. В какой-то мере эта ситуация аналогична необходимости указывать пол объекта (он, она, оно), даже когда он неживой и половых признаков не имеет. Вот точно так же и деление на "приятное, неприятное, нейтральное" является апелляцией к телесным переживаниям, которые далеко не во всех случаях уместны. Рациональная тактика такова: в любой момент времени совершать те (управляющие) действия, которые в наибольшей мере адекватны ситуации, а если всё идет по плану, то можно и не вмешиваться в ситуацию. Тогда как "приятное и неприятное" - стимулы положительного и отрицательного подкрепления, имеющие смысл для мозга животного, а не ИИ. Только животному нужен кнут или пряник, когда оно действует согласно или противно своим инстинктам. Тогда как ИИ не имеет смысла соблазнять пряником, так и хлестать кнутом.
     В духе последнего вашего вопроса было бы полезно рассмотреть поведение автопилота автомобиля "Tesla" (который ныне не просто электромобиль, но и беспилотник). К сожалению, это не очень хороший пример, поскольку ИИ, который им управляет, имеет мало возможностей учиться, будучи перегруженным вложенными инструкциями о том, как надо вести себя в тех или иных ситуациях. Однако трудно найти лучший пример ИИ, где бы восприятие информации от датчиков было бы не самоцелью, а выливалось в действия, которые можно легко отследить. Ниже привожу ролик реакции автопилота Tesla на дорожные ситуации (для нетерпеливых смотреть с 20 секунды, раньше идут рекламные кадры):

<a href="https://www.youtube.com/v/qRjY55ELYnc" target="_blank">https://www.youtube.com/v/qRjY55ELYnc</a>

      Этот пример хорош тем, что тот автопилот четко понимает, где в каждый момент времени находится его "я" вместе с пассажиром, не пускаясь в философские размышления о том, что такое "я" и чем оно от "ты" отличается. Примерно так же ведут себя простейшие насекомые. Вот и далекие предки человека были очень похожими на этот автопилот, когда сознание у них было еще малоразвитым. Тогда как сознание человека не есть нечто кардинально другое из иного мира почерпнутое, а представляет собой дальнейшее развитие такого же автопилота, когда тот начинает интересоваться не только дорогой, но и всем прочим в мире.

      Здесь вы, в своем амплуа противника ИИ, сильно смахиваете по используемым приёмам на противников ... электромузыкальных инструментов, которые в своё время голосили, что скрипка должна быть обязательно деревянной, чтобы в ней "пела душа дерева", а у электромузыкальных инструментов, мол, нет души и всё такое. А еще раньше считалось, что для струн годятся только воловьи жилы, а из металлической проволоки струны делать никак нельзя. Тогда как в действительности с помощью электромузыкальных инструментов (ныне их чаще называют синтезаторами) можно синтезировать звук любой тембровой окраски, в том числе и подражать звукам традиционных музыкальных инструментов. А причиной того, что синтезаторы до сих пор не вытеснили традиционные музыкальные инструменты, является то, музыканты привыкли (их так обучают) управлять своими инструментами традиционным способом - водя по струнам смычком или дуя ртом в трубу, тогда как синтезаторы делают обычно клавишными. Из-за этого та же музыка на синтезаторе звучит отрывисто, четко отделяя один тон от другого, тогда как на скрипке и духовых этот переход плавный. Впрочем, были времена, когда бить по струнам молотками вообще считалось дурным тоном. Да и само деление музыки на отдельные тона произошло примерно тогда, когда понадобилось эту музыку записывать в виде символов.
      Вот и сейчас вы пытаетесь натянуть на ИИ воловьи жилы , не понимая того, что понятие сознания может быть шире того, что есть у человека. И точно так же, как музыкальный синтезатор не копирует устройство скрипки и ее способ звуковоспроизведения, так и ИИ не копирует человеческий способ восприятия и мышления. Этой же цели способствуют и усилия инженеров сделать ИИ не подобием человеческого сознания (ради потребностей в человеческом сознании, людей с улицы можно нанять сколько потребуется), а именно таким, чтобы он мог делать то, что человеческому сознанию непосильно. А раз так, то он в значительной мере и должен быть иным, а не копией, снятой с человека.

[Субъективный объектевист]

"Кто" - это идентификатор, необходимый для идентификации человека в социуме.

Думаю, что здесь слово "кто" использовано в очень узком смысле.
А если речь не о человеке?
-Кто покусал ребёнка?
-Вон та мерзкая псина!
Никто не интересуется кличкой этой псины, а пытаются выяснить кто её хозяин.
И псина и хозяин это "кто", но хозяин член социума, а псина постольку поскольку
у неё есть хозяин. Если хозяина нет, то просто бродячая собака, без имени и в целом
с плачевной судьбой. Либо хозяин наигрался и выбросил за ненадобностью,
либо это приплод от таких когда выброшенных и сбившихся в стаю, которая
регулярно размножается.
К примеру в Германии закон гласит: нет хозяина, нет собаки!
А у нас до сих пор разные "волонтёры" собирают их в разные питомники, на передержки
и пытаются всучить всем подряд.
Но ведь и вы, как тот кот Феликс, вовсе не думаете, что вот я Пипа, такая вся из себя.
Просто в каждом человеке живёт некое самоосознание, в соответствии с которым он
и ощущает себя именно человеком, а не котом или русалкой.
Хотя конечно есть и ложные самоощущения. К примеру здесь пара персонажей
числит себя великими философами, а один даже Леонардой да Винчи себя возомнил,
обычно таких размещают в палату к наполеонам, но у нас же плюрализм, вот и приходится
общаться.
А Лао Цзы на этом целую философию учинил:
Кто я, бабочка считающая себя Лао Цзы или Лао Цзы считающий себя бабочкой?
Думается, что он до сих пор не выбрался из этого тупика
Так что "кто" это не только внешний идентификатор, но и внутреннее ощущение.

Вот и получается, что сознание - это устройство, которое на основе информации от датчиков двигает своими серво-механизмами

Устройство? Вот прямо так? И из каких же компонент это устройство состоит?
Это не подковырка, это попытка понять. Что за устройство, где оно находится,
и как устроено (раз уж это устройство)

Ниже привожу ролик реакции автопилота Tesla на дорожные ситуации

Этот мультик автопилот конечно может выводить на экран, ну хотя бы для отладки программ,
но внутри автопилота некому на него смотреть, нет воспринимающего "Я".
И алгоритмы его работы на это видение не полагаются, они строят цифровую модель
ситуации и по ней рассчитывают действия доступные автопилоту.
По сути это "Серёга" Хроника, только наделённый бОльшим функционалом,
он может не только посоветовать сходить налево, но и рулём поворочать.
Сознания у них примерно одинаково - нисколько

Здесь вы, в своем амплуа противника ИИ,

Пипа, меня всегда удивляли ваши такие категоричные и мало обоснованные выводы.
Ну какой он противник ИИ? С чего это вдруг?
Человек искренне интересуется вопросом, но шире чем "а что могут автопилоты и почему?"
А тем где и как "начинается" сознание, возможна ли его эмуляция средствами вычислительной техники
нынешнего пошиба или нужно нечто качественно иное?
Ну скажем процессоры на базе нейрочипов или пресловутые квантовые компы. (это уже мои домыслы).
И никаких воловьх жил, просто попытка копнуть поглубже, заглянуть в суть проблемы.

[Читатель]

вы, в своем амплуа противника ИИ,

Нет здесь никаких противников ИИ
НЕТУ!
Меня хорошо слышно?
Это только в вашем воображении есть противники ИИ и противники науки.
А здесь вам в сотый раз говорят, что ИИ не имеет никакого отношения к интеллекту. У них только названия одинаковые. А ваш ИИ не может даже простого изобретения сделать.
Вы в своем упорстве поиска противников науки только плодите их. Люди думают, что наука именно такова, как вы ее представляете. Тогда как, к примеру, Болдачеву ваши попытки приравнивать интеллект человека к ИИ просто смешны. А разбирается он в этом на порядок больше вашего.

[Субъективный объектевист]

Меня хорошо слышно?

Тебя порни хорошо слышно, излишне хорошо, здесь и по всем форумам где ты сеешь
свою глупость. Доволен?

Болдачеву ваши попытки приравнивать интеллект человека к ИИ просто смешны. А разбирается он в этом на порядок больше вашего.

Очередной гуру? Успенский уже побоку? И вопрос один:
нет, два:
1. Знаешь ли ты что буквально означает "на порядок"?
2. С каких хренов человек который в области ИИ ничем себя не проявил разбирается в ней?
Да ещё и на "порядок больше"

А сам то ты, своим словами, без ссылок на дутые авторитеты, сказать что то об этой тематике можешь?
Ты её изучал? Что то читал? Или лозунгами обходишься?
Так вот - лозунги это ушедшее прошлое, никого они не интересуют. Заруби это себе на носу,
что бы очки не соскальзывали в раствор.

[Хроник из Амбера]

Ну во-первых я знаю только одну истину: никакой истины не существует,
всё есть наши фантазии. Но я не вижу смысла фантазировать на тему: как ОН
себе это представляет? При этом ОН всё что или кто угодно, кот или ИИ, не важно.
Мне интереснее - как ОНО устроено и работает. ОНО это сознание, кто бы
ни был его носителем.

Фантазировать конечно смысла нет, а вот попробовать "вмедитировать"... Пусть даже и понимая, что прям вот на все сто не получится. Однако тут другой момент. Пробуя "вмедитировать" в хорошие вопросы, начинаешь прояснять всякие понятия. Например, то же "сознание". Когда начинаешь его "прикладывать" к разного вида персонажам (насекомым, животным, рыбам, инопланетянам, бля:) и тому же ИИ), понемногу оно становится "знаком". Блин, я как-нить потом эту тему разверну:) Сейчас и без того хватает путаницы.

Очередной гуру? Успенский уже побоку?

Ээээ, нет. Болдачёв свой парень:) Как на мой вкус, так на сегодняшний день он один из наиболее интересно мыслящих философов. Когда-то я даже думал к ним в ФШ вписаться, чтобы с ним покалякать:) Да там такая дурацкая организация форумного общения (или я дурак, что ничего в ней не разобрал), что я просто плюнул, задружился с ним в Мордокниге, ну, и жду повода поболтать:) Правда, давненько уже жду, да всё как-то тема не подвернётся.

[Хроник из Амбера]

"Кто" - это идентификатор, необходимый для идентификации человека в социуме. Кроме человека такой идентификатор нигде не применяется - животные различают друг друга по внешнему виду, не задавая вопроса "кто ты?" ни себе, ни другим. Например, кот никогда не думает: "я - кот, зовут меня Феликс, позади меня длинный хвост"

А откуда Вы знаете, что думает кот? Или чего он не думает? Я, например, не беру на себя такой смелости даже в отношении собственного кота. И даже тут вопрос: это кот мой или я, - кота? Знаете ведь известный и не такой уж дурной анекдотец:
...Человек думает:
- Вот я кормлю кота, ласкаю его, вычёсываю ему шёрстку, чищу его лоток. Наверное он думает, что я, - Бог.
Кот думает:
- Это двуногое меня кормит, почёсывает в местах, где я захочу, убирает за мной какашки. Наверняка я, - Бог....
Мне неизвестно как именно животные различают друг друга и как они воспринимают самих себя.
Что же касается моего, - "если ИИ когда-либо себя осознает, то, - кем именно?"
то я ещё буду этого момента касаться. Может что-то яснее станет.

Вот и получается, что сознание - это устройство, которое на основе информации от датчиков двигает своими серво-механизмами :), и вопрос "кто я?" само себе не задает ввиду его абсурдности.

Я думаю похоже! «Вопрос о Я» не относится к пространству сознания. (Я выделил Вашу цитату жирненьким, чтобы потом проще было найти.)

Одних лишь органов восприятия обычно бывает недостаточно - в придачу необходимо, чтобы в ответ осуществлялись какие-то действия, этим восприятием обусловленные. В противном случае можно было бы считать фотоаппарат разумным существом :).

Ну, да. Я ж тоже об этом и пытаюсь говорить, всякие скандхи привлекая:)

Я считаю, что скандха "приятное, неприятное, нейтральное" вредна, как и чувственные переживания в целом.

Тут вот какое дело. Считать Вы можете всё, что угодно, однако сами до сих пор подвержены и чувственным переживаниям, и эмоциям. Более того, есть подозрение, что некие «эмоциональные моменты» являются для Вас весьма важными. Ниже покажу на примере. Пока что хочу только заметить, что мои слова не стоит ни в коем случае воспринимать, как упрёк. Я ведь и сам такой же. И все человеки такие.
Но поскольку мы говорим о Машинах, то очень может быть, что им действительно нет нужды в ведане. Однако им ведь нужна некая «оценочность»? Например, пусть не приятное-неприятное-нейтральное, а верное-неверное-пофигу? Или и такого не надо?
Я не знаю. Здесь Вы и Объективист наверняка лучше разбираетесь. То есть:

Только животному нужен кнут или пряник, когда оно действует согласно или противно своим инстинктам. Тогда как ИИ не имеет смысла соблазнять пряником, так и хлестать кнутом.

Но как-то же надо ему «указать», какие его действия верные? Иначе он все семафоры посшибает и всех старушек на переходах передавит.

Здесь вы, в своем амплуа противника ИИ,

Вот и этот пример, о котором выше сказал. Вам почему-то очень надо представлять меня противником ИИ. Прям воловьими жилами к этой роли прикрутить:). А почему? Думаю, так Вам лучше эмоционально и появляется драйв писать ответ. То есть, Вы, как и всякое животное:), скованы собственной человечьей эмоционально-чувствительной сферой.
Повторюсь, это не упрёк. Все такие!
Собственно, если Вам так лучше, так мне тоже хорошо. Побуду противником ИИ, шерсть не полиняет. Но вообще-то я только наблюдаю.
А что я сказал там, что, мол, ежели «война миров» случится, так стану воевать на стороне человеков, а не Машин, так это так, болтовня. Ничего такого не будет. Человечество и без Машин само себя благополучно угробит. Да, собственно, уже это делает.

Из-за этого та же музыка на синтезаторе звучит отрывисто, четко отделяя один тон от другого, тогда как на скрипке и духовых этот переход плавный.

О, нет! Тут Вы очень заблуждаетесь. Электронные инструменты звучат очень достойно. Вот, навскидку, два ролика. Первый с Roli Seaboard:
https://www.youtube.com/watch?v=2CTBoe7uPvE
Второй с Мишей Майским:
https://www.youtube.com/watch?v=mGQLXRTl3Z0
Да, для музыканта найти отличие можно. Но не столько в звуке, сколько в манере исполнения. От себя могу добавить, что на гитаре это звучит… ну, не то чтобы хуже, чем с Roli Seaboard, но я таки слегка завидую этому инструменту:)

И точно так же, как музыкальный синтезатор не копирует устройство скрипки и ее способ звуковоспроизведения, так и ИИ не копирует человеческий способ восприятия и мышления.

Да! Об этом уже даже я понял, разумеется, с помощью Субъективного Объективиста:). Но создавая ИИ мы всё равно пользуем некие принципы, которые нам доступны, известны именно как виду homo ludens.
:)
Разумеется моё «мы» вовсе не значит, что я тоже каким-то боком к этому делу причастен:) Ну, фигура речи такая.

[Pipa]

"Кто" - это идентификатор, необходимый для идентификации человека в социуме. Кроме человека такой идентификатор нигде не применяется - животные различают друг друга по внешнему виду, не задавая вопроса "кто ты?" ни себе, ни другим. Например, кот никогда не думает: "я - кот, зовут меня Феликс, позади меня длинный хвост"

А откуда Вы знаете, что думает кот? Или чего он не думает?

     Кот здесь для красного словца, чтобы более образно подчеркнуть высказанную мысль. Не надо буквально понимать так, что я читаю мысли животных.

Я считаю, что скандха "приятное, неприятное, нейтральное" вредна, как и чувственные переживания в целом.

Тут вот какое дело. Считать Вы можете всё, что угодно, однако сами до сих пор подвержены и чувственным переживаниям, и эмоциям. Более того, есть подозрение, что некие «эмоциональные моменты» являются для Вас весьма важными. Ниже покажу на примере. Пока что хочу только заметить, что мои слова не стоит ни в коем случае воспринимать, как упрёк. Я ведь и сам такой же. И все человеки такие.

     У меня есть разница с тем, что вы говорите. т.к. я свои решения/действия принимаю на рациональном уровне, в слабой степени зависимо от эмоционального отношения. А чаще всего, именно эмоциональное отношение у меня оказывается производным от рационального решения. Типа того, что сперва на рациональном уровне решаю, что хорошо, а что плохо, а потом эмоционально радуюсь первому и огорчаюсь второму .
     Тем не менее, эмоции я тоже стараюсь использовать себе на пользу, т.к. они являются природными регуляторами выплёскивания/расхода энергии. Это же прослеживается и в моих постах, т.к. для того, чтобы пост получился содержательным и выразительным требуется определенная степень возбуждения. У меня особо хорошо это получается, когда на кого-нибудь злюсь , а в благостном расположении духа удачные слова плохо на ум приходят. Т.е. здесь играет свою роль подсознание, стимулируя энергией мою агрессию , но слабо разбираясь в том, на что я ее расходую.

Но поскольку мы говорим о Машинах, то очень может быть, что им действительно нет нужды в ведане. Однако им ведь нужна некая «оценочность»? Например, пусть не приятное-неприятное-нейтральное, а верное-неверное-пофигу? Или и такого не надо?

     Вообще-то машины (впрочем, и как человек!) всегда поступают ... верно, но на свой собственный взгляд. Т.е. неверные решения получаются не тогда, когда человек решил поступить неверно, а лишь тогда, когда он "добросовестно заблуждается" в отношении того, что является в данной ситуации правильным решением.
     Другое дело состояние неопределенности, когда решение приходится принимать "на глазок". Прежде такого машины не умели, т.к. раньше использовали исключительно математические алгоритмы, которые обычно выдают либо строгое решение, либо никакого. Тогда как ИИ нынче относятся скорее к сфере "нечёткой логики", когда в случае отсутствия строгого решения ищется вариант с наименьшей погрешностью. Надо сказать, что последние полвека математика штурмует как раз такие задачи, поскольку задачи, имеющие решение, либо были решены раньше, либо решены недавно с помощью компьютеров путем подбора численного решения. Тогда как в практических задачах решение выдавать обязательно, чтобы не быть буридановым ослом. Отсюда и корень проблемы, когда точного решения нет, а как-то поступать обязательно надо. Такого рода ситуации наиболее часто встречаются в задачах распознавания образов и классификации объектов. Например, человек никогда абсолютно точно не совпадает со своей фотографией в паспорте, однако ответ на вопрос "это он?" дать совершенно необходимо. Т.е. ради того, чтобы ответ был всегда, приходится жертвовать точностью решения, а раньше математика этого делать не умела. Потому надо понимать, что ИИ тоже может ошибаться, но ошибаться исключительно потому, что от ответа на трудные/неразрешимые вопросы ему нельзя уклоняться.

Только животному нужен кнут или пряник, когда оно действует согласно или противно своим инстинктам. Тогда как ИИ не имеет смысла соблазнять пряником, так и хлестать кнутом.

Но как-то же надо ему «указать», какие его действия верные? Иначе он все семафоры посшибает и всех старушек на переходах передавит.

     Ну а вам-то кто «указывает», какие ваши действия верны? . Вот и с ИИ точно так же.

А что я сказал там, что, мол, ежели «война миров» случится, так стану воевать на стороне человеков, а не Машин, так это так, болтовня. Ничего такого не будет. Человечество и без Машин само себя благополучно угробит. Да, собственно, уже это делает.

     Все "недостатки" человечества проистекают от животной природы, т.е. от того, от чего так и не удалось избавиться в человеческой ипостаси. И если вы проанализируете те случаи, когда люди поступают неразумно во вред себе и окружающими, то обнаружите, что это происходит как раз под действием животных побуждений, в том числе и под давлением эмоций, разуму не подчиняющихся. И если в результате аффекта человек может совершить любую глупость, то при меньшем эмоциональном накале - глупость рангом поменьше . Отсюда и мои упования на ИИ, поскольку "человеческий фактор" в качестве источника ошибок неистребим.

И точно так же, как музыкальный синтезатор не копирует устройство скрипки и ее способ звуковоспроизведения, так и ИИ не копирует человеческий способ восприятия и мышления.

Да! Об этом уже даже я понял, разумеется, с помощью Субъективного Объективиста:). Но создавая ИИ мы всё равно пользуем некие принципы, которые нам доступны, известны именно как виду homo ludens.
Разумеется моё «мы» вовсе не значит, что я тоже каким-то боком к этому делу причастен:) Ну, фигура речи такая.

     Аналогию с музыкальными инструментами я использовала исключительно ради большей доходчивости объяснений. Но если вы высказанной мной идеи не поняли, а решили, что я собралась на музыку разговор перевести, то я могу об этом только сожалеть.

[Субъективный объектевист]

Однако им ведь нужна некая «оценочность»? Например, пусть не приятное-неприятное-нейтральное, а верное-неверное-пофигу? Или и такого не надо?

По моему мнению без этого никуда. Не на чем будет основываться процессу эволюции. Должно быть некое "целеполагание" и "мотивация" в том или ином виде. Причём они должны быть "встроены" в структуру самой системы ИИ, что бы ей что то нравилось, а что то нет, чего то хотелось а чего то нет.
К примеру в основе эволюции всего живого лежит в том или ином виде инстинкт самосохранения и потомство дают только те, кто выжил, все остальные на свалку истории
Эволюция нынешних компьютеров происходит в головах людей и движима людским желанием сделать "выше, дальше и быстрее", но она же упирается в способности людей, в их комбинаторику, логику, интуицию, эволюция же самих систем ИИ (без людского участия) должна двигаться их собственными потребностями. Какими? Не знаю. Но думаю без ответа на этот вопрос запустить процесс самостоятельной эволюции не удастся.
В первом приближении это могут быть аналоги человеческих (в смысле животных ) желаний: выжить, прокормиться, размножиться, надавать люлей всем кто окажется рядом. Правда последнее желание будучи реализовано скорее всего приведёт к уничтожению человечества, которое будет пытаться сохранить контроль и создаст некий "рубильник" которым можно обесточить обезумевших роботов. Так вот первая их задача будет заблокировать либо рубильник либо доступ к нему представителей гнусной людской биомассы