Блеск и нищета Искусственного Интеллекта

[QY]

Копия из темы "чёрное зеркало"

Это же база, заложенная еще Декартом, онтологический раскол в философии Нового времени, подводящий к сути проблемы сознания/тела.

Субстанциональный дуализм - лишь гипотеза, предположение, одна из многих такого рода в различных учениях и религиях, произвольно разделяющих наблюдаемое на материальное и «духовное», на тело и сознание. Одна из проблем подобных разговоров в том, что фанбаза учения или религии подобные предположения считают доказанным фактом. Т.е. не своей верой, на что необходимо указывать, а знанием, которое должно быть как-то доказано, рационально аргументировано.

Хотя Декарт и был образованным человеком своего времени, у него не было тех знаний в области нейрофизиологии или физики, которыми мы сегодня обладаем, и которые могут объяснить нечто проще и доказательнее. Человек склонен относить к области мистического то, что он в данный момент не может объяснить рационально.

Вообще, к сожалению, но не без основания, современную философию называют всего лишь «историей философии». Потому что философы склонны не размышлять самостоятельно, тем более на основе современных научных данных, а перебирать аргументы философов прошлого и ссылаться на авторитеты. Как будто они знали о человеке или природе больше, чем мы сегодня.

Внепространственная сущность обладает причинностью по отношению к материальному миру в котором все явления замкнуты в цепь причинно-следственных отношений и опознаются как материальный объект, предмет научных исследований Вы мне рассказываете про влияние каких то веществ и других физических причин на сознание, считая это достаточным аргументом?

Это простые и рациональные аргументы, которые доказывают материальные условия возникновения и исчезновения сознания; показывают материальную обусловленность сознания.  

Здесь же свобода воли, если вы считаете сознание особой формой материи, существующей по правилам каузально замкнутого материального мира, следовательно никакой свободы воли у вас нет, все ваши решения, действия предопределены заранее, в точке старта вселенной.

А причём тут «свобода воли»? Как это вы так перескочили от понятия «сознания» к понятию «свободы воли»? Может, сначала разберёмся с самим «сознанием» - что это такое, и как его наличие противоречит каузальной замкнутости мира. При этом необходимо отметить, что понятие КЗМ было расширено квантовой механикой. Индетерминизм "наблюдаемого" может означать каузальный разрыв именно на уровне наблюдаемого или осознаваемого, но материальный мир продолжает оставаться детерминированным на более глубоком уровне. Физики считают сознание тем, что позволяет наблюдать 3D срез в 4D эволюции детерминированной волновой функции вселенной. Наблюдаемость материи – одно из свойств реальности, которая позволяет существовать "сознанию".

И ваше сознание становится необязательным эволюционным атавизмом, если у него нет воли повлиять на материальный мир извне, вы не отличаетесь от философского зомби.

Концепция философского зомби – абсолютно алогичная и надуманная концепция. Она говорит о том, что могут существовать абсолютно  совпадающие копии, но при этом с какого-то будуна в чём-то различающиеся копии, одна из которых «осознаёт», а другая с чего-то - «в темноте», и это никак не различить. Бред.
Сознание – часть физического процесса, представления о котором были расширены с развитием физики.    

Цитата: QY от 24 сентября 2024, 17:41:10
Очевидно, что сознание - результат причинно-следственных связей, их определённая форма и название

Неочевидно еще и по причине непостижимости перводвигателя, запустившего все причинно-следственные цепи.

Мистический перводвигатель, или вопрос о том, почему бытие есть, или почему всё так, а не как-то иначе – это вопросы не про сознание. Предлагаю не тонуть в них. Хотя на последнее физика отвечает гипотезой множественности миров реализующими различные исходы квантовых флуктуаций, каждая из которых определяет контекст/ограничения для исходов последующих и так создаются различные миры, реальные (для многомировой интерпретации) или потенциальные (для копенгагенской), сосуществующие в глобальной волновой функции вселенной.    

Цитата: QY от 24 сентября 2024, 17:41:10
Если нет тестов, значит, закономерный вывод, что нет и отличий. По крайней мере до тех пор, пока не появятся тесты.

Я же уже говорила, что любые тесты ограничены рядом условий, за которыми они прекращают действовать. Изобретатели эти тестов как бы не идиоты были, и сами понимали что адекватного теста, подтверждающего наличие искусственного сознания идентичного человеческому быть не может.

https://studfile.net/preview/5871908/page:12/

Рациональное знание развивается не тем, что не понимает недостижимость некоей трудно определимой «абсолютной истины», а тем, что текущие представления(теории) наиболее адекватно описывают реальность через эксперимент или практику, которая и является критерием истинности, хотя и истинности не в абсолютном смысле. Если тест показывает что ИИ, созданный на определённых принципах, не может его пройти, в отличие от человека, то это хотя бы означает, что сознание/мышление человека основано на других принципах. А так же очерчивает границу применимости ИИ и доверия к нему в решении задач. Разумный человек обязан искать такие тесты, чтобы не быть выкинутым на обочину эволюции, исчезнуть наподобие неандертальцев.

Каких отличий нет, между кем и чем? Если тролль Eugene Goostman прошел тест Тьюринга значит между ним и вами нет отличий? Вывод ваш мягко говоря несерьезный.

Достаточный, чтобы научный мейнстрим считал данный вывод общепринятым https://arxiv.org/pdf/2308.08708 : «First, we adopt computational functionalism, the thesis that performing computations of the right kind is necessary and sufficient for consciousness, as a working hypothesis. This thesis is a mainstream—although disputed—position in philosophy of mind.». Так что «несерьёзными» пока считаются как раз альтернативные выводы.

Я не все читала что вы пишете

Я зарегистрировался недавно.

, но вот еще, про отсутствие принципиальных возражений к тому чтобы выпустить нейросеточку с достаточными скоростями и объемами поиграть в выживалку в реальном мире. Это ни что иное, как очередной тест, условия для которого будут заданы искусственно) Любые описания такого эксперимента будут включать ряд условий. Это при том, если он в принципе возможен, и ограничения по скоростям и объемам преодолимые, как вы полагаете.

Я считаю некоторые значимые ситуации непреодолимыми для классических формальных арифметических систем, на которых основаны все современные и обозримые версии ИИ,  с т.з. вычислимости при адаптации к реальному миру.

Т.к. полагаю, что сознание человека является квантовым и это объясняет возможность "экстрасенсорного" не только восприятия и действия, но и мышления. И способность решать некоторые принципиально неразрешимые для ИИ задачи -  в основном в ситуации вычислительных бездн и тупиков (напр. задачи BQP-сложности), незнания и неопределённости  Это предполагал и сам Тьюринг, который предложил особый тест, но его проигнорировали.

Научный мейнстрим пока считает, что дело именно в наращивании по скоростям и объёмам + оптимизация алгоритмов (самооптимизация для «супер ИИ»). А значимые «визионеры» (специалисты-прогносты) в этой области полагают, что у человека нет шансов, что человек был просто биологической супенью в развитии ИИ и выпадет осадком на эволюционное дно.  И это определяет направления финансирования и социального внушения.

Я то думаю, что они, напротив, сущностные - пока не достигнут уровень, организующий сознание, все имитации на более примитивных уровнях будут требовать средств, делающих такую затею нецелесообразной.

Да, я примерно о том же. Видимо, различие наших позиций в том, что вы сознание считаете чем-то «нефизическим», «нематериальным», не относящимся к данной реальности (и тогда возникает вопрос о природе взаимодействия сознания и тела – каким образом, на каком этапе движения некое нематериальное движения оказывает влияние на материальное), а я – физическим процессом, относящимся к реальности, только в расширенном понимании физического, данным нам квантовой физикой. Чего не было у философов прошлого, и они были вынуждены изобретать различные «дуализмы».  

Эту тварь с датчиками не просто в загончике будут держать под прицелом, к ней еще и куча питающих кабелей будет проложена, она потребует финансов, то есть эквивалентного труда миллионов человеческих обезьянок) Ну и по факту - этого нет в реальности, очередной мысленный эксперимент.

Практические работы в области нейроэволюции ИИ давно ведутся, но они действительно требуют больших ресурсов. Главное, что пока ничто не указывает на невозможность достижения результатов в этом направлении (создания «ИИ общего назначения»).

Еще раз вам повторяю - сознание это проблема, не имеющая решения научными средствами

Да хоть ещё 100 раз скажите. Без доказательств это останется просто вашем мнением, вашей верой. Если вы определяете  сознание как нечто ненаучное, нематериальное, то, конечно, по самому определению, она не будет иметь решения научными средствами. Но это просто ваша личная вера.

изгонять философию или мистику наука не имеет права при наличии проблемы и отсутствии решения.

Уже изогнала, т.к.. мистика не предоставила достаточной фактологии для серьёзного рассмотрения, одни только абстрактные философские рассуждения, для которых есть альтернативные филосовские рассуждения (для дуализма – монизм, для феноменализма – физикализм и т.д.). А результате работает бритва Оккама, принцип экономии объяснений, «не нуждающихся в теории Бога» (феноменального сознания и т.п)

Философия давно уже признана важнейшим инструментом для исследований в сфере ИИ, поскольку при неопределенном предмете и методе только максимально свободная мысль может раскрыть природу сознания - свою собственную природу.. на секундочку  

Кем же это признана? Самими философами? Чтобы не забыли о них совсем?

[QY]

Игра Го - тоже реальность , только происходит она в рамках игровой доски. Между тем, сложность этой задачи может не только не уступать, но и на порядки превосходить сложность задач, кажущихся нам более значимыми.

Игра Го - лишь маленькая часть реальности. Реальность в целом на многие порядки сложнее с т.з. возможных комбинаций элементов и разнообразия ситуаций. Поэтому "граалем" ИИ и является AGI общего назначения, способного, как человек, и в Го играть, и суп варить, и государством управлять, и ещё на массу вещей реагировать и о многом думать. Например проблема ИИ AlphaGo "сделавшего" чемпиона мира Ли Седоля (и других мастеров), заключается в том, что если предложить поиграть ему не на доске 19x19, а на  20x20, то он быстро проиграет даже неопытному игроку. Потому что накопленная статистика действительна только для игры 19x19 с определёнными правилами.  Но если на место ИИ сядет опытный игрок - то для него внезапное изменение размера не станет серьёзным затруднением.

Тогда как ИИ неприхотлив - какой работой его нагрузили, ту он и тянет без оглядки на ее почетность.

Проблема в том, что ИИ узкоспециален, а реальные задачи часто взаимосвязаны, иногда в физическом смысле, иногда в смысле идей/принципов/методов разрешения. Условно говоря, если узкоспециализированный ИИ, скажем играющий на рынке финансов, учитывает только ситуацию на рынках, то ИИ широкого назначения может устроить где-то аварию, влияющую на рынок. Иными словами - чем больше размер ИИ, тем более оптимальным/эффективным может быть решение, поэтому все стремятся у универсальному ИИ, учитывающему самые разнообразные, самые неочевидные, самые дикие факторы, но решающие задачу самым оптимальным путём. Это неизбежно в нашем человеческом мире конкуренции, и в этом смысле все работают на ИИ, который их и "похоронит".

Когда же мы говорим о реальности, то ситуация складывается такая.

Слегка потерял нить. Мой тезис в том, что человек работает со всем многообразием реальности, а ИИ пока не может - работает либо в узком сегменте, которые не может нормально обобщить, либо теряется в деривативах (например в текстах и абстракциях, созданных человеком. Серьёзному ИИ придётся работать с первичными данными полной реальности, у человека представленными в виде ощущений или в виде приборно расширенных ощущений. Иначе ИИ погибнет в полной реальности, будучи оставлен человеком на произвол судьбы.  

Интуиция, инсайты, прозрения и открытия в сновидениях - это признак не высокой эффективности, а скорее всего низкой. Например, мужик долгое время не может забить гвоздь в стену, а выйдя в отпуск, наконец его забил. Но стоит ли нам славить этого мужика более того, кто забил гвоздь сразу же, как это понадобилось? Ведь отложенные на потом работы свидетельствуют только об одном - человеческое сознание, в повседневности загруженное фоновыми задачами, не справляется с решением задач творческих, которые оказываются отложенными на потом, когда интенсивность фоновых задач ослабнет (например, во сне).

Проблема в том, что, как правило, в науки гвоздь пытаются забить параллельно несколько мужиков. То есть над существенной проблемой работает множество учёных. Кто-то отдыхает, кто-то уже отдохнул. Но есть проблемы, которые требуют качественного скачка в представлении или понимании. В некотором смысле проблема не является математически или логически вычислимой на основании имеющихся фактов. Задача становится слишком неопределённой, многовариантной или сложной.  Вот тут и срабатывает "квантовое превосходство", постановка задачи которой возникает на границах сознания - сон. транс, медитация.

Я полагаю, что недалеко то время, когда серьёзно начнут исследовать/сравнивать способности ИИ и человека в особых ситуациях - невычислимости, сложности, вероятности, противоречий. Тогда и станет гораздо понятнее, что нейросеть человека только похожа в своих принципах на нейросети ИИ, но фундаментально иная и превосходящая возможности последнего в некоторых ситуациях. Ну, как квантовый компьютер превосходит классический лишь в ограниченном числе задач высокой сложности, а в остальных проще и даже эффективнее использовать классический, который вычисляет "конкретно", а не "вероятностно"  

[Pipa]

Проблема в том, что ИИ узкоспециален, а реальные задачи часто взаимосвязаны, иногда в физическом смысле, иногда в смысле идей/принципов/методов разрешения. Условно говоря, если узкоспециализированный ИИ, скажем играющий на рынке финансов, учитывает только ситуацию на рынках, то ИИ широкого назначения может устроить где-то аварию, влияющую на рынок. Иными словами - чем больше размер ИИ, тем более оптимальным/эффективным может быть решение, поэтому все стремятся у универсальному ИИ, учитывающему самые разнообразные, самые неочевидные, самые дикие факторы, но решающие задачу самым оптимальным путём. Это неизбежно в нашем человеческом мире конкуренции, и в этом смысле все работают на ИИ, который их и "похоронит".

     Прежде, чем рассуждать на эту тему, предлагаю вам определиться с тем, от чего, по вашему мнению зависит эта самая специализация. Т.е. узкую специализацию ИИ вы считаете неизлечимым пороком платформы, на которой ИИ построены, или же ИИ просто никогда не учили ничему иному, что выходило бы за узкие рамки его использования?
     Образно говоря, если бухгалтерша всю свою жизнь начисляла зарплаты сотрудникам предприятия, но не умеет ездить на грузовике, то потому ли это, что у нее мозги дебильные или потому, что на грузовике ее никогда не учили ездить? Да и вообще откуда умение управлять грузовиком должно было появиться? - От усложнения мозга или от обучения этому делу?
     Лично я полагаю, что ИИ, созданные на базе электронной нейросети, устроены примерно одинаково, а если и различаются друг от друга, то только размером этой нейросети (для более сложных задач, оперирующих большим объемом данных, требуется нейросеть большего размера). Другими словами, если есть задачи посложнее игры Го, то это не значит, что в ИИ, играющего в Го, не долили припоя . А просто для игры ГО ИИ прошел один вариант обучения, а для других задач обучение было другим. Т.е. не стоит забывать, что нейросетевые вычислители работают на принципе обучения, а не жесткого алгоритма, вложенного зашитой программой или паяльником.
     Поэтому универсальность человека – это не следствие каких-то выдающихся способностей его ума, а, как правило, следствие того, что на вход нейросети его головного мозга попадает не выборочная информация, а вся информация, с которой он сталкивается в своей жизни. Отсюда и универсальность шириной ровно в эту самую жизнь. Тогда как ИИ пока что не живут полноценной человеческой жизнью, а потому их опыт узко ограничен той информацией, к которой они имеют доступ. Причем, этот доступ обычно намеренно сужается, чтобы упростить ИИ до выполнения узко специализированы задач (чем уже область задачи, чем быстрее она решается нейросетью минимальной размерности).

[Корнак]

Поэтому универсальность человека – это не следствие каких-то выдающихся способностей его ума, а, как правило, следствие того, что на вход нейросети его головного мозга попадает не выборочная информация, а вся информация, с которой он сталкивается в своей жизни. Отсюда и универсальность шириной ровно в эту самую жизнь. Тогда как ИИ пока что не живут полноценной человеческой жизнью, а потому их опыт узко ограничен той информацией, к которой они имеют доступ.

Пипа, вы обратили внимание на важный момент отличия ИИ и ЕИ, умудрившись при этом перевернуть всё с ног на голову
именно для ИИ доступен весь массив информации, собранный за все эти году
там можно найти и как грузовик водить

[QY]

Т.е. узкую специализацию ИИ вы считаете неизлечимым пороком платформы, на которой ИИ построены

Да. Порок машины Тьюринга, более того, порок формальных арифметических систем, вынужденных последовательно тасовать элементы конечного множества по жёстким правилам.
Это приводит к тому, что расширение системы за узкую специализацию приводит к экспоненциальному росту ресурсов/времени для обработки данных и неспособности решать задачи, выше некоторого порога.
В прошлом году Сэм Альтман уже заявлял, что масштабирование ИИ достигло предела, и они сосредоточатся на оптимизации алгоритмов. При этом AGI ещё не создан, хотя большая часть исследователей оптимистичны. Собираются построить сферу Дайсона, чтобы запитать ИИ нужного масштаба. ) 
   

Поэтому универсальность человека – это не следствие каких-то выдающихся способностей его ума, а, как правило, следствие того, что на вход нейросети его головного мозга попадает не выборочная информация, а вся информация, с которой он сталкивается в своей жизни.

Именно выдающиеся способности ума и позволяют человеку иметь универсальность. ) В том-то всё и дело, что для эффективной обработки "всей информации" требуются ресурсы, невозможные для текущей платформы ИИ. Отсюда специализация, огромное энергопотребление (20-25 ватт универсального Ли Седоля играли против 1 мегаватт узкоспециализированного AlphaGo).

А причина простая - мозги человека, по крайней мере в каких-то элементах - квантовые, т.е. обладают квантовым превосходством, могут управлять суперпозицией или интерференцией огромного числа вариантов, отчего танцующие хоровод дикари с дырявыми копьями превращаются в изобретение швейной машинки. 

[Корнак]

А причина простая - мозги человека, по крайней мере в каких-то элементах - квантовые, т.е. обладают квантовым превосходством, могут управлять суперпозицией или интерференцией огромного числа вариантов, отчего танцующие хоровод дикари с дырявыми копьями превращаются в изобретение швейной машинки.

это не квантование и не интерференция
это введение понятий
как мы выиграли у животных, введя в жизнь рычаги
точно также мы выигрываем, используя понятия
машины и даже животные использовать понятия не могут
понятия позволили переключиться с логики Аристотеля на логику Бэкона
у животных логика Аристотеля
у машин и той нет

есть и более высокие логики
нет никакой нужда использовать чисто физические понятия (кванты и интерференция) для описания психики