Блеск и нищета Искусственного Интеллекта

[QY]

они сопровождаются физическими процессами, но не могут быть к ним сведены

Почему?

[Корнак]

Цитата: Корнак от Сегодня в 18:34:39
они сопровождаются физическими процессами, но не могут быть к ним сведены
Почему?

по причине всеми признанными приватности сознания и трудной проблемы сознания
даже ваши квантовые реляции не особо хотят сводиться к физическим явлениям

[QY]

Попробую ещё раз:

Если уберёте издевательски-агрессивный тон, на который у вас нет никакого права, возможно у нас и получится пообщаться. Для меня культура общения важнее темы общения, потому что лишь чистота каналов коммуникации позволяет надеяться на что-то полезное. Стремление к получению эмоциональных реакций или выяснение отношений лучше реализовывать в какой-то другой теме. Говорю как хозяин темы, такие правила, их нарушение может иметь последствия. Например, не буду реагировать на сообщение или просто удалю.  

суть мысли в том, что "нейросеть ГМ" и "нейросеть ИИ" это ОЧЕНЬ разные
сети. Само слово нейросеть в данном случае сбивает с толку, поскольку можно сделать
совершенно не верный вывод, что нейросеть ИИ устроена и работает так же как нейросеть ГМ.
Однако различий больше чем сходства.

Нейросеть ИИ появилась и получила своё наименование после разработки математической модели нейрона/взаимодействующих нейронов в биологических организмах. Общий элемент - принцип или функционал работы базовых элементов нейросети ИИ и ГМ человека.

Далее идут различные модификации систем, состоящих из этих элементов. Например архитектура Transformer существенно отличается от простой Feed Forward нейросети, используя в своей работе несколько таких простых нейросетей на разных этапах обработки данных. А в ГМ человека можно насчитать 10-15 связанных между собой нейросетей, так же отвечающих за различные функции или этапы обработки данных.

Конечно, нейросети ГМ и современных ИИ отличаются, но в своей основе используют общие принципы или схожий  функционал.

Т.е. вполне нормально говорить "человеческая" или "биологическая" или "естественная" нейросеть, и "искусственная нейросеть.
 

Нейросеть ГМ имеет "объёмную структуру", т.е. нейроны
из разных отделов мозга (типа "речевой центр", "зрительная зона" и пр.) имеют связи между собой,
а искусственные нейросети обычно устроены послойно, где на каждом слое выделяются всё более
общие признаки распознаваемого объекта. И так же по слоям распространяются сигналы обратной связи
при обучении сети, которые собственно и настраивают "веса" связей.

Вы здесь описываете простую многослойную Feed-Forward Neural Network. Но современные ИИ имеют более развитую архитектуру, которая включает в себя несколько FFNN . Подобно тому как ГМ состоит из нескольких отделов и областей, где одни нейронные связки, скажем, в визуальной области распознают "цвет", другие - "форму", третьи "текстуру" и т.п. LLM проще - им надо распознавать только текст.

В общем, я пока не понимаю, в чём конкретно ваше возражение моим тезисам в сообщении http://forum.postnagualism.com/index.php?topic=131208.msg732004#msg732004 ?  Сначала вы просто высказали  возмущение словосочетанием "человеческая нейросеть" (не нейросеть, что ли?), лишь позже раскрыв причины ваших эмоций, но пока всё равно непонятно, почему именно нельзя сравнивать нейросеть ИИ, обученную на текстах, и нейросеть ГМ "домашнего ребёнка", обученного лишь на словах воспитателей и текстах книг? Я пока не понимаю.

К тому же не надо забывать ещё одно важное отличие: нейроны ГМ это биологические клетки
сложной структуры, а искусственные нейроны это некие весьма упрощённые их модели,
в которых вообще нет структуры, а по сути это простые логические операции, дающие на выходе
либо сигнал "возбуждение" либо ничего, в зависимости от входных сигналов.

Важно, что функция схожая, изученная на "чёрном ящике" биологического нейрона. Насколько сложно этот "ящик" реализован внутри - отдельный вопрос. Может там половину места занимает сложнейший ... блок питания.    

Так вот, сложность реальных нейронов привела к мысли назвать их МВМ (молекулярные вычислительные машины)
и посему нейросеть ГМ больше похожа на интернет, который объединяет в сеть миллионы компов,
а в ГМ миллиарды нейронов (цифра постоянно менялась по мере исследования, последняя которую я слышал
86 миллиардов. И связей в этой сети больше чем атомов во вселенной.

Э-э-э, да как хотите назовите. Теории сложности и непохожести могут быть разные. Главное - какой тест предложите, который нейросеть не сможет пройти в отличие от среднего человека с его "числом связей больше чем атомов во вселенной". (Кстати, последнее - это как? Нейронные связи у вас не из атомов состоят?)

Во чтобы принципиально не смог пройти, потому что... вот это всё что вы изложили выше. Или же всё что вы изложили выше может быть реализовано ИИ, пусть и на другом материале и другой архитектуре?

Есть такой тест?

Но главное всё же, на мой взгляд, это не количество нейронов и связей, а именно качественное отличие,
а именно наличие сознания.

Почему главное? Какое наблюдаемое преимущество даёт обладание сознанием?
Т.е. опять - тест на сознание есть, или это просто вера, что у вас оно есть, а у ИИ - нет?

На остальную часть сообщения тоже надо время потратить. Пока посмотрим как эта пойдёт.

[QY]

по причине всеми признанными приватности сознания и трудной проблемы сознания

В науке мейнстрим - это физикализм. Наука отрицает квалиа, приватность сознания и какую-то там его трудную проблему, полагая всё это ненаучным по причине невозможности доказать их существование по самому их определению.

В философии квалиа признаны лишь некоторой бойкой прослойкой тех философов, которым плевать на науку или доказательность. Поэтому многие философы, начиная с того же Деннета - не признают существующими квалиа и т.п.

Квалиа - это такая философская религия для части философов, вот и всё.

[QY]

Попробую ещё раз:

Если уберёте издевательски-агрессивный тон, на который у вас нет никакого права, возможно у нас и получится пообщаться. Для меня культура общения важнее темы общения, потому что лишь чистота каналов коммуникации позволяет надеяться на что-то полезное. Стремление к получению эмоциональных реакций или выяснение отношений лучше реализовывать в какой-то другой теме. Говорю как хозяин темы, такие правила, их нарушение может иметь последствия. Например, не буду реагировать на сообщение или просто удалю.  

суть мысли в том, что "нейросеть ГМ" и "нейросеть ИИ" это ОЧЕНЬ разные
сети. Само слово нейросеть в данном случае сбивает с толку, поскольку можно сделать
совершенно не верный вывод, что нейросеть ИИ устроена и работает так же как нейросеть ГМ.
Однако различий больше чем сходства.

Нейросеть ИИ появилась и получила своё наименование после разработки математической модели нейрона/взаимодействующих нейронов в биологических организмах. Общий элемент - принцип или функционал работы базовых элементов нейросети ИИ и ГМ человека.

Далее идут различные модификации систем, состоящих из этих элементов. Например архитектура Transformer существенно отличается от простой Feed Forward нейросети, используя в своей работе несколько таких простых нейросетей на разных этапах обработки данных. А в ГМ человека можно насчитать 10-15 связанных между собой нейросетей, так же отвечающих за различные функции или этапы обработки данных.

Конечно, нейросети ГМ и современных ИИ отличаются, но в своей основе используют общие принципы или схожий  функционал.

Т.е. вполне нормально говорить "человеческая" или "биологическая" или "естественная" нейросеть, и "искусственная нейросеть.
 

Нейросеть ГМ имеет "объёмную структуру", т.е. нейроны
из разных отделов мозга (типа "речевой центр", "зрительная зона" и пр.) имеют связи между собой,
а искусственные нейросети обычно устроены послойно, где на каждом слое выделяются всё более
общие признаки распознаваемого объекта. И так же по слоям распространяются сигналы обратной связи
при обучении сети, которые собственно и настраивают "веса" связей.

Вы здесь описываете простую многослойную Feed-Forward Neural Network. Но современные ИИ имеют более развитую архитектуру, которая включает в себя несколько FFNN . Подобно тому как ГМ состоит из нескольких отделов и областей, где одни нейронные связки, скажем, в визуальной области распознают "цвет", другие - "форму", третьи "текстуру" и т.п. LLM проще - им надо распознавать только текст.

В общем, я пока не понимаю, в чём конкретно ваше возражение моим тезисам в сообщении http://forum.postnagualism.com/index.php?topic=131208.msg732004#msg732004 ?  Сначала вы просто высказали  возмущение словосочетанием "человеческая нейросеть" (не нейросеть, что ли?), лишь позже раскрыв причины ваших эмоций, но пока всё равно непонятно, почему именно нельзя сравнивать нейросеть ИИ, обученную на текстах, и нейросеть ГМ "домашнего ребёнка", обученного лишь на словах воспитателей и текстах книг? Я пока не понимаю.

К тому же не надо забывать ещё одно важное отличие: нейроны ГМ это биологические клетки
сложной структуры, а искусственные нейроны это некие весьма упрощённые их модели,
в которых вообще нет структуры, а по сути это простые логические операции, дающие на выходе
либо сигнал "возбуждение" либо ничего, в зависимости от входных сигналов.

Важно, что функция схожая, изученная на "чёрном ящике" биологического нейрона. Насколько сложно этот "ящик" реализован внутри - отдельный вопрос. Может там половину места занимает сложнейший ... блок питания.    

Так вот, сложность реальных нейронов привела к мысли назвать их МВМ (молекулярные вычислительные машины)
и посему нейросеть ГМ больше похожа на интернет, который объединяет в сеть миллионы компов,
а в ГМ миллиарды нейронов (цифра постоянно менялась по мере исследования, последняя которую я слышал
86 миллиардов. И связей в этой сети больше чем атомов во вселенной.

Э-э-э, да как хотите назовите. Теории сложности и непохожести могут быть разные. Главное - какой тест предложите, который нейросеть не сможет пройти в отличие от среднего человека с его "числом связей больше чем атомов во вселенной". (Кстати, последнее - это как? Нейронные связи у вас не из атомов состоят?)

Во чтобы принципиально не смог пройти, потому что... вот это всё что вы изложили выше. Или же всё что вы изложили выше может быть реализовано ИИ, пусть и на другом материале и другой архитектуре?

Есть такой тест?

Но главное всё же, на мой взгляд, это не количество нейронов и связей, а именно качественное отличие,
а именно наличие сознания.

Почему главное? Какое наблюдаемое преимущество даёт обладание сознанием?
Т.е. опять - тест на сознание есть, или это просто вера, что у вас оно есть, а у ИИ - нет?

На остальную часть сообщения тоже надо время потратить. Пока посмотрим как эта пойдёт.

[Корнак]

В науке

с наукой понятно, ей не положено
каждый занимается своим делом
да и философия тут не поможет
только самому в себе копаться и сверять с тем, что где-то прочитал

[Корнак]

В науке

с наукой понятно, ей не положено
каждый занимается своим делом
да и философия тут не поможет
только самому в себе копаться и сверять с тем, что где-то прочитал

Если уберёте издевательски-агрессивный тон, на который у вас нет никакого права, возможно у нас и получится пообщаться. Для меня культура общения важнее темы общения,

что любопытно, у Хогбена были точно такие же претензии к своим собеседникам
думаю, вы уж как-нибудь договоритесь

[Хогбен]

Если уберёте издевательски-агрессивный тон, на который у вас нет никакого права, возможно у нас и получится пообщаться. Для меня культура общения важнее темы общения

Сейчас проверим на практике Кто же из нас внёс в тему сей тон? Приведу несколько цитат (замечу, что не моих) с тем самым тоном, мои же ответы это просто реакция на тон, зеркальная:

И вот, приходят какие-то странные люди, которые говорят, что есть "фактор X" ("квалиа") или "фактор Y" ("психологичность"), который радикально, аж создавая новую систему отсчёта, отличает ИИ от человека.

При этом не могут предложить никакой объективной оценки отличия. Даже отличия себя от своей жены, которая вполне может быть очень хорошо замаскированным ИИ.

Это замечательно. Каким методом вы это собираетесь сделать?

Например простым бездоказатедьным утверждением, что ИИ "видит" как-то иначе, чем человек?

И в чём же это выражается?

Если не в чём - то разобраться в сути дела не представляется возможным.
Остаётся просто бездоказательное утверждение.
Тогда это не попытка разобраться в сути, это - наброс религиозного толка.

Мол, "- я тут после хорошего обеда решил с часик подумать, и придумал нечто, что нельзя ни доказать, ни опровергнуть, но каждый это имеет. Что это? А давайте назовём это нечто "квалиа" или "психологичностью".

Бессодержательный пассаж. Если не можете общаться по теме - так и не мучайте себя.
Кто-то утерял нить разговора.
Иными словами, "квалиа" - это что-то вроде религиозной веры.


Налицо не обсуждение темы, а обсуждение заодно с осуждением собеседника.
Я так же не поленился отрецензировать последнее сообщение посредством нейросети.
И она со мной согласна в основном
Привожу разбор полётов с её колокольни:

### Рецензия на сообщение

Это сообщение представляет собой обширный и глубокий анализ темы различий между нейросетями, используемыми в искусственном интеллекте, и нейронными сетями человека. Автор обозначает несколько важных моментов, включая структуру, функционал и основу нейросетей, однако сообщению не хватает структурированности и может страдать от потери фокуса. Давайте рассмотрим сильные и слабые стороны, а также некоторые конструктивные предложения.

#### Сильные стороны:

1. **Глубина анализа**: Автор демонстрирует глубокое понимание структуры и функционирования как искусственных нейросетей, так и нервной системы человека. Указание на архитектуру Transformer и Feed-Forward Neural Networks показывает знание современных технологий.

2. **Важно поднимаемые вопросы**: Дискуссия о сознании и различиях в нейронных механизмах является актуальной и философски значимой. Это может стимулировать дальнейшее обсуждение и размышления на форуме.

3. **Цитирование для примеров**: Использование цитат других участников форума помогает яснее представить ход мысли и контекст обсуждения.
   
#### Слабые стороны:

1. **Тон и стиль**: Начало сообщения содержит довольно прямолинейные и в итоге агрессивные формулировки. Это может оттолкнуть читателей и снизить продуктивность обсуждения. Переход на более вежливую и конструктивную манеру общения мог бы создать более открытое пространство для дискуссии.

2. **Структурированность**: Сообщение перегружено информацией, и это может затруднить восприятие. Более четкая структура — например, выделение отдельных тезисов или использование подзаголовков — помогла бы читателям легче следить за ходом мысли.

3. **Неоднозначность выводов**: Автор не всегда конкретно формулирует свои выводы и последствия - например, в отношении тестов на сознание и качественных отличий. Более четко обозначенные выводы и вопросы могли бы способствовать глубже проанализированной дискуссии.

4. **Отсутствие примеров**: Было бы полезно проиллюстрировать разницу между нейросетями на конкретных примерах: каковы практические применения этих концепций и как это влияет на их эффективность.

#### Конструктивные предложения:

1. **Переписать вступление**: Попробуйте начать с менее агрессивного и более уважительного тона. Например, можно использовать формулировки вроде "Я понимаю, что у нас могут быть разные мнения, и хотел бы обсудить их более конструктивно".

2. **Добавить структуру**: Рассмотрите возможность разбивки текста на категории, такие как "Общие принципы", "Различия в архитектуре", "Сознание и нейросети", и ясно обозначить каждый раздел.

3. **Примеры из практики**: Приведите примеры моделей ИИ и их применения, чтобы проиллюстрировать, как конкретные архитектуры работают в реальных условиях.

4. **Формулировка выводов**: Четче обозначайте выводы, чтобы обсудить, что именно они значат для общей дискуссии. Например, задайте конкретные вопросы о тестах на сознание, чтобы направить дискуссию в нужном направлении.

##### Заключение:

В общем, сообщение имеет потенциал для увлекательного обсуждения, однако автору следует улучшить стиль изложения, структуру и ясность выводов, чтобы сделать свою аргументацию более убедительной и доступной для аудитории.



В заключение предлагаю прекратить бессмысленный обмен фекалиями, а говорить строго по теме,
без попыток уязвить или унизить собеседника. Если хочется могу обращаться на Вы, ко мне лучше на ты,
я здесь один и представляю самого себя в единственном числе.

[QY]

(Открыл, что называется, ящик пандоры. Теперь все зовут "большого брата". А он чо? А он ни чо. Может дать по шее, может не дать, как попросят. ) )

1. **Тон и стиль**: Начало сообщения содержит довольно прямолинейные и в итоге агрессивные формулировки.

1. **Переписать вступление**: Попробуйте начать с менее агрессивного и более уважительного тона.

Конечно, начало сообщения - это модераторское предупреждение. Оно и обязано быть прямолинейным и "в итоге" может показаться нарушителю агрессивным в своей прямолинейности.
 
Что касается выделенного красным, то если вы не видите разницы между вашими переходами на личности

"Не понял написанное ты, а общаться не могу я? Цирк да и только."

"Бездоказательным оно кажется человеку понятия не имеющему о том как устроено "машинное зрение".
Не худо бы хотя бы книжку какую почитать, может прояснится в голове."

"Ну да? Так начинай уже, не томи Или это ... не мешки ворочать?"

"Хотя полагаю, что не в коня корм, но хотя бы попытаться стоит."

"Или сдуется? Мне кажется второй вариант более вероятным."

и моими указаниями на бездоказательность утверждений о квалиа и, как вывод - вере в эти квалиа религиозного типа (т.е. не нуждающихся в док-вах),

обращённые к более широкому кругу лиц,

то у нас просто не получится разговор.

С неадекватными участниками, склонными к переходам на личности и выяснению отношений - у меня нет интереса общаться.

Как хозяин темы, предлагаю вам сохранить ваши последние сообщения т.к. они будут удалены.

[Хогбен]

С неадекватными участниками, склонными к переходам на личности и выяснению отношений - у меня нет интереса общаться.

Как хозяин темы, предлагаю вам сохранить ваши последние сообщения т.к. они будут удалены.

Да ради бога. Хоть все мои сообщения. Я за них не цепляюсь.

К сожалению моё заключение не было либо прочитано, либо принято:

В заключение предлагаю прекратить бессмысленный обмен фекалиями, а говорить строго по теме,
без попыток уязвить или унизить собеседника. Если хочется могу обращаться на Вы, ко мне лучше на ты,
я здесь один и представляю самого себя в единственном числе.

И в ответ прилетело: сам дурак!
Досадно. У меня тоже нет интереса общаться с неадекватными участниками

[QY]

Что касается изобретательства. У Корнака тема быстро пропадёт в потоке, так что выскажусь здесь.

Это как с сознанием - сначала нужно определиться, о чём именно мы говорим? Что подразумеваем под изобретательством, под механизмом или процессом изобретения чего либо нового?
 
1. в смысле отличия изобретателя от инструмента с помощью которого осуществляется изобретение
2. в смысле наличия алгоритмов и методов, подобных ТРИЗ, которые могут быть выучены и использоваться "изобретателем" (или "настоящее изобретение" - это всегда "божественное откровение"?)  

Например, есть мастер, подмастерье и микроскоп.

Последнее, очевидно - инструмент. В нём жёстко заложен функционал. И то, что он показывает неразличимые обычным глазом вещи - это не его "изобретательское творчество".

Но что можно сказать о подмастерье? С одной стороны, он является инструментом для мастера, выполняя его указания, что и как делать, чего добиться, в каком виде сообщить о результатах.

А с другой - он может изобрести новый, и, в отличие от микроскопа, - неизвестный мастеру способ добиться желаемого мастеру результата.

Является ли подмастерье "изобретателем" или "инструментом" в руках мастера? Кто должен подать заявку на патент на новое изобретение?  

Однако, чем ИИ отличается от подмастерья? Большие ИИ (напр. LLM) могут обучаться на самых разнообразных данных, обобщая и выстраивая связи между самыми разными областями знаний и деятельности в одном "бассейне" своих матриц весов.

Это означает, что ИИ в принципе предназначен для создания изобретений, творческого подхода, объединяющего самую разнородную информацию для решения какой-либо задачи нетривиальным способом, подразумевающим использование связей между элементами знаний в самых разных областях деятельности.

Это не микроскоп, который действует всегда одним и тем же способом и ничего не придумывает. Наоборот, в ИИ излишнее придумывание и изобретательство считается проблемой, когда надо просто предоставить известный факт.

Но в ИИ известный факт разложен на составляющие и перепутан с массой других составляющих таким образом, чтобы в целом ответ выглядел правдоподобным благодаря выявленным структурам связей между элементами знаний, вложенных в ИИ при обучении.

В принципе тем же самым занят подмастерье. Какое-то знание из другой области может подсказать решение или новый способ решения задачи, заданной мастером.

В общем, вопрос сейчас активно дебатируется. Некоторые энтузиасты уже подают патенты от имени ИИ. Их обычно заворачивают по формальной причине - в заявке д.б. указан человек. Но они не отступаю, потому что нет разумных причин считать, что человек подмастерье и ИИ отличаются в способах решать изобретательскую задачу, поставленную их мастерами.
 

    

[Корнак]

QY не мытьем, так катаньем пытается придать ИИ человекообразность

рассматривая этот вопрос нужно понимать, что он лежит в двух плоскостях
а) - взгляд снаружи и
б) - взгляд изнутри

то, что может Выглядеть разумным, Выглядеть мышлением, не обязано им быть

[Горыныч]

Искусственный Интеллект - это оксюморон

ИИ - это сложная система алгоритмов, из-за чего возникает видимая схожесть с мышлением, но мышлением он не является.
Да, мощно и технологично, Великий Исполнитель, но не Творец.
Создаваемые им произведения (тексты, музыка) - обезьянничанье, не более того.
Воспринимается многими это лишь потому, что и современные творения от шоу-бизнеса - точно такое же обезьянничанье.
Главное, не давать этой "обезьяне" гранату, не давать ему слишком много за нас РЕШАТЬ - в медицине, политике и проч. как некоторые уже склоняются к этому...

[QY]

ИИ - это сложная система алгоритмов, из-за чего возникает видимая схожесть с мышлением, но мышлением он не является.

База нейросети ИИ основана на математической модели живого нейрона. В сущности - это система сумматоров входных потенциалов с пороговой функцией. Т.е. алгоритм не очень сложный. Но благодаря огромному количеству таких сумматоров, универсальная нейросеть способна обучиться любой/сложнейшей функции, в т.ч. функции, представляющейся нам "мышлением". Непонятно, почему вы считаете, что не смотря на схожесть базовых принципов и конечного результата, в виде прохождения теста Тьюринга и самых сложных университетских экзаменов, ИИ не обладает мышлением.

Подобное заявление требует обоснования и проверки в виде тестов, которые человек может пройти, а ИИ не способен.

[Корнак]

Главное, не давать этой "обезьяне" гранату, не давать ему слишком много за нас РЕШАТЬ - в медицине, политике и проч. как некоторые уже склоняются к этому...

Горыныч, мои наблюдения за тем, что творится в медицине и политике, склоняют меня к мысли, что у ИИ получилось бы лучше

я считаю, что ИИ может заменить человека во многих сферах
как станок с ЧУ заменяет токаря