Блеск и нищета Искусственного Интеллекта

[QY]

по причине всеми признанными приватности сознания и трудной проблемы сознания

В науке мейнстрим - это физикализм. Наука отрицает квалиа, приватность сознания и какую-то там его трудную проблему, полагая всё это ненаучным по причине невозможности доказать их существование по самому их определению.

В философии квалиа признаны лишь некоторой бойкой прослойкой тех философов, которым плевать на науку или доказательность. Поэтому многие философы, начиная с того же Деннета - не признают существующими квалиа и т.п.

Квалиа - это такая философская религия для части философов, вот и всё.

[Корнак]

В науке

с наукой понятно, ей не положено
каждый занимается своим делом
да и философия тут не поможет
только самому в себе копаться и сверять с тем, что где-то прочитал

Если уберёте издевательски-агрессивный тон, на который у вас нет никакого права, возможно у нас и получится пообщаться. Для меня культура общения важнее темы общения,

что любопытно, у Хогбена были точно такие же претензии к своим собеседникам
думаю, вы уж как-нибудь договоритесь

[QY]

Что касается изобретательства. У Корнака тема быстро пропадёт в потоке, так что выскажусь здесь.

Это как с сознанием - сначала нужно определиться, о чём именно мы говорим? Что подразумеваем под изобретательством, под механизмом или процессом изобретения чего либо нового?
 
1. в смысле отличия изобретателя от инструмента с помощью которого осуществляется изобретение
2. в смысле наличия алгоритмов и методов, подобных ТРИЗ, которые могут быть выучены и использоваться "изобретателем" (или "настоящее изобретение" - это всегда "божественное откровение"?)  

Например, есть мастер, подмастерье и микроскоп.

Последнее, очевидно - инструмент. В нём жёстко заложен функционал. И то, что он показывает неразличимые обычным глазом вещи - это не его "изобретательское творчество".

Но что можно сказать о подмастерье? С одной стороны, он является инструментом для мастера, выполняя его указания, что и как делать, чего добиться, в каком виде сообщить о результатах.

А с другой - он может изобрести новый, и, в отличие от микроскопа, - неизвестный мастеру способ добиться желаемого мастеру результата.

Является ли подмастерье "изобретателем" или "инструментом" в руках мастера? Кто должен подать заявку на патент на новое изобретение?  

Однако, чем ИИ отличается от подмастерья? Большие ИИ (напр. LLM) могут обучаться на самых разнообразных данных, обобщая и выстраивая связи между самыми разными областями знаний и деятельности в одном "бассейне" своих матриц весов.

Это означает, что ИИ в принципе предназначен для создания изобретений, творческого подхода, объединяющего самую разнородную информацию для решения какой-либо задачи нетривиальным способом, подразумевающим использование связей между элементами знаний в самых разных областях деятельности.

Это не микроскоп, который действует всегда одним и тем же способом и ничего не придумывает. Наоборот, в ИИ излишнее придумывание и изобретательство считается проблемой, когда надо просто предоставить известный факт.

Но в ИИ известный факт разложен на составляющие и перепутан с массой других составляющих таким образом, чтобы в целом ответ выглядел правдоподобным благодаря выявленным структурам связей между элементами знаний, вложенных в ИИ при обучении.

В принципе тем же самым занят подмастерье. Какое-то знание из другой области может подсказать решение или новый способ решения задачи, заданной мастером.

В общем, вопрос сейчас активно дебатируется. Некоторые энтузиасты уже подают патенты от имени ИИ. Их обычно заворачивают по формальной причине - в заявке д.б. указан человек. Но они не отступаю, потому что нет разумных причин считать, что человек подмастерье и ИИ отличаются в способах решать изобретательскую задачу, поставленную их мастерами.
 

    

[Корнак]

QY не мытьем, так катаньем пытается придать ИИ человекообразность

рассматривая этот вопрос нужно понимать, что он лежит в двух плоскостях
а) - взгляд снаружи и
б) - взгляд изнутри

то, что может Выглядеть разумным, Выглядеть мышлением, не обязано им быть

[Горыныч]

Искусственный Интеллект - это оксюморон

ИИ - это сложная система алгоритмов, из-за чего возникает видимая схожесть с мышлением, но мышлением он не является.
Да, мощно и технологично, Великий Исполнитель, но не Творец.
Создаваемые им произведения (тексты, музыка) - обезьянничанье, не более того.
Воспринимается многими это лишь потому, что и современные творения от шоу-бизнеса - точно такое же обезьянничанье.
Главное, не давать этой "обезьяне" гранату, не давать ему слишком много за нас РЕШАТЬ - в медицине, политике и проч. как некоторые уже склоняются к этому...

[QY]

ИИ - это сложная система алгоритмов, из-за чего возникает видимая схожесть с мышлением, но мышлением он не является.

База нейросети ИИ основана на математической модели живого нейрона. В сущности - это система сумматоров входных потенциалов с пороговой функцией. Т.е. алгоритм не очень сложный. Но благодаря огромному количеству таких сумматоров, универсальная нейросеть способна обучиться любой/сложнейшей функции, в т.ч. функции, представляющейся нам "мышлением". Непонятно, почему вы считаете, что не смотря на схожесть базовых принципов и конечного результата, в виде прохождения теста Тьюринга и самых сложных университетских экзаменов, ИИ не обладает мышлением.

Подобное заявление требует обоснования и проверки в виде тестов, которые человек может пройти, а ИИ не способен.

[Корнак]

Главное, не давать этой "обезьяне" гранату, не давать ему слишком много за нас РЕШАТЬ - в медицине, политике и проч. как некоторые уже склоняются к этому...

Горыныч, мои наблюдения за тем, что творится в медицине и политике, склоняют меня к мысли, что у ИИ получилось бы лучше

я считаю, что ИИ может заменить человека во многих сферах
как станок с ЧУ заменяет токаря

[Хогбен]

База нейросети ИИ основана на математической модели живого нейрона.

Почти всё здесь правильно написано за исключением последних двух слов.
К живому нейрону это не имеет никакого отношения.
Это математическая модель т.н. формального нейрона, чья функция сведена к тому, что бы вырабатывать
выходной сигнал в зависимости от совокупности входных с учётом их "веса".
Такие сети не обязательно моделировать программно, можно делать их сразу в виде микрочипов
соединённых в сеть. Пока загвоздка в том, как организовать произвольное количество связей
между произвольным набором "нейронов" такой сети. В виртуальных моделях это решается проще
чем в физической реализации.

Создаваемые им произведения (тексты, музыка) - обезьянничанье, не более того.

Да ты обижаешь весь обезьяний род. А эти "произведения" скорее комбинации из уже
созданных людьми текстов, музыки, картин и картинок. Так что мне больше нравится сравнение
с калейдоскопом, который при очень простой конструкции из трёх зеркал и горстки цветных стёклышек
создаёт кучу не повторяющихся узоров, которые не каждый человек придумает.
И что, на этом основании считать его мыслящим?

[Корнак]

Да ты обижаешь весь обезьяний род

нейроны здесь тоже обиженными оказались
их работа намного сложнее, чем у каких-то чипов
взять хотя бы изменение порога чувствительности
и кроме нейронов в работе мозга участвует и глия с пока еще совершенно не выясненными толком функциями

[Хогбен]

нейроны здесь тоже обиженными оказались
их работа намного сложнее, чем у каких-то чипов

Ты бы хоть прочитал что я написал, прежде чем возражать
Чипы моделируют не живые (реальные) нейроны, а вполне абстрактные формальные нейроны,
которые от реальных далеки как от луны.
И когда говорят нейросети то правильнее было бы "псевдонейросети".
А уж отождествлять эти сети с ИИ это просто абсурд. Там до ИИ ещё много чего не хватает.

[Pipa]

     В Средней Азии испокон веков строили глинобитные жилища/дома, но не потому, что глина является наилучшим строительным материалом, а только потому, что среди песка строить было больше не из чего.
     Отсюда и та мысль, что мозг на базе нейросети - едва ли наилучший вариант реализации, а снова "природа лепила из того, что было" (С) - сплела из нервов сеть. Конечно, что-то подрихтовать пришлось, всё же мозг получился таким же глинобитным, как и хижина в Средней Азии времен Аладдина . Тогда как идею ИИ в значительной мере скопировали из структуры головного мозга, т.е. пошли по глинобитному варианту, поскольку он как-то работает.
      В этом смысле "абстрактные формальные нейроны", выполненные на базе матричных умножителей, кажутся мне гораздо более подходящим конструкционным материалом для ИИ, чем попытки копирования функций натуральных нейронов, в силу глинобитности последних .

[QY]

Почти всё здесь правильно написано за исключением последних двух слов.
К живому нейрону это не имеет никакого отношения.

Имеет.

Иску́сственный нейро́н (математический нейрон Мак-Каллока — Питтса, формальный нейрон[1]) — узел искусственной нейронной сети, являющийся упрощённой моделью естественного нейрона.

Упрощённая - не значит "никакого".
Главное - достаточно ли эффективная модель, чтобы имитировать работу естественного интеллекта.

А это проверяется тестами.

Если есть тест, который ИИ не сможет пройти по некоторым принципиальным основаниям (модель не реализует принцип), тогда расскажите о нём. Здесь почему-то все возражающие занимаются исключительно эмоциональными возражениями, не приводя никакого фактажа или пруфлинков. Это неинтересно.

"комбинации", "калейдоскоп", "грохот" - оппонентам следует доказать, что они сами не такие, не комбинации и не грохот.
А не просто обзываться на ИИ, пока тот их обходит во всех тестах на интеллект и загоняет обратно на дерево.

Допустим, квантовая модель сознания/мышления предполагает, что существующие модели ИИ не реализуют принципы квантовых корреляций и вычислений. Поэтому возможно создать различные тесты, основанные на реализации другого принципа действия живого интеллекта. Например, в отличие от квантовых компьютеров, существующие ИИ как детерминированные машины Тьюринга - не способны решать задачи NP-сложности, и при приближении к ним начинают галлюцинировать.

[QY]

Создаваемые им произведения (тексты, музыка) - обезьянничанье, не более того.

Интересное замечание, однако.

[Хогбен]

идею ИИ в значительной мере скопировали из структуры головного мозга, т.е. пошли по глинобитному варианту

Не совсем так. Идея ИИ шире чем нейронные сети из искусственных псевдонейронов.
Да эти сети успешно справляются с операциями которые раньше считались интеллектуальными,
типа игра в шахматы, но там важнее оказалась комбинаторика, с которой компы справляются
лучше. Они созданы для того что бы считать, ну вот и результат.

Если есть тест, который ИИ не сможет пройти по некоторым принципиальным основаниям (модель не реализует принцип), тогда расскажите о нём.

Были попытки сделать с виду простую вещь - робота официанта обслуживающего вечеринку (в Штатах естественно).
И столкнулись с такой кучей проблем, что ужаснулись результату. Он же не житель нашего (человеческого)
мира и многое в нас ему не понятно. Его обучали на текстах  и он создал языковую модель, а как дошло до
дела, то начались ляпы один за другим. Он путал кто и что заказал, он не находил пациента который кинул
через плечо "плесни дружок ещё", короче он полностью провалил тест.
Я найду книгу в которой это читал и сброшу ссылку. Писали её вовсе не враги ИИ, а разработчики именно ИИ.
И писали, что бы показать реальные трудности с которыми столкнулись в своей работе.
Не с целью облажать ИИ, а с целью обозначить как раз не решённые проблемы.
По их мнению этот тест ИИ провалил полностью, а вот если бы его прогнали через знаменитый тест Тьюринга,
он бы его скорее всего прошёл, языковая модель у него удачная, но плохо приспособлена для ориентации
в простых житейских ситуациях, это когда надо не поговорить, а сделать набор действий заранее не расписанных,
т.е. построить некий план и выполнить его в условиях постоянно меняющихся. На вечеринке все не сидят
как приклеенные на местах, они ходят, выпвают, танцуют и...так далее. А он не успевает отслеживать кто где и чем занят.

Так что на вопрос где именно:

модель не реализует принцип

ответ прост: принцип ориентации в динамическх ситуациях с неопределённым заранее алгоритмом действий.

[джелави]

Нет в шахматных движках ничего интеллектуального. Банальный перебор вариантов, котрых в простых шахматах ну очень мало. Когда вариантов добавили, то о их тупорылых ходах легенды сложили. Такое уже было, здесь https://www.chess.com/variants/4-player-chess там крутые движки дилетанты 3 разряда уделывали, в порядке очереди.