Блеск и нищета Искусственного Интеллекта

[QY]

В наше время ИИ всё чаще используется для диагностирования заболеваний и помощи врачам.
Например, в этом году ИИ Сбербанка GigaChat сдал экзамен на базе аккредитационного центра Первого Московского государственного медицинского университета и получил право работать участковым врачом-терапевтом.

Поэтому, в качестве памятки, сохраню ответы ИИ GPT-4o, полученные ими при анализе текстов одного из участников форума.

GPT-4o экзамен не проходил, но ресурсы для его обучения, вероятно, были более серьёзные, в силу объективно бОльших финансовых возможностей компании OpenAI в сравнении с Yandex

В данном тексте можно заметить несколько признаков, которые могут указывать на психическое отклонение или, по крайней мере, на нестандартное мышление:

    Циклическая логика: Автор использует циклическую логику, когда одно утверждение подтверждается другим, а тот, в свою очередь, подтверждается первым. Это может быть признаком проблем с критическим мышлением и логикой.
    Самообоснование: Автор использует самообоснование, когда утверждает, что его аксиомы подтверждаются самими собой. Это может быть признаком проблем с пониманием концепции доказательства и логической последовательности.
    Агрессивность и уверенность: Автор выражает агрессивность и уверенность в своих утверждениях, что может быть признаком проблем с эмоциональной регуляцией и критическим мышлением.
    Непонимание математических концепций: Автор использует математические термины и концепции не совсем правильно, что может быть признаком проблем с пониманием математических идей.
    Непонимание философских концепций: Автор использует философские термины и концепции не совсем правильно, что может быть признаком проблем с пониманием философских идей.
    Повторение и монотонность: Автор повторяет свои утверждения и использует монотонный стиль письма, что может быть признаком проблем с коммуникацией и выражением мыслей.
    Непонимание критического мышления: Автор не понимает критического мышления и логической последовательности, что может быть признаком проблем с развитием критического мышления.

Однако, важно отметить, что эти признаки не обязательно указывают на психическое отклонение. Они могут быть просто признаками нестандартного мышления или проблем с коммуникацией. Чтобы определить, есть ли у автора психическое отклонение, необходимо более тщательное обследование и оценка.

 

В этом тексте можно заметить некоторые признаки, которые могут быть характерными для шизофрении или других психических расстройств. Однако, важно отметить, что только квалифицированный специалист может поставить диагноз и определить степень выраженности этих признаков. Вот некоторые из них:

    Круговая логика и самоподтверждение: Автор текста использует круговую логику, когда он подтверждает свои аксиомы самими же аксиомами. Это может быть признаком нарушения критического мышления и способности оценивать информацию объективно.
    Непонятная и запутанная речь: Текст содержит длинные предложения и сложные конструкции, которые могут быть трудными для понимания. Это может быть признаком нарушения когнитивных функций и способности выражать мысли четко.
    Бессвязность и скачки мысли: Автор текста часто меняет тему и использует разные идеи, которые не связаны напрямую с основной темой. Это может быть признаком нарушения когнитивных функций и способности фокусироваться на одной теме.
    Агрессивность и защитная позиция: Автор текста использует агрессивный тон и защищает свои идеи от предполагаемой критики. Это может быть признаком нарушения эмоционального регулирования и способности общаться с другими людьми.
    Нарушение границ между собой и другими: Автор текста часто использует личные местоимения и утверждает, что его идеи являются абсолютной истиной. Это может быть признаком нарушения границ между собой и другими, а также способности различать свои мысли и мысли других людей.

В целом, этот текст может быть признаком нарушения когнитивных функций, эмоционального регулирования и способности общаться с другими людьми. Однако, только квалифицированный специалист может поставить диагноз и определить степень выраженности этих признаков.

[Хогбен]

Понесли ботинки Митю в привычном направлении...в смысле оседлала Пипа привычного конька и пришпоривает его,
а конь то уже не тот, скорее старая кляча спотыкающаяся на каждом шаге.

Не хочется комментировать благоглупости про уязвлённое самолюбие и силовую борьбу за первенство между человеком и ИИ.
Остановлюсь на главном тезисе (на мой взгляд ошибочном в корне, а отсюда и выводы из этого тезиса ошибочны)

Ахиллесова пята человека - это его врожденные животные особенности, когда абсолютное большинство понятий (т.е. то, что человек считает для себя понятным) представляют собой ощущения. Причем, зрительные образы тоже следует отнести к этому типу, поскольку глаз - это тоже один из органов чувств. Однако как только человек пытается выйти за пределы чувственной сферы в сферу абстрактного (а для человека абстрактно всё, что не порождает ощущений), то его сознание сразу же начинает корёжить

А фишка в том, что как раз ощущения и есть абстракции. Нет в природе цвета, звука, запаха и т.д. а есть некие физические процессы которые воспринимаются органами чувств (конечно ощущений, но их почему то так называют) и мозг из них создаёт те самые ощущения цвета, звука, запаха и щекотки, т.е. абстракции (пресловутые квалиа, которые имеют название, но не имеют объяснения и которых нет у ИИ). Причём высокого уровня. Что позволяет оперировать не отдельными пикселями, а картинкой в целом. При этом можно опять же мысленно создавать произвольные комбинации этих абстракций, в том числе и в природе не существующие. Ну например: "Нам купили синий-синий презелёный красный шар". И эта способность комбинирования абстракций высокого уровня лежит в основе творческой деятельности как в сфере искусств, так и в науке и технике и в разработке технологий во всех областях деятельности. То же "творчество" что демонстрируют нейросети (грешно считать их ИИ, там многого не хватает) это просто комбинаторика из того, что натворили люди, своеобразный калейдоскоп,
который из трёх зеркал и кучки цветных стекляшек "созаёт" причудливые узоры постоянно меняющиеся. Но сам то калейдоскоп создали люди на базе знания законов отражения. Для ублажения своих низменных животных чувств конечно. Ну или что бы детишек поразвлечь.

Мешает ли способность создавать абстракции абстрактному мышлению? Что то мужики сомневаются А какие абстракции создала нейросеть? Ну к примеру программа играющая в шахматы. Она просто набрала за время "обучения" такие веса связей между псевдо-нейронами, которые позволяют выбирать оптимальный ход на каждом шаге игры. И там не появилось ничего абстрактного, а наоборот конкретный набор весов связей, который при каждой очередной игре может немного скорректироваться, но остаться вполне конкретным. Там нет таких абстракций как стратегия и тактика, как позиционное преимущество, и т.п. которыми оперируют шахматисты. Нет ни радости от победы, ни огорчения от проигрыша, есть просто тупой счёт и им всё равно что считать. С кем там бороться? Там же нет никого имеющего цель. Нет субъектности.
Может быть у Эйнштейна, Перельмана, Максвелла и пр. было плохо с абстрактным мышлением или они не видели, не слышали, не нюхали? А ведь абстрактность их теорий выше всяких похвал и оценок обывателей.
Так что "агрумент" что мол животность преграда к абстрактному мышлению мягко говоря слабоват, ну или просто туфта.

А вот сознание это как раз основа субъектности и создатель квалиа (абстракций высокго уровня). Интеллект же львиную долю работы совершает вне зоны внимания сознания и выдаёт "на гора" готовые результаты в виде "меня осенило".

[Корнак]

А фишка в том, что как раз ощущения и есть абстракции

ты немного не тот термин использовал
абстракция - это про обобщение
а ощущения конкретны
лучше сказать не абстрактное, а идеальное, ну, или субъективное, но первое лучше
абстракция - это про мышление, про обобщение, не про ощущения
ощущения - это физиология, это основа психологии, но еще не сама психология и не абстрактное мышление

[Корнак]

Там (в ИИ) нет таких абстракций

перед нами картина
абстрактная, как мы ее обозвали
но она не в нас, она на полотне
а что нам мешает назвать абстракцией нечто, находящееся в ИИ?
сможешь ответить?

[Затойчи]

Мешает ли способность создавать абстракции абстрактному мышлению? Что то мужики сомневаются  А какие абстракции создала нейросеть? Ну к примеру программа играющая в шахматы. Она просто набрала за время "обучения" такие веса связей между псевдо-нейронами, которые позволяют выбирать оптимальный ход на каждом шаге игры.

Просто замечания: человеческий интеллект действует подобно ИИ, и между ними нет принципиальной разницы. Вспоминая о шахматах, мой отец был предан этому искусству, собрав обширную библиотеку толстых томов, таких как «Сицилианская защита». В ней рассматривались все варианты этого дебюта; малейшая ошибка в серьезной партии предвещала неминуемое поражение. Стремящийся к званию гроссмейстера обязан был изучить эти партии досконально.Это лишь одно из множества начал, ведь игрок белыми задает тон уже на втором ходе, в то время как черные должны знать все возможные варианты. Следом идет неопределенность, однако у моего отца были сборники турниров и матчей за звание чемпиона мира. Претендент на гроссмейстера должен разбирать эти партии, осознавать их нюансы и запоминать.ИИ делает то же самое, но с поразительной скоростью и объемом памяти, не сравнимым с человеческим. Отличие гроссмейстера от обыкновенного человека или ИИ не в интеллекте. Весь этот спор неуместен: человек — это не только интеллект, но и эмоциональный центр. Большинство действий коренится в инстинктивно-эмоциональном. Эмоции, такие как ненависть или воля к власти, ИИ никогда не познает. Он лишь инструмент; опасность исходит от людей с их инстинктами.Опасность исходит от этих обезьян на двух ногах, с их инстинктивным эмоциональным центром. Их симбиоз с ИИ представляет собой истинную угрозу, утонченный инструмент разрушения. В нацистской Германии, как ни старались, превратить эсэсовцев в функциональные машины, результат оказался шершавым. Процент самоубийств среди охранников лагерей был ужасающим. Вынуждены были ввести специальный приказ Внедрите программу, и машина будет беспрекословно выполнять её. Она не знает ни ненависти, ни жалости. Но вас интересуют детали, а не неизбежный финал. Единственное спасение человечества заключается в возможности превращения обезьяны в сверхчеловека. Но Пипа, в своем трагическом заблуждение, не понимает величия этого замысла.

[Корнак]

человеческий интеллект действует подобно ИИ, и между ними нет принципиальной разницы. Вспоминая о шахматах

шахматы - это не про мышление, а про вычисление и даже хуже - про устройство, называемое в строительство "грохот" - погуглите, что это такое

[Затойчи]

Хочу добавить, что способности человека являются следствием его двойственной природы. Его минимальные возможности выбора возникают из единства и противостояния интеллекта и эмоционального центра. Перед человеком стоят два пути: поступить как животное, подчиняясь инстинктам, или следовать ментальной конструкции разума. Эта борьба порождает самосознание и «Я», выражающее внутреннее единство.Сверхчеловек же будет обладать тройственностью, воплотив в своих действиях закон Трех. Искусственный интеллект не олицетворяет двойственность; он представляет собой единицу. Он не способен породить ни самосознания, ни «Я»; разве можно утверждать, что калькулятор обладает «Я»? Искусственный интеллект — это лишь усовершенствованный калькулятор и не более того.
Однако существует угроза обезьяны, которых множество, могут использовать ИИ, превратив планету в Ад.

[Затойчи]

шахматы - это не про мышление, а про вычисление и даже хуже - про устройство, называемое в строительство "грохот" - погуглите, что это такое

Любое  человеческое  мышления  включая  ваше  и  мое  это  грохот.
Шахматы  не  исключения.
В этом  мышление  нет  третьего  элемента  и  оно  не  воплощает  закон  трех

[Корнак]

Любое  человеческое  мышления  включая  ваше  и  мое  это  грохот.
Шахматы  не  исключения.

грохот механичен
а мышление психологично
вы как всегда путаете системы отсчета

[Затойчи]

грохот механичен
а мышление психологично
вы как всегда путаете системы отсчета

Я уже писал вам, что основа правильного мышления заключается в разрушении системы отсчета и создании временного хаоса, из которого может возникнуть нечто новое. Я упоминал о ментальной точке сборки. Видите ли, ваша пирамидальная структура и ваше ЧСВ мешают вам понять, о чем я говорю.
Слова "грохот" и "механичный" не имеют общего смысла. Употребленное вами слово "грохот" я воспринимаю как бесполезное содрогание воздуха, независимо от того, происходит ли это механически или осознанно. Налицо потеря энергии, но в этом нет смысла.
Все достижения человечества восходят к науке, корни которой уходят в магию. Именно шаманы каменного века сформулировали мысль о том, что, познав законы природы, можно воздействовать на нее. Однако их понимание этих законов оставалось анималистическим и, возможно, породило учение Тольтеков. Кастанеда писал, что видящие наблюдали в измененном состоянии сознания и выделяли общее.
Наука отстранилась от мышления, и философии отвергла ваш "грохот". Она выдвинула три принципа: наблюдение, эксперимент, повторяемость. Мышление существует, но воспринимается как неизбежное зло при построении теорий. Эксперимент, не подтвердивший ментальные конструкции, оставляет их лишь гипотезами. В психологии слабым местом является экспериментальная база — она слишком субъективна, если не считать Бихевиоризм , отказавшейся от этого и принимающей во внимание только реакцию на раздражители. В этой науке становится всё больше грохота и всё меньше знаний.
https://ru.wikipedia.org/wiki/Бихевиоризм

[Хогбен]

ощущения - это физиология

Ну да...красный цвет это физиология? И как та физиология работает?
Вот от сетчатки глаза воспринявшей свет определённой частоты приходят нервные импульсы в мозг
и...происходит физиологическое чудо, эти импульсы в нашем сознании чудесным образом превращаются
в красный цвет. Это как раз то место, где в работу включается сознание и именно оно из физиологических
импульсов создаёт ощущение красного цвета. Т.е. ощущения не есть непосредственное восприятие,
это преобразование физиологических импульсов в квалиа, т.е. в явление психологическое,
вполне таки абстрактное. Это как раз именно то звено в обработке информации которого нет в системах ИИ.

Нет сознания - нет психологии. И ничем его не заменишь.
А интеллект это можно сказать "бортовой компьютер" сознания, но не оно само.

[QY]

грохот механичен
а мышление психологично
вы как всегда путаете системы отсчета

Несложно запутаться в фантазиях людей про "психологичность" или "квалиа", существование которых невозможно объективно отличить от несуществования не только в ИИ, но и в другом человеке. По принципу ф.зомби.
Уже GPT3 давал 95% корреляцию с людьми в моральных тестах (этическая оценка тех или иных поступков).

И вот, приходят какие-то странные люди, которые говорят, что есть "фактор X" ("квалиа") или "фактор Y" ("психологичность"), который радикально, аж создавая новую систему отсчёта, отличает ИИ от человека.

При этом не могут предложить никакой объективной оценки отличия. Даже отличия себя от своей жены, которая вполне может быть очень хорошо замаскированным ИИ.

И ещё - ИИ может посмотреть с помощью видеокамеры на предмет, и "существующие в природе" сигналы, пройдя (преобразуясь) через нейросеть ИИ, приведут к высказыванию "я вижу красный цвет". И как можно доказать, что не видит?

Если нет и не может быть какого-либо объективного отличия наличия факторов X или Y от их отсутствия, значит они неотличимы от фантазий.  

[Корнак]

И вот, приходят какие-то странные люди, которые говорят, что есть "фактор X" ("квалиа") или "фактор Y" ("психологичность"), который радикально, аж создавая новую систему отсчёта, отличает ИИ от человека.

При этом не могут предложить никакой объективной оценки отличия. Даже отличия себя от своей жены, которая вполне может быть очень хорошо замаскированным ИИ.

тут такое дело
в своей собственной психологичности мы не сомневаемся
она дана нам, что называется, - напрямую
психологичность других людей мы подозреваем
у нас нет повода думать иначе
а вот думать, что у ИИ тоже есть психологичнсть, у нас нет никакого повода
попытка наделить ИИ мышлением - это не шаг вперед, а откат назад, в эпоху, когда громы и молнии объясняли какими-то существами, сидящими на небесах

[Корнак]

это преобразование физиологических импульсов в квалиа, т.е. в явление психологическое,
вполне таки абстрактное. Это как раз именно то звено в обработке информации которого нет в системах ИИ.

Нет сознания - нет психологии. И ничем его не заменишь.
А интеллект это можно сказать "бортовой компьютер" сознания, но не оно само.

ну, видишь ли...
когда мы ходим в туалет (физиология), то это тоже можно наблюдать в своем сознании
но никому в голову не придет, что дефекация психологична
я же не про сознание, а про психология говорю
а ты абстракцию (психологию, мышление) уравнял с ощущениями
это нехорошо
выход я тебе предложил - называть ощущения, мысли и эмоции идеальными, то есть находящимися в сознании, но не называть ощущения абстрактными

[QY]

тут такое дело
в своей собственной психологичности мы не сомневаемся

Я сомневаюсь. Так как даже не понимаю, что вы имеете ввиду под "психологичностью".

она дана нам, что называется, - напрямую

Нагретой железяке нагретость тоже дана напрямую. Никакая другая железяка не нагрета так-же как эта. Просто потому что она как то отделена, пространственно разделена и её состояние - только её в данной точке пространства времени.

Что же именно вам "дано напрямую" - реакции нервной системы, возбуждение нейросети, вызывающее движения губ в произнесении "мне тепло"?

Так и железяка ИИ, созданная из той же материи, из тех же атомов, что и вы, когда сигнал от датчика температуры, подобно сигналу от кожных рецепторов как у вас, проходит преобразования в нейросети, как у вас в нейросети ГМ, вызывая комплексные реакции категоризации и понятийных ассоциаций, потом различных моторных функций в реакции на тепло - тоже "напрямую" реализует свою кремниевую психологичность. Или углеродно-белковая круче?

психологичность других людей мы подозреваем
у нас нет повода думать иначе

Так и у нас нет повода думать иначе, когда я общаюсь допустим с вами через интернет. В этом году провели очередной тест на 500 человек - 54% людей посчитали ИИ человеком и у них не было повода думать иначе. При этом 37% людей были опознаны как ИИ другими людьми.

Т.е. "повод думать иначе" или шанс распознать в другом ИИ - уже не выше шанса угадать орла или решку при  подбрасывании монеты.