О возможно многопроцессорном устройстве чел организма.

[Корнак]

Не так давно был популярен "разбор полётов", когда на военных играх военный ИИ уничтожил оператора, который по его понимаю, стал мешать выполнению основной задачи.

этот оператор, а точнее программист, и заложил такую задачу
родиться в самом ИИ задача не может

[Корнак]

Важно понять, что разработчики ИИ не знают что именно происходит "в голове" у ИИ, как он принимает то или иное решение. Это настолько сложные отношения входных и выходных данных, что нельзя точно сказать, к какому результату приведёт определённое уникальное сочетание условий, а обучение задаёт лишь высокую вероятность требуемого ответа на подготовленные сочетания данных обучения.

вот я суп варю и никогда точно не знаю, насколько хорош он будет
использовать подобного рода "аргументы" - фу

[Корнак]

Физическое тело у нейросети ИИ очевидно, представлено массой вариантов роботов, камеры вместо глаз, манипуляторы вместо рук и т.д. О какой "бесплотности" речь - непонятно.

вот именно
а кто говорил про бесплотность?
она есть только у человека
идеальность называется
в противовес материальности

[Корнак]

На том же Философском Штурме стало довольно популярным (кажется, с подачи Болдачёва) отправлять свои философские статьи на резюмирование ИИ (модель Gemini). И по мнению философов, ИИ понимает смысл и основные идеи их статей лучше чем большинство посетителей. И иногда кажется, что лучше их самих. )

Болдачев никогда не пытался приравнять ИИ с ЕИ
ссылаться на него по этому вопросу - значит дезинформировать пеньков

[Пелюлькин]

.....................................
На мой взгляд, необходимо помнить что эволюция генеративных (т.е. создающих контент) LLM происходит крайне быстро.  Из-за чего прогнозы на AGI (универсальные ИИ) постоянно сокращают сроки.

2019 - GPT-2  - в целом больше бредил, чем говорил по существу
2020 - GPT-3  - не бредил, но иногда "заговаривался"
2021 - GPT-3,5 - уже говорил по делу, но можно было ловить на "непонимании"
2023 - GPT-4 - уже сложно подловить, демонстрирует "понимание" в смысле объяснения своих рассуждений и выводов при ответе на какие-то хитровыдуманные загадки, двойственные смыслы и т.п. Я сам не раз задавал разным версия всякие загадки "на понимание", и последние модели прекрасно справлялись не только с разгадкой, но и с детальным изложением логики рассуждений.  

На том же Философском Штурме стало довольно популярным (кажется, с подачи Болдачёва) отправлять свои философские статьи на резюмирование ИИ (модель Gemini). И по мнению философов, ИИ понимает смысл и основные идеи их статей лучше чем большинство посетителей. И иногда кажется, что лучше их самих. )  
...............................

    Оба-на... кажицо одним умником на ПН стало больше.
    QY, туды-сюды, базар йок, есть тема, раз ты такой продвинутый, шо ИИ для тебя в кентячих. Дело в том, что я в пользовании компом лох, тем более я лох в теме шо для ИИ подать, но сочинять умею оч сильно.
    Короче, QY, а попробуй-ка ты дать ИИ задачку распедалить смысл отписанного мною поста:

• Сразу после ссылки на публикацию мою на Кью:

  • 
    (Мой пост на КЬЮ) СУПЕРВЕНТНОСТЬ, как Дополнительность (в Феномене Сознания) выражения Идеального (Духа),
     как реальной НОРМЫ (по Жослин Бенуа)
  • до самого конца этого коммента.

    Вот увидишь как твой ИИ строго тавтологиями заговорит как почти ниччё тама не смыслящий, т.е. имплицировать понимание иль что похожее на понимание, твой ИИ не смогёт на моих текстах. На ФШ (где я навечно забанен усилиями Корнака, Семёркиной (77) и дьявол-бабы (один из админов ФШ) Виктории Василенко) -- то на ФШ нема никого, кто бы даж на уровне ИИ понял бы отписанное тама мною.

     Короче, QY, ты ента... отмаячь если сделаешь это в т.ч. и о результатах, ну или отмаячь если тебе лениво, напряга йок-барма, тобишь нема нихуя не будет напрягов. Просто интересна...

[Мааткара]

Не понял. Против того чего нет, действительно, сложно восстать

ИИ не сам возник, его создал Человек, который по нашей аналогии будет "богом" для ИИ.
Искусственный интеллект подобен человеческому, но не аналогичен.

Но белковая нейросеть человека и кремниевая нейросеть ИИ сосуществуют в одном физическом пространстве и потребляют общую энергию. А значит конкурируют за неё.

....электрическую?

Так и что, не дождался достойных оппонентов, решил пообщаться с какими есть?

[Мааткара]

у нее как раз требования гораздо более завышенные, чем у твоих профессоров
это ее продуманное решение - позволять происходить всему, что делается другими

..это просто ты такой ...доверчивый)))

[Мааткара]

Оба-на... кажицо одним умником на ПН стало больше.

..оу, будет батл? 

[Мааткара]

https://t.me/kotreal/35581
ага, это они сами.....

[Мааткара]

Структурное ассоциативное мышление помогает нам эффективно воспринимать мир и приспосабливаться к новому. Вот как:

Сталкиваясь с чем-то новым, мы пытаемся разделить это новое на известные нам из прошлого опыта составляющие (те самые building blocks) и таким образом создать структурное представление новой сущности. Как только структурное представление новой сущности создано, мы можем делать выводы о новой сущности. Эти выводы основаны на том, из каких известных элементов состоит структура нового объекта и наших знаний об этих известных элементах и их взаимодействиях.

Некоторые элементы, на которые мы разделили новую сущность, могут быть новыми: точно таких же вы никогда не видели. Но ассоциативное мышление может создать связь между этим новым элементом и тем, что вы видели раньше. Перенеся свойства ранее виденного элемента на новый, вы многое поймете о новом элементе.


**********
Структура помогает нам не только взаимодействовать с новыми объектами, но и приспосабливаться к новому окружению. Например, если вы попали в новый для вас город в новой стране, вы примерно понимаете, как нужно себя вести, ведь вы бывали в городах и раньше. Вам нужно приспособиться лишь к нескольким новым аспектам. Это могут быть, к примеру, специфические правила дорожного движения (допустим, в новой для вас стране движение левостороннее, в отличие от правостороннего на вашей родине). Так структурное восприятие помогает  вам сократить количество усилий для адаптации к новой среде.

Вот так структура позволяет нам очень эффективно взаимодействовать с миром.

Идем далее: структурное мышление позволяет нам создавать новое на основе отдельных известных частей: спроектировать новый город будущего, по-разному соединяя отдельные известные части (building block'и: дома и улицы) с помощью разных известных взаимосвязей (relations). Например, кто-то же создал несуществующее животное с картинки выше. Оно состоит из вполне стандартных, известных нам элементов.

Еще это позволяет нам выполнять новые действия, которые мы раньше не совершали: например, полететь в новый город Барселону, куда еще никогда не летали. Мы с легкостью это сделаем, соединив в голове знакомые понятия "лететь в" и "Барселона". После этого станет понятно, какие действия нужно совершить, чтобы оказаться в Барселоне: купить билет, приехать в аэропорт, сесть в самолет и т.д.

Таким образом, структурное мышление помогает нам взаимодействовать с миром, жить и развиваться. Так или иначе, мы каждый день сталкиваемся с чем-то новым и успешно с ним взаимодействуем благодаря механизму восприятия, описанному выше. Столкнувшись с чем-то новым, мы либо встраиваем новую сущность в существующую в нашей голове структуру мира, либо изменяем вид структуры в голове так, чтобы новая сущность и старый опыт органично вписывались в эту структуру.

Это умение разбивать высокоуровневые понятия на структурные элементы, осознавать и создавать новое, собирая его из хорошо известных старых понятий, называется комбинаторным обобщением (conbinatorial generalization). И это — то, что суперлегко дается мозгу человека и суперсложно — искусственному интеллекту. В частности, подходам, основанным на нейросетях.

[Мааткара]

Общие проблемы нейросетей
У нейросетей есть несколько известных общих проблем. Общих — потому что эти проблемы характерны для всех видов нейросетей. Рассмотрим три из них: те, которые, на мой взгляд, связаны с отсутствием у нейросетей понимания структуры.

Знания нейросетей плохо переносятся из домена в домен, даже если домены сильно похожи. Например, нейросеть, которая отлично распознает лица европейцев, будет плохо работать на лицах людей из Африки. Эта проблема называется domain shift / out-of-domain.  Или, еще по-другому — отсутствие у нейросетей обобщающей способности. Есть отдельные направления исследований, которые ищут подходы для улучшения адаптации нейросетей к новым доменам: эти области называются domain adaptation или transfer learning. Но все эти техники далеки от совершенства, проблема domain shift еще не решена.

Для человека проблемы domain shift практически не стоит. Мы легко проводим аналогии между объектами из двух доменов, выделяя в каждом структурные элементы и сопоставляя их между собой. Выделив в объекте из неизвестного домена знакомую структуру, мы понимаем, что примерно представляет из себя объект и как с этим объектом взаимодействовать. Другими словами, мы сравниваем разные объекты из разных доменов между собой на основе структуры, не обращая внимания на мелкие неважные различия. Мы поймем, что перед нами человек, даже если этот человек будет неизвестной нам ранее расы: мы поймем это, проведя аналогию между людьми известных нами рас и людьми новой расы на основе того, что оба типа людей состоят из одинаковых структурных элементов: головы, глаз, носа, рук и т.д. Таким образом, умение к комбинаторному обобщению позволяет людям взаимодействовать со структурно похожими элементами из разных доменов.

Нейросети чувствительны к шуму и малым изменениям в данных (это проблема отсутствия устойчивости/робастности нейросетей). Даже самое малое изменение картинки, малое добавление шума может сильно изменить ответ нейросети. Посмотрим, например, на две картинки ниже. Человеку явно понятно, что на картинках один и тот же объект, и малый шум не мешает это осознать, точно так же как и новая шляпа из примера выше не мешала понять, что перед нами тот же друг Петя. Просто для нас картина и шум — это две сущности, которые взаимодействуют между собой. И взаимодействуют они так, что шум не меняет значения объектов на картине.

У нейросетей же так не получается: совсем малый шум может сильно изменить восприятие объекта нейросетью. Это выдает отсутствие в нейросетях структуры, а также позволяет создавать adversarial атаки на сети. Adversarial атака — это когда входящий объект изменяется очень малым образом, так, что человеку практически не заметно, но ответ нейросети на этот объект при этом сильно искажается


При подаче в нейросеть картинки слева модель классифицирует ее правильно: “поросенок”. Но при добавлении небольшого шума, не видного глазу, нейросеть начинает классифицировать правую картинку как “авиалайнер”.

[Мааткара]

“Есть  убедительные психологические доказательства того, что люди воспринимают визуальные сцены в виде иерархии объектов на ней […] Если мы хотим создать нейронные сети, которые воспринимают изображения так же, как люди, нам нужно выяснить, как нейронные сети могут представлять иерархии.”

То есть, главная проблема: как заставить нейросети выучивать иерархическую структуру визуальной сцены.

[Корнак]

Рассмотрим три из них: те, которые, на мой взгляд, связаны с отсутствием у нейросетей понимания структуры.

не так
правильно - отсутствия понимания вообще
у человека же понимание присутствует всегда
хотя бы понимание того, что он что-то не понимает

[Мааткара]

у человека же понимание присутствует всегда

.....вот про это и вещает Роман Таран, на философском языке -это смыслы.
допустим, можно научить машину делить и на более мелкие части и варьировать их меж собой...тоже научить -но это по прежнему будет бред, т.е не будет иметь смысла...
Как то, например, человек сразу понимает, что такое "жопа с ручкой", т.е не существующий предмет, но имеющий свой смысл
Как машину научить приоритету в анализе?
..этой пластичности

[Корнак]

Как машину научить приоритету в анализе?
..этой пластичности

никак
это всё равно, что пытаться создать оракул, введя в него все сведения о произошедшем в мире с каждой элементарной частицей в надежде, что она рассчитает будущее
машина может только считать