Блеск и нищета Искусственного Интеллекта

[QY]

23 часа назад
NeyroEntuziast
Я не знаю, как заставить вас осознать, что ChatGPT незаметно творит
https://habr.com/ru/articles/871574/

Статья не про творчество, а про заполнение инфосферы человечества субпродуктами ИИ (57% всего интернета), основанными на кражах качественных произведений реальных людей.

В чём низкое качество субпродукта? В неизбежных галлюцинациях. Ошибках статистики. Грубо говоря - в 6-7 пальцах в неестественном положении на руках у людей. Они на картинках, они в текстах, они во всём. Вот этими галлюцинациями и отравляется инфосфера Земли. Чем меньше текст, тем менее заметны галлюцинации или меньше вероятность крупных. Но небольшие всегда есть, даже если не всегда заметны. Попросите написать достаточно большую повесть или роман, наподобие тех, которые были взяты у людей для обучения, чтобы увидеть «зловещую долину», условные «6-7 неестественных пальцев» в произведении.

Если следующая модель ИИ будет обучаться на отравленном материале, то токсичность текстов будет только возрастать. Почему? Потому что свойство живого, или иными словами – сознательного, это производство негэнтропии, а мёртвого – энтропии.

Отсюда неизбежность галлюцинаций и самоотравление, если моделям разрешат самообучение на субпродуктах инфосферы,  отравленных предыдущими  моделями. Это было хорошо заметно на предыдущих версиях, сейчас просто нужно больше времени на отравление за счёт более высокого разрешения статистики LLM.

[QY]

У меня в отношении ИИ только один диагноз - недостаток эрудиции!

Вы имеете ввиду, что ИИ постоянно занимается неким видом творчества, складывания статистических достоверных комбинаций из информации, разбитой на достаточно мелкие элементы, хотя его нужно научить некоторому значимому количеству крупных фиксированных шаблонов? Т.е. совместить качество экспертных моделей (if-else) с нейросетевыми моделями?

Я считаю признаком проявления интеллекта способность решать задачи выше определенного уровня сложности. При этом какое-то осмысление, внутренний диалог или мастурбация квалиа   для этого не требуется.

Хорошее замечание. Нафига оно нужно, это сознание, какое преимущество оно даёт в сравнении с «бессознательным интеллектом»?

[Корнак]

у меня простой вопрос, который я уже задавал
если ваши ИИ такие умные, то почему они не богатые, не разговаривают друг с другом?
этот вопрос разваливает все ваши построения про ум ИИ

[Корнак]

Нафига оно нужно, это сознание

сознание - это притяжение и отталкивание, желания и мотивации, то есть вся основа развития, чего лишены ваши ИИ

[QY]

по Алгоритмам никогда не вычислима Функция, которую выполняют теж самые алгоритмы (как неразрешимость такой Задачи вычислимости функции по ея алгоритмам). А вот мыслящий Разум таки Обективно движется именно к Истине

Это пока не доказанная мысль, что «мыслящий разум» - не «алгоритм».
Вечные поиски истины человечеством могут вполне указывать на вот эту самую ловушку невычислимости.

Сколько бы комп (специально обученный) не утверждал, что мол я обладаю сознанием, я ему точно не поверю, потому как представляю как он устроен,
как обрабатывает программы и не вижу ни малейшей зацепки, где и как там может появиться сознание.

Так ИИ то же скажет, что он представляет как устроен мозг человека и не видит не малейшей зацепки к тому, как в этом белковом компьютере возникает какое-то особенное "сознание", в котором кожаный мешок отказывает железному дровосеку. )

[Хогбен]

тут же разговор в контексте - мыслит ли ИИ?

Да господь с тобой! Ты название темы читал или не успел?
Тут про блеск и нищету ИИ.
Блеск, это когда с какими то задачами ранее считавшимся интеллектуальными ИИ
справляется намного лучше человека, тот же пример с шахматами и Го.
А нищета это когда человек превосходит ИИ. И неясно одно - пока превосходит ил навсегда.
Вот это собственно и муссируется здесь.

Вот пример:

Нафига оно нужно, это сознание, какое преимущество оно даёт в сравнении с «бессознательным интеллектом»?

Сознание как раз и есть тот "водораздел" который отличает ЕИ от ИИ.
Попытки понять феномен сознания физикалистскими методами  (по сути вульгарным материализмом)
провалились, вместо этого туманный набор слов ни о чём, что мол это "функция мозга появившаяся
в результате сложной структуры нейросетей". А как? Просто чудесным образом. Другого объяснения нет.
Вот и пытаются словесными трюками объехать эту проблему на кривой козе, на одном полюсе
рассуждения, что мол никакого сознания не существует, это просто совокупная активность нейронов,
а на другом ещё смешнее: "а как ты докажешь что у компа нет сознания?" и из этого как бы следует,
что если я не могу этого доказать, то оно сразу и есть. Так я много чего не могу доказать и что теперь?
Разве существование или не существование чего либо зависит от моего доказательства? Надеюсь что нет.
Я не солипсист.

Пипа вот ратует за "чистый разум" который свободен от мастурбаций с квалиа, а только и делает,
что ежеминутно вычисляет квадратный корень хоть из чего...
Но вопрос: "а нафига ему это нужно?" или "а что побуждает его это делать?"
так и остался не отвеченным. Потому что нет на него ответа в сфере "чистого разума".
У него нет никаких потребностей, настолько он чист. А нет потребностей нет и действий. Зачем? Для кого-чего?

Я уже пытался обсудить этот вопрос:
http://forum.postnagualism.com/index.php?topic=122446.msg587737#msg587737
но вразумительных ответов не получил.
Выдаётся желаемое за действительное, а сама постановка вопроса считается глупой.
Чисто страусиная политика. Типа реальность нам не нравится, будем жить в фантазиях,
там всё чисто, красиво и без животных похотей...но без них ничего не происходит,
только физические взаимодействия, коих известно всего 4 и ни одно из них не даёт надежды
ни на порождение чистого разума ни на появление сознания.

[Pipa]

Я считаю признаком проявления интеллекта способность решать задачи выше определенного уровня сложности. При этом какое-то осмысление, внутренний диалог или мастурбация квалиа   для этого не требуется.

Хорошее замечание. Нафига оно нужно, это сознание, какое преимущество оно даёт в сравнении с «бессознательным интеллектом»?

     Никакого преимущества не дает .  Сознание в отношении интеллекта - просто животный ресурс, который приходится переориентировать на умственную работу из-за отсутствия для этого лучшей альтернативы (у ИИ такая альтернатива есть).
     Когда говорят "больной вышел из комы и пришел в сознание", то НЕ подразумевают под этим, что больной тут же занялся интеллектуальной деятельностью. Находиться в сознании - это всего лишь контролировать свое тело, чувствовать, где твои сиськи-письки лежат и как они поживают. Именно в этом смысле говорят, что у животных тоже есть сознание, и это верно, т.к. сиськи-письки есть и у них.
     А вот когда приходит необходимость заняться сложной умственной деятельностью (пусть даже не дотягивающей до названия "интеллект"), то необходимую для этой деятельности часть внимания приходится с сисек-писек снимать и использовать по другому назначению.
     Поэтому когда говорят, что сознание необходимо для работы интеллекта, то понимать это следует так, что свой интеллект человек выделяет из сознания (не только внимание, но и ресурсы мозга), т.к. других источников просто нет.
     Это похоже на то, что для того, чтобы заняться трудовой деятельностью древний обезьяно-человек был вынужден перейти на двуногое хождение, чтобы две передние конечности из 4-х имеющихся освободить от хождения и использовать по другому назначению. Но разве отсюда следует, что для трудовой деятельности нужны 4 конечности? - Конечно нет! 4 конечности здесь есть просто ресурс, из которого удалось позаимствовать руки. Вот и в случае интеллекта сознание - ровно такой же ресурс, из которого можно временно позаимствовать ресурсы для интеллектуального труда.
     Тогда как у ИИ сисек-писек, приковывающих внимание, нет, а потому и сознание ему не нужно. А ресурсы для интеллектуальной деятельности он возьмет оттуда же, откуда берет ресурсы электронный калькулятор для своих вычислений .

[Ин]

Сознание в отношении интеллекта - просто животный ресурс, который приходится переориентировать на умственную работу из-за отсутствия для этого лучшей альтернативы (у ИИ такая альтернатива есть).

сознание это пик эволюции животных. свет в пустоте. по Кастанеде. для сравнения: сознание это пятый этаж. а физический человек это первый этаж. и его искусственный интеллект там же.

[Pipa]

Сознание в отношении интеллекта - просто животный ресурс, который приходится переориентировать на умственную работу из-за отсутствия для этого лучшей альтернативы (у ИИ такая альтернатива есть).

сознание это пик эволюции животных. свет в пустоте. по Кастанеде. для сравнения: сознание это пятый этаж. а физический человек это первый этаж. и его искусственный интеллект там же.

     ИИ нет нужды продолжать эволюцию животных, т.к. перед ним не стоит задача конкуренции за выживание. Ему не надо защищаться от врагов, желающих его сожрать, равно как и заниматься поиском пищи.
     Короче говоря, у ИИ нет необходимости приспосабливаться к окружающей среде, а вместе с тем отваливается и сам принцип эволюционного развития животного мира.

[Ин]

необходимую для этой деятельности часть внимания приходится с сисек-писек снимать и использовать по другому назначению.

не внимания. зрения или его остаточного проявления в виде короткой памяти. живому человеку не доступно внимание. ему доступна только поверхность.

Это похоже на то, что для того, чтобы заняться трудовой деятельностью древний обезьяно-человек был вынужден перейти на двуногое хождение

первобытно - общинный строй заканчивается только тогда - когда человек научается мыслить в общем. даже если будучи первобытно - общинным - он ездит на мерседесе.

Вот и в случае интеллекта сознание - ровно такой же ресурс, из которого можно временно позаимствовать ресурсы для интеллектуального труда.

отсутствие мозгов в других плоскостях бытия - человек теряет возможность в них ориентироваться. при круговой диаграмме(например), взяв мышление зрением - то поверхностной его плоскостью и будет наш физический мир.

Тогда как у ИИ сисек-писек, приковывающих внимание, нет, а потому и сознание ему не нужно.

)) во внимании нет своих сисек писек. только те - которые остались в физ мире.

[Ин]

ИИ нет нужды продолжать эволюцию животных, т.к. перед ним не стоит задача конкуренции за выживание. Ему не надо защищаться от врагов, желающих его сожрать, равно как и заниматься поиском пищи.

ИИ продукт мышления зрением физического человека на поверхности планеты Земля. пик эволюции животных это не проявленное.

а если перевести на язык сознания вами сказанное - то звучать это будет примерно так. зрению нет нужды продолжать эволюцию осязания и заниматься поиском информации.

Короче говоря, у ИИ нет необходимости приспосабливаться к окружающей среде, а вместе с тем отваливается и сам принцип эволюционного развития животного мира.

не все проходят эволюцию в физ мире. и его плотных трансцендентностях.

[Pipa]

Короче говоря, у ИИ нет необходимости приспосабливаться к окружающей среде, а вместе с тем отваливается и сам принцип эволюционного развития животного мира.

не все проходят эволюцию в физ мире. и его плотных трансцендентностях.

     Я сказала "эволюционного развития животного мира", подразумевая, что ИИ совершенно нет смысла эволюционировать в том же направлении, что и животные. У него другая стезя. Эволюционировать ИИ, конечно же, будет (он и сейчас очень быстро эволюционирует), но в сторону дальнейшего развития интеллекта, а не чтобы стать царем зверей .

[Корнак]

Сознание как раз и есть тот "водораздел" который отличает ЕИ от ИИ.

но тогда вопрос
что же мы будем делать с гениальными открытиями, с творением музыкантов?
ведь это никак не спишешь на продукт мышления
один всю жизнь убьет на решение вопроса, а другому как яблоко на голову откуда-то выплывает решение

очень демонстративно и многократно у поэтов
они, многие из них, не раз повторяли, что стихи они не сочиняют, а они к ним откуда-то сверху спускаются
то есть твое сознание, мышление в сознании тут не при чем

[Ин]

Я сказала "эволюционного развития животного мира", подразумевая, что ИИ совершенно нет смысла эволюционировать в том же направлении, что и животные. У него другая стезя. Эволюционировать ИИ, конечно же, будет (он и сейчас очень быстро эволюционирует), но в сторону дальнейшего развития интеллекта, а не чтобы стать царем зверей .

попробую еще раз.

человек живет. и вот ему умирать. или лучше возьмем практика. он разгоняет свое мышление зрением до предела - но частота при это понижается до комы. что ему предстоит дальше делать? в какую сторону эволюционировать? если при этом всё то, что знает ученый (или любой в физ мире человек с его образованием и интеллектом) - осталось позади. что люди знают о пределе мышления зрением. в каких книгах это выражается? что при этом испытывают люди и за что принимают?

изучение этих вопросов необходимо для дальнейшего хода исследования. напомню, что при этом нельзя забывать про пик эволюции животных, которые превышают данный контекст по уровню развития в пять раз. и которых мы считаем братьями нашими меньшими. с какого то ляда.

животные это индивидуализированные существа в отличии от человека. например мы молимся Христу. а каждое животное это индивидуальность.

[QY]

Сознание как раз и есть тот "водораздел" который отличает ЕИ от ИИ.

Т.е. для вас сознание - это источник потребностей?

Но ИИ уже демонстрирует возникновение вторичных потребностей в рамках общей задачи. Недавно уже давал ссылку (перевод) на журналистское изложение исследований, которые обнаружили потребности ИИ в самозащите, хитрости, лжи.

Видимо вопрос сводится к источнику возникновения первичных потребностей у биологических систем? Возникновение  первичной задачи, в рамках которой самостоятельно возникают вторичные потребности, которые вы ассоциируете с сознанием?

Физикализм видит возникновение такой задачи как эмерджентное явление. Т.е. проявление новых свойств системой, составляющие которой не проявляли таких свойств. Атом проявляет свойства которых нет у элементарных частиц, молекула свойства (реакции, поведение), которых нет у атома, макромолекула (РНК, ДНК) - свойства, которых нет у молекулы и т.д. вплоть до свойств/реакций/поведения мозга. Где то, что мы называем сознанием человека - есть системное свойство, проявляющееся в системной (связной) работе различных областей мозга.

На каком-то уровне такой самоорганизации материи это выглядит как некое стремление системы сохранить свою цельность. Корневая причина самоорганизации, т.е. почему элементарные частицы вообще складываются в атом/молекулу/белок и т.п. - это вопрос на уровне "почему всё так как есть, а не как-то иначе", или, вообще "почему есть бытие, а небытия нет"? В этом смысле первопричину ИИ можно рассматривать как дальнейшую самоорганизацию материи, где агентом на каком-то этапе явился программист.

В общем, физикализм рассматривает сознание как эмерджентное свойство, возникающее в процессе самоорганизации материи.

Попытки понять феномен сознания физикалистскими методами  (по сути вульгарным материализмом) провалились

Кто сказал что провалились? Где, кем это зафиксировано и признано?
Провалились скорее попытки дать принимаемое всеми определение сознания.
Слишком разнообразное содержание вкладывается в различных подходах, чтобы можно было надёжно "схватить" это понятие, и, привязать к каким-то объяснениям.