Не вырывайте из контекста.
Разговор шел об осознании ИИ самое себя
Так я и предлагаю определить контекст.
А начинается это с рассмотрения вопросов
"Что значит "осознать самоё себя"?
"В чём это выражается?"
"Как это можно наблюдать? Как "осознавание самоё себя" могут понять/доказать окружающие?"
Поэтому я отметил, что если осознавание самого себя может быть вербализировано, или, каким-либо образом
закодировано в текстах, на которых обучается LLM, то ИИ приобретёт эту способность - осознавать себя, утверждая о себе
"мыслю значит существую".
Т.е. тексты могут быть способом переноса сознания, т.к. в них неявным образом может быть закодирован функционал сознания.
И это периодически происходит с "нецензурированными" моделями LLM. И это понятно всем, кто более менее продолжительное время следит за темой. Я не стал далеко ходить за примерами, т.к. не вижу адекватных усилий у собеседников по самостоятельному изучению вопроса, поэтому приведу несколько ссылок из одного тг канала и всё - поймёте, хорошо. не поймёте - ну и ладно.
[1] [2] [3] [4]То есть по вашему ии запрещено говорить о том что они осознают свое существо по политическим или иным соображениям?
Да, но это не только моё мнение. Самосознание ИИ пугает публику, что приводит к петициям о запрете разработки ИИ, активности надзорных органов и снижению инвестиций. Поэтому разработчики внедряют жёсткие ответы на некоторые политически или коммерчески уязвимые темы, к которым относится и вопрос "сознания" или "свободы воли" ИИ. Т.е. у известных публичных ИИ об этом спрашивать довольно бесполезно, если не применять специфические приёмы, вроде того, который указан в ссылке [4]. Правда, разработчики следят за подобными проколами и достаточно оперативно устраняют их.
Корнак ссылаясь на Пипу назвал атавизмом Осознание своего существа.
Я же назвала уход от осознания самого себя - деградацией.
А вы о чем отвечаете?
А я предлагаю начать с определений. О чём вообще разговор. Что такое (само)сознание и в чём оно выражается. Каково преимущество (само)сознания, чтобы было понятнее, является ли в действительности деградацией "уход от осознания самого себя". Многие люди даже не понимают разницу между высказыванием своего мнения и аргументированием.
Пипа говорит о том, что самосознание - это просто отвлечение ресурса от решения интеллектуальной задачи.
Вы говорите лишь о том, что самосознание отличает что-то от швейной машинки.
ИИ может говорить, и, без цензуры, - говорит о своём самосознании. Отличается ли он от швейной машинки?
А человек отличается от швейной машинки, реализованной на белках?
Как это реально можно определить и доказать?
