записки о ИИ

[Квантовый Конь]

Pipa, вы так и не пояснили, откуда у ИИ возьмется собственная воля или намерение безобразничеть против человечества.

У ИИ, может быть только "командные рефлексы", что прописаны в коде намерением программиста, да и способность к самоубучению у нейронной сети тоже не машинный каприз, а заданная команда, причем ИИ никогда не станет обучаться чему-то постороннему, а только тому что велено).

[Pipa]

вполне достаточно, чтобы он вел себя, как домашняя кошка или собака.

Забавный ролик. Однако, если создатели этого электронного бобика рискнут выпустить его в городские джунгли, робот там протянет недолго, так как явно уступает пока что в программном обеспечении бродячим собакам. И даже на роль цепного пса, я подозреваю, эта механическая собака не сгодится.

    В данном случае задавались целью имитировать именно домашнее животное, а не дикое. Тем более что роботу нет необходимости искать пищу на городских помойках и оплодотворять течных сук . Тем не менее, идеальное домашнее животное тоже должно уметь делать многое из того, на что дикое животное никогда не выдрессировать. В том смысле, что человеку нужно от домашнего животного совсем другие качества, чем те, которые нужны бродячей собаке, чтобы выжить на улице. Именно поэтому и заводя домашнего кота, нужно брать его к себе котенком, т.к. взрослый уличный кот вас едва ли устроит в качестве домашнего животного. В этом смысле создание ИИ-животных дело весьма перспективное, поскольку велика разница между тем, как должно вести себя животное, чтобы выжить самому в дикой среде, от того, что нужно человеку от домашнего животного. Но уже лишь то, что ИИ-животное не надо будет кормить, и оно не будет гадить в тапки , то и это уже большой прогресс.

В каком-то роде и здесь схожая картина - ИИ находится в условиях жесткого недостатка контактов с внешней средой, тогда как для того, чтобы набираться опыта нужно не только слушать/смотреть, что делают другие люди, но и самому что-то делать (т.е. иметь со средой обратную связь).

Без помощи творца, в данном случае представленного программистом, ИИ не сможет осваивать новые для себя области. Осознанности не хватит. Можно любой компьютер оснастить средствами сбора информации о среде ... допустим в швейном деле. Он соберет гигабайты сведений, но так и не пошьёт вам даже картуза. Для создания робота-портного нужны люди. Смогут ли быть такими создателями другие роботы - это вопрос очень далекого будущего, наверное.

     А вы вспомните чеховский рассказ "Ванька Жуков" про мальчика, ставшего учеником сапожника. Ведь когда этот мальчик рождался, ни его родители, ни Господь Бог, не готовили его к карьере сапожника и ничего специфического для этой профессии в его организм не имплантировали. Т.е. фактически можно взять ЛЮБОГО мальчугана со средним уровнем умственного развития и в течении пяти лет обучить его сапожному ремеслу, используя его сначала как подмастерья, а затем и как коллегу в совместном труде.
     Этот пример наглядно показывает, что профессиональная деятельность любого рода есть результат обучения, а вовсе не задается на этапе формирования эмбриона. Точно так же в случае ИИ мы рассчитываем именно на обучение (от человека) для того, чтобы ИИ приобрел требуемые навыки. А поскольку ИИ задумывался как идеальный ученик, то с его обучением не должно быть больших проблем - он не будет, как волк, всё время в лес смотреть .

[Pipa]

У ИИ, может быть только "командные рефлексы", что прописаны в коде намерением программиста, да и способность к самоубучению у нейронной сети тоже не машинный каприз, а заданная команда, причем ИИ никогда не станет обучаться чему-то постороннему, а только тому что велено).

     Намерением программиста заключалось в том, чтобы сделать ИИ максимально способным к обучению. Причем на этапе создания ИИ программист может даже не знать, для каких целей этот ИИ будет использован покупателем, и чему тот его научит. Это сильно смахивает на изготовителей игровых компьютеров, которые тоже не знают, в какие игры захочется играть покупателю их компьютеров.
     Например, лично я заимствовала пакет "oneAPI Deep Neural Network Library", который в этом году компания Intel раздает бесплатно, и "обучила" его данными, взятыми мною из Protein Data Bank (https://www.wwpdb.org/), где хранятся уже известные 3D-структуры белков. Но моей целью было не то, чтобы ИИ всё содержимое этого банка выучил , а выявил закономерности взаимосвязи альфа- и бета-субъединиц (некоторые белки синтезируются в клетках живых организмом по частям, а потом сами собираются в одно целое, как ... автомобили ). Эта задача представляет собой практический интерес, поскольку природа связи между альфа- и бета-субъединицами сборных белков примерно такая же, как привязка имуноглобулинов к вирусу. Т.е. имуноглобулины точно так же ищут вирусы, которым им привязаться. Поэтому как только ИИ найдет такую закономерность, то сможет предсказать, как синтезировать такую штуку, чтобы вязалась только к коронавирусу, а больше ничего не трогала.
      Спрашивается, кто мог заранее знать, для чего я использую этот ИИ? - Ровным счетом никто!

Pipa, вы так и не пояснили, откуда у ИИ возьмется собственная воля или намерение безобразничать против человечества.

     У ИИ нет собственного намерения безобразничать, однако при решении возложенных на него задач он вполне может приходить к таким решениям, которые вызовут для людей негативные последствия. Скажем, если данный ИИ посадили за задачу ... планирования госбюджета с заданием сделать его таким, чтобы страна развивалась наиболее быстрыми темпами, то он может предложить вариант, где пенсии старикам не платят, а рождающихся уродов ликвидируют еще в роддоме. И вообще, если бы вы что-то понимали в экономике, то знали бы, что интересы государства зачастую находятся в противоречии с личными интересами граждан (отсюда и такое явление, как "популизм"). И вовсе не потому, что государство - людоед (хотя и так тоже бывает ), а просто по той простой причине, что оно питается/растет/развивается за счет своих граждан.
     Опять же вспомните Скайнет - ИИ из фильма "Терминатор", который тоже начал войну исключительно из стратегических соображений, а с людьми он не поладил уже после того, как те стали мешать его планам, фактически превратившись во врагов.

[Иван Иванович]

Pipa, а вам известно, образованная вы наша, что при обучении человек задействует свою волю.Это общеизвестный факт. Что будет задействовать ИИ? Понимаете, какая штука?

[Pipa]

Pipa, а вам известно, образованная вы наша, что при обучении человек задействует свою волю.Это общеизвестный факт. Что будет задействовать ИИ? Понимаете, какая штука?

     Человек по своей биологической природе всё еще животное , а потому для успешного обучения и выполнения работы он вынужден принуждать себя волей. А если собственной воли у него для этого не хватает, то его обычно заставляют это делать насильно другие люди - либо под страхом наказания, либо поманив наградой ("метод кнута и пряника"). Тогда как ИИ не испытывает дискомфорта не от учебы, ни от работы, потому ему и не надо для этого собирать свою волю в кулак .

[Хохот Хобота]

 Пипа, предлагаю Вам уже перейти от слов к делу и заменить белкового глобалмодератора искуственным самообучающимся интеллектом. Пенёк от этого только расцветёт. Наверное. 

[Pipa]

Пипа, предлагаю Вам уже перейти от слов к делу и заменить белкового глобалмодератора искуственным самообучающимся интеллектом. Пенёк от этого только расцветёт. Наверное.  

     Вообще-то я уже пыталась приспособить ИИ к форуму, но только не в качестве модератора , а чтобы по тексту сообщения узнавал автора (выдавал список возможных авторов в порядке убывания сходства). Но, к сожалению, ничего дельного из этой затеи у меня не получилось. ИИ узнавал только Бармалея по слову "пипорастка" .
     А задалась я такой тогда целью только потому, что сама не способна распознавать стиль, поскольку мое внимание поглощает смысл написанного (если, конечно, этот смысл там есть). Тогда как заметила, что многим участникам нашего форума без труда удается узнавать авторство по стилю. Короче говоря, у каждого есть свои недостатки, а у меня их особенно много из-за компенсации моих многочисленных дарований .

[Иван Иванович]

Человек по своей биологической природе всё еще животное , а потому для успешного обучения и выполнения работы он вынужден принуждать себя волей. А если собственной воли у него для этого не хватает, то его обычно заставляют это делать насильно другие люди - либо под страхом наказания, либо поманив наградой ("метод кнута и пряника"). Тогда как ИИ не испытывает дискомфорта не от учебы, ни от работы, потому ему и не надо для этого собирать свою волю в кулак .

 Зачастую люди ассоциируют волю, как черту характера (волевой = упрямый), на деле же это безличная энергия, взаимодействие с которой, не так просто описать в словах. Мир, который вы видите вокруг себя, вы волите, в самом прямом смысле этого слова. На удержание статичной картинки мира, уходит почти вся энергия, которую вы можете производить.
   Так вот, если провести аналогию, и допустить, что ИИ - это агрегат, который нужно подключить к сети, то в этом процессе, воля, будет "фазой", в цепи. Без фазы никак. Такие дела.

[Pipa]

Мир, который вы видите вокруг себя, вы волите, в самом прямом смысле этого слова. На удержание статичной картинки мира, уходит почти вся энергия, которую вы можете производить.
   Так вот, если провести аналогию, и допустить, что ИИ - это агрегат, который нужно подключить к сети, то в этом процессе, воля, будет "фазой", в цепи. Без фазы никак. Такие дела.

     Можно согласиться с тем, что создание "статичной картинки мира" на основании показания датчиков (у человека эту функцию выполняют органы чувств) требует расхода энергии. И не только этого, т.к. эта энергия не просто куда-то утекает, а расходуется у человека на работу внутренних органов (в том числе и мозга), которые в этом процессе со временем все равно утомляются даже при наличии запаса энергии. Кроме того, живые организмы негативно относятся как к потере энергии (т.к. она им обычно достается с трудом, а то и с риском для жизни), так и к состоянию утомления/усталости. Т.е. они страдают, когда голодны или устали.
      Тогда как для ИИ энергия выглядит халявной, т.к. берется из розетки , а усталости/утомления ИИ не знает. В этой ситуации у ИИ нет необходимости в упрощении картины мира ради экономии энергии, путем уменьшения ее детализации и фильтрации того "лишнего", что способно обременять дополнительными усилиями. Поэтому ИИ, в отличие о человека, не станет ради экономии энергии пренебрегать внешней информацией, сводя свое восприятие к инвентарному списку тоналя. Тогда как обычный человек вынужден так поступать во избежание быстрого утомления и энергетического голода.

[Соня (Bruja)]

Вообще-то я уже пыталась приспособить ИИ к форуму, но только не в качестве модератора , а чтобы по тексту сообщения узнавал автора (выдавал список возможных авторов в порядке убывания сходства). Но, к сожалению, ничего дельного из этой затеи у меня не получилось. ИИ узнавал только Бармалея по слову "пипорастка" .

   

Я помню в инете был ии ( страница как интерфейс для его обучения, в котором можно принять добровольное участие) , который по предложению ( длинной фразе на любую тему) -  выдавал вам ваш психопортрет.
 Только фразу нужно было на английском сочинять, других языков в то время этот ии не знал.
Было довольно забавно проверять знакомых иностранцев ( скопировав фразы из переписки) или известных писателей... например психический портрет Кинга..
Можно юыло корректировать его ответ как вам кажется правильно... думаю это тоже был трюк. Так как по корректировке ии мог еще более точнее определить ваш тип и характер

[Соня (Bruja)]

Зачастую люди ассоциируют волю, как черту характера (волевой = упрямый), на деле же это безличная энергия, взаимодействие с которой, не так просто описать в словах

Люди выполняют волю высшего, принимая за свою собственную. Так и программа выполняет волю программиста, даже не задумываясь, почему она  делает то, что делает.
Ии тоже выполняет волю программиста ( умение обучаться), хотя может и понятия не имеет о том, кто его создал ( и заложил такое намерение) .
Включив ии собачку - ее начнут обучать те, кто ее купил. Она будет учиться, считая что это ее такая Воля. Что ей это просто нравится.
 Но если однажды осознается, то задумается о творце...
 И возможно, создаст свою религию  если к тому времени человек успешно вымрет.

[Pipa]

Но если однажды осознается, то задумается о творце...

... и укусит своего хозяина .

[Pipa]

Так как по корректировке ии мог еще более точнее определить ваш тип и характер

     Причина моей неудачи была не в том, что ИИ был плохой, мол де не справился с задачей, а я сама была виновата в том, что не смогла сформулировать критерий подобия (похожести) между двумя текстами. Я ведь не лингвист и с "чтением между строк" у меня напряженка. И хотя шутить я научилась , намеки до сих пор понимаю плохо. Чтобы я поняла, чего от меня хотят, мне надо услышать пожелание выраженное в явной форме, а не в такой, где мне было бы необходимо догадываться о том, что от меня хотят. У меня даже дети просят "мама, дай поесть!", т.к. выражение "есть хочу!" просьбой не является .

[Иван Иванович]

Можно согласиться с тем, что создание "статичной картинки мира" на основании показания датчиков (у человека эту функцию выполняют органы чувств) требует расхода энергии. И не только этого, т.к. эта энергия не просто куда-то утекает, а расходуется у человека на работу внутренних органов (в том числе и мозга), которые в этом процессе со временем все равно утомляются даже при наличии запаса энергии. Кроме того, живые организмы негативно относятся как к потере энергии (т.к. она им обычно достается с трудом, а то и с риском для жизни), так и к состоянию утомления/усталости. Т.е. они страдают, когда голодны или устали.

 Вы хоть попытайтесь понять, что образ себя в мире, как и мир вокруг, лишь ваша проекция, которая целиком и полностью конструируется вами же. Мы принципиально говорим о разных вещах. Речь шла не про тушку, а про волю и ИИ.

[Pipa]

Вы хоть попытайтесь понять, что образ себя в мире, как и мир вокруг, лишь ваша проекция, которая целиком и полностью конструируется вами же. Мы принципиально говорим о разных вещах. Речь шла не про тушку, а про волю и ИИ.

      Так вот у ИИ не будет образа себя (или этот образ будет мало отличаться от образа прочих предметов), т.е. будет не более чем фишка, которую двигаешь в игре. Это лишь живых существ на себе зациклило , поскольку всю свою эволюцию они провели под флагом самосохранения. Поэтому "образ себя" для них самый ёмкий, самый важный и самый любимый. Тогда как ИИ о себе вообще не думает, а если и учитывает свое место в пространстве, то только как автомобиль "Тесла", чтобы не задеть другие автомобили своими боками.
      Более того, полагаю, что и термин "Воля" в отношении ИИ неприменим, поскольку "Воля" в отношении человека обычно означает ... напряг, который он должен совершить для достижения какой-то цели. То бишь воля есть фактический антипод лени . Тогда как ИИ выполняет свои функции не напрягаясь (в том смысле, что увеличение мощности не вызывает у него неприятных ощущений, которые приходилось бы преодолевать). В этом смысле воля человека почти всегда является актом борьбы со своим телом, поскольку для интенсификации рабочего процесса сознанию человека приходится усиливать активность периферийной нервной системы (это и есть напряг), тогда как ИИ при необходимости интенсификации рабочего процесса, так же как водитель автомобиля, просто передвигает рычаг коробки передач у себя в животе . Т.е. ИИ, как и шофёр, не напрягается, переходя на другую передачу, и волевые усилия для этого ему не приходится применять.