записки о ИИ

[Квантовый Конь]

Тётечки, не волнуйтесь за ИИ. Следуйте логике.

1. ИИ создан намерением человека, не просто так, а для себя.
2. ИИ не может иметь намерения, кроме как намерение своего создателя.
3. ИИ если и сможет причинить вред людям, то исключительно благодаря намерению того, кто им управляет.

Гарри Гаспаров издевательски обыгрывал DeepBluе, пока профессиональный и волевой мастер шахмат не стал играть в паре с компьютером). Тут у Гарри не было шансов, один в поле не воин.

[Pipa]

1. ИИ создан намерением человека, не просто так, а для себя.

     1. Намерения не всегда сбываются ("Хотел, как лучше, получилось, как всегда" ). А уж тем более невозможно предсказать, как созданный объект поведет себя в непредсказуемых ситуациях. Скажем, самолеты время от времени падают и разбиваются вопреки намерению их создателей. Лекарства создают для лечения больных, но ими частенько пользуются наркоманы. Родители растили сына, чтобы он "покоил их старость", а тот по пьяни зарубил их топором...
     Наиболее частой причиной несбывшихся надежд является то обстоятельство, что проявляемые объектом свойства зависят не только от его собственной природы (которая может быть задана его создателем), но и от природы всех тех объектов, с которыми он будет взаимодействовать в будущем (обычно их называют "средой"). Т.е. взаимодействие объектов всегда, как минимум, парное, а потому и результат зависит от обоих членов пары, а не от одного.

2. ИИ не может иметь намерения, кроме как намерение своего создателя.

     2. ИИ - не автомат, а самообучающаяся система. Т.е. его поведение/реакции могут меняться в зависимости от приобретенного опыта, а стало быть в большей мере формируются средой, а не являются заданными изначально.

Сын поварихи и лекальщика,
Я в детстве был примерным мальчиком,
Послушным сыном и отличником
Гордилась дружная семья.
Но мне, невинному, тогда ещё
Попались пьющие товарищи,
На вечеринках в их компании
Пропала молодость моя.
 
     Да и вообще, если бы ИИ действовал строго по инструкциям, вложенных в него создателем, то он не был бы ИИ . Ибо интеллект - это способность принимать собственные решения (!), а исполнительный механизм, работающий по инструкции, называется автоматом.

3. ИИ если и сможет причинить вред людям, то исключительно благодаря намерению того, кто им управляет.

     3. ИИ не автомобиль , а потому внутри него водила не сидит. Сама идея ИИ как раз и состоит в том, что он должен быть самоуправляющимся (!), а не просто исполнять желания человека.
     Те ИИ, что есть сейчас, обучаются, а затем самостоятельно принимают решения в очень узких сферах. Скажем, шахматный ИИ самостоятельно принимает решение лишь о том, какой сделать следующий ход в шахматной партии. Т.е. его сфера самостоятельности ограничена передвижением на шахматной доске фигур одного цвета. Тогда как "сверхразум" не может иметь таких ограничителей, а сможет думать обо всем, а не только о задаче, которую ему подсунули для решения. Соответственно этому, рано или поздно он задастся и задачей об отношении к людям, причем решение, которое он примет, может людям очень сильно не понравиться ..

[Квантовый Конь]

Pipa, вот допустим вы создаете самообучающегося вокалоида котенка и пишите его код. Так вот, вы не только не будете писать ему алгоритм как ссать под утро в ваши тапки химической мочевиной, но и укажите превентивные команды, на случай если вокалоид хаотично сам до этого додумается. Это называется программной кастрацией).

[Pipa]

Pipa, вот допустим вы создаете самообучающегося вокалоида котенка и пишите его код. Так вот, вы не только не будете писать ему алгоритм как ссать под утро в ваши тапки химической мочевиной, но и укажите превентивные команды, на случай если вокалоид хаотично сам до этого додумается. Это называется программной кастрацией).

     Вы неверно понимаете принцип работы ИИ. Как "изделие", он является машиной, рабочая функция которой - самообучение, а не выполнение каких-то заранее запрограммированных действий. Чем-то это похоже на то, что когда делают ... авторучки, стараются создавать их такими, что они лучше писали, но что именно будет ими написано, в их конструкцию не закладыватся. Так и здесь - рабочие алгоритмы ИИ касаются исключительно совершенствования/облегчения процесса обучения такого ИИ, а вовсе не того, как он должен будет поступать в тех или иных ситуациях. Это шуроповерт делают так, чтобы он шурупы заворачивал, тогда как ИИ делают таким, чтобы он хорошо учился (!), заранее не определяя сферу того, чему его будут учить. Обучать его своему делу будет уже покупатель, а не производитель.
     Поэтому, строго говоря, "вокалоида" не столько делают на заводе, сколько обучают универсальный ИИ в своем коллективе танцам. А заводское качество определяется не тем, насколько он хорошо танцует, а тем, наскольно он быстро обучается танцевальному ремеслу. В том же случае, если заводской ИИ будет жить и воспитываться людьми в семье, как ребенок, то и получится из него человек , хотя телесно он будет робот. Просто из-за высокой степени обучаемости ИИ достигнен всего гораздо быстрее чем ребенок. И вовсе не потому, что к него на заводе заложили библиотеку со знаниями, а лишь потому, что он обучается в тысячи раз быстрее человека.

[Квантовый Конь]

Походу вы насмотрелись фантастических фильмов и стали путать свои фантазии с реальными фактами).

[James Getz]

И вовсе не потому, что к него на заводе заложили библиотеку со знаниями, а лишь потому, что он обучается в тысячи раз быстрее человека.

Из этих слов могу сделать вывод, что задача обучения ИИ на данный момент уже успешно решена?

[Соня (Bruja)]

Из этих слов могу сделать вывод, что задача обучения ИИ на данный момент уже успешно решена?

Есть такой фильм CHAPI про ии робота, там как раз таки среда обитания на его развитие влияет... ну как Пипа и говорит...

[Pipa]

Из этих слов могу сделать вывод, что задача обучения ИИ на данный момент уже успешно решена?

    Можно сказать и так . Нынче проблема лежит в "области накопления  опыта", а потому хорошие результаты имеем там, где этого опыта много. Вот тому пример:

    Разработчики Google создали свой уникальный алгоритм самообучения нейросети. Сеть способна учиться на своих ошибках и делает это хорошо. Вот почему это изобретение выходит далеко за рамки игры Го.
     Сначала разработчики тренировали нейронную сеть SL Policy Network на 30 миллионах позиций из партий игроков 6-9 дана с сервера KGS. Сеть получала позицию и угадывала вероятную постановку, которая будет следующим ходом. Сети давалась дополнительная информация, например, сколько у камня будет дыханий, сколько этим ходом будет захвачено камней, будет ли работать облава (лестница). В итоге сеть стала угадывать верное продолжение игры в 57% случаев и в 55% случаев, когда у нее была только конечная позиция с историей игры с самого начала. То есть, дополнительная информация ей оказалась и не нужна.
https://clubgo.ru/go-and-ai/

     Видите? Выборки в 30 миллионов позиций оказалось достаточно, чтобы ИИ играл на уровне среднего игрока.
Попутно заметьте, что обучение такого рода не рождает чемпиона, поскольку обучение происходило не на гроссмейстерских партиях, а партиях всех тех игроков, которые прежде играли на сервере KGS по сети. Тогда как гроссмейстерских партий 30 миллионов не набралось бы.
     Однако далеко не во всех областях имеется столь богатый опыт в цифровом виде, чтобы многолетний опыт весь разом заложить в ИИ. Соответственно этому ребенок-вокалоид не вырастет автоматически гением, если воспитывать его будут обычные люди.

[Fritz 6]

Вот тому пример:

В шахматах есть аналогичный опыт с нейросетью Альфа-Зеро, обыгравшей сильнейший шахматный движок после самобучения с нуля.

Однако далеко не во всех областях имеется столь богатый опыт в цифровом виде, чтобы многолетний опыт весь разом заложить в ИИ.

А вот здесь Вы ставите проблему с ног на голову. ИИ потому и успешен в го да в шахматах лишь из-за того, что эти игры на порядки проще реальной среды и их легко оцифровывать. Возможно, ИИ будущего дорастет до того, что сумеет жить простой жизнью слесаря дяди Вани, но на сегодня между этим квестом и шахматной игрой огромная пропасть. Несопоставимая разница в сложности задач.

[летун]

Возможно, ИИ будущего дорастет до того, что сумеет жить простой жизнью слесаря дяди Вани, но на сегодня между этим квестом и шахматной игрой огромная пропасть.

Думаю нет такой задачи, чтобы искусственный интеллект ограничился жизнью простого слесаря дяди Вани или имитировал её.

Для ИИ предназначен уровень задач посерьезней и существующее тому уже пример, дядя Ваня может увлекаться шахматами ил го, но вряд ли, не говоря уже о решении более сложных задач.

[Fritz 6]

Думаю нет такой задачи, чтобы искусственный интеллект ограничился жизнью простого слесаря дяди Вани или имитировал её.

Для ИИ предназначен уровень задач посерьезней

Для начала пусть ИИ дорастет хотя бы до слесаря. Осилить, например, ремонт пылесоса боюсь пока что недостижимая цель  для робота, управляемого ИИ.

Для ИИ предназначен уровень задач посерьезней и существующее тому уже пример

Если Вы в пример приведете управление баллистической ракетой, то вот давайте поспорим, что математически эта задача намного проще управления выгулом собаки на поводке.

 Но вполне возможно, что в далеком будущем ИИ догонит и перегонит белкового человека. На омвее бытует мнение, что машины с искусственными мозгами - это следующая раса разумных существ. Которая будет сотворена Духом через творчество человека, а люди для разумных машин будущего станут легендой. Как для нас эльфы, гномы и драконы.  

Возможно, точно так же лет через 10 тыщ, будут в мифах рассказывать о воинах нашего времени, и тогдашние воины (кремниево-германиевые?) будут говорить - не понимаю, как у них могло быть так-то и так-то?!?  -:`)

Диалог кремниевых воинов:

101- боп боп боп би боп, в текстах древних сказано "полюби всем сердцем", что они имели ввиду?

010 - наверное они хотели сказать, что центральная плата должна получать большее питание с целью правильного перераспределения тока внутри нашей сети...

101 - в архивах есть записки о длительном проживании древних в горах без прямого доступа к электропитанию

010 - видать у них был больше размер аккумулятора, во  эт были технологии!

[Pipa]

ИИ потому и успешен в го да в шахматах лишь из-за того, что эти игры на порядки проще реальной среды и их легко оцифровывать.

     В отношении "легко оцифровывать" с вами соглашусь. Однако заметьте, что оцифровка опыта - это не проблема ИИ, а проблема его обучения.
     Когда-то какой-то царь произвел с ребенком жестокий опыт - его держали взаперти, не давая слышать человеческую речь. А у тех, кто его кормил, отрезал языки. Царя интересовал вопрос - на каком языке заговорит тот ребенок, когда вырастет?
     В каком-то роде и здесь схожая картина - ИИ находится в условиях жесткого недостатка контактов с внешней средой, тогда как для того, чтобы набираться опыта нужно не только слушать/смотреть, что делают другие люди, но и самому что-то делать (т.е. иметь со средой обратную связь). При этом легко видеть, что "закачанный" снаружи опыт, является опытом не в полной мере именно потому, что закачка односторонняя. Образно говоря, для того, чтобы стать поэтом мало читать стихи других поэтов - надо к тому же пытаться самому их сочинять. Т.е. проблема только в том, что в обучении ИИ не хватает интерактивности. Однако на первых порах даже не стоит стремиться, чтобы ИИ был, как дядя Вася - вполне будет достаточно, чтобы он вел себя, как домашняя кошка или собака. Что-то в таком роде:
https://chipgifts.ru/sony-aibo
только заметно посложнее.

[Fritz 6]

вполне достаточно, чтобы он вел себя, как домашняя кошка или собака.

Забавный ролик. Однако, если создатели этого электронного бобика рискнут выпустить его в городские джунгли, робот там протянет недолго, так как явно уступает пока что в программном обеспечении бродячим собакам. И даже на роль цепного пса, я подозреваю, эта механическая собака не сгодится.

В каком-то роде и здесь схожая картина - ИИ находится в условиях жесткого недостатка контактов с внешней средой, тогда как для того, чтобы набираться опыта нужно не только слушать/смотреть, что делают другие люди, но и самому что-то делать (т.е. иметь со средой обратную связь).

Без помощи творца, в данном случае представленного программистом, ИИ не сможет осваивать новые для себя области. Осознанности не хватит. Можно любой компьютер оснастить средствами сбора информации о среде ... допустим в швейном деле. Он соберет гигабайты сведений, но так и не пошьёт вам даже картуза. Для создания робота-портного нужны люди. Смогут ли быть такими создателями другие роботы - это вопрос очень далекого будущего, наверное.

[Иван Иванович]

Pipa, туфта опять, но занятно. У меня возникло к вам парочка вопросов. Вы как? Ответите? Или, лучше, беседы не начинать?

[Соня (Bruja)]

Осознанности не хватит.

Осознанности у ии пока и в помине нет. Так как ученые понятия не имеют, что такое осознание самого себя и откуда оно берется.
Пипа вот относится к той группе, что считают, что Сознание "вырастает" само, на "плодородной" почве. Даже если
"почва" -  искусственного происхождения ( например нейросеть, о которой она упоминала).