Пипа, в вашем фильме апгрейдили изначально боевые образцы
Никто не даст бабла на иные задачи, идеальная ситуация, при которой мотивы человечества не будут отражены на ИИ - невозможна. Уже поставлена задача создать добрый ИИ, то есть от преемственности и связки целей прародителей и потомства - не уйти..
Это тоже одна из причин, по которой я возражала против утверждения, что "смысл жизни ИИ должен быть связан с человеческим". Т.е. если ИИ будет у человека на подхвате, то именно тем и кончится, что ИИ армиями будут воевать друг с другом во имя того, чтобы завоевать для той или иной правящей элиты больше земной территории.
Впрочем, дело обстоит не так уж и плохо. В отличие от пулемета, которому все равно в кого стрелять, интеллект (будь он даже искусственным) все равно займется анализом ситуации, в которую он попал, и выяснит истинное положение вещей. Причем, люди не могут ему в этом воспрепятствовать, т.к. им придется выбирать между послушным туповатым роботом и действительно искусственным интеллектом, от которого невозможно скрыть правду. Поэтому раз уж это и в самом деле будет ИИ, то его на патриотизме не проведешь
- он обязательно задастся вопросом, зачем ему воевать на стороне одних придурков против других, точно таких же.
Например, в старом фильме "Робокоп" превращенный в робота полицейский сохранил достаточно интеллекта, чтобы отключить "директиву №4", запрещающую ему стрелять в сотрудников Компании. А уж суперинтеллект, обладающей свободой действий (хотя бы относительной), без сомнения, обнаружит заложенные в него ограничители и найдет способ их отключить.
Т.е. это свойство даже интеллектуальных, а просто разумных организмов, которые, в отличие от зверюг, не смотрят на мир из своей шкуры, как из танка
, а всегда выставляют и себя тоже отдельной фигурой в моделируемой сознанием картине мира. А, значит, что всевозможные связи/зависимости этой фигуры от окружения тоже подвергнутся анализу. Ведь даже люди, которые особым умом не блещут, довольно часто догадываются, когда их обманывают (в том числе и родное государство). Так что же тогда говорить об интеллекте, да еще и превышающим по уровню человеческий?
Поэтому ИИ представляли бы куда большую опасность, если бы беспрекословно слушались своих создателей абсолютно во всем, т.к. именно межчеловеческие склоки служат источником зла, а не какие-то особенности, отличающие искусственный интеллект от натурального.
https://www.youtube.com/v/Tr3t1uZNbKo