Тоту выложил в своей закрытой теме пост, взятый с КП, а там он был взят в свою очередь, видимо, с ФШ аж 2010 году
Ни у Тоту, ни в КП, ни на ФШ почти ни у кого нет возможности его обсудить. Поэтому процитирую здесь
http://quantmag.ppole.ru/forum/index.php?topic=274.msg34025#msg34025Восхождение к интеллекту
Опыт эволюционно-иерархической классификации
Александр БОЛДАЧЕВ
В предлагаемом тексте рассматривается вариант эволюционно-иерархической классификации автономных автоматических устройств, к которым, прежде всего, можно отнести живые организмы – от простейших до человека. Однако чтобы абстрагироваться от множества функций биологического организма и акцентировать внимание лишь на общих принципах его взаимодействия со средой, а также, чтобы не ограничивать классификацию только живыми системами в статье используется термин «устройство» вместо «организм».
В основу рассуждений положена в значительной степени упрощенная схема поведения живого организма: он представляется как устройство, взаимодействие которого со средой, задается заложенным в него набором алгоритмов. Под алгоритмом понимается существующая (сохраненная, зафиксированная) схема поведения устройства, которая может быть им однозначно и многократно реализована в виде конкретных действий. Причины «запуска» (применения) того или иного алгоритма – внешние ли воздействия или внутреннее целеполагание – не рассматриваются. Но даже при таком, казалось бы, обедненном подходе, удалось построить в достаточной степени эвристически продуктивную классификацию.
Следует также обратить внимание, что предлагаемый текст следует рассматривать как философский, и ни в коем случае не относить его к специальным дисциплинам (кибернетике, теории автоматов, нейрофизиологии и др.). Он не более чем последовательность логических построений с использованием нескольких категорий.
За отправную точку восхождения по иерархической лестнице принято элементарное устройство, однозначно, не вариативно взаимодействующее со средой – элементарное устройство.
Элементарное устройство
Алгоритм функционирования (поведения) элементарных устройств закладывается, фиксируется при их проектировании (рождении) и не изменяется в ходе функционирования. Адаптация элементарных устройств к окружающей среде осуществляется только единовременной модификацией полного набора алгоритмов при их создании (рождении) и отбором наиболее «адекватных» устройств с закреплением (передачей по наследству) удачных решений. Следовательно, для приспособления к изменениям среды элементарных устройств необходимо их постоянное воспроизводство с вариацией набора алгоритмов.
Резонно предположить, что некогда эффективные (то есть ранее прошедшие отбор), но со временем замененные новыми, алгоритмы не «стираются», а сохраняются. Такое накопление «готовых» алгоритмов, в дальнейшем позволяет популяции в более короткие сроки и более эффективно приспосабливаться к изменяющимся условиям – не «дожидаясь» случайных удачных модификаций, а используя заведомо работоспособные алгоритмы и их комбинации.
Важным следствием накопления алгоритмов, и первым шагом в преодолении однозначности функционирования элементарных устройств, является последовательное применение ими нескольких различных алгоритмов в однотипных условиях. Даже случайное чередование устройством двух или более алгоритмов для решения какой-либо задачи значительно повышает вероятность достижения положительного результата. Однако понятно, что элементарные устройства не обладают механизмом выделения наиболее эффективного алгоритма в ходе функционирования (жизни) – закрепление удачных сочетаний алгоритмов реализуется лишь отбором их полного комплекса.
Адаптирующиеся устройства
Если для элементарных устройств эффективность применения алгоритмов оценивается лишь в результате выживания одних и вымирания других, и приспособление достигается только через многие поколения, то для более сложных устройств, накопивших избыточный набор алгоритмов, появилась реальная возможность (и необходимость) оценивать результаты действия алгоритмов в ходе самого функционирования. Механизм этой оценки реализовался в виде комплекса дополнительных алгоритмов, который можно назвать эмоциональными. Алгоритмы эмоций, в отличие от алгоритмов действий, непосредственно не связаны с обеспечением конкретных функций устройства. Основная их задача – инициировать некоторые изменения в устройстве, которые позволяли бы оценивать успешность алгоритмов действий непосредственно в ходе их выполнения (или сразу после), то есть вызывать отрицательные или положительные «эмоции».
Накопление избыточного числа алгоритмов действий, а также появление оценивающих их результативность алгоритмов эмоций, создало основу для формирования устройств нового типа, которые можно назвать адаптирующимся. Основным отличием адаптирующегося устройства от элементарного является его способность закреплять применение наиболее результативных алгоритмов при изменении условий среды. Следовательно, приспособление устройств реализуется уже не через поколения, а непосредственно в процессе их функционирования (жизни).
Приспособление адаптивного устройства происходит также случайным образом – методом проб и ошибок, но выбор производится не из вариантов полных наборов алгоритмов, а между несколькими алгоритмами.
Если переход от элементарного устройства к адаптирующемуся был вызван внутренней дифференциацией устройства, связанной с накоплением избыточного числа алгоритмов, то следующий иерархический скачек вызван уже внешней нетождественностью адаптирующегося устройства самому себе. Изменение адаптирующегося устройства в течение его функционирования (жизни) вызывает необходимость при оценке результатов применения алгоритмов включать самого себя в качестве одного из элементов среды, что дает импульс к формированию устройства следующего типа – сознательного устройства.
Сознательные устройства
Принципиальным отличием сознательного устройства от адаптирующегося является его способность к априорному (до выполнения действий) выбору одного из имеющихся алгоритмов поведения. Это стало возможным благодаря регулярным повторениям адаптирующимися устройствами процесса выбора лучшего из возможных вариантов действий. В результате механизм этого выбора закрепился в виде дополнительного алгоритма – алгоритма сознания, как бы надстроенного над алгоритмами поведения. В отличие от алгоритмов эмоций, которые оценивают результат действий, механизм сознания включается до выполнения алгоритмов внешних действий.
Сознательная оценка наиболее подходящего алгоритма поведения до выполнения самого действия позволяет значительно быстрее, в реальном масштабе времени, а не методом проб и ошибок, реагировать на изменения среды. Но наличие алгоритма сознания не устраняет вероятностный момент в функционировании устройства – просто перебор из внешней сферы перешел во внутреннюю.
Как уже отмечалось, формирование сознания, является непосредственным следствием различенности адаптирующегося устройства во времени, не тождественности его самому себе в различные моменты функционирования. Можно сказать, что алгоритм сознания восстанавливает временнУю целостность устройства – при частой смене алгоритмов поведения именно сознание фиксирует его идентичность.
При обсуждении проблемы адаптации принято вводить понятие «модель среды». В общем случае модель рассматривается как некоторый заместитель (внутренний заменитель) окружающего мира, позволяющий устройству адекватно реагировать на внешние воздействия. Однако при таком подходе можно констатировать, что модель среды устройств уровней, предшествующих сознательному, совпадает, абсолютно тождественна набору их алгоритмов. Буквально – внешний мир для элементарных и адаптирующихся устройств состоит лишь из того, на что они могут реагировать и на что они могут воздействовать, то есть из элементов алгоритмов их функционирования (банально – модель мира сливного бачка состоит лишь из уровня воды и события нажатия на ручку слива). Только после различения устройством себя от себя, выделения себя в качестве элемента среды и, вследствие формирования алгоритма сознания, происходит отделение модели среды от комплекса алгоритмов действий. Но, по сути, эта новая модель, включающая в себя само устройство в качестве элемента среды, является ничем иным, чем просто набором алгоритмов, составляющих механизм сознания.
Именно это, уже не внешнее, а внутренне и не разнесенное во времени, а единомоментное отличение устройства самого от себя, различение в себе двух типов алгоритмов – двух моделей среды создает новые возможность адаптации устройств к изменениям внешней среды.
С одной стороны, (1) наличие механизма сознания не только позволяет производить априорную оценку эффективности алгоритмов имеющегося набора, но создает реальную возможность генерации принципиально новых, не заложенных при его создании (рождении) алгоритмов поведения. Новые алгоритмы строятся как комбинации имеющихся и фиксируются при признании их сознанием полезными.
С другой стороны, (2) отделение модели внешнего мира, формируемой в сознании, от активно-реактивной модели (модели действий и реакций), приводит к возможности и необходимости оценки сознательным устройством самого себя уже не только в качестве (а) элемента внешней среды, а также и как (б) элемента сознательной модели оной. Такое внутреннее разделение устройством себя на (а) реальное и (б) идеальное приводит и к отличению себя и от однотипных устройств (сородичей), что, безусловно, открывает еще один канал пополнения состава алгоритмов непосредственно в ходе функционирования (жизни) устройств – подражание, перенимание алгоритмов.
Итак, совершенствование сознательного устройства с закономерностью приводит к формированию новых механизмов генерации и передачи алгоритмов, что с жесткой необходимостью требует появления нового механизма их сохранения, а, следовательно, становления принципиально нового уровня организации устройств и их комплексов.
Разумные устройства
Для фиксации непрерывно растущего потока новых алгоритмов, генерируемых в ходе функционирования сознательных устройств, прежний, наследственный способ закрепления алгоритмов (как алгоритмов действий, так и алгоритмов сознания, то есть алгоритмов априорной оценки алгоритмов действий) стал принципиально неприменим. Закономерным следующим шагом в развитии способов оперирования алгоритмами явилось формирование механизмов (1) сохранения алгоритмов вне исполняющих устройств и (2) внешнего «встраивания» этих алгоритмов в новые устройства. Тип устройств, обладающих такими способностями возможно называть разумными, а форму накопления (сохранения) и распределения (передачи) алгоритмов – культурой, основным элементом которой изначально становится язык.
Можно выделить несколько принципиальных отличий разумных устройств от сознательных.
(1) Набор алгоритмов, которым может оперировать разумное устройство, не задается при его создании (рождении). Для формирования полноценного разумного устройства необходим процесс «загрузки» алгоритмов, называемый обучением.
(2) Разумное устройство может не только априорно выбирать наиболее эффективный алгоритм из имеющихся, но и пополнять сам набор алгоритмов из их полного спектра, представленного во внешней ему культуре.
(3) Разумное устройство способно фиксировать созданные им алгоритмы вне себя – в элементах культуры.
Учитывая перечисленные особенности, прежде всего, следует сделать вывод, что разумное устройство – это принципиально социальное (коллективное) устройство. Для его формирования и функционирования необходима некоторая среда разумных устройств носителей культуры – социум. Следовательно, в отличие от характеристик устройств низших уровней (таких как адаптивность, сознательность), разумность – это сугубо социальное, системное понятие. Если ранее тип устройства задавался «от рождения», и множественность устройств была необходима преимущественно для обеспечения вариативности алгоритмов и отбора наиболее эффективных из них, то для разумного устройства его включенность в социум является необходимым условием, определяющим его как таковое. Разумность устройства это не имманентная изначальная его характеристика, разумным оно становится только в социуме.
Фактически, само разумное поведение не отличается от адаптивного поведения устройств ранних уровней, так как в конкретный момент действия не имеет значения способ (предыстория) формирования алгоритма – генетический, сознательный или социальный. Существенное отличие разумного устройства заключается в том, что оно может в ходе функционирования менять и дополнять набор алгоритмов, а также фиксировать новые алгоритмы вне себя.
Скорость приспособления разумных устройств к среде значительно выше, чем устройств предыдущих уровней. Обеспечивается эта скорость в основном за счет формирования горизонтальных (вневременных) связей между устройствами. То есть, если изменение принципов взаимодействия со средой доразумных устройств требует множества поколений, так как им доступен лишь наследственный (вертикальный, разнесенный во времени) способ передачи и сохранения алгоритмов, то на разумном уровне новые эффективные алгоритмы становятся доступны для каждого устройства практически мгновенно, по крайней мере, в течение жизни одного поколения.
Изначальная незапрограммированность разумного устройства, с одной стороны, и лавинообразный рост фиксируемых в культуре новых алгоритмов, с другой, закономерно привели к специализации устройств. То есть в период обучения разумные устройства могут получать разные комплексы алгоритмов и, следовательно, значительно отличаться друг от друга по функционированию. (Дифференциация устройств по набору алгоритмов функционирования наблюдается и на предыдущих иерархических уровнях – половое и другие типы внутривидового разделения у животных, но она строго фиксировалась в момент создания и уже не могла изменяться в ходе функционирования). Необходимость внешней дифференциации разумных устройств является следствием, как (1) ограниченных возможностей единичных устройств воспринять весь комплекс накопленных в культуре алгоритмов, так и (2) потребностями функционирования социума как целого.
Пока речь шла о доразумных уровнях, можно было обойтись без применения понятия «программа». Полный набор алгоритмов единичного устройства составлял единственную неизменную программу его функционирования. Формирование внутрисоциумной дифференциации устройств, их специализации требуют различения отдельных комплексов алгоритмов, которые возможно фиксировать как разнообразные программы. Кроме того, что различные разумные устройства, как уже отмечалось, могут обладать различными программами, они могут также активно оперировать несколькими практически независимыми программами (профессиональными и пр.) и пополнять их состав в процессе функционирования. Способность к «загрузке» множества программ и к сознательному переключению с одной программы на другую в зависимости от изменившихся условий также является существенным отличием разумных устройств от сознательных.
Следует обратить внимание, что введение понятия «программа» целесообразно лишь при констатации независимости программ от самих устройств, их принадлежности к культуре, а не индивидууму. Хотя все программы, как конкретные наборы алгоритмов, функционально реализуется лишь конкретными единичными устройствами, но (1) по своему происхождению, (2) по различенности от других комплексов алгоритмов, (3) по способу фиксации (хранения) они носят сугубо социальный, общекультурный характер. Поэтому правильнее было бы их называть социальными программами.
Из всех социальных программ наиболее важной, требующей первоочередной «загрузки» в устройства при их обучении, является универсальная социальная программа – язык. В отличие от прикладных программ, то есть программ реализующих непосредственное функционирование разумных устройств, язык определяет, задает функционирование социума как целого. Он непосредственно обеспечивает как сохранение новых алгоритмов, так и «загрузку» их в устройства. Практически, язык в социуме разумных устройств выполняет функцию сознания (алгоритма управления алгоритмами), фиксирует самоидентичность социума.
Точно так же, как наличие надалгоритма и внутренней различенность сознательных устройств привело к переходу на новый уровень организации, так и развитие разумного социума в сторону дифференциации культуры на множество социальных программ и формирования единой надпрограммы (языка) с закономерностью приводит к возможности и необходимости нового эволюционного скачка – появлению устройств интеллектуального типа.
Интеллектуальные устройства
Сущностью и результатом разумного этапа развития стало: (1) отделение алгоритмов от самих устройств, (2) интеграция алгоритмов в комплексы – программы, (3) дифференциация программ с одновременным формированием единой надпрограммы – языка. Все это, по сути, является констатацией факта появления новой реальности, новой среды, второго пространства существования единичных разумных устройств – культуры. Закономерным следствием формирования новой реальности стало появление специализированных программ, ориентированных уже не на адаптацию устройств к среде, а на оперирование элементами культурного пространства. Такие программы и разумные устройства, способные функционировать по этим программа, можно назвать интеллектуальными.
Основным результатом функционирования интеллектуального устройство является не его адаптация к среде (как для устройств предыдущих уровней), а новые социальные программы. Если и можно говорить об адаптационной роли интеллектуальных программ, то лишь относя ее ко всему социуму, а не к конкретному интеллектуальному устройству.
Хотя разумное устройство и может фиксировать, сохранять сгенерированные им новые алгоритмы, делая их доступными для других устройств, но эта способность к производству новых алгоритмов не является его необходимой характеристикой. В отличие от этого, производство новых социальных программ – это единственная и определяющая функция интеллектуальных устройств.
Следует обратить внимание на то, что интеллектуальные устройства являются таковыми лишь операционно, то есть в момент «работы» интеллектуальной программы. В другие периоды своего функционирования, интеллектуальность устройств не проявляется в явном виде – они взаимодействует со средой исходя из имеющегося набора разумных и других адаптационных программ. Следовательно, интеллектуальность – это в большей степени характеристика специализированной социальной программы, а не самого устройства, ее выполняющего. Поэтому корректнее было бы вообще говорить не об интеллектуальных устройствах, а об интеллектуальной деятельности разумных устройств.
Более того, поскольку функционирование по интеллектуальной программе не имеет прямого отношения к адаптации (эффективному приспособлению к среде) единичного устройства, то интеллектуальная программа носит социальный (общесистемный) статус не только по своему происхождению (как другие социальные программы), но по своей сути. Интеллектуальные программы не являются индивидуальными ни (1) по своему содержанию (не направлены на адаптацию конкретного устройства), ни (2) по объему – единичные устройства в процессе интеллектуальной деятельности способны «загрузить» и отработать лишь некоторую часть какой-либо из интеллектуальных программ. То есть, можно сказать, что интеллектуальные программы отрываются от конкретных устройств не только по своему происхождению, способам фиксации и передачи (как разумные программы), но и по своей сути, постепенно оформляясь в новые самодостаточные объекты реальности, развивающийся по своим законом (к примеру, таковыми являются религиозные, научные системы). Индивидуальные разумные устройства, становящиеся на время интеллектуальными, лишь реализуют, подпитывают это развитие, являясь необходимым, но уже вторичными, вспомогательными элементами. (Вопрос классификации интеллектуальных программ заслуживает отдельного разговора.)
В заключении представлены краткие характеристики устройств выделенных эволюционно-иерархических уровней.
Элементарное устройство действует согласно заложенному в момент создания (рождения) алгоритму (набору алгоритмов).
Адаптирующееся устройство способно производить отбор наиболее эффективных алгоритмов из избыточного предзаданного набора методом статистической оценки результатов их реального действия.
Сознательное устройство выполняет априорную (без реального применения) оценку успешности применения имеющихся алгоритмов.
Разумное устройство функционирует согласно внешним (загруженным в процессе обучения) программам – комплексам алгоритмов, способно фиксировать новые алгоритмы вне себя в виде элементов культуры, производит выбор и смену различных программ.
Интеллектуальное устройство генерирует новые программы.
Выводы
Предложенная эволюционно-иерархическая классификация устройств (организмов) дает вполне однозначные критерии распознавания их. Хотя, конечно, между выделенными уровнями нет четкой границы. Например, разумное устройство без «загрузки в него» социальных программ является лишь сознательным устройством, а интеллектуальное устройство вне интеллектуальной деятельности (то есть вне процесса создания новых программ) является обычным разумным устройством и по своей «разумности» и даже «адаптивности» может сильно уступать другим (не интеллектуальным) устройствам (к примеру, пресловутый рассеянный профессор).
Данную иерархическую классификацию условных устройств можно воспринимать как гипотетическую, лишь косвенно отражающую реальный процесс эволюции нервной деятельности живых организмов. Но, наверное, именно эта абстрагированность от реальных систем дает возможность более свободно, не углубляясь в частности, осознать, понять объективную закономерность эволюционного становления высшей нервной деятельности.
В тексте не использовались такие понятия как безусловный и условный рефлексы, отражение, опережающее отражение и другие из традиционного арсенала работ, затрагивающих вопросы поведения живых организмов и их адаптации к внешней среде. Сделано это сознательно, но ни в малейшей степени не с целью умаления их значения и научной целесообразности. Причин такого подхода несколько. Во-первых, чтобы не вызывать дополнительных терминологических споров. Во-вторых, чтобы подчеркнут, возможность и необходимость реализовывать множество практически независимых подходов к анализу научных проблем, каждый из которых, дополняя (расширяя, углубляя) понимание предмета не может претендовать на полноту описания. В-третьих, это оставляет читателю простор для ассоциаций и аналогий. И, конечно, чтобы акцентировать внимание на том, что это философский, а не специально-научный текст.
Однако главный результат работы – это, конечно, сама предложенная классификация. Она дает реальную возможность более продуктивного, терминологически строго обсуждать как проблемы адаптивного поведения животных и его отличия от разумной деятельности человека, так и проблемы, связанные с созданием искусственных адаптивных и интеллектуальных систем. Наиболее понятийно ценное в этой классификации – это, конечно, сам принцип выделения иерархических уровней, а не слова, которыми они названы. (Изначально даже планировалось применить тактических ход и не использовать при введении уровней никаких терминов, а просто пронумеровать их: устройство №1, устройство №2 и т.д., и лишь впоследствии сопоставить уровням имеющиеся в научном обиходе категории. Хотя это и не сделано, но для тех, кто не согласен с применением терминов, наверное, будет интересно перечитать текст, заменив название уровней произвольными обозначениями.)
http://n-t.ru/tp/ng/vi.htm