Устройство управляющей системы как модели нервной системы. Такое устройство вынужденно вытекает из принятых нами в качестве исходных условий четырех свойств нервной системы.

В биологических нейронах входные сигналы — нервные импульсы — поступают к нейрону (1) через контакты-синапсы, расположенные на отростках-дендритах (2), число которых может достигать тысячи.

Схема нейрона, используемого в традиционных нейросетях.

Модель нейрона, разработанная для метода автономного адаптивного управления.

Прежде чем приступать к конструированию модели нервной системы, необходимо наложить ряд ограничений на нашу будущую модель.

Конструктор, разрабатывающий какую-либо систему, всегда ограничен «исходными условиями». Его задача — построить систему так, чтобы она была для них оптимальна. Поэтому при одинаковых исходных условиях два конструктора часто независимо друг от друга приходят к одному и тому же результату. Посмотрите, например, как сегодня похожи друг на друга хорошие автомобили разных марок — даже их форма вынужденно диктуется аэродинамикой.

Природа, создавшая нервные системы, во многом подобна конструктору. Если мы правильно угадаем «исходные условия» и цели, стоявшие перед нею, а потом учтем их в своих разработках, то вынуждены будем получить аналогичный результат.

Примем в качестве «исходных условий» для нашей модели ряд свойств нервной системы, оговорившись сразу, что они носят приближенный характер.

1. Автономность.

Задача нервной системы — управлять организмом. Условие автономности означает то, что нервная система должна самостоятельно, без подсказок извне, находить способ управления. При этом нервная система заключена внутри организма и может взаимодействовать с окружающей средой лишь посредством рецепторов и эффекторов (исполняющих органов).

Заметим, что, даже если у нервной системы есть какие-то внешние «учителя», она все равно воспринимает их своими рецепторами. Что же касается неких «таинственных воздействий», способных проникать в нервную систему, минуя «штатные» входные каналы (рецепторы), здесь мы их учитывать не будем.

2. Дискретность.

Нервная система — устройство во многом дискретное. На ее «входе» находятся рецепторы, которых может быть очень много, иногда несколько миллионов, но важно то, что число их конечно. Состоит нервная система из отдельных (дискретных) объектов — нейронов и нервных волокон, которые обмениваются нервными импульсами — дискретными сигналами. На «выходе» нервной системы можно видеть большое, но тоже конечное число нервных окончаний, через которые исходят импульсы, управляющие работой исполнителей — мышц и желез.



Надо учитывать, конечно, что ряд параметров нейронов описывается непрерывными величинами. Это, например, размеры синапсов, «стыковочных узлов» нейрона и одновременно основных запоминающих устройств нервной системы. Кроме того, не вся информация передается в виде импульсов по нервным волокнам. На нейрон могут оказывать влияние также многочисленные метаболические процессы в организме.

3. Начальная приспособленность.

Нервная система как часть организма изначально приспособлена к условиям существования, в которых жили многие предшествующие поколения. В ходе длительного естественного отбора природа нашла оптимальные для данного организма рецепторы, исполнители, отделы нервной системы, связи между нейронами, выработала для нервной системы оптимальный «алгоритм» ее функционирования. Змея, например, видит в инфракрасном диапазоне, а человек нет. Глаз лягушки хорошо видит лишь движущиеся точки, а человеческий глаз лучше распознает прямые линии. Собака, по-видимому, неспособна воспринять модель атома по Бору, а у человека нельзя сформировать образы из тысяч запахов, которыми оперирует собака.

Здесь важно заметить следующее. Ни в природе, ни в лаборатории нельзя создать распознающую систему, которая могла бы воспринять абсолютно все закономерности-образы входной информации. Она будет выделять образы только того вида, на который заранее настроена. Поэтому в нервной системе должны храниться «заготовки» всевозможных их видов. За них-то и отвечает огромное число нейронов, большая часть которых остаются незадействованными в течение жизни человека. Однако никто не сможет сказать заранее, какие именно нейроны могут понадобиться. Избыток нейронов обеспечивает организму возможность адаптации.

4. Минимум исходных знаний.

После рождения организма, обладающего некоторой начальной приспособленностью и избытком нейронов, его нервная система начинает накапливать знания и информацию. Этот процесс продолжается в течение всей жизни организма (хотя одновременно идет и потеря знаний, например вследствие отмирания части нейронов). Накопление информации происходит в нейронах, при этом изменяется смысл сигнала, представленного нервным импульсом. Например, до и после обучения нервная система может совершенно по-разному реагировать на одинаковые с виду нервные импульсы. Здесь мы имеем дело с информационным процессом приспособления (адаптации), который и будем называть адаптивным управлением. Именно ему живые существа обязаны своей способностью распознавать образы, вырабатывать рефлексы, обучаться, принимать решения.

КАК РАБОТАЕТ НЕРВНАЯ СИСТЕМА

Итак, начнем конструировать нашу управляющую систему (УС) как модель нервной системы, исходя из принятых выше четырех условий. Пусть она будет неким «черным ящиком», на который поступает дискретная «входная информация» от датчиков, а от него исходит «выходная информация» в виде команд исполнительным устройствам.

Попробуем представить себе процессы, происходящие внутри «черного ящика». Для этого посадим туда гипотетического наблюдателя — что-то вроде Демона Максвелла, сортировавшего молекулы в термодинамике. В соответствии с духом времени снабдим нашего Демона «сотовым телефоном», чтобы он мог передавать нам свои наблюдения.

Итак, выходим на связь с Демоном.

Сообщение 1. «Я хочу выжить и, более того, хочу постоянно улучшать ощущение своего состояния».

Разумно: выживание и улучшение ощущения состояния есть цель управления нервной системы. При этом мы полагаем, что наш Демон «умный» и понимает, что в роли нервной системы он может выжить только вместе с телом и окружающей его средой, взаимодействуя с ней. Демон должен улучшать свое состояние таким образом, чтобы это не противоречило его выживанию. Например, для получения приятного «ощущения сытости», нервной системе нужно дать сигнал накормить подведомственное ей тело, а не раздражать какие-то свои нервные центры электродом или наркотиком. Кроме того, в результате естественного отбора «приятные» ощущения в некоторых состояниях должны соответствовать объективной пользе этих состояний для объекта управления.

Сообщение 2. «Я должен активно действовать, чтобы находить новые возможности улучшать свое состояние. Для активных действий у меня есть кнопки, на которые я могу нажимать, и показания датчиков, на которые я могу смотреть».

Заметим, что активность — необходимая стратегия искомого принципа управления. Альтернативную стратегию — пассивное управление, когда система только реагирует на входные воздействия, — мы отвергаем, ибо она не ведет к поиску новых возможностей для улучшения состояния.

Зададим вопрос Демону: «Как вы определяете свое состояние, его улучшение и ухудшение?»

Сообщение 3. «Не знаю, как я это делаю, но во мне есть некий «хорошеметр», аппарат эмоций, который позволяет мне чувствовать свое состояние в терминах «великолепно», «очень хорошо», «так себе», «плохо», «очень плохо», «невыносимо», а также его изменение в лучшую или худшую сторону. Видимо, оценка текущего состояния как-то зависит от входной информации и оценки уже сформировавшихся образов».

По-видимому, именно аппарат эмоций обеспечивает активность нервной системы. Если мы его отключим, Демон не захочет ничего делать, управление прекратится и объект управления погибнет.

Сообщение 4. «Чтобы улучшить свое состояние, я должен найти способ управления. Для этого надо отыскать связи между моими действиями (нажатием кнопок) и показаниями датчиков, а также моими эмоциями».

Итак, Демон сформулировал еще одну целевую функцию: поиск и накопление знаний. Очевидно, что, чем больше знаний будет накоплено управляющей системой, тем более надежные способы выживания она сможет найти, тем успешнее сможет улучшать свое состояние. С другой стороны, чем дольше будет существовать объект, тем больше знаний он накопит. Поэтому обе целевые функции — выживание и накопление знаний — тесно связаны между собой (по нашему мнению, главная цель существования и есть накопление знаний).

Сообщение 5. «Для начала попробую найти закономерности во входной информации».

Разумно. Но может ли Демон обнаружить закономерности в беспорядочном мелькании входных сигналов? Может, если он в состоянии заметить в них неслучайные совпадения. Если в какой-то момент ему покажется, что некоторую комбинацию сигналов он видит уже не в первый раз — значит, он сформировал образ.

Сообщение 6. «Это красное пятно в нижнем углу правого монитора я уже видел! Постойте, но и этот одновременный скачок трех стрелок иногда повторяется».

Ну вот, уже два образа сформированы — номер 1 и номер 2. Это первые составляющие эмпирического знания нашей управляющей системы. Демон может занести их в свою Базу Знаний.

Сообщение 7. «Теперь, когда образ номер 1 или номер 2 появляются в показаниях датчиков, я сразу узнаю их».

Сформированные образы (иначе их еще называют таксонами, паттернами, классами объектов) управляющая система может распознать в те моменты, когда в поле зрения датчиков появляются их прообразы.

Сообщение 8. «Пытаюсь найти способы воздействия на образы номер 1 и номер 2. Для этого беспорядочно нажимаю на все имеющиеся кнопки».

А что еще остается делать, если нет никаких оснований для более разумной тактики. Интересно, что произойдет раньше: Демон найдет какую-либо закономерную связь между нажатием кнопки и реакцией образа либо выявится зависимость образов от эмоционального состояния Демона?

Сообщение 9. «Всякий раз, когда я распознаю образ номер 1, мне становится «плохо». А когда распознаю образ номер 2, мое состояние никак не изменяется. Запомним это».

Ну вот, в данном случае первыми сформировались эмоциональные оценки образов. База Знаний пополнилась новой информацией.

Сообщение 10. «Нашел! В 70% случаев, когда я нажимаю на кнопку номер 47, появляется образ номер 2, но только при условии, что в предыдущий момент был распознан образ номер 1».

Вот управляющая система и получила первое знание: в каких условиях, каким действием и с какой вероятностью вызывается (или вытесняется) определенный образ. Назовем нажатие на кнопку номер 47 действием номер 1.

Сообщение 11. «Постойте, но точно такие же последствия имеет нажатие на кнопку номер 23! Запомним это».

Демон постепенно расширяет свою Базу Знаний, обнаруживая новые действия и уточняя найденные ранее.

Сообщение 12. «Ура, наконец-то в своей Базе Знаний я нашел действия, которыми могу в некоторых условиях вызвать улучшение ощущения своего состояния!»

До этого момента все решения Демона были обусловлены задачей «накопить знания». Теперь он уже может принимать решения с целью «улучшить ощущение состояния».

Посмотрим, как он это делает. В некоторый момент времени управляющая система распознает несколько образов из числа ранее сформированных и определяет их среднюю эмоциональную оценку. Затем она выбирает в Базе Знаний действие, которое в данных условиях обещает максимальное улучшение состояния. Если все варианты равнозначны, выбор может пасть на любой из них. Назовем такой способ первым механизмом принятия решений.

Сообщение 13. «В некоторых постоянных условиях я совершаю одну и ту же последовательность действий — 12, 45, 38. Очередное действие я выбираю просто как продолжение этого ряда, то есть опять 12, 45, 38. (Так капитан шхуны, продвигаясь к цели, ведет ее сперва левым галсом, потом правым, потом снова левым и т. д., меняя галсы автоматически, не задумываясь.) Эту последовательность (12, 45, 38) я запомнил как модель поведения номер 1 и теперь в подходящих случаях буду действовать по ней. Когда оценка состояния начнет ухудшаться либо когда ситуация решительно изменится, я от нее откажусь».

Появился второй механизм принятия решений: действия выбираются не на основе анализа текущего состояния, а по аналогии, в соответствии с обнаруженной закономерностью в последовательности ранее принятых решений.

Сообщение 14. «Обнаружено сразу несколько моделей поведения для одних и тех же условий, я назвал их номер 2, номер 3 и номер 4. Которую же из них мне выбрать для управления? Догадался: я могу просчитать их по очереди, оценив и сравнив выигрыш, который обещает принести мне их реализация. Для этого я на свободные от важной информации входы буду последовательно подавать эти модели. Наибольший выигрыш даст модель номер 3, ее и буду выполнять».

Но это уже третий механизм принятия решений. Для него необходимо, чтобы управляющая система могла у самой себя вызвать распознавание образов — результатов действия, не совершая его.

Можно, например, представить себе, как расходятся круги по воде от брошенного камня, не бросая камень. Или сказать «равнобедренный треугольник» и увидеть этот треугольник. Для этого лучше всего закрыть глаза и уши, то есть высвободить часть рецепторов от восприятия реальной информации. А управляющая система может реагировать на вызванные образы также не реальными действиями, а, например, только их словесным описанием. Процесс внутреннего моделирования может продолжаться до тех пор, пока будут находиться понятия и образы, вызывающие друг друга. Нам представляется, что третий механизм наиболее интеллектуален, поскольку отражает способность организма к внутреннему моделированию-размышлению, возникновению языка, использованию его для общения с собой и с другими, выработке абстрактных представлений, прогнозированию и т. п.

Теперь мы можем оставить Демона на какое-то время, поскольку сообщения его будут повторять по смыслу предыдущие. Если мы вернемся к нему несколько позже, то увидим, что:

а) в руках у Демона уже довольно пухлая тетрадь, содержащая обширную Базу Знаний,

б) он умеет распознавать множество образов,

в) почти в каждый момент он знает, как ему поступать в соответствии с обстоятельствами,

г) принимая решения, Демон уже учитывает их последствия, но далеко не все, хотя бы потому, что не успевает это сделать,

д) он может пообщаться сам с собой через внешнюю среду, как бы играя в жизнь и моделируя ситуации, а может статься, что Демон даже найдет во внешней среде другой такой же объект с Демоном внутри и вступит с ним во взаимодействие.

«Скачав» по телеметрии Базу Знаний Демона, мы многое узнаем о свойствах мира, в котором он живет. Фантастам же предлагаем подумать — что может представлять собой сочетание его Базы Знаний, аппарата эмоций и аппарата принятия решений, помещенных в новое тело.

УСТРОЙСТВО УПРАВЛЯЮЩЕЙ СИСТЕМЫ

Из сообщений Демона становится понятно, что управляющая система как модель нервной системы должна состоять из нескольких основных блоков, или подсистем: «формирования и распознавания образов», «аппарата эмоций», «формирования Базы Знаний», «принятия решений», «определения времени принятия решения».

Каждая подсистема решает свою задачу, учитывая результаты работы других подсистем.

Подсистема «формирование и распознавание образов» автоматически классифицирует входную информацию и распознает образы.

Подсистема «аппарат эмоций» дает эмоциональные оценки сформированных образов и текущего состояния.

Подсистема «формирование Базы Знаний» выявляет причинно-следственные связи в предыстории процесса управления и сохраняет их в памяти как новые знания.

Подсистема «принятие решений» отыскивает среди сформированных знаний действие, которое приводит к наибольшему приращению эмоциональной оценки состояния и наиболее высокой вероятности получения новых знаний.

Подсистема «определение времени принятия решения» оценивает, насколько быстро нужно принять очередное решение.

Поясним подробнее работу последней подсистемы. Очевидно, что, чем хуже состояние и чем быстрее оно ухудшается, тем скорее требуется принять решение. Если просмотр всей Базы Знаний требует слишком больших затрат времени, управляющая система может просматривать лишь ее часть, учитывая только наиболее важные последствия того или иного решения. Неучтенные факторы будут реализовываться случайным для управляющей системы образом.

Например, увидев быстро наезжающий грузовик, мы принимаем решение отпрыгнуть в сторону, чтобы сохранить себе жизнь, и не учитываем второстепенных последствий: как мы будем выглядеть в глазах проходящей мимо дамы, не уроним ли шляпу, не наступим ли на газон и т. д. Если же мы распознали образ грузовика вдали, то, уходя в сторону, учтем и даму, и шляпу.

Некоторые из нас при значительном ухудшении ситуации впадают в заторможенное состояние, некоторые, напротив, становятся более активными. Индивидуальные особенности подсистемы «определение времени принятия решения» определяют тип нашего темперамента.

МОДЕЛИ ИСКУССТВЕННЫХ НЕЙРОНОВ

На практике обычно строят такие управляющие системы, которые решают лишь часть задач из вышеперечисленных, обычно одну-две. Например, системы распознавания, как правило, не принимают самостоятельных решений: им заранее известно, что следует делать при распознавании того или иного образа. Экспертные системы, напротив, строятся на базе уже готовых знаний, и им требуется только принимать решения. Некоторые системы занимаются решением исключительно поисковых и оптимизационных задач (так называемые генетические алгоритмы и другие подходы).

Гораздо сложнее создать систему управления, в которой решения всех перечисленных задач были бы взаимосвязаны, а исходные знания о свойствах объекта управления и среды допускали бы значительную неопределенность. Трудность построения такой системы объясняется тем, что все ее части — подсистемы — должны учитывать результаты работы других подсистем в качестве своих исходных условий.

Поскольку наша научная группа придерживается имитационного подхода к моделированию нервной деятельности, мы строим модель управляющей системы по аналогии с естественными нервными системами. Подобно нервной системе, представляющей собою сеть нейронов, управляющая система тоже должна состоять из отдельных нейроноподобных элементов.

Модели «искусственных нейронов» были разработаны еще в сороковых — пятидесятых годах. Они представляют собой простое устройство, которое суммирует входные сигналы, умноженные на веса (своего рода приоритеты), приписанные каждому отдельному входу, и сравнивает полученную сумму с заданным порогом. Если сумма превысит порог, нейрон выдает на своем выходе сигнал «1», если нет — сигнал «0». Многослойную сеть из таких нейронов, в которой каждый получает сигналы от всех нейронов предыдущего слоя, можно обучить распознавать нужные образы. Но предварительно необходимо подобрать веса на входах по определенному правилу, зависящему от того, какие образы нужно распознать.

Однако свойства такого «искусственного нейрона» нас не удовлетворяли, поскольку его отличия от природного представлялись значительными. В частности, нас не устраивало, что для настройки нейронов требовался внешний учитель, наблюдающий за всей нейросетью.

Исходя из своего представления об управляющей системе, мы пришли к новой модели нейрона. Такой нейрон способен самостоятельно накапливать статистическую информацию о комбинациях входных сигналов. Статистика накапливается в синапсах, размеры которых растут пропорционально числу наблюдений связанных друг с другом сигналов. В тот момент, когда нейрон вдруг «понимает», что некая комбинация входных сигналов не случайна, он изменяет свое состояние — становится обученным и в дальнейшем начинает узнавать ее, распознавать образ. Образы, распознаваемые обученными нейронами, участвуют в формировании образов более высокого порядка. Чем более знакомым становится образ для нейрона, тем при более сильных помехах нейрон будет распознавать его.

Оказалось, что на базе таких нейронов можно конструировать сети, выполняющие функции всех перечисленных подсистем. При этом требуется определенный избыток нейронов, и он действительно существует в живых организмах: более 90% нейронов человека остаются незадействованными в течение его жизни. Избыток искусственных нейронов в управляющей системе можно уменьшить и тем значительнее, чем более сложные связи между сигналами они способны обнаруживать, то есть за счет усложнения нейрона.

СИСТЕМА АВТОНОМНОГО АДАПТИВНОГО УПРАВЛЕНИЯ

Новая модель нейронов позволила разработать управляющую систему, названную нами системой автономного адаптивного управления (ААУ). Основное ее свойство — способность автоматически находить способ управления в соответствии с меняющимися окружающими условиями и свойствами объекта управления, а также развивать и корректировать этот способ. Причем найденный однажды способ управления может быть «изъят» из системы и использован в работе другой системы, правда, уже в фиксированном виде.

Система автономного адаптивного управления — саморазвивающаяся система. В ее поведении можно увидеть детерминированную и случайную компоненты. Первая опирается на уже накопленные знания и стремится улучшить состояние системы, наличие второй связано с отсутствием знаний и стремлением их накопить. По мере накопления знаний поведение управляющей системы становится более детерминированным, что и отражает ее развитие. Пример саморазвития ААУ — последовательное появление у Демона трех механизмов принятия решения, каждый из которых вытекает из предыдущих и повышает эффективность управления.

Важно то, что в системе ААУ качество управления неуклонно растет, причем происходит это автоматически.

Как отмечалось выше, современная техника еще удовлетворяется управляющими системами, построенными либо только на основе системы распознавания, либо только на основе оптимизационных подходов и т. п. Каждый из этих частных методов глубоко развит и способен давать результаты, с которыми трудно конкурировать любому новому подходу. Однако решение задачи управления в более общем виде с помощью метода автономного адаптивного управления имеет свои преимущества, которые проявляются со временем. Это и обнадеживает нас в наших исследованиях.

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ — АВТОНОМНЫЙ И ПОДЧИНЕННЫЙ

Есть одно, на первый взгляд, странное обстоятельство. Предположим, сильно размечтавшись, что создана некая замечательная система автономного адаптивного управления, не уступающая по своим функциям пусть не человеку, не кошке, но хотя бы мышке (пока что и эта задача совершенно недостижима). Какую же практическую пользу мы сможем извлечь из такой мышки? Заставим ее копать нору? Она скажет: отпустите меня, я хочу есть, пить, гулять и меньше всего хочу работать на вас. И она будет права, так как цель описанной управляющей системы — улучшение своего (а не нашего) состояния.

В научном направлении, известном под названием «системы искусственного интеллекта», есть некое лукавство. Провозглашая цель построить искусственный интеллект как модель природного, мы на самом деле хотим построить некоего неутомимого идеального Исполнителя наших задач и желаний, искусственного раба, что совсем не одно и то же.

Исполнитель может быть построен на любых принципах, удобных для хозяина (вспомним непреходящую мечту о скатерти-самобранке, волшебной палочке или Джинне из лампы Аладдина). Соответствие естественным нервным системам при этом не только не требуется, но скорее оно даже излишне. Примеры таких Исполнителей — современные «системы искусственного интеллекта»: экспертные, игровые и распознающие системы, лингвистические процессоры, промышленные роботы. Они работают по принципу «чего изволите?», их целевые функции и, следовательно, устройство подчинены интересам пользователя. Поэтому мы предлагаем именовать их системами «Подчиненного Искусственного Интеллекта» (ПИИ).

Однако живые организмы не есть исполнители чужих заданий: они работают в первую очередь на себя. Это их естественное право. Моделирование живых организмов — самостоятельное направление исследований. Мы предлагаем называть искусственные системы, моделирующие свойства естественных нервных систем как целого, «Автономным Искусственным Интеллектом» (АИИ). Система автономного адаптивного управления замышлялась именно как АИИ.

С точки зрения познания природы интерес к созданию «Автономного Искусственного Интеллекта» очевиден, но и практическая польза от них может быть немалой. Подобные системы могут быть использованы для отработки методик обучения, общения, для моделирования различных психических отклонений и так далее. Системы ААИ могут выполнять работы во вредных производствах, а также в труднодоступных для человека средах — в космосе, глубоко под водой и под землей. Они могут управлять быстропротекающими или, наоборот, очень медленными процессами, за которыми человеку следить крайне трудно. В урезанном виде системы «Автономного Искусственного Интеллекта» могут быть использованы для управления разнообразными техническими устройствами.

Все это убеждает нас в необходимости исследования Автономного Искусственного Интеллекта и поиска возможностей его приложения.

(Окончание следует.)

№1, 2000