Главы     1     2     3     4     5     6     7     8     9   

Нейронные сети в планировании

Глава 2 Построение современной нейро сетевой технологии



Построение примитивной нейросети

Говоря о вещах несогласуемых, мы вспоминаем поговорку: «В огороде бузина, а в Киеве дядька». Как же связать объекты, между собой не совместимые, вызывающие усмешку, но, несомненно, влияющие на раздумья о смысле жизни?

Здесь мы сталкиваемся с действительно трудно формализуемой задачей, требующей мобилизации нашего ассоциативного мышления.

Существует мнение о том, что нейросеть формируется «под задачу». Однако в природе есть идеальная, универсальная, «унифицированная» нейросеть — наш мозг. И каждый из нас не испытывает серьезных технических трудностей, если становится не коммерсантом, а, скажем, блестящим специалистом по реликтовым захоронениям мезозойского периода. Более того, если человек талантлив, то он талантлив во всем.

В книге Э. Мулдашева «От кого мы произошли?» в главе «Почему мы смотрим друг другу в глаза?» автор говорит об известных ему 22 параметрах, отражающихся на глазной области лица и динамически описывающих морально психологическое состояние собеседника — партнера. Однако обсчитать на компьютере удалось лишь два. Автор удивлен той колоссальной скоростью, с которой ведет описанную обработку человеческий мозг: «Воистину велик Бог, создавший такое компьютерное совершенство мозга!»

Мы уже не удивляемся высокой скорости работы мозга. Известно, что это — процесс распараллеливания обрабатываемой информации, и без параллельных вычислительных средств заниматься моделированием работы мозга, т.е. «больших» нейросетей, — бессмысленно.

Именно особенности параллельной обработки информации наряду с возможным отсутствием формальных расчетов (только на основе ассоциативного мышления) привлекли к себе внимание проектировщиков суперЭВМ в период так называемого японского вызова, в начале 1980х годов.

Нейросетевые технологии основаны на моделировании деятельности мозга, а по классическому утверждению Р. Шеннона, «моделирование есть искусство». И как каждое искусство, модель нейросети базируется на примерах, опыте и общих рекомендациях.

    Построение современной нейросетевой технологии 2
    Рассмотрим пример, навеянный временем перестройки. Вася и Петя — друзья. Обозначим А — множество друзей: А = {А1, А2} = {Вася, Петя}. Вася и Петя создали «крышу», под которой успешно трудится ряд...
    Построение современной нейросетевой технологии 3
    А мы, принимая заказ на очень трудно формализуемую задачу, хотим уяснить, что нужно дяде Рамзаю, и устанавливаем: он хочет, задавая исходные данные на основе неполной или недостоверной информации...
    Построение современной нейросетевой технологии 4
    Проанализировав и перебрав все возможные ситуации, с учетом одинакового принимаемого решения получим систему логических высказываний — предикатов как основу формализации задачи при построении нейр...
    Возбуждение входного слоя
    Определим теперь возбуждение входного слоя, учитывая то, что по нейросетевым технологиям решаются сложные, чаще всего трудно формализуемые задачи. Исходная информация этих задач может быть настоль...
    «схемотехнический» подход к построению нейросети «под задачу»
    Реализуем подход, используемый при построении схем устройств ЭВМ и другой электронной техники. Выделим функционально полную для данного применения систему булевых функций — дизъюнкцию и конъюнкцию...
    «схемотехнический» подход к построению нейросети «под задачу» 2
    Такая электронная схема могла бы нам верно служить, способствуя быстрому определению необходимой реакции на сложившуюся ситуацию, если мы предусмотрели все возможные ситуации, знаем, какое решение...
    «схемотехнический» подход к построению нейросети «под задачу» 3
    Тогда для преодоления порога на всех входах должны быть 1; недостаток хотя бы одной 1 приведет к тому, что взвешенная сумма будет более чем на меньше указанной суммы весов. При переходе к действит...
    «схемотехнический» подход к построению нейросети «под задачу» 4
    Нейрон дизъюнктор реализуется, наоборот, при низком значении порога, но при высоких значениях весов. Порог выбирается так, чтобы уже при возбуждении на одном входе возникал сигнал возбуждения на в...
    «схемотехнический» подход к построению нейросети «под задачу» 5
    Легко проследить, что в первом такте возбудятся нейроны 1 и 6, реализующие дизъюнкцию. Величина их возбуждения равна 1. В следующем такте возбуждение нейронов 1, 6 и A1 приведет к возбуждению (с в...
    «схемотехнический» подход к построению нейросети «под задачу» 6
    Сдавая нейросеть «в эксплуатацию», мы установили веса всех конъюнкторов равными 0,5, а дизъюнкторов, — равными 1. Пороги конъюнкторов определяются значением = 0,4. Пороги дизъюнкторов имеют нулево...
    «схемотехнический» подход к построению нейросети «под задачу» 7
    Пусть при вполне определенной ситуации (все достоверности принимают значение «1») каждое решение Ri приносит прибыль . В таком случае средняя величина ожидаемой прибыли для нашей неопределенной си...
    Построение нейросети «под задачу»
    Мы построили нейросеть с экзотическими (с точки зрения психотерапевта) конъюнкторами и дизъюнкторами. Предположим теперь (см. рис 2.4, 2.5), что все нейроны одинаковы, реализуют одну передаточную...
    Построение нейросети «под задачу» 2
    Анализируя первые восемь строк таблицы, соответствующие достоверным ситуациям, видим, что по крайней мере максимум возбуждения определяется устойчиво верно....
    Построение нейросети «под задачу» 3
    Рассмотрим ту же неопределенную ситуацию. Она отражена в последней строке таблицы. Близка ли эта ситуация более всего ситуации, когда Петя направился к Аполлинарии, и надо принимать решение R5 ? С...
    Построение нейросети «под задачу» 4
    Продолжение Данная нейросеть также оказывает предпочтение решению R5, хотя порядок убывания величин возбуждения выходного слоя отличен от ранее полученного. Предпочтительность решений R2 и R3 меня...
    Формализация нейросети
    Тактирование работы сети, столь характерное для каждой управляющей системы, отслеживающей ее состояние в дискретные моменты времени, определяет потактовое продвижение по ней волны возбуждений от в...
    Формализация нейросети 2
    Нейроны образуют статические цепочки длины т, если существуют синапсические связи (впредь будем опускать слово «синапсические») вида Составляя все статические цепочки по графу G, можно выделить од...
    Формализация нейросети 3
    Алгоритм дополнения матрицы S транзитивными связями весьма прост. Для всех i = 1, 2,..., N:...
    Формализация нейросети 4
    Формируем новое значение строки i логическим сложением этой строки со строками, соответствующими не пустым элементам в ней. «Новые* непустые элементы заменяем на непустые элементы, обозначающие тр...
    Формализация нейросети 5
    Динамической цепочкой возбуждений будем называть статическую цепочку, составленную из нейронов, первые т\ которых обладают отличной от нуля величиной возбуждения. Динамическая цепочка возбуждений...
    Модель механизма запоминания
    Главный механизм запоминания, реализованный в природе, можно представить так. Импульс возбуждения, проходя через синапс, «нагревает» и уменьшает его сопротивление, увеличивая синапсический вес. В...
    Модель механизма запоминания 2
    Введем некую переменную выверяемую практически (а то и просто единицу), уменьшаемую или увеличиваемую при необходимости. Таким образом, нам удалось перейти от схемотехники к нейротехнологии, от то...
    Применение типовых нейросетей
    Справедливо желание построения универсальных моделей нейросетей в составе программного обеспечения компьютера, снабженных механизмами приспособления под задачу пользователя. Е1це более справедливо...
    Применение типовых нейросетей 2
    Здесь вновь прослеживается преимущество нейросети, способной элементарно учитывать наблюдаемые или интуитивно предполагаемые поправки, требующие огромных исследований и расчетов. Поступив так же с...
    Применение типовых нейросетей 3
    Так какую же сеть предложить дяде Рамзаю? Ведь надо и подоходчивее, и попрактичнее, но и так, чтобы не казалось уж слишком просто. Нейросеть произвольной структуры. Предположим, мы располагаем нек...
    Применение типовых нейросетей 4
    Однако сеть обладает специфической топологией, затрудняющей ее обучение. Сеть многослойная, что исключает связи «через слой», присутствующие, например, в сети на рис. 2.6, как результат построения...
    Применение типовых нейросетей 5
    Применив принципы комбинаторики и эвристики, выполним трассировку нейросети (рис. 2.12). На рисунке наглядно показано, какая нейросеть была предоставлена, насколько она «неповоротлива», скажем, по...
    Применение типовых нейросетей 6
    1. Мы исследовали слой за слоем, постоянно помня о цели — пять комбинаций ситуаций, каждая из которых должна возбудить один из нейронов выходного слоя. Причем решения за этими нейронами пока жестк...
    Энергетика нейросети
    Пытаясь проанализировать, как энергия возбужденого нейрона воздействует на связанные с ним нейроны, мы вновь и вновь приходим к выводу, что она распределяется обратно пропорционально сопротивления...
    Рекомендации
    Испытывая различные структуры нейросети и пытаясь произвести обучение рассматриваемой задаче, мы, в частности, много усилий затратили на одну нейросеть. Выяснилось, что 5 9 имеет место пересечение...
    Рекомендации 2
    Но возможен и другой, более «щедрый» путь: «тянуть» цепочки «сильных» возбуждений от нейронов входного слоя к нейронам выходного слоя, избегая пересечений. Пропагандируемая нами случайнорегулярная...
    Рекомендации 3
    Вместе с тем «схемотехнический» подход и последующая замена булевых функций л и v одной передаточной функцией приводят к интересной гипотезе. Оптимальное число слоев нейросети или максимальная дли...
    Нейросетевые технологии и нейрокомпьютеры
    Итак, располагая знаниями о данных на входе управляющей системы и реакциях на каждую ситуацию, получаем таблицу. В одном столбце, так называемом запросном поле, — векторситуация, в другом, ответно...
    Нейросетевые технологии и нейрокомпьютеры 2
    При программной реализации нейросети перечисленные требования соответствуют SPMD технологии («одна программа — много потоков данных»), привлекательность которой обоснована для многих приложений па...