BI-DIRECTIONAL ASSOCIATIVE MEMORY (BAM). двунаправленная ассоциативная память (ДАП) Наиболее активное участие в разработке моделей двунаправленной ассоциативной памяти принимал Б. Коско (Университет Южной Калифорнии). Большая часть публикаций, посвященных этим моделям, датирована второй половиной 1980 -х годов.
Нейронная сеть Коско (Двунаправленная ассоциативная память — ДАП) — нейронная сеть, разработанная Бартом Коско. Двунаправленная ассоциативная память (ДАП) является гетероассоциативной; входной вектор поступает на один набор нейронов, а соответствующий выходной вектор вырабатывается на другом наборе нейронов. Как и сеть Хопфилда, ДАП способна к обобщению, вырабатывая правильные реакции, несмотря на искаженные входы. Кроме того, могут быть реализованы адаптивные версии ДАП, выделяющие эталонный образ из зашумленных экземпляров. Эти возможности напоминают процесс мышления человека и позволяют искусственным нейронным сетям сделать шаг в направлении моделирования мозга.
Архитектура нейронной сети Коско
Таким образом, BAM относится к гетероассоциативной памяти. Входной вектор поступает на один набор нейронов, а соответствующий выходной вектор вырабатывается на другом наборе нейронов. Входные образы ассоциируются с выходными. Для сравнения: сеть Хопфилда является автоассоциативной. Входной образ может быть восстановлен или исправлен сетью, но не может быть ассоциирован с другим образом. В сети Хопфилда используется одноуровневая структура ассоциативной памяти, в которой выходной вектор появляется на выходе тех же нейронов, на которые поступает входной вектор. BAM, как и сеть Хопфилда, способна к обобщению, вырабатывая правильные выходные сигналы, несмотря на искаженные входы. Входной вектор A обрабатывается матрицей весов W сети, в результате чего вырабатывается вектор выходных сигналов сети B. Вектор B затем обрабатывается транспонированной матрицей WT весов сети, котороая вырабатывает сигналы, представляющие новый входной вектор A. Этот процесс повторяется до тех пор, пока сеть не достигнет стабильного состояния, в котором ни вектор A, ни вектор B не изменяются.
Области применения BAM : ассоциативная память, распознавание образов. Недостатки. Емкость BAM жестко ограничена. Если n — количество нейронов в меньшем слое, то число векторов, которые могут быть запомнены в сети не превышает Так, если n=1024, то сеть способна запомнить не более 25 образов. BAM обладает некоторой непредсказуемостью в процессе функционирования, возможны ложные ответы. Преимущества. По сравнению с автоассоциативной памятью (например, сетью Хопфилда), двунаправленная ассоциативная память дает возможность строить ассоциации между векторами A и B, которые в общем случае имеют разные размерности. За счет таких возможностей гетероассоциативная память имеет более широкий класс приложений, чем автоассоциативная память. BAM — простая сеть, которая может быть реализована в виде отдельной СБИС или оптоэлектронным способом. Процесс формирования синаптических весов простой и быстрый. Сеть быстро сходится в процессе функционирования.
Функция активации нейронов имеет пороговый характер. Для обеспечения лучших характеристик сети на этапе обучения используются только биполярные сигналы. Матрица весов W, связывающая обе части сети, является действительной и в общем случае несимметричной. При прямом распространении сигналов веса описываются матрицей W , а при обратном — матрицей W T.
Пусть входные обучающие данные представляют собой множество пар биполярных векторов. На основе этого множества формируется матрица В результате процесса двунаправленной обработки , сигналов формируются два стабильных вектора и , удовлетворяющих уравнениям:
• Каждой промежуточной точке можно сопоставить энергетическую функцию • которая убывает при каждом изменении состояния вплоть до достижения локального минимума
• В режиме распознавания при начальных значениях векторов, совпадающих с использованными при обучении, сеть распознает их безошибочно. При искажении векторов X и Yсеть BAM не всегда способна откорректировать эти векторы и распознает их с определенными погрешностями. Если размерности векторов X и Y обозначить соответственно N и P, то удовлетворительное качество распознавания можно получить при выполнении зависимости • где – m число запоминаемых в сети BAM пар векторов.
Зразок 0 0 1 -1 1 -1 0 « 3» -1 1 « 2» Число « 1» Асоційовані зразки -1 1 1 0 1 1 Зразок Асоційовані зразки Число «А» -1 -1 -1 1 0 0 1 «Г» -1 -1 1 -1 -1 0 0 «Р» 1 -1 -1 1 -1 1 0 0 1 0
МОДИФКАЦИЯ BAM Была предложена негомогенная двунаправленная ассоциативная память, в которой пороговые значения подбираются отдельно для каждого нейрона. (В исходной модели BAM все нейроны имеют нулевые пороговые значения. ) Емкость негомогенной сети выше, чем исходной модели. Сигналы в сети могут быть как дискретными, так и непрерывными. Для обоих случаев доказана стабильность сети. Были предложены модели двунапрвленной ассоциативной памяти с обучением без учителя (адаптивная BAM). Введение латеральных связей внутри слоя дает возможность реализовать конкурирующую BAM. Веса связей формируют матрицу с положительными значениями элементов главной диагонали и отрицательными значениями остальных элементов. Теорема Кохена - Гроссберга показывает, что такая сеть является стабильной.
Скачать презентацию BI-DIRECTIONAL ASSOCIATIVE MEMORY (BAM). двунаправленная ассоциативная память (ДАП)
Презентация ВАМ.ppt