Пупков К.А., Коньков В.Г. - Интеллектуальные исследования (Современнаяя теория управления) (1072100), страница 17

Просмтор этого файла доступен только зарегистрированным пользователям. Но у нас супер быстрая регистрация: достаточно только электронной почты!

Текст из файла (страница 17)

где a^^j и w^^j - j-ые компоненты соответствующих n-грамм, представляющие отдельные ВП. Конкретный вид метрики d определяется особенностью используемых параметров описания речевого сигнала. Вычисленное значение D сравнивается с радиусом расфокусировки r и в случае Dr НЭ срабатывает - на выход ДАЗУ поступает сигнал y_i0. Уравнение D[x^,w^_i]=r, описывает в СП некоторую область - псевдогиперсферу с центром в точке c координатами w^_i и с радиусом, определяемым r.

Рис. 27.

1.2. Топология сигнального пространства ДАЗУ

Рассмотрим, что представляет собой образ A^ некоторой последовательности ВП сигнала A, формируемый в РС на основании (143).

Представляя значения ВП сигнала как приращения ВП в предшествующий момент: a_t+1=a_t+a_t+1, координаты последовательных n-грамм в СП можно записать как:

a^_t = ( a_t, a_t+a_t+1, ..., a_t+a_t+1+...+a_t+n-1 ),

a^_t+1 = ( a_t+a_t+1, a_t+a_t+1+a_t+2, ..., a_t+a_t+1+...+a_t+n-1+a_t+n )

Отсюда видно, что представляет собой вектор приращения координаты точки в СП на t₁ такте:

a^_t+1 = (a_t+1, a_t+2, ..., a_t+n ).

Ввиду того, что параметры речевого сигнала изменяются относительно плавно, т.е., при t0 a_t0, а шаг извлечения параметров t на практике выбирается малым, соседние точки a^_t и a^_t+1 в СП оказываются близкими и при некотором r их r-окрестности перекрываются. Это означает, что при рассмотрении n-грамм a^_t в качестве центров гиперсфер a_(r)^_t с радиусом r, образ входной последовательности в СП представляет собой непрерывную область, образованную внутренностью перекрывающихся гиперсфер. На более стационарных участках образа a_t будет меньше, чем на переходных, где сигнал изменяется быстрее, и центры гиперсфер будут располагаться более плотно (рис. 28).

Отображение F сохраняет отношение связанности между точками образа в СП - последние и первые (n-1) координат центров гиперсфер a^_t и a^_t+1 совпадают, что видно из (143). Такие точки будем называть автоассоциативно связанными. Ввиду наличия связанности последовательность A^ будем называть траекторией. Область в СП, образованную внутренностью гиперсфер, описанных вокруг точек траектории при r>0, будем называть трубкой траекторий A_(r)^.

Отображение F в трубку СП автоматически нормализует длительность сигнала - сигналы с различными длительностями своих участков будут отображаться в одну трубку (рис. 28). Кроме того, в траекториях трубки оказывается представлено множество близких сигналов.

Рис. 28.

Отображение F в СП сохраняет топологию пространства перцептивных признаков - более близкие участки сигнала отображаются в более близкие траектории A. При использовании радиуса гиперсфер, равного r, участки сигнала с расстоянием D<r могут быть отображены в один участок гипертрубки, а более далекие участки сигнала отобразятся в разные гипертрубки. Это свойство отображения F позволяет представить все множество реализаций речевого образа {A_i} в виде графа, образованного объединением гипертрубок в СП, где каждая гипертрубка соответствует множеству близких реализаций образа, а близкие участки реализаций представляются одним участком трубки (рис.29).

Рис. 29.

1.3. Обучение ДАЗУ

В процессе обучения ДАЗУ происходит покрытие гиперсферами областей СП, в которые отображаются реализации речевых образов из обучающего множества.

При обучении ДАЗУ запоминает образ A^ эталонной последовательности в СП. Это реализуется запоминанием n-грамм a^_t в соответствующих НЭ: w^_i=a^_t. Для обеспечения компактности представления эталона близкие точки образа a^_t, лежащие на расстоянии Dr, отображаются в одну гиперсферу и запоминаются в одном НЭ:

w^_m+1 = a^_t , если /i: D_n[w^_i,a^_t]<r, i=1..m (144)

где m-число НЭ, уже задействованных к моменту t. Таким образом НЭ, выделяются динамически. При отсутствии сигнала y_i в уже обученных НЭ текущая n-грамма в окне РС является новой для сети и запоминается - в одном из свободных НЭ значение адреса принимает значение n-граммы: w^_m+1=a^_t. При наличии сигнала в некотором НЭ y_i0 текущая n-грамма считается уже представленной в этом НЭ (отличается не более, чем на r от его адреса) и запоминания не происходит.

Точки образа (a^_t), формируемого РС на основании (143), ассоциативно связаны между собой. Для точек - центров гиперсфер запомненного в ДАЗУ на основе (144) образа W_(r)^={w_(r)^_i} такая связь нарушается ввиду "проглатывания" некоторых n-грамм, оказавшихся близкими к уже запомненным. Однако для двух последовательных точек W_(r)^ оказывается справедливо следующее свойство: расстояние между последней n-1-граммой первой точки и первой n-1-граммой последующей точки по метрике D_n-1 не превышает r. Ввиду этого под ассоциативно связанными в дальнейшем будем понимать именно такие точки. Можно говорить, что на множестве НЭ W_(r)^ определена функция автоассоциации:

F_ас(w_(r)^_i) = { w_(r)^_j: D_n-1[(w^²_i,...,w^ⁿ_i),(w^¹_j,...,w^^n-1_j)]r (145)

Если на вход обучающегося ДАЗУ подается пара последовательностей A₁ и A₂, представляющих различные реализации одного образа, то их близкие участки отобразятся в один участок трубки-траектории. Запомненный в ДАЗУ образ W_(r)^=W_(r)^₁W_(r)^₂ будет представлять в СП две трубки, сходящиеся в одну на близких участках (рис. 29). Отображая все обучающее множество последовательностей {A_i} в СП и запоминая его в ДАЗУ с динамическим выделением НЭ при некотором r, мы получаем образ-эталон в виде графа SG_(r)^, представленного объединением трубок, соответствующих отдельным реализациям A_i:

SG_(r)^ =  F_(r)( A_i ) =  W_(r)^ ^{i i}

Вершинам такого графа соответствуют отдельные гиперсферы w_(r)^_j, представленные в соответствующих НЭ, а направленным переходам между вершинами - ассоциативные связи между ними. При этом каждой реализации речевого образа A_i из обучающей выборки {A_i} соответствует последовательность связанных вершин такого графа - траектория. При достаточной полноте обучающего множества в траекториях на графе SG_(r)^ оказываются представлены все возможные реализации речевого образа, причем такое представление компактно, так как их близкие участки отображаются в одни участки траекторий.

Увеличение радиуса расфокусировки при обучении позволяет отобразить более далекие участки обучающих реализаций в одну трубку и, таким образом, уменьшить число НЭ, требуемых для представления эталона SG_(r)^. Поскольку значение r также определяет автоассоциативно связанные НЭ (145), то увеличение r после обучения означает не только расширение трубок эталона, но и увеличение числа ассоциативных связей между гиперсферами, т.е. увеличение числа переходов из одних трубок в другие. Отметим также, что увеличение длины n-грамм n ведет к увеличению размерности СП и повышению разделимости различных реализаций, т.е. увеличивает число вершин графа SG_(r)^ и уменьшает число связей между ними. Все эти свойства позволяют варьировать форму и детальность представления эталона.

Оптимальным расположением центров гипертрубок являются точки СП, соответствующие максимумам плотности распределения точек образов обучающих реализаций a^_t, что, при достаточной полноте обучающего множества, дает гарантию наиболее полного покрытия трубками тех областей СП, в которые может отобразиться произвольная реализация.

Такой топологии расположения трубок позволяет достичь применение к обучению ДАЗУ алгоритма самоорганизующихся карт Кохонена [53, 54]. В этом случае на каждом такте обучения t при наличии сигнала на выходе ДАЗУ выбирается НЭ, оказавшийся ближайшим к входной n-грамме по метрике D, и его адрес модифицируется по правилу:

w^_i(t+1) = w^_i(t) +  (a^_t - w^_i(t)),

для i такого, что

D_n[a^_t,w^_i] = min D_n[a^_t,w^_j], где <<1, ^j

что означает сдвиг (притяжение) координат центра гиперсферы w^_i в СП по направлению входной n-грамы a^_t на расстояние, пропорциональное величине (a^_t - w^_i(t)).

Алгоритм повторяется некоторое число итераций, постепенно сдвигая оси трубок к максимумам распределения точек a^_t в своей r-окрестности - центрам притяжения.

Применение алгоритма Кохонена модификации весов НЭ к ДАЗУ, работающему в режиме распознавания, делает его адаптивным - способным подстраивать координаты осей трубок к изменяющимся условиям функционирования (например, к изменению произнесения диктора).

2. Распознавание в динамическом ассоциативном запоминающем устройстве под управлением механизма внимания

Распознавание в ДАЗУ осуществляется как вложение траектории A^, соответствующей входной последовательности ВП A, в траекторию эталона - область одной из трубок графа SG_(r)^. Попаданию образа A^, формируемого РС ДАЗУ, в трубку W_(r)^_i соответствует наличие непрерывной последовательности откликов сответствующих НЭ (y_t), т.е., сигнала на выходе ДАЗУ, что и является критерием распознавания.

При распознавании каждое ДАЗУ хранит свой эталон, а все ДАЗУ работают как единое сигнальное пространство. В виду сложной топологии СП с возможностью перекрытия близких гиперсфер и отображением входного сигнала в несколько гипертрубок, как в разных ДАЗУ, так и в одном, для управления ДАЗУ в режиме распознавания используется механизм, реализующий функции, подобные локализации и генерализации внимания, и потому называемый механизмом внимания (МВ). Работа МВ основана на использовании ранее распознанной информации для предсказания следующей и подстройки радиусов расфокусировки НЭ под наилучшее распознавание ожидаемой.

Управление вниманием в отдельном ДАЗУ в общем случае может быть описано функцией R^~ зависимости радиусов расфокусировок R(t)={r_i(t)} всех НЭ W^ от предыдущего состояния {Y(t),R(t)}, - которое характеризуется наличием/отсутствием распознающего НЭ w^_p: y_p(t)0, и парой параметров R_ас(t) и R_общ(t), задающих радиусы расфокусировки на множествах НЭ W^_ас=F_ас(w^_p) и W^_общ=W^/W^_ас:

r_i(t+1) = R^~(Y(t), R(t), i ) =

Характеристики

Список файлов книги