IskusstvennyeNeironnyeSeti.TeoriyaIPraktika (В. В. Круглов, В. В. Борисов - Искуственные нейронные сети), страница 11
Описание файла
Файл "IskusstvennyeNeironnyeSeti.TeoriyaIPraktika" внутри архива находится в папке "В. В. Круглов, В. В. Борисов - Искуственные нейронные сети". Текстовый-файл из архива "В. В. Круглов, В. В. Борисов - Искуственные нейронные сети", который расположен в категории "". Всё это находится в предмете "нейрокомпьютерные сети" из 10 семестр (2 семестр магистратуры), которые можно найти в файловом архиве МАИ. Не смотря на прямую связь этого архива с МАИ, его также можно найти и в других разделах. Архив можно найти в разделе "книги и методические указания", в предмете "нейрокомпьютерные сети" в общих файлах.
Просмотр 11 страницы текстового-файла онлайн
Применительно к системам обработки данных, в том числе к искусственным нейронным сетям, ассоциация трактуется как взаимосвязь между информацией (образом) на входе логико-запоминающей среды и информацией (образом), хранящейся в логико-запоминающей среде. Способ доступа к информации в запоминающей среде, базирующийся на механизме ассоциации, получил название ассоциативного способа доступа. Ассоциативный способ доступа к информации обеспечивает:
• практически одновременный доступ ко всей хранящейся в памяти информации;
• относительную независимость времени поиска информации от емкости памяти;
• внесение элементов обработки информации непосредственно в процесс самого доступа;
• обработку информации непосредственно в среде ее хранения.
Эти, а также ряд других отличительных особенностей ассоциативного способа доступа к информации делает его чрезвычайно перспективным в системах обработки данных.
2.1.1. Ассоциации
Существуют различные концепции ассоциативной памяти. Однако все они предполагает наличие следующих элементов:
• логико-эапоминающей среды, являющейся носителем информации;
• множества записанных в памяти информационных объектов;
48
• структуры взаимосвязей между информационными объектами;
• механизма информационных взаимодействий в логико-запоминающей среде.
Вышеперечисленные элементы концепции ассоциативной памяти позволяют определить основной подход, в соответствии с которым ассоциации между информационными объектами (образами) трактуются как некая абстрактная структура взаимозависимостей (отношений), неявно закодированная в информационных объектах и в соответствующих связях между ними или в формах их представлений.
Эти отношения содержат компоненты двух типов, первые из которых задают сами информационные объекты, а вторые - вид отношений. Признаки этих отношений могут характеризовать свойства объектов, действия над ними, подчиненность, временные признаки и т. д. Очевидно, что такое представление ассоциации -наиболее простая конструкция, на основе которой можно построить структуры отношений произвольной сложности.
В зависимости от условий формирования отношений между ассоциируемыми объектами, ассоциации могут устанавливаться по критериям сходства объектов, контраста, по смежности проявления объектов во времени или в пространстве, а также в рамках определенной совокупности свойств, например, при обеспечении заданных пространственно-временных соотношений.
Логика взаимодействий между информационными объектами может быть реализована на основе двух концепций:
• формирование отношений ассоциаций между однородными объектами;
• концепция «составного отношения», где отношения ассоциаций устанавливаются между качественно различными объектами.
Вид связи между ассоциируемыми объектами может быть различным:
• символьная - связь между объектами устанавливается «на основании соглашения»;
• индексная - связь ассоциируется в силу существующих отношений между объектами;
• иконическая - связь между объектами устанавливается на основе фактического сходства;
• гибридная - сочетает особенности различных видов связи.
49
В зависимости от степени соответствия ассоциируемых объектов различают автоассоциации и гетероассоциации. Автоассоциации реализуются при условии соответствия соотносимых объектов. Причем объект отыскивается по его произвольным частям, имеющим большую или меньшую корреляцию с искомым объектом, или по его фрагментам в случае, если они достаточны для того, чтобы отличить этот объект от остальных. Для гетероассоциации характерно то, что инициируемый объект структурно не соответствует любому из поисковых объектов и формируется как ответ на специфический ключевой объект.
Ассоциируемые объекты могут быть представлены либо прямыми, либо косвенными (непрямыми) ассоциациями. Прямые ассоциации по способу представления в виде функциональной зависимости могут инициироваться либо логически детерминированной последовательностью, либо на основе ассоциативной связи посредством прямых указателей. Представление непрямых ассоциаций в виде функциональной зависимости образуется на основе ассоциативных связей посредством перекрестных ссылок.
В контексте трактовки понятия ассоциации как структуры взаимозависимостей между информационными объектами оно отражает наличие взаимосвязей между данными и не имеет отношения к самому механизму хранения информации.
В рамках подхода, рассматривающего ассоциации как коллективные или интегральные изменения в нейронной сети (логико-запоминающей среде), ассоциативные свойства сети могут быть рассмотрены:
• во-первых, с точки зрения возможности коллективного доступа ко всей распределенной в нейронной сети информации, а также параллельной обработки и одновременного преобразования всех данных непосредственно в нейронной среде;
• во-вторых, с точки зрения практической реализации отношений между размещенными в нейронной сети, ассоциируемыми информационными объектами. В этом случае свойства сети могут существенным образом влиять на интерпретацию отношений между информационными объектами, позволяя по-новому подойти к исследованию этих объектов и взаимодействиям между
Именно этот подход позволяет выделить типы нейронных сетей, эффективно используемых для реализации различных задач ассоциативной памяти.
50
2
2.1.2. Модели ассоциативной памяти
Ассоциативная память может быть определена как система для записи, хранения, поиска, обработки и считывания информации, в которой данные (знания) об объекте могут быть инициализированы по заданному фрагменту этих данных (знаний), используемому в качестве поискового.
Исходя из этого определения, можно сформулировать решаемые ассоциативной памятью задачи:
• соотнесение поисковой информации с хранимой и дополнение ее (инициализация) до точного описания объекта, т. е. всей информации, которая доступна ассоциативной памяти;
• фильтрация (коррекция) поисковой информации относительно всего объема хранимой в ассоциативной памяти информации, выделение недостоверной и на основании оставшейся решение первой задачи.
Процессы, аналогичные биологическим механизмам запоминания и обработки информации, можно представить с помощью различных моделей ассоциативной памяти, позволяющих отобразить отношения (ассоциации) произвольной сложности между информационными объектами. Однако все эти отношения могут быть реализованы в виде простых конструкций - троек компонентов, упорядоченной пары информационных объектов О и У, и типа отношения А: О < А > v. Одна из простейших моделей ассоциативной памяти для отображения таких отношений показана на рис. 2.1.
Модель состоит из ассоциативной логико-запоминающей среды (нейронной сети), связанной с двумя каналами ввода и одним каналом вывода информации.
На этапе записи (обучения) из первого канала ввода на вход К подается входная информация, а по второму каналу - признаковая информация С, представляющая контекст, в котором входная информация записывается в память.
Ключ (К)
Контекст (С)
Ответная реакция
(Я)
Рис 2 1. Модель ассоциативной памяти
51
Ключ
(К)
Контекст
(С)
r(t-a)
Ассоциативная среда
^
Ответная
реакция
(r)
Рис. 2.2. Модель ассоциативной памяти с обратной связью
На этапе функционирования (считывания) при появлении ключа К (или его фрагмента) на выходе памяти формируется ответная реакция r, связанная с ключом К. Таким образом, записанная в память информация может быть получена с использованием любых ее фрагментов, используемых в качестве поисковых. Задавая различный контекст С, можно точнее конкретизировать информацию, которую необходимо получить.
Рассмотрим на примере, каким образом должен быть организован процесс накопления и поиска информации в ассоциативной памяти, чтобы обеспечить цикличность процесса, при котором выбранный элемент информации становится ключом для поиска новой информации.
По трем входным каналам одновременно могут вводиться наборы значений. По первому каналу в момент времени t подается адресная информация k(t), а по второму - признак c(t). Отклик r{t) по каналу обратной связи подается также на вход ассоциативной среды. Выходной канал служит для выдачи информации.
При функционировании такой ассоциативной памяти ключи k(t) и признаки c(t) подаются через интервалы времени, соответствующие задержке канала обратной связи.
Процесс работы памяти будем рассматривать в предположении, что тройка [К(0, c(f), r(t-a)] представляет собой единый статический образ, заданный в момент времени f, причем возможна его одновременная запись в память за одну операцию. Допустим также, что на этапе записи r(t) и k(t) одинаковы.