LEKCY14 (675804)
Текст из файла
96
Однослойный персептрон - простейшая модель ассоциативной памяти
Однослойным персептроном назовем множество нейронов Мак-Каллока - Питтса, которые имеют общие входы. Пусть - входные сигналы, а
- выходной сигнал
-ого нейрона,
, где
- число нейронов. Тогда
Здесь - общий вектор входных сигналов,
- синаптический вектор
- ого нейрона,
- его пороговое значение. Выходные сигналы принимают либо нулевое, либо единичное значения (бинарны). Предположения о бинарности вектора
делать не будем. Персептрон формирует вектор выходных сигналов
. Обозначим через
- матрицу, в строках которой находятся синаптические векторы
. Ее назовем синаптической. Введем также вектор
, который назовем пороговым. Тогда выходной вектор персептрона суть
где функция вычисляется покоординатно. Множество бинарных векторов (координаты равны либо нулю, либо единице) обозначим через
. Пусть
- некоторый набор входных векторов, а
- множество выходных векторов. Поставим задачу об обучении персептрона. Требуется выбрать синаптическую матрицу
и пороговый вектор
так, чтобы для входных векторов
персептрон формировал выходные векторы
, т.е.
Если обучение удалось произвести, то персептрон выполняет функции ассоциативной памяти. По входному вектору генерирует связанный с ним выходной вектор
. При этом если входной вектор
слегка искажен, выходным вектором все равно будет вектор
(функция
непрерывна). Часто пары векторов
называют ассоциативными парами.
Пусть и векторы
линейно независимы. Тогда задача об обучении однослойного персептрона разрешимы. В силу того, что нейроны слоя не связаны между собой, достаточно решить задачу обучения для произвольного
-ого нейрона (персептрон из одного нейрона). Его ассоциативные пары имеют вид:
, где
- координата с номером
вектора
, которая принимает либо нулевое, либо единичное значения. Таким образом, нейрон осуществляет классификацию входных векторов: одним “ приписывает” нулевое, а другим - единичное значения признака. Выше показано, что в рамках сделанных предположений о векторах
задача классификации разрешима. Описан алгоритм выбора синаптического вектора
и порогового значения
, для которых
.
Задача об обучении персептрона часто оказывается неразрешимой даже в простых случаях. Рассмотрим персептрон, состоящий из одного нейрона, который имеет два синаптических входа, т.е. входной вектор суть . Поставим задачу найти синаптический вектор и пороговое значение такими, чтобы для входных векторов
и
выходной сигнал был равен единице, а для векторов
и
- нулю? Данный нейрон должен реализовать логическую операцию “исключающее или”. Выпуклые оболочки векторов
и
очевидно пересекаются в точке
. Следовательно, поставленная задача в принципе не разрешима.
Нерешенная простейшая задача сильно уменьшает энтузиазм. Однако, оказывается, что она разрешима на двухслойном персептроне. Рассмотрим конструкцию из трех нейронов. Первые два из них имеют общие входы и образуют первый слой. Выходные сигналы этих нейронов являются входными сигналами для третьего нейрона. Пусть и
входной и выходной векторы первого слоя, а
- выходной сигнал третьего нейрона. Положим для нейронов
,
,
.Простым перебором доказывается, что описанный персептрон реализует операцию “исключающее или”.
Рассмотренный пример - решение задачи классификации на множестве бинарных векторов. Оказывается, что теоретически двухслойный персептрон решает задачу классификации бинарных векторов в общем случае. Однако, это утверждение имеет лишь теоретическое значение, поскольку доказывается оно, когда число нейронов в первом слое равно , где
- размерность входного вектора.
Характеристики
Тип файла документ
Документы такого типа открываются такими программами, как Microsoft Office Word на компьютерах Windows, Apple Pages на компьютерах Mac, Open Office - бесплатная альтернатива на различных платформах, в том числе Linux. Наиболее простым и современным решением будут Google документы, так как открываются онлайн без скачивания прямо в браузере на любой платформе. Существуют российские качественные аналоги, например от Яндекса.
Будьте внимательны на мобильных устройствах, так как там используются упрощённый функционал даже в официальном приложении от Microsoft, поэтому для просмотра скачивайте PDF-версию. А если нужно редактировать файл, то используйте оригинальный файл.
Файлы такого типа обычно разбиты на страницы, а текст может быть форматированным (жирный, курсив, выбор шрифта, таблицы и т.п.), а также в него можно добавлять изображения. Формат идеально подходит для рефератов, докладов и РПЗ курсовых проектов, которые необходимо распечатать. Кстати перед печатью также сохраняйте файл в PDF, так как принтер может начудить со шрифтами.