Хайкин С. - Нейронные сети (778923), страница 7
Текст из файла (страница 7)
Синапсы (зупарзез) — это элементарные структурные и функциональные единицы, которые передают импульсы между нейронами. Самым распространенным типом синапсов являются химические (сЬеппса! зупарзе), которые работают следующим образом. Предсинаптический процесс формирует передаваемую субстанцию (папяп!ь гег зпЬзгапсе), которая методом диффузии передается по синаптическим соединениям между нейронами и влияет на постсинаптический процесс. Таким образом, синапс преобразовывает предсинаптический электрический сигнал в химический, а после этого — в постсинаптический электрический [977].
В электротехнической терминологии его можно было бы назвать невзаииным четырехпалюсником (попгес!ргоса! !«чо-реп г)еч!се). В традиционных описаниях нейронной организации синапс представляют простым соединением, которое может передавать возбуждение (ехсйабоп) или торможение (!пЬ!Ь!1!оп) (но не то и другое одновременно) между нейронами. Ранее уже говорилось, что под пластичностью понимается способность нервной системы адаптироваться к условиям окружающей среды [194), [279). В мозге взрослого человека пластичность реализуется двумя механизмами: путем создания новых синаптических связей между нейронами и за счет модификации существующих. Аксоны (ахоп) (линии передачи) и дендриты (г!епдп!е) (зоны приема) представляют собой два типа элементов клетки, которые различаются даже на морфологическом уровне. Аксоны имеют более гладкую поверхность, более тонкие границы и большую длину.
Дендриты (свое название они получили из-за сходства с деревом) имеют неровную поверхность с множеством окончаний [315). Существует огромное множество форм и размеров нейронов, в зависимости от того, в какой части мозга они находятся. На рнс. 1.2 показана пирамидальная клетка (ругаш!г!а! се!!) — самый распространен- 1.2. Человеческий мозг 39 ный тип нейронов коры головного мозга. Как и все нейроны, пирамидальные клетки получают сигналы от щупалец дендритов (фрагмент дендрита показан на рис.
1.2). Пирамидальная клетка может получать более 10000 синаптических сигналов и проектировать их на тысячи других клеток. Выходные сигналы большинства нейронов преобразуются в последовательность коротких электрических импульсов. Эти импульсы, называемые потенциалами действия (асбоп рогепба1) или выбросами (зрйге), берут свое начало в теле нейрона и передаются через другие нейроны с постоянной скоростью и амплитудой.
Причина использования потенциала действия для взаимодействия нейронов лежит в самой физической природе аксона. Аксон нейрона имеет большую длину и маленькую толщину, что выражается в его большом электрическом сопротивлении и емкости. Обе эти характеристики распределены по аксону. Таким образом, его можно смоделировать как линию электропередачи с использованием уравнения кабеля (саЪ(е ейпабоп).
Анализ этого уравнения показывает, что подаваемое на один конец аксона напряжение экспоненциально уменьшается с расстоянием, достигая на другом его конце малых значений. Потенциалы действия позволяют обойти эту проблему !46). В человеческом мозге существуют крупно- и мелкомасштабные анатомические структуры. Эти верхний и нижний уровни отвечают за выполнение разных функций. На рис. 1.3 показана иерархия уровней организации мозга, составленная на основе анализа отдельных областей мозга (194), [977). Сипапсы (зупарзе) представляют собой самый нижний уровень — уровень молекул и ионов. На следующих уровнях мы имеем дело с нейронными микроконтурами, дендритными деревьями и в завершение — с нейронами. Под нейронным микрокоигпуром (пента! ппсгос!гсш1) понимается набор синапсов, организованный в шаблоны взаимосвязей, выполняющих определенную операцию.
Нейронный микроконтур можно сравнить с электронным чипом, состоящим из набора транзисторов. Минимальный размер микроконтуров измеряется в микронах, а скорость операций — в миллисекундах. Нейронные микроконтуры группируются в дендритпые субблоки (депдпбс зпЪппй), составляющие депдритные деревья (депдпбс 1гее) отдельных нейронов. Весь нейрон (пепгоп) имеет размеры порядка 100 микрон и содержит несколько дендритных субблоков. На следующем уровне сложности находятся локальные цепочки (!оса! с(гсш1) (размером порядка 1 мм), состоящие из нейронов с одинаковыми или сходными характеристиками. Эти наборы нейронов выполняют функции, характерные для отдельных областей мозга. За ними в иерархии следуют межрегиональные цепочки (!п1епея!опа! с(гсш1), состоящие из траекторий, столбцов и топографических карт и объединяющие несколько областей, находящихся в разных частях мозга.
Топографические карты (1ороягарЪ!с шар) предназначены для ответа на поступающую от сенсоров информацию. Эти карты часто организуются в виде таблиц, причем визуальные, звуковые и соматосенсорные карты хранятся в стеке, сохраняющем пространственную конфигурацию конкретных точек возбуждения. На рис. 1.4 40 Глава 1. 8ведение упаавпа деидритов Сииаптические входы Верхупа деидр скис Рис. 1.2.
Пирамидальная клетка показана цитоархитектурная карта церебральной коры мозга, разработанная в ~157). На этом рисунке четко видно, что разные сенсорные сигналы (моторные, соматические, визуальные и т.п.) отображаются на соответствующие области церебральной коры с сохранением порядка. На заключительном уровне сложности топографические карты и прочие межрегиональные цепочки связываются друг с другом, образуя центральную нервную систему (сеп1га1 пегропз зуыетп).
1,2. Человеческий мозг 41 Рис. 1.3. Структурная организация уровней мозга Очень важно уяснить, что описанные структурные уровни организации являются уникальными характеристиками мозга. Здесь ничто не напоминает цифровой компьютер, и в работе с нейронными сетями мы нигде с ним не столкнемся. Тем не менее мы направим свои стопы в сторону создания иерархии вычислительных уровней, напоминаюших представленные на рис.
].3. Искусственные нейроны, которые мы будем использовать для создания нейронных сетей, сильно упрощены по сравнению с их биологическими прототипами. Нейронные сети, которые можно создать в настоящее время, примитивны по сравнению с локальными и межрегиональными цепочками мозга. Утешением служит только тот факт, что за последние два десятилетия произошел большой прорыв на многих фронтах исследований. Принимая во внимание аналогию с нейробиологией, а также многообразие теоретических и технологических средств, можно предположить, что следующее десятилетие принесет более глубокое понимание искусственных нейронных сетей. Предметом настоящей книги является изучение нейронных сетей с точки зрения инженерииз.
Сначала будут описаны модели искусственных нейронов, формирующих основу нейронных сетей. Сами нейронные сети рассматриваются в последуюших главах. з Применение нейронных сетей в области нейронного моделирования, познания и нейрофизиологии описано в [46]. Понятное описание вычислительных аспектов мозга содержится в [! 94].
Детальное описание нейронных механизмов и человеческого мозга содержится в [315], [536], [565], [604], [975], [976]. 42 Глава 1. Введение !7 Рис. 1.4. Цитоархитектурная карта церебральной коры мозга. Различные области отличаются между собой по толщине слоя и типам составляющих их клеток. Выделим некоторые наиболее важные области. К моторной коре относятся область 4 — моторная цепочка, премоторная область 6; фронтальная область зрения 8. Соматосенсорную кору составляют области 3, 1, 2. Области 17-19 относятся к визуальной коре, а области 41 и 42 — к слуховой.
(На основании !167), с разрешения издательства Ох1оггГ Опшегв|ту Ргезз.) 1.3. Модели нейронов Нейрон представляет собой единицу обработки информации в нейронной сети. На блок-схеме рис. 1.5 показана модель (шог)е!) нейрона, лежащего в основе искусственных нейронных сетей. В этой модели можно выделить три основных элемента. 1. Набор синилсов (зупарзе) или связей (соппест(пя !)п(г), каждый из которых характеризуется своим весом (туе(я)тт) или сизой (зтгепят)т). В частности, сигнал х, на входе синапса 1, связанного с нейроном и, умножается на вес шь,. Важно обратить внимание на то, в каком порядке указаны индексы синаптического веса шь .
Первый индекс относится к рассматриваемому нейрону, а второй — ко входному окончанию синапса, с которым связан данный вес. В отличие от синапсов мозга синаптический вес искусственного нейрона может иметь как положительные, так и отрицательные значения. 2. Сумматор (агЫег) складывает входные сигналы, взвешенные относительно соответствующих синапсов нейрона. Эту операцию можно описать как линейную комбинацию.
1.3. Модели нейронов 43 Порог ь, х, Выходной сигнал Входные сигнаты Сииаптические веса Рно. 1.5. Нелинейная модель нейрона 3. Функция активации (ась)оа1юп бапсгюп) ограничивает амплитуду выходного сигнала нейрона. Эта функция также называется функцией сахатия (яс(пааЬ(пя йтпс6оп).
Обычно нормированный диапазон амплитуд выхода нейрона лежит в интервале (О,Ц нли( — 1,Ц. иа — — ~ юах, а=1 уь — — гр(пь + 6а) (1. 1) (1.2) где х„ха,..., хго — входные сигналы; юаг, юка,..., юд — синаптические веса нейрона 6; пд — линейная кадгбинация входных воздействий (1)пеаг сотЬ(пег опьрш); 6ь— порог; гр( ) — функция активации (ас1(оайоп бзпсг)оп); уд — выходной сигнал нейрона. Использование порога 6а обеспечивает эффект афиннага лреобразования (айтпе ьгалягоппаь)оп) выхода линейного сумматора иа. В модели, показанной на рис.
1.5, постсинаптичсский потенциал вычисляется следующим образом: (1.3) В частности, в зависимости от того, какое значение принимает порог 6ь, положительное или отрицательное, индуцированное локальное иоле (1пдпсед 1оса! ЙеЫ) или потенциал активации (асйяабоп ро!епйа1) ть нейрона )с изменяется так, как показано В модель нейрона, показанную на рис. 1.5, включен нораговый элемент (Ьтая), который обозначен символом 6а. Эта величина отражает увеличение или уменьшение входного сигнала, подаваемого на функцию активации.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
