neironne_seti_i_neirokompjuter (1085713), страница 17
Текст из файла (страница 17)
Прогнозирование появления новых данных с заранее неизвестныминейронной сети выходами. Если выходы заранее известны, то можнооценить качество работы подготовленной нейронной сети. Впротивном случае, результаты, полученные при запуске нейроннойсети, могут быть использованы в качестве прогноза. Данный тип задачдля нейронных сетей будет рассмотрен в лабораторной работе № 5.2.
Распознавание образов (подробнее данная задача будет рассмотрена влабораторной работе № 3). В этом случае, оцениваетсячувствительность нейронной сети к небольшому изменениюпараметров исследуемого вектора, с помощью которого проводилосьобучение.95PDF created with pdfFactory trial version www.pdffactory.com4. НЕЙРОПРОЦЕССОРЫ4.1.
Определение и классификация нейропроцессоровНейропроцессор – это кристалл, который обеспечивает выполнениенейросетевых алгоритмов в реальном масштабе времени.Среди разновидностей кристаллов, используемых в качественейропроцессоров выделим следующие (рис. 4.1):§ специализированные нейрочипы;§ заказные кристаллы (ASIC);§ встраиваемые микроконтроллеры (mC);§ процессоры общего назначения (GPP);§ перепрограммируемые логические интегральные схемы (FPGA,ПЛИС);§ процессоры цифровой обработки сигналов (ПЦОС);§ транспьютеры.Специализированные нейрочипы часто реализуются на основепроцессорных матриц (систолических процессоров).
Такие нейрочипыблизки к обычным RISC-процессорам, объединяют в своем составенекоторое число процессорных элементов, а управляющая и дополнительнаялогика, как правило, строится на базе дополнительных схем.Различают также нейросигнальные процессоры, ядро которыхпредставляет собой типовой ПЦОС, а реализованная на кристалледополнительнаялогикаобеспечиваетвыполнениехарактерныхнейросетевых операций (например, дополнительный векторный процессор ит.п.).Транспьютеры, в частности T414, T800, T9000, и транспьютероподобныеэлементы являются важным компонентом ВСМП, однако, их применениесдвигается в сторону коммутационных систем и сетей ЭВМ [2].4.2.
Параметры нейропроцессоровДля оценки производительности устройств (реализованных на основеПЦОС и ПЛИС), применяемых для ЦОС, контролируется время выполнениятиповых операций ЦОС, таких как цифровая фильтрация, БПФ и др.В свою очередь, для оценки производительности нейропроцессоров инейрокомпьютеров применяется ряд специальных показателей (параметров):§ MMAC – миллионов умножений с накоплением в секунду;§ CUPS (Connections Update per Second) – число измененных значенийвесов в секунду (оценивает скорость обучения);§ CPS (Connections per Second) – число соединений (умножений снакоплением) в секунду (оценивает производительность);96PDF created with pdfFactory trial version www.pdffactory.comСпециализированныенейрочипыПроцессорыцифровойобработкисигналов(ПЦОС)Перепрограммируемаялогика(FPGA, ПЛИС)НейропроцессорыПроцессорыобщегоназначения(GPP)Заказныекристаллы(ASIC)Встраиваемыемикроконтроллеры (µC)Рис.
4.1. Кристаллы, используемые в качестве нейропроцессоров§ CPSPW = CPS/Nw, где Nw – число синапсов в нейроне;§ CPPS – число соединений примитивов в секунду:CPPS = CPS • Bw • Bs,(4.1)где Bw, Bs – разрядность чисел, отведенных под веса и синапсы.Ориентация процессоров на выполнение нейросетевых операцийобуславливает, с одной стороны, повышение скоростей обмена междупамятью и параллельными арифметическими устройствами, а с другойстороны, уменьшение времени весового суммирования (умножения и97PDF created with pdfFactory trial version www.pdffactory.comнакопления) за счет применения фиксированного набора команд типарегистр-регистр.4.3.
Специализированные нейрочипыОсновное отличие нейрочипов от других процессоров - этообеспечение высокого параллелизма вычислений за счет примененияспециализированного нейросетевого логического базиса или конкретныхархитектурных решений. Использование возможности представлениянейросетевых алгоритмов для реализации на нейросетевом логическомбазисе как раз и является основной предпосылкой резкого увеличенияпроизводительности нейрочипов.Проведем классификацию нейропроцессоров по ряду основныхпризнаков:§ по типу логики нейропроцессоры разделяют на цифровые, аналоговыеи гибридные (рис. 4.2);§ по типу реализации нейросетевых алгоритмов – с полностьюаппаратной реализаций и с программно-аппаратной реализацией(когда нейроалгоритмы хранятся в ПЗУ);§ похарактеруреализациинелинейныхпреобразований–нейропроцессоры с жесткой структурой нейронов (аппаратнореализованных) и нейрокристаллы с настраиваемой структуройнейронов (перепрограммируемые);§ по гибкости структуры нейронных сетей – нейропроцессоры сжесткой и переменной нейросетевой структурой (т.е.
топологиянейронных сетей реализована жестко или гибко).Производство специализированных нейрочипов ведется во многихстранах мира.Большинство из них ориентируются на закрытое использование (таккак создаются для конкретных прикладных систем), однако срединейрочипов достаточно и универсальных кристаллов (табл. 4.1) [10, 13].Исследования в области разработки перспективных нейрочиповпроводят многие лаборатории и университеты, среди которых можновыделить следующие [2]:§ В США – лаборатории Naval Lab и MIT Lab, ПенсельванскийУниверситет, Колумбийский Университет, Аризонский Университет,Иллинойский Университет и др.§ В Европе – Берлинский Технический Университет, ТехническийУниверситет Карлсруе, Институт микроэлектроники г.Штутгарт и др.§ В России – МФТИ, Ульяновский Государственный ТехническийУниверситет,МГТУим.Н.Э.Баумана,КрасноярскийГосударственныйтехническийуниверситет,РостовскийГосуниверситет и др.98PDF created with pdfFactory trial version www.pdffactory.comРис.
4.2. Классификация нейрочиповТак, в МГТУ им. Н.Э. Баумана нейросетевой и нейрокомпьютернойпроблематикой занимаются более десятка лабораторий на четырехфакультетах: «Информатики и систем управления», «Специальногомашиностроения»,«Радиоэлектроникиилазернойтехники»,«Биомедицинских систем».Для создания единого образовательного пространства в областинейроинформатики на кафедре «Конструирование и технологияпроизводства электронной аппаратуры» МГТУ им. Н.Э. Баумана проводятсяработы по созданию интерактивной глобальной информационно-обучающейсистемы в области нейрокомпьютеров и нейроинформатики.
Основныминаправлениями деятельности этой кафедры в области нейросетевыхприложений являются: нейроадаптивные системы активного управленияпространственнымиволновымиполями (акустика и вибрации);нейроадаптивныесистемыуправленияробототехническимитехнологическими комплексами; распознавание изображений; обработкасигналов в системах неразрушающего контроля; создание системинтеллектуального управления трафиком в телекоммуникационныхсистемах; исследовательские работы в области нейроинформатики(экспертные системы, аналитические системы, контекстно-поисковыесистемы и т.п.) [13].99PDF created with pdfFactory trial version www.pdffactory.comТаблица 4.1. Краткая характеристика специализированных нейрочиповМаксима Максимльноеальноечислочислосинапсов* слоев**НаименованиеКомпанияизготовительРазрядность,бит12345648--400 ММАСNx16--MIMD, N – числопроцессоровПримечаниеMA16SiemensNNP (NeuralNetworksProcessor)AccurateAutomationСNAPS-1064AdaptiveSolutions16128 Кбайт64100 NAP ChipHNC32512 Кбайт44 процессорныхэлемента с плав.арифметикойNeuroMatrixNM6403, Такт.частота 50 МГцМодуль,Россия64 (векторныйпроцессор), 32RISC ядро4096 шт.24Совместим спортами TMS320C4xNeuroMatrixNM6404, Такт.частота 133 МГцМодуль,Россия64 (векторныйпроцессор),32 RISC-ядро4096 шт.48Совместимс портамиTMS320C4x32644961024164096 шт.CLNN 32 CLNN 64 BellcoreNC 3001NeuriGamZISC 036 (ZeroInstruction SetComputer)IBM64-разрядныевходныевекторыETANN 80170NWIntel64 входаMD-1220Micro Dev.MicroMT 19003 - NeuralCircuitInstruction SetEngineeringProcessor(MCE)-108 перекл./с32нейрона 2 x 108 перекл./с32Частота 20 МГц,Векторно36нейронов прототипныйнейрочипДва банка 3 слоявесовпо 64 Аналоговая64х80нейрона1664 шт.16- разрядныйумножитель;35- разрядныйсумматор-5-16 (одногонейрона)-88 нейронов1RISC-процессорc 7 специальнымикомандами1024 256- Векторномерных прототипныйвекторов нейрочипNI 1000NestorNLX420(NLX 110, 230)AdaptiveLogic161 Мбайт16OBL ChipOxfordComputer1616 Мбайт-100PDF created with pdfFactory trial version www.pdffactory.com16 процессорныхэлементовОкончание таблицы 4.1123L-Neuro 1.0L-Neuro 2.3Philips1616Pram-256 ChipUCLi Ltd.SANDDatafactoryACC41536561626 МГцнейронов60 МГц(12х16)8 (одногонейрона)-25633 МГцнейронов16-416--161 Мбайт6470 входныхнейронов-4096 весов200 MCPSГеркулесРоссияNeuro ClassifierУниверситет Твенте,DESYANNAAT&TЧислонейронов 16256WSC (Wafer ScaleIntegration)Hitachi-SASLM2Mitsubishi2 (одногонейрона)-4096(64x64) 50 МГцнейроновTOTEMKent (Uni.,UK),di Trento(Italy)16 (одногонейрона)-6430 МГцнейронаNeuron 3120,Neuron 3150Echelon(США)6 (внутр)1 вход., 2 х 1010 перекл./с1 выход-Число входову нейрона 256-1664 связи576на нейрон нейронов8 бит (шинаданных)--Наличиепараллельных,последовательных икоммуникациионныхпортов* Максимальное число синапсов определяет размер внутрикристалльной памяти весов;** Максимальное число слоев определяется числом операций умножения с накоплением,выполняемых за один такт для операндов длиной 8 битПоказатели производительности некоторых нейрочипов приведены втабл.
4.2 [13].Рассмотрим наиболее популярные специализированные нейрочипыболее подробно [10].101PDF created with pdfFactory trial version www.pdffactory.comНейросигнальный процессор NeuroMatrix NM6403Основа нейрочипа NeuroMatrix NM6403 (компания Модуль, Россия) –ЦП, который является высокопроизводительным ПЦОС. ЦП состоит из двухбазовых блоков: 32-разрядного RISC-процессора и 64-разрядного векторногопроцессора, обеспечивающего выполнение векторных операций надданнымипеременнойразрядности.Имеютсядваидентичныхпрограммируемых интерфейса для работы с внешней памятью различноготипа и два коммуникационных порта, аппаратно совместимых с портамиПЦОС TMS320C4x, для возможности построения многопроцессорныхсистем [15].Таблица 4.2.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
