kursovik (Изучение технологии нейронных сетей в профильном курсе информатики), страница 6

Содержание образования по теме «Технологии нейронных сетей»

Биологический нейрон и его кибернетическая модель. Преобразование информации нейроном. Архитектура нейронных сетей. Однослойный персептрон. Многослойный персептрон. Преобразование информации нейронной сетью. Обучение нейронной сети. Обучение с учителем. Алгоритм обучения нейронных сетей методом обратного распространения ошибок. Программный эмулятор Neural Network Wizard 1.7. Практическое применение нейронных сетей.

В соответствии с содержанием предлагается следующее поурочное тематическое планирование.

Тематическое планирование по теме «Технологии нейронных сетей» (5 часов)

Примечания.

1) Для усвоения учащимися данной темы необходимы знания из теории матриц, которыми они не обладают. Эту проблему можно решить, заменив понятие матрицы понятиями одномерного массива и двумерного массива, которые сформированы у учащихся при изучении основ алгоритмизации и программирования. Предложенный конспект второго урока реализует эту идею.

2) Нельзя при изучении нейронных сетей отказываться от рассмотрения математической модели нейронной сети. В противном случае, по мнению авторов, есть опасность превращения модели нейронной сети в «черный ящик».

Конспект урока

Урок 2. ТЕМА: Нейронные сети

ЦЕЛИ 1) образовательные: сформировать понятия нейронной сети, понятия однослойного персептрона, многослойного персептрона, сформировать представления о механизме обработки информации в нейронных сетях, сформировать умение обрабатывать входную информацию;

2) развивающие: развить память, абстрактно-логическое мышление;

3) воспитательные: воспитать дисциплинированность.

ХОД УРОКА:

1. Организационный момент.

[Назвать тему урока]

2. Опрос по теме предыдущего урока (актуализация знаний).

[Двух учеников к доске: один ученик объясняет кибернетическую модель нейрона, другой – виды активационных функций; третий ученик, пока двое готовятся у доски, рассказывает о том, что такое нейрокибернетика]

Предполагаемые ответы учащихся

1) Нейрокибернетика

Основную идею нейрокибернетики можно сформулировать следующим образом. Единственный объект, способный мыслить, – это человеческий мозг. Поэтому любое мыслящее устройство должно каким-то образом воспроизводить его структуру.

Нейрокибернетика ориентирована на аппаратное моделирование структур, подобных структуре мозга. Физиологами давно установлено, что основой человеческого мозга является большое количество (до 10²¹) связанных между собой взаимодействующих нервных клеток – нейронов. Поэтому усилия нейрокибернетики были сосредоточены на создании элементов, аналогичных нейронам, и их объединении в функционирующие системы. Эти системы принято называть нейронными сетями, или нейросетями.

Основная область применения нейрокомпьютеров – распознавание образов.

2) Нейрон

Искусственный нейрон имитирует свойства биологического нейрона. На вход искусственного нейрона поступает некоторое множество сигналов, каждый из которых является выходом другого нейрона. Каждый вход умножается на соответствующий вес, аналогичный синоптической силе, и все произведения суммируются, определяя уровень активации нейрона.

Рис 1.

Множество входных сигналов, обозначенных X[1], X[2], X[3],...X[m], поступает на искусственный нейрон. Эти входные сигналы, в совокупности обозначаемые одномерным массивом X, соответствуют сигналам, приходящим в синапсы биологического нейрона. Каждый сигнал умножается на соответствующий вес W[1], W[2], W[3],...W[m], и поступает на суммирующий блок, обозначенный СУМ. Каждый вес соответствует "силе" одной биологической синоптической связи. Множество весов в совокупности обозначается одномерным массивом W. Суммирующий блок, соответствующий телу биологического элемента, складывает взвешенные входы алгебраически, создавая выход, который мы будем называть NET.

NET = X[1]*W[1]+X[2]*W[2]+…+X[m]*W[m].

3) Активационные функции

Сигнал NET далее, как правило преобразуется активационной функцией f и дает выходной нейронный сигнал Y. Активационная функция может быть обычной линейной функцией:

Y=K(NET), где К – постоянная,

пороговой функцией

Y=1,если NET>T

Y=0, если NET<=T, где T – некоторая постоянная пороговая величина,

логистической (сигмоидальной) функцией, которая осуществляет нелинейную обработку выходного сигнала NET.

Y=1/(1+e(-σNET)).

Данная функция является сжимающей, т.к. при любых значениях NET значения Y принадлежит некоторому конечному интервалу.

[Выступившим ученикам выставить отметки]

3. Изложение новых знаний.

На прошлом уроке мы рассмотрели элементарную единицу нервной системы человека – нейрон, а также рассмотрели его модель. Нейроны объединяются между собой в сети – нейронные сети.

<>Нейронные сети – совокупность взаимодействующих между собой нейронов.

Искусственные нейронные сети позволяют моделировать деятельность нервной системы.

Общее число нейронов в центральной нервной системе человека достигает 10¹⁰–10¹¹, при этом каждая нервная клетка связана в среднем с 10³–10⁴ других нейронов. Установлено, что в головном мозге совокупность нейронов в объеме масштаба 1 мм³ формирует относительно независимую локальную сеть, которая несет определенную функциональную нагрузку.

Биологические нейронные сети – достаточно сложны по своей структуре. Искусственно создаваемые нейронные сети являются их упрощенными моделями.

Создано множество моделей нейронных сетей, имеющих различную архитектуру.

Первой нейронной сетью был так называемый персептрон Розенблатта. Однослойный персептрон – простейший вид нейронной сети и имеет следующий вид.

Рис. 2

Однослойные сети имеют один слой вычисляющих нейронов, обозначаемых квадратами. Слой нейронов, обозначенных кругами, служит лишь для распределения входных сигналов и поэтому не учитывается при подсчете слоев нейронной сети. Нейронная сеть имеет m входов и n выходов.

Значения входов X можно обозначить одномерным массивом X, а значения выходов одномерным массивом Y.

Каждый элемент из множества входов X соединен отдельным весом с каждым искусственным нейроном. А каждый искусственный нейрон дает взвешенную сумму входов.

Будем считать веса элементами двумерного массива W размерностью m*n. Например, W[3, 2] – это вес, связывающий третий вход со вторым нейроном.

Значения выходов для нейронной сети определяются по формулам:

Y[1] = f (X[1] * W[1, 1] + X[2] * W[2, 1] + … + X[m] * W[m, 1]);

Y[2] = f (X[1] * W[1, 2] + X[2] * W[2, 2] + … + X[m] * W[m, 2]);

…

Y[n] = f (X[1] * W[1, n] + X[2] * W[2, n] + … + X[m] * W[m, n]).

f – это активационная функция.

Пример. Рассчитать значения выходов для данной нейронной сети

Рис 3.

при входных значениях X[1]=6.3, X[2]=-3, X[3]=5.

Активационную функцию принять пороговой, где значение порога равно 10.

Значения весов:

W[1,1]=0.5; W[1,2]=7;

W[2,1]=-7; W[2,2]=4.5;

W[3,1]=15; W[3,2]=-10;

Решение:

Y[1]= f (6.3*0.5 + (-3)*(-7)+5*15)= f (3.15+21+75) = f (99.15) = 1;

Y[2]= f (6.3*7+(-3)*4.5+5*(-10))= f (44.1-13.5-50) = f (-19.4) = 0;

Т.е. значения выходов данной сети Y[1] и Y[2] равны 1 и 0 соответственно.

Задание на дом. Рассчитать значения выходов для данной сети при входных значениях X[1]=2; X[2]=1; X[3]=-1.

Однослойные персептроны обладают малыми вычислительными возможностями, что ограничивает их использование. Более крупные и сложные нейронные сети обладают, как правило, и большими вычислительными способностями.

Многослойные сети (персептроны) – сети, в которых каждый нейрон слоя связан с каждым нейроном следующего слоя. Многослойные сети рассмотрим на примере двухслойной сети.

Рис. 4

Элементы первого входного слоя не обрабатывают, а только принимают информацию и распространяют ее далее по сети. Значения входов, количество которых равно m обозначим одномерным массивом X. Далее входная информация поступает на внутренний слой. Веса всех нейронов этого слоя формируют двумерный массив W размерностью m*n. Значения выходов внутреннего слоя формируют одномерный массив Z с количеством элементов равным n. Из внутреннего слоя информация поступает на выходной слой. Веса всех нейронов выходного слоя формируют двумерный массив K размерностью n*p. Значения выходов внешнего слоя формируют массив Y с количеством элементов равным p.

Данная сеть имеет m входов и p выходов. Данная сеть является двухслойная, потому что только два слоя нейронов обрабатывают информацию.

Значения выходов нейронов скрытого слоя определяются по формулам

Z[1] = f (X[1] * W[1, 1] + X[2] * W[2, 1] + … + X[m] * W[m, 1]);

Z[2] = f (X[1] * W[1, 2] + X[2] * W[2, 2] + … + X[m] * W[m, 2]);

…

Z[n] = f (X[1] * W[1, n] + X[2] * W[2, n] + … + X[m] * W[m, n]).

Значения выходов нейронов выходного слоя определяются по формулам

Y[1] = f (Z[1] * K[1, 1] + Z[2] * K[2, 1] + … + Z[n] * K[n, 1]);

Y[2] = f (Z[1] * K[1, 2] + Z[2] * K[2, 2] + … + Z[n] * K[n, 2]);

…

Y[n] = f (Z[1] * K[1, p] + Z[2] * K[2, p] + … + Z[n] * K[n, p]).

Пример. Рассчитать значения выходов для данной нейронной сети

Рис 5.

при входных значениях X[1]=2, X[2]=-5.

Активационную функцию принять пороговой, где значение порога равно 0.

Значения весов для массива W:

W[1,1]=0.5; W[1,2]=-0.2; W[1,3]=0;

W[2,1]=-1; W[2,2]=1.8; W[2,3]=0.3;

для массива K:

K[1,1]=2; K[1,2]=0;

K[2,1]=0.4; K[2,2]=-1;

K[3,1]=-2; K[3,2]=4.2.

Решение

Вначале вычислим значения выходов нейронов скрытого слоя:

Z[1] = f (2 * 0.5 + (-5) * (-1)) = f (1+5) = f (6) = 1;

Z[2]= f (2 * (-0.2) + (-5) * 1.8) = f (-0.4 + (-9)) = f (-9.4) = 0;

Z[3]= f (2 * 0 + (-5) * 0.3) = f (0 +(-1.5)) = f (-1.5) = 0;

Далее вычислим значения выходов нейронов выходного слоя:

Y[1] = f (1 * 2 + 0 * 0.4 + 0 * (-2)) = f (2+0+0) = f(2) = 1;

Y[2] = f (1 * 0 + 0 * (-1) + 0 * 4.2) = f (0 + 0 +0) = f(0) = 0;

Задание на дом. Рассчитать значения выходов для данной нейронной сети при
X[1] = -5, X[2]=2.

Добавление новых слоев в нейросети увеличивает ее вычислительные возможности.

4. Задание на дом.

Выучить конспект урока и решить две задачи

Заключение

В данной курсовой работе были выполнены все задачи, обозначенные во введении, благодаря чему авторы достигли поставленной цели – разработки содержания обучения технологии нейронных сетей в профильном курсе информатики.

И, тем не менее, рано говорить о завершенности данного исследования. Результаты данной работы получены теоретически, а особенность влияния изучения темы на мышление школьника носит гипотетический характер. Необходимо апробирование результатов данной работы.

Перед авторами данной работы открываются новые задачи – разработка и проведение эксперимента для подтверждения гипотезы. Только после проведения эксперимента можно будет делать окончательный вывод о практической применимости разработанного содержания обучения технологии нейронных сетей в профильном курсе информатики.

Список литературы

1) Алферов А.Д. Психология развития школьников: Учебное пособие по психологии. – Ростов н/Д: изд-во «Феникс», 2000. – 384 с.

2) Годфруа Ж. Что такое психология: В 2-х т. Т.1: Пер. с франц. – М:. Мир, 1996. – 496 с.

3) Информатика: Учебник. /Под ред. проф. Н.В. Макаровой. – М.: Финансы и статистика, 2000. – 768 с.

4) Концепция профильного обучения на старшей ступени общего образования. – 2002. – 12.

5) Лапчик М.П. и др. Методика преподавания информатики. – М.: Издательский центр «Академия», 2001 – 624 с.

6) Нейронные сети. – http://vlasov.iu4.bmstu.ru/book/neurinf2/index.htm

7) Немов Р.С. Психология: Учеб. для студентов высш. пед. учеб. заведений: В 3 кн. Кн. 1. – М.: Гуманит. изд. центр ВЛАДОС, 1997. – 688 с.

8) Немов Р.С. Психология: Учеб. для студентов высш. пед. учеб. заведений: В 3 кн. Кн. 2. – М.: Гуманит. изд. центр ВЛАДОС, 1997. – 608 с.

9) Солсо Р.Л. Когнитивная психология. – Пер. с англ. – М.: Тривола, 1996. – 600 с.

10) Терехов С.А. Лекции по теории и приложениям искусственных нейронных сетей. – http://alife.narod.ru/lectures/neural/Neu_index.htm

11) Холодная М.А. Психология интеллекта. Парадоксы исследования. – СПб.: Питер, 2002. – 272 с.

46