Использование нейронных сетей в системе Matlab

Рис. 4

Радиальная базисная сеть в Matlab.

По команде help radbasis можно получить следующую информацию об М-функциях, входящих в состав ППП Neural Network Toolbox и относящихся к построению радиальных базисных сетей:

Таблица 4

нейронный сеть рекуррентный элман

5. Рекуррентные сети

Бывают 2 типа рекуррентных нейронных сетей, представляющих наибольший интерес для пользователей, - это класс сетей Элмана (Elman) и класс сетей Хопфилда (Hopfield). Характерной особенностью архитектуры рекуррентной сети является наличие блоков динамической задержки и обратных связей. Это позволяет таким сетям обрабатывать динамические модели.

5.1 Нейронная сеть (Элмана)

Нейронная сеть Элмана -- один из видов рекуррентной сети, состоящая из двух слоев в которой скрытый слой охвачен динамической обратной связью получаемого из многослойного перцептрона введением обратных связей, только связи идут не от выхода сети, а от выходов внутренних нейронов. Это позволяет учесть предысторию наблюдаемых процессов и накопить информацию для выработки правильной стратегии управления. Эти сети могут применяться в системах управления движущимися объектами, так как их главной особенностью является запоминание последовательностей.

На основе сети Элмана строится нейронная сеть класса RAAM, которая по своей структуре повторяет элмановскую. RAAM (Рекурсивная авто-ассоциативная память) -- это двойная сеть Элмана вида 2N-N-2N, которую используют для сжатия и шифрования информации. На вход сети подаётся битовый сигнал из 2N битов. Обычно сеть имеет размер 20-10-20, первые 10 бит называются «левыми», вторые 10 бит -- «правыми». В самом начале на левую матрицу подаётся нулевой вектор бит (0000000000), а на правую -- код символа или предложения (например, 0010000000="А"). То же самое подаётся на выходные матрицы. Методом обратного распространения ошибки сеть обучается. Затем 10 бит из скрытого слоя передаются на левую входную матрицу, а на правую поступает очередной символ. В процессе такого рекурсивного обучения информация сжимается и шифруется, что было применено на практике французским профессором Томасом Вёгтленом в 2002 году в работе «Neural Networks and Self-Reference».

Архитектура сети

Рис. 5

Нейронная сеть Элмана в Matlab.

По команде help elman можно получить следующую информацию об М-функциях, входящих в состав ППП Neural Network Toolbox и относящихся к построению сетей Элмана:

Таблица 5

5.2 Нейронная сеть (Хопфилда)

Нейромнная сеть Хопфилда -- полносвязная нейронная сеть с симметричной матрицей связей. В процессе работы динамика таких сетей сходится (конвергирует) к одному из положений равновесия. Эти положения равновесия являются локальными минимумами функционала, называемого энергией сети (в простейшем случае -- локальными минимумами отрицательно определённой квадратичной формы на n-мерном кубе). Такая сеть может быть использована как автоассоциативная память, как фильтр, а также для решения некоторых задач оптимизации. В отличие от многих нейронных сетей, работающих до получения ответа через определённое количество тактов, сети Хопфилда работают до достижения равновесия, когда следующее состояние сети в точности равно предыдущему: начальное состояние является входным образом, а при равновесии получают выходной образ.

Архитектура сети

Рис. 6

Нейронная сеть Хопфилда в Matlab.

По команде help hopfield можно получить следующую информацию об М-функциях, входящих в состав ППП Neural Network Toolbox и относящихся к построению модифицированных сетей Хопфилда:

Таблица 6

Цель программы

Сеть Элмана. Исследуется на примере такой задачи детектирования амплитуды гармонического сигнала. Пусть известно, что на вход нейронной сети поступают выборки из некоторого набора синусоид. Требуется выделить значения амплитуд этих синусоид.

6. Код программы

%Требуется выделить значения амплитуд этих синусоид.

%Далее рассматриваются выборки из набора двух синусоид с амплитудами 1.0 и 2.0:

p1 = sin(1:20);

p2 = sin(1:20)*2;

%Целевые выходы сети являются векторы

t1 = ones(1,20);

t2 = ones(1,20)*2;

%Сформированный набор векторов входа и целевых выходов

p = [p1 p2 p1 p2];

t = [t1 t2 t1 t2];

%Сформирование обучающих последовательностей в виде массивов ячеек:

Pseq = con2seq(p);

Tseq = con2seq(t);

R = 1; % Число элементов входа

S2 = 1;% Число нейронов выходного слоя

S1 = 10; % Число нейронов рекуррентного слоя

net = newelm([-2 2],[S1 S2],{'tansig','purelin'},'traingdx');

%Обучение сети

net.trainParam.epochs = 1000; %Максимальное количество эпох тренировки;

net.trainParam.show = 25; %Количество эпох между графиками;

net.trainParam.goal = 0.01; %Условие остановки по отклонению от эталона;

[net,tr] = train(net,Pseq,Tseq); % Pseq и Tseq входные элементы

%Проверка сети

%1 тестирование

figure(2)

a = sim(net,Pseq);

time = 1:length(p);

plot(time, t, '--', time, cat(2,a{:}))

axis([1 80 0.8 2.2]) % график 1

%2 тестирование

p3 = sin(1:20)*1.6;

t3 = ones(1,20)*1.6;

p4 = sin(1:20)*1.2;

t4 = ones(1,20)*1.2;

pg = [p3 p4 p3 p4];

tg = [t3 t4 t3 t4];

pgseq = con2seq(pg);

figure(3)

a = sim(net,pgseq);

ime = 1:length(pg);

plot(time, tg, '--', time, cat(2,a{:}))

axis([1 80 0.8 2.2]) % график 2

Тестирование программы

Рис. 7

Рис. 8

Рис. 9

Рис. 10 График 1

Рис. 11 График 2

Итоги программы

Как следует из анализа графика 1, сеть справляется с решением задачи детектирования амплитуды на наборах обучающего множества. Однако неясно, как она будет вести себя на других наборах входа, поэтому мы подадим на сеть набор сигналов, составленный из двух синусоид с амплитудами 1.6 и 1.2 соответственно. Потом посмотрим, обладает ли построенная сеть Элмана свойством обобщения.

На графике 2 мы видим, что сеть хуже справляется с задачей. Сеть стремится детектировать значение амплитуды, но делает это не очень точно. Улучшенное обобщение могло быть получено, обучая сеть на большее количество амплитуд, чем только на значения 1.0 и 2.0. Использование трех или четырех гармонических сигналов с различными амплитудами может привести к намного лучшему датчику амплитуд.

Заключение

Развитие нейронных сетей вызвало немало энтузиазма и критики. Некоторые сравнительные исследования оказались оптимистичными, другие - пессимистичными. Для многих задач, таких как распознавание образов, пока не создано доминирующих подходов. Нужно пытаться понять возможности, предпосылки и область применения различных подходов и максимально использовать их дополнительные преимущества для дальнейшего развития интеллектуальных систем. Множество надежд в отношении нейронных сетей сегодня связывают именно с аппаратными реализациями, но пока время их массового выхода на рынок, видимо, еще не пришло. Они или выпускаются в составе специализированных устройств, или достаточно дороги, а зачастую и то и другое. На их разработку тратится значительное время, за которое программные реализации на самых последних компьютерах оказываются лишь на порядок менее производительными, что делает использование нейропроцессоров нерентабельным. Но все это только вопрос времени -- нейронным сетям предстоит пройти тот же путь, по которому еще совсем недавно развивались компьютеры, увеличивая свои возможности и производительность, захватывая новые сферы применения по мере возникновения новых задач и развития технической основы для их разработки.

Сегодня нейронные сети используются для работы в относительно узких областях, и неизвестно, доверят ли им когда-нибудь решение вопросов, которые требуют понимания социального контекста. Между тем нейронные сети уверенно продолжают проникать в нашу жизнь, и примеров тому немало.

Список используемой литературы

1) Медведев В.С. Нейронные сети. MATLAB 6 / В.С. Медведев, В.Г. Потёмкин // М: Диалог-МИФИ. - 2008

2) Хайкин С. Нейронные сети - полный курс 2006

3) Уоссермен Ф. - Нейрокомпьютерная техника. Теория и практика

4) Круглов, Борисов - Искусственные нейронные сети. Теория и практика, 2012

5) Гольдштейн Б.С. - Интеллектуальные сети, 2010

6) Смоленцев - Основы теории вейвлетов в MatLab

Размещено на Allbest.ru