Квантовые нейронные сети эффективны при выполнении сложных функций в ряде многих областей. Они включают распознавание образов, классификацию, видение, системы управления, и предсказание.

Способность к обучению - адаптации к условиям и возможностям в изменяющейся внешней среде - столь важная особенность нейронных сетей, что теперь присоединена в качестве отдельного пункта к так называемому «тесту Тьюринга», являющемуся операционным определением понятия интеллект.

Эмпирический тест, идея которого была предложена Аланом Тьюрингом в статье «Вычислительные машины и разум» (англ. Computing Machinery and Intelligence), опубликованной в 1950 году в философском журнале «Mind». Целью данного теста является определение возможности искусственного мышления близкого к человеческому.

Стандартная интерпретация этого теста звучит следующим образом: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы -- ввести человека в заблуждение, заставив сделать неверный выбор». Все участники теста не видят друг друга [17].

Вообще, обучение - относительно постоянное изменение в поведении, вызванное опыт. Обучение в КНС - более прямой процесс, и может захватить обучение каждого шага в отличных отношениях эффективности причины. Знание нейронной сети, сохраненные в синапсах, являются весами связей между нейронами. Эти веса между двумя слоями нейрона могут быть представлены как матрицы. Если в нейронной сети с надлежащим алгоритмом обучения определен анализ и предварительная обработка данных, то можно произвести разумное предсказание.

Определение процесса обучения подразумевает следующую последовательность событий:

· Нейронная сеть стимулируется окружающей средой.

· Нейронная сеть претерпевает изменения в своих свободных параметрах в результате возбуждение.

· Сеть отвечает новым способом к окружающей среде из-за изменений, произошедших в ее внутренней структуре.

Есть многочисленные доступные алгоритмы и можно было бы ожидать, что есть некий уникальный алгоритм для того, чтобы проектировать модель КНС. Различие между алгоритмами состоят в формулировке, способной изменить веса нейронов, и в отношении нейронов к их окружающей среде.

Все методы обучения могут быть классифицированы в две главных категории: контролируемые и неконтролируемые [3].

В Таблице 4 представлены различные алгоритмы обучения и связанные с ними архитектуры сетей (список не является исчерпывающим). В последней колонке перечислены задачи, для которых может быть применен каждый алгоритм. Каждый алгоритм обучения ориентирован на сеть определенной архитектуры и предназначен для ограниченного класса задач. Кроме рассмотренных, следует упомянуть некоторые другие алгоритмы: Adaline и Madaline, линейный дискриминантный анализ, проекции Саммона, анализ главных компонентов.

Таблица 4: Известные алгоритмы обучения:

Обучить сеть - значит, сообщить ей, чего мы от нее добиваемся. Этот процесс очень похож на обучение ребенка алфавиту. Показав ребенку изображение буквы "А", мы спрашиваем его: "Какая это буква?" Если ответ неверен, мы сообщаем ребенку тот ответ, который мы хотели бы от него получить: "Это буква А". Ребенок запоминает этот пример вместе с верным ответом, то есть в его памяти происходят некоторые изменения в нужном направлении. Мы будем повторять процесс предъявления букв снова и снова до тех пор, когда все 33 буквы будут твердо запомнены. Такой процесс называют "обучение с учителем" (рис. 4.).

Рис. 4. Процесс "обучение с учителем".

При обучении сети мы действуем совершенно аналогично. У нас имеется некоторая база данных, содержащая примеры (набор рукописных изображений букв). Предъявляя изображение буквы "А" на вход КНС, мы получаем от нее некоторый ответ, не обязательно верный. Нам известен и верный (желаемый) ответ - в данном случае нам хотелось бы, чтобы на выходе КНС с меткой "А" уровень сигнала был максимален. Обычно в качестве желаемого выхода в задаче классификации берут набор (1, 0, 0, ...), где 1 стоит на выходе с меткой "А", а 0 - на всех остальных выходах. Вычисляя разность между желаемым ответом и реальным ответом сети, мы получаем 33 числа - вектор ошибки. Алгоритм обратного распространения ошибки - это набор формул, который позволяет по вектору ошибки вычислить требуемые поправки для весов нейронной сети. Одну и ту же букву (а также различные изображения одной и той же буквы) мы можем предъявлять нейронной сети много раз. В этом смысле обучение скорее напоминает повторение упражнений в спорте - тренировку.

После многократного предъявления примеров веса КНС стабилизируются, причем КНС дает правильные ответы на все (или почти все) примеры из базы данных. В таком случае говорят, что " сеть выучила все примеры", "нейронная сеть обучена", или " сеть натренирована". В программных реализациях можно видеть, что в процессе обучения величина ошибки (сумма квадратов ошибок по всем выходам) постепенно уменьшается. Когда величина ошибки достигает нуля или приемлемого малого уровня, тренировку останавливают, а полученную сеть считают натренированной и готовой к применению на новых данных.

Обучение сети разбивается на следующие этапы:

Инициализация сети: весовым коэффициентам и смещениям сети присваиваются малые случайные значения из диапазонов и соответственно.

Определение элемента обучающей выборки: (<текущий вход>, <желаемый выход>). Текущие входы (x0, x1... xN-1), должны различаться для всех элементов обучающей выборки. При использовании многослойного персептрона в качестве классификатора желаемый выходной сигнал (d0, d1... dN-1) состоит из нулей за исключением одного единичного элемента, соответствующего классу, к которому принадлежит текущий входной сигнал.

Вычисление текущего выходного сигнала: текущий выходной сигнал определяется в соответствии с традиционной схемой функционирования многослойной нейронной сети.

Настройка синаптических весов: для настройки весовых коэффициентов используется рекурсивный алгоритм, который сначала применяется к выходным нейронам сети, а затем проходит сеть в обратном направлении до первого слоя. Синаптические веса настраиваются в соответствии с формулой:

,

где w_ij - вес от нейрона i или от элемента входного сигнала i к нейрону j в момент времени t, x_i' - выход нейрона i или i-ый элемент входного сигнала, r - шаг обучения, g_j - значение ошибки для нейрона j. Если нейрон с номером j принадлежит последнему слою, то

,

где dj - желаемый выход нейрона j, yj - текущий выход нейрона j. Если нейрон с номером j принадлежит одному из слоев с первого по предпоследний, то

,

где k пробегает все нейроны слоя с номером на единицу больше, чем у того, которому принадлежит нейрон j. Внешние смещения нейронов b настраиваются аналогичным образом [3].

Рассмотренная модель может быть использована для распознавания образов, классификации, прогнозирования. Были попытки построения экспертных систем на основе многослойных персептронов с обучением по методу обратного распространения. Важно отметить, что вся информация, которую КНС имеет о задаче, содержится в наборе примеров. Поэтому качество обучения КНС напрямую зависит от количества примеров в обучающей выборке, а также от того, насколько полно эти примеры описывают данную задачу. Еще раз, обучение нейронных сетей - сложный и наукоемкий процесс. Алгоритмы обучения КНС имеют различные параметры и настройки, для управления которыми требуется понимание их влияния.

3.1 Применение Квантовых Нейронных сетей. Смысл алгоритма обучения с учителем

Исторически первой искусственной нейронной сетью, способной к перцепции (восприятию) и формированию реакции на воспринятый стимул, явился Perceptron Розенблатта (F.Rosenblatt, 1957). Термин " Perceptron" происходит от латинского perceptio, что означает восприятие, познавание. Русским аналогом этого термина является "Персептрон". Его автором персептрон рассматривался не как конкретное техническое вычислительное устройство, а как модель работы мозга. Современные работы по искусственным нейронным сетям редко преследуют такую цель.

Простейший классический персептрон содержит элементы трех типов (рис. 5.).

Рис. 5. Элементарный персептрон Розенблатта

Однослойный персептрон характеризуется матрицей синаптических связей ||W|| от S- к A-элементам. Элемент матрицы отвечает связи, ведущей от i-го S-элемента (строки) к j-му A-элементу (столбцы). Эта матрица очень напоминает матрицы абсолютных частот и информативностей, формируемые в семантической информационной модели, основанной на системной теории информации.

С точки зрения современной нейроинформатики однослойный персептрон представляет в основном чисто исторический интерес, вместе с тем на его примере могут быть изучены основные понятия и простые алгоритмы обучения нейронных сетей.

Обучение классической нейронной сети состоит в подстройке весовых коэффициентов каждого нейрона.

Ф. Розенблаттом предложен итерационный алгоритм обучения из 4-х шагов, который состоит в подстройке матрицы весов, последовательно уменьшающей ошибку в выходных векторах:

Шаг 1: Начальные значения весов всех нейронов полагаются случайными.

Шаг 2: Сети предъявляется входной образ x^a, в результате формируется выходной образ.

Шаг 3: Вычисляется вектор ошибки, делаемой сетью на выходе. Вектора весовых коэффициентов корректируются таким образом, что величина корректировки пропорциональна ошибке на выходе и равна нулю, если ошибка равна нулю:

ь модифицируются только компоненты матрицы весов, отвечающие ненулевым значениям входов;

ь знак приращения веса соответствует знаку ошибки, т.е. положительная ошибка (значение выхода меньше требуемого) проводит к усилению связи;

ь обучение каждого нейрона происходит независимо от обучения остальных нейронов, что соответствует важному с биологической точки зрения, принципу локальности обучения.

Шаг 4: Шаги 1-3 повторяются для всех обучающих векторов. Один цикл последовательного предъявления всей выборки называется эпохой. Обучение завершается по истечении нескольких эпох, если выполняется, по крайней мере, одно из условий:

ь когда итерации сойдутся, т.е. вектор весов перестает изменяться;

ь когда полная просуммированная по всем векторам абсолютная ошибка станет меньше некоторого малого значения [10].

3.2.2 Многослойный персептрон. Обучение многослойного персептрона

Вероятно, эта архитектура сети используется сейчас наиболее часто. Она была предложена в работе Rumelhart, McClelland (1986) и подробно обсуждается почти во всех учебниках по нейронным сетям (см., например, Bishop, 1995). Каждый элемент сети строит взвешенную сумму своих входов с поправкой в виде слагаемого и затем пропускает эту величину активации через передаточную функцию, и таким образом получается выходное значение этого элемента. Элементы организованы в послойную топологию с прямой передачей сигнала. Такую сеть легко можно интерпретировать как модель вход-выход, в которой веса и пороговые значения (смещения) являются свободными параметрами модели. Такая сеть может моделировать функцию практически любой степени сложности, причем число слоев и число элементов в каждом слое определяют сложность функции. Определение числа промежуточных слоев и числа элементов в них является важным вопросом при конструировании многослойного персептрона (Haykin, 1994; Bishop, 1995).

Количество входных и выходных элементов определяется условиями задачи. Сомнения могут возникнуть в отношении того, какие входные значения использовать, а какие нет. Будем предполагать, что входные переменные выбраны интуитивно и что все они являются значимыми. Вопрос же о том, сколько использовать промежуточных слоев и элементов в них, пока совершенно неясен. В качестве начального приближения можно взять один промежуточный слой, а число элементов в нем положить равным полусумме числа входных и выходных элементов. Опять-таки, позже мы обсудим этот вопрос подробнее.

Многослойный персептрон - это обучаемая распознающая система, реализующая корректируемое в процессе обучения линейное решающее правило в пространстве вторичных признаков, которые обычно являются фиксированными случайно выбранными линейными пороговыми функциями от первичных признаков.

При обучении на вход персептрона поочередно подаются сигналы из обучающей выборки, а также указания о классе, к которому следует отнести данный сигнал. Обучение персептрона заключается в коррекции весов при каждой ошибке распознавания, т. е. при каждом случае несовпадения решения, выдаваемого персептроном, и истинного класса. Если персептрон ошибочно отнес сигнал, к некоторому классу, то веса функции, истинного класса увеличиваются, а ошибочного уменьшаются. В случае правильного решения все веса остаются неизменными (рис. 6.).

Рис. 6. Двухслойный персептрон

Пример: Рассмотрим персептрон, т.е. систему с n входными каналами и выходным каналом y. Выход классического персептрона - это , where является функцией активации персептрона и - это веса настройки во время обучающего процесса. Алгоритм обучения персептрона работает следующим образом.

1. Веса инициализируются небольшими количествами.

2. Образцовый вектор представляет персептрон и выход y, полученный в соответствии с правилом

3. Веса обновляются в соответствии с правилом , где t является дискретным временем, а d - желательный выход, произведенный для обучения, и является шагом.

Замечание. Вряд ли будет можно построить точный аналог нелинейной функции активации F, как и сигмовидной и другие функции общего пользования в нейронных сетях, возможно для квантового случая [10].

3.3 Алгоритм обратного распространения «Back Propagation»