Исследование зависимости речевых параметров от психоэмоционального состояния человека

2.5.1 Основные сведения о нейронных сетях

Искусственная нейронная сеть - это математическая модель, а также устройства параллельных вычислений, представляющие собой систему соединённых и взаимодействующих между собой простых процессоров (искусственных нейронов) [47]. В последние несколько лет наблюдается взрыв интереса к нейронным сетям, которые успешно применяются в самых различных областях - бизнесе, медицине, технике, геологии, физике. Нейронные сети вошли в практику везде, где нужно решать задачи прогнозирования, классификации или управления.

Биологические нейронные сети

Нейронные сети возникли из исследований в области искусственного интеллекта, а именно, из попыток воспроизвести способность биологических нервных систем обучаться и исправлять ошибки, моделируя низкоуровневую структуру мозга. Основной областью исследований по искусственному интеллекту в 60-е - 80-е годы были экспертные системы. Такие системы основывались на высокоуровневом моделировании процесса мышления (в частности, на представлении, что процесс нашего мышления построен на манипуляциях с символами). Скоро стало ясно, что подобные системы, хотя и могут принести пользу в некоторых областях, не ухватывают некоторые ключевые аспекты человеческого интеллекта. Согласно одной из точек зрения, причина этого состоит в том, что они не в состоянии воспроизвести структуру мозга. Чтобы создать искусственный интеллект, необходимо построить систему с похожей архитектурой.

Мозг состоит из очень большого числа (около 10 000 000 000) нейронов, соединенных многочисленными связями (в среднем несколько тысяч связей на один нейрон, однако это число может сильно колебаться). Взаимодействующие между собой посредством передачи нервных импульсов нейроны образуют биологические нейронные сети (БНС). Нейроны - это специальные клетки, способные распространять электрохимические сигналы. Нейрон имеет разветвленную структуру ввода информации (дендриты), ядро и разветвляющийся выход (аксон). Аксоны клетки соединяются с дендритами других клеток с помощью синапсов. При активации нейрон посылает электрохимический сигнал по своему аксону. Через синапсы этот сигнал достигает других нейронов, которые могут в свою очередь активироваться. Нейрон активируется тогда, когда суммарный уровень сигналов, пришедших в его ядро из дендритов, превысит определенный уровень (порог активации).

Таким образом, будучи построен из очень большого числа совсем простых элементов (каждый из которых берет взвешенную сумму входных сигналов и в случае, если суммарный вход превышает определенный уровень, передает дальше двоичный сигнал), мозг способен решать чрезвычайно сложные задачи. Отметим важнейшие свойства БНС.

1. Обработка информации в БНС осуществляется в параллельном режиме. Каждый нейрон формирует свой выход только на основе своих входов и собственного внутреннего состояния под воздействием общих механизмов регуляции нервной системы.

2. БНС обладают способностью к комплексной обработке информации. К этой группе свойств относятся ассоциативность (сеть может восстанавливать полный образ по его части), способность к классификации, обобщению, абстрагированию и множество других.

3. Функционирование БНС отличается высокой степенью самоорганизации. В процессе работы они самостоятельно, под воздействием внешней среды, обучаются решению разнообразных задач. Не существует, насколько известно, никаких принципиальных ограничений на сложность задач, решаемых БНС. Нервная система сама формирует алгоритмы своей деятельности, уточняя и усложняя их в течение жизни.

4. БНС являются аналоговыми системами. Информация поступает в сеть по большому количеству каналов и кодируется по пространственному принципу: вид информации определяется номером нервного волокна, по которому она передается. Амплитуда входного воздействия кодируется плотностью нервных импульсов, передаваемых по волокну.

5. БНС обладают чрезвычайно высокой надежностью: выход из строя даже 10% нейронов в нервной системе не прерывает ее работы. В последовательных ЭВМ, основанных на принципах фон Неймана, сбой одной ячейки памяти или одного узла в аппаратуре приводит к выходу системы из строя.

Искусственные нейронные сети

Искусственная нейронная сеть представляет собой структуру нейронов, соединенных между собой. Сеть характеризуется внутренними свойствами образующих ее нейронов, индивидуальной топологией (архитектурой), а также правилами обучения (тренировки).

Обобщенная модель отдельного нейрона представлена на рисунке 2.4. Нейрон выполняет функцию адаптивного сумматора с регулируемыми уровнями входных сигналов, который осуществляет дополнительную линейную или нелинейную обработку вычисленной суммы с целью получения результата.

Рисунок 2.4. Обобщённая модель нейрона

Входная функция нейрона расположенного в слое, реализует операцию суммирования взвешенных выходов нейронов, расположенных в предыдущем, слое:

(2.41)

Здесь -- число нейронов в предыдущем слое; символы использованы с целью установления различия между нейронами, принадлежащими разным слоям сети. Значение в (2.41) определяет величину внешнего смещения, подаваемого на нейрон , что соответствует включению в модель нейрона дополнительной синаптической связи с фиксированным значением сигнала .

Результат суммирования служит аргументом функции активации. Значение функции активации соответствует отклику нейрона на произвольную комбинацию входных воздействий. Иными словами, посредством активации нейрона осуществляется трансформация множества входных воздействий в выходной сигнал с желаемыми характеристиками. Вместе с правилами корректировки весовых коэффициентов на входе нейрона (правилами обучения), отличительной особенностью многих нейронных структур является выбор функции активации.

2.5.2 Однонаправленные нейронно-сетевые архитектуры

Искусственная нейронная сеть представляет собой структуру нейронов, соединенных между собой. Сеть характеризуется внутренними свойствами образующих ее нейронов, индивидуальной топологией (архитектурой), а также правилами обучения (тренировки).

Однослойные искусственные нейронные сети

Хотя один нейрон и способен выполнять простейшие процедуры распознавания, но для серьезных нейронных вычислений необходимо соединять нейроны в сети. Простейшая сеть состоит из группы нейронов, образующих слой (рисунок 2.5). Отметим, что вершины-круги слева служат лишь для распределения входных сигналов. Они не выполняют каких-либо вычислений и, поэтому, не будут считаться слоем. Для большей наглядности обозначим их кругами, чтобы отличать их от вычисляющих нейронов, обозначенных квадратами. Каждый элемент из множества входов отдельным весом соединен с каждым искусственным нейроном. А каждый нейрон выдает взвешенную сумму входов в сеть. Могут существовать также соединения между выходами и входами элементов в слое.

Удобно считать веса элементами матрицы . Матрица имеет строк и столбцов, где - число входов, а - число нейронов. Например, - это вес, связывающий третий вход со вторым нейроном. Таким образом, вычисление выходного вектора , компонентами которого являются выходы OUT нейронов, сводится к матричному умножению, где и- векторы-строки

Рисунок 2.5 Однослойная нейронная сеть

Многослойные искусственные нейронные сети

Более крупные и сложные нейронные сети обладают, как правило, и большими вычислительными возможностями. Хотя созданы сети всех конфигураций, какие только можно себе представить, послойная организация нейронов копирует слоистые структуры определенных отделов мозга. Оказалось, что такие многослойные сети обладают большими возможностями, чем однослойные. Многослойные сети могут строиться из каскадов слоев. Выход одного слоя является входом для последующего слоя.

Подобная сеть показана на рисунке 2.6. Многослойные сети не могут привести к увеличению вычислительной мощности по сравнению с однослойной сетью, если активационная функция между слоями линейна. Вычисление выхода слоя заключается в умножении входного вектора на первую весовую матрицу с последующим умножением (если отсутствует нелинейная активационная функция) результирующего вектора на вторую весовую матрицу

(2.42)

Так как умножение матриц ассоциативно, то

(2.43)

Рисунок 2.6 Многослойная нейронная сеть

Из выражения (2.43) видно, что двухслойная линейная сеть эквивалентна одному слою с весовой матрицей, равной произведению двух весовых матриц. Следовательно, любая многослойная линейная сеть может быть заменена эквивалентной однослойной сетью. Однако однослойные сети весьма ограниченны по своим вычислительным возможностям. Таким образом, для расширения возможностей сетей по сравнению с однослойной сетью необходима нелинейная активационная функция.

У сетей, рассмотренных до сих пор, не было обратных связей, т.е. соединений, идущих от выходов некоторого слоя к входам этого же слоя или предшествующих слоев. Этот специальный класс сетей, называемых сетями без обратных связей или сетями прямого распространения, представляет большой интерес и широко используется. Сети более общего вида, имеющие соединения от выходов к входам, называются сетями с обратными связями. У сетей без обратных связей нет памяти, их выход полностью определяется текущими входами и значениями весов. В некоторых конфигурациях сетей с обратными связями предыдущие значения выходов возвращаются на входы; выход, следовательно, определяется как текущим входом, так и предыдущими выходами. Поэтому сети с обратными связями могут обладать свойствами, сходными с кратковременной человеческой памятью, где сетевые выходы тоже частично зависят от предыдущих входов.

Архитектура перцептрона проектируется исходя из содержания задачи, размерности вектора данных, количества параметров, характеризующих процесс или закономерность, а также требуемой точности идентификации. Размерность вектора данных определяется, в свою очередь, частотой дискретизации входного сигнала, если регистрируются временные последовательности, либо количеством измерительных датчиков.

Внутренняя структура перцептрона (число слоев, количество нейронов в слое, выбор функции активации) является, в большинстве случаев, результатом многократного экспериментирования с сетью, при котором анализируется поведение сети в процессе обучения, скорость процесса обучения, точность обработки данных, не использованных в процессе обучения и т.д. Обстоятельной теории, которая бы позволила оптимизировать этот процесс, пока что не существует.

Сложность сети должна соответствовать размерности обучающего набора, т. е., добавление нового внутреннего слоя в архитектуру нейронной сети с целью достижения более точной аппроксимации, должно сопровождаться увеличением числа обучающих пар. Если обучающий набор останется прежним, в то время как сеть стала более сложной, способность сети к обобщению будет снижаться. И наоборот. Выбор слишком простой для предложенного набора данных структуры сети может сопровождаться утратой ее способности определять основные параметры отображения.

Традиционно нейронные сети используются для задач классификации. В этом случае выходные сигналы преднамеренно представляются в бинарной форме, а целью процедуры является определение принадлежности выходного вектора (образца) некоторому заранее известному множеству. Бинарный характер выходных сигналов реализуется в архитектуре нейронной сети в форме пороговой функции активации выходных нейронов, а именно

(2.44)

Очевидно, что функция (2.44) не является удовлетворительной в реконструктивных приложениях, поскольку каждая из компонент выходного вектора является в большинстве случаев непрерывной функцией. Представление непрерывного выходного сигнала эффективно реализуется в нейронной сети с помощью так называемой «сигмоидной» (sigmoid) функции активации

(2.45)

Вид функции (2.45) представлен на рисунке 2.7. Форма сигмоидной функции позволяет рассматривать нейрон как адаптивный усилитель суммарного сигнала, поступающего на его входы. Слабый сигнал при этом усиливается, а сигнал высокого уровня не снижает чувствительности нейрона. Кроме того, функция (2.45) является непрерывно дифференцируемой, а ее первая производная является простой функцией выхода:

(2.46)

Рисунок 2.7 Сигмоидная функция активации и ее производная

Это обстоятельство оказывается чрезвычайно важным как для реализации алгоритма обратного распространения, так и для эффективной нейронно-сетевой обработки сложных отображений, нелинейных процессов и задач реконструкции.

2.5.3 Обучение нейронных сетей

Под процессом обучения понимается алгоритмическая корректировка весовых коэффициентов синаптических связей каждого участвующего в процессе обучения нейрона, направленная на достижение минимальной ошибки в определении параметров выходного вектора для каждого из входных «образцов».

На этапе обучения на вход сети последовательно подаются входные сигналы из заранее подготовленного для тренировки сети набора. Каждому из входных сигналов (данным) соответствуют заранее известные параметры выходного вектора, определение которых для произвольного набора данных, в том числе не использованных в процессе обучения, является целью задачи. Такими параметрами могут быть, например, логические утверждения принадлежности входного вектора тому или иному классу решений или его соответствия одному из тестовых образов, коэффициенты разложения входной функции относительно некоторого базиса и т. д.

В каждом такте обучения перцептрон оперирует одновременно с одной из пap векторов из входного и соответствующего ему выходного пространств, составляющих множество элементов обучения размерности . После предъявления на вход перцептрона (нейронной сети) всех имеющихся в распоряжении элементов (эпоха обучения), оценивается значение суммарной выходной среднеквадратичной ошибки

(2.47)

перцептрона с матрицей весовых коэффициентов соответствующей -ой обучающей эпохе. В формуле (2.47) вектор соответствует «истинному» вектору из обучающего набора, а вектор представляет собой результат нейронно-сетевой обработки входного сигнала в д -ой эпохе.

Алгоритм обратного распространения

Рассмотрим наиболее распространенный алгоритм обучения нейронных сетей с прямой связью - алгоритм обратного распространения ошибки. Этот алгоритм был заново открыт и популяризирован в 1986 г. Румельхартом и МакКлеландом [47, 48]. Суть алгоритма состоит в минимизации суммарной квадратичной ошибки

(2.48)

Основная идея обратного распространения заключается в том, чтобы вычислять чувствительность ошибки сети к изменениям весов. Для этого нужно вычислить частные производные от ошибки по весам. Пусть обучающее множество состоит из P образцов, и входы k-го образца обозначены через . Вычисление частных производных осуществляется по правилу цепи: вес входа i-го нейрона, идущего от j-го нейрона, пересчитывается по формуле

(2.49)

где - длина шага в направлении, обратном к градиенту.

Если рассмотреть отдельно k-й образец, то соответствующее изменение весов равно

(2.50)

Множитель вычисляется через аналогичные множители из последующего слоя, и ошибка, таким образом, передается в обратном направлении.

Для выходных элементов мы получаем

(2.51)

Для скрытых элементов множитель определяется так

(2.52)

С учетом того, что

и (2.53)

Получаем

(2.54)

где индекс h пробегает номера всех нейронов, на которые воздействует i-й нейрон.

Данный алгоритм используется в двух вариантах. В стохастическом варианте веса пересчитываются каждый раз после просчета очередного образца, а в «эпохальном», или off-line варианте, веса меняются после просчета всего обучающего множества.

Переобучение и обобщение

Одна из наиболее серьезных трудностей алгоритма обратного распространения заключается в том, что таким образом мы минимизируем не ту ошибку, которую на самом деле нужно минимизировать, -- ошибку, которую можно ожидать от сети, когда ей будут подаваться совершенно новые наблюдения [49]. Иначе говоря, мы хотели бы, чтобы нейронная сеть обладала способностью обобщать результат на новые наблюдения. В действительности, сеть обучается минимизировать ошибку на обучающем множестве, и в отсутствие идеального и бесконечно большого обучающего множества это совсем не то же самое, что минимизировать "настоящую" ошибку на поверхности ошибок в заранее неизвестной модели явления.

Сильнее всего это различие проявляется в проблеме переобучения, или слишком близкой подгонки. Сети с большим числом весов моделируют более сложные функции и, следовательно, склонны к переобучению. Сеть же с небольшим числом весов может оказаться недостаточно гибкой для того, чтобы смоделировать имеющуюся зависимость. Почти всегда более сложная сеть дает меньшую ошибку, но это может свидетельствовать не о хорошем качестве модели, а о переобучении. Выход состоит в том, чтобы использовать механизм контрольной кросс-проверки. Резервируется часть обучающих наблюдений, использующаяся для независимого контроля результата.

В самом начале работы ошибка сети на обучающем и контрольном множестве будет одинаковой (если они существенно отличаются, то, вероятно, разбиение всех наблюдений на два множества было неоднородно). По мере того как сеть обучается, ошибка обучения, естественно, убывает, и, пока обучение уменьшает действительную функцию ошибок, ошибка на контрольном множестве также будет убывать. Если же контрольная ошибка перестала убывать или даже стала расти, значит, сеть начала слишком близко аппроксимировать данные и обучение следует остановить. Это явление чересчур точной аппроксимации в процессе обучения и называется переобучением. Если такое случилось, то обычно советуют уменьшить число скрытых элементов и/или слоев, ибо сеть является слишком мощной для данной задачи. Если же сеть, наоборот, была взята недостаточно богатой для того, чтобы моделировать имеющуюся зависимость, то переобучения, скорее всего, не произойдет и обе ошибки - обучения и проверки - не достигнут достаточного уровня малости.

При практической работе с нейронными сетями, как правило, приходится экспериментировать с большим числом различных сетей, порой обучая каждую из них несколько раз (чтобы не быть введенным в заблуждение локальными минимумами) и сравнивая полученные результаты. Главным показателем качества результата является здесь контрольная ошибка. Необходимость многократных экспериментов ведет к тому, что контрольное множество начинает играть ключевую роль в выборе модели, то есть становится частью процесса обучения. Тем самым ослабляется его роль как независимого критерия качества модели -- при большом числе экспериментов есть риск выбрать "удачную" сеть, дающую хороший результат на контрольном множестве. Для того чтобы придать окончательной модели должную надежность, часто (по крайней мере, когда объем обучающих данных это позволяет) поступают так: резервируют еще одно, тестовое множество наблюдений. Итоговая модель тестируется на данных из этого множества, чтобы убедиться, что результаты, достигнутые на обучающем и контрольном множествах, реальны, а не являются артефактами процесса обучения. Разумеется, для того чтобы соответствовать своей роли, тестовое множество должно быть использовано только один раз: если его использовать повторно для корректировки процесса обучения, то оно фактически превратится в контрольное множество.

2.5.4 Реализация многослойного перцептрона в MatLab

Когда сеть имеет несколько слоев, то каждый слой имеет свою матрицу весов W, вектор смещения b и вектор выхода а.

Чтобы различать весовые матрицы, векторы выхода и т. д. для каждого из этих слоев, вводится номер слоя как верхний индекс для представляющей интерес переменной (рисунок 2.8).

эмоция речевой сигнал идентификация

Рисунок 2.8 Многослойная сеть

Сеть, показанная выше, имеет R входов, нейронов в первом слое, нейронов во втором слое и т. д. На смещения для каждого нейрона подан постоянный входной сигнал 1. Выходы каждого промежуточного слоя служат входами для следующего слоя. Таким образом, слой 2 может быть рассмотрен как один слой сети с входами, нейронами и x матрицей весов .

Работа сети состоит в вычислении выходов сети на основе известных входов с целью формирования желаемого отображения вход/выход. Конкретная задача определяет число входов и число выходов сети. Кроме числа нейронов в выходном слое сети, для проектировщика важно число нейронов в каждом слое. Большее количество нейронов в скрытых слоях обеспечивает более мощную сеть. Если должно быть реализовано линейное отображение, то следует использовать нейроны с линейными функциями активации. При этом надо помнить, что линейные нейронные сети не могут формировать нелинейные отображения. Использование нелинейных функций активации позволяет настроить нейронную сеть на реализацию нелинейных связей между входом и выходом.

Обучение многослойного перцептрона

Комбинация линейной функции нескольких переменных и скалярной сигмовидной функции приводит к характерному профилю "сигмовидного склона" [49], который выдает элемент первого промежуточного слоя. На рисунке 2.9 (a) соответствующая поверхность изображена в виде функции двух входных переменных. Элемент с большим числом входов выдает многомерный аналог такой поверхности. При изменении весов и порогов меняется и поверхность отклика; может меняться как ориентация всей поверхности, так и крутизна склона -- большим значениям весов соответствует более крутой склон. Так, например, если увеличить все веса в два раза, то ориентация не изменится, а наклон будет более крутым. В многослойной сети подобные функции отклика комбинируются друг с другом с помощью последовательного взятия их линейных комбинаций и применения нелинейных функций активации. На рисунке 2.9 (б) изображена типичная поверхность отклика для сети с одним промежуточным слоем, состоящим из двух элементов, и одним выходным элементом, для классической задачи "исключающего или". Две разных сигмоидных поверхности объединены в одну поверхность, имеющую форму буквы "U".

Перед началом обучения сети весам и порогам случайным образом присваиваются небольшие по величине начальные значения. Тем самым, отклики отдельных элементов сети имеют малый наклон и ориентированы хаотично -- фактически они не связаны друг с другом. По мере того, как происходит обучение, поверхности отклика элементов сети вращаются и сдвигаются в нужное положение, а значения весов увеличиваются, поскольку они должны моделировать отдельные участки целевой поверхности отклика.