Классификация сейсмических сигналов на основе нейросетевых технологий

Классификация сейсмических сигналов на основе нейросетевых технологий

МОСКОВСКИЙ ГОСУДАРСТВЕННЫЙ ИНСТИТУТ ЭЛЕКТРОНИКИ И МАТЕМАТИКИ

Кафедра МОСОИиУ

ПОЯСНИТЕЛЬНАЯ ЗАПИСКА

К ДИПЛОМНОМУ ПРОЕКТУ

На тему: _Классификация сейсмических сигналов на основе нейросетевых

технологий.________________________________________________________

Студент

Руководитель проекта:

Допущен к защите____________________200___г.

КОНСУЛЬТАНТЫ ПРОЕКТА:

Специальная часть

Конструкторско-технологическая часть

Экономическая часть

Техника безопасности

Зав. кафедрой________________________

МОСКВА

Аннотация.

В данном дипломе рассматривается задача классификации сейсмических

сигналов по типу источника, т.е. определение по записанной сейсмограмме

землетрясений или взрывов. Основная цель диплома состоит в исследовании

возможности применения аппарата нейронных сетей для решения поставленной

задачи, и сравнение эффективности такого решения со стандартными

аналитическими методами.

Оглавление.

Аннотация 2

Введение 5

1. Основные положения теории нейронных сетей 7

2. Постановка задачи классификации сейсмических сигналов 16

3. Статистическая методика решения задачи классификации 18

3.1 Выделение информационных признаков из сейсмограмм 18

3.2 Отбор наиболее информативных признаков для идентификации 19

3.3 Процедуры статистической идентификации 21

3.4 Оценка вероятности ошибочной классификации методом скользящего

экзамена 22

4. Обзор различных архитектур нейронных сетей , предназначенных для задач

классификации 23

4.1 Нейрон-классификатор 23

4.2 Многослойный персептрон 25

4.3 Сети Ворда 27

4.4 Сети Кохонена 27

4.5 Выводы по разделу 37

5. Методы предварительной обработки данных 31

5.1 Максимизация энтропии как цель предобработки 31

5.2 Нормировка данных 32

5.3 Понижение размерности входных данных 34

5.3.1 Отбор наиболее информативных признаков 34

5.3.2 Сжатие информации. Анализ главных компонент 35

5.4 Выводы .по разделу 37

6. Реализация нейросетевой модели и исследование ее технических

характеристик 38

6.1 Структура нейросети 38

6.2 Исходные данные 40

6.3 Определение критерия качества системы и функционала его оптимизации

41

6.4 Выбор начальных весовых коэффициентов 41

6.5 Алгоритм обучения и методы его оптимизации 42

6.6 Формирование обучающей выборки и оценка эффективности обученной

нейросетевой модели 48

7. Программная реализация 49

7.1 Функциональные возможности программы 50

7.2 Общие сведения 51

7.3 Описание входного файла с исходными данными 52

7.4 Описание файла настроек 52

7.5 Алгоритм работы программы 57

7.6 Эксплуатация программного продукта 58

7.7 Результат работы программы 58

8. Заключение 61

Список литературы 63

Приложение 64

1. Пример выборки сейсмограмм 64

2. Пример файла с векторами признаков 65

3. Файл с настройками программы 66

4. Пример файла отчета 67

5. Файл описания функций, типов переменных и используемых библиотек

“nvclass.h” 68

6. Файл автоматической компиляции программы под ОС Unix -“Makefile” 73

7. Основной модуль - “nvclass.с” 74

Введение.

Применение аппарата нейронных сетей для решения различных задач науки и

техники обусловлено огромными потенциальными возможностями, этих

технологий. Существуют задачи, решение которых просто невозможно

аналитическими методами, а нейросети успешно с ними справляются. Даже в том

случае, если можно найти решение при помощи уже изученных алгоритмов,

нейронные сети порой позволяют сделать то же самое быстрее и более

эффективно.

В данном дипломе рассматривается задача, возникающая при сейсмическом

мониторинге, –классификация сейсмических сигналов по типу источника, т.е.

определение по записанной сейсмограмме землетрясений или взрывов. Несмотря

на то, что для ее решения, в настоящее время успешно применяются методы

статистического анализа, продолжается поиск более эффективных алгоритмов,

которые бы позволили проводить классификацию точнее и с меньшими затратами.

В качестве таких методов предлагается использовать аппарат нейронных сетей.

Основная цель дипломной работы – исследовать возможность применения

нейронных сетей для идентификации типа сейсмического сигнала, выяснить,

насколько данное решение будет эффективным в сравнении с уже используемыми

методами.

Первая глава посвящена описанию основных положений теории нейронных

сетей, а также областям науки и техники, в которых эти технологии нашли

широкое применение.

Последующие два раздела предназначены формализовать на математическом

уровне задачу классификации сейсмических сигналов и способе ее решения на

основе статистических методов.

Обзор различных архитектур нейронных сетей, предназначенных для решения

задачи классификации, их основные положения, достоинства и недостатки, а

также методы предварительной подготовки данных приведены в разделах 4 и 5.

В шестой разделе говорится непосредственно о нейросетевом решении

рассматриваемой задачи, построенном на основе известной, и часто

используемой парадигмы – многослойного персептрона, детально обсуждаются

основные алгоритмы обучения, выбора начальных весовых коэффициентов и

методы оценки эффективности выбранной модели нейронной сети.

В разделе “Программная реализация ” описывается специально

разработанная программа, реализующая основные идеи нейросетевого

программирования и адаптированная для решения поставленной задачи. Также в

этом разделе представлены результаты экспериментов по обработке

сейсмических сигналов, проведенных на базе созданной программы.

И в заключении изложены основные выводы и рекомендации по направлению

дальнейших исследований в применении нейронных сетей для решения задачи

классификации сейсмических сигналов.

1. Основные положения теории нейронных сетей.

Для того, чтобы обсуждать возможности нейросетевых технологий

необходимо хотя бы немного иметь представление об элементарных понятиях, о

том, что же такое нейрон, нейронная сеть, из чего она состоит и какие

процессы в ней происходят.

В нейроинформатике для описания алгоритмов и устройств выработана

специальная «схемотехника», в которой элементарные устройства – сумматоры,

синапсы, нейроны и т.п. объединяются в сети, предназначенные для решения

задач. Это своего рода особенный язык для представления нейронных сетей и

их обсуждения. При программной и аппаратной реализации на этом языке

описания переводятся на языки другого уровня, более пригодные для

реализации.

Элементы нейронных сетей.

Самыми простыми, базовыми элементами нейросетей являются:

. Адаптивный сумматор. Элемент вычисляющий скалярное произведение вектора

входного сигнала х на вектор параметров w;

. Нелинейный преобразователь сигнала f преобразующий скалярный сигнал x в

f(x);

. Формальный нейрон. (рис.1.1). Он состоит из элементов трех типов.

Элементы нейрона - умножители (синапсы), сумматор и нелинейный

преобразователь. Синапсы осуществляют связь между нейронами, умножают

входной сигнал на число, характеризующее силу связи, - вес синапса.

Сумматор выполняет сложение сигналов, поступающих по синоптическим связям

от других нейронов, и внешних входных сигналов. Нелинейный

преобразователь реализует нелинейную функцию одного аргумента - выхода

сумматора. Эта функция называется "функция активации" или "передаточная

функция" нейрона. Нейрон в целом реализует скалярную функцию векторного

аргумента.

Математическая модель нейрона:

[pic] (1)

[pic] (2)

где

wi - вес синапса (weight), (i=0,1,2...p);

w0 - значение смещения (bias);

s - результат суммирования (sum);

xi - компонента входного вектора (входной сигнал), (i=1,2,...p);

y - выходной сигнал нейрона;

p- число входов нейрона;

f - нелинейное преобразование (функция активации).

В общем случае входной сигнал, весовые коэффициенты и значения смещения

могут принимать действительные значения. Выход (y) определяется видом

функции активации и может быть как действительным, так и целым. Во многих

практических задачах входы, веса и смещения могут принимать лишь некоторые

фиксированные значения.

Синаптические связи с положительными весами называют возбуждающими, с

отрицательными весами - тормозящими.

Таким образом, нейрон полностью описывается своими весами wi и

передаточной функцией f(x). Получив набор чисел (вектор) xk в качестве

входов, нейрон выдает некоторое число y на выходе.

Эта модель была предложена Маккалоком и Питтсом еще в 1943 г. При этом

использовались пороговые передаточные функции (рис. 2a), и правила

формирования выходного сигнала y выглядели особенно просто:

[pic] (3)

В 1960 г. на основе таких нейронов Розенблатт построил первый в мире

автомат для распознавания изображений букв, который был назван “перcептрон”

(perception — восприятие). Этот автомат имел очень простую однослойную

структуру и мог решать только относительно простые (линейные) задачи. С тех

пор были изучены и более сложные системы из нейронов, использующие в

качестве передаточных сложные непрерывные функции. Одна из наиболее часто

используемых передаточных функций называется сигмоидной (или логистической)

(рис. 2б) и задается формулой

[pic] (4)

Нейронная сеть.

Нейронная сеть — это набор нейронов, определенным образом связанных

между собой. Как правило, передаточные функции всех нейронов в сети

фиксированы, а веса являются параметрами сети и могут изменяться.

Одними из наиболее распространенных являются многослойные сети, в

которых нейроны объединены в слои. Слой - это совокупность нейронов c

единым входным сигналом. В качестве основного примера рассмотрим сеть,

которая достаточно проста по структуре и в то же время широко используется

для решения прикладных задач — двухслойный персептрон с p входами и одним

выходом (рис. 2.3).

Как следует из названия, эта сеть состоит из двух слоев. Собственно

нейроны располагаются в первом (скрытом) и во втором (выходном) слое.

Входной слой (также его называют нулевым или «вырожденным») только передает

входные сигналы ко всем H нейронам первого слоя (здесь H = 4). Каждый

нейрон первого слоя имеет p входов, которым приписаны веса wi0,wi1,wi2,

..., wip (для нейрона с номером i). Веса wi0 и v0 соответствуют смещению b

в описании формального нейрона, которое приведено выше. Получив входные

сигналы, нейрон суммирует их с соответствующими весами, затем применяет к

этой сумме передаточную функцию и пересылает результат на один из входов

нейрона второго («выходного») слоя. В свою очередь, нейрон выходного слоя

суммирует полученные от первого слоя сигналы с некоторыми весами vi.

Итак, подавая на входы персептрона любые числа x1, x2, ..., xp, мы

получим на выходе значение некоторой функции F(x1, x2, ..., xp), которое

является ответом (реакцией) сети. Очевидно, что ответ сети зависит как от

входного сигнала, так и от значений ее весовых коэффициентов.

Выпишем точный вид этой функции

[pic] (5)

Кроме многослойных нейронных сетей существуют и другие разновидности,

каждая из которых разработаны и применяются для решения конкретных задач.

Из них можно выделить

. полносвязные сети, в которых каждый нейрон связан со всеми остальными (на

входы каждого нейрона подаются выходные сигналы остальных нейронов);

. сети с обратными связями (рекуррентные). В них определенным образом

выходы с последующих слоев нейронов подаются на вход предыдущим.

Разобравшись с тем, из чего состоят нейронные сети, и как они

функционируют, перейдем к вопросу "как создать сеть,

адаптированную для решения

поставленной задачи?". Этот вопрос

решается в два этапа: (рис. 1.4)

1. Выбор типа (архитектуры) сети

2. Подбор весов (обучение) сети.

На первом этапе следует выбрать следующее:

. какие нейроны мы хотим использовать (число входов, передаточные функции);

. каким образом следует соединить их между собой;

. что взять в качестве входов и выходов сети.

Эта задача на первый взгляд кажется необозримой, но, к счастью,

необязательно придумывать нейросеть "с нуля" - существует несколько

десятков различных нейросетевых архитектур, причем эффективность многих из

них доказана математически. Наиболее популярные и изученные архитектуры -

это многослойный персептрон, нейросеть с общей регрессией, сети Кохонена и

другие.

На втором этапе следует "обучить" выбранную сеть, то есть подобрать

такие значения ее весов, чтобы сеть работала нужным образом. Необученная

сеть подобна ребенку - ее можно научить чему угодно. В используемых на

практике нейросетях количество весов может составлять несколько десятков

тысяч, поэтому обучение - действительно сложный процесс. Для многих

архитектур разработаны специальные алгоритмы обучения, которые позволяют

настроить веса сети определенным образом.

Обучение нейросети.

Обучить нейросеть - значит, сообщить ей, чего мы от нее добиваемся.

Этот процесс очень похож на обучение ребенка алфавиту. Показав ребенку

изображение буквы "А", мы спрашиваем его: "Какая это буква?" Если ответ

неверен, мы сообщаем ребенку тот ответ, который мы хотели бы от него

получить: "Это буква А". Ребенок запоминает этот пример вместе с верным

ответом, то есть в его памяти происходят некоторые изменения в нужном

направлении. Мы будем повторять процесс предъявления букв снова и снова до

тех пор, когда все 33 буквы будут твердо запомнены. Такой процесс называют

"обучение с учителем".

При обучении сети мы действуем совершенно аналогично. Пусть у нас

имеется некоторая база данных, содержащая примеры из разных классов,

которые необходимо научиться распознавать (набор рукописных изображений

букв). Предъявляя изображение буквы "А" на вход сети, мы получаем от нее

некоторый ответ, не обязательно верный. Нам известен и верный (желаемый)

ответ - в данном случае нам хотелось бы, чтобы на выходе с меткой "А"

уровень сигнала был максимален. Обычно в качестве желаемого выхода в задаче

классификации берут набор (1,0,0,...), где 1 стоит на выходе с меткой "А",

а 0 - на всех остальных выходах. Вычисляя разность между желаемым ответом и

реальным ответом сети, мы получаем 33 числа - вектор ошибки. Далее применяя

различные алгоритмы по вектору ошибки вычисляем требуемые поправки для

весов сети. Одну и ту же букву (а также различные изображения одной и той

же буквы) мы можем предъявлять сети много раз. В этом смысле обучение

скорее напоминает повторение упражнений в спорте - тренировку.

Оказывается, что после многократного предъявления примеров веса сети

стабилизируются, причем сеть дает правильные ответы на все (или почти все)

примеры из базы данных. В таком случае говорят, что "сеть выучила все

примеры", " сеть обучена", или "сеть натренирована". В программных

реализациях можно видеть, что в процессе обучения величина ошибки (сумма

квадратов ошибок по всем выходам) постепенно уменьшается. Когда величина

ошибки достигает нуля или приемлемого малого уровня, тренировку

останавливают, а полученную сеть считают натренированной и готовой к

применению на новых данных. Схематично процесс обучения представлен на рис

1.5.

Важно отметить, что вся информация, которую сеть имеет о задаче,

содержится в наборе примеров. Поэтому качество обучения сети напрямую

зависит от количества примеров в обучающей выборке, а также от того,

насколько полно эти примеры описывают данную задачу. Так, например,

бессмысленно использовать сеть для распознавания буквы “A”, если в

обучающей выборке она не была представлена. Считается, что для полноценной

тренировки требуется хотя бы несколько десятков (а лучше сотен) примеров.

Повторим еще раз, что обучение сети - сложный и наукоемкий процесс.

Алгоритмы обучения имеют различные параметры и настройки, для управления

которыми требуется понимание их влияния.

Применение нейросети.

После того, как сеть обучена, ее можно применять ее для решения

поставленной задачи (рис 1.4). Важнейшая особенность человеческого мозга

состоит в том, что, однажды обучившись определенному процессу, он может

верно действовать и в тех ситуациях, в которых он не бывал в процессе

обучения. Например, можно читать почти любой почерк, даже если видим его

первый раз в жизни. Так же и нейросеть, грамотным образом обученная, может

с большой вероятностью правильно реагировать на новые, не предъявленные ей

ранее данные. Например, мы можем нарисовать букву "А" другим почерком, а

затем предложить нашей сети классифицировать новое изображение. Веса

обученной сети хранят достаточно много информации о сходстве и различиях

букв, поэтому можно рассчитывать на правильный ответ и для нового варианта

изображения

Примеры практического применения нейронных сетей.

В качестве примеров рассмотрим наиболее известные классы задач, для

решения которых в настоящее время широко применяются нейросетевые

технологии.

Прогнозирование.

Прогноз будущих значений переменной, зависящей от времени, на основе

предыдущих значений ее и/или других переменных. В финансовой области, это

,например, прогнозирование курса акций на 1 день вперед,

или прогнозирование изменения курса валют на определен

ный период времени и т.д.. (рис 1.6)

Распознавание или классификация.

Определение, к какому из заранее известных классов принадлежит

тестируемый объект. Следует отметить, что задачи классификации очень плохо

алгоритмизируются. Если в случае распознавания букв верный ответ очевиден

для нас заранее, то в более сложных практических задачах обученная

нейросеть выступает как эксперт, обладающий большим опытом и способный дать

ответ на трудный вопрос.

Примером такой задачи служит

медицинская диагностика, где сеть может

учитывать большое количество числовых

параметров (энцефалограмма, давление, вес и т.д.).

Конечно, "мнение" сети в этом случае нельзя

считать окончательным.

Классификация предприятий по степени их перспективности (рис 1.8) -

это уже привычный способ использования нейросетей в практике крупных

компаний. При этом сеть также использует множество

экономических показателей,

сложным образом связанных

между собой.

Кластеризацию и поиск закономерностей.

Помимо задач классификации, нейросети широко используются для поиска

зависимостей в данных и кластеризации.

Например, нейросеть на основе методики МГУА (метод группового учета

аргументов) позволяет на основе обучающей выборки построить зависимость

одного параметра от других в виде полинома (рис. 1.9). Такая сеть может не

только мгновенно выучить таблицу умножения, но и найти сложные скрытые

зависимости в данных (например, финансовых), которые не обнаруживаются

стандартными статистическими методами.

Кластеризация - это разбиение набора примеров на несколько компактных

областей (кластеров), причем число кластеров заранее неизвестно (рис.

1.10). Кластеризация позволяет представить неоднородные данные в более

наглядном виде и использовать далее для исследования каждого кластера

различные методы. Например, таким образом можно быстро выявить

фальсифицированные страховые случаи или недобросовестные предприятия.

Несмотря на большие возможности, существует ряд недостатков, которые

все же ограничивают применение нейросетевых технологий. Во-первых,

нейронные сети позволяют найти только субоптимальное решение, и

соответственно они неприменимы для задач, в которых требуется высокая

точность. Функционируя по принципу черного ящика, они также неприменимы в

случае, когда необходимо объяснить причину принятия решения. Обученная

нейросеть выдает ответ за доли секунд, однако относительно высокая

вычислительная стоимость процесса обучения как по времени, так и по объему

занимаемой памяти также существенно ограничивает возможности их

использования. И все же класс задач, для решения которых эти ограничения не

критичны, достаточно широк.

2. Постановка задачи классификации сейсмических сигналов.

Международная система мониторинга (МСМ), сформировавшаяся в мире за

последние десятилетия, предназначена для наблюдения за сейсмически

активными регионами. Основная часть информации фиксируется на одиночных

сейсмических станциях. Дальнейшая обработка этой информации позволяет

оценить различные физические параметры, характеризующие записанное событие.

Соответственно чем информативнее записанный сигнал, тем больше всевозможных

параметров можно определить и точнее. Относительно недавно для наблюдения

стали использовать группы сейсмических станций. Наиболее широкое применение

получили малоапертурные группы с диаметром приблизительно 3 км. за счет

того, что в этом случае можно пренебречь искажениями сигнала, возникающими

из-за неоднородности земной поверхности.

Причина использования сейсмических групп также заключается в том, что при

таком методе наблюдения можно применять специальные алгоритмы комплексной

обработки регистрируемой многоканальной сейсмограммы, которые обеспечивают

лучшее качество оценки параметров записанной информации, в сравнении с

одиночными сейсмическими станциями.

Одна из многочисленных задач, возникающих при региональном мониторинге,

это задача идентификации типа сейсмического источника или задача

классификации сейсмических сигналов. Она состоит в том, чтобы по

сейсмограмме определить причину возникновения зафиксированного события,

т.е. различить взрыв и землетрясение. Ее решение предусматривает разработку

определенного метода (решающего правила), который с определенной

вероятностью мог бы отнести записанное событие к одному из двух классов. На

рис.2.1 представлена схема постановки задачи.

Для решения этой задачи в настоящее время применяются различные

аналитические методы из теории статистического анализа, позволяющие с

высокой вероятностью правильно классифицировать данные. Как правило, для

конкретного региона существует своя база данных записанных событий. Она

включает в себя пример сейсмограмм характеризующих как землетрясения, так и

взрывы произошедшие в этом регионе с момента начала наблюдения. Все

существующие методы идентификации используют эту базу данных в качестве

обучающего множества, тем самым, улавливая тонкие различия характерные для

данного региона, методы, настраивают определенным образом свои параметры и

в итоге учатся классифицировать все обучающее множество на принадлежность к

одному из двух классов.

Один из наиболее точных методов основан на выделении дискриминантных

признаков из сейсмограмм и последующей классификации векторов признаков с

помощью статистических решающих правил. Размерность таких векторов

соответствует количеству признаков, используемых для идентификации и, как

правило, не превышает нескольких десятков.

Математическая постановка в этом случае формулируется как задача

разделения по обучающей выборке двух классов и ставится так: имеется два

набора векторов (каждый вектор размерности N): X1,…,Xp1 и Y1,…Yp2. Заранее

известно, что Xi (i=1,…,p1) относится к первому классу, а Yj (j=1,…,p2) -

ко второму. Требуется построить решающее правило, т.е. определить такую

функцию f, что при f(x) > 0 вектор x относился бы к первому классу, а при

f(x) < 0 - ко второму, где x({X1,…, Xp1, Y1,…, Yp2}.

3. Статистическая методика решения задачи классификации.

В данном разделе рассматривается методика определения типов

сейсмических событий, основанная на выделении дискриминантных признаков из

сейсмограмм и последующей классификации векторов признаков с помощью

статистических решающих правил.[8]

3.1 Выделение информационных признаков из сейсмограмм.

Исходные данные представлены в виде сейсмограмм (рис. 3.1) – это

временное отображение колебаний земной поверхности.

В таком виде анализировать информацию, оценивать различные физические

характеристики зафиксированного события достаточно трудно. Существуют

различные методы, специально предназначенные для обработки сигналов,

которые позволяют выделять определенные признаки, и, в дальнейшем, по ним

производить анализ записанного события.

Как правило, в большинстве из этих методов на начальном этапе

выполняется следующий набор операций:

1. Из всей сейсмограммы выделяется часть («временное окно»), которое

содержит информацию о какой-то отдельной составляющей сейсмического

события, например, только о P-волне.

2. Для выделенных данных последовательно применяется такие процедуры как:

а) Быстрое (дискретное) преобразование Фурье (БПФ);

б) Затем накладываются характеристики определенного фильтра, например,

фильтра Гаусса.

в) Обратное преобразование Фурье (ОБПФ), для того чтобы получить

отфильтрованный сигнал.

Далее, применяются различные алгоритмы для формирования определенного

признака. В частности, можно легко найти максимальную амплитуду колебания

сигнала, характеристику определяемую выражением max{peakMax – peakMin}.

Определив данный параметр для частоты f1 допустим для P волны, а также для

частоты f2 для S волны можно найти их отношение P(f1 )/S(f2), и

использовать его в качестве дискриминационного признака.

Применяя другие алгоритмы, можно построить большое количество таких

признаков. Однако, для задачи идентификации типа сейсмического события,

важными являются далеко не все. Из наиболее информативных можно выделить

такие признаки, как отношение амплитуд S и P волн, или доля мощности S фазы

на высоких (низких) частотах по отношению к мощности S фазы во всей полосе

частот.

Как правило, максимальное количество признаков, которое используется

для этой задачи составляет около 25 – 30.

3.2 Отбор наиболее информативных признаков для идентификации.

Как было показано выше, в сейсмограмме анализируемого события можно

выделить достаточно много различных характеристик, однако, далеко не все из

них могут действительно нести информацию, существенную для надежной

идентификации взрывов и землетрясений. Многочисленные исследования в

дискримининтном анализе показали, что выделение малого числа наиболее

информативных признаков исключительно важно для эффективной классификации.

Несколько тщательно отобранных признаков могут обеспечить вероятность

ошибочной классификации существенно меньшую, чем при использовании полного

набора.

Ниже представлена процедура отбора наиболее информативных

дискриминантных признаков, осуществляемая на основании обучающих реализаций

землетрясений и взрывов из данного региона.[8]

В начале каждый вектор xsj = (x(i)sj, i(1,p); где s(1,2 -номер класса

(s=1 - землетрясения s=2 - взрывы), j(1,ns , ns -число обучающих векторов

данного класса состоит из p признаков, выбранных из эвристических

соображений как предположительно полезные для данной проблемы

распознавания. При этом число p может быть достаточно велико и даже

превышать число имеющихся обучающих векторов в каждом из классов, но для

устойчивости вычислений должно выполняться условие p < n1+n2 . Процедура

отбора признаков - итерационная и состоит из p шагов на каждом из которых

число отобранных признаков увеличивается на единицу. На каждом

промежуточном k-м шаге процедура работает с n1+n2 k-мерными векторами

xsj(k) (k(p), сформированных из k-1 признаков, отобранных в результате

первых k-1 шагов и некоторого нового признака из числа оставшихся. Отбор

признаков основан на оценивании по векторам, состоящим из различных

признаков, стохастического расстояния Кульбака-Махаланобиса D(k) между

распределениями вероятностей векторов xsj(k):

D(k)= (m(k,1) - m(k,2))T S-1n1+n2 (k) (m(k,1) - m(k,2)), (6)

где: m(k,1), m(k,2) k - мерные векторы выборочных средних, вычисленные по k-

мерным векторам x1j(k) j(1,n1 и x2j(k) j(1,n2 первого и второго классов; S-

1n1+n2 (k) есть (k(k)- мерная обратная выборочная матрица ковариаций,

вычисленная с использованием всего набора k - мерных векторов x1j(k) j(1,n1

и x2j(k) j(1,n2

На первом шаге процедуры отбора значения функционала D(1) вычисляются

для каждого из p признаков. Максимум из этих p значений достигается на

каком то из признаков, который таким образом отбирается как первый

информативный. На втором шаге значения функционала D(2) вычисляются уже для

векторов, состоящих из пар признаков. Первый элемент в каждой паре - это

признак, отобранный на предыдущем шаге, второй элемент пары - один их

оставшихся признаков. Таким образом получаются p-1 значения функционала

D(2). Второй информативный признак отбирается из условия, что на нем

достигается максимум функционала D(2). Далее процедура продолжается

аналогично, и на k-м шаге процедуры отбора вычисляются значения функционала

D(k) по обучающим векторам, состоящим из k признаков. Первые k-1 компонент

этих векторов есть информативные признаки, отобранные на предыдущих k-1

шагах, последняя компонента - один из оставшихся признаков. В качестве k-го

информативного признака отбирается тот признак, для которого функционал

D(k) -максимален.

Описанная процедура ранжирует порядок следования признаков в

обучающих векторах так, чтобы обеспечить максимально возможную скорость

возрастания расстояния Махаланобиса (6) с ростом номера признака. Для

селекции множества наиболее информативных признаков на каждом шаге

k=1,2,...,p описанной выше итерационной процедуры ранжирования признаков по

информативности сохраняются номер j(k) в исходной таблице признаков и имя

выбранного признака, также вычисляется теоретическое значение полной

вероятности ошибки классификации P(k) по формуле Колмогорова-Деева [12].

P(k) = (1/2)[1 - Tk(D(k)/((k)) + Tk(-D(k)/ ((k))],

где k - число используемых признаков

(2(k) = [(t+1)/t][r1+r2+D(k)]; t = [(r1+r2)/r1r2]-1; r1=k/n1; r2=k/n2

(7)

Tk(z) = F(z) + (1/(k-1) ) (a1 - a2H1(z) + a3H2(z) - a4H3(z)) f(z),

F(z) - функция стандартного Гауссовского распределения вероятностей;

f(z) - плотность этого распределения; Hi(z) - полином Эрмита степени i,

i=1,2,3; aj, j=1,...,4 - некоторые коэффициенты, зависящие от k, n1, n2 и

D(k) [12]. Эта формула, как было показано в различных исследованиях, имеет

хорошую точность при размерах выборок порядка сотни и rs 0, то принимается, что вектор

x(k) принадлежит первому классу - (землетрясение); в противоположном случае

он принадлежит второму класс (взрыв).

Квадратичная дискриминационная функция описывается следующей формулой

[pic] (9)

где [pic], s=1,2 - обратные матрицы ковариаций обучающих выборок 1-го и 2-

го классов, вычисленные по обучающим векторам x1j(k) j(1,n1 и x2j(k)

j(1,n2, соответственно.

3.4 Оценка вероятности ошибочной классификации методом скользящего

экзамена.

Оценивание вероятности ошибочной идентификации типа событий

(землетрясение-взрыв), в каждом конкретном регионе представляет собой одну

из основных практических задач мониторинга. Эту задачу приходится решать на

основании накопления региональных сейсмограмм событий, о которых доподлинно

известно, что они порождены землетрясениями или взрывами. Эти же

сейсмограммы представляют собой "обучающие данные" для адаптации решающих

правил.

Из теории распознавания образов известно, что наиболее точной и

универсальной оценкой вероятности ошибок классификации является оценка,

обеспечиваемая процедурой “скользящего экзамена”(“cross-validation”) [11].

В методе скользящего экзамена на каждом шаге один из обучающих векторов

xsj , j(1,ns, s(1,2, исключается из обучающей выборки. Оставшиеся векторы

используются для адаптации (обучения) LDF или QDF или любого другого

дискриминатора. Исключенный вектор затем классифицируется с помощью

дискриминатора, обученного без его участия. Если этот вектор

классифицируется неправильно, т.е. относится к классу 2 вместо класса 1 или

наоборот, соответствующие “счетчики” (12 или (21 увеличиваются на 1.

Исключенный вектор затем возвращается в обучающую выборку, а изымается уже

другой вектор xs(j+1). Процедура повторяется для всех nl +n2 обучающих

векторов. Вычисляемая в результате величина

p0=((12 +(21)/( nl +n2 )

является состоятельной оценкой полной вероятности ошибочной классификации.

Значения дискриминатора, полученные в результате процедуры скользящего

экзамена для обоих классов, ранжируются по амплитуде: ранжированные

последовательности удобнее сравнивать с порогом и делать выводы о

“физических” причинах ошибочной классификации.

4. Обзор различных архитектур нейронных сетей, предназначенных для задач

классификации.

Приступая к разработке нейросетевого решения, как правило,

сталкиваешься с проблемой выбора оптимальной архитектуры нейронной сети.

Так как области применения наиболее известных парадигм пересекаются, то для

решения конкретной задачи можно использовать совершенно различные типы

нейронных сетей, и при этом результаты могут оказаться одинаковыми. Будет

ли та или иная сеть лучше и практичнее, зависит в большинстве случаев от

условий задачи. Так что для выбора лучшей приходится проводить

многочисленные детальные исследования.

Рассмотрим ряд основных парадигм нейронных сетей, успешно применяемых

для решения задачи классификации, одна из постановок которой представлена в

данной дипломной работе.

4.1 Нейрон – классификатор.

Простейшим устройством распознавания образов в нейроинформатике

является одиночный нейрон (рис. 4.1), превращающий входной вектор признаков

в скалярный ответ, зависящий от линейной комбинации входных переменных [1-

5, 7,10]:

Скалярный выход нейрона можно использовать в качестве т.н.

дискриминантной функции. Этим термином называют индикатор принадлежности

входного вектора к одному из заданных классов, а нейрон соответственно –

линейным дискриминатором. Так, если входные вектора могут принадлежать

одному из двух классов, можно различить тип входа, например, следующим

образом: если f(x) ( 0, входной вектор принадлежит первому классу, в

противном случае – второму. Рассмотрим алгоритм обучения подобной

структуры, приняв f(x)(x.

Итак, в p-мерном пространстве задана обучающая выборка x1,…,xn (первый

класс) и y1,…,ym (второй класс). Требуется найти такие p+1-мерный вектор w,

что для всех i=1,…,n и j=1,…,m w0+(xi,w)>0 и w0+(yj,w) 0. Если для данного l ( n+m оно

выполнено, переходим к следующем l (либо при l=n+m заканчиваем цикл),

если же не выполнено, то модифицируем w по правилу w=w+zl , или w=w+hTzl,

где T – номер модификации, а [pic] , например.

Когда за весь цикл нет ни одной ошибки ( т.е. модификации w), то

решение w найдено, в случае же ошибок полагаем l=1 и снова проходим цикл.

В некоторых простейших случаях линейный дискриминатор – наилучший из

возможных, а именно когда оба класса можно точно разделить одной

гиперплоскостью, рисунок 4.2 демонстрирует эту ситуацию для плоскости,

когда p=2.

4.2 Многослойный персептрон.

Возможности линейного дискриминатора весьма ограничены. Для решения

более сложных классификационных задач необходимо усложнить сеть вводя

дополнительные (скрытые) слои нейронов, производящих промежуточную

предобработку входных данных, таким образом, чтобы выходной нейрон-

классификатор получал на свои входы уже линейно-разделимые множества. Такие

структуры носят название многослойные персептроны [1-4,7,10] (рис. 1.3).

Легко показать, что, в принципе, всегда можно обойтись одним скрытым

слоем, содержащим, достаточно большое число нейронов. Действительно,

увеличение скрытого слоя повышает размерность пространства, в котором

выходной нейрон производит классификацию, что, соответственно, облегчает

его задачу.

Персептроны весьма популярны в нейроинформатике. И это обусловлено, в

первую очередь, широким кругом доступных им задач, в том числе и задач

классификации, распознавания образов, фильтрации шумов, предсказание

временных рядов, и т.д., причем применение именно этой архитектуры в ряде

случаев вполне оправдано, с точки зрения эффективности решения задачи.

Рассмотрим какие алгоритмы обучения многослойных сетей разработаны и

применяются в настоящее время.[7,10]. В основном все алгоритмы можно

разбить на две категории:

. Градиентные алгоритмы;

. Стохастические алгоритмы.

К первой группе относятся те, которые основаны на вычислении

производной функции ошибки и корректировке весов в соответствии со

значением найденной производной. Каждый дальнейший шаг направлен в сторону

антиградиента функции ошибки. Основу всех этих алгоритмов составляет хорошо

известный алгоритм обратного распространения ошибки (back propagation

error).[1-5,7,10].

[pic] ,где функция ошибки [pic]

Многочисленные модификации, разработанные в последнее время, позволяют

существенно повысить эффективность этого алгоритма. Из них наиболее

известными являются:

1. Обучение с моментом.[4,7]. Идея метода заключается в добавлении к

величине коррекции веса значения пропорционального величине

предыдущего изменения этого же весового коэффициента.

[pic]

2. Автономный градиентный алгоритм (Обучение с автоматическим

изменением длины шага (). [10]

3. RPROP (от resilient –эластичный), в котором каждый вес имеет свой

адаптивно настраиваемый темп обучения.[4]

4. Методы второго порядка, которые используют не только информацию о

градиенте функции ошибки, но и информацию о вторых производных .[3,4,7].

Стохастические методы обучения выполняют псевдослучайные изменения

величин весов, сохраняя те изменения, которые ведут к улучшениям

характеристик сети. К этой группе алгоритмов относятся такие как

1. Алгоритм поиска в случайном направлении.[10]

2. Больцмановское обучение или (алгоритм имитации отжига). [1]

3. Обучение Коши, как дополнение к Больцмановскому обучению.[1]

Основным недостатком этой группы алгоритмов является очень долгое время

обучения, а соответственно и большие вычислительные затраты. Однако, как

пишут в различных источниках, эти алгоритмы обеспечивают глобальную

оптимизацию, в то время как градиентные методы в большинстве случаев

позволяют найти только локальные минимумы функционала ошибки.

Известны также алгоритмы, которые основаны на совместном использовании

обратного распространения и обучения Коши. Коррекция весов в таком

комбинированном алгоритме состоит из двух компонент: направленной

компоненты, вычисляемой с использованием алгоритма обратного

распространения, и случайной компоненты, определяемой распределением Коши.

Однако, несмотря на хорошие результаты, эти методы еще плохо исследованы.

4.3 Сети Ворда.

Одним из вариантов многослойного персептрона являются нейронные сети

Ворда. Они способны выделять различные свойства в данных, благодаря наличию

в скрытом слое нескольких блоков, каждый из которых имеет свою передаточную

функцию (рис.4.4). Передаточные функции (обычно сигмоидного типа) служат

для преобразования внутренней активности нейрона. Когда в разных блоках

скрытого слоя используются разные передаточные функции, нейросеть

оказывается способной выявлять новые свойства в предъявляемом образе. Для

настройки весовых коэффициентов используются те же алгоритмы, о которых

говорилось в предыдущем разделе.

4.2 Сети Кохонена.

Сети Кохонена – это одна из разновидностей нейронных сетей, для

настройки которой используется алгоритм обучения без учителя. Задачей

нейросети Кохонена является построение отображения набора входных векторов

высокой размерности на карту кластеров меньшей размерности , причем таким

образом, что близким кластерам на карте отвечают близкие друг к другу

входные векторы в исходном пространстве.

Сеть состоит из M нейронов, образующих, как правило одномерную или

двумерную карту (рис. 4.2). Элементы входных сигналов {xi} подаются на

входы всех нейронов сети. В процессе функционирования (самоорганизации) на

выходе слоя Кохонена формируются кластеры (группа активных нейронов

определённой размерности, выход которых отличен от нуля), характеризующие

определённые категории входных векторов (группы входных векторов,

соответствующие одной входной ситуации). [9]

Алгоритм Кохонена формирования карт признаков.

Шаг 1. Инициализировать веса случайными значениями. Задать размер

окрестности ((0), и скорость ((0) и tmax.

Шаг 2. Задать значения входных сигналов (x1,…,xp).

Шаг 3. Вычислить расстояние до всех нейронов сети. Расстояния dk от

входного сигнала x до каждого нейрона k определяется по формуле:

[pic]

где

xi - i-ый элемент входного сигнала,

wki - вес связи от i-го элемента входного сигнала к нейрону k.

Шаг 4. Найти нейрон – победитель, т.е. найти нейрон j, для которого

расстояние dj наименьшее:

j:dj < dk (k(p

Шаг 5. Подстроить веса победителей и его соседей.

[pic] [pic]

Шаг 6. Обновить размер окрестности ((t) и скорость ((t)

((t)=((0)(1-t/tmax) ((t)=((0)(1-t/tmax)

Шаг 7. Если (t < tmax), то Шаг 2, иначе СТОП.

Благодаря своим способностям к обобщению информации, карты Кохонена

являются удобным инструментом для наглядного представления о структуре

данных в многомерном входном пространстве, геометрию которого представить

практически невозможно.

Сети встречного распространения.

Еще одна группа технических применений связана с предобработкой данных.

Карта Кохонена группирует близкие входные сигналы Х, а требуемая функция Y

= G(X) строится на основе обычной нейросети прямого распространения

(например многослойного персептрона или линейной звезды Гроссберга[1]) к

выходам нейронов Кохонена. Такая гибридная архитектура была предложена Р.

Хехт-Нильсеном и имеет название сети встречного распространения[1-3,7,9].

Нейроны слоя Кохонена обучаются без учителя, на основе самоорганизации, а

нейроны распознающих слоев адаптируются с учителем итерационными методами.

Пример такой структуры для решения задачи классификации сейсмических

сигналов приведен на рис. 4.5.

Второй уровень нейросети используется для кодирования информации.

Весовые коэффициенты tij (i =1,...,M; j=1,2) – коэффициенты от i-го нейрона

слоя Кохонена к j-му нейрону выходного слоя рассчитываются следующим

образом:

[pic]

где

Yi – выход i- го нейрона слоя Кохонена

Sj – компонента целевого вектора (S={0,1} – взрыв, S={1,0}-землетрясение)

Страницы: 1, 2