Исследование алгоритмов распознания символов. Моделирование нейронной сети

Контролируемы нейронные сети - это сети, которые подразумевают обучение с учителем. К данному типу в Neural Network Toolbox относится 4 вида сетей:

· Радиально- базисные сети. Сети, которые обеспечивают быстрый способ постройки нелинейных сетей прямого распространения.

· Динамические сети. Они используют память и рекуррентные обратные связи для распознавания пространственных и временных закономерностей. Широко применимы для моделирования нелинейных динамических систем и в приложениях систем управления.

· LVQ- сети. Они используют метод классификации моделей, которые не являются линейно разделимыми. Данные сети позволяют определить границы класса.

· Сети прямого распространения. Имеют односторонние соединения от входных и до выходных слоёв. Используются для распознания образов и аппроксимации нелинейных функций.

Неконтролируемые нейронные сети - это сети, обучение которых происходит без учителя. Данный тип сетей обучается постоянно для приспособления к новым входным значениям.

В Neural Network Toolbox есть два типа неконтролируемых сетей: самоорганизующиеся карты и конкурентные слои.

Самоорганизующиеся карты служат для классификации входных векторов по сходству. Они применяются для таких задач как классификация и распознавание образов.

Конкурентные слои служат для распознавания подобных входных векторов, которые автоматически сортируются на категории. Применяются так же, как и самоорганизующиеся карты.

Так же в Neural Network Toolbox предусмотрен графический интерфейс пользователя, который вызывается с помощью команды nntool. на экране появится окно Network/ Data manager как показано на рис. 2.8.

Рис. 2.8 - Окно пользовательского интерфейса nntool

На данном рисунке:

· Input data - задаются входы нейронной сети;

· Target data - задаётся последовательность целей;

· Networks - список созданных нейронных сетей;

· Outputs data - отображаются последовательности выходов нейронной сети;

· Error data - показываются ошибки;

· Input delay state - начальные условия линии задержки входа;

· Layer delay state - начальные условия линии задержки слоя.

Так же на данном окне присутствуют функциональные кнопки (слева направо):

· Import - кнопка для загрузки уже существующих данных. При нажатии появляется окно с выбором, откуда нужно загружать файлы с диска или же с рабочей области Matlab как на рис. 2.9;

Рис. 2.9 - Окно импорта

· New - кнопка, с помощью которой можно создать нейронную сеть. На рис 2.10 показано окно создания нейронной сети. В появившемся окне можно выбрать тип нейронной сети, количество нейронов в слое и количество слоев, функцию обучения, а также посмотреть вид получившейся нейронной сети;

Рис 2.10 - Окно создания нейронной сети

· Open - служит для просмотра данных, которые находятся в переменных или же для настройки нейронной сети;

· Export - служит для экспорта данных в рабочую область Matlab или же для сохранения данных на диск, как показано на рис 2.11;

Рис 2.11 - Окно экспорта данных

· Delete - служит для удаления выбранных переменных;

· Help - служит для вызова окна справки, в котором описываются правила работы с диспетчером nntool.

Для того, чтобы создать нейронную сеть в Matlab, необходимо:

1. Создать последовательности входов и целей, либо загрузить их из рабочей области или файла;

2. Создать новую нейронную сеть и выбрать ее тип;

3. Открыть окно Network, выбрать вкладку train, задать входные и целевые данные (из предложенного списка) и нажать кнопку train.

На рис. 2.12 изображено окно с процессом обучения нейронной сети. Здесь можно пронаблюдать то, как обучалась нейронная сеть. Посмотреть количество эпох, потраченное время.

Так же можно пронаблюдать графики представления, состояние обучения и регрессию.

Рис 2.12 - Процесс обучения нейронной сети

Выводы

1) Matlab приобрел большую популярность благодаря скорости работы, которая намного выше, чем у конкурентов. Так же Matlab включает в себя множество toolbox, которые служат для решения различных задач.

2) Matlab имеет хорошую интеграцию с большинством приложений, таких как exel, а так же с языками программирования, например с С++.

3) Пакет Neural Network Toolbox имеет большие возможности для создания нейронных сетей. Причем для их создания не нужно затрачивать множество усилий, потому что есть графический интерфейс, который очень удобен для использования пользователем.

3. Моделирование нейронной сети для распознавания символов

3.1 Выбор вида нейронной сети

Для создания нейронной сети, которая должна будет распознавать символы английского алфавита вне зависимости от угла поворота и наклона, мы будем использовать двухслойную нейронную сеть с прямым распространением сигнала с применением обучения методом обратного распространения ошибки.

Перед началом моделирования сети нам нужно сделать дескрипторы каждого символа. В данной работе будет использоваться regionprops. Данная функция позволяет вычислять дескрипторы области. Для выполнения работы будет использоваться 4 дескриптора:

· Eccentricity - скаляр, равный эксцентриситету эллипса, который имеет те же вторые моменты, что и исходная область. Эксцентриситет равен частному расстоянию между фокусами и длины большой оси. Величина расположена в интервале от 0 до 1;

· MajorAxisLength - длина, в пикселах, большой оси эпсилоида, который имеет те же вторые моменты, что и исходная область;

· MinorAxisLength - длина, в пикселах, малой оси эпсилоида, который имеет те же вторые моменты, что и исходная область;

· Solidity - Скаляр, пропорциональный числу пикселов выпуклой оболочки, которые лежат и в области.

Regionprops является функцией пакета Image Processing Toolbox. Функция применяется для изменения свойств объектов в некоторой окрестности изображения и позволяет представить результат в виде массива. Если же применить к изображению, где уже отмечены компоненты, то создастся структура для каждой компоненты.

В качестве моделируемой нейронной сети выберем нейронную сеть с прямым распространением сигнала. Данная структура позволяет использовать многослойную структуру, то есть нейроны расположены слоями. Связь же между такими нейронами будет однонаправленная от входа к выходу. Такие сети являются статическими, так как не имеют в своей структуре динамических элементов, а выход зависит от заданного множества на входе и не зависит от предыдущих состояний сети.

Обучение будет происходить методом обратного распространения ошибки. Обратное распространение ошибки -- это способ расчета первых производных. Метод более точен при вычислении частных производных, а также гораздо производительнее. Весь же вектор градиента вычисляется за время, в 2- 3 раза более длительное, чем само вычисление сложной функции, которую реализует нейронная сеть.

Классическое дифференцирование требует для каждой компоненты вектора градиента затрат, пропорциональным затратам на вычисление функции. Получается, что стандартные для математики реализации вычисляют градиет за время примерно во столько раз длительнее времени вычисления функции, сколько компонент содержится в векторе градиента.

Вот эта скорость и точность вычисления градиента и есть основная ценность алгоритма обратного распространения для вычислительной математики.

3.2 Моделирование нейронной сети

Для каждого символа создаем m- файл, с помощью которого создаются нужные дескрипторы.

f = imread ('A2.jpg');

e=rgb2gray(f);

c=255-e;

d=im2bw(c);

g=imfill(d,'holes');

bw=bwareaopen(g,5);

l=bwlabel(bw);

D1=regionprops(l,'Eccentricity','MajorAxisLength','MinorAxisLength','Solidity');

K=[D1.Eccentricity,D1.MajorAxisLength,D1.MinorAxisLength,D1.Solidity];

Получается набор из 26 переменных, показанных на рисунке 3.1

Рис. 3.1 - Переменные с дескрипторами символом

Далее объединяем данные вектор-столбцы в один массив p размером 4x26 и создаем целевой вектор t, в котором содержатся цифры от 1 до 26.

Теперь, когда данные подготовлены, можно приступать к созданию нейронной сети. Для этого в окне команд прописываем nntool для вызова графического интерфейса создания нейронной сети. Входными данными будет является вектор p, а таргет значениями - t, как показано на рис. 3.2

Теперь нужно определиться с количеством нейронов в скрытом слое нейронной сети.

Рис. 3.2 - Задание входных и таргет значений

Большее число нейронов в скрытом слое не дадут прироста к результативности. Для наглядности построим график, показывающий количество нейронов в скрытом слое и процент ошибочного распознавания.

Можно предположить, что чем больше нейронов в скрытом слое, тем больший шанс, что нейронная сеть распознает почти 100% символов. Но на определенном моменте (25 нейронов в скрытом слое) можно увидеть, что количество ошибок распознавания будет возрастать.

Поэтому мы создадим трехслойную нейронную сеть, где на первом слое будет 15 нейронов, а на втором - 10. На рис. 3.3 показана структура моделируемой нейронной сети. В качестве активационной функции будем использовать логарифмическую функцию.

Рис. 3.3 - Структура моделируемой нейронной сети

Рис. 3.4 - График отношения количества нейронов к ошибке распознавания

Теперь переходим к обучению нейронной сети. Переходим во вкладку Train там выбираем переменные, которые подаем на вход и таргет переменные, как на рис 3.5

Рис 3.5 - Выбор данных для обучения

Нажимаем кнопку обучения нейронной сети и у нас появляется окно обучения (рис.3.6).

Рис.3.6 - Процесс обучения нейронной сети

Можно посмотреть процесс обучение нейронной сети на графике (рис.3.7)

Рис. 3.7 - Графическое представление обучения нейронной сети

3.3 Проверка моделируемой нейронной сети

Нейронная сеть обучена и теперь каждой букве присвоено свой вектор- столбец, это сопоставление показано в таблице 3.1.

Таблица 3.1 Присвоенные значения

При симуляции через команду sim нейронная сеть распознает 100% эталонных символов.

Демонстрация того, что символ распознался, на примере буквы R.

Для начала в командной строке пишем: y=sim (net, R); Нам выводится номер, присвоенный букве в результате обучения нейронной сети показанный на рис.3.8 и выводится изображение данной буквы в отдельном окне.

Рис. 3.8 - Результат выполнения команды

Теперь нам нужно все символы повернуть на несколько градусов и проверить, распознает их нейронная сеть или нет. Для демонстрации возьмем символы “A”, “H” и “G” и повернем их на +5, -10, +3 градусов. Для поворота будем использовать функцию imrotate(g, 5, 'bicubic'). Результаты занесем в таблицу 3.2

Таблица 3.2 Повернутые символы

Значения, полученные в результате симуляции нейронной сети практически идентичны оригиналу, но несмотря на это, сеть все так же распознает символы.

Так же для наглядности, на рис.3.9 продемонстрируем симуляцию нейронной сети для буквы N, которая была повернута на +5 градусов.

Рис. 3.9 - Результат распознавания букву N

Теперь попробуем подать на вход символ, которого нет в наборе эталонов. Например, подадим цифру 1. На выходе получается число, которое не относится ни к одному символу и выводится шум. (Рис. 3.10)

Рис. 3.10 - Результат попытки распознать цифру 1

В результате нейронная сеть откликается лишь на образы, с помощью которых происходило обучение, а это были заглавные буквы английского алфавита.

Выводы

1) Для проведения исследования были подготовлены дескрипторы для каждого символа английского алфавита, на основе которых проводилось обучение нейронной сети.

2) После обучения была проверена работоспособность сети. Все эталонные образы были распознаны.

3) Тестирование обученной нейронной сети показал, что несмотря на наклон символов, она все равно правильно распознает символы. Это свидетельствует о том, что с помощью дескрипторов области можно обучить нейронную сеть, которая, возможно, найдет применение на практике.

нейронный сеть matlab дескриптор

Заключение

В представленной дипломной работе была смоделирована нейронная сеть, обученная на основе дескрипторов образов. Она использовалась для распознавания символов английского алфавита, которые подвергались повороту.

Была выбрана трехслойная нейронная сеть с прямым распространением сигнала и методом обратного распространения ошибки. Данная сеть была выбрана, так как она не ограничена количеством образов, как нейронная сеть Хопфилда, а также проста в реализации. При правильном обучении и правильно выбранных дескрипторах области нейронная сеть показывает хороший показатель распознаваемости символов.

В реальные условия довольно часто символы расположены под каким -либо углом и использование данной нейронной сети позволяет распознавать символы вне зависимости от угла поворота символа, что приводит к лучшей читаемости. Таким образом, задачи, поставленные в дипломной работе, были решены.

Размещено на Allbest.ru