Формирование признакового пространства для задач классификации сложноструктурируемых изображений на основе спектральных окон и нейросетевых структур

128

ISSN 2223-1560. Известия Юго-Западного государственного университета. 2015. № 4 (61).

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

на тему: Формирование признакового пространства для задач классификации сложноструктурируемых изображений на основе спектральных окон и нейросетевых структур

Выполнил:

С.А. Филист

Самоорганизующиеся нейросетевые структуры предназначены для выделения на изображении сегментов заданного класса. актуальность в разработке интеллектуальных систем классификации сложнострук-турируемых изображений возникает при обработке рентгенограмм. Для классификации сложноструктурируемых изображений предложены компьютерные технологии, построенные на методологии бустинга. Пространство информативных признаков формируется посредством спектральных окон, полученных в результате сканирования исходного изображения. Спектральные окна предлагается использовать в качестве альтернативы примитивам Хаара, используемым в методе классификации изображений Виолы-Джонса. Спектральные окна, принадлежащие к различным классам, располагаются в виде кластеров на плоскости Кохонена. Для формирования кластеров используются правила коррекции векторов весов текущего примера, построенные на основе известного правила Кохонена. Предварительно вводится расстояние на плоскости Кохонена и осуществляется коррекция весовых коэффициентов кластеров, позволяющая снизить величины незначащих компонент векторов, определяющих координаты кластеров. На основе кластерной структуры плоскости Кохонена строятся сильные классификаторы. В качестве примера реализации сильного классификатора приведена структура сильного классификатора на нейронных сетях прямого распространения блочного типа. В качестве примера реализации предложенной компьютерной технологии рассмотрена задача классификации рентгенограмм грудной клетки с пневмонией.

Ключевые слова: классификация сложноструктурируемых изображений, методология бустинга, спектральный анализ, сети Кохонена, слабые классификаторы, обучение классификаторов, алгоритм.

Self-organizing neural network structures are designed to highlight the segments of a given class in the image. The relevance in the development of intelligent classification systems of complex structured images occurs when we process radiographs. For classification of complex structured images there have been proposed computer technologies based on boosting methodology. The space of informative features is formed by spectral windows obtained by scanning the original image. The spectral windows can be used as an alternative to the primitives of Haar being used for the image classification by Viola-Jones. The spectral windows belonging to different classes are arranged in the form of clusters on the plane of Kohonen. For clusters formation the rules of correcting the vectors of weights of the current example are used being constructed on the Kohonen rule. Initially distance is entered in the plane of Kohonen and the correction of the weight coefficients of clusters is carried out, allowing to reduce the magnitudes of insignificant component vectors, determining the coordinates of the clusters. Based on the cluster structure of the plane of Kohonen, strong classifiers are built. As an example of implementation of strong classifier there has been given the structure of a strong classifier based on neural networks of direct distribution of block type. As an example of implementation of the proposed computer technology there has been considered the task of classifying radiographs of chest with pneumonia.

Key words: classification of complex structured images, methodology of boosting, spectral analysis, Kohonen networks, weak classifiers, classifiers training, algorithm.

Введение

Известен широкий класс изображений, определенный как сложноструктурируемые [1, 2, 3]. К этому классу относятся изображения, получаемые в геоинформационных системах, в ряде медицинских приложениях, например, в рентгенографии.

В настоящее время для классификации сложноструктурируемых изображений широко используется методология бустинга. Идея, положенная в основе этих методов, состоит в том, что на основе сегментации пространства признаков строится ряд классификаторов, привязанных к соответствующим подпространствам признаков. В частном случае эти подпространства могут пересекаться. В каждом признаковом пространстве строится классификатор, который называют "слабым" в связи с тем, что его диагностическая эффективность должна быть хотя бы на немного больше 0,5. "Слабые" классификаторы группируют, а затем агрегируют по выделенным группам, и в результате агрегации уже получают более "сильные" классификаторы. Продолжая этот процесс, можем получить так называемый каскад классификаторов, то есть цепочку классификаторов с возрастающей, или, по крайней мере, не ухудшающейся точностью. Доказано, что если вероятность правильного решения "слабого" классификатора хотя бы немного превосходит 0.5, то качество классификации построенной композиции может быть заметно больше качества отдельного алгоритма. Более того, эмпирически было обнаружено, что при удачно составленной композиции качество классификации может продолжать увеличиваться даже при достижении на обучающей выборке абсолютно точной классификации.

Для реализации такой каскадной классифицирующей модели необходимо создать пространство информативных признаков высокой размерности. Одним из походов к созданию такого признакового пространства являются многомасштабные преобразования, развития которых получили в классификаторах, построенных на основе метода Виолы-Джонса [4].

Идея модификации метода Виолы-Джонса. В известном методе Виолы-Джонса используется принцип двойного или вложенного окна, согласно которому изображение сканируется скользящим окном, которое должно быть отнесено к определенному классу, например, если это рентгенограмма грудной клетки необходимо принять двухальтернативное решение: "есть пневмония" в окне - "нет пневмонии" в окне. Первичное окно, в свою очередь, сканируется вторичным окном, размеры и форма которого меняются от цикла к циклу сканирования. Этим достигается повышение размерности пространства информативных признаков. Нечто похожее используется при вейвлет-анализе.

При вторичном сканировании изображения первичное окно сканируется окном, реализующим один из дифференциальных операторов (маска дифференциального оператора построена на основе вейвлетов Хаара). В результате свертки первичного окна с дифференцирующими масками формируется пространство информативных признаков для классификации первичного окна, размерность которого достигает сотен тысяч, в зависимости от количества выбранных форм и масштабов дифференцирующих масок. На основе сформированных пространств информативных признаков строят каскады классификаторов, агрегирование в которых, например посредством деревьев решений, может осуществляться на уровнях масштабов первичного окна, углов ориентации вторичных окон и т.д.

Базовый алгоритм Виолы-Джонса имеет ряд недостатков:

длительное время работы алгоритма обучения;

отсутствие методов оптимизации количества признаков в первичном окне (числа используемых примитив Хаара и их масштабов);

большое количество близко расположенных друг к другу результатов из-за применения различных масштабов и скользящего окна.

Для устранения первых двух указанных недостатков предлагается во вторичном окне вместо дифференцирующих масок, построенных на разномасштабных примитивах Хаара, использовать глобальный оператор спектрального преобразования уолша. В итоге каждому первичному окну будет поставлено в соответствие столько информативных признаков, сколько пикселей попало в это окно. На рисунке 1 представлен пример двумерных функций Уолша, используемых в качестве базисных функций при двумерном спектральном анализе в базисе Уолша.

Рис. 1. Изображения трех первых двумерных функций Уолша. Черные поля - это +1, белые поля - это -1

Для получения каскада классификаторов меняем масштаб первичного окна, причем вторичное окно в этом случае, как таковое, отсутствует, так как базисные функции при вычислении двумерного спектра пробегают все масштабы, доступные в первичном окне. В связи с вышеизложенным больше не будем использовать при описании алгоритмических решений термины "первичное окно" и "вторичное окно", а пользоваться вместо этих терминов термином "окно".

На рисунке 2 представлена структура каскадного классификатора, построенная на основе анализа спектра в окне и масштабирования окна. В этом случае получаем столько слабых классификаторов, сколько масштабов скользящего окна используется в классификационной модели. Для организации многомасштабных окон выбирается минимальная окрестность активного пикселя, а затем эта окрестность наращивается в соответствии с правилом, определяемым спецификой предметной области. В частном случае размеры окна могут достигать размеров исходного изображения. Особенностью этой структуры является то, что слабые классификаторы используют пространства информативных признаков различной размерности, что характерно и для метода Виолы-Джонса.

Рис. 2. структура каскадного классификатора, построенная на основе анализа спектра в окне и масштабирования окна

Для устранения третьего недостатка каждый "слабый" классификатор реализуется в виде нейронной сети. Чтобы снизить размерность входного вектора на входе нейронной сети (размерность нулевого слоя) необходимо отобрать только значимые коэффициенты двумерного спектрального разложения в окне. Значимые коэффициенты отбираются по двум критериям:

- пороговый критерий, когда при анализе не учитываются те спектральные составляющие, величина которых менее пороговой;

- информационный критерий, когда при анализе не учитываются те спектральные составляющие, которые одинаковы или индифферентны для дискриминируемых классов в соответствии с решаемой задачей.

Метод формирования слабых классификаторов на основе самоорганизующихся нейросетевых структур

За основу структуры слабых классификаторов возьмем самоорганизующуюся сеть Кохонена [5]. Сеть Кохонена является однослойной нейронной сетью, нейроны которой формируют двумерную плоскость (изображение), отражающую кластерную структуру входных данных. Нейрон определяется вектором весов, размерность которого равна размерности входного вектора. В процессе настройки сети близкие примеры дислоцируются в окрестности нейронов с близкими векторами весов, а сами вектора весов настраиваются на близкие примеры, в результате чего образуются кластеры, позволяющие визуализировать в двумерной плоскости многомерное пространство признаков.

При построении слабого классификатора задача состоит в том, чтобы определить, насколько далеко неизвестный образец отстоит от центров выделенных кластеров, причем выделенные кластеры могут принадлежать только к двум классам. Определить это расстояние не составляет труда. Например, его можно рассматривать как расстояние Махаланобиса, или построить нейронную сеть блочной структуры, причем число блоков в нейронной сети будет соответствовать числу выделенных классов [6]. В частном случае число выделенных кластеров равно числу классов, то есть равно двум.

Пример структуры сильного классификатора представлен на рисунке 3.

Он состоит из двухслойной нейронной сети прямого распространения. В общем случае может быть использована нейронная сеть любой подходящей структуры. Особенностью сети является то, что она состоит из двух независимых блоков NET1 и NET2, настроенных на классификацию примеров класса 1 и примеров класса 2. В каждой нейронной сети в первом слое содержится столько нейронов, сколько кластеров данного класса выделено на плоскости Кохонена. Векторы весов нейронов входного слоя каждого блока W1…WN и V1…VM совпадают с векторами, определяющими центры кластеров на плоскости Кохонена. Настраиваемыми параметрами в этой сети являются векторы весов второго слоя Q и R. По существу i - я компонента вектора Q определяет вероятность того, что неизвестный образец принадлежит к классу 1 при условии, что он находится на плоскости Кохонена в сегменте i, а j-я компонента вектора R определяет вероятность того, что неизвестный образец принадлежит к классу 2 при условии, что он находится на плоскости Кохонена в сегменте j.

Рис. 3. Структурная схема сильного классификатора

Для построения сети Кохонена необходимо решить две задачи. Во-первых, определить, сколько нейронов будет в слое Кохонена. Во-вторых, выбрать число кластеров в слое Кохонена, так как в классических сетях Кохонена рассматриваются ситуации при заранее известном числе кластеров или с заранее известными числами классов и кластеров.

Как правило, количество нейронов в слое Кохонена совпадает с количеством выделяемых кластеров. При априорно неизвестном числе кластеров число нейронов может быть равным числу примеров. Однако число примеров будет очень большим, так как на каждый пример в виде входного изображения формируется множество оконных спектров, число которых может многократно превышать число пикселей в исходном изображении. Если число выделяемых кластеров совпадает с числом классов, то оно равно двум. Однако на каждый класс обычно приходится более одного кластера, которые, в общем случае, могут быть не смежными.

Решение поставленных задач в общем виде, то есть приемлемым для любой прикладной области, не представляется возможным. Поэтому рассмотрим подход к их решению на примере классификации изображений рентгенограмм грудной клетки. специфической особенностью этой классификации является то, что здесь можно выделить два направления кластеризации. Кластеры внутри одного и того же класса могут быть образованы оконными спектрами, относящимися к одному и тому же исходному изображению, или оконными спектрами, относящимися к разным исходным изображениям, но принадлежащими к одним и тем же морфологическим образованиям на изображении. В качестве примеров на рисунке 5 приведены двумерные оконные спектры рентгенограммы грудной клетки, построенные в базисе Уолша, с патологическими отклонениями и при их отсутствии.

сеть Кохонена настраивается на примерах, которые являются оконными спектрами (рис. 4) одинакового размера. Например, если имеются сто примеров (рентгенограмм) на класс, а размер окна составляет единицы процентов от исходного изображения, то можно ограничиться двумя тысячами нейронов в слое. При этом может быть введен некоторый эмпирический коэффициент, который позволяет замедлить процесс уменьшения числа нейронов по мере роста размеров окна, то есть, если при размере окна в единицы процентов от исходного этот коэффициент равен единице, то при размере окна в два раза больше он равен 1,1. Величина этого коэффициента определяется интенсивностью эволюции спектра окна по мере его продвижения от пикселя к пикселю. Очевидно, что чем меньше размер окна, тем выше эта интенсивность, но не очевидно, связана ли она с размером окна обратно пропорциональной зависимостью.

Рис. 4. Рентгенограмма грудной клетки без патологии с обозначением границ скользящего окна (а), соответствующее содержимое скользящего окна (б) и двумерный спектр Уолша содержимого окна (в); рентгенограмма грудной клетки с пневмонией, границы скользящего окна обозначены белым квадратом (г), соответствующее содержимое скользящего окна с проявлениями пневмонии (д) и двумерный спектр Уолша содержимого этого окна (е)

Подход к решению второй задачи определяется тем, что в отличие от классической сети Кохонена, в данном случае неизвестно число кластеров на класс, но известно число классов. Для ее решения рассмотрим способ определения расстояния на плоскости Кохонена. Для этого введем систему координат (x,y), в которой в точках с координатами (0,1) и (1,0) расположены центры двух кластеров, соответствующих двум разделяемым классам (рис. 5). Рассмотрим случай с двумя кластерами, то есть с одним кластером на класс. Для определения расстояния в этой системе координат используем евклидову метрику, следовательно, расстояние между кластерами (классами) равно v2. Возьмем два характерных примера из двух классов и определим евклидово расстояние между ними. Для того, чтобы это расстояние было равно v2, необходимо ввести нормирующий множитель v2/d₁, где d₁ - евклидово расстояние между первой парой примеров. Это достигается путем умножения компонентов векторов W и V на этот нормирующий множитель.

Рис. 5. Оси координат на плоскости Кохонена

Далее на плоскости Кохонена строим вторые координаты (Ш,Щ) с центром в точке, лежащей на середине отрезка, соединяющего центры выделенных кластеров. На рисунке 6 представлена плоскость Кохонена с соответствующими осями координат для случая: один кластер на один класс для двухальтернативной классификации.

В координатах (Ш,Щ) по оси Ш откладываем расстояние текущего примера до своего кластера, а по оси Щ - расстояние текущего примера до чужого кластера. Таким образом, настройка нейронной сети для случая один кластер на класс заключается в модификации координат кластеров так, чтобы минимизировать расстояние нового образца до своего кластера и максимизировать его до чужого кластера в координатах (Ш,Щ). Алгоритмы настройки сетей Кохонена, которые описаны, например, в [5], не позволяют решить эту задачу. Поэтому был предложен оригинальный алгоритм настройки, который состоит в выполнении последовательности следующих процедур.

Выбираем два характерных примера, принадлежащих альтернативным классам. Определяем вектора W и V в пространстве спектра окна, которые и будут определять координаты кластеров. Нормируем эти векторы так, чтобы расстояние между ними на плоскости Кохонена было равно v2.

Модифицируем компоненты векторов W и V так, чтобы компоненты с максимальным росли, а с минимальным - уменьшались. Это можно достичь в процессе коррекции весов (компонентов векторов W и V) по правилу

, (1)

где k - номер цикла обучения, - коэффициент скорости обучения.

Если число кластеров на класс больше единицы, то процесс коррекции осуществляется согласно следующему правилу

(2)

где J число кластеров первого класса; L - число кластеров второго класса.

Для коррекции компонент вектора V используем формулы, аналогичные (1) и (2). бустинг рентгенограмма плоскость кохонен

Добавляем очередной пример. Пусть это будет пример из класса 1. Нормируем вектор признаков согласно п.1. Корректируем веса примера таким образом, чтобы его расстояние до центров кластеров класса 2 было не менее 1. Корректируем веса примера согласно п.2.

Принимаем решение о том, принадлежит ли пример уже существующим кластерам класса 1 или образуем новый кластер для класса 1. Правила, согласно которым принимаются такие решения, представлены в [5].

Проверяем наличие не обработанных примеров. Если есть не обработанные примеры, возвращаемся к п. 3. В противном случае приступаем к построению сильного классификатора согласно структуре, изображенной на рисунке 4.

На рисунке 6 показан процесс формирования плоскости Кохонена согласно предложенному алгоритму. Кластеры, относящиеся к различным классам, отмечены треугольниками и квадратами. В центральной части плоскости Кохонена показан квадрат, размер стороны которого равен единице, который показывает координаты двух первых кластеров и позволяет оценить расстояние между кластерами на плоскости.

Для более рационального расположения кластеров на плоскости Кохонена рекомендуется настраивать сеть Кохонена по группам спектральных окон, принадлежащим к одному и тому же изображению. Для рационального сканирования целесообразно выделить сегмент интереса на изображении и для построения пространства признаков использовать спектральные окна, полученные только в этом сегменте [7,8].

Рис. 6. Две стадии формирования плоскости Кохонена: треугольником обозначены кластеры спектральных окон рентгенограмм грудной клетки "без патологии"; квадратом - кластеры с пневмонией

На рисунке 7 представлены результаты экспериментальных исследований, полученных при классификации спектральных окон двух изображений с пневмонией при различных порогах срабатывания сильного классификатора, построенного в соответствии со структурой, представленной на рисунке 3. Слабый классификатор настраивался на тридцати изображениях рентгенограмм, на которых были обнаружены сегменты, идентифицируемые как класс «пневмония». Кроме того, в обучающую выборку добавлены тридцать изображений рентгенограмм без патологических отклонений.

Рис. 7. ROC - кривые (2 и 3), построенные для двух изображений рентгенограмм с патологией «пневмония» при различных значениях порогов срабатывания сильного классификатора (1- ROC - кривая, соответствующая индифферентному классификатору)

Выводы

Для классификации сложноструктурируемых изображений предложены компьютерные технологии, построенные на методологии бустинга. пространство информативных признаков формируется посредством спектральных окон, полученных в результате сканирования исходного изображения. Спектральные окна, принадлежащие к различным классам, располагаются в виде кластеров на плоскости Кохонена. Для формирования кластеров используются правила коррекции векторов весов текущего примера, построенные на основе известного правила Кохонена. Предварительно вводится расстояние на плоскости кохонена и осуществляется коррекция весовых коэффициентов кластеров, позволяющая снизить величины незначащих компонент векторов, определяющих координаты кластеров. В качестве примера реализации предложенной компьютерной технологии рассмотрена задача классификации рентгенограмм грудной клетки.

Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 16-07-00164 а.

Список литературы

1. Томакова Р.А. Проектирование гибридной нейронной сети для анализа сложноструктурированных медицинских изображений // Системный анализ и управление в биомедицинских системах. - 2011. - Т.10. - № 4. - С.916-923.

2. автоматические классификаторы сложно структурируемых изображений на основе мультиметодных технологий многокритериального выбора / С.А. Филист, М.В. Дюдин, И.В. Зуев [и др.] // Вопросы радиоэлектроники. Серия «Системы и средства отображения информации и управления спецтехникой» (СОИУ). - 2015. - Вып. 1. - С.130-140.

3. Томакова Р.А., Филист С.А. Метод обработки и анализа сложноструктурируемых изображений на основе встроенных функций среды MATLAB // Вестник Читинского государственного университета. - 2012. - № 1 (80). - С.3-9.

4. акимов а.в., сирота а.а. разработка и исследование алгоритмов распознавания изображений на основе метода виолы-джонса с использованием технологии вычислений на графических процессорах cuda // вестник вгу. серия: системный анализ и информационные технологии. - 2014. - № 3. - С. 105-108.

5. Хайкин С. Нейронные сети: полный курс: [пер. с англ.] - М.: ООО «И.Д. Вильямс», 2006. - 1104 с.

6. Филист С.А., Томакова Р.А., Яа Зар До. Универсальные сетевые модели для задач классификации биомедицинских данных // Известия Юго-Западного государственного университета. -2012. - № 4 (43). - Ч. 2. - С. 44-50.

7. Способ выделения контура изображения легких на рентгеновском снимке грудной клетки / М.В. Дюдин, В.В. Жилин, П.С. кудрявцев [и др.] // Известия Юго-Западного государственного университета. Серия: Управление, вычислительная техника, информатика. Медицинское приборостроение. - 2014. - № 4. -

С. 107-114.

8. Дюдин М.В., Филист С.А., кудрявцев П.С. Способ выделения и классификации контуров легких на изображениях флюорограмм грудной клетки // Наукоемкие технологии. - 2014. - № 12, т. 15. - С. 25-30.

Получено 12.07.16

S.A. Filist, Doctor of Engineering Sciences, Professor, Southwest State University (Kursk)

(e-mail: sfilist@gmail.com)

K.D.A. Kassim, Candidate of Engineering Science, Associate Professor, Southwest State University (Kursk) (e-mail: kaboosd@mail.ru )

A.A. Kuzmin, Candidate of Engineering Science, Associate Professor, Southwest State University (Kursk) (e-mail: ku3bmin@gmail.com)

O.V. Shatalova, Candidate of Engineering Science, Associate Professor, Southwest State University (Kursk) (e-mail: shatolg@mail.ru )

Е.А. Аlyabyev, Postgraduate Student, Southwest State University (Kursk)

Refеrencеs

1. Tomakova R.A. Proektirovanie gibridnoj nejronnoj seti dlja analiza slozhnostrukturirovannyh medicinskih izobrazhenij // Sistemnyj analiz i upravlenie v biomedicinskih sistemah. - 2011. - T.10. - № 4. - S.916-923.

3. Tomakova R.A., Filist S.A. Metod obrabotki i analiza slozhnostrukturiruemyh izobrazhenij na osnove vstroennyh funkcij sredy MATLAB // Vestnik Chitinskogo gosudarstvennogo universiteta. - 2012. -

№ 1 (80). - S.3-9.

4. Akimov A.V., Sirota A.A. Razra-botka i issledovanie algoritmov raspoznavanija izobrazhenij na osnove metoda Violy-Dzhonsa s ispol'zovaniem tehnologii vychislenij na graficheskih processorah Cuda // Vestnik VGU. Serija: sistemnyj analiz i informacionnye tehnologii. - 2014. -

№ 3. - S. 105-108.

5. Hajkin S. Nejronnye seti: polnyj kurs: [per. s angl.] - M.: OOO «I.D. Vil'jams», 2006. - 1104 s.

6. Filist S.A., Tomakova R.A., Jaa Zar Do. Universal'nye setevye modeli dlja zadach klassifikacii biomedicinskih dannyh // Izvestija Jugo-Zapadnogo gosudarstvennogo universiteta. -2012. - № 4 (43). - Ch. 2. - S. 44-50.

7. Sposob vydelenija kontura izobrazhenija legkih na rentgenovskom snimke grudnoj kletki / M.V. Djudin, V.V. Zhilin, P.S. Kudrjavcev [i dr.] // Izvestija Jugo-Zapadnogo gosudarstvennogo universiteta. Serija: Upravlenie, vychislitel'naja tehnika, informatika. Medicinskoe priborostroenie. - 2014. - № 4. - S. 107-114.

8. Djudin M.V., Filist S.A., Kudrjav-cev P.S. Sposob vydelenija i klassifikacii konturov legkih na izobrazhenijah fljuorogramm grudnoj kletki // Naukoemkie teh-nologii. - 2014. - № 12, t. 15. - S. 25-30.

Размещено на Allbest.ru