Алгоритм обучения систем классификации данных с нечеткой (fuzzy) логикой

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

АЛГОРИТМ ОБУЧЕНИЯ СИСТЕМ КЛАССИФИКАЦИИ ДАННЫХ С НЕЧЕТКОЙ (FUZZY) ЛОГИКОЙ

Д.А. Титов, С.В. Иванова, Ю.К. Дель-Кампо, Р.М. Смагулов

Омский государственный технический университет

Аннотация

Разработан алгоритм обучения технических систем, позволяющий выполнять автоматическую настройку функций принадлежности нечетких (fuzzy) множеств в соответствии с обучающей выборкой. Приведены результаты моделирования алгоритма в системе Matlab.

Ключевые слова: классификация данных, обучение технических систем, нечеткие (fuzzy) множества, функция принадлежности

В настоящее время одной из актуальных задач является создание устройств классификации данных. Устройства, выполняющие разделение векторов в пространстве признаков могут иметь различную структуру. Одним из вариантов построения устройств классификации векторов является использование нечеткой логики или нейронных сетей. Целью данной работы является создание алгоритма эффективной настройки ФП нечетких множеств на основе обучающей выборки, т. е. в ходе выполнения процедуры обучения с учителем [6]. Результаты обработки экспериментальных данных позволяют рекомендовать разработанные алгоритмы к применению в технических системах классификации данных.

Во многих областях техники очень часто возникает задача создания устройств, которые бы выполняли разделение объектов в пространстве признаков [1]. Подобные задачи возникают в радиолокации [2, 3], технической и медицинской диагностике [1], системах управления подвижными объектами и т. д.

На вход такого устройства последовательно поступают векторы, характеризующие некоторые объекты, при этом каждый вектор должен быть отнесен к одному из известных классов. Задача построения устройства сводится к задаче нахождения некоторой разделяющей функции [1]. В самом простом случае векторы в пространстве признаков могут быть разделены с помощью линейной разделяющей функции (в случае многомерного пространства - с помощью плоскости или гиперплоскости). Однако, в целом, получить эффективное разделение векторов можно только на основе разделяющих функций более сложного вида.

Устройства, выполняющие разделение векторов в пространстве признаков могут иметь различную структуру. Одним из вариантов построения устройств классификации векторов является использование нечеткой логики или нейронных сетей. В частности, линейное разделение в пространстве признаков может быть произведено с помощью однослойной нейронной сети [4]. Для реализации нелинейных разделяющих функций требуется построение нейронной сети, имеющей два и более слоя [4].

Основной трудностью, мешающей интенсивному применению теории нечетких множеств в решении практических задач, является то, что теория не предоставляет эффективных инструментов формализации нечетких множеств. Функция принадлежности (ФП) нечеткого множества должна быть задана вне самой теории, следовательно, правильность ее построения не может быть проверена средствами теории [5, с.57]. В каждом существующем в настоящее время методе построения ФП формулируются свои требования и обоснования к выбору именно такого построения [5, с.57]. Таким образом, на сегодняшний день разработка алгоритмов построения ФП нечетких множеств является одной из актуальных задач.

Пусть имеется обучающая последовательность входных векторов x^pX, каждый из которых состоит из двух компонентов: x^p=(x₁^p, x₂^p). Каждый вектор последовательности отнесен к одному из двух классов c^m = (c₁^m, c₂^m), m=1, 2, т. е. каждому вектору x^p соответствует значение d^p, устанавливаемое по формуле:

Таким образом, на вход устройства подается последовательность пар: входной вектор - номер класса к которому он принадлежит. Классифицирующее устройство работает по следующему алгоритму (выбирается аргумент максимизации):

где м(c¹)=min[м¹(x₁^p), м¹(x₂^p)]; м(c²)=min[м²(x₁^p), м²(x₂^p)], м¹(x₁), м²(x₁), м¹(x₂), м²(x₂) - ФП нечетких множеств. ФП нечеткого множества устанавливается экспертным путем, принимает значения из диапазона [0, 1] и может иметь произвольную форму. Как правило, ФП нечетких множеств аппроксимируются типовыми функциями с небольшим количеством параметров.

В общем виде вычисляемое значение устройства представляет собой функционал m*=f(x^p, S), где S - вектор параметров ФП. Требуется найти ФП, позволяющие выполнять разделение векторов в пространстве признаков в соответствии с обучающей выборкой. При этом решение должно быть найдено без использования итерационных методов оптимизации. Иными словами, необходимо найти такие значения вектора S, при которых выполняется следующее условие: m*=f(x^p, S)=d^p.

В соответствии с рассмотренными условиями поставленная задача сводится к нахождению параметров четырех ФП: м¹(x₁), м²(x₁), м¹(x₂), м²(x₂). В общем случае устройство, функционирующее на основе рассмотренного алгоритма, может выполнять разделение в пространстве признаков на основе разделяющей функции общего вида [1]. Т. к. ФП может иметь произвольную форму, разделяющая функция в пространстве признаков может быть нелинейной.

Для простоты будем полагать, что каждая ФП имеет треугольную аппроксимацию и задана следующим выражением:

(1)

где x - аргумент ФП, H, a, b - параметры настройки ФП, устанавливаемые экспертным путем. Пример изображения треугольной ФП показан на рис. 1. В данном случае H - положение максимума ФП.

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Рис. 1. Рис. 2.

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Рис. 3.

алгоритм обучение нечеткая логика

В общем случае параметры ФП должны записываться с индексами, соответствующими номеру класса и номеру компонента вектора, т. е. H₁^m, a₁^m, b₁^m, H₂^m, a₂^m, b₂^m. Например, запись H₂¹ означает положение максимума ФП компонента x₂ классу с¹ (рис. 2). Нахождение значений каждой ФП сводится к нахождению трех ее параметров настройки.

Пусть обучающая выборка представлена двумя векторами x¹ и x², принадлежащими разным классам, например, x¹c¹, x²c² (в дальнейшем векторы, принадлежащих классу с¹ будем изображать на рисунках в виде квадратов, векторы, принадлежащих классу с² - в виде окружностей). Расположение точек, соответствующих векторам обучающей выборки представлено на рис 3. В соответствии с рисунком x₁¹> x₁², x₂²> x₂¹.

Для выполнения разделения двух точек, принадлежащих разным классам, ФП устройства могут быть установлены приближенно. Зададим параметры ФП как показано на рис. 4, 5.

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Рис. 4. Рис. 5.

Вектор x¹c¹, следовательно, максимумы ФП м¹(x₁), м¹(x₂) должны быть расположены в точках x₁¹, x₂¹ соответственно. Аналогично, поскольку x²c² максимумы ФП м²(x₁), м²(x₂) должны соответствовать точкам x₁², x₂². Пересечения r и v ФП двух разных классов расположены на середине интервалов [x₁², x₁¹] и [x₂¹, x₂²]. Таким образом, параметры ФП на рис. 4, 5 заданы следующими значениями:

H₁¹ = x₁¹, H₂¹= x₂¹, a₁¹= x₁², b₂¹= x₂², H₁² = x₁², H₂²= x₂², a₂²= x₂¹, b₁²= x₁¹.

В рассмотренном варианте установки параметров ФП в пространстве могут быть выделены области, соответствующие различным соотношениям между ФП (области обозначены цифрами I, II, III, IV на рис. 6).

В области r<x1?x11, x21?x2<v (обозначение I на рис. 6) всегда выполняется условие м1(x1)>м2(x1), м1(x2)>м2(x2), т. е. м(c1)>м(c2). Точка, попавшая в эту область, будет всегда отнесена к классу c1.

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Рис. 6.

Также в области x₁²?x₁<r, v<x₂?x₂² (обозначение II на рис. 6) всегда будет выполняться условие м²(x₁)>м¹(x₁), м²(x₂)>м¹(x₂), т. е. м(c²)>м(c¹). Любая точка из этой области будет отнесена к классу c². В областях III, IV могут быть выполнены оба рассмотренных условия, т. е. точка, попавшая в эту область, может быть отнесена как к классу c¹ так и к классу c².

Процедура принятия решения на основе аргумента максимизации фактически предполагает анализ разности значений м(c²) и м(c¹). Если разность м(c¹)-м(c²)>0, точка в пространстве будет отнесена к классу c¹, и наоборот, если разность м(c¹)-м(c²)<0, точка в пространстве будет отнесена к классу c². Равенство рассмотренной разности нулю будет определять уравнение разделяющей функции:

м(c¹)-м(c²)=min[м¹(x₁), м¹(x₂)]-min[м²(x₁), м²(x₂)]=0.

Рассмотрим область III на рис 6, т. е. r<x₁?x₁¹, v<x₂?x₂². В данной области min[м¹(x₁), м¹(x₂)]=м¹(x₂), min[м²(x₁), м²(x₂)]=м²(x₁), следовательно, уравнение разделяющей функции может быть записано в виде м¹(x₂)-м²(x₁)=0.

Таким образом, решение об отнесении вектора к тому или иному классу будет определяться соотношением значений м¹(x₂) и м²(x₁) в соответствующей области (рис. 7).

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Рис. 7.

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Рис. 8.

В соответствии с графиками на рис. 4, 5 ФП м¹(x₂) и м²(x₁) определяются следующими функциями:

=

=

Т. к. ФП аппроксимированы линейными функциями, разделяющая функция в области пространства III будет также линейной. Аналогично линейным также будет и уравнение разделяющей функции для области IV (рис. 8): м¹(x₁)-м²(x₂) =0.

Таким образом, в случае рассмотренной установки параметров ФП разделяющие функции в областях III и IV будут заданы уравнениями прямой (рис. 9). В общем случае разделяющие прямые в областях III и IV могут проходить под различными углами, т. е. положение разделяющих прямых в пространстве полностью определяется параметрами ФП.

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

Рис. 9.

В случае установки параметров ФП в соответствии с рис. 4, 5 уравнения разделяющих прямых для областей пространства III и IV будут определяться выражениями (соответственно):

-; -

Таким образом, на основе выполнения сформулированных правил может быть выполнено эффективное обучение системы классификации данных. ФП нечетких множеств могут быть установлены приближенно с использованием типовых форм аппроксимирующей кривой. В данном случае не требуется применения традиционных численных методов (градиентного поиска и т. д.), обладающих большой вычислительной сложностью и имеющих целый ряд недостатков, касающихся сходимости и т. д. Реализация разработанного алгоритма в программной среде Matlab продемонстрировала низкий процент ошибочно классифицированных векторов тестирующей выборки.

Библиографический список

1. Биргер, И. А. Техническая диагностика. / И. А. Бигер. - М.: Машиностроение, 1978. - 240 с.

2. Гульшин, В. А. Распознавание радиолокационных целей на основе анализа диаграммы обратного рассеяния [Электронный ресурс]. - Режим доступа: http://www.confpubs.ru/p6_29.php

3. Кутузов, В. М. Радиотехнические системы: учебник для вузов / В. М. Кутузов, Ю.А. Коломенский, Ю. М. Казаринов; под ред. Ю. М. Казаринова. - М.: Академия, 2008. - 592 с.

4. Круглов, В. В. Искусственные нейронные сети. Теория и практика. 2-е изд. / В. В. Круглов, В. В. Борисов. - М.: Горячая линия - Телеком, 2002. - 382 с.

5. Яхъяева, Г. Э., Нечеткие множества и нейронные сети: учебное пособие / Г. Э. Яхъяева. - М.: Интернет-университет Информационных технологий; БИНОМ. Лаборатория знаний, 2006. - 312 с.

Размещено на Allbest.ru