Адаптивні підходи цифрової обробки даних методами псевдоінверсії та структурно-параметричної оптимізації

Размещено на http://www.allbest.ru/

Київський національний університет імені Тараса Шевченка

Швець Ольга Федорівна

УДК 519.6 : 519.87

АДАПТИВНІ ПІДХОДИ ЦИФРОВОЇ ОБРОБКИ ДАНИХ

МЕТОДАМИ ПСЕВДОІНВЕРСІЇ ТА

СТРУКТУРНО-ПАРАМЕТРИЧНОЇ ОПТИМІЗАЦІЇ

01.05.04 системний аналiз i теорiя оптимальних piшень

Автореферат

дисертації на здобуття наукового ступеня

кандидата фізико-математичних наук

Київ - 2006

Дисертацією є рукопис.

Робота виконана на кафедрі системного аналізу та теорії прийняття рішень факультету кібернетики Київського національного університету імені Тараса Шевченка.

Науковий керівник: доктор фізико-математичних наук, професор

КИРИЧЕНКО Микола Федорович,

Інститут кібернетики імені В.М. Глушкова НАН України, провідний науковий співробітник відділу інтелектуальних систем керування динамічними системами. апроксимація сигнал метод псевдоінверсія

Офiцiйнi опоненти: доктор фізико-математичних наук, професор

БОЙЧУК Олександр Андрійович,

Інститут математики НАН України, провідний науковий співробітник відділу диференціальних рівнянь і теорії коливань; кандидат технічних наук, старший науковий співробітник

КУДІН Володимир Іванович,

Київський національний університет імені Тараса Шевченка, факультет кібернетики, старший науковий співробітник лабораторії обчислювальних методів в механіці суцільних середовищ.

Провiдна установа: Інститут космічних досліджень НАН та НКА України, відділ системного аналізу та керування, м. Київ.

Захист відбудеться “18 ” січня 2007 р. о 14⁰⁰ год. на засiданнi спецiалiзованої вченої ради Д 26.001.35 Київського національного університету імені Тараса Шевченка за адресою:

03127, Київ, пр. Академіка Глушкова, 2, корп.6, ф-т кібернетики, ауд. 40.

З дисертацією можна ознайомитися в науковій бібліотеці Київського національного університету імені Тараса Шевченка за адресою:

01033, Київ, вул. Володимирська, 58.

Вчений секретар спецiалiзованої вченої ради Д 26.001.35 П.М. Зінько

ЗАГАЛЬНА ХАРАКТЕРИСТИКА РОБОТИ

Актуальність теми. Активний розвиток і впровадження нових засобів зв'язку, телекомунікацій, технологій розпізнавання та класифікації даних, які надходять у реальному часі зумовив ряд математичних та технічних проблем на розв'язання яких зосереджені зусилля багатьох науковців у даний час. Успішне розв'язування таких задач пов'язано з розробкою нових математичних методів представлення, обробки та передачі цифрової інформації. Проблеми розпізнавання і подальшого стиснення та передачі інформації утворюють ланцюжок прикладних задач, що потребують свого розв'язання, причому розроблені алгоритми та методи повинні мати високу швидкодію.

Використання адаптивних алгоритмів при вирішенні задач цифрової обробки інформації дозволяє в динаміці настроювати параметри системи та приймати відповідні рішення про належність даних до того чи іншого класу з подальшим їх представленням у стиснутій формі. Такі алгоритми можна використовувати при розв'язанні задач апроксимації в різних прикладних галузях.

Розробці адаптивних підходів розв'язування різних задач прикладної математики та інформатики присвячено велику кількість робіт як зарубіжних, так і вітчизняних вчених, зокрема A. Annaswamy, С.Д. Землякова, В.М. Кунцевича, I.D. Landau, G. Luders, M.M. Auraka, Дж. Мелса, K. Narendra, P.C. Parks, В.Ю. Рутковського, Е. Сейджа, В.Г. Сраговича, В.М. Фоміна, А.Л. Фрадкова, Я.З. Ципкіна, І.Б. Ядикіна, В.А. Якубовича та інших.

Математичний апарат структурно-параметричної оптимізації, псевдоінверсії та практичної стійкості застосовувався багатьма науковцями як в нашій країні, так і за її межами. Насамперед, слід відмітити дослідження проведені в роботах Б.М. Бублика, Ф.Г. Гаращенка, М.Ф. Кириченка та їх учнів, які знайшли широке застосування при вирішенні різних прикладних задач.

На сьогодні є актуальною проблема розробки адаптивних методів апроксимації експериментальних даних, які були б основані на нових наукових результатах в галузі структурно-параметричної оптимізації та псевдоінверсії. Алгоритми повинні бути обґрунтованими, швидкодіючими та орієнтованими на цифрову обробку інформації в реальному часі.

Тема дисертації є актуальним науковим напрямком, який з математичної точки зору безпосередньо пов'язаний з розв'язуванням широкого кола прикладних задач.

Зв'язок роботи з науковими програмами, планами, темами. Дисертаційна робота виконана у відповідності до плану наукових досліджень кафедри системного аналізу та теорії прийняття рішень факультету кібернетики Київського національного університету імені Тараса Шевченка в межах науково-дослідних тем: №01БФ015-01

“Розвиток теорії і програмного забезпечення стохастичних та алгебраїчних систем із застосуванням в економіці, соціології, техніці та освіті” (номер держреєстрації -№ 0101U002173); “Проблеми теорії прийняття рішень та її застосування в системному аналізі соціально-економічних процесів” (номер держреєстрації - №0106U005859) Міністерства науки і освіти України з фундаментальних та прикладних досліджень.

Мета і задачі дослідження. Метою роботи є розробка нових методів побудови ортогональних перетворень, оптимальної та адаптивної апроксимації вимірюваних сигналів у класі структурно-параметричних функцій, а також створення алгоритмів для розв'язування таких проблем.

Поставлена мета зумовлює розв'язування таких основних задач:

1. Створити нові алгоритми побудови ортогональних перетворень, що базуються на експериментальних даних.

2. Розробити методику оптимальної апроксимації вимірюваних сигналів у класі структурно-параметричних функцій з паралельною побудовою ортогональних систем базисних функцій.

3. Створити та теоретично обґрунтувати адаптивні підходи до апроксимації неперервних і дискретних сигналів, які базуються на мінімізації деяких динамічних нев'язок.

4. Розробити алгоритми адаптивної апроксимації сигналів на основі методів псевдоінверсії.

5. Дослідити питання збіжності розроблених ітераційних процедур з уточнення параметрів-ознак для апроксимації сигналів у реальному часі.

6. Розробити алгоритмічне та програмне забезпечення для апробації отриманих результатів і провести обчислювальний експеримент.

Наукова новизна одержаних результатів полягає у тому, що в дисертації вперше:

 розроблені нові підходи до побудови матриць ортогональних перетворень, які безпосередньо враховують структуру отриманих експериментальних даних при проведенні обчислювального експерименту;

 запропонована методика оптимальної апроксимації вимірюваних сигналів у класі структурно-параметричних функцій з паралельною побудовою ортогональної системи базисних функцій, приведено алгоритм оптимального вибору частотно-фазових характеристик у задачах гармонічної апроксимації функцій;

 розроблені адаптивні підходи до апроксимації як неперервних, так і дискретних сигналів, які ґрунтуються на мінімізації деяких динамічних нев'язок. Згідно отриманих математичних моделей в формі звичайних диференціальних та різницевих рівнянь здійснюється уточнення апроксимуючих параметрів у динаміці;

 побудовані адаптивні алгоритми для розв'язування задач цифрової обробки сигналів, які ґрунтуються на методах псевдоінверсії. Для корекції параметрів апроксимації експериментальних даних у реальному часі отримані ітераційні процедури в формі різницевих математичних моделей в загальному випадку зі змінною розмірністю фазового простору;

 досліджено збіжність деяких розроблених, як неперервних, у формі систем звичайних диференціальних рівнянь, так і дискретних ітераційних схем з уточнення параметрів-ознак для апроксимації сигналів у реальному часі. Сформульовані та доведені теореми про збіжність, які ґрунтуються на другому методі Ляпунова та на нових результатах в галузі практичної стійкості. Для останнього випадку отримані оцінки для аналізу збіжності на скінченому інтервалі часу, які зв'язують початкове наближення, точність апроксимації на деякому відрізку часу та його довжину;

 ефективність розроблених алгоритмів підтверджується в роботі багатьма модельними прикладами, які стосуються побудови матриць ортогональних перетворень, оптимальної апроксимації експериментальних даних у класі структурно-параметричних функцій та адаптивних методів розпізнавання і класифікації вимірюваних сигналів, основаних на розроблених підходах.

Практичне значення одержаних результатів. Результати дисертаційної роботи можуть бути використані для розв'язування задач адаптивної апроксимації експериментальних даних у різних предметних галузях, при оптимальній апроксимації сигналів із паралельною побудовою ортогональної системи базисних функцій, в задачах цифрової обробки сигналів і, зокрема, при розпізнаванні та класифікації мовних сигналів і зображень. Розроблено програмне забезпечення для розв'язування поставлених задач цифрової обробки інформації. Окремі програмні модулі є основою для створення систем розпізнавання мовних сигналів та розв'язування апроксимаційних задач в реальному часі в інших предметних галузях.

Особистий внесок здобувача. Всі основні результати дисертаційної роботи отримані автором самостійно. У публікаціях, виконаних у співавторстві, особистий внесок здобувача полягав у виконанні всіх основних доведень, розрахунків та формулюванні висновків. Співавторам належать постановки задач та рекомендації щодо методів їх розв'язування.

Апробація результатів дисертації. Результати дисертаційної роботи доповідались на наукових семінарах факультету кібернетики Київського національного університету імені Тараса Шевченка та Інституту кібернетики імені В.М. Глушкова НАН України, а також на:

1. Мiжнароднiй конференцiї "Dynamical systems modeling and stability investigation" (27-30 травня 2003 р., м. Київ).

2. Мiжнароднiй конференцiї "Fourth International Young Science Conference Problems of Optics and High Technology" (23-26 жовтня 2003 р., м. Київ).

3. Десятiй мiжнароднiй науковiй конференції iмeнi академiка М. Кравчука (13-15 травня 2004 р., м. Київ).

4. 11-ій міжнародній конференцiї по автоматичному управлiнню "Автоматика-2004" (27-30 вересня 2004 р., м. Київ).

5. Мiжнароднiй конференцiї "Dynamical systems modeling and stability investigation" (23-25 травня 2005 р., м. Київ).

6. Одинадцятій мiжнароднiй науковiй конференції iмeнi академiка М. Кравчука (18-20 травня 2006 р., м. Київ).

7. Мiжнароднiй конференцiї “Problems Of Decision Making Under Uncertainties” (18-23 вересня, 2006 р., м. Алушта, Україна).

Публікації. Основні положення дисертації висвітлено у 13 наукових працях, з яких 6 надруковано у наукових фахових виданнях, які затверджені ВАК України, 7 - у матеріалах українських та міжнародних наукових конференцій.

Структура та обсяг дисертації. Дисертаційна робота складається з вступу, чотирьох розділів, висновку та списку використаних джерел. Основний текст викладений на 130 сторінках і містить 15 рисунків та 7 таблиць. Перелік використаних джерел складається з 152 найменувань.

ОСНОВНИЙ ЗМІСТ РОБОТИ

У вступі обґрунтовується актуальність обраної теми, формулюється мета роботи, відзначається наукова новизна отриманих результатів та висвітлюється їх теоретична і практична цінність.

У першому розділі дисертаційної роботи зроблено огляд літератури з тематики дисертації та окреслена доцільність обраних напрямків досліджень.

Підрозділ 1.1 присвячено аналізу проблем цифрової обробки інформації та напрямків їх розвитку. В підрозділі 1.2 наведені сучасні наукові досягнення з теорії псевдообернених операторів, а також акцентується увага на необхідності використання цих результатів в задачах апроксимації експериментальних даних. Короткий огляд та аналіз методів структурно-параметричної оптимізації та побудови ортогональних перетворень приведені в підрозділі 1.3.

З огляду сучасного стану та аналізу проблем цифрової обробки сигналів у дисертаційній роботі вказується на необхідність розвитку адаптивних підходів апроксимації експериментальних даних, основаних на методах псевдоінверсії та структурно-параметричної оптимізації. Розроблені алгоритми повинні розв'язувати поставлені задачі в реальному часі, тобто бути швидкодіючими та конструктивними в реалізації.

Другий розділ присвячено побудові ортогональних перетворень на основі заданого сигналу з їх подальшим використанням в якості базису, а також адаптивним моделям апроксимації даних, які ґрунтуються на мінімізації заданих нев'язок. У підрозділі 2.1 зроблено короткий аналіз задач структурно-параметричної оптимізації та проблем їх використання в цифровій обробці сигналів. У підрозділі 2.2 запропоновано ряд нових методів генерації матриць ортогональних перетворень, які базуються на понятті векторного добутку та його узагальненні для багатовимірних просторів. Відповідні алгоритми побудови ортогональних матриць використовують операції перестановки та групування компонент заданого вектора.

Нехай - заданий вхідний сигнал,

- невідома матриця ортогонального перетворення із заданим першим рядком ,

, - допоміжна матриця розмірності, складена з перших елементів вектор-рядків матриці та невідомим - вимірним вектором, - алгебраїчне доповнення елемента матриці, де - мінор -го порядку для елемента квадратної матриці -го порядку.

Задача полягає в побудові множини матриць ортогональних перетворень на основі векторного добутку в -вимірному просторі й операцій перестановки та групування елементів вектора .

Метод послідовної побудови матриць ортогональних перетворень передбачає визначення елементів матриці ортогонального перетворення такою функцією

Визначаючи таким чином кожен наступний вектор-рядок матриці , отримуємо рекурсивне представлення рядків матриці ортогонального перетворення

У методі послідовної побудови матриць ортогональних перетворень за заданим вектором з перестановкою елементів, використовуючи перестановку деякої множини з елементами (де - множина натуральних чисел), матриця ортогонального перетворення визначається таким чином.

В даному підрозділі приведено метод побудови ортогонального перетворення на основі заданої множини групування елементів та декілька прикладів його використання.

Використаємо метод послідовної побудови матриці ортогонального перетворення для заданого вектора. Вектори-рядки цієї матриці зображені на рис.1 і порівнюються з відомими базисними функціями Хаара.

Особливістю запропонованого методу є те, що згенероване ортогональне перетворення на основі деякого сигналу враховує структуру початкових даних і може використовуватись як базис при розв'язуванні типових задач.

У підрозділі 2.3 приводяться задачі та алгоритми оптимальної апроксимації даних, що базуються на системах функцій, заданих у певних структурних формах. Причому, в процесі наближення вхідних даних будується система ортонормованих функцій, яка може використовуватись для цифрової обробки подібних за структурною формою сигналів.

Розглянемо, наприклад, апроксимацію неперервного на відрізку сигналу на основі системи структурно заданих диференційованих за параметрами функцій. Шукатимемо апроксимацію у вигляді де - кількість ітерацій, яка необхідна для досягнення заданої точності, - визначає кількість апроксимуючих параметрів для -ої функції. Тоді для визначення оптимальних параметрів та системи ортонормованих функцій можна записати таку ітераційну процедуру.

На кроці проводимо наближення функції у класі структурно заданих функцій з умови мінімуму середньоквадратичної нев'язки

де, _ визначають інтервал, на якому здійснюється апроксимація сигналу на -му кроці.

За знайденими оптимальними параметрами визначаємо оптимальну та ортонормовану до функції:.

Звідси найкраще представлення вхідного сигналу на кроці має такий вигляд

У підрозділі 2.4 пропонується адаптивний підхід апроксимації неперервних сигналів, оснований на мінімізації деяких динамічних нев'язок градієнтними методами. Для неперервного сигналу, який необхідно апроксимувати параметрично заданим сімейством ставиться задача адаптивної корекції вектора параметрів таким чином, щоб мінімізувати задану нев'язку.

Для корекції параметрів запиcується неперервна ітераційна процедураз деякими початковими даними

Або ж система звичайних диференціальних рівнянь яку можна переписати в більш конструктивному вигляді з початковими умовами

Тобто для корекції параметрів у реальному часі пропонується розв'язувати задачі Коші в залежності від типу мінімізуючої нев'язки.

У випадку лінійної апроксимації, де - система базисних або структурно-заданих функцій, система має вигляд або у векторно-матричній формі

В лінійній неоднорідній системі матриця розмірності та -вимірний вектор обчислюються згідно формул

Для лінійної апроксимації система запишеться таким чином або в векторно-матричній формі

де - вектори розмірності, - матриця розмірності з відомими елементами.

Необхідно зазначити, що початкові дані повинні вибиратися з області збіжності запропонованих ітераційних процедур. Збіжність ітераційних процедур можна досліджувати на основі методів Ляпунова та практичної стійкості.

Підрозділ 2.5 присвячений адаптивним моделям апроксимації дискретних даних. Припустимо, що в деякі дискретні моменти часу вимірюється сигнал . Задача полягає в тому, щоб адаптивно апроксимувати цю залежність деяким параметрично заданим сімейством по мірі надходження експериментальної інформації.

Корекція параметрів, шляхом мінімізації нев'язки на кроці, здійснюється згідно ітераційної процедури з деяким початковим наближенням

Додатні числа вибираються таким чином, щоб записаний ітераційний процес був збіжним.

У підрозділі 2.6 проводиться аналіз збіжності ітераційних процедур неперервного та дискретного типів за допомогою методів практичної стійкості та Ляпунова. Припускається, що розв'язок задачі Коші (14), (9) задовольняє умові. Тоді заміною можна перейти до однорідної системи лінійних диференціальних рівнянь відносно нової змінної

Для оцінки збіжності таких процедур введені нові означення та сформульовані й доведені теореми.

Теорема 2.1. Для збіжності ітераційної схеми (14) при збурених початкових даних, тобто

необхідно і достатньо, щоб нормована за моментом фундаментальна матриця , задовольняла умові

Нехай, _ множина початкових умов (9) для ітераційної процедури -вимірні вектори визначають точність апроксимації.

Означення 2.1. Будемо говорити, що ітераційна процедура є збіжною і має -оцінку, якщо для всіх початкових даних.

Розглядається випадок, коли оцінку області збіжності можна вибирати у формі еліпсоїдальних множин де - задана додатно визначена симетрична матриця,- параметр, який необхідно оцінити. В такому випадку - збіжність будемо називати -оцінкою.

Теорема 2.2. Для - оцінки збіжності ітераційної схеми необхідно і достатньо, щоб виконувалось співвідношення

де - симетрична квадратна матриця, яка задовольняє матричному диференціальному рівнянню

Означення 2.2. Точку будемо називати -стаціонарною для лінійної системи, якщо для будь-яких. Тут.

За аналогією точку будемо називати -стаціонарною для лінійної системи, якщо для будь-яких.

Означення 2.3. Будемо говорити, що система (14) має -стаціонарні за швидкістю розв'язки, якщо для будь-яких.

Вводиться поняття -стаціонарних за швидкістю розв'язків. Якщо вибиратимемо в еліпсоїдальних формах, то будемо говорити про та - стаціонарність за швидкостями.

Теорема 2.3. Для того, щоб система (14) мала якість -стаціонарності, необхідно і достатньо виконання співвідношення

Тут - діагональний елемент матриці, який стоїть на s-му місці, - s-а компонента вектора .

Теорема 2.4. Для того, щоб система (14) мала якість -стаціонарності, необхідно і достатньо, щоб виконувалась нерівність

де - максимальне власне значення матриці, оскільки в даному випадку, а, отже, - радіус сфери початкових даних.

Теорема 2.5. Для того, щоб лінійна система звичайних диференціальних рівнянь мала якість -стаціонарності за швидкостями, необхідно і достатньо виконання співвідношення де - ий вектор-рядок матриці, ,- s-ий вектор-рядок матриці, матриці та розмірності визначають структуру матриці.

Теорема 2.6. Для того, щоб лінійна система звичайних диференціальних рівнянь мала якість -стаціонарності за швидкостями, необхідно і достатньо, щоб виконувалось включення

Означення 2.4. Будемо говорити, що система має якість -стаціонарності за швидкістю, якщо для будь-яких

Також приводиться один з критеріїв уведеної стаціонарності в формі такої теореми.

Теорема 2.7. Для - стаціонарності системи звичайних диференціальних рівнянь за швидкостями необхідно і достатньо, щоб виконувалась нерівність

Згідно приведеного співвідношення теореми 2.7 максимальну за включенням область стаціонарності можна записати в такому вигляді:

В третьому розділі дисертаційної роботи будуються адаптивні алгоритми апроксимації на основі методів псевдоінверсії. У підрозділі 3.1 приведена математична постановка задачі псевдообернення та встановлюється її зв'язок із задачею апроксимації експериментальних даних. У підрозділі 3.2 розглядається ітераційний алгоритм апроксимації даних, який ґрунтується на нових методах у галузі дослідження псевдообернених та проекційних операторів. Запропонована ітераційна схема полягає в тому, що для знаходження невідомих параметрів, при заданій системі лінійно-незалежних або структурно-заданих функцій, записується різницева динамічна модель для їх уточнення по мірі надходження нової інформації. Описана методика дослідження збіжності такої ітераційної процедури.

Припустимо, що - виміри деякої скалярної величини в моменти. Задача полягає в тому, щоб апроксимувати цю залежність, використовуючи систему лінійно-незалежних або структурно-заданих функцій лінійними комбінаціями.

Для обчислення коефіцієнтів розглядається система рівнянь

Перепишемо систему у векторно-матричній формі

де - відома матриця розмірності,- -вимірний вектор вимірюваних даних, - вектор невідомих параметрів розмірності на -й ітерації. Розв'язок системи можна записати через псевдообернену матрицю

Шляхом долучення до розглянутої схеми ще одного виміру отримаємо систему.

Тут - матриця розмірності, - -вимірний вектор вільних членів, вектор шуканих параметрів розмірності на -й ітерації. Розв'язок системи можна записати через псевдообернену матрицю

Теорема 3.1. Для корекції вектора невідомих параметрів при послідовному нарощуванні вимірюваних даних має місце ітераційна схема

з такими початковими умовами де матриця розмірності та - вимірний вектор обчислюються згідно приведеного нижче алгоритму.

А проекційні матриці та обчислюються ітераційно за формулами

Якщо, де _ відповідна проекційна матриця, описана нижче, то

Проекційні оператори в цьому випадку обчислюються наступним чином

Аналогічні ітераційні схеми уточнення параметрів можна записати і для випадку, коли вилучається останній рядок матриці, або додається чи вилучається останній стовпчик цієї матриці.

Запропоновану ітераційну схему можна досліджувати на збіжність за допомогою аналога другого методу Ляпунова для різницевих рівнянь. При цьому вважатимемо, що - розв'язок нашої задачі, тобто при. Тоді заміною систему (26) можна записати у нових змінних

Задача аналізу збіжності ітераційної процедури буде еквівалентною дослідженню стійкості різницевої схеми При цьому називають незбуреним розв'язком.

Для таких досліджень введено деякі означення та сформульовано і доведено ряд теорем про збіжність розглянутих ітераційних схем. Справедливі теореми.

Теорема 3.4. Якщо - розв'язок системи для будь-якого, то система різницевих рівнянь для збуреного руху, тобто відносно векторів, буде мати вигляд

Таким чином, для цього випадку дослідження збіжності ітераційної процедури при збурених початкових даних є еквівалентним аналізу стійкості лінійної різницевої системи. Згідно з принципом стиснених відображень Банаха різницева система буде асимптотично стійкою, якщо

Для перевірки вищевказаних умов можна скористатися теоремою.

Теорема 3.5. Якщо задовольняє співвідношенням, то для асимптотичної збіжності ітераційної процедур у цілому (для будь-яких початкових даних) повинна виконуватись одна з нерівностей:

де - власні значення матриці.

У підрозділі 3.3 приводяться динамічні системи зі змінною структурою для задач апроксимації сигналів у випадку нарощування системи базисних функцій.

Припустимо, що _ виміри деякої скалярної величини в моменти. Задача полягає в тому, щоб апроксимувати цю залежність, використовуючи систему лінійно-незалежних або структурно-заданих функцій лінійними комбінаціями. Особливістю цієї задачі є те, що кількість базисних функцій, яку необхідно вибирати для апроксимації експериментальних даних, є невідомою і вона може змінюватись.

Для обчислення коефіцієнтів записується система рівнянь

Щоб визначити структуру базисних функцій, тобто знайти параметри , запишемо різницеву динамічну систему зі змінною структурою. При цьому розглядаємо систему лінійних алгебраїчних рівнянь (29) у матричній формі

де - відома матриця розмірності,

-вимірний вектор вимірюваних даних, - вектор невідомих параметрів розмірності .

Розв'язок системи записується таким чином

Якщо долучити до розглянутої системи структурно-заданих функцій ще одну базисну функцію, тоді

де - матриця розмірності, _ відомий вектор розмірності, --вимірний вектор шуканих змінних на -ій ітерації.

Розв'язок системи (32) має вигляд

Визначаючи в (33) матрицю через і відповідні проекційні матриці та враховуючи (31), прийдемо до наступного твердження.

Теорема 3.6. Для корекції вектора невідомих параметрів при послідовному розширенні системи базисних функцій і незмінних вимірах сигналу справедливою є така ітераційна схема

з початковими умовами для скалярної величини

Матриця розмірності та вектор розмірності обчислюються таким чином:

а). Якщо для матриці справедлива умова, то

а відповідні проекційні оператори

б). Якщо для матриці справедлива умова, то

а відповідні проекційні оператори обчислюються згідно формул

Запропоновану ітераційну схему можна досліджувати на збіжність за допомогою різних підходів як систему різницевих рівнянь. У підрозділі 3.4 розглядається та досліджується на збіжність узагальнений ітераційний алгоритм апроксимації експериментальних даних. Запропонована схема - є динамічною системою різницевих рівнянь, записаною відносно шуканих параметрів. Вона має два цикли: внутрішній та зовнішній. Зовнішній цикл передбачає зміну структури базисних функцій, їх нарощування при необхідності. Внутрішній - уточнює параметри апроксимації по мірі надходження експериментальних даних. Скільки необхідно брати вимірів для внутрішнього циклу і як довго нарощувати систему базисних функцій - це проблема, яку можна розв'язувати при розгляді конкретних задач. В дисертаційній роботі підкреслюється, що аналіз збіжності запропонованих систем зі змінною вимірністю фазового простору породжує математичні проблеми, які необхідно вивчати додатково.

У четвертому розділі (підрозділ 4.1) розглянуто особливості задач апроксимації сигналів на основі методів структурно-параметричної оптимізації та приводяться деякі вербальні постановки задач. У підрозділі 4.2 розглянуто деякі задачі цифрової обробки інформації на основі методів структурно-параметричної оптимізації. Задача ставилась наступним чином. Апроксимувати вхідний сигнал з заданою наперед точностю в класі багаточастотних гармонічних функцій виду

Необхідно в заданому параметричному класі функцій за мінімальне число кроків апроксимувати сигнал з точністю . При цьому, кількість апроксимуючих функцій повинна бути мінімальною. В дисертації приведені результати роботи алгоритму для квазіперіоду деяких фонем, що відповідають голосним літерам і попередньо пронормовані. Наприклад, якість апроксимації квазіперіоду фонеми “о” подано на рис. 3. При цьому були обрані такі параметри алгоритму. В таблиці 1 приведено оптимальні параметри, обчислені на відповідній ітерації. Нев'язка між початковими даними та апроксимацією при цьому складає 0,0325.

Таблиця 1. Оптимальні значення параметрів на відповідній ітерації

Номер ітерації	1	2	3	4	5	6	7
aiopt biopt ciopt wiopt	-0,02765 0,03430 0,00598 1,13603	0,03808 -0,00088 -0,00084 3,02942	-0,02275 -0,01569 0,00231 1,76716	0,02345 -0,01474 -0,00038 4,67036	0,06653 0,19444 -0,19410 0,12623	-	-

В підрозділі 4.3 розв'язується задача адаптивного розпізнавання мовних сигналів на основі методів структурно-параметричної оптимізації. В роботі приведені результати обчислювального експерименту для модельних прикладів, де вказано початкові дані, результуючі значення параметрів, графіки сигналу та його апроксимація, а також траєкторії по кожному параметру.

В підрозділі 4.4. приведені адаптивні алгоритми та обчислювальний експеримент для класифікації голосової інформації з метою визначення статі мовця: чоловіча чи жіноча.

У висновках сформульовано основні результати, отримані в дисертації.

ВИСНОВКИ

У дисертаційній роботі запропоновані нові підходи до розв'язування задач цифрової обробки експериментальних даних, які ґрунтуються на мінімізації деяких динамічних нев'язок і сучасних досягненнях у галузях структурно-параметричної оптимізації та псевдоінверсії. Приведені наукові дослідження є фундаментом для створення систем прийняття рішень у задачах розпізнавання та класифікації даних, які надходять у реальному часі.

Найбільш важливими науковими та практичними результатами, отриманими в дисертаційній роботі, є:

1. Розроблено нові алгоритми побудови матриць ортогональних перетворень, які безпосередньо враховують структуру отриманих експериментальних даних.

2. Набула подальшого розвитку теорія апроксимації даних, запропоновано метод оптимальної апроксимації вимірюваних сигналів у класі структурно-параметричних функцій з паралельною побудовою ортогональної системи базисних функцій. Приведено алгоритм оптимального вибору частотно-фазових характеристик у задачах гармонічної апроксимації функцій.

3. Вперше запропоновано адаптивні підходи до апроксимації як неперервних, так і дискретних сигналів, які ґрунтуються на мінімізації деяких динамічних нев'язок. Згідно отриманих математичних моделей в формі звичайних диференціальних та різницевих рівнянь проводиться уточнення апроксимуючих параметрів у динаміці.

4. Побудовані адаптивні алгоритми для розв'язування задач цифрової обробки сигналів, які ґрунтуються на методах псевдоінверсії. Для корекції параметрів апроксимації експериментальних даних у реальному часі отримані ітераційні процедури в формі різницевих математичних моделей у загальному випадку зі змінною розмірністю фазового простору.

5. Досліджено збіжність деяких розроблених, як неперервних, в формі систем звичайних диференціальних рівнянь, так і дискретних ітераційних схем з уточнення параметрів-ознак для апроксимації сигналів у реальному часі. Сформульовані та доведені теореми про збіжність, які ґрунтуються на другому методі Ляпунова та на нових результатах у галузі практичної стійкості. Причому, для останнього випадку отримані оцінки для аналізу збіжності на скінченому інтервалі часу, які зв'язують початкове наближення, точність апроксимації на деякому відрізку часу та його довжину.

6. Розроблено програмне забезпечення для розв'язування поставлених задач цифрової обробки інформації. Окремі програмні модулі є основою для створення систем розпізнавання мовних сигналів та розв'язування апроксимаційних задач у реальному часі в інших предметних галузях.

Ефективність створеного програмно-алгоритмічного забезпечення підтверджується в роботі багатьма модельними прикладами, при побудові матриць ортогональних перетворень, оптимальної апроксимації експериментальних даних у класі структурно-параметричних функцій та адаптивних методів розпізнавання і класифікації вимірюваних сигналів, основаних на розроблених підходах.

Результати дисертаційної роботи можуть бути використані для розв'язування задач адаптивної апроксимації експериментальних даних у різних предметних галузях, при оптимальній апроксимації сигналів з паралельною побудовою ортогональної системи базисних функцій, в задачах цифрової обробки сигналів і, зокрема, при розпізнаванні та класифікації мовних сигналів і зображень.

СПИСОК ОПУБЛІКОВАНИХ ПРАЦЬ

1. Гаращенко О.Ф. Оптимальний вибір частотно-фазових характеристик в задачах гармонічної апроксимації функцій // Вісник Київського університету. - Серія: фізико-математичні науки. - 2003. - № 1.- С. 145-149.

2. Гаращенко О.Ф., Кириченко Н.Ф. Об одном методе последовательного построения матриц ортогональных преобразований // Проблемы управления и информатики. -2005. - №1. - С. 75 - 87.

3. Швець О.Ф. Використання методу структурно-параметричної оптимізації в задачах цифрової обробки інформації // Вісник Київського університету.- Серія: фізико-математичні науки. - 2005. - № 4. - С. 249 - 255.

4. Швець О.Ф. Побудова та дослідження збіжності ітераційної схеми для апроксимації вимірюваних сигналів на основі методу псевдообернення // Вісник Київського університету. - Серія: фізико-математичні науки. - 2006. - № 1. - С. 229 - 234.

5. Швец О.Ф. Адаптивные подходы к аппроксимации сигналов, основанные на градиентных методах // Компьютерная математика. - 2006. - № 1. - С. 121 - 131.

6. Верченко А.П., Швець О.Ф. Структурно-параметричний підхід в задачах виділення затінених ділянок на аерознімках // Вісник Київського університету. - Серія: фізико-математичні науки. - 2006. - № 2. - С. 136-141.

7. Гаращенко О.Ф. Про оптимальний вибір параметрів в задачах гармонічної апроксимації функцій // Proc International Conference “Dynamical system modeling and stability investigation” (May 27-30, 2003). - Kyiv: КНУ, 2003. - С. 162.

8. Shvets D., Garashchenko O. Uses of Furies transformation in image processing // Proc. Fourth International Young Science Conference Problems of Optics and High Technology Material Science SPO 2003 (October 23-26, 2003). - Kyiv: Ukraine, 2003. - P. 208.

9. Гаращенко О.Ф. Структурно-параметрична оптимізація як метод розв'язування задач цифрової обробки інформації // Праці десятої міжнародної наукової конференції імені академіка М. Кравчука (13-15 травня, 2004). - К.: Національний технічний університет України „КПІ”. - 2004. - C. 339.

10. Гаращенко О.Ф. Метод структурно-параметричної оптимізації в задачах цифрової обробки інформації // Матеріали 11-ої Міжнародної конференції по автоматичному управлінню “Автоматика - 2004” (27-30 вересня 2004 р.). - Т.4. - К.: НУХТ, 2004. - С. 28.

11. Гаращенко О.Ф. Метод послідовної побудови матриць ортогональних перетворень та його застосування // Proc. International Conference “Dynamical systems modeling and stability investigation” (May 23-25). - Kyiv: Ukraine, 2005.

- C.38.

12. Швець О.Ф. До задачі адаптивної апроксимації сигналів // Праці одинадцятої міжнародної наукової конференції імені академіка М. Кравчука (18-20 травня, 2006). - К.: Національний технічний університет України „КПІ”. - 2006. - C. 292.

13. Кириченко М.Ф., Швець О.Ф. Розв'язування деяких задач цифрової обробки методами структурно-параметричної оптимізації та псевдоінверсії //International Conference “Problems Of Decision Making Under Uncertainties” (September 18-23, 2006). - Alushta: Ukraine, 2006. - C. 114-115.

АНОТАЦІЯ

Швець О.Ф. Адаптивні підходи цифрової обробки даних методами псевдоінверсії та структурно-параметричної оптимізації. Рукопис.

Дисертація на здобуття наукового ступеня кандидата фізико-математичних наук за спеціальністю 01.05.04  системний аналiз i теорiя оптимальних piшень. Київський національний університет імені Тараса Шевченка, Київ, 2006.

В дисертаційній роботі розвиваються адаптивні підходи до апроксимації експериментальних даних на основі методів псевдоінверсії та структурно-параметричної оптимізації. Побудовані динамічні моделі у формі систем звичайних диференціальних та різницевих рівнянь відносно параметрів, які визначають структуру апроксимуючої функції. Досліджені питання збіжності як неперервних, так і дискретних ітераційних схем з уточнення параметрів-ознак для апроксимації сигналів у реальному часі. Сформульовані та доведені теореми про збіжність, які ґрунтуються на другому методі Ляпунова та на нових результатах у галузі практичної стійкості. При цьому отримані оцінки для аналізу збіжності, які пов'язують початкове наближення, точність апроксимації на заданому відрізку часу та його довжину. Для стуктурно-параметричного представлення апроксимуючих функцій розроблені нові підходи побудови ортогональних перетворень, які враховують структуру отриманих експериментальних даних. Розроблені методи та алгоритми застосовано до розв'язування деяких важливих задач цифрової обробки сигналів, розпізнавання та класифікації голосової інформації.

Ключові слова: адаптивна апроксимація, ортогональні перетворення, динамічні моделі, псевдоінверсія, структурно-параметрична оптимізація, оптимальна апроксимація, аналіз збіжності, ітераційні процеси, другий метод Ляпунова, практична стійкість, цифрова обробка сигналів.

АННОТАЦИЯ

Швец О.Ф. Адаптивные подходы цифровой обработки данных методами псевдоинверсии и структурно-параметрической оптимизации. Рукопись.

Диссертация на соискание ученой степени кандидата физико-математических наук по специальности 01.05.04  системный анализ и теория оптимальных решений. Киевский национальный университет имени Тараса Шевченко, Киев, 2006.

Диссертационная работа посвящена разработке адаптивных методов аппроксимации экспериментальных данных на основе методов псевдоинверсии и структурно-параметрической оптимизации.

В первом разделе проведен анализ проблем цифровой обработки сигналов, методов псевдоинверсии и структурно-параметрической оптимизации с целью построения на их основе адаптивных методов аппроксимации сигналов в реальном времени.

Второй раздел посвящен разработке адаптивных методов аппроксимации экспериментальных данных, которые основаны на минимизации некоторых динамических невязок. Построены динамические модели в форме систем дифференциальных и разностных уравнений относительно параметров, которые определяют структуру аппроксимирующей функции. Исследованы вопросы сходимости как непрерывных, так и дискретных итерационных схем по уточнению параметров для аппроксимации сигналов в реальном режиме времени. Сформулированы и доказаны теоремы о сходимости, которые обоснованы на втором методе Ляпунова, а также на новых результатах в области практической устойчивости. При этом получены оценки для анализа сходимости, связывающие начальное приближение, точность аппроксимации на некотором интервале времени и его длину. Для структурно-параметрического представления аппроксимирующей функции разработаны новые методы построения ортогональных преобразований, которые учитывают структуру экспериментальных данных.

В третьем разделе, на основе новых результатов по псевдоинверсии, предложены адаптивные методы аппроксимации сигналов с заданным количеством базисных функций. Получены динамические модели для аппроксимации в форме систем разностных уравнений. Для случая, когда количество базисных функций изменяется, в работе выведены системы разностных уравнений с изменяющейся структурой. Для некоторых случаев исследованы вопросы сходимости предложенных итерационных схем.

В четвертом разделе разработанная методика использовалась для решения некоторых задач цифровой обработки сигналов, распознавания и классификации голосовой информации, оптимальной аппроксимации сигналов с параллельным построением ортогональных преобразований, которые учитывают структуру экспериментальных данных.

Ключевые слова: адаптивная аппроксимация, ортогональные преобразования, динамические модели, псевдоинверсия, структурно-параметрическая оптимизация, оптимальная аппроксимация, анализ сходимости, итерационные процессы, второй метод Ляпунова, практическая устойчивость, цифровая обработка сигналов.

ANNOTATION

Shvets О.F. The adaptive digital data processing approaches by pseudoinversion and structural-parametrical optimization methods. Manuscript.

Thesis for competition Ph.D degree in the Physics and Mathematics, specialization 01.05.04 - system analysis and optimal decisions theory. - National Taras Shevchenko University, Kiev, 2006.

In the thesis adaptive approaches of experimental data approximation on the basis of pseudo-inversion methods and structurally-parametrical optimization are developed. Dynamic models in the ordinary differential systems form and difference equations concerning parameters which define structure of approximating function are constructed. Questions of convergence of continuous and discrete iterative schemes on specification of parameters for approximation of signals in real time are investigated. The theorems of convergence which are proved on Lyapunov's second method and also new results in the field of practical stability are formulated and proved. Thus estimations for the analysis of convergence which connect initial approach, accuracy of approximation on some interval of time and its length are received. New methods of construction of orthogonal transformations which consider structure of experimental data for the decision of some problems of digital processing signals, recognition and classifications of the voice information are developed for structurally-parametrical representation of approximating function.

Keywords: adaptive approximation, orthogonal transformations, dynamic models, pseudo-inversion, structurally-parametrical optimization, optimum approximation, the analysis of convergence, the iterative processes, Lyapunov's second method, practical stability, digital signals processing.

Размещено на Allbest.ru