Анализ информации о свойствах исследуемого изделия. Построение регрессионной модели по опытным данным

Для компактной записи результаты расчётов по приведенной выше формуле представляют в виде корреляционной матрицы

,

где D_x и D_y - дисперсии случайных величин X и Y.

Но размерность корреляционного момента равна произведению размерностей случайных величин-составляющих системы, это не очень удобно для практических приложений…

Поэтому ввели понятие коэффициента корреляции системы двух случайных величин r_xy. Коэффициент корреляции связан с корреляционным моментом следующей формулой: , где у_x и у_y - средние квадратические отклонения случайных величин X и Y. Как известно,

.

Коэффициент корреляции вычисляется на основании результатов наблюдений по формуле:

r_xy = , (1.1)

где r_xy - коэффициент корреляции случайных величин Х и У;

, - средние арифметические значения этих случайных величин;

n - количество произведенных опытов (объём выборки).

Средние арифметические значения СВ Х и СВ У определяются по известным формулам:

где x_i и y_i - наблюдаемые значения величин Х и Y в i-м опыте.

При использовании вычислительных средств коэффициент корреляции можно рассчитывать по следующей формуле, дающей аналогичный результат, но позволяющей избежать вычисления отклонений случайных величин от своих средних:

r_xy =

Основы регрессионного анализа

Как известно, корреляция случайных величин говорит о наличии взаимосвязи между случайными величинами; более того, не просто какого-то любого вида взаимосвязи, а именно - о наличии линейной связи между случайными величинами. Тогда вполне обоснованной будет попытка выразить предполагаемую взаимосвязь аналитически средствами регрессионного анализа.

Термин регрессия означает отражение влияния количественных изменений одной СВ на количественные изменения другой случайной величины.

Регрессионный анализ - совокупность методов математической статистики, применяемых для исследования характера функциональной зависимости между случайными величинами.

Решение задач регрессионного анализа осуществляется в следующей последовательности:

1. Выбор вида функциональной зависимости (построение математической модели);

2. Оценка параметров этой функции;

3. Оценка статистической адекватности выбранной математической модели;

4. Анализ остатков.

Выбор вида функциональной зависимости

Уравнение регрессии имеет вид: y = f(x; a₀, a₁, …,a_m),

где y - прогнозируемое значение функции,

a_j - параметры (коэффициенты) уравнения регрессии, j = 1чm.

То есть, в общем случае уравнение регрессии представляет собой полином (многочлен) m - й степени.

Графическое представление вида функциональной зависимости называется линией регрессии.

На практике наиболее часто используется линейная зависимость:

y = a₀ + a₁*х

из-за простоты оценки и интерпретации коэффициентов линейного уравнения регрессии, а также из-за того, что почти любую достаточно сложную зависимость на малом интервале можно аппроксимировать линейной…

Метод наименьших квадратов оценки параметров функциональной зависимости (параметров уравнения регрессии)

Метод наименьших квадратов заключается в минимизации суммы квадратов отклонений теоретических, предсказываемых по модели, значений функции от эмпирических, полученных в эксперименте:

,

где a₀, a₁ - параметры линейной функции;

y_i - опытное значение функции, полученное в i-м эксперименте (замере).

Решение этой задачи даёт следующие формулы:

Опуская математические преобразования, приведем более простые формулы вычисления коэффициента a₁ (или коэффициента регрессии R_y/x) и свободного члена а₀:

(1.2)

и

где a₀ - свободный член уравнения; он численно равен прогнозируемому значению функции в точке х = 0; a₀ имеет размерность случайной величины У;

a₁ - коэффициент регрессии; он численно равен изменению случайной величины У при изменении случайной величины Х на единицу; a₁ имеет размерность случайной величины У, деленную на размерность случайной величины Х;

- средние значения СВ Х и СВ У.

Следует отметить, что метод наименьших квадратов даёт наиболее точные результаты лишь при предположении нормального распределения ошибок, то есть тех случайных отклонений замеренных значений функции от предполагаемых (теоретических), которые являются следствием многих приблизительно одинаково слабо влияющих факторов, не учитываемых
в разрабатываемой регрессионной модели.

Известна зависимость между коэффициентами корреляции и регрессии:

, (1.3)

где _х и _y - средние квадратические отклонения величин Х и Y, определяемые по формулам:

Практическая часть работы

Постановка задачи на построение уравнения регрессии по данным однофакторного эксперимента

Каждый магистрант получает индивидуальное задание, содержащее результаты проведения однофакторного эксперимента исследования, например: прочности шва для ниток различной линейной плотности.

Осуществляется исследование; результаты экспериментальных замеров приведены в таблице:

Таблица 1.1

Результаты экспериментальных замеров

где x_i - линейная плотность нитей, текс;

y_i - прочность шва, даН.

Построить регрессионную модель свойств исследуемых текстильных материалов и изделий из них:

· выявить и описать аналитически зависимость прочности шва от линейной плотности ниток;

· представить полученную зависимость в графической форме, то есть изобразить линию регрессии;

· оценить качество и точность разработанной регрессионной модели, для чего построить график остатков.

Первичная обработка результатов эксперимента

Первичная обработка результатов эксперимента, как правило, включает проверку опытных данных на отсутствие грубых ошибок в записях результатов замеров (называемых промахами). Скорее всего, в данных, содержащихся в задании, промахи уже исключены. Иногда первичная обработка опытных данных может заключаться в сортировке данных по возрастанию или убыванию и, соответственно, в перенумерации составляющих обрабатываемых числовых рядов.

Определение коэффициентов корреляции и регрессии, составление уравнения регрессии

Для удобства и обеспечения верной последовательности вычислений данные промежуточных расчётов целесообразно представить в табличной форме, например, таблица 1.2. Состав и компоновку расчётной таблицы магистранты, конечно же, могут менять по своему усмотрению.

Коэффициент корреляции вычисляется на основании исходных данных по формуле (1.1): r_xy = 0,975319.

Коэффициенты уравнения регрессии вычисляются по формулам (1.2) с использованием сведений из таблицы 1.2. Для этого примера коэффициенты принимают значения a₁ = 0,640 и a₀ = 0,955.

Проверим соотношение между коэффициентами корреляции и регрессии по формуле (1.3):

a₁ = 0,640 = 0,975319 * 7,088 / 10,801.

Значит, уравнение регрессии будет иметь вид:

y = a₁ x + a₀ = 0,640 x + 0,955.

Таблица 1.2

Данные расчётов

Рис. 1.1 Результаты замеров y = f(x)

Рис. 1.2 График теоретической зависимости

Построение линии регрессии

Для полноты информации о рассматриваемом процессе следует начать с построения на графике опытных точек (x_i, y_i) по данным, полученным в замерах (табл. 1.1).

Далее на этом же графике по расчетным точкам (x_i, y_i) следует построить линию регрессии. Линия регрессии, как уже было указано ранее, является графическим отображением уравнения регрессии. Для построения её нужно правильно выбрать масштабы по осям, чтобы обеспечить наглядность представления исследуемой зависимости.

Рис. 1.3 Объединённый график опытных данных и регрессионной зависимости

Выводы по работе

В выводах должен быть описан вид полученного уравнения регрессии и характер связи между выходными и входными параметрами, оценена адекватность полученного уравнения и точность коэффициентов.

Например: В практическом занятии № 1 была исследована зависимость прочности шва от линейной плотности ниток. Выявлено, что между этими параметрами существует устойчивая прямая положительная линейная взаимосвязь, описываемая коэффициентом корреляции r_xy = 0,975319 и уравнением регрессии вида y = a₁ x + a₀ = 0,640 x + 0,955. То есть, с увеличением плотности ниток пропорционально (a₁ = 0,640) нарастает прочность шва (чего, впрочем, и следовало ожидать). Графически это представлено на рис. 1.3.

Варианты заданий

Вариант 1

Исследуется влияние линейной плотности ниток на прочность шва; результаты экспериментов приведены в таблице.

Определить характер зависимости между прочностью шва и линейной плотностью ниток, построить уравнение и линию регрессии, оценить точность полученной регрессионной модели, изобразить и проанализировать график остатков.

Вариант 2

Исследуется прочность льняных тканей различной поверхностной плотности. Результаты испытаний образцов на разрыв приведены
в таблице.

Определить характер зависимости между прочностью и поверхностной плотностью ткани, построить уравнение и линию регрессии, оценить точность полученной регрессионной модели, изобразить и проанализировать график остатков.

Вариант 3

Исследуется прочность клеевого соединения прокладочного материала с костюмной тканью при различной площади склеивания. Результаты испытаний образцов приведены в таблице.

Определить характер зависимости между площадью склеивания и прочностью клеевого прокладочного соединения, построить уравнение и линию регрессии, оценить точность полученной регрессионной модели, изобразить и проанализировать график остатков.

Вариант 4

Исследуется зависимость ширины проймы (Шпр) изделия размера 88 от прибавки на свободное облегание по линии груди (Пг). Результаты измерений приведены в таблице.

Определить характер зависимости между прибавкой на свободное облегание по линии груди и шириной проймы, построить уравнение и линию регрессии, оценить точность полученной регрессионной модели, изобразить и проанализировать график остатков.

Вариант 5

Исследуется зависимость ширины втачного рукава от длины проймы изделия. Результаты измерений приведены в таблице.

Определить характер зависимости между шириной втачного рукава и длиной проймы, построить уравнение и линию регрессии, оценить точность полученной регрессионной модели, изобразить и проанализировать график остатков.

Практическое занятие 2. Оценка точности, статистической адекватности и информационной способности регрессионной модели. Работа с программой обработки экспериментальных данных

математический регрессия однофакторный уравнение

Цель работы

Проверка качества разработанной статистической модели: оценка её точности с помощью графика остатков; статистической значимости с использованием F-критерия Фишера и информационной состоятельности - на основании вычисления коэффициента детерминации.

Содержание работы

1. Уяснение задачи и уточнение содержания регрессионной модели, разработанной на практическом занятии № 1.

2. Построение и анализ графика остатков для полученного уравнения регрессии.

3. Оценка статистической адекватности уравнения регрессии. Расчет F-критерия Фишера.

4. Характеристика информационной способности разработанной регрессионной модели. Вычисление коэффициента детерминации R².

5. Установление взаимосвязи рассчитанных показателей качества статистической модели.

6. Выводы по работе.

Теоретические сведения

Уравнение регрессии

На основании обработки опытных данных, полученных в результате серии экспериментов была построена регрессионная модель, представляемая обычно в аналитической форме - уравнение регрессии - или в графической форме - линия регрессии.

Коэффициенты уравнения регрессии (1.2) получаются методом наименьших квадратов, который обеспечивает наиболее точное представление предполагаемой (линейной) зависимости между переменными и, соответственно, наименьшее значение ошибок аппроксимации, называемых остатками. Дело в том, что уравнение регрессии на самом деле представляет собой выражение вида

, (2.1)

где a₀ - свободный член уравнения; он численно равен прогнозируемому значению функции в точке х = 0; a₀ имеет размерность случайной величины У;

a₁ - коэффициент регрессии; он численно равен изменению СВ У при изменении СВ Х на единицу; a₁ имеет размерность СВ У, деленную на размерность СВ Х;

д_i - так называемые ошибки (остатки), имеющие место на практике из-за каких-то факторов, не учитываемых в разработанной регрессионной модели;

i - номер опыта (эксперимента, замера).

Коэффициент корреляции

Зависимость между случайными величинами X и Y в теории вероятностей и математической статистике описывается, в первую очередь, как уже указывалось ранее, такими характеристиками, как корреляционный момент K_xy и коэффициент корреляции r_xy.

Коэффициент корреляции вычисляется на основании результатов наблюдений по формуле (1.1).

При использовании вычислительных средств коэффициент корреляции можно рассчитывать по приведенной ниже формуле, дающей аналогичный результат, но позволяющей избежать вычисления отклонений случайных величин от своих средних:

r_xy =

В материалах предыдущего практического занятия приводилась за-висимость между коэффициентами корреляции и регрессии - формула (1.3).

Анализ остатков как метод проверки точности регрессионной модели

Конечно же, при построении линии регрессии желательно, чтобы она проходила как можно ближе ко всем опытным точкам и, соответственно, уравнение регрессии как можно более точно отражало характер изучаемой зависимости. Именно для этого, кстати, и применялся метод наименьших квадратов…

Поэтому в общем случае опытные точки должны располагаться на приблизительно равном и сравнительно небольшом расстоянии (выше или ниже) от линии регрессии.

Для проверки точности созданной регрессионной модели нужно построить график остатков, т. е. функции Дy_i = (y_i - y_i).

Если модель адекватна, то остатки должны быть равномерно распределены в относительно неширокой горизонтальной полосе вдоль оси абсцисс.

В общем случае остатки (y_i - y_i) можно рассматривать как случайную величину, зависящую от других (неучтённых в модели) факторов, что приводит к необходимости применения многомерного регрессионного анализа, но это уже не относится к теме этого практического занятия.

F-критерий Фишера

Рассеивание случайной величины У «разлагают» на рассеивание, объясняемое моделью, и рассеивание, обусловленное факторами, которые не учтены моделью. Первое нетрудно рассчитать, зная соответствующие разделы теории вероятностей; второе, не поддающееся теоретическому обоснованию на основе созданной модели, желательно свести к минимуму. В качестве критерия статистической значимости регрессионной модели используется F-критерий Фишера:

, (2.2)

где у²_r - дисперсия, обусловленная регрессией, иногда она называется факторной дисперсией или дисперсией адекватности;

у²₀ - дисперсия, обусловленная неучтенными факторами, она, в свою очередь, называется остаточной дисперсией или дисперсией воспроизводимости;

,

где y_i - значение функции, рассчитанное по модели,

k - число степеней свободы = число коэффициентов модели - 1.

Иными словами, F-критерий Фишера показывает, насколько полно и точно мы способны объяснить "случайность поведения" функции Y, на основании предлагаемой теории - регрессионной модели - и знаний о "случайности" аргумента X.

Конечно же, желательно, чтобы F-критерий Фишера был много больше 1.

Коэффициент детерминации

Информационная способность модели оценивается коэффициентом детерминации RM = R²:

(2.3)

Сумма факторной дисперсии и остаточной дисперсии (в знаменателе формулы 2.3) называется суммарной дисперсией

.

Коэффициент детерминации характеризует долю изменчивости случайной величины У, обусловленную влиянием факторов, включенных в модель.

Модель считается информационно способной, когда коэффициент детерминации R² > 0.5.

Между коэффициентом детерминации RM и F-критерием Фишера существует взаимосвязь:

, (2.4)

где m - число факторов (аргументов) в уравнении регрессии; при a₀ = 0 вторая дробь превращается в (n - m)/n.

Доказано, что при значениях показателей тесноты связи (коэффициента корреляции r_xy) меньше 0,7 величина коэффициента детерминации R² всегда будет ниже 0,5. Это означает, что на долю вариации факторных признаков приходится меньшая часть по сравнению с остальными неучтенными в модели факторами, влияющими на изменение результативного показателя. Построенные при таких условиях регрессионные модели имеют низкое практическое значение.

Практическая часть работы

Уяснение и постановка задачи на оценку точности, статистической адекватности и информационной способности регрессионной модели

На предыдущем практическом занятии каждый магистрант получил индивидуальное задание, содержащее результаты проведения однофакторного эксперимента. На основании этих данных методом регрессионного анализа была построена аналитическая модель исследуемого процесса; при необходимости для повышения наглядности была использована графическая форма представления полученных результатов.

В ходе данного практического занятия требуется оценить точность построенной аналитической модели исследуемого процесса с помощью графика остатков; дать характеристики статистической значимости с использованием F-критерия Фишера и информационной состоятельности - на основании вычисления коэффициента детерминации.

Анализ остатков как средство оценки точности построенной регрессионной модели

Так называемые остатки представляют собой разницу между практическими результатами, полученными в ходе эксперимента, и «теоретическими» значениями, вычисленными по аналитическому выражению функции, описывающей наблюдаемую зависимость между параметрами исследуемого процесса, то есть Дy_i = (y_i - y_i). Для этого можно добавить еще один столбец в таблицу промежуточных результатов расчётов (табл. 1.2).

На графике остатки должны быть равномерно распределены в неширокой полосе равной высоты выше и ниже оси абсцисс (рис. 2.1).

Рис. 2.1 График остатков

Анализ графика остатков показывает, что уравнение регрессии (а также и линия регрессии) построены верно.

Определение статистической адекватности уравнения регрессии. Расчет F-критерия Фишера

F-критерий Фишера вычисляется по формуле (2.2). Для нашего примера:

В данном случае F >> 1, следовательно, уравнение регрессии, полученное в практическом занятии № 1, статистически адекватно (термин «адекватный» означает - соответствующий, отвечающий требованиям, пригодный) отражает зависимость между прочностью шва и линейной плотностью ниток.

Характеристика информационной способности разработанной регрессионной модели. Вычисление коэффициента детерминации R²

Коэффициент детерминации вычисляется по формуле (2.3) с помощью (как и в предыдущем пункте работы) данных, обобщённых в таблице 2.

Поскольку R² > 0.5, можно сказать, что разработанная в практическом занятии № 1 регрессионная модель верно отражает зависимость между прочностью шва и линейной плотностью ниток, наблюдаемую на практике.

Установление взаимосвязи рассчитанных показателей качества статистической модели

В формуле (2.4) указана взаимосвязь между коэффициентом детерминации R² и F-критерием Фишера; проверим её на имеющихся опытных и расчётных данных:

Таким образом, подтвердили и эту упоминаемую ранее взаимосвязь.

Выводы по работе

В практическом занятии № 1 была исследована зависимость прочности шва от линейной плотности ниток. Выявлено, что между этими параметрами существует устойчивая прямая положительная линейная взаимосвязь, описываемая коэффициентом корреляции r_xy = 0.975319 и уравнением регрессии вида y = a₁ x + a₀ = 0,640 x + 0,955.

В практическом занятии № 2 была оценена точность построенной аналитической модели исследуемого процесса: вычислены разности между практическими и теоретическими значениями функции, называемые «остатками», построен их график. Анализ графика остатков показал, что уравнение регрессии, а также и линия регрессии, построены верно.

Была оценена статистическая значимости (адекватность) регрессионной модели с использованием F-критерия Фишера. В данном случае F = 39,0228 >> 1, следовательно, уравнение регрессии, полученное в практическом занятии № 1, статистически адекватно отражает зависимость между прочностью шва и линейной плотностью ниток.

На основании вычисления коэффициента детерминации дана характеристика информационной состоятельности построенной аналитической модели исследуемого процесса.

Поскольку R² = 0,9505 > 0.5, можно сказать, что разработанная в практическом занятии № 1 регрессионная модель верно воспроизводит характер зависимости между прочностью шва и линейной плотностью ниток, наблюдаемую на практике.

И, наконец, расчётным путём была подтверждена известная из математической статистики взаимосвязь между коэффициентом детерминации R² и F-критерием Фишера.

Размещено на Allbest.ru