Методический комплекс "Теория вероятностей и математическая статистика" для бакалавров

Размещено на http://www.allbest.ru/

ФЕДЕРАЛЬНОЕ АГЕНСТВО ПО ОБРАЗОВАНИЮ

РОССИЙСКОЙ ФЕДЕРАЦИИ

Государственное образовательное учреждение

высшего профессионального образования

«Южный Федеральный университет»

Факультет математики, механики и компьютерных наук

УЧЕБНО-МЕТОДИЧЕСКИЙ КОМПЛЕКС

учебной дисциплины

"Теория вероятностей и математическая статистика"

для бакалавров вузовского компонентного цикла ОПД

по специальности 010501

«Прикладная математика и информатика»

Декан факультета теории функций и

функционального анализа ЮФУ

Зав кафедрой ____________ (Кондаков В.П.)

Составитель:

доцент кафедры Луценко А.И.

Ростов-на-Дону

2008

Пояснительная записка

1. Цели и задачи дисциплины, ее место в учебном процессе

1.1 Цели преподавания дисциплины

Курс «Теория вероятностей и математическая статистика» - общеобразовательная математическая дисциплина, объектом изучения которой является большая область математики, связанная понятиями случайности событий, измерением степени возможности появления этих событий, проведением экспериментальных исследований и математической обработкой их результатов, формулировкой полученных результатов.

Курс «Теория вероятностей и математическая статистика» читается студентам специальности “прикладная математика и информатика” в VI и VII семестрах. Цель преподавания - ознакомить студентов с задачами и методами теории вероятностей и математической статистики в объёме, достаточном для успешного практического использования полученных знаний в дальнейшей работе по специальности, а также для самостоятельного изучения соответствующей научной литературы.

1.2 Задачи изучения дисциплины

В результате изучения настоящего курса студент должен: овладеть основами теории вероятностей, усвоив понятия множества элементарных исходов, алгебры случайных событий, вероятностной функции как числовой функции множеств, случайной величины, функции распределения случайной величины и числовых характеристик случайной величины; ознакомится с методами и результатами решения классической предельной проблемы теории вероятностей, а также с применением этих результатов к решению задач статистической оценки значений числовых характеристик случайных величин и векторов и статистической проверки гипотез, построению простейших регрессионных моделей; приобрести навыки практического решения вероятностных задач, постановки задач проведения статистического эксперимента, научится приёмам и методам статистической обработки экспериментальных данных и формулированию обоснованных выводов по результатам этой обработки.

1.3 Перечень дисциплин с указанием разделов (тем), знание которых необходимо для изучения теории вероятностей и математической статистики

Элементы теории множеств (операции над множествами, конечные и бесконечные множества, сравнение бесконечных множеств по мощности, алгебра множеств)

Математический анализ (теория пределов, непрерывные и дифференцируемые функции, ряды, преобразование Фурье)

Теория функций и функциональный анализ (понятия меры и измеримости множеств, интеграла Лебега, гильбертова пространства, различных видов сходимости последовательностей).

Согласно государственного образовательного стандарта высшего профессионального образования от 14 апреля 2000 года на изучение дисциплины «Теория вероятностей и математическая статистика» отведено 280 часов (70 часов лекционных + 35 часов практических аудиторных занятий + 175 часов самостоятельной работы) и предусмотрены следующие формы отчётности: 1 экзамен, 1 зачёт, 3 контрольных работы и 1 зачётное индивидуальное задание по математической статистике.

Рабочая программа курса

Модуль 1. Вероятностное пространство с не более чем счетным множеством элементарных исходов

Основные понятия: Элементарный исход. Множество элементарных исходов. Алгебра событий. Вероятностная функция. Условная вероятность.

Вероятностное пространство <,A,P>

Множество элементарных исходов	Алгебра событий A	Вероятностная функция P
Примеры	Операции над событиями	Простейшие свойства

Классическая модель:

;

(Урновая схема, различные способы организации выборок).

Биномиальная модель (Схема Бернулли):

(Полиномиальная модель)

Геометрическая модель:

теория вероятность статистика

(Отрицательное биномиальное распределение)

Условная вероятность. Попарная независимость событий и независимость событий в совокупности.

Формула полной вероятности. Формула Байеса. (7 часов)

Модуль 2. Общая вероятностная модель. Аксиоматика А.Н. Колмогорова

Основные понятия: у-алгебра множеств. Измеримое пространство. у-аддитивная функция множеств. Нормированная функция множеств. Бесконечные множества различной мощности.

Аксиоматическое построение вероятностного пространства <, A, P >. Свойства вероятностной функции. Борелевские алгебры множеств. Измеримые пространства <R, B (R)>; <Rn, B (Rn)>. Типы и примеры задания вероятностных функций на измеримых пространствах. (6 часов)

Модуль 3. Случайные величины и векторы

Основные понятия: Измеримая функция. Ряд распределения. Плотность вероятности. Компоненты случайного вектора. Согласованность законов распределения вероятностей. Устойчивость законов распределения вероятностей.

Случайная величина - измеримое отображение <,A > в <R, B (R)>.

Случайный вектор - измеримое отображение <,A > в <Rn, B (Rn)>.

Типы случайных величин и векторов. Задание законов распределения. Функция распределения случайной величины и случайного вектора. Компоненты случайного вектора. Частные распределения и частные функции распределения. Многомерный нормальный закон. Составной случайный вектор. Независимость случайных величин. Критерий независимости (три формы). (9 часов)

Модуль 4. Числовые характеристики случайных величин и векторов

Основные понятия: Функция случайной величины. Математическое ожидание. Дисперсия. Начальные и центральные моменты случайных величин и векторов. Ковариационный момент. Коэффициент линейной корреляции.

Интеграл Лебега-Стилтьеса (Римана-Стилтьеса). Математическое ожидание случайной величины и случайного вектора. Свойства. Примеры. Дисперсия случайной величины. Свойства. Примеры. Начальные и центральные моменты случайной величины и случайного вектора. Ковариационный момент. Ковариационная матрица. Коэффициент линейной корреляции и его свойства. Условные распределения и условные математические ожидания. Линейная регрессия случайных величин. (12 часов).

Модуль 5. Классическая предельная проблема теории вероятностей

Основные понятия: Центрированные и нормированные суммы случайных величин. Виды сходимостей последовательностей случайных величин. Схема серий. Асимптотическая малость последовательности случайных величин.

Характеристические функции. Определение. Примеры характеристических функций для некоторых законов распределения случайных величин. Свойства характеристических функций. Теоремы непрерывности для последовательностей функций распределения и характеристических функций.

Классическая предельная проблема теории вероятностей

ЗБЧ	ЦПТ	ЗМЧ
Теорема Бернулли Теорема Хинчина Теорема Чебышева Теорема Пуассона	Теорема Муавра- Лапласа Теорема Леви Теорема Ляпунова Теорема Линдеберга-Феллера	Теорема Пуассона

У З Б Ч: Теорема Бореля и теорема Кантелли. Теоремы Колмогорова. Метод Монте-Карло. (10 часов)

Модуль 6. Первичная обработка статистических данных. Точечные оценки числовых характеристик

Основные понятия: Выборка. Вариационный ряд. Гистограмма. Состоятельность, несмещенность, эффективность точечных оценок. Статистика.

Требования к организации выборки. Первичная обработка статистических данных. Теорема Гливенко. Достаточные статистики. Точечные оценки числовых характеристик случайных величин. Требования к точечным оценкам. Неравенство Рао-Крамера. Методы получения точечных оценок числовых характеристик. (8 часов)

Модуль 7. Интервальные оценки числовых характеристик

Основные понятия: Степень свободы. Доверительная вероятность. Распределение Пирсона (распределение). Распределение Стьдента (распределение). Распределение Фишера-Снедекора (распределение).

Доверительный интервал. Специальные распределения. Общая линейная модель измерений. Распределения некоторых статистик. Примеры построения доверительных интервалов для числовых характеристик случайных величин. (4 часа)

Модуль 8. Статистическая проверка гипотез

Основные понятия: Гипотеза. Критерий проверки гипотезы. Уровень значимости гипотезы. Критическая область. Правило принятия решений. Оптимальный критерий проверки гипотезы.

Гипотезы основная и альтернативная. Критерий проверки гипотезы. Распределения вероятностей критерия проверки гипотезы. Области и возможных значений критерия при справедливости основной гипотезы. Ошибки I и II рода при проверке гипотез. Оптимальный критерий. Три типа задач статистической проверки гипотез. Примеры построения критериев для статистической проверки гипотез. (6 часов)

Модуль 9. Корреляционный и регрессионный анализы

Основные понятия: Статистическая зависимость компонент случайного вектора. Сила и характер статистической зависимости компонент случайного вектора. Условные случайные величины. Условные законы распределения вероятностей и условные математические ожидания. Функция регрессии.

Корреляция и регрессия случайных величин. Две задачи, решаемые корреляционным анализом. Коэффициент линейной корреляции и его статистическая оценка. Проверка гипотезы о значимости коэффициента линейной корреляции. Условное математическое ожидание. Функция регрессии. Функция регрессии двумерного нормального закона. Определение статистических оценок коэффициентов функции регрессии. Остаточная дисперсия. Корреляционное отношение. (6 часов).

Распределение часов по видам учебной нагрузки

№	Модуль	Общее кол-во часов	Лекции	Практ. занятия	Самост- ная работа
1	Вероятностное пространство с не более чем счётным множеством элементарных исходов	33	7	6	20
2	Общая вероятностная модель. Аксиоматика А.Н. Колмогорова	18	6	2	10
3	Случайные величины и векторы	31	9	6	16
4	Числовые характеристики случайных величин и векторов	37	12	6	19
5	Классическая предельная проблема теории вероятностей	29	12	5	12
6	Первичная обработка статистических данных. Точечные оценки числовых характеристик	18	8	4	6
7	Интервальные оценки числовых характеристик	10	4	2	4
8	Статистическая проверка гипотез	18	6	2	10
9	Корреляционный и регрессионный анализ	16	6	2	8
	Всего	210	70	35	105

Рекомендуемая литература

Большев Л.Н., Смирнов Н.В. Таблицы математической статистики. - М.: Наука, 1983.

Боровков А.А. Курс теории вероятностей. - М.: Наука, 1986.

Вентцель Е.С. Теория вероятностей. - М.: Наука, 1973.

Вентцель Е.С., Овчаров Л.А. Задачи и упражнения по теории вероятностей. - М.: Высшая школа, 2000.

Гнеденко Б.В. Курс теории вероятностей. - М.: Наука, 1988.

Гмурман В.Е. Теория вероятностей и математическая статистика. - М.: Высшая школа, 1977.

Гмурман В.Е. Руководство к решению задач по теории вероятностей и математической статистике. - М.: Высшая школа, 1979.

Драгилев М.М. Теория вероятностей. - М.: Вузовская книга, 2002.

Кожевников Ю.В. Теория вероятностей и математическая статистика. - М.: Машиностроение, 2002.

Колемаев В.А., Староверов О.В., Турундаевский В.Б. Теория вероятностей и математическая статистика. - М.: Высшая школа, 1991.

Крамер Г. Математические методы статистики. - М.: Мир, 1975.

Мостеллер Ф. Пятьдесят занимательных вероятностных задач с решениями. - М.: Наука, 1975.

Мешалкин Л.Ф. Сборник задач по теории вероятностей. - Издательство Московского университета, 1963.

Сборник задач по теории вероятностей, математической статистике и теории случайных функций, под редакцией Свешникова А.А. - М.:Наука, 1970.

Севастьянов Б.А., Курс теории вероятностей и математической статистики. - М.; Наука, 1982.

Севастьянов Б.А., Чистяков В.П., Зубков Ф.М. Сборник задач по теории вероятностей. - М.: Наука, 1980.

Смирнов Н.В., Дунин-Барковский И.В. Курс теории вероятностей и математической статистики для технических приложений. - М.: Физматгиз, 1980.

Феллер В. Введение в теорию вероятностей и ее приложения. В 2-х томах - М.: Мир, 1984.

Чистяков В.П. Курс теории вероятностей. - М.: Наука, 1982.

Ширяев А.Н. Вероятность. - М.: Наука, 1980.

Практическая (аудиторная) часть

70 часов аудиторных занятий + 70 часов самостоятельной работы + 3 контрольных работы + 1 индивидуальное задание по математической статистике.

3 курс, шестой семестр. (36 часов)

Классическое определение вероятности. 4 часа

Вероятности сумм и произведений событий. 4 часа

Формула полной вероятности. 2 часа

Формула Байеса. 2 часа

Повторные независимые испытания. Формула Бернулли. 2 часа

Контрольная работа №1. 2 часа

Геометрические вероятности. 4 часа

Дискретная случайная величина. Ряд распределения 4 часа

Функция распределения.

Числовые характеристики дискретной случайной величины. 4 часа

Непрерывная случайная величина. Плотность вероятности. 2 часа

Функция распределения.

Числовые характеристики непрерывной случайной величины. 4 часа

Контрольная работа №2. 2 часа

4 курс, седьмой семестр. (34 часа)

1. Повторение. Дискретные и непрерывные случайные величины и их числовые характеристики. 4 часа

2. Нормальный закон. Функция Лапласа. 2 часа

3. Интегральная теорема Муавра-Лапласа и ее приложения. 4 часа

4.Закон больших чисел и Центральная предельная теорема. 4 часа

5.Функции случайных величин и их числовые характеристики. 4 часа

6.Контрольная работа №3. 2 часа

7. Первичная обработка статистических данных. 2 часа

8.Точечные оценки числовых характеристик случайных величин. 2 часа

9. Доверительные интервалы для математического ожидания и дисперсии. 2 часа

10. Статистическая проверка гипотез. Задачи I-го и II-го типов. 4 часа

11. Критерий согласия Пирсона. 2 часа

12. Корреляционный анализ. 4 часа

Литература

1 А.А. Свешников Сборник задач по теории вероятностей, математической статистике и теории случайных функций. Москва. “Наука”. 1970г.

2. А.И. Луценко Задачи по теории вероятностей. Часть I, УПЛ РГУ. 2005г.

3. А.И. Луценко Задачи по теории вероятностей. Часть II, УПЛ РГУ. 2001г.

4. В.Е. Ковальчук, А.И. Луценко Индивидуальные задания по математической статистике. УПЛ РГУ. 1998г.

Контрольные вопросы

Модуль 1. Вероятностное пространство с не более чем счётным множеством элементарных исходов

Могут ли два различных элементарных исхода одновременно произойти в результате проведения испытания.

Сколько элементов будет иметь алгебра событий, если множество элементарных исходов состоит из n элементов?

Запишите случайное событие, являющееся противоположным событием случайному событию .

Запишите случайное событие, являющееся противоположным событием случайному событию .

Вероятности наступления случайных событий и равны и . Будут ли эти события несовместными?

Сколько элементов будет иметь алгебра событий, «порождаемая» случайными событиями A и B?

Повторные независимые испытания проводятся n раз. В результате каждого испытания может произойти только одно из трёх попарно несовместных событий A, B или C. Определите элементарный исход для таких испытаний. Сколько элементов будет иметь множество элементарных исходов?

Будут ли гипотезы, формулируемые при применении формулы полной вероятности, попарно независимыми событиями?

Может ли сумма всех послеопытных вероятностей гипотез, вычисленных по формуле Байеса, быть меньше единицы?

Проводятся одинаковые независимые испытания до тех пор, пока событие A не появится три раза. Сколько элементарных исходов будет благоприятствовать случайному событию: «Было проведено десять испытаний»?

Модуль 2. Общая вероятностная модель. Аксиоматика А.Н. Колмогорова

Удовлетворяет ли условию: аддитивная числовая функция множеств для любых и , если ?

Будет ли всегда справедливо равенство , если ?

Будет ли требование аддитивности числовой функции множеств аксиоматическим, если рассматриваются испытания, для которых множество элементарных исходов имеет не более чем счётное число элементов?

Может ли алгебра всех возможных событий быть множеством счётной мощности, если множество элементарных исходов имеет конечное число элементов?

Можно ли построить алгебру событий, имеющую счётное число элементов, если множество элементарных исходов - счётное?

Будут ли совпадать у-алгебры борелевских множеств B1(R) и B2(R), если первая алгебра построена по элементам системы , где и - любые действительные числа, а вторая алгебра построена по элементам системы , где и - любые рациональные числа?

Может ли вероятностная функция быть линейной комбинацией двух вероятностных функций, одна из которых - дискретного, а другая - непрерывного типа?

Из «непрерывности снизу» вероятностной функции следует её «непрерывность в нуле». Можно ли утверждать, что из «непрерывности в нуле» следует «непрерывности снизу» вероятностной функции?

Вероятностная функция P определена на измеримом пространстве <, B ()>. Может ли первая частная вероятностная функция быть дискретного типа, а вторая частная вероятностная функция быть непрерывного типа?

Произвольная функция определена на интервале и принимает неотрицательные значения. Что нужно сделать, что бы её можно было назвать вероятностной функцией, определённой на интервале ?

Модуль 3. Случайные величины и векторы

Можно ли утверждать, что случайная величина есть случайный результат любого опыта?

Можно ли утверждать, что плотность вероятности это любая функция, для которой справедливо ?

Как по заданной функции распределения определить распределение вероятностей , где , случайной величины ?

Как по заданной функции распределения определить плотность вероятности случайной величины ?

Как, зная плотность вероятности двумерной случайной величины , определить частную функцию распределения второй компоненты ?

Какому требованию должны удовлетворять компоненты двумерной случайной величины , чтобы было справедливо равенство ?

Может ли у двумерной случайной величины одна компонента быть случайной величиной дискретного типа, а другая - случайной величиной непрерывного типа?

Рассматривается вероятностное пространство <,A,P>, где P - вероятностная функция непрерывного типа. Можно ли на измеримом пространстве <,A> определить случайную величину , у которой функция распределения будет функцией распределения дискретного типа?

Всегда ли по частным функциям распределения компонент и можно определить функцию распределения двумерной случайной величины ?

Как, зная функцию распределения случайного вектора определить функцию распределения случайного вектора ?

Модуль 4. Числовые характеристики случайных величин и векторов

Почему, определяя математическое ожидание функции случайной величины как значение несобственного интеграла , мы требуем, чтобы этот интеграл сходился абсолютно?

Если справедливо равенство , то можно ли утверждать, что распределение вероятностей случайной величины будет симметрично относительно математического ожидания?

Случайная величина имеет конечное математическое ожидание . Следует ли из этого, что у случайной величины существует конечная дисперсия ?

Случайная величина имеет конечную дисперсию . Следует ли из этого, что у случайной величины существует конечное математическое ожидание ?

Используя свойства дисперсии, докажите что:

а) , если случайные величины и - независимые;

б) , где c - произвольная константа.

Используя определения начальных и центральных моментов двумерной случайной величины, запишите формулу дисперсии суммы двух произвольных случайных величин.

Если случайные величины и - независимые, то ковариационный момент всегда равен нулю. Будет ли справедливо обратное утверждение: если ковариационный момент случайных величин и равен нулю, то случайные величины и - независимые?

Можно ли утверждать, что значение математического ожидания случайной величины - это наиболее вероятное значение случайной величины?

Всегда ли равенство нулю коэффициента линейной корреляции свидетельствует об отсутствии статистической связи между случайными величинами?

В ковариационной матрице n-мерного случайного вектора ненулевыми являются только элементы, стоящие на главной диагонали. Что можно сказать о компонентах этого вектора?

Модуль 5. Классическая предельная проблема теории вероятностей

Какой вид сходимости последовательности случайных величин сильнее: сходимость по распределению, или сходимость по вероятности?

Какое требование к последовательностям случайных величин предъявляется во всех теоремах классической предельной проблемы теории вероятностей?

Можно ли применять теорему Хинчина к последовательностям одинаково распределённых случайных величин, имеющих конечные дисперсии?

Покажите, что теорема Муавра-Лапласа является частным случаем теоремы Леви.

Последовательность независимых одинаково распределённых случайных величин подчиняется ЦПТ. Можно ли утверждать, что эта последовательность подчиняется ЗБЧ?

Последовательность независимых разно распределённых случайных величин подчиняется ЗБЧ. Можно ли утверждать, что эта последовательность подчиняется ЦПТ?

Можно ли утверждать, что теорема Хинчина является частным случаем теоремы Чебышева?

Покажите, что из того, что последовательность случайных величин подчиняется условию Ляпунова следует, что она подчиняется и условию Линдеберга.

Покажите, что теорема Муавра-Лапласа является частным случаем теоремы Линдеберга?

Покажите, что последовательность независимых разно распределённых бернуллиевских случайных величин подчиняется ЦПТ.

Модуль 6. Первичная обработка статистических данных. Точечные оценки числовых характеристик

Каким условием надо руководствоваться для определения числа интервалов при построении вариационного ряда?

Могут ли интервалы вариационного ряда иметь разные длины?

Можно ли утверждать, что из несмещённости точечной оценки числовой характеристики следует её состоятельность?

Будет ли точечная оценка, полученная методом максимального правдоподобия несмещённой оценкой числовой характеристики?

Какая теорема применяется при проверке состоятельности точечных оценок начальных моментов исследуемой случайной величины?

Может ли точечная оценка дисперсии быть отрицательным числом?

При проверке состоятельности оценки применяется лемма, в которой по непрерывной функции строится сходящаяся по вероятности последовательность , . Точечной оценкой коэффициента линейной корреляции будет статистика , получаемая методом моментов. Постройте непрерывную функцию, с помощью которой, применяя лемму, можно проверить состоятельность этой оценки.

У случайной величины отсутствует математическое ожидание. Имеется статистическая выборка значений этой случайной величины. Можно ли утверждать, что у элементов выборки существует конечное среднее арифметическое?

Можно ли утверждать, что увеличение объёма выборки приводит к уменьшению величины отличия получаемых значений средних арифметических от значения математического ожидания?

Можно ли применять неравенство Рао-Крамера для проверки несмещённости точечной оценки?

Модуль 7. Интервальные оценки числовых характеристик

Увеличение объёма выборки при неизменном значении доверительной вероятности приводит к уменьшению длины доверительного интервала. Как будет изменяться доверительная вероятность, если при постоянной длине доверительного интервала будет увеличиваться объём выборки?

Покажите, что при увеличении числа n последовательность случайных величин сходится по распределению к нормальному закону.

Покажите, что при увеличении числа n последовательность случайных величин сходится по вероятности к единице.

Как изменяется длина доверительного интервала при увеличении доверительной вероятности?

Известно, что исследуемая случайная величина подчиняется нормальному закону с параметрами m и . Можно ли использовать в качестве доверительных интервалов интервалы , где ? Чему будут равны доверительные вероятности ?

Модуль 8. Статистическая проверка гипотез

Что называется критерием статистической проверки гипотез?

Можно ли выбрать такой критерий, при котором вероятность ошибки первого рода будет равна нулю?

Какие распределения вероятностей используются при построении критерия статистической проверки гипотез?

Дайте формулировку правила принятия решений?

Сколько типов задач рассматривается методами статистической проверки гипотез?

По результатам проверки двух гипотез: ,

,

где и - разные функции распределения, по элементам одной и той же выборки, прияты решения о том, что нет оснований отклонять и первую, и вторую гипотезу.

Может ли встретится такая ситуация при применении критерия Пирсона?

Может ли увеличение объёма выборки, по которой вычисляется наблюдаемое значение критерия, привести к отмене ранее принятого решения об отклонении основной гипотезы?

Можно ли использовать одну и ту же выборку для проверки гипотезы о значении математического ожидания и гипотезы о виде закона распределения исследуемой случайной величины?

В результате проверки принято решение об отклонении основной гипотезы и принятии альтернативной гипотезы.

Затем основную гипотезу назвали альтернативной, а альтернативную гипотезу назвали основной. Для того же критерия , при том же уровне значимости б определены новые области и . Какое решение будет принято, если будет использована та же выборка?

Можно ли проверку знаний студента на экзамене считать статистической проверкой гипотез? Сформулируйте основную и альтернативную гипотезы. Что будет являться критерием проверки справедливости основной гипотезы? Объясните причины ошибок первого и второго рода.

Модуль 9. Корреляционный и регрессионный анализы

Какие задачи решаются в корреляционном анализе?

Может ли статистическая оценка коэффициента линейной корреляции принимать значения, модуль которых будет больше единицы?

В каком случае условные распределения компонент случайного вектора будут совпадать с частными распределениями компонент?

Какой вид будут иметь функции регрессии каждой из компонент случайного вектора, если эти компоненты - независимые случайные величины?

Определите координаты точки пересечения линейных уравнений регрессии компонент двумерной случайной величины.

При каком условии на компоненты двумерной случайной величины функции линейной регрессии одной компоненты на другую будут тождественно совпадать?

Чему будут равны остаточные дисперсии компонент двумерной случайной величины, если эти компоненты будут независимыми?

Чему будут равны остаточные дисперсии компонент двумерной случайной величины, если эти компоненты будут связаны линейной функциональной зависимостью?

Какой критерий применяется при проверке значимости коэффициента линейной корреляции?

В чём заключается различие между корреляционным и регрессионным анализами?

Методические указания

Модуль 1. Вероятностное пространство с не более чем счетным множеством элементарных исходов

Цель модуля: Студент должен ознакомиться с основными понятиями и определениями теории вероятностей. Научиться решать задачи определения вероятностей наступления событий для простейших моделей испытаний, предусматривающих построение не более чем счётного множества элементарных исходов.

Введение основных понятий теории вероятностей, базируется на договоре о существе содержания терминов, на которых базируется новый предмет. Это понятия: испытание, элементарный исход, множество элементарных исходов, благоприятствующие элементарные исходы, равновозможные элементарные исходы. Усвоение этих основных понятий обеспечивается только жизненным опытом и способностью к абстрактному мышлению.

После ознакомления с основными понятиями, формулируется первые основные определения теории вероятностей. Это определения случайного события, противоположного события, достоверного и невозможного события, суммы и произведения событий, совместных и несовместных событий, алгебры событий.

После ознакомления с основными понятиям и усвоения основныхе определений, проводится подготовка к знакомству с новым, важнейшим понятием курса - понятием вероятности случайного события. Делается это аксиоматически, путем введения вероятностной функции Р.

Вероятностная функция P вводится следующим образом.

Сначала постулируется, аксиоматически формулируется: «Каждому элементарному исходу некоторым разумным способом ставим в соответствие положительное число , (записывается это так ). При этом требуется, чтобы выполнялось условие: » Затем, с использованием понятия благоприятствующего случайному событию элементарного исхода, определяется вероятность наступления случайного события следующим образом: . То есть, по существу, каждому элементу A алгебры A, AA, ставится в соответствие неотрицательное число, которое называется вероятностью этого элемента - вероятностью наступления случайного события A. То есть вводится функция, которая отображает множество A во множество чисел сегмента . Кратко это можно записать так: P: A. Так как здесь нельзя, подобно тому как это делается в анализе, ввести вероятностную функцию Р с помощью аналитической записи типа : , то у студента на этом этапе изучения курса возникают трудности в осмыслении понятия вероятностная функция.

Для облегчения процесса понимания термина «вероятность случайного события», мы прибегаем к механической интерпретации. Установление соответствия интерпретируется как распределение по элементам множества некоторым разумным способом единичной массы: в каждом мы “помещаем” массу равную . Вероятность случайного события A теперь понимается как доля единичной массы, оказавшейся над подмножеством А множества .

Слова «некоторым разумным способом устанавливаем соответствие » своей неопределенностью вносят дополнительные трудности в понятие термина «введение вероятностной функции» и нуждаются в пояснениях. Эти пояснения даются путем рассмотрения трёх моделей, трёх конкретных типов испытаний, в которых это соответствие устанавливается вполне естественным, разумным способом.

Классическая модель, основанная на понятии «испытаний с равновозможными элементарными исходами», позволяет установить соответствие так: .

Биномиальная модель, основанная на понятии «серии повторных независимых испытаний», позволяет установить соответствие так: .

Геометрическая модель, основанная на понятии «последовательность повторных независимых испытаний до первого положительного исхода», позволяет установить соответствие так: .

Перед рассмотрением биномиальной модели сначала вводится понятие «случайного события B наступившего при условии, что экспериментатору известно, что событие A уже произошло» и формулируется определение условной вероятности . Затем рассматривается вероятность произведения событий и формулируется одно из фундаментальных определений теории - определение независимости событий.

Свойства вероятностной функции, а так же формулы полной вероятности и Байеса являются теоремами и следствиями, вытекающими из аксиоматического введения вероятностной функции P, и позволяют решать на практических занятиях довольно широкий круг задач.

Модуль 2. Построение общей вероятностной модели

Аксиоматика А.Н. Колмогорова.

Цель модуля: Узнать принцип построения общей вероятностной модели на основе аксиом А.Н. Колмогорова. Ознакомиться с правилами построения алгебры борелевских множеств и типами вероятностных функций, задаваемых на измеримых пространствах.

Вероятностная функция P любому случайному событию A, являющемуся элементом алгебры A, ставит в соответствие число , . Кратко это записывается так: P: A. Это число называется «вероятностью наступления случайного события A» и оно понимается как значение меры возможности наступления, осуществления события A при однократном проведении испытания, опыта. Чем больше это число , тем больше у испытателя уверенность в возможности наступления, осуществления события A при проведении испытания и, наоборот, чем меньше это число , тем меньше у него уверенность в возможности его наступления, осуществления.

Но ранее функция P вводилась посредством предварительного, аксиоматического установления соответствия . Это соответствие всегда можно было установить, так как в рассматриваемых моделях элементарные исходы представлялись в виде конечной или бесконечной последовательности или . То есть, мы могли вводить функцию P, если множество было конечным или счётным и мы могли мысленно представить себе каждый элементарный исход.

Но есть большое количество примеров описания испытаний, в которых элементарные исходы нельзя представить в виде конечной или бесконечной последовательности. Например, выбор наудачу точки из отрезка ; определение времени горения электрической лампы; измерение высоты растения пшеницы; взвешивание зерен одного колоса пшеницы.

Такие множества, все элементы которых нельзя представить в виде конечной или бесконечной последовательности, называются множествами мощности континуум.

Сохранив основные понятия и определения, сделанные при рассмотрении примеров, определяющих множества конечной или счетной мощности, и расширив определение алгебры на случай рассмотрения счетных последовательностей событий до определения -алгебры, мы, следуя А.Н. Колмогорову, вероятностную функцию P определяем как числовую функцию определенную на элементах -алгебры A. Но, если раньше нормированность и аддитивность вероятностной функции P вытекали автоматически из ее определения по набору положительных чисел то теперь, при построении общей вероятностной модели, нормированность и -аддитивность функции P требуется аксиоматически. То есть, всякая функция, определенная на -алгебре случайных событий, принимающая числовые значения и обладающая свойствами нормированности и -аддитивности, является вероятностной функцией.

Рассматривая свойства вероятностной функции, приходим к выводу, что вместо -аддитивности аксиоматически можно требовать или «непрерывность сверху», или «непрерывность снизу», или «непрерывность в нуле». (Аналогично тому, как при изучении геометрии, основывающуюся на аксиомах Евклида, вместо пятой аксиомы параллельности можно принять аксиому о том, что сумма углов треугольника равна .)

Тройку объектов <,A,P> называется вероятностным пространством. Для того чтобы показать как практически реализуется процесс построения вероятностного пространства по Колмогорову, рассматриваются такие испытания, элементарными исходами которых будут действительные числа (или - точки вещественной оси).

Однако, если мы будем в качестве алгебры событий, то есть в качестве области определения вероятностной функции P брать -алгебру всех подмножеств множества действительных чисел, то получится очень необозримая алгебра множеств, на которой будет невозможно задать числовую функцию. Поэтому в качестве алгебры случайных событий предлагается взять алгебру борелевских множеств. Так как мы знаем как строится, конструируется из простейших множеств - полуинтервалов любое борелевское множество, то тогда, исходя из определения функции P на полуинтервалах, можно будет определить вероятностную функцию на всей -алгебре борелевских множеств действительных чисел.

Приступая к практическому рассмотрению возможных типов и конкретных примеров вероятностных функций, в качестве множества элементарных исходов рассматриваются множества двух типов.

I тип. - множества вещественных чисел, имеющие не более чем счетную мощность и лебегову меру равную нулю, то есть = n или a и ()=0.

II тип. - множества вещественных чисел, имеющие мощность континуум и положительную лебегову меру, то есть = c и ()>0.

Соответственно этим двум типам множеств элементарных исходов определяются два типа вероятностных функций.

Функция P называется вероятностной функцией дискретного типа, если область её определения есть множество первого типа, а множеством ее возможных значений является не более чем счетное множество положительных чисел таких что .

Функция P называется вероятностной функцией непрерывного типа, если областью её определения является множество второго типа. Задаётся такая функция с помощью определения кусочно-непрерывной неотрицательной функции , называемой плотностью вероятностей, такой что

Вероятность любого случайного события A, являющегося элементом алгебры B(), в зависимости от типа функции P определяется так:

или .

Модуль 3. Случайные величины и векторы

Цель модуля: На основе понятия функции, как правиле отображения одного множества в другое, ознакомиться с понятием случайной величины. Понять универсальность использования случайной величины в решении различных практических задач. Изучить типы случайных величин и наиболее часто встречающиеся на практике законы распределения вероятностей.

Решая конкретную задачу по теории вероятностей, мы, прежде всего, определяем чёткое название элементарного исхода. Все возможные элементарные исходы объединяются во множество элементарных исходов . Формулируя названия различных подмножеств множества элементарных исходов, определяем алгебру случайных событий A. На измеримом пространстве <,A,> Разумным способом определяем вероятностную функцию P. То есть, при решении задачи строится вероятностное пространство <,A, P >. Значения вероятностной функции на каждом случайном событии мы трактуем как вероятность наступления этого случайного события.

Элементарными исходами, образующими множество , могут быть объекты любой природы: наборы шаров различных цветов, наборы деталей различного качества, наборы карт различных номиналов, полученные каким-либо способом, определяемым условием испытания; последовательности событий A и , наступающих при проведении одинаковых испытаний по какому-либо правилу. Введение понятия случайной величины позволяет каждому элементарному исходу, независимо от его природы/ поставить в соответствие некоторый элемент (точку) из пространства

Случайная величина - это измеримое отображение множества элементарных исходов в пространство , то есть . Измеримость отображения означает, что для любого борелевского множества B, B(), вероятность случайного события равна вероятности случайного события A, где событие A, являющееся элементом алгебры АA, есть полный прообраз множества В. То есть, , где .

В соответствии с типом вероятностной функции P, описывающей распределение вероятностей значений случайной величины , рассматриваются два типа случайных величин: дискретный и непрерывный.

Для любого испытания, определяющего элементарные исходы как объекты некоторой природы (наборы карт, выборки шаров, извлеченные детали и т.п.), мы можем теперь, с помощью понятия случайной величины, случайные события трактовать как числовые, борелевские множества в пространстве .

Переход к трактовке случайных событий, независимо от содержания условия задачи, как числовых множеств точек в , являющихся борелевскими множествами, позволяет ввести определение функции распределения случайной величины.

Для любой точки пространства множество, точек принадлежащих интервалу , обозначим Ясно, что - борелевское множество. Случайное событие можно трактовать так: случайная величина принимает числовые значения меньшие, чем x, т.е.: . Для каждого x мы можем определить вероятность события , то есть число. Если x будет переменной величиной, то эта вероятность будет функцией от этого x. Эту функцию, обозначим её , будем называть функцией распределения случайной величины : .

Если - дискретного типа, то её функция распределения имеет вид: . Если - непрерывного типа, то её функция распределения имеет вид: .

Независимо от типа случайной величины вероятность любого случайного события B, то есть , будет равна приращению значения функции распределения на множестве B: .

По любой вероятностной функции P можно построить функцию распределения . Справедливо и обратное утверждение: всякая функция, обладающая тремя рассмотренными свойствами, является функцией распределения и по ней можно единственным образом построить вероятностную функцию P.

Рассматривая композицию отображений , приходим к понятию k-той компоненты векторной случайной величины: , где и к представлению Частная вероятностная функция и частная функция распределения каждой той компоненты определяется по вероятностной функции P и функции распределения векторной случайной величины .

Понятие независимости случайных величин - одно из важнейших понятий теории вероятностей. Оно вводится как понятие независимости компонент векторной случайной величины .

Компоненты называются независимыми, если для любого множества , принадлежащего , вероятность равна произведению вероятностей , , где - проекция множества на . Рассматриваются три формы критерия независимости случайных величин. Показывается, что по распределению вероятностей вектора всегда можно найти распределения вероятностей его компонент, а по распределениям вероятностей компонент не всегда можно построить распределение вероятностей исходного вектора.

Модуль 4. Числовые характеристики случайных величин и векторов

Цель модуля: На основе расширения понятия интеграла как интеграла от непрерывной функции по вероятностной мере определить понятия числовых характеристик. Показать на основе механической и геометрической интерпретации распределения вероятностной меры вероятностный смысл числовых характеристик. Научиться вычислять значения числовых характеристик и понимать их роль в изучении особенностей законов распределения случайных величин.

Использование определения интеграла Римана-Стилтьеса от непрерывной функции по вероятностной функции P позволяет в единой форме и независимо от типа случайной величины , определять

а) законы распределения функций случайных величин;

б) значения различных числовых характеристик случайных величин.

И в определении интеграла Римана, и в определении интеграла Римана-Стилтьеса область Q, по которой производится интегрирование, разбивается на отрезки В определении интеграла Римана при составлении интегральных сумм Дарбу используется мера Лебега - длина этих отрезков: . В определении интеграла Римана-Стилтьеса при составлении интегральных сумм, аналогичных суммам Дарбу, используется вероятностная мера этих отрезков: . В зависимости от типа вероятностной функции P интеграл Римана-Стилтьеса есть или сумма числового ряда, или определённый интеграл Римана.

Закон распределения случайной величины, записанный в одной из его форм с помощью вероятностной функции P или с помощью функции распределения , даёт нам всю информацию об исследуемой случайной величине . Числовые характеристики дают меньше информации о характере распределения возможных значений случайной величины , но в них аккумулированы наиболее характерные её свойства, которые позволяют нам судить о некоторых важнейших особенностях случайной величины. Такими характеристиками являются начальные и центральные моменты случайной величины, а так же - функции от них.

Наиболее употребительными числовыми характеристиками являются математическое ожидание - среднее значение случайной величины и дисперсия - мера рассеяния, разброса значений случайной величины около её математического ожидания.

Знание числовых значений математического ожидания и дисперсии служит задаче формулирования выводов о случайной величине и первичного представления о характере распределения её возможных значений.

При исследовании многомерной случайной величины, помимо математических ожиданий и дисперсий её компонент, рассматриваются ковариационные моменты, показывающие наличие и силу статистической связи между компонентами. Если статистические связи между компонентами имеют линейный характер, то в качестве оценки силы этой связи используется коэффициент линейной корреляции.

Функция регрессии, какого бы вида она ни была, описывает изменение значений условных математических ожиданий одной из компонент случайного вектора при изменении другой компоненты. То есть функция регрессии описывает изменение средних значений одной из случайных величин, когда другая случайная величина изменяется в области своих возможных значений.

Модуль 5. Классическая предельная проблема теории вероятностей

Цель модуля: Показать, что решение многих практических задач (в математике и механике, экономике и финансах, физике и химии, биологии и геологии и т.п.) базируется на основе знания законов распределения случайных величин, являющихся суммами большого числа независимых случайных величин - факторов. Знание результатов решения классической предельной проблемы позволит принимать план действий и делать обоснованные выводы при решении задач математической статистики.

В предельной проблеме теории вероятностей изучаются законы распределения случайных величин, являющиеся суммами случайных величин: , когда число слагаемых неограниченно возрастает . Проблема называется классической потому, что мы рассматриваем последовательности только таких случайных величин, у которых существует конечный начальный момент второго порядка, то есть .

Придерживаясь исторического аспекта в изложении предельной проблемы, сначала рассматриваем случайную величину, имеющую биномиальное распределение вероятностей .

1) Если проводится большое число повторных независимых испытаний (n - велико), то решение практических задач проводится путём применения локальной и интегральной теорем Муавра-Лапласа, согласно которым:

,

где ,

где .

,

где

Суть этих теорем состоит в том, что при больших значениях n биномиальное распределение вероятностей хорошо аппроксимируется нормальным распределением N. Причём с увеличением n точность аппроксимации возрастает.

То есть из интегральной теоремы Муавра-Лапласа следует, что для функции распределения случайной величины будет справедливо:

,

где - функция распределения нормального закона N(0,1).

2) Случайная величина есть относительная частота наступления события A при проведении n испытаний. Теорема Бернулли утверждает, что при неограниченном увеличении числа испытаний с вероятностью близкой к единице, то есть практически достоверно, можно утверждать, значения относительной частоты будут очень мало отличаться от p - вероятности наступления события A в одном испытании:

Суть этой теоремы состоит в том, что при неограниченном увеличении n относительная частота с вероятностью близкой к единице ведёт себя как постоянная величина p

3) Если вероятность p наступления события A в одном испытании «очень мала», а проводится большое число испытаний то, согласно теореме Пуассона, хорошую аппроксимацию биномиального распределения вероятностей возможных значений случайной величины можно получить, используя распределение Пуассона, то есть:

, где .

Случайная величина ,, является суммой n независимых бернуллиевских случайных величин , , каждая из которых есть результат проведения одного испытания, . То есть: . Так как и , то, заменив , интегральную теорему Муавра-Лапласа можно переписать так:

Случайную величину будем называть центрированной и нормированной суммой.

Интегральную теорему Муавра-Лапласа можно теперь сформулировать так:

Если , последовательность независимых, одинаково распределённых бернуллиевских случайных величин, то, при , последовательность функций распределения случайных величин сходится к функции распределения нормального закона N(0,1):

Аналогично теорему Бернулли можно, переписать так:

Если обозначить:

,

то теорему Бернулли сформулируем так:

Если , последовательность независимых, одинаково распределённых бернуллиевских случайных величин, то, при , случайная величина с вероятностью близкой к единице принимает значения, мало отличающиеся от нуля:

Обращаясь к теореме Пуассона, рассмотрим «двойную» последовательность бернуллиевских случайных величин . Для каждого n случайные величины , , имеют одинаковое распределение . Вероятности уменьшаются с изменением n. Обозначим .

Теорема Пуассона:

Если , но так что , то, при , случайная величина имеет распределение вероятностей мало отличающееся от распределения вероятностей закона Пуассона, то есть:

Суммируя всё, можем сказать, что для случайной величины , являющейся суммой независимых бернуллиевских случайных величин , в качестве предельного распределения вероятностей при будет нормальное, вырожденное или пуассоновское распределение вероятностей.

Естественно возникает вопрос: «А если снять ограничение, состоящее в том, что случайные величины - бернуллиевские? Какие ограничения надо наложить на последовательность случайных величин , чтобы их суммы и в качестве предельного при имели, соответственно, нормальное, вырожденное и пуассоновское распределение вероятностей?».

Определяем три новых понятия: «Закон больших чисел», «Центральная предельная теорема» и «Закон малых чисел». Знакомимся с теоремами, в которых на последовательности случайных величин налагаются ограничения, при которых:

1) имеет распределение, мало отличающееся от нормального (N(0,1));

2) имеет распределение, мало отличающееся от вырожденного ();

3) имеет распределение, мало отличающееся от распределения Пуассона (()).

Необходимо уметь объяснить практическую значимость предельных теорем для последовательностей независимых случайных величин.

Математическая статистика

Модуль 6. Первичная обработка статистических данных. Точечные оценки числовых характеристик

Цель модуля: Узнать новую терминологию, понятия и определения математической статистики. Показать приёмы и правила первичной обработки статистических данных, принципы выбора точечных оценок числовых характеристик изучаемых случайных величин.

Математическая статистика - самостоятельная математическая дисциплина, имеющая свой словарь терминов, с которым мы знакомимся, как и при изучении теории вероятностей, путём введения основных понятий и определений. Изучение свойств введённых терминов и формулирование выводов, которые делаются по результатам обработки статистических данных, проводятся путём использования основных положений теории вероятностей.

Надо всё время иметь в виду, что все объекты и построения математической статистики являются экспериментальными моделями объектов и построений, которые вводились и изучались в теории вероятностей.

Первыми основными понятиями являются понятия «генеральная совокупность» и «выборка».

Генеральная совокупность - это все объекты, обладающие интересующим нас количественным признаком. Исследуемый количественный признак - случайная величина. Каждый объект генеральной совокупности имеет определённое значение количественного признака. Это значение количественного признака является одним из возможных значений случайной величины. Наблюдая объекты генеральной совокупности, мы фиксируем возможные значения случайной величины. Частота встречаемости возможных значений случайной величины определяется законом распределения вероятностей этой случайной величины.

Однако не всегда удаётся, а иногда просто невозможно, обследовать все объекты генеральной совокупности для определения значения количественного признака, которым они обладают. Для изучения случайной величины из генеральной совокупности отбирают некоторое количество объектов и определяют значения количественного признака, которым обладают эти объекты.

Полученные значения количественного признака у этих объектов будут называться статистическими данными или выборкой из генеральной совокупности, если они репрезентативны. Под термином репрезентативность (представительность) мы понимаем, что полученные данные вполне отражают в общих чертах особенности количественного признака, которым обладают объекты генеральной совокупности.