Метод наименьших квадратов - презентация, доклад, проект скачать

Нажмите для полного просмотра!

Содержание ▲

Вы можете ознакомиться и скачать презентацию на тему Метод наименьших квадратов. Доклад-сообщение содержит 47 слайдов. Презентации для любого класса можно скачать бесплатно. Если материал и наш сайт презентаций Mypresentation Вам понравились – поделитесь им с друзьями с помощью социальных кнопок и добавьте в закладки в своем браузере.

Слайды и текст этой презентации

Слайд 1

Описание слайда:

МЕТОД НАИМЕНЬШИХ КВАДРАТОВ

Слайд 2

Описание слайда:

Истинная модель парной линейной регрессии Y = а + b*X + e. Истинная модель парной линейной регрессии Y = а + b*X + e. Для ее оценки используется выборка: (Y1, X1) ……… (Yn, Xn) Получается выборочное уравнение регрессии

Слайд 3

Описание слайда:

Для элемента (Yi, Xi) выборки, i = 1, …, n, можно записать: Для элемента (Yi, Xi) выборки, i = 1, …, n, можно записать:

Слайд 4

Описание слайда:

Как оцениваются по выборке коэффициенты регрессии?

Слайд 5

Описание слайда:

Выборка (Yi, Xi), по которой мы должны оценить теоретическую модель Выборка (Yi, Xi), по которой мы должны оценить теоретическую модель Y = a + b*X + e, графически представляется в виде «облачка» точек:

Слайд 6

Описание слайда:

Слайд 7

Описание слайда:

По этим точкам мы хотим получить такое выборочное уравнение По этим точкам мы хотим получить такое выборочное уравнение (т. е. оценки a и b), которое как можно точнее представляло бы истинную линию регрессии

Слайд 8

Описание слайда:

Интуиция подсказывает: Чем лучше оцененная прямая регрессии представляет выборку, тем точнее она приближает истинную прямую регрессии.

Слайд 9

Описание слайда:

Слайд 10

Описание слайда:

Если выборка состоит только из двух точек, то проблем нет:

Слайд 11

Описание слайда:

Если точек больше двух:

Слайд 12

Описание слайда:

Слайд 13

Описание слайда:

Слайд 14

Описание слайда:

Принцип метода наименьших квадратов Для данной выборки (X1, Y1), …, (Xn, Yn) параметры a и b рассчитываются таким образом, чтобы получить минимальное значение суммы квадратов остатков: min

Слайд 15

Описание слайда:

Или Или

Слайд 16

Описание слайда:

Решаем систему уравнений:

Слайд 17

Описание слайда:

После преобразований получаем систему нормальных уравнений для коэффициентов регрессии

Слайд 18

Описание слайда:

Слайд 19

Описание слайда:

Решение уравнения регрессии в Excel

Слайд 20

Описание слайда:

Решение уравнения регрессии в Excel

Слайд 21

Описание слайда:

Коэффициент детерминации показывает, насколько хорошо в выборке изменения Y объяснены изменениями Х. Т. е., насколько хорошо выборочная модель регрессии объясняет поведение Y в выборке. Коэффициент детерминации показывает, насколько хорошо в выборке изменения Y объяснены изменениями Х. Т. е., насколько хорошо выборочная модель регрессии объясняет поведение Y в выборке. Изменения фактора Y измеряются его дисперсией 2(Y).

Слайд 22

Описание слайда:

Коэффициент детерминации: - часть дисперсии Y, объясненная уравнением регрессии, т. е. изменениями в выборке фактора Х.

Слайд 23

Описание слайда:

Еще одно дополнение к R2 Мы знаем, что 0 ≤ R2 ≤ 1. Однако, если модель регрессии не имеет свободного члена, например, Y = b*x + e, то возможны отрицательные значения R2. Это также недостаток R2.

Слайд 24

Описание слайда:

Статистические свойства МНК-оценок коэффициентов регрессии. ТЕОРЕМА ГАУССА-МАРКОВА

Слайд 25

Описание слайда:

Почему при оценке параметров модели a и b минимизируется именно Почему при оценке параметров модели a и b минимизируется именно ? Потому что при выполнении некоторых условий оценки a и b, полученные по МНК, оказываются очень хорошими: несмещенными, эффективными, состоятельными.

Слайд 26

Описание слайда:

Каких условий? МНК-оценки a и b являются случайными величинами, свойства которых существенным образом зависят от свойств случайного члена e модели регрессии.

Слайд 27

Описание слайда:

Условия Гаусса-Маркова 1. Математическое ожиданиет значений остатков e равно 0: М(ei) = 0 для всех наблюдений хi 2. Значение дисперсии ошибки является постоянной величиной σei2 = σ2 = const для всех наблюдений Xi (условие гомоскедастичности) 3. Значения e, для разных значений хi независимы между собой (отсутствие автокорреляции в остатках) 4. Значения хi и ei для одного и того же наблюдения независимы между собой σXi, ei = 0 для всех наблюдений 5. Модель является линейной относительно параметров

Слайд 28

Описание слайда:

Условия Гаусса-Маркова Для уравнения множественной регрессии: 6. Факторы xi независимы между собой в том смысле, что их выборочные парные линейные коэффициенты корреляции не превышают некоторого порога p: (условие отсутствия мультиколлинеарности) 7. Остатки являются нормально распределенной случайной величиной, т.е. подчиняются закону нормального распределения.

Слайд 29

Описание слайда:

Слайд 30

Описание слайда:

Слайд 31

Описание слайда:

Если 1-е условие Г-М не выполняется, МНК дает смещенную оценку для b. Если 1-е условие Г-М не выполняется, МНК дает смещенную оценку для b.

Слайд 32

Описание слайда:

2. σei2 = σ2 = const для всех наблюдений Xi Условие гомоскедастичности ошибок. Когда оно не выполняется, говорят о гетероскедастичности ошибок.

Слайд 33

Описание слайда:

Слайд 34

Описание слайда:

Слайд 35

Описание слайда:

Слайд 36

Описание слайда:

3. σei, ej = 0 для всех Xi и Xj, i  j . Условие некоррелированности ошибок для разных наблюдений. Это условие часто нарушается, когда данные являются временными рядами, из-за наличия в динамике экономических показателей различных регулярных колебаний. При невыполнении (3) говорят об автокоррелированности остатков.

Слайд 37

Описание слайда:

Слайд 38

Описание слайда:

Слайд 39

Описание слайда:

4. σXi, ei = 0 для всех наблюдений. Случайный член распределен независимо от объясняющей переменной. Это всегда выполняется, если объясняющие переменные не являются случайными величинами.

Слайд 40

Описание слайда:

Дополнительное условие: 7. Случайный член, i=1, …, n, имеет нормальное распределение, ei ~ N(0, e2)

Слайд 41

Описание слайда:

Это условие не нужно для обеспечения хороших свойств оценок a и b. Это условие не нужно для обеспечения хороших свойств оценок a и b. Но оно позволяет корректно проводить проверку гипотез о коэффициентах регрессии. Реальность предположения о нормальности ei обеспечивается Центральной предельной теоремой.

Слайд 42

Описание слайда:

Теорема Гаусса-Маркова Если предпосылки МНК соблюдаются, то оценки, полученные по МНК, обладают следующими свойствами: Оценки параметров являются несмещенными, т.е. М(bi)= bi и М(а)= а. Это вытекает из того, что М(еi)= 0 и говорит об отсутствии систематической ошибки в определении положения линии регрессии Оценки параметров состоятельны, т.к. дисперсия оценок параметров при возрастании числа n наблюдений стремится к нулю. Т.е. При увеличении объема выборки надежность оценок возрастает. Оценки параметров эффективны, т.е. Они имеют наименьшую дисперсию по сравнению с другими оценками данных параметров.