Парная линейная регрессия и метод наименьших квадратов

Нажмите для полного просмотра!

Парная линейная регрессия и метод наименьших квадратов, слайд №2

Парная линейная регрессия и метод наименьших квадратов, слайд №3

Парная линейная регрессия и метод наименьших квадратов, слайд №4

Парная линейная регрессия и метод наименьших квадратов, слайд №5

Парная линейная регрессия и метод наименьших квадратов, слайд №6

Парная линейная регрессия и метод наименьших квадратов, слайд №7

Парная линейная регрессия и метод наименьших квадратов, слайд №8

Парная линейная регрессия и метод наименьших квадратов, слайд №9

Парная линейная регрессия и метод наименьших квадратов, слайд №10

Парная линейная регрессия и метод наименьших квадратов, слайд №11

Парная линейная регрессия и метод наименьших квадратов, слайд №12

Парная линейная регрессия и метод наименьших квадратов, слайд №13

Парная линейная регрессия и метод наименьших квадратов, слайд №14

Парная линейная регрессия и метод наименьших квадратов, слайд №15

Парная линейная регрессия и метод наименьших квадратов, слайд №16

Парная линейная регрессия и метод наименьших квадратов, слайд №17

Парная линейная регрессия и метод наименьших квадратов, слайд №18

Парная линейная регрессия и метод наименьших квадратов, слайд №19

Парная линейная регрессия и метод наименьших квадратов, слайд №20

Парная линейная регрессия и метод наименьших квадратов, слайд №21

Парная линейная регрессия и метод наименьших квадратов, слайд №22

Парная линейная регрессия и метод наименьших квадратов, слайд №23

Парная линейная регрессия и метод наименьших квадратов, слайд №24

Парная линейная регрессия и метод наименьших квадратов, слайд №25

Парная линейная регрессия и метод наименьших квадратов, слайд №26

Парная линейная регрессия и метод наименьших квадратов, слайд №27

Парная линейная регрессия и метод наименьших квадратов, слайд №28

Парная линейная регрессия и метод наименьших квадратов, слайд №29

Парная линейная регрессия и метод наименьших квадратов, слайд №30

Парная линейная регрессия и метод наименьших квадратов, слайд №31

Парная линейная регрессия и метод наименьших квадратов, слайд №32

Парная линейная регрессия и метод наименьших квадратов, слайд №33

Парная линейная регрессия и метод наименьших квадратов, слайд №34

Парная линейная регрессия и метод наименьших квадратов, слайд №35

Парная линейная регрессия и метод наименьших квадратов, слайд №36

Парная линейная регрессия и метод наименьших квадратов, слайд №37

Парная линейная регрессия и метод наименьших квадратов, слайд №38

Парная линейная регрессия и метод наименьших квадратов, слайд №39

Содержание ▲

Вы можете ознакомиться и скачать презентацию на тему Парная линейная регрессия и метод наименьших квадратов. Доклад-сообщение содержит 39 слайдов. Презентации для любого класса можно скачать бесплатно. Если материал и наш сайт презентаций Mypresentation Вам понравились – поделитесь им с друзьями с помощью социальных кнопок и добавьте в закладки в своем браузере.

Слайды и текст этой презентации

Слайд 1

Описание слайда:

Парная линейная регрессия и метод наименьших квадратов Лекция

Слайд 2

Описание слайда:

Цели лекции Раскрыть понятие регрессии. Познакомиться с методом наименьших квадратов – методом построения линейного уравнения регрессии.

Слайд 3

Описание слайда:

Виды зависимостей между переменными 1. Функциональные: Y = f(X). Имеют место при исследовании связей между неслучайными переменными. Такие связи в эконометрике не рассматриваются. 2. Статистические: изменение одной из величин влечет изменение закона распределения другой (доход – потребление, цена – спрос и т.д.).

Слайд 4

Описание слайда:

Виды статистических зависимостей а) Корреляционные: при изменении одной из величин изменяется среднее значение другой (связь между переменными не носит направленного характера) M[Y/X = x] = Mx[Y] = (x), M[X/Y = y] = My[X] = (y), где M[Y/X = x]  м. о. случайной величины Y, вычисленное при условии, что случайная величина X приняла значение x, (x)  const, (y)  const. б) Регрессионные: односторонняя зависимость среднего значения случайной величины Y от одной X или нескольких X1,,Xm случайных величин.

Слайд 5

Описание слайда:

Пример: Регрессионная зависимость y 2

Слайд 6

Описание слайда:

Что такое регрессионный анализ? Регрессионный анализ – наиболее часто используемый инструмент в эконометрике. Регрессионный анализ представляет собой анализ форм связи, устанавливающих количественные соотношения между случайными величинами изучаемого случайного процесса.

Слайд 7

Описание слайда:

Определение регрессии Регрессия – функциональная зависимость между объясняющими переменными и условным математическим ожиданием (средним значением) зависимой переменной, которая строится с целью прогнозирования этого среднего значения при фиксированных значениях объясняющих переменных.

Слайд 8

Описание слайда:

Регрессионные модели Mx[Y] = (X)  парная регрессия, Mx[Y] = (X1,,Xm)  множественная регрессия, где (X)  const, X  объясняющая, входная, предсказывающая, экзогенная, неслучайная переменная, фактор, регрессор, факторный признак; Y  зависимая, объясняемая, выходная, результирующая, эндогенная, случайная переменная, результирующий признак.

Слайд 9

Описание слайда:

Пример: Парная регрессия Мы хотим определить зависимость между продажами и затратами на рекламу. y – продажи. x – рекламные расходы.

Слайд 10

Описание слайда:

Пример: Множественная регрессия Мы хотим определить связь между потреблением, доходом семьи, финансовыми активами семьи и размером семьи. y – потребительские расходы. x1 – доход семьи. x2 – финансовые активы семьи. x3 – размер семьи.

Слайд 11

Описание слайда:

Регрессионные уравнения Y = M[Y/x] +  = (x) +   уравнение парной регрессии, Y = M[Y/x1 ,, xm] +  = (x1 ,, xm) +   уравнение множественной регрессии, где   случайный фактор (остаток), обусловленный многими причинами. В зависимости от вида функции (x) модели делятся на линейные и нелинейные.

Слайд 12

Описание слайда:

Причины обязательного присутствия случайного фактора Невключение в модель всех объясняющих переменных. Неправильный выбор функциональной формы модели. Агрегирование переменных (факторы представляют собой комбинацию других переменных). Ошибки измерений. Ограниченность статистических данных. Непредсказуемость человеческого фактора.

Слайд 13

Описание слайда:

Этапы построения качественного уравнения регрессии 1. Определение конечных целей эконометрического моделирования, набора участвующих в модели факторов и их роли (постановочный этап). 2. Предмодельный анализ экономической сущности изучаемого явления (априорный этап). 3. Сбор необходимой статистической информации (информационный этап).

Слайд 14

Описание слайда:

Этапы построения качественного уравнения регрессии 4. Выбор формулы уравнения регрессии (спецификация уравнения регрессии). 5. Определение параметров выбранного уравнения (параметризация). 6. Анализ качества уравнения и проверка его адекватности эмпирическим данным, совершенствование уравнения (верификация).

Слайд 15

Описание слайда:

Выбор формы парной регрессии В случае парной регрессии выбор формулы обычно осуществляется по графическому изображению реальных статистических данных в виде точек (корреляционное поле или диаграмма рассеивания).

Слайд 16

Описание слайда:

Примеры взаимосвязи между переменными а) Взаимосвязь между Y и X близка к линейной: Y = a + bX б) Взаимосвязь близка к квадратической: Y = a + bX + cX2 в) Взаимосвязь между Y и X отсутствует. Какую бы мы ни выбрали форму связи, результаты проверки ее качества будут неудачными

Слайд 17

Описание слайда:

Парная линейная регрессия Модель линейной регрессии является наиболее распространенной (и простой) зависимостью между переменными, а также может служить начальной точкой эконометрического анализа.

Слайд 18

Описание слайда:

Модель Кейнса Рассмотрим модель Кейнса зависимости частного потребления С от располагаемого дохода I: С = С0+bI, где С0  величина автономного потребления, b  предельная склонность к потреблению (0 < b  1)

Слайд 19

Описание слайда:

Модель парной линейной регрессии Теоретическая парная линейная регрессионная модель: где 0, 1  теоретические коэффициенты регрессии, i  случайное отклонение. В общем виде теоретическую парную линейную регрессионную модель будем представлять в виде:

Слайд 20

Описание слайда:

Задачи линейного регрессионного анализа Задачи линейного регрессионного анализа состоят в том, чтобы по имеющимся статистическим данным (xi, yi), i = 1, 2, , n, для переменных X и Y: а) получить наилучшие оценки параметров 0 и 1; б) проверить статистические гипотезы о параметрах модели; в) проверить, адекватность модели данным наблюдений.

Слайд 21

Описание слайда:

Эмпирическое уравнение регрессии По выборке ограниченного объема нельзя точно определить теоретические значения 0 и 1.. Можно лишь построить эмпирическое уравнение регрессии: где b0 и b1 – оценки параметров 0 и 1 эмпирические коэффициенты регрессии). – оценка условного м. о. M[Y/X = xi].

Слайд 22

Описание слайда:

Эмпирическое уравнение регрессии В результате имеем: где ei – оценка теоретического случайного отклонения i . Оценки b0 и b1 отличаются от истинных значений 0 и 1, что приводит к несовпадению эмпирической и теоретической линий регрессии. По различным выборкам из одной и той же генеральной совокупности получают разные значения оценок коэффициентов регрессии.

Слайд 23

Описание слайда:

Эмпирическое и теоретическое уравнения регрессии Соотношение между теоретическим и эмпирическим уравнениями регрессии схематично имеет вид:

Слайд 24

Описание слайда:

Задача определения коэффициентов регрессии Задача состоит в нахождении по выборке данных оценок b0 и b1 так, чтобы построенная линия регрессии была наилучшей в определенном смысле среди всех других прямых. Решение основано на минимизации: где g – некоторая функция.

Слайд 25

Описание слайда:

Метод наименьших квадратов Наиболее распространена методом наименьших квадратов (МНК), реализующий минимизацию суммы квадратов отклонений: Основные особенности МНК: Он наиболее простой с вычислительной точки зрения. Оценки коэффициентов регрессии по МНК при определенных предпосылках обладают рядом оптимальных свойств.

Слайд 26

Описание слайда:

Метод наименьших квадратов Пусть по выборке данных (xi, yi), i = 1, 2, , n, требуется определить оценки b0 и b1 эмпирического уравнения регрессии:

Слайд 27

Описание слайда:

Метод наименьших квадратов В этом случае минимизируется функция: Т.к. функция Q(b0,b1) непрерывна, выпукла и ограничена снизу, то она имеет минимум.

Слайд 28

Описание слайда:

Метод наименьших квадратов Приравняем нулю частные производные и затем разделим на n оба уравнения:

Слайд 29

Описание слайда:

Оценки метода наименьших квадратов Решив последнюю систему уравнений, получим:

Слайд 30

Описание слайда:

Матричная форма записи

Слайд 31

Описание слайда:

Выводы 1. Оценки МНК являются функциями от выборки, что позволяет их легко рассчитать. 2. Оценки МНК являются точечными оценками теоретических коэффициентов регрессии. 3. Эмпирическая прямая регрессии обязательно проходит через точку

Слайд 32

Описание слайда:

Выводы 4. Эмпирическое уравнение регрессии построено так, что 5. Случайные отклонения ei не коррелированы с наблюдаемыми значениями yi зависимой переменной Y. 6. Случайные отклонения ei не коррелированы с наблюдаемыми значениями xi независимой переменной X.

Слайд 33

Описание слайда:

Другие методы определения коэффициентов регрессии Другие методы определения коэффициентов регрессии: метод наименьших модулей (МНМ), метод моментов (ММ), метод максимального правдоподобия (ММП).

Слайд 34

Описание слайда:

Пример (A) построения уравнения регрессии При анализе зависимости объема потребления Y (у.е.) домохозяйства от располагаемого дохода X (у.е.) отобрана выборка объема n = 12 (помесячно в течение года), результаты которой приведены в таблице:

Слайд 35

Описание слайда:

Пример (A) построения уравнения регрессии Для определения вида зависимости построим корреляционное поле:

Слайд 36

Описание слайда:

Пример (A) построения уравнения регрессии По расположению точек на корреляционном поле делаем предположение о линейной зависимости: Согласно МНК, имеем:

Слайд 37

Описание слайда:

Пример (A) построения уравнения регрессии Т.о., уравнение парной линейной регрессии имеет вид: Изобразим данную прямую регрессии на корреляционном поле. По этому уравнению рассчитаем , а также Для анализа степени линейной зависимости вычислим: Отсюда можно сделать вывод о сильной прямой линейной зависимости между переменными.