Линейная дискриминантная функция Фишера - презентация, доклад, проект скачать

Нажмите для полного просмотра!

Линейная дискриминантная функция Фишера, слайд №1

Линейная дискриминантная функция Фишера, слайд №2

Линейная дискриминантная функция Фишера, слайд №3

Линейная дискриминантная функция Фишера, слайд №4

Линейная дискриминантная функция Фишера, слайд №5

Линейная дискриминантная функция Фишера, слайд №6

Линейная дискриминантная функция Фишера, слайд №7

Линейная дискриминантная функция Фишера, слайд №8

Линейная дискриминантная функция Фишера, слайд №9

Линейная дискриминантная функция Фишера, слайд №10

Линейная дискриминантная функция Фишера, слайд №11

Линейная дискриминантная функция Фишера, слайд №12

Содержание ▲

Вы можете ознакомиться и скачать презентацию на тему Линейная дискриминантная функция Фишера. Доклад-сообщение содержит 12 слайдов. Презентации для любого класса можно скачать бесплатно. Если материал и наш сайт презентаций Mypresentation Вам понравились – поделитесь им с друзьями с помощью социальных кнопок и добавьте в закладки в своем браузере.

Слайды и текст этой презентации

Слайд 1

Описание слайда:

Линейная дискриминантная функция Фишера Данный подход не требует предположений о нормальном распределении данных. Пусть имеется обучающая выборка: x1, x2, ... xN , где: N1 элементов из множества X1 N2 элементов из множества X2 Общее число элементов N = N1 + N2 Задача состоит в построении разделяющей функции для двух классов: X1 = {xi} i=1..N1 X2 = { } j=1..N2

Слайд 2

Описание слайда:

Задача Фишера состоит в построении вырожденного линейного преобразования: Задача Фишера состоит в построении вырожденного линейного преобразования: y = WT , ║W║ = 1 y = ║W║║x ║cos( ) фактически это выражение дает нам проекции векторов X на вектор W У Фишера такое преобразование рассматривается как проекция на ось W: { }  {y} = Y

Слайд 3

Описание слайда:

Нужно найти такой вектор W, чтобы множества Y1 и Y2 были наиболее разнесены (то есть, удалены друг от друга). Нужно найти такой вектор W, чтобы множества Y1 и Y2 были наиболее разнесены (то есть, удалены друг от друга). Критерий разнесения может быть выбран разным. Исходить будем из следующих параметров: для каждой выборки определим среднее значение: mi = xi = yi = WTxi = WT{ x} = WT mi Далее мы строим | - |: | - | = WT( ) - это скалярная величина

Слайд 4

Описание слайда:

Далее проблема состоит в оценке функции разброса: Далее проблема состоит в оценке функции разброса: = (y - )2 - разброс внутри класса = + - суммарный разброс Разброс внутри класса – это нечто вроде дисперсии, только ненормированной. - средняя дисперсия выборки в Y.

Слайд 5

Описание слайда:

Далее идет дело техники: как это вычислить и как оптимизировать. Далее идет дело техники: как это вычислить и как оптимизировать. Мы определяем матрицу разброса внутри класса: = (WTx - WT mi)2 = WT (x - mi) WT(x - mi) = = WT (x - mi)(x - mi)T W = WT [ (x - mi)(x - mi)T]W = =WT Si W Si – матрица разброса внутри Xi.

Слайд 6

Описание слайда:

Таким образом получаем следующий результат: Таким образом получаем следующий результат: = WT Si W S1 + S2 = SW - суммарная матрица разброса для всех результатов. + = WT SW W Таким же образом можно представить ( - )2: ( - )2 = (WT - WT )2 = WT( )WT( ) = = WT( )( )T W = WT SB W Матрица SB - матрица разброса между классами

Слайд 7

Описание слайда:

Тогда мы получаем искомый критерий в следующем виде: Тогда мы получаем искомый критерий в следующем виде: J( ) = Далее стоит задача оптимизации данного отношения (мы должны его максимизировать). Рассмотрим свойства матрицы SB: SB = ( )( )T 1. это квадратная матрица размерности n  n 2. произведение этой матрицы на произвольный вектор SB = ( )( )T = С( ) C - скаляр дает вектор, который по направлению совпадает с разностью ( )

Слайд 8

Описание слайда:

3. ранг матрицы SB равен единице, это легко показать, если представить ее в виде ddT: 3. ранг матрицы SB равен единице, это легко показать, если представить ее в виде ddT: d1d1 d1d2 ... d1dn d2d1 d2d2 ... d2dn . = ( ) . . dnd1 dnd2 ... dndn - матрица вырожденная и ранг ее равен единице.

Слайд 9

Описание слайда:

Условная оптимизация по Лагранжу Условная оптимизация по Лагранжу Запишем функцию Лагранжа: F = WT SB W -  WT SW W, где  -произвольная константа Эта функция зависит от W Мы должны найти производную этой функции по вектору : = 2 SB - 2  SW = 0 = 2A - такое правило существует, его легко доказать Получаем следующее: SB W -  SW W

Слайд 10

Описание слайда:

C( ) =  SW , отсюда окончательно имеем: C( ) =  SW , отсюда окончательно имеем: = SW-1 ( ) . Так как вектор произвольной длины, положим =1, тогда имеем : = SW-1 ( ). Соответственно линейный дискриминант Фишера получается в следующем виде: y = T = XTW = SW-1( ) - это проекция вектора на ось W

Слайд 11

Описание слайда:

Слайд 12

Описание слайда:

Матрица SW = S1 + S2  N  пропорциональна суммарной матрице ковариации и соответственно для случая нормального распределения исходных данных дискриминант Фишера дает результат такой же, как и байесовская линейная дискриминантная функция: Матрица SW = S1 + S2  N  пропорциональна суммарной матрице ковариации и соответственно для случая нормального распределения исходных данных дискриминант Фишера дает результат такой же, как и байесовская линейная дискриминантная функция: XT -1(M1 – M2) + C1 ...  C2