🗊Презентация Backpropagation

Категория: Математика
Нажмите для полного просмотра!
Backpropagation, слайд №1Backpropagation, слайд №2Backpropagation, слайд №3Backpropagation, слайд №4Backpropagation, слайд №5Backpropagation, слайд №6Backpropagation, слайд №7Backpropagation, слайд №8Backpropagation, слайд №9Backpropagation, слайд №10Backpropagation, слайд №11Backpropagation, слайд №12Backpropagation, слайд №13Backpropagation, слайд №14Backpropagation, слайд №15Backpropagation, слайд №16

Вы можете ознакомиться и скачать презентацию на тему Backpropagation. Доклад-сообщение содержит 16 слайдов. Презентации для любого класса можно скачать бесплатно. Если материал и наш сайт презентаций Mypresentation Вам понравились – поделитесь им с друзьями с помощью социальных кнопок и добавьте в закладки в своем браузере.

Слайды и текст этой презентации


Слайд 1





Backpropagation
Семинар 3
Описание слайда:
Backpropagation Семинар 3

Слайд 2





Общая схема обучения
Описание слайда:
Общая схема обучения

Слайд 3





Computational graph
Описание слайда:
Computational graph

Слайд 4





Example 1. Sigmoid
Описание слайда:
Example 1. Sigmoid

Слайд 5





Example 1. Sigmoid
Описание слайда:
Example 1. Sigmoid

Слайд 6





Staged computation
Описание слайда:
Staged computation

Слайд 7





Gradient checking
Проверка корректности производной:
Если  – вектор:
Описание слайда:
Gradient checking Проверка корректности производной: Если – вектор:

Слайд 8





Patterns
Описание слайда:
Patterns

Слайд 9





Patterns
Описание слайда:
Patterns

Слайд 10





Example 2. Матрицы
Описание слайда:
Example 2. Матрицы

Слайд 11





Example 2. Матрицы
Если Z = XY,  то зная dZ имеем:
далее dx = df / dx
dY = XTdZ
dX = dZYT
Dimension analysis
X и dX должны иметь одинаковую размерность
Неплохое объяснение
http://cs231n.stanford.edu/vecDerivs.pdf
Описание слайда:
Example 2. Матрицы Если Z = XY,  то зная dZ имеем: далее dx = df / dx dY = XTdZ dX = dZYT Dimension analysis X и dX должны иметь одинаковую размерность Неплохое объяснение http://cs231n.stanford.edu/vecDerivs.pdf

Слайд 12





Example 3. Simple NN
Описание слайда:
Example 3. Simple NN

Слайд 13





Example 4. Softmax
Описание слайда:
Example 4. Softmax

Слайд 14





Example 4. Softmax
Описание слайда:
Example 4. Softmax

Слайд 15






На практике backprop для softmax и cross-entropy loss обычно считают вместе
В таком случае получается очень простая формула для градиента
Описание слайда:
На практике backprop для softmax и cross-entropy loss обычно считают вместе В таком случае получается очень простая формула для градиента

Слайд 16





Что посмотреть?
Course notes стэнфордского курса по данной теме:
http://cs231n.github.io/optimization-2/
http://cs231n.github.io/neural-networks-3/
Классная видео-визуализация с объяснениями:
https://www.youtube.com/watch?v=Ilg3gGewQ5U
Еще одна неплохая визуализация:
https://google-developers.appspot.com/machine-learning/crash-course/backprop-scroll/
Описание слайда:
Что посмотреть? Course notes стэнфордского курса по данной теме: http://cs231n.github.io/optimization-2/ http://cs231n.github.io/neural-networks-3/ Классная видео-визуализация с объяснениями: https://www.youtube.com/watch?v=Ilg3gGewQ5U Еще одна неплохая визуализация: https://google-developers.appspot.com/machine-learning/crash-course/backprop-scroll/



Теги Backpropagation
Похожие презентации
Mypresentation.ru
Загрузить презентацию