🗊Презентация Цифровая схемотехника и архитектура компьютера. Иеархия памяти и подсистема ввода-вывода. (Глава 8)

Используйте локальность для того, чтобы сделать доступ к памяти более быстрым Используйте локальность для того, чтобы сделать доступ к памяти более быстрым Временная локальность: Локальность во времени Если данные использовались недавно, то вероятно они скоро понадобятся снова Как это использовать: держать недавно использованные данные на более высоких уровнях иерархии памяти Пространственная локальность: Локальность в пространстве Если данные использовались недавно, то вероятно скоро понадобятся данные поблизости Как это использовать: при доступе к данным переносить также близлежащие данные на более высокие уровни иерархии памяти

Наивысший уровень в иерархии памяти Наивысший уровень в иерархии памяти Быстрая (обычно время доступа 1такт) В идеале предоставляет бόльшую часть данных процессору Обычно содержит последние использованные данные

Какие данные хранятся в кэш-памяти? Какие данные хранятся в кэш-памяти? Как найти данные? Какие данные заместить? Сосредоточьтесь на загрузке данных, а сохранение производите по тем же принципам

В идеале, процессор предугадывает какие данные потребуются и помещает их в кэш В идеале, процессор предугадывает какие данные потребуются и помещает их в кэш Но невозможно предсказать будущее Используйте прошлое, чтобы предсказать будущее – временную и пространственную локальность Временная локальность: копировать часто используемые данные в кэш-память Пространственная локальность: копировать также рядом лежащие данные в кэш-память

Ёмкость (C): Ёмкость (C): количество байт данных, которое может поместиться в кэш-памяти Размер строк (b): количество байт данных, заносимое в кэш-память одновременно Количество строк (B = C/b): количество строк в кэш-памяти: B = C/b Степень ассоциативности (N): количество строк в наборе Количество наборов (S = B/N): каждый адрес памяти отображается только в один набор кэша

Кэш-память состоит из S наборов Кэш-память состоит из S наборов Каждый адрес памяти отображается только в один набор кэша По количеству строк в наборе кэш делиться на: Прямого отображения: 1 строка в наборе Наборно-ассоциативный кэш с N секциями: N строк в наборе Полностью ассоциативный: все строки кэш-памяти в одном наборе

C = 8 слов (ёмкость) C = 8 слов (ёмкость) b = 1 слово (размер строки) Тогда, B = 8 (количество строк) Нелепо небольшой, но иллюстрирует организацию

# MIPS код addi $t0, $0, 5 loop: beq $t0, $0, done lw $t1, 0x4($0) lw $t2, 0xC($0) lw $t3, 0x8($0) addi $t0, $t0, -1 j loop done:

# MIPS код addi $t0, $0, 5 loop: beq $t0, $0, done lw $t1, 0x4($0) lw $t2, 0xC($0) lw $t3, 0x8($0) addi $t0, $t0, -1 j loop done:

# MIPS код addi $t0, $0, 5 loop: beq $t0, $0, done lw $t1, 0x4($0) lw $t2, 0x24($0) addi $t0, $t0, -1 j loop done:

# MIPS код addi $t0, $0, 5 loop: beq $t0, $0, done lw $t1, 0x4($0) lw $t2, 0x24($0) addi $t0, $t0, -1 j loop done:

# MIPS код # MIPS код addi $t0, $0, 5 loop: beq $t0, $0, done lw $t1, 0x4($0) lw $t2, 0x24($0) addi $t0, $t0, -1 j loop done:

# MIPS код # MIPS код addi $t0, $0, 5 loop: beq $t0, $0, done lw $t1, 0x4($0) lw $t2, 0x24($0) addi $t0, $t0, -1 j loop done:

Увеличение размера строки: Увеличение размера строки: Размер строки, b = 4 слова C = 8 слов Прямое отображение (1 строка на набор) Количество строк, B = 2 (C/b = 8/4 = 2)

addi $t0, $0, 5 addi $t0, $0, 5 loop: beq $t0, $0, done lw $t1, 0x4($0) lw $t2, 0xC($0) lw $t3, 0x8($0) addi $t0, $t0, -1 j loop done:

addi $t0, $0, 5 addi $t0, $0, 5 loop: beq $t0, $0, done lw $t1, 0x4($0) lw $t2, 0xC($0) lw $t3, 0x8($0) addi $t0, $t0, -1 j loop done:

Ёмкость: C Ёмкость: C Размер строки: b Количество строк в кэш-памяти: B = C/b Количество строк в наборе: N Количество наборов: S = B/N

Кэш слишком мал, чтобы вместить сразу все данные, представляющие интерес Кэш слишком мал, чтобы вместить сразу все данные, представляющие интерес Если кэш заполнен: программа получает доступ к данным X и вытесняет данные Y Промахи из-за недостаточной ёмкости возникают, когда снова будут необходимы данные Y Как выбрать такие данные Y, чтобы свести к минимуму вероятность необходимости в них снова? Замена редко используемых данных (англ. Least recently used, LRU): вытеснение той строки, которая дольше всего не использовалась

Неизбежные: при первом доступе к данным Неизбежные: при первом доступе к данным Из-за недостаточной ёмкости: кэш слишком мал, чтобы вместить сразу все данные, представляющие интерес Из-за конфликтов: данные отображаются в один и тот же набор кэша Цена промахов: время, необходимое для извлечения строки из более низкого уровня иерархии

Какие данные хранить в кэш-памяти? Какие данные хранить в кэш-памяти? Недавно использованные данные (временная локальность) Рядом лежащие данные (пространственная локальность) Как найти данные? Набор определяется адресом данных Слово внутри строки также определяется адресом В ассоциативном кэше данные могут находиться в одной из нескольких секций Какие данные заместить? Замещать те секции данных в наборе, которые дольше не использовались

Кэши большего размера имеют меньший процент промахов, но более длительное время доступа Кэши большего размера имеют меньший процент промахов, но более длительное время доступа Спроецируйте идею иерархии памяти на несколько уровней кэшей Уровень 1 (L1): маленький и быстрый (например 16 KB, 1 такт) Уровень 2 (L2): больший и медленный (например 256 KB, 2-6 циклов) Большинство современных компьютеров имеют кэши L1, L2 и L3

Даёт иллюзию большего размера памяти Даёт иллюзию большего размера памяти Оперативная память (DRAM) выступает в качестве кэша для жесткого диска

Виртуальные адреса Виртуальные адреса Программы используют виртуальные адреса Всё виртуальное адресное пространство хранится на жёстком диске Подмножество виртуальных адресов данных хранится в DRAM ЦП транслирует виртуальные адреса в физические адреса (DRAMадреса) Данные, не помещающиеся в DRAM, выгружаются на жёсткий диск Зашита памяти Каждая программа имеет своё виртуальное адресное пространство, отображаемое в физическое Две программы могут использовать тот же виртуальный адрес для различных данных Программы не должны знать, как работают другие программы Одна программа (или вирус) не может повредить память, используемую другой программой

Размер страницы: количество памяти, переносимое с жесткого диска в DRAM одновременно Размер страницы: количество памяти, переносимое с жесткого диска в DRAM одновременно Трансляция адреса: определение физического адреса по виртуальному Таблица страниц: таблица поиска, используемая для трансляции виртуальных адресов в физические

Система: Система: Размер виртуальной памяти: 2 ГБ = 231 байт Размер физической памяти: 128 МБ = 227байт Размер страницы: 4 КБ = 212 байт

Система: Система: Размер виртуальной памяти: 2 ГБ = 231 байт Размер физической памяти: 128 МБ = 227 байт Размер страницы: 4 КБ = 212 байт Организация: Виртуальный адрес: 31 бит Физический адрес: 27 бит Смещение относительно начала страницы: 12 бит Номеров виртуальных страниц (англ. virtual page number, VPN) = 231/212 = 219 (VPN = 19 бит) Номеров физических страниц (англ. physical page number, PPN) = 227/212 = 215 (PPN = 15 бит)

19-битный номер виртуальной страницы 19-битный номер виртуальной страницы 15-битный номер физической страницы

Каков физический адрес виртуального адреса 0x247C? Каков физический адрес виртуального адреса 0x247C?

Каков физический адрес виртуального адреса 0x247C? Каков физический адрес виртуального адреса 0x247C? VPN = 0x2 VPN 0x2 отображается в PPN 0x7FFF 12-битное смещение от начала страницы: 0x47C Физический адрес = 0x7FFF47C

Таблица страниц Таблица страниц Содержит запись для каждой виртуальной страницы Запись содержит: Бит достоверности: 1 если страница находится в физической памяти Номер физической страницы: расположение страницы

Таблица страниц большая Таблица страниц большая как правило, находится в физической памяти Загрузка/сохранение требуют два доступа к оперативной памяти: Один для трансляции (чтение из таблицы страниц) Один для доступа к данным (после трансляции) Уменьшает производительность памяти в2раза Если мы не станем умнее…

Небольшой кэш самых последних трансляций Небольшой кэш самых последних трансляций Снижение количества доступов к памяти для большинства загрузок/сохранений с 2 до 1

Доступ к таблице страниц: большая пространственная локальность Доступ к таблице страниц: большая пространственная локальность Большой размер страницы: идущие друг за другом загрузки/сохранения имеют большую вероятность доступа к одной и той же странице TLB Маленький: доступ < 1 такта Обычно содержит 16 – 512 записей Полностью ассоциативный Обычно процент попадания > 99 % Снижение количества доступов к памяти для большинства загрузок/сохранений с 2 до 1

Множество процессов (программ) работают одновременно Множество процессов (программ) работают одновременно Каждый процесс имеет свою собственную таблицу страниц Каждый процесс может использовать всё виртуальное адресное пространство Процесс может получить доступ только к физической странице, отображённой в его таблице страниц

Виртуальная память увеличивает пропускную способность Виртуальная память увеличивает пропускную способность Подмножество виртуальных страниц хранится в физической памяти Таблица страниц отображает виртуальные страницы в физические – трансляция адресов TLB повышает скорость трансляции адресов Наличие различных таблиц страниц для различных программ обеспечивает защиту памяти

Процессор получает доступ к устройствам ввода-вывода так же, как и к памяти (например к клавиатурам, мониторам, принтерам) Процессор получает доступ к устройствам ввода-вывода так же, как и к памяти (например к клавиатурам, мониторам, принтерам) Каждому устройству ввода-вывода присваивается один или более адресов Когда этот адрес обнаруживается, то данные считываются/записываются в устройство ввода-вывода, а не в память Часть адресного пространства отводится устройствам ввода-вывода

Дешифратор адреса: Дешифратор адреса: Смотрит на адрес для того, чтобы определить – какое устройство или память связывается с процессором Регистры ввода-вывода: Содержат значения, записываемые в устройство ввода-вывода Мультиплексор чтения данных: Осуществляет выбор между памятью или устройствами ввода-вывода и устанавливает их в качестве источника данных, передаваемых процессору

Предположим, что устройству ввода‑вывода1 присваивается адрес 0xFFFFFFF4 Предположим, что устройству ввода‑вывода1 присваивается адрес 0xFFFFFFF4 Запишите значение 42 в устройство ввода‑вывода 1 Прочтите значение из устройства ввода‑вывода 1 и поместите его в $t3

Запишите значение 42 в устройство ввода-вывода 1 (0xFFFFFFF4) Запишите значение 42 в устройство ввода-вывода 1 (0xFFFFFFF4) addi $t0, $0, 42 sw $t0, 0xFFF4($0)

Прочтите значение из устройства ввода-вывода 1 и поместите его в $t3 Прочтите значение из устройства ввода-вывода 1 и поместите его в $t3 lw $t3, 0xFFF4($0)

Встроенные подсистемы ввода-вывода Встроенные подсистемы ввода-вывода Тостеры, светодиоды и т. д. Подсистемы ввода-вывода персональных компьютеров

Пример микроконтроллера: PIC32 Пример микроконтроллера: PIC32 микроконтроллер 32-битный MIPS процессор низкоуровневая периферия включает: последовательные порты таймеры аналого-цифровые преобразователи

// C код // C код #include <p3xxxx.h> int main(void) { int switches; TRISD = 0xFF00; // RD[7:0] outputs // RD[11:8] inputs while (1) { // read & mask switches, RD[11:8] switches = (PORTD >> 8) & 0xF; PORTD = switches; // display on LEDs } }

Пример последовательных протоколов Пример последовательных протоколов последовательный периферийный интерфейс (англ. Serial Peripheral Interface, SPI) универсальный асинхронный приемопередатчик (англ. Universal Asynchronous Receiver/Transmitter, UART) а также: I2C, USB, Ethernet и т. д.

// Create specified ms/us of delay using built-in timer // Create specified ms/us of delay using built-in timer #include <P32xxxx.h> void delaymicros(int micros) { if (micros > 1000) { // avoid timer overflow delaymicros(1000); delaymicros(micros-1000); } else if (micros > 6){ TMR1 = 0; // reset timer to 0 T1CONbits.ON = 1; // turn timer on PR1 = (micros-6)*20; // 20 clocks per microsecond // Function has overhead of ~6 us IFS0bits.T1IF = 0; // clear overflow flag while (!IFS0bits.T1IF); // wait until overflow flag set } }  void delaymillis(int millis) {   while (millis--) delaymicros(1000); // repeatedly delay 1 ms } // until done

Необходим для взаимодействия с внешним миром Необходим для взаимодействия с внешним миром Аналоговый ввод: аналого-цифровое преобразование Часто включено в микроконтроллер N битовое: преобразует входной аналоговый сигнал отVref--Vref+ до 0-2N-1 Аналоговый вывод: Цифро-аналоговое преобразование Обычно требует внешний чип (например AD558 или LTC1257) N-битовое: преобразует цифровой сигнал от 0-2N-1 до Vref--Vref+ Широтно-импульсная модуляция