🗊Презентация Организация ЭВМ и систем. Параллельные системы. Многомашинные и многопроцессорные вычислительные системы. (Лекция 9)

Организация ЭВМ и систем Лекция № 9 Параллельные системы Понятие о многомашинных и многопроцессорных вычислительных системах Основные классы параллельных систем, их характерные особенности

История появления параллелизма в архитектуре ЭВМ 1953г. – IBM 701 1955г. – IBM 704 1958г. – IBM 709 (независимые контроллеры I/O) 1961г. – IBM STRETCH (опережающий просмотр, расслоение памяти на 2 банка) 1963г. – ATLAS (реализована конвейерная обработка данных) 1964г. – CDC 6600 (независимые устройства – несколько конвейеров) 1969г. – CDC 7600 (8 конвейерных функциональных устройств) 1974г. – ALLIAC (УУ + матрица из 64 процессоров) 1976г. – CRAY1 (векторно– конвейерные процессоры)

Классы параллельных систем Векторно-конвейерные компьютеры (PVP). Имеют MIMD архитектуру (множество инструкций над множеством данных). Характерным представителем данного направления является семейство векторно-конвейерных компьютеров CRAY. Основные особенности: Конвейерные функциональные устройства. Набор векторных инструкций в системе команд. Зацепление команд (используется как средство ускорения вычисления).

CRAY Y-MP C90 16 МП, tтакта = 4,1нс, fт.ч.=250МГц. Разделяемые ресурсы процессора: ОП разделяется всеми МП и секцией ввода/вывода. ОП разделена на множество банков, которые могут работать одновременно. Секция ввода/вывода: Low-Speed Channels – 6Мбайт/с High-Speed Channels – 200Мбайт/с Very High-Speed Channels – 1800Мбайт/с Секция межпроцессорного взаимодействия содержит регистры и семафоры, предназначенные для передачи данных и управляющей информации. Вычислительная секция процессора Регистры (адресные, скалярные, векторные). Функциональные устройства. Сети коммуникаций. Секция управления. Команды выбираются из ОП блоками и заносятся в буфера команд. Параллельное выполнение программ.

Факторы снижающие производительность параллельных компьютеров Закон Амдала. Время инициализации и передачи сообщения по сети. Неравномерная загрузка всех процессорных элементов. Реальная производительность одного процессора.

2. Массивно-параллельные компьютеры с распределенной памятью. К данному классу можно отнести компьютеры Intel Paragon, IBM SP1, Parsytec, IBM SP2 и CRAY T3D. 2. Массивно-параллельные компьютеры с распределенной памятью. К данному классу можно отнести компьютеры Intel Paragon, IBM SP1, Parsytec, IBM SP2 и CRAY T3D. Особенности: Объединяются несколько серийных микропроцессоров, их число должно быть >= 128, каждый со своей локальной памятью.

CRAY T3D Cray T3D и T3E используют единое адресное пространство (общая виртуальная память). По аппаратному прерыванию особого случая адресации ОС выполняет пересылку страницы с одного узла на другой. У каждого МП своя локальная память, но единое виртуальное адресное пространство.

3. Параллельные компьютеры с общей памятью. В данное направление входят многие современные многопроцессорные SMP-компьютеры или, например, отдельные узлы компьютеров HP Exemplar и Sun StarFire. 3. Параллельные компьютеры с общей памятью. В данное направление входят многие современные многопроцессорные SMP-компьютеры или, например, отдельные узлы компьютеров HP Exemplar и Sun StarFire. Особенности: Вся оперативная память разделяется между несколькими одинаковыми процессорами. Число процессоров, имеющих доступ к общей памяти нельзя сделать большим.

4. Кластерная архитектура. По такому принципу построены CRAY SV1, HP Exemplar, Sun StarFire, NEC SX-5, последние модели IBM SP2 и другие. 4. Кластерная архитектура. По такому принципу построены CRAY SV1, HP Exemplar, Sun StarFire, NEC SX-5, последние модели IBM SP2 и другие. Особенности: Представляет собой комбинации предыдущих трех. Из нескольких процессоров (традиционных или векторно-конвейерных) и общей для них памяти формируется вычислительный узел. Если полученной вычислительной мощности не достаточно, то объединяется несколько узлов высокоскоростными каналами.

Технологии параллельного программирования Средства программирования: параллельные расширения и диалекты языков – Fortran, C/C++, ADA и др. MPI – интерфейс передачи сообщений. Особенности: Поддерживает несколько режимов передачи данных. Предусматривает гетерогенные вычисления. Передача типизированных сообщений. Построение библиотек – MPICH, LAM MPI. Наличие вариантов для языков программирования C/C++, Fortran. Поддерживает коллективные операции: широковещательную передачу, разборку/сборку, операции редукции. Совместимость с многопоточностью.

Оценки производительности суперЭВМ Большинство оценочных характеристик производительности суперЭВМ связано с вычислениями над вещественными числами. К ним относится пиковая производительность (ПП), измеряемая в млн. операций с плавающей точкой, которые компьютер теоретически может выполнить за 1 сек (MFLOPS). ПП - величина, практически не достижимая. Это связано с проблемами заполнения функциональных конвейерных устройств. Чем больше конвейер, тем больше надо "инициализационного" времени для того, чтобы его заполнить. Такие конвейеры эффективны при работе с длинными векторами. Поэтому для оценки векторных суперЭВМ было введено такое понятие, как длина полупроизводительности - длина вектора, при которой достигается половина пиковой производительности.

Вопросы для самоконтроля Когда впервые реализована конвейерная обработка данных? Перечислите способы параллельной обработки данных. Сформулируйте следствие из закона Амдала. Назовите классы параллельных систем. Основные особенности векторно-конвейерных компьютеров. К какому классу параллельных систем относятся компьютеры Intel Paragon и CRAY T3D?

Вопросы для самоконтроля В каких классах параллельных систем оперативная память разделяется между несколькими процессорами? Перечислите особенности MPI – интерфейса. Что представляет собой тест оценки производительности суперЭВМ Linpack? Какие тесты оценки производительности суперЭВМ Вы знаете?