Многомашинные и многопроцессорные ЭВМ
Многопроцессорная обработка способ повышения общей эффективности вычислений позволяющий распределить вычислительный процесс на N-процессоров, осуществляющих вычисления. Задачи подходящие для распараллеливания: задачи с многократно повторяемыми вычислениями при различных значениях некоторых параметров для каждого цикла вычислений. задачи параметры последующих циклов вычислений имеют минимально выраженную зависимость от результатов предыдущих циклов ("итерационность").
Примеры классов задач Криптоанализ. Для вскрытия криптографированного текста необходимо произвести его восстановление с помощью всех возможных ключей шифрования, и выбрать наилучший результат. Информационно поисковые системы - поиск в потоке запросов к больших объёмах данных, при поиске по ключам, или их сложной комбинации. Физика сплошных сред: прочностные расчёты и метод конечных элементов, гидро- и электродинамика сплошных сред. Радио- и гидролокация в пространственно разнесённых системах: проверка комбинаторно порождаемых гипотез и отождествление отметок целей, полученных на разнесённых в пространстве приёмных пунктах. Задачи баллистики. Разнообразные алгоритмы из области обработки изображений. Множественное вычисление целевой функции в процедурах многомерной нелинейной оптимизации. Любые поисковые задачи, особенно комбинаторного свойства, например, на деревьях вариантов. К этому классу принадлежат большинство задач поиска вариантов в пошаговых игровых программах, например, в шахматах.
Признак классификации Многопроцессорная ВС Многомашинная ВС Состав структуры процессорный модуль или центральный процессор(без КЕШ) Вычислительная машина Организация памяти Общая память Распределенная память Способ передачи данных Параллельный (сильная связь) Параллельнопоследовательный (ослабленная связь) Приемник передаваемых данных Кэш-память или оперативная память Инициатор передачи данных Процесс-последователь или процесс-предшественник Операционная система (ОС), Общая Копии ОС и общая надстройка Пространственное размещение элементов структуры На одной плате или в одном блоке В одном блоке, в одной стойке и т. д. (в одном помещении)
Многопроцессорные ВС (МПВС) SMP (Symmetrical Multiprocessor Processing) однородная (симметричная) многопроцессорная обработка, которая достигается за счет циклического изменения приоритетов процессоров. содержит несколько процессоров, работающих с общей ОП (общее поле оперативной памяти) и управляется одной общей операционной системой
Достоинства многопроцессорной ВС более быстрый обмен информацией между процессорами (может быть получена более высокая производительность) более быстрая реакция на ситуации более высокие надежность и живучесть
Сложности при реализации МПВС распараллеливание вычислительного процесса (программ) преодоление конфликтов при попытках нескольких процессоров использовать один и тот же ресурс системы уменьшение влияния конфликтов на производительность системы осуществление быстродействующих экономичных по аппаратурным затратам межмодульных связей
а б в а – МПВС с матричным коммутатором; б – двухступенчатый коммутатор 16 х4; в – МПВС с общей шиной (коммутатор «размазан» по РМ).
Многомашинные ВС (ММВС) Многомашинная ВС (ММС) содержит несколько ЭВМ, каждая из которых имеет свою ОП и работает под управлением своей операционной системы, а также средства обмена информацией между машинами.
Достоинства ММВС Низкая стоимость за счет применения серийно выпускаемого оборудования
Виды МПВС и ММВС Однородные системы содержат однотипные ЭВМ или процессоры. Неоднородные состоят из ЭВМ различного типа, а в неоднородных МПС используются различные специализированные процессоры, например процессоры для операций с плавающей запятой, для обработки десятичных чисел, процессор, реализующий функции операционной системы, процессор для матричных задач и др.
Виды МПВС и ММВС По структуре одноуровневые Иерархические (многоуровневые ) менее мощная машина (машина-сателлит) берет на себя ввод информации с различных терминалов и ее предварительную обработку
Виды МПВС и ММВС ВС, ориентированные в первую очередь на достижение сверхвысокой производительности; ВС, ориентированные в первую очередь на повышение надежности и живучести.
Параллельная обработка данных конвейерность параллельность
Конвейерная обработка выделении отдельных этапов выполнения общей операции, причем так, чтобы каждый этап, выполнив свою работу, передавал бы результат следующему, одновременно принимая новую порцию входных данных. Выигрыш в скорости обработки данных получается за счет совмещения прежде разнесенных во времени операций.
Параллельная обработка предполагает наличие нескольких функционально независимых устройств. Закон Амдала S<= 1/ [f + (1 -f)/p] где S - ускорение, f - доля операций, которые нужно выполнить последовательно, p - число процессоров. Следствие из закона Амдала: для того чтобы ускорить выполнение программы в q раз, необходимо ускорить не менее чем в q раз и не менее чем (1 -1/q)-ую часть программы. Следовательно, если нужно ускорить программу в 100 раз по сравнению с ее последовательным вариантом, то необходимо получить не меньшее ускорение на не менее чем 99, 99 % кода!
История появления параллелизма в архитектуре ЭВМ Все современные процессоры используют тот или иной вид параллельной обработки. Изначально эти идеи внедрялись в самых передовых, а потому единичных компьютерах своего времени: 1953 г. - IBM 701, 1955 г. - IBM 704: разрядно параллельная память и арифметика, АЛУ с плавающей точкой. 1958 г. - IBM 709: независимые процессоры ввода/вывода (т. е. контроллеры ВУ). 1961 г. - IBM STRETCH: опережающий просмотр вперед, расслоение памяти на 2 банка. 1963 г. - ATLAS: реализована конвейерная обработка данных конвейер команд. 1964 г. - CDC 6600: независимые функциональные устройства. 1969 г. - CDC 7600: конвейерные независимые функциональные устройства (8 конвейеров). 1974 г. - ALLIAC: матричные процессоры (УУ + матрица из 64 процессоров). 1976 г. - CRAY 1: векторно-конвейерные процессоры. Введение векторных команд, работающих с целыми массивами независимых данных.
Классы параллельных систем Векторно-конвейерные компьютеры (PVP) Массивно-параллельные компьютеры с распределенной памятью. Параллельные компьютеры с общей памятью (SMP) Кластерная архитектура
Векторно-конвейерные компьютеры (PVP). Имеют MIMD-архитектуру (множество инструкций над множеством данных). Основные особенности: конвейерные функциональные устройства; набор векторных инструкций в системе команд; зацепление команд (используется как средство ускорения вычислений).
Массивно-параллельные компьютеры с распределенной памятью. Объединяется несколько серийных микропроцессоров, каждый со своей локальной памятью, посредством некоторой коммуникационной среды. Достоинства: если нужна высокая производительность, то можно добавить еще процессоров; если ограничены финансы или заранее известна требуемая вычислительная мощность, то легко подобрать оптимальную конфигурацию и т. д. Каждый процессор имеет доступ лишь к своей локальной памяти, а если программе нужно узнать значение переменной, расположенной в памяти другого процессора, то задействуется механизм передачи сообщений. Этот подход позволяет создавать компьютеры, включающие в себя тысячи процессоров. Недостатки: требуется быстродействующее коммуникационное оборудование, обеспечивающее среду передачи сообщений; при создании программ необходимо учитывать топологию системы и специальным образом распределять данные между процессорами, чтобы минимизировать число пересылок и объем пересылаемых данных.
Структура супер-ЭВМ Cray T 3 D
Факторы, снижающие производительность параллельных компьютеров: Закон Амдала. Время инициализации посылки сообщения (латентность) и время передачи сообщения по сети. Максимальная скорость передачи достигается на больших сообщениях, когда латентность, возникающая лишь вначале, не столь заметна на фоне непосредственно передачи данных.
Факторы, снижающие производительность параллельных компьютеров: Возможность асинхронной посылки сообщений и вычислений. Если или аппаратура, или программное обеспечение не поддерживают возможности проводить вычисления на фоне пересылок, то возникнут неизбежные накладные расходы, связанные с ожиданием полного завершения взаимодействия параллельных процессов. Неравномерная загрузка всех процессорных элементов. Если равномерности нет, то часть процессоров будут простаивать, ожидая остальных, хотя в этот момент они могли бы выполнять полезную работу.
Факторы, снижающие производительность параллельных компьютеров: Время ожидания прихода сообщения. Для его минимизации необходимо, чтобы один процесс отправил требуемые данные как можно раньше, отложив независящую от них работу на потом, а другой процесс выполнил максимум работы, не требующей ожидаемой передачи, прежде чем выходить на точку приема сообщения. Реальная производительность одного процессора.
Параллельные компьютеры с общей памятью (SMP) Вся оперативная память разделяется между несколькими одинаковыми процессорами. Это снимает проблемы предыдущего класса, но добавляет новые - число процессоров, имеющих доступ к общей памяти, нельзя сделать большим. Достоинства В ситуации, когда все процессоры имеют одинаково быстрый доступ к общей памяти, вопрос о том, какой процессор какие вычисления будет выполнять, не столь принципиален, и значительная часть вычислительных алгоритмов, разработанных для последовательных компьютеров, может быть ускорена с помощью распараллеливающих и векторизирующих трансляторов. SMP-компьютеры - это наиболее распространенные сейчас параллельные вычислители. Однако общее число процессоров в SMP-системах, как правило, не превышает 16, а их дальнейшее увеличение не дает выигрыша из-за конфликтов при обращении к памяти.
Кластерная архитектура представляет собой комбинации предыдущих трех. Из нескольких процессоров (традиционных или векторно-конвейерных) и общей для них памяти формируется вычислительный узел. Если полученной вычислительной мощности не достаточно, то объединяется несколько узлов высокоскоростными каналами. Часто создаются из общедоступных компьютеров на базе Intel и недорогих Ethernet-сетей под управлением операционной системы Linux.
Скачать презентацию Многомашинные и многопроцессорные ЭВМ Многопроцессорная обработка способ
Лекция_14_многомашиные.pptx