Учебное пособие Казань 018 удк

Статическое
распараллеливание.
Распараллеливание, осуществляемое 
до начала выполнения алгоритма (программы). 
Динамическое
распараллеливание.
Распараллеливание, 
осуществляемое во время выполнения алгоритма (программы). 
Масштабируемость. 
Масштабируемость 
данного 
параллельного
 
алгоритма при реализации на данной параллельной системе означает, что 
производительность системы пропорциональна числу содержащихся в ней 
процессоров (ядер). Различают понятия слабой и сильной масштабируемости. 
Слабая (отнюдь не в смысле «плохая») масштабируемость (weak scaling) 
означает линейный рост размера задачи с ростом числа процессоров при 
фиксированном времени выполнения алгоритма. Сильная масштабируемость 
(strong scaling) означает линейный рост ускорения с ростом числа процессоров 
при фиксированном размере задачи. 
2. АРХИТЕКТУРА ПАРАЛЛЕЛЬНЫХ ВЫЧИСЛИТЕЛЬНЫХ 
СИСТЕМ 
2.1. Введение 
Рассмотрим сначала процесс подготовки параллельного решения задачи 
на многопроцессорной системе как отдельный этап подготовки описания 
параллельного алгоритма не некотором языке блок-схем и/или графов. 

---

12 
Написание параллельной программы рассматривается как завершающий этап, 
обеспечивающий эффективную реализацию задуманного алгоритма, возможно, 
с учетом его конкретных особенностей. 
Другими словами, при описании параллельных алгоритмов не 
обязательно знать конкретный язык программирования, на котором будет 
реализована 
программа. 
Однако 
надо 
хорошо 
знать 
особенности 
вычислительной системы, на которой будет реализован алгоритм (типы 
используемых вычислительных узлов, производительность и др.). Если у 
разработчика есть выбор, можно поставить задачу построения наиболее 
эффективного параллельного алгоритма, подобрав типы вычислителей, 
наиболее полно реализующие его особенности. Для этого необходимо ясно 
представлять потенциальные возможности различных архитектур. 
Таким образом, изучение возможных типов архитектур, характеристик и 
способов организации вычислительной системы, на которой предполагается 
реализация разрабатываемого параллельного алгоритма, является необходимым 
этапом. Рассмотрим наиболее популярные архитектуры в том минимальном 
объеме, который может потребоваться при разработке параллельного 
алгоритма.