Учебное пособие москва мади 2020 ббк 32. 81 В 683 Волосова, А. В. В683

1.1. Параллелизм на уровне задач (многопоточность): 
Данный вид параллелизма относится к парадигме параллельного 
программирования и предполагает разбиение задачи на подзадачи. 
Подзадачи реализуются одновременно. Многопоточность предполагает: 
1.
Обнаружение в программе вычислений, реализацию которых можно 
осуществлять параллельно. 
2.
Последующее распределение данных по модулям локальной памяти 
процессоров. 
3.
Последующее 
согласование 
параллелизма 
вычислений 
и 
распределения данных. 
Параллелизм на уровне данных эффективен на однородных задачах – 
задачах, не допускающих возможности разбиения на подзадачи. 
 
1.2. Параллелизм на уровне данных 
Данный вид параллелизма реализуется компилятором и заключается в 
замене множества выполнений однотипных операций одной операцией над 
множеством данных. Обработка осуществляется на векторных процессорах. 
В программах, обрабатываемых компилятором, задаются директивы 
компиляции, что предполагает использования языков параллельных 
вычислений. Рассмотрим два независимых устройства, которые могут 
работать одновременно. Причем каждое устройство может выполнять 
суммирование двух чисел за 5 тактов. При этом устройство не может 
выполнять другую работу. Тогда вся работа выполнится одним устройством 
за 500 тактов. Постоянно загружая каждое устройство элементами входных 
массивов, например векторов, имеющих по 100 вещественных чисел каждый, 
можно получить искомую сумму уже за 250 тактов ‒ ускорение выполнения 
работы в два раза. В случае 10 подобных
устройств, время получения 
результата составит всего 50 тактов, а в общем случае система из N 
устройств затратит на суммирование время около 500/N. 

---

9 
Пример. В 50-х годах XX века академик А.А. Самарский занимался 
моделированием ядерных взрывов. При осуществлении расчетов он 
использовал одновременно несколько арифмометров, с каждым из которых 
работал оператор. Данный способ организации вычислений явился 
прообразом параллельных вычислений и позволил рассчитать эволюцию 
взрывной волны.