Учебное пособие москва мади 2020 ббк 32. 81 В 683 Волосова, А. В. В683

 
Глава 15. Технологии параллельного программирования: системы 
программирования на основе передачи сообщений и 
другие системы 
15.1. Системы программирования на основе передачи сообщений 
(системы параллельного программирования Lindа, Message Passing 
Interface (MPI), MPI-2, DVM 
Появление систем программирования на основе передачи сообщений 
вызвано распространением компьютеров с распределенной памятью. В таких 
системах отсутствует единое адресное пространство. Обмен данными между 
параллельными процессами обеспечивается за счет механизма явной 
передачи сообщений через коммуникационную среду. Отдельные процессы 
описываются с помощью традиционных языков программирования, а для 
организации их взаимодействия вводятся дополнительные функции. В этой 
связи системы программирования, основанные на явной передаче 
сообщений, реализуются в виде интерфейсов и библиотек. 
Известны следующие системы программирования на основе передачи 
сообщений - Shmem, Linda, PVM, MPI и др.
Система Linda 
Система создана в Йельском университете США в середине 80-х годов 
20 века. В пределах системы параллельная программа ‒ множество 

---

151 
параллельных процессов. Каждый процесс работает как
последовательная 
программа. Все процессы имеют доступ к общей памяти ‒ пространству 
кортежей, единицей хранения в которой является кортеж. Каждый кортеж ‒ 
взятая в скобки упорядоченная последовательность значений, разделенных 
запятыми. Например, 
("Hello", 42, 3.14), (5, FALSE, 97, 1024, 2), ("worker", 5) 
Так, первый кортеж этого примера состоит из строки "Hello", элемента 
целого типа 42 и вещественного числа 3.14. Во втором кортеже есть элемент 
целого типа 5, элемент логического типа false и три целых числа. Последний 
кортеж состоит из двух элементов: строки "worker" и целого числа 5. 
Количество элементов в кортеже, вообще говоря, может быть любым, однако 
конкретные реализации могут накладывать ограничения. Если первым 
элементом кортежа является строка, то эта строка называется именем 
кортежа. 
Все процессы работают с пространством кортежей по принципу: 
поместить кортеж, забрать, скопировать.
В отличие от традиционной памяти: 
1.Процесс может забрать кортеж из пространства кортежей, после чего 
данный кортеж станет недоступным остальным процессам.
2. Если в пространство кортежей положить два кортежа с одним и тем 
же именем, то не произойдет привычного для нас "обновления" значения 
переменной ‒ в пространстве кортежей окажется два кортежа с одним и тем 
же именем.
3. Изменить кортеж непосредственно в пространстве нельзя. Для 
изменения значений элементов кортежа его нужно сначала оттуда изъять, 
затем процесс, изъявший кортеж, может изменить значения его элементов, и 
вновь поместить измененный кортеж в память. В отличие от других систем 
программирования, процессы в системе Linda никогда не взаимодействуют 
друг с другом явно, и их общение всегда идет через пространство кортежей. 

---

152 
Linda позволяет добавить в любой последовательный язык четыре 
новые функции, в результате этот язык становится средством параллельного 
программирования. Эти функции и составляют систему Linda: три для 
операций над кортежами и пространством кортежей и одна функция для 
порождения параллельных процессов. 
Преимущество системы – простота концепции.
Проблема – вопрос эффективной поддержки пространства кортежей. 
Если вычислительная система обладает распределенной памятью, то 
общение процессов через пространство кортежей заведомо будет 
сопровождаться большими накладными расходами. Все предлагаемые 
решения либо усложняют систему, либо являются эффективными только для 
узкого класса программ. 
Удачным примером можно считать реализацию популярного пакета 
для квантово-химических расчетов Gaussian. 
Современное состояние и дополнительную информацию по системе 
Linda можно найти на сайте 
http://www.cs.yale.edu/Liiida/liiida.html.