MPP-tizmlar bilan ishlaganda ma’lumotlarni(xabarlarni) uzatishga asoslangan dasturlash paradigmasidan (Massive Passing Programming Paradigm – MPI, PVM, BSPlib) foydalaniladi. Bu arxitekturaning moxiyati shuki xotira fizik jixatdan tizim qismlari o‘rtisida taqsimlangan bo‘lib mantiqiy jixatdan umumiy hisoblanadi. SHuning uchun foydalanuvchi yagona adreslar fazosiga ega bo‘ladi. Tizim bir jinsli bazaviy modullar (platalar) asosida qurilgan. Har bir modul bir nechta protsessor va xotira blokidan tashqil topgan. Modullar yuqori tezlikka ega bo‘lgan kommutator orqali bog’‘langan. Boshqa modullarning xotirasiga murojaat qurilmaviy jixatdan tashqil qilingan. Bu holda lokal xotiraga murojaat uzoqdagi xotiraga nisbatan bir necha barobat tez amalga oshiriladi. Moxiyatiga ko‘ra NUMA arxitekturasi MPP arxitekturasi hisoblanib alohida hisoblash elementlari sifatida SMP tugunlardan foydalaniladi. Bitta SMP tugun ichida ma’lumotlar almashish va xotiraga murojaat tugunning lokal xotirasi orqali juda tez amalga oshiriladi. Boshqa SMP tugun protsessoriga murojaat nisbatan sekin amalga oshiriladi. Birinchi marta SMP arxitektura g‘oyasini Stiv Vollox taklif etgan. HP firmasi bu g‘oyani sotib olgan va o‘zining SPP seriyali superkompyuterlarida qo‘llagan.
Mikroprotsessor tizimining xotira bo’shlig’ini shakllantirish usuliga ko’ra MP arxitekturalari ikkita asosiy turga bo’linadi. Dasturlar va ma’lumotlarni saqlash uchun bitta xotira bo’shlig’i qo’llanilgan tuzilish fon Neyman arxitekturasi deb ataladi (dasturlarni ma’lumotlar formatiga muvofiq keladigan formatda kodlash taklifini kiritgan matematik nomi berilgan). Bunda, dasturlar ham, ma’lumotlar ham yagona bo’shliqda saqlanib, xotira uyasidagi axborot turiga ishora qiluvchi biror-bir alomat bo’lmaydi. Bunday arxitekturaning afzalliklari jumlasiga mikroprotsessorning ichki tuzilishi nisbatan soddaligi va boshqaruvchi signallar sonining kamligi kiradi. Dasturlar xotirasi CSEG (ingl. Code Segment) va ma’lumotlar xotirasi DSEG (ingl. Data Segment) o’zaro ajratilgan hamda har biri o’zining manzilli bo’shlig’i va kirish usullariga ega bo’lgan tarzda yaratilgan tuzilish Garvard arxitekturasi deb ataladi (shunday arxitekturani yaratish taklifini kiritgan Garvard Universiteti laboratoriyasining nomi berilgan). Ushbu arxitektura nisbatan murakkab bo’lib, qo’shimcha boshqaruv signallarini talab qiladi. Biroq, u axborot bilan ancha uddaburon harakatlar bajarish, ixcham kodlashtiriladigan mashina komandalari to’plamini joriy etish va qator hollarda mikroprotsessor ishini jadallashtirish imkonini beradi.