Print indd

6
Conclusion
When parallel programs diverge during their execution, nodes may send data to
other nodes that are not yet ready to process it. This is no problem in distributed
systems, where receive buffers are huge. However, in many-core processors with
NoCs receive buffers and core-local memory are limited. Therefore, data should
only be sent when receiver nodes are ready to process it. Thus, a systematic syn-
chronization mechanism should be applied. To keep network utilization low, we
presented synchronization with one ready flit. It is sent from the node that wants
to receive data to the intended sender node. The sender node does not start send-
ing until the ready flit arrives. When it arrives, it knows that the receiver node
is ready to handle incoming flits and starts sending. This simple principle can
be implemented in software, but is less performant than an implementation in
hardware. For an efficient hardware implementation, we added two new instruc-
tions srdy and bnr, a 1-bit signal from the send buffer to the receiver node and
a hardware bit array (plus management logic) at the receiver. The latter allows
to check if a specific node is ready to receive flits. Our evaluation shows that
global communication operations execute 10–50% faster and need fewer receive
buffer slots. By saving buffer slots, our hardware ready synchronization pays
itself as it requires only a small amount of additional logic.