Print indd

Fig. 3. Power dissipation and utilization plotted by msmonitor while an arbitrary set
of 15 tasks are executed on CPU, GPU, and FPGA.
3
Example: Measuring Energy on CPU and GPU
We illustrate the interaction of the different layers of our framework, the operat-
ing system, and the vendor libraries on the example of measuring energy on the
Intel CPU and the Nvidia GPU. Figure
4
gives an overview over the measurement
data processing layers.
The energy measurement procedures for CPU and GPU are very different.
For the CPU, we read energy counters at two different points in time and the dif-
ference denotes the energy consumed during that period of time. Yet, we sample
the energy counters periodically to handle register overflows appropriately and
to be able to provide the user with power dissipation values. The GPU allows
us to only measure the power dissipation and not the consumed energy. Based
on the sampling interval
T
nvml
, set in step 2 of Table
1
, we estimate the energy
E
GP U
consumed over a period of time Δ
t as shown in Eq.
1
. Ampehre hides
the essentially different approaches for CPU and GPU to obtain the energy con-
sumption. Developers including Ampehre can thus use energy variables without
being required to know about the actual measuring procedures.
E
GP U
(
t
0
, Δt) =

t
0
+Δt
t
0
p(t) dt ≈
N

j=1
p(t
j
)
· T
nvml
with
N =

t
0
+ Δ
t
T
nvml

(1)
As shown in Fig.
4
, the energy and power dissipation readings for CPU
and GPU are obtained from the compute elements using an OS driver and
a vendor-specific library, respectively. Intel CPUs based on Sandy Bridge or
newer microarchitectures implement the Running Average Power Limit (RAPL)
interface which is a set of Model-Specific Registers (MSR) to measure CPU
energy counters [
12
]. Xeon CPU energy counters can be derived for three power
domains, each one represented by a dedicated MSR: The Package power domain
refers to the entire die including cores, caches, and the memory controller. The
Power Plane 0 domain is a subset of the Package domain and considers only

---

80
A. L¨
osch et al.