Print indd

1
Introduction
Application profiling is a major step in software development. Most commonly,
developers focus on performance analysis based on hardware performance coun-
ters provided by the target resource and on timing information. Using these data,
developers gain knowledge about runtime metrics such as number of executed
instructions, cache misses, page-faults, or the costs of called functions. Under-
standing runtime behavior is instrumental for optmizing applications perfor-
mance. A widely-used open source performance analysis tool is Perf which was
introduced in Linux 2.6.31 and since then is an inherent part of the Linux infras-
tructure [
1
]. Other similar open source tools are IgProf [
2
] and Likwid [
3
]. Ven-
dors have implemented closed source professional profiling tools to support appli-
cation development for their devices, e.g., the Intel VTune Amplifier [
4
] or the
Nvidia GPU development IDE Nvidia Nsight and command line tool nvprof [
5
].
Since the introduction of the Running Average Power Limit (RAPL) interface
for Intel CPUs, developers are able to perform energy measurements on CPUs
c
 Springer International Publishing AG, part of Springer Nature 2018
M. Berekovic et al. (Eds.): ARCS 2018, LNCS 10793, pp. 73–84, 2018.
https://doi.org/10.1007/978-3-319-77610-1
_
6

---

74
A. L¨
osch et al.
although some source code modifications are required. For example, in [
6
] the
authors add an energy profiling module for Intel CPUs to IgProf. Their changes
allow for basic power analysis and optimization. Optimizing the energy consump-
tion of applications has become an emerging topic in high performance comput-
ing and will continue to grow in importance, given the rising electricity costs.
All the mentioned tools lack an easy-to-use and extensible application pro-
grammer interface (API) that allows user applications to read comparable perfor-
mance and energy data from different resource types. The Performance Applica-
tion Programming Interface (PAPI) project [
7
] has been developed to solve these
issues. Particularly with the PAPI version 5 release, developers are able to add
capabilities for power or temperature analysis by implementing so-called PAPI
components, extending PAPI to new platforms and other sensor types [
8
]. These
capabilities make dedicated measuring equipment such as digital multimeters
redundant. PAPI provides a unified API that hides the underlying device-specific
measuring procedures when reading power, energy, and temperature sensors.
However, even with PAPI the retrieved data must be interpreted to gain seman-
tically comparable measurement results across the resource boundaries. Such
comparable measurements are particularly important for developing and opti-
mizing applications as well as system software for heterogeneous compute nodes.
To overcome these limitations, we have developed the novel framework
Ampehre, short for Accurately Measuring Power and Energy for Heterogeneous
Resource Environments [
9
], with the key features: (i) easy integration into other
projects by providing a clear API covering all resource types, (ii) extensible to
new resources and sensors through the use of PAPI, and (iii) open source under
the terms of the 2-clause BSD license.
In Sect.
2
of this paper, we present an overview of the Ampehre frame-
work architecture. Section
3
illustrates the measuring procedure with Ampehre
explained by an example for measuring energy on CPU and GPU. In Sect.
4
we evaluate the trade-off between data accuracy and the additional CPU load
imposed by Ampehre. In Sect.
5
we show how to extend Ampehre to new com-
puting resources and sensors. Finally, Sect.
6
concludes the paper.