Support pinning in HostAllocator
[alexxy/gromacs.git] / src / gromacs / gpu_utils / tests / devicetransfers.cu
1 /*
2  * This file is part of the GROMACS molecular simulation package.
3  *
4  * Copyright (c) 2017, by the GROMACS development team, led by
5  * Mark Abraham, David van der Spoel, Berk Hess, and Erik Lindahl,
6  * and including many others, as listed in the AUTHORS file in the
7  * top-level source directory and at http://www.gromacs.org.
8  *
9  * GROMACS is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public License
11  * as published by the Free Software Foundation; either version 2.1
12  * of the License, or (at your option) any later version.
13  *
14  * GROMACS is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with GROMACS; if not, see
21  * http://www.gnu.org/licenses, or write to the Free Software Foundation,
22  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA  02110-1301  USA.
23  *
24  * If you want to redistribute modifications to GROMACS, please
25  * consider that scientific software is very special. Version
26  * control is crucial - bugs must be traceable. We will be happy to
27  * consider code for inclusion in the official distribution, but
28  * derived work must not be called official GROMACS. Details are found
29  * in the README & COPYING files - if they are missing, get the
30  * official version at http://www.gromacs.org.
31  *
32  * To help us fund GROMACS development, we humbly ask that you cite
33  * the research papers on the package. Check out http://www.gromacs.org.
34  */
35 /*! \internal \file
36  * \brief Defines helper functionality for device transfers for tests
37  * for GPU host allocator.
38  *
39  * Undefined symbols in Google Test, GROMACS use of -Wundef, and the
40  * implementation of FindCUDA.cmake and/or nvcc mean that no
41  * compilation unit should include a gtest header while being compiled
42  * by nvcc. None of -isystem, -Wno-undef, nor the pragma GCC
43  * diagnostic work.
44  *
45  * \author Mark Abraham <mark.j.abraham@gmail.com>
46  */
47 #include "gmxpre.h"
48
49 #include "devicetransfers.h"
50
51 #include "gromacs/gpu_utils/cudautils.cuh"
52 #include "gromacs/hardware/gpu_hw_info.h"
53 #include "gromacs/utility/arrayref.h"
54 #include "gromacs/utility/exceptions.h"
55 #include "gromacs/utility/gmxassert.h"
56 #include "gromacs/utility/stringutil.h"
57
58 namespace gmx
59 {
60 namespace
61 {
62
63 /*! \brief Help give useful diagnostics about error \c status while doing \c message.
64  *
65  * \throws InternalError  If status indicates failure, supplying
66  *                        descriptive text from \c message. */
67 static void throwUponFailure(cudaError_t status, const char *message)
68 {
69     if (status != cudaSuccess)
70     {
71         GMX_THROW(InternalError(formatString("Failure while %s", message)));;
72     }
73 }
74
75 }   // namespace
76
77 void doDeviceTransfers(const gmx_gpu_info_t &gpuInfo,
78                        ArrayRef<const char>  input,
79                        ArrayRef<char>        output)
80 {
81     GMX_RELEASE_ASSERT(input.size() == output.size(), "Input and output must have matching size");
82     if (gpuInfo.n_dev == 0)
83     {
84         std::copy(input.begin(), input.end(), output.begin());
85         return;
86     }
87     cudaError_t status;
88
89     const auto &device = gpuInfo.gpu_dev[0];
90     int         oldDeviceId;
91
92     status = cudaGetDevice(&oldDeviceId);
93     throwUponFailure(status, "getting old device id");
94     status = cudaSetDevice(device.id);
95     throwUponFailure(status, "setting device id to 0");
96
97     void       *devicePointer;
98     status = cudaMalloc(&devicePointer, input.size());
99     throwUponFailure(status, "creating buffer");
100
101     status = cudaMemcpy(devicePointer, input.data(), input.size(), cudaMemcpyHostToDevice);
102     throwUponFailure(status, "transferring host to device");
103     status = cudaMemcpy(output.data(), devicePointer, output.size(), cudaMemcpyDeviceToHost);
104     throwUponFailure(status, "transferring device to host");
105
106     status = cudaFree(devicePointer);
107     throwUponFailure(status, "releasing buffer");
108
109     status = cudaSetDevice(oldDeviceId);
110     throwUponFailure(status, "setting old device id");
111 }
112
113 } // namespace gmx