4b00aa572b9c62fd831a7836632270b50fcab42b
[alexxy/gromacs.git] / docs / install-guide / index.rst
1 .. Note that this must be a single rst file in order for Sphinx
2    to build into into a single plain-text file to place in the
3    installation tarball.
4
5 .. _install guide:
6
7 ******************
8 Installation guide
9 ******************
10
11 .. highlight:: bash
12
13 Introduction to building |Gromacs|
14 ----------------------------------
15
16 These instructions pertain to building |Gromacs|
17 |version|. You might also want to check the `up-to-date installation instructions`_.
18
19 Quick and dirty installation
20 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^
21 1. Get the latest version of your C and C++ compilers.
22 2. Check that you have CMake version |CMAKE_MINIMUM_REQUIRED_VERSION| or later.
23 3. Get and unpack the latest version of the |Gromacs| tarball.
24 4. Make a separate build directory and change to it.
25 5. Run ``cmake`` with the path to the source as an argument
26 6. Run ``make``, ``make check``, and ``make install``
27 7. Source ``GMXRC`` to get access to |Gromacs|
28
29 Or, as a sequence of commands to execute:
30
31 .. parsed-literal::
32
33     tar xfz gromacs-|version|.tar.gz
34     cd gromacs-|version|
35     mkdir build
36     cd build
37     cmake .. -DGMX_BUILD_OWN_FFTW=ON -DREGRESSIONTEST_DOWNLOAD=ON
38     make
39     make check
40     sudo make install
41     source /usr/local/gromacs/bin/GMXRC
42
43 This will download and build first the prerequisite FFT library
44 followed by |Gromacs|. If you already have FFTW installed, you can
45 remove that argument to ``cmake``. Overall, this build of |Gromacs|
46 will be correct and reasonably fast on the machine upon which
47 ``cmake`` ran. On another machine, it may not run, or may not run
48 fast. If you want to get the maximum value for your hardware with
49 |Gromacs|, you will have to read further. Sadly, the interactions of
50 hardware, libraries, and compilers are only going to continue to get
51 more complex.
52
53 Quick and dirty cluster installation
54 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
55
56 On a cluster where users are expected to be running across multiple
57 nodes using MPI, make one installation similar to the above, and
58 another using ``-DGMX_MPI=on`` and which is `building only
59 mdrun`_, because that is the only component of |Gromacs| that uses
60 MPI. The latter will install a single simulation engine binary,
61 i.e. ``mdrun_mpi`` when the default suffix is used. Hence it is safe
62 and common practice to install this into the same location where
63 the non-MPI build is installed.
64
65 Typical installation
66 ^^^^^^^^^^^^^^^^^^^^
67
68 As above, and with further details below, but you should consider
69 using the following `CMake options`_ with the
70 appropriate value instead of ``xxx`` :
71
72 * ``-DCMAKE_C_COMPILER=xxx`` equal to the name of the C99 `Compiler`_ you wish to use (or the environment variable ``CC``)
73 * ``-DCMAKE_CXX_COMPILER=xxx`` equal to the name of the C++98 `compiler`_ you wish to use (or the environment variable ``CXX``)
74 * ``-DGMX_MPI=on`` to build using `MPI support`_ (generally good to combine with `building only mdrun`_)
75 * ``-DGMX_GPU=on`` to build using nvcc to run using NVIDIA `CUDA GPU acceleration`_ or an OpenCL_ GPU
76 * ``-DGMX_USE_OPENCL=on`` to build with OpenCL_ support enabled. ``GMX_GPU`` must also be set.
77 * ``-DGMX_SIMD=xxx`` to specify the level of `SIMD support`_ of the node on which |Gromacs| will run
78 * ``-DGMX_BUILD_MDRUN_ONLY=on`` for `building only mdrun`_, e.g. for compute cluster back-end nodes
79 * ``-DGMX_DOUBLE=on`` to build |Gromacs| in double precision (slower, and not normally useful)
80 * ``-DCMAKE_PREFIX_PATH=xxx`` to add a non-standard location for CMake to `search for libraries, headers or programs`_
81 * ``-DCMAKE_INSTALL_PREFIX=xxx`` to install |Gromacs| to a `non-standard location`_ (default ``/usr/local/gromacs``)
82 * ``-DBUILD_SHARED_LIBS=off`` to turn off the building of shared libraries to help with `static linking`_
83 * ``-DGMX_FFT_LIBRARY=xxx`` to select whether to use ``fftw3``, ``mkl`` or ``fftpack`` libraries for `FFT support`_
84 * ``-DCMAKE_BUILD_TYPE=Debug`` to build |Gromacs| in debug mode
85
86 Building older versions
87 ^^^^^^^^^^^^^^^^^^^^^^^
88
89 Installation instructions for old |Gromacs| versions can be found at
90 the |Gromacs| `documentation page
91 <http://manual.gromacs.org/documentation>`_.
92
93 Prerequisites
94 -------------
95
96 Platform
97 ^^^^^^^^
98
99 |Gromacs| can be compiled for many operating systems and
100 architectures.  These include any distribution of Linux, Mac OS X or
101 Windows, and architectures including x86, AMD64/x86-64, several
102 PowerPC including POWER8, ARM v8, and SPARC VIII.
103
104 Compiler
105 ^^^^^^^^
106
107 |Gromacs| can be compiled on any platform with ANSI C99 and C++17
108 compilers, and their respective standard C/C++ libraries. Good
109 performance on an OS and architecture requires choosing a good
110 compiler. We recommend gcc, because it is free, widely available and
111 frequently provides the best performance.
112
113 You should strive to use the most recent version of your
114 compiler. Since we require full C++17 support the minimum supported
115 compiler versions are
116
117 * GNU (gcc/libstdc++) 7
118 * Intel (icc) 19.1
119 * LLVM (clang/libc++) 5
120 * Microsoft (MSVC) 2017 15.7
121
122 Other compilers may work (Cray, Pathscale, older clang) but do
123 not offer competitive performance. We recommend against PGI because
124 the performance with C++ is very bad.
125
126 The xlc compiler is not supported and version 16.1 does not compile on
127 POWER architectures for |Gromacs|\ -\ |version|. We recommend to use
128 the gcc compiler instead, as it is being extensively tested.
129
130 You may also need the most recent version of other compiler toolchain
131 components beside the compiler itself (e.g. assembler or linker);
132 these are often shipped by your OS distribution's binutils package.
133
134 C++17 support requires adequate support in both the compiler and the
135 C++ library. The gcc and MSVC compilers include their own standard
136 libraries and require no further configuration. If your vendor's
137 compiler also manages the standard library library via compiler flags,
138 these will be honored. For configuration of other compilers, read on.
139
140 On Linux, both the Intel and clang compiler use the libstdc++ which
141 comes with gcc as the default C++ library. For |Gromacs|, we require
142 the compiler to support libstc++ version 7.1 or higher. To select a
143 particular libstdc++ library, provide the path to g++ with
144 ``-DGMX_GPLUSPLUS_PATH=/path/to/g++``.
145
146 On Windows with the Intel compiler, the MSVC standard library is used,
147 and at least MSVC 2017 15.7 is required. Load the enviroment variables with
148 vcvarsall.bat.
149
150 To build with clang and llvm's libcxx standard library, use
151 ``-DCMAKE_CXX_FLAGS=-stdlib=libc++``.
152
153 If you are running on Mac OS X, the best option is the Intel
154 compiler. Both clang and gcc will work, but they produce lower
155 performance and each have some shortcomings. clang 3.8 now offers
156 support for OpenMP, and so may provide decent performance.
157
158 For all non-x86 platforms, your best option is typically to use gcc or
159 the vendor's default or recommended compiler, and check for
160 specialized information below.
161
162 For updated versions of gcc to add to your Linux OS, see
163
164 * Ubuntu: `Ubuntu toolchain ppa page`_
165 * RHEL/CentOS: `EPEL page`_ or the RedHat Developer Toolset
166
167 Compiling with parallelization options
168 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
169
170 For maximum performance you will need to examine how you will use
171 |Gromacs| and what hardware you plan to run on. Often OpenMP_
172 parallelism is an advantage for |Gromacs|, but support for this is
173 generally built into your compiler and detected automatically.
174
175 .. _gmx-gpu-support:
176
177 GPU support
178 ~~~~~~~~~~~
179
180 |Gromacs| has excellent support for NVIDIA GPUs supported via CUDA.
181 On Linux, NVIDIA CUDA_ toolkit with minimum version |REQUIRED_CUDA_VERSION|
182 is required, and the latest version is strongly encouraged. NVIDIA GPUs with at
183 least NVIDIA compute capability |REQUIRED_CUDA_COMPUTE_CAPABILITY| are
184 required. You are strongly recommended to
185 get the latest CUDA version and driver that supports your hardware, but
186 beware of possible performance regressions in newer CUDA versions on
187 older hardware.
188 While some CUDA compilers (nvcc) might not
189 officially support recent versions of gcc as the back-end compiler, we
190 still recommend that you at least use a gcc version recent enough to
191 get the best SIMD support for your CPU, since |Gromacs| always runs some
192 code on the CPU. It is most reliable to use the same C++ compiler
193 version for |Gromacs| code as used as the host compiler for nvcc.
194
195 To make it possible to use other accelerators, |Gromacs| also includes
196 OpenCL_ support. The minimum OpenCL version required is
197 |REQUIRED_OPENCL_MIN_VERSION| and only 64-bit implementations are supported.
198 The current OpenCL implementation is recommended for
199 use with GCN-based AMD GPUs, and on Linux we recommend the ROCm runtime.
200 Intel integrated GPUs are supported with the Neo drivers.
201 OpenCL is also supported with NVIDIA GPUs, but using
202 the latest NVIDIA driver (which includes the NVIDIA OpenCL runtime) is
203 recommended. Also note that there are performance limitations (inherent
204 to the NVIDIA OpenCL runtime).
205 It is not possible to configure both CUDA and OpenCL
206 support in the same build of |Gromacs|, nor to support both
207 Intel and other vendors' GPUs with OpenCL. A 64-bit implementation
208 of OpenCL is required and therefore OpenCL is only supported on 64-bit platforms.
209
210 .. _mpi-support:
211
212 MPI support
213 ~~~~~~~~~~~
214
215 |Gromacs| can run in parallel on multiple cores of a single
216 workstation using its built-in thread-MPI. No user action is required
217 in order to enable this.
218
219 If you wish to run in parallel on multiple machines across a network,
220 you will need to have
221
222 * an MPI library installed that supports the MPI 1.3
223   standard, and
224 * wrapper compilers that will compile code using that library.
225
226 To compile with MPI set your compiler to the normal (non-MPI) compiler
227 and add ``-DGMX_MPI=on`` to the cmake options. It is possible to set
228 the compiler to the MPI compiler wrapper but it is neither necessary
229 nor recommended.
230
231 The |Gromacs| team recommends OpenMPI_ version
232 1.6 (or higher), MPICH_ version 1.4.1 (or
233 higher), or your hardware vendor's MPI installation. The most recent
234 version of either of these is likely to be the best. More specialized
235 networks might depend on accelerations only available in the vendor's
236 library. LAM-MPI_ might work, but since it has
237 been deprecated for years, it is not supported.
238
239 For example, depending on your actual MPI library, use ``cmake
240 -DCMAKE_C_COMPILER=mpicc -DCMAKE_CXX_COMPILER=mpicxx -DGMX_MPI=on``.
241
242
243 CMake
244 ^^^^^
245
246 |Gromacs| builds with the CMake build system, requiring at least
247 version |CMAKE_MINIMUM_REQUIRED_VERSION|. You can check whether
248 CMake is installed, and what version it is, with ``cmake
249 --version``. If you need to install CMake, then first check whether
250 your platform's package management system provides a suitable version,
251 or visit the `CMake installation page`_ for pre-compiled binaries,
252 source code and installation instructions. The |Gromacs| team
253 recommends you install the most recent version of CMake you can.
254
255 .. _FFT support:
256
257 Fast Fourier Transform library
258 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
259
260 Many simulations in |Gromacs| make extensive use of fast Fourier
261 transforms, and a software library to perform these is always
262 required. We recommend FFTW_ (version 3 or higher only) or Intel
263 MKL_. The choice of library can be set with ``cmake
264 -DGMX_FFT_LIBRARY=<name>``, where ``<name>`` is one of ``fftw3``,
265 ``mkl``, or ``fftpack``. FFTPACK is bundled with |Gromacs| as a
266 fallback, and is acceptable if simulation performance is not a
267 priority. When choosing MKL, |Gromacs| will also use MKL for BLAS and
268 LAPACK (see `linear algebra libraries`_). Generally, there is no
269 advantage in using MKL with |Gromacs|, and FFTW is often faster.
270 With PME GPU offload support using CUDA, a GPU-based FFT library
271 is required. The CUDA-based GPU FFT library cuFFT is part of the
272 CUDA toolkit (required for all CUDA builds) and therefore no additional
273 software component is needed when building with CUDA GPU acceleration.
274
275 Using FFTW
276 ~~~~~~~~~~
277
278 FFTW_ is likely to be available for your platform via its package
279 management system, but there can be compatibility and significant
280 performance issues associated with these packages. In particular,
281 |Gromacs| simulations are normally run in "mixed" floating-point
282 precision, which is suited for the use of single precision in
283 FFTW. The default FFTW package is normally in double
284 precision, and good compiler options to use for FFTW when linked to
285 |Gromacs| may not have been used. Accordingly, the |Gromacs| team
286 recommends either
287
288 * that you permit the |Gromacs| installation to download and
289   build FFTW from source automatically for you (use
290   ``cmake -DGMX_BUILD_OWN_FFTW=ON``), or
291 * that you build FFTW from the source code.
292
293 If you build FFTW from source yourself, get the most recent version
294 and follow the `FFTW installation guide`_. Choose the precision for
295 FFTW (i.e. single/float vs. double) to match whether you will later
296 use mixed or double precision for |Gromacs|. There is no need to
297 compile FFTW with threading or MPI support, but it does no harm. On
298 x86 hardware, compile with *both* ``--enable-sse2`` and
299 ``--enable-avx`` for FFTW-3.3.4 and earlier. From FFTW-3.3.5, you
300 should also add ``--enable-avx2`` also. On Intel processors supporting
301 512-wide AVX, including KNL, add ``--enable-avx512`` also.
302 FFTW will create a fat library with codelets for all different instruction sets,
303 and pick the fastest supported one at runtime.
304 On ARM architectures with SIMD support and IBM Power8 and later, you
305 definitely want version 3.3.5 or later,
306 and to compile it with ``--enable-neon`` and ``--enable-vsx``, respectively, for
307 SIMD support. If you are using a Cray, there is a special modified
308 (commercial) version of FFTs using the FFTW interface which can be
309 slightly faster.
310
311 Using MKL
312 ~~~~~~~~~
313
314 Use MKL bundled with Intel compilers by setting up the compiler
315 environment, e.g., through ``source /path/to/compilervars.sh intel64``
316 or similar before running CMake including setting
317 ``-DGMX_FFT_LIBRARY=mkl``.
318
319 If you need to customize this further, use
320
321 ::
322
323     cmake -DGMX_FFT_LIBRARY=mkl \
324           -DMKL_LIBRARIES="/full/path/to/libone.so;/full/path/to/libtwo.so" \
325           -DMKL_INCLUDE_DIR="/full/path/to/mkl/include"
326
327 The full list and order(!) of libraries you require are found in Intel's MKL documentation for your system.
328
329 Using ARM Performance Libraries
330 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
331
332 The ARM Performance Libraries provides FFT transforms implementation for ARM
333 architectures.
334 Preliminary support is provided for ARMPL in |Gromacs| through its FFTW-compatible API.
335 Assuming that the ARM HPC toolchain environment including the ARMPL paths
336 are set up (e.g. through loading the appropriate modules like
337 ``module load Module-Prefix/arm-hpc-compiler-X.Y/armpl/X.Y``) use the following cmake
338 options:
339
340 ::
341
342     cmake -DGMX_FFT_LIBRARY=fftw3 \
343           -DFFTWF_LIBRARY="${ARMPL_DIR}/lib/libarmpl_lp64.so" \
344           -DFFTWF_INCLUDE_DIR=${ARMPL_DIR}/include
345
346
347 Other optional build components
348 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
349
350 * Run-time detection of hardware capabilities can be improved by
351   linking with hwloc. By default this is turned off since it might
352   not be supported everywhere, but if you have hwloc installed it
353   should work by just setting ``-DGMX_HWLOC=ON``
354 * Hardware-optimized BLAS and LAPACK libraries are useful
355   for a few of the |Gromacs| utilities focused on normal modes and
356   matrix manipulation, but they do not provide any benefits for normal
357   simulations. Configuring these is discussed at
358   `linear algebra libraries`_.
359 * The built-in |Gromacs| trajectory viewer ``gmx view`` requires X11 and
360   Motif/Lesstif libraries and header files. You may prefer to use
361   third-party software for visualization, such as VMD_ or PyMol_.
362 * An external TNG library for trajectory-file handling can be used
363   by setting ``-DGMX_EXTERNAL_TNG=yes``, but TNG
364   |GMX_TNG_MINIMUM_REQUIRED_VERSION| is bundled in the |Gromacs|
365   source already.
366 * The lmfit library for Levenberg-Marquardt curve fitting is used in
367   |Gromacs|. Only lmfit |GMX_LMFIT_REQUIRED_VERSION| is supported.  A
368   reduced version of that library is bundled in the |Gromacs|
369   distribution, and the default build uses it. That default may be
370   explicitly enabled with ``-DGMX_USE_LMFIT=internal``. To use an
371   external lmfit library, set ``-DGMX_USE_LMFIT=external``, and adjust
372   ``CMAKE_PREFIX_PATH`` as needed.  lmfit support can be disabled with
373   ``-DGMX_USE_LMFIT=none``.
374 * zlib is used by TNG for compressing some kinds of trajectory data
375 * Building the |Gromacs| documentation is optional, and requires
376   ImageMagick, pdflatex, bibtex, doxygen, python 3.6, sphinx
377   |EXPECTED_SPHINX_VERSION|, and pygments.
378 * The |Gromacs| utility programs often write data files in formats
379   suitable for the Grace plotting tool, but it is straightforward to
380   use these files in other plotting programs, too.
381 * Set ``-DGMX_PYTHON_PACKAGE=ON`` when configuring |Gromacs| with CMake to
382   enable additional CMake targets for the gmxapi Python package and
383   sample_restraint package from the main |Gromacs| CMake build. This supports
384   additional testing and documentation generation.
385
386 Doing a build of |Gromacs|
387 --------------------------
388
389 This section will cover a general build of |Gromacs| with CMake_, but it
390 is not an exhaustive discussion of how to use CMake. There are many
391 resources available on the web, which we suggest you search for when
392 you encounter problems not covered here. The material below applies
393 specifically to builds on Unix-like systems, including Linux, and Mac
394 OS X. For other platforms, see the specialist instructions below.
395
396 .. _configure-cmake:
397
398 Configuring with CMake
399 ^^^^^^^^^^^^^^^^^^^^^^
400
401 CMake will run many tests on your system and do its best to work out
402 how to build |Gromacs| for you. If your build machine is the same as
403 your target machine, then you can be sure that the defaults and
404 detection will be pretty good. However, if you want to control aspects
405 of the build, or you are compiling on a cluster head node for back-end
406 nodes with a different architecture, there are a few things you
407 should consider specifying.
408
409 The best way to use CMake to configure |Gromacs| is to do an
410 "out-of-source" build, by making another directory from which you will
411 run CMake. This can be outside the source directory, or a subdirectory
412 of it. It also means you can never corrupt your source code by trying
413 to build it! So, the only required argument on the CMake command line
414 is the name of the directory containing the ``CMakeLists.txt`` file of
415 the code you want to build. For example, download the source tarball
416 and use
417
418 .. parsed-literal::
419
420     tar xfz gromacs-|version|.tgz
421     cd gromacs-|version|
422     mkdir build-gromacs
423     cd build-gromacs
424     cmake ..
425
426 You will see ``cmake`` report a sequence of results of tests and
427 detections done by the |Gromacs| build system. These are written to the
428 ``cmake`` cache, kept in ``CMakeCache.txt``. You can edit this file by
429 hand, but this is not recommended because you could make a mistake.
430 You should not attempt to move or copy this file to do another build,
431 because file paths are hard-coded within it. If you mess things up,
432 just delete this file and start again with ``cmake``.
433
434 If there is a serious problem detected at this stage, then you will see
435 a fatal error and some suggestions for how to overcome it. If you are
436 not sure how to deal with that, please start by searching on the web
437 (most computer problems already have known solutions!) and then
438 consult the gmx-users mailing list. There are also informational
439 warnings that you might like to take on board or not. Piping the
440 output of ``cmake`` through ``less`` or ``tee`` can be
441 useful, too.
442
443 Once ``cmake`` returns, you can see all the settings that were chosen
444 and information about them by using e.g. the curses interface
445
446 ::
447
448     ccmake ..
449
450 You can actually use ``ccmake`` (available on most Unix platforms)
451 directly in the first step, but then
452 most of the status messages will merely blink in the lower part
453 of the terminal rather than be written to standard output. Most platforms
454 including Linux, Windows, and Mac OS X even have native graphical user interfaces for
455 ``cmake``, and it can create project files for almost any build environment
456 you want (including Visual Studio or Xcode).
457 Check out `running CMake`_ for
458 general advice on what you are seeing and how to navigate and change
459 things. The settings you might normally want to change are already
460 presented. You may make changes, then re-configure (using ``c``), so that it
461 gets a chance to make changes that depend on yours and perform more
462 checking. It may take several configuration passes to reach the desired
463 configuration, in particular if you need to resolve errors.
464
465 When you have reached the desired configuration with ``ccmake``, the
466 build system can be generated by pressing ``g``.  This requires that the previous
467 configuration pass did not reveal any additional settings (if it did, you need
468 to configure once more with ``c``).  With ``cmake``, the build system is generated
469 after each pass that does not produce errors.
470
471 You cannot attempt to change compilers after the initial run of
472 ``cmake``. If you need to change, clean up, and start again.
473
474 .. _non-standard location:
475
476 Where to install |Gromacs|
477 ~~~~~~~~~~~~~~~~~~~~~~~~~~
478
479 |Gromacs| is installed in the directory to which
480 ``CMAKE_INSTALL_PREFIX`` points. It may not be the source directory or
481 the build directory.  You require write permissions to this
482 directory. Thus, without super-user privileges,
483 ``CMAKE_INSTALL_PREFIX`` will have to be within your home directory.
484 Even if you do have super-user privileges, you should use them only
485 for the installation phase, and never for configuring, building, or
486 running |Gromacs|!
487
488 .. _cmake options:
489
490 Using CMake command-line options
491 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
492
493 Once you become comfortable with setting and changing options, you may
494 know in advance how you will configure |Gromacs|. If so, you can speed
495 things up by invoking ``cmake`` and passing the various options at once
496 on the command line. This can be done by setting cache variable at the
497 cmake invocation using ``-DOPTION=VALUE``. Note that some
498 environment variables are also taken into account, in particular
499 variables like ``CC`` and ``CXX``.
500
501 For example, the following command line
502
503 ::
504
505     cmake .. -DGMX_GPU=ON -DGMX_MPI=ON -DCMAKE_INSTALL_PREFIX=/home/marydoe/programs
506
507 can be used to build with CUDA GPUs, MPI and install in a custom
508 location. You can even save that in a shell script to make it even
509 easier next time. You can also do this kind of thing with ``ccmake``,
510 but you should avoid this, because the options set with ``-D`` will not
511 be able to be changed interactively in that run of ``ccmake``.
512
513 .. _gmx-simd-support:
514
515 SIMD support
516 ~~~~~~~~~~~~
517
518 |Gromacs| has extensive support for detecting and using the SIMD
519 capabilities of many modern HPC CPU architectures. If you are building
520 |Gromacs| on the same hardware you will run it on, then you don't need
521 to read more about this, unless you are getting configuration warnings
522 you do not understand. By default, the |Gromacs| build system will
523 detect the SIMD instruction set supported by the CPU architecture (on
524 which the configuring is done), and thus pick the best
525 available SIMD parallelization supported by |Gromacs|. The build system
526 will also check that the compiler and linker used also support the
527 selected SIMD instruction set and issue a fatal error if they
528 do not.
529
530 Valid values are listed below, and the applicable value with the
531 largest number in the list is generally the one you should choose.
532 In most cases, choosing an inappropriate higher number will lead
533 to compiling a binary that will not run. However, on a number of
534 processor architectures choosing the highest supported value can
535 lead to performance loss, e.g. on Intel Skylake-X/SP and AMD Zen.
536
537 1. ``None`` For use only on an architecture either lacking SIMD,
538    or to which |Gromacs| has not yet been ported and none of the
539    options below are applicable.
540 2. ``SSE2`` This SIMD instruction set was introduced in Intel
541    processors in 2001, and AMD in 2003. Essentially all x86
542    machines in existence have this, so it might be a good choice if
543    you need to support dinosaur x86 computers too.
544 3. ``SSE4.1`` Present in all Intel core processors since 2007,
545    but notably not in AMD Magny-Cours. Still, almost all recent
546    processors support this, so this can also be considered a good
547    baseline if you are content with slow simulations and prefer
548    portability between reasonably modern processors.
549 4. ``AVX_128_FMA`` AMD Bulldozer, Piledriver (and later Family 15h) processors have this.
550 5. ``AVX_256`` Intel processors since Sandy Bridge (2011). While this
551    code will work on the  AMD Bulldozer and Piledriver processors, it is significantly less
552    efficient than the ``AVX_128_FMA`` choice above - do not be fooled
553    to assume that 256 is better than 128 in this case.
554 6. ``AVX2_128`` AMD Zen/Zen2 and Hygon Dhyana microarchitecture processors;
555    it will enable AVX2 with 3-way fused multiply-add instructions.
556    While these microarchitectures do support 256-bit AVX2 instructions,
557    hence ``AVX2_256`` is also supported, 128-bit will generally be faster,
558    in particular when the non-bonded tasks run on the CPU -- hence
559    the default ``AVX2_128``. With GPU offload however ``AVX2_256``
560    can be faster on Zen processors.
561 7. ``AVX2_256`` Present on Intel Haswell (and later) processors (2013),
562    and it will also enable Intel 3-way fused multiply-add instructions.
563 8. ``AVX_512`` Skylake-X desktop and Skylake-SP Xeon processors (2017);
564    it will generally be fastest on the higher-end desktop and server
565    processors with two 512-bit fused multiply-add units (e.g. Core i9
566    and Xeon Gold). However, certain desktop and server models
567    (e.g. Xeon Bronze and Silver) come with only one AVX512 FMA unit
568    and therefore on these processors ``AVX2_256`` is faster
569    (compile- and runtime checks try to inform about such cases).
570    Additionally, with GPU accelerated runs ``AVX2_256`` can also be
571    faster on high-end Skylake CPUs with both 512-bit FMA units enabled.
572 9. ``AVX_512_KNL`` Knights Landing Xeon Phi processors
573 10. ``Sparc64_HPC_ACE`` Fujitsu machines like the K computer have this.
574 11. ``IBM_VMX`` Power6 and similar Altivec processors have this.
575 12. ``IBM_VSX`` Power7, Power8, Power9 and later have this.
576 13. ``ARM_NEON`` 32-bit ARMv7 with NEON support.
577 14. ``ARM_NEON_ASIMD`` 64-bit ARMv8 and later.
578
579 The CMake configure system will check that the compiler you have
580 chosen can target the architecture you have chosen. mdrun will check
581 further at runtime, so if in doubt, choose the lowest number you
582 think might work, and see what mdrun says. The configure system also
583 works around many known issues in many versions of common HPC
584 compilers.
585
586 A further ``GMX_SIMD=Reference`` option exists, which is a special
587 SIMD-like implementation written in plain C that developers can use
588 when developing support in |Gromacs| for new SIMD architectures. It is
589 not designed for use in production simulations, but if you are using
590 an architecture with SIMD support to which |Gromacs| has not yet been
591 ported, you may wish to try this option instead of the default
592 ``GMX_SIMD=None``, as it can often out-perform this when the
593 auto-vectorization in your compiler does a good job. And post on the
594 |Gromacs| mailing lists, because |Gromacs| can probably be ported for new
595 SIMD architectures in a few days.
596
597 CMake advanced options
598 ~~~~~~~~~~~~~~~~~~~~~~
599
600 The options that are displayed in the default view of ``ccmake`` are
601 ones that we think a reasonable number of users might want to consider
602 changing. There are a lot more options available, which you can see by
603 toggling the advanced mode in ``ccmake`` on and off with ``t``. Even
604 there, most of the variables that you might want to change have a
605 ``CMAKE_`` or ``GMX_`` prefix. There are also some options that will be
606 visible or not according to whether their preconditions are satisfied.
607
608 .. _search for libraries, headers or programs:
609
610 Helping CMake find the right libraries, headers, or programs
611 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
612
613 If libraries are installed in non-default locations their location can
614 be specified using the following variables:
615
616 * ``CMAKE_INCLUDE_PATH`` for header files
617 * ``CMAKE_LIBRARY_PATH`` for libraries
618 * ``CMAKE_PREFIX_PATH`` for header, libraries and binaries
619   (e.g. ``/usr/local``).
620
621 The respective ``include``, ``lib``, or ``bin`` is
622 appended to the path. For each of these variables, a list of paths can
623 be specified (on Unix, separated with ":"). These can be set as
624 enviroment variables like:
625
626 ::
627
628     CMAKE_PREFIX_PATH=/opt/fftw:/opt/cuda cmake ..
629
630 (assuming ``bash`` shell). Alternatively, these variables are also
631 ``cmake`` options, so they can be set like
632 ``-DCMAKE_PREFIX_PATH=/opt/fftw:/opt/cuda``.
633
634 The ``CC`` and ``CXX`` environment variables are also useful
635 for indicating to ``cmake`` which compilers to use. Similarly,
636 ``CFLAGS``/``CXXFLAGS`` can be used to pass compiler
637 options, but note that these will be appended to those set by
638 |Gromacs| for your build platform and build type. You can customize
639 some of this with advanced CMake options such as ``CMAKE_C_FLAGS``
640 and its relatives.
641
642 See also the page on `CMake environment variables`_.
643
644 .. _CUDA GPU acceleration:
645
646 CUDA GPU acceleration
647 ~~~~~~~~~~~~~~~~~~~~~
648
649 If you have the CUDA_ Toolkit installed, you can use ``cmake`` with:
650
651 ::
652
653     cmake .. -DGMX_GPU=ON -DCUDA_TOOLKIT_ROOT_DIR=/usr/local/cuda
654
655 (or whichever path has your installation). In some cases, you might
656 need to specify manually which of your C++ compilers should be used,
657 e.g. with the advanced option ``CUDA_HOST_COMPILER``.
658
659 By default, code will be generated for the most common CUDA architectures.
660 However, to reduce build time and binary size we do not generate code for
661 every single possible architecture, which in rare cases (say, Tegra systems)
662 can result in the default build not being able to use some GPUs.
663 If this happens, or if you want to remove some architectures to reduce
664 binary size and build time, you can alter the target CUDA architectures.
665 This can be done either with the ``GMX_CUDA_TARGET_SM`` or
666 ``GMX_CUDA_TARGET_COMPUTE`` CMake variables, which take a semicolon delimited
667 string with the two digit suffixes of CUDA (virtual) architectures names, for
668 instance "35;50;51;52;53;60". For details, see the "Options for steering GPU
669 code generation" section of the nvcc man / help or Chapter 6. of the nvcc
670 manual.
671
672 The GPU acceleration has been tested on AMD64/x86-64 platforms with
673 Linux, Mac OS X and Windows operating systems, but Linux is the
674 best-tested and supported of these. Linux running on POWER 8 and ARM v8
675 CPUs also works well.
676
677 Experimental support is available for compiling CUDA code, both for host and
678 device, using clang (version 6.0 or later).
679 A CUDA toolkit is still required but it is used only for GPU device code
680 generation and to link against the CUDA runtime library.
681 The clang CUDA support simplifies compilation and provides benefits for development
682 (e.g. allows the use code sanitizers in CUDA host-code).
683 Additionally, using clang for both CPU and GPU compilation can be beneficial
684 to avoid compatibility issues between the GNU toolchain and the CUDA toolkit.
685 clang for CUDA can be triggered using the ``GMX_CLANG_CUDA=ON`` CMake option.
686 Target architectures can be selected with  ``GMX_CUDA_TARGET_SM``,
687 virtual architecture code is always embedded for all requested architectures
688 (hence GMX_CUDA_TARGET_COMPUTE is ignored).
689 Note that this is mainly a developer-oriented feature and it is not recommended
690 for production use as the performance can be significantly lower than that
691 of code compiled with nvcc (and it has also received less testing).
692 However, note that since clang 5.0 the performance gap is only moderate
693 (at the time of writing, about 20% slower GPU kernels), so this version
694 could be considered in non performance-critical use-cases.
695
696
697 OpenCL GPU acceleration
698 ~~~~~~~~~~~~~~~~~~~~~~~
699
700 The primary targets of the |Gromacs| OpenCL support is accelerating
701 simulations on AMD and Intel hardware. For AMD, we target both
702 discrete GPUs and APUs (integrated CPU+GPU chips), and for Intel we
703 target the integrated GPUs found on modern workstation and mobile
704 hardware. The |Gromacs| OpenCL on NVIDIA GPUs works, but performance
705 and other limitations make it less practical (for details see the user guide).
706
707 To build |Gromacs| with OpenCL_ support enabled, two components are
708 required: the OpenCL_ headers and the wrapper library that acts
709 as a client driver loader (so-called ICD loader).
710 The additional, runtime-only dependency is the vendor-specific GPU driver
711 for the device targeted. This also contains the OpenCL_ compiler.
712 As the GPU compute kernels are compiled  on-demand at run time,
713 this vendor-specific compiler and driver is not needed for building |Gromacs|.
714 The former, compile-time dependencies are standard components,
715 hence stock versions can be obtained from most Linux distribution
716 repositories (e.g. ``opencl-headers`` and ``ocl-icd-libopencl1`` on Debian/Ubuntu).
717 Only the compatibility with the required OpenCL_ version |REQUIRED_OPENCL_MIN_VERSION|
718 needs to be ensured.
719 Alternatively, the headers and library can also be obtained from vendor SDKs
720 (e.g. `from AMD <http://developer.amd.com/appsdk>`_),
721 which must be installed in a path found in ``CMAKE_PREFIX_PATH`` (or via the environment
722 variables ``AMDAPPSDKROOT`` or ``CUDA_PATH``).
723
724 To trigger an OpenCL_ build the following CMake flags must be set
725
726 ::
727
728     cmake .. -DGMX_GPU=ON -DGMX_USE_OPENCL=ON
729
730 To build with support for Intel integrated GPUs, it is required
731 to add ``-DGMX_OPENCL_NB_CLUSTER_SIZE=4`` to the cmake command line,
732 so that the GPU kernels match the characteristics of the hardware.
733 The `Neo driver <https://github.com/intel/compute-runtime/releases>`_
734 is recommended.
735
736 On Mac OS, an AMD GPU can be used only with OS version 10.10.4 and
737 higher; earlier OS versions are known to run incorrectly.
738
739 By default, any clFFT library on the system will be used with
740 |Gromacs|, but if none is found then the code will fall back on a
741 version bundled with |Gromacs|. To require |Gromacs| to link with an
742 external library, use
743
744 ::
745
746     cmake .. -DGMX_GPU=ON -DGMX_USE_OPENCL=ON -DclFFT_ROOT_DIR=/path/to/your/clFFT -DGMX_EXTERNAL_CLFFT=TRUE
747
748 Static linking
749 ~~~~~~~~~~~~~~
750
751 Dynamic linking of the |Gromacs| executables will lead to a
752 smaller disk footprint when installed, and so is the default on
753 platforms where we believe it has been tested repeatedly and found to work.
754 In general, this includes Linux, Windows, Mac OS X and BSD systems.
755 Static binaries take more space, but on some hardware and/or under
756 some conditions they are necessary, most commonly when you are running a parallel
757 simulation using MPI libraries (e.g. Cray).
758
759 * To link |Gromacs| binaries statically against the internal |Gromacs|
760   libraries, set ``-DBUILD_SHARED_LIBS=OFF``.
761 * To link statically against external (non-system) libraries as well,
762   set ``-DGMX_PREFER_STATIC_LIBS=ON``. Note, that in
763   general ``cmake`` picks up whatever is available, so this option only
764   instructs ``cmake`` to prefer static libraries when both static and
765   shared are available. If no static version of an external library is
766   available, even when the aforementioned option is ``ON``, the shared
767   library will be used. Also note that the resulting binaries will
768   still be dynamically linked against system libraries on platforms
769   where that is the default. To use static system libraries,
770   additional compiler/linker flags are necessary, e.g. ``-static-libgcc
771   -static-libstdc++``.
772 * To attempt to link a fully static binary set
773   ``-DGMX_BUILD_SHARED_EXE=OFF``. This will prevent CMake from explicitly
774   setting any dynamic linking flags. This option also sets
775   ``-DBUILD_SHARED_LIBS=OFF`` and ``-DGMX_PREFER_STATIC_LIBS=ON`` by
776   default, but the above caveats apply. For compilers which don't
777   default to static linking, the required flags have to be specified. On
778   Linux, this is usually ``CFLAGS=-static CXXFLAGS=-static``.
779
780 gmxapi C++ API
781 ~~~~~~~~~~~~~~
782
783 For dynamic linking builds and on non-Windows platforms, an extra library and
784 headers are installed by setting ``-DGMXAPI=ON`` (default).
785 Build targets ``gmxapi-cppdocs`` and ``gmxapi-cppdocs-dev`` produce documentation in
786 ``docs/api-user`` and ``docs/api-dev``, respectively.
787 For more project information and use cases,
788 refer to the tracked :issue:`2585`,
789 associated GitHub `gmxapi <https://github.com/kassonlab/gmxapi>`_ projects,
790 or DOI `10.1093/bioinformatics/bty484 <https://doi.org/10.1093/bioinformatics/bty484>`_.
791
792 gmxapi is not yet tested on Windows or with static linking, but these use cases
793 are targeted for future versions.
794
795 Portability aspects
796 ~~~~~~~~~~~~~~~~~~~
797
798 A |Gromacs| build will normally not be portable, not even across
799 hardware with the same base instruction set, like x86. Non-portable
800 hardware-specific optimizations are selected at configure-time, such
801 as the SIMD instruction set used in the compute kernels. This
802 selection will be done by the build system based on the capabilities
803 of the build host machine or otherwise specified to ``cmake`` during
804 configuration.
805
806 Often it is possible to ensure portability by choosing the least
807 common denominator of SIMD support, e.g. SSE2 for x86, and ensuring
808 the you use ``cmake -DGMX_USE_RDTSCP=off`` if any of the target CPU
809 architectures does not support the ``RDTSCP`` instruction.  However, we
810 discourage attempts to use a single |Gromacs| installation when the
811 execution environment is heterogeneous, such as a mix of AVX and
812 earlier hardware, because this will lead to programs (especially
813 mdrun) that run slowly on the new hardware. Building two full
814 installations and locally managing how to call the correct one
815 (e.g. using a module system) is the recommended
816 approach. Alternatively, as at the moment the |Gromacs| tools do not
817 make strong use of SIMD acceleration, it can be convenient to create
818 an installation with tools portable across different x86 machines, but
819 with separate mdrun binaries for each architecture. To achieve this,
820 one can first build a full installation with the
821 least-common-denominator SIMD instruction set, e.g. ``-DGMX_SIMD=SSE2``,
822 then build separate mdrun binaries for each architecture present in
823 the heterogeneous environment. By using custom binary and library
824 suffixes for the mdrun-only builds, these can be installed to the
825 same location as the "generic" tools installation.
826 `Building just the mdrun binary`_ is possible by setting the
827 ``-DGMX_BUILD_MDRUN_ONLY=ON`` option.
828
829 Linear algebra libraries
830 ~~~~~~~~~~~~~~~~~~~~~~~~
831
832 As mentioned above, sometimes vendor BLAS and LAPACK libraries
833 can provide performance enhancements for |Gromacs| when doing
834 normal-mode analysis or covariance analysis. For simplicity, the text
835 below will refer only to BLAS, but the same options are available
836 for LAPACK. By default, CMake will search for BLAS, use it if it
837 is found, and otherwise fall back on a version of BLAS internal to
838 |Gromacs|. The ``cmake`` option ``-DGMX_EXTERNAL_BLAS=on`` will be set
839 accordingly. The internal versions are fine for normal use. If you
840 need to specify a non-standard path to search, use
841 ``-DCMAKE_PREFIX_PATH=/path/to/search``. If you need to specify a
842 library with a non-standard name (e.g. ESSL on Power machines
843 or ARMPL on ARM machines), then
844 set ``-DGMX_BLAS_USER=/path/to/reach/lib/libwhatever.a``.
845
846 If you are using Intel MKL_ for FFT, then the BLAS and
847 LAPACK it provides are used automatically. This could be
848 over-ridden with ``GMX_BLAS_USER``, etc.
849
850 On Apple platforms where the Accelerate Framework is available, these
851 will be automatically used for BLAS and LAPACK. This could be
852 over-ridden with ``GMX_BLAS_USER``, etc.
853
854 .. _installing with MiMiC:
855
856 Building with MiMiC QM/MM support
857 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
858
859 MiMiC QM/MM interface integration will require linking against MiMiC
860 communication library, that establishes the communication channel
861 between |Gromacs| and CPMD. The MiMiC Communication library can be
862 downloaded `here <https://gitlab.com/MiMiC-projects/CommLib>`__.
863 Compile and install it. Check that the installation folder of the
864 MiMiC library is added to CMAKE_PREFIX_PATH if it is installed in
865 non-standard location. Building QM/MM-capable version requires
866 double-precision version of |Gromacs| compiled with MPI support:
867
868 * ``-DGMX_DOUBLE=ON -DGMX_MPI -DGMX_MIMIC=ON``
869
870 .. _suffixes:
871
872 Changing the names of |Gromacs| binaries and libraries
873 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
874
875 It is sometimes convenient to have different versions of the same
876 |Gromacs| programs installed. The most common use cases have been single
877 and double precision, and with and without MPI. This mechanism can
878 also be used to install side-by-side multiple versions of mdrun
879 optimized for different CPU architectures, as mentioned previously.
880
881 By default, |Gromacs| will suffix programs and libraries for such builds
882 with ``_d`` for double precision and/or ``_mpi`` for MPI (and nothing
883 otherwise). This can be controlled manually with ``GMX_DEFAULT_SUFFIX
884 (ON/OFF)``, ``GMX_BINARY_SUFFIX`` (takes a string) and ``GMX_LIBS_SUFFIX``
885 (also takes a string). For instance, to set a custom suffix for
886 programs and libraries, one might specify:
887
888 ::
889
890     cmake .. -DGMX_DEFAULT_SUFFIX=OFF -DGMX_BINARY_SUFFIX=_mod -DGMX_LIBS_SUFFIX=_mod
891
892 Thus the names of all programs and libraries will be appended with
893 ``_mod``.
894
895 Changing installation tree structure
896 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
897
898 By default, a few different directories under ``CMAKE_INSTALL_PREFIX`` are used
899 when when |Gromacs| is installed. Some of these can be changed, which is mainly
900 useful for packaging |Gromacs| for various distributions. The directories are
901 listed below, with additional notes about some of them. Unless otherwise noted,
902 the directories can be renamed by editing the installation paths in the main
903 CMakeLists.txt.
904
905 ``bin/``
906     The standard location for executables and some scripts.
907     Some of the scripts hardcode the absolute installation prefix, which needs
908     to be changed if the scripts are relocated.
909     The name of the directory can be changed using ``CMAKE_INSTALL_BINDIR`` CMake
910     variable.
911 ``include/gromacs/``
912     The standard location for installed headers.
913 ``lib/``
914     The standard location for libraries. The default depends on the system, and
915     is determined by CMake.
916     The name of the directory can be changed using ``CMAKE_INSTALL_LIBDIR`` CMake
917     variable.
918 ``lib/pkgconfig/``
919     Information about the installed ``libgromacs`` library for ``pkg-config`` is
920     installed here.  The ``lib/`` part adapts to the installation location of the
921     libraries.  The installed files contain the installation prefix as absolute
922     paths.
923 ``share/cmake/``
924     CMake package configuration files are installed here.
925 ``share/gromacs/``
926     Various data files and some documentation go here. The first part can
927     be changed using ``CMAKE_INSTALL_DATADIR``, and the second by using
928     ``GMX_INSTALL_DATASUBDIR`` Using these CMake variables is the preferred
929     way of changing the installation path for
930     ``share/gromacs/top/``, since the path to this directory is built into
931     ``libgromacs`` as well as some scripts, both as a relative and as an absolute
932     path (the latter as a fallback if everything else fails).
933 ``share/man/``
934     Installed man pages go here.
935
936 Compiling and linking
937 ^^^^^^^^^^^^^^^^^^^^^
938
939 Once you have configured with ``cmake``, you can build |Gromacs| with ``make``.
940 It is expected that this will always complete successfully, and
941 give few or no warnings. The CMake-time tests |Gromacs| makes on the settings
942 you choose are pretty extensive, but there are probably a few cases we
943 have not thought of yet. Search the web first for solutions to
944 problems, but if you need help, ask on gmx-users, being sure to
945 provide as much information as possible about what you did, the system
946 you are building on, and what went wrong. This may mean scrolling back
947 a long way through the output of ``make`` to find the first error
948 message!
949
950 If you have a multi-core or multi-CPU machine with ``N``
951 processors, then using
952
953 ::
954
955     make -j N
956
957 will generally speed things up by quite a bit. Other build generator systems
958 supported by ``cmake`` (e.g. ``ninja``) also work well.
959
960 .. _building just the mdrun binary:
961
962 Building only mdrun
963 ~~~~~~~~~~~~~~~~~~~
964
965 This is now supported with the ``cmake`` option
966 ``-DGMX_BUILD_MDRUN_ONLY=ON``, which will build a different version of
967 ``libgromacs`` and the ``mdrun`` program.
968 Naturally, now ``make install`` installs only those
969 products. By default, mdrun-only builds will default to static linking
970 against |Gromacs| libraries, because this is generally a good idea for
971 the targets for which an mdrun-only build is desirable.
972
973 Installing |Gromacs|
974 ^^^^^^^^^^^^^^^^^^^^
975
976 Finally, ``make install`` will install |Gromacs| in the
977 directory given in ``CMAKE_INSTALL_PREFIX``. If this is a system
978 directory, then you will need permission to write there, and you
979 should use super-user privileges only for ``make install`` and
980 not the whole procedure.
981
982 .. _getting access to |Gromacs|:
983
984 Getting access to |Gromacs| after installation
985 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
986
987 |Gromacs| installs the script ``GMXRC`` in the ``bin``
988 subdirectory of the installation directory
989 (e.g. ``/usr/local/gromacs/bin/GMXRC``), which you should source
990 from your shell:
991
992 ::
993
994     source /your/installation/prefix/here/bin/GMXRC
995
996 It will detect what kind of shell you are running and set up your
997 environment for using |Gromacs|. You may wish to arrange for your
998 login scripts to do this automatically; please search the web for
999 instructions on how to do this for your shell.
1000
1001 Many of the |Gromacs| programs rely on data installed in the
1002 ``share/gromacs`` subdirectory of the installation directory. By
1003 default, the programs will use the environment variables set in the
1004 ``GMXRC`` script, and if this is not available they will try to guess the
1005 path based on their own location.  This usually works well unless you
1006 change the names of directories inside the install tree. If you still
1007 need to do that, you might want to recompile with the new install
1008 location properly set, or edit the ``GMXRC`` script.
1009
1010 |Gromacs| also installs a CMake toolchains file to help with building client
1011 software. For an installation at ``/your/installation/prefix/here``, toolchain
1012 files will be installed at
1013 ``/your/installation/prefix/here/share/cmake/gromacs${GMX_LIBS_SUFFIX}/gromacs-toolchain${GMX_LIBS_SUFFIX}.cmake``
1014 where ``${GMX_LIBS_SUFFIX}`` is :ref:`as documented above <suffixes>`.
1015
1016 Testing |Gromacs| for correctness
1017 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
1018
1019 Since 2011, the |Gromacs| development uses an automated system where
1020 every new code change is subject to regression testing on a number of
1021 platforms and software combinations. While this improves
1022 reliability quite a lot, not everything is tested, and since we
1023 increasingly rely on cutting edge compiler features there is
1024 non-negligible risk that the default compiler on your system could
1025 have bugs. We have tried our best to test and refuse to use known bad
1026 versions in ``cmake``, but we strongly recommend that you run through
1027 the tests yourself. It only takes a few minutes, after which you can
1028 trust your build.
1029
1030 The simplest way to run the checks is to build |Gromacs| with
1031 ``-DREGRESSIONTEST_DOWNLOAD``, and run ``make check``.
1032 |Gromacs| will automatically download and run the tests for you.
1033 Alternatively, you can download and unpack the |Gromacs|
1034 regression test suite |gmx-regressiontests-package| tarball yourself
1035 and use the advanced ``cmake`` option ``REGRESSIONTEST_PATH`` to
1036 specify the path to the unpacked tarball, which will then be used for
1037 testing. If the above does not work, then please read on.
1038
1039 The regression tests are also available from the download_ section.
1040 Once you have downloaded them, unpack the tarball, source
1041 ``GMXRC`` as described above, and run ``./gmxtest.pl all``
1042 inside the regression tests folder. You can find more options
1043 (e.g. adding ``double`` when using double precision, or
1044 ``-only expanded`` to run just the tests whose names match
1045 "expanded") if you just execute the script without options.
1046
1047 Hopefully, you will get a report that all tests have passed. If there
1048 are individual failed tests it could be a sign of a compiler bug, or
1049 that a tolerance is just a tiny bit too tight. Check the output files
1050 the script directs you too, and try a different or newer compiler if
1051 the errors appear to be real. If you cannot get it to pass the
1052 regression tests, you might try dropping a line to the gmx-users
1053 mailing list, but then you should include a detailed description of
1054 your hardware, and the output of ``gmx mdrun -version`` (which contains
1055 valuable diagnostic information in the header).
1056
1057 A build with ``-DGMX_BUILD_MDRUN_ONLY`` cannot be tested with
1058 ``make check`` from the build tree, because most of the tests
1059 require a full build to run things like ``grompp``. To test such an
1060 mdrun fully requires installing it to the same location as a normal
1061 build of |Gromacs|, downloading the regression tests tarball manually
1062 as described above, sourcing the correct ``GMXRC`` and running the
1063 perl script manually. For example, from your |Gromacs| source
1064 directory:
1065
1066 ::
1067
1068     mkdir build-normal
1069     cd build-normal
1070     cmake .. -DCMAKE_INSTALL_PREFIX=/your/installation/prefix/here
1071     make -j 4
1072     make install
1073     cd ..
1074     mkdir build-mdrun-only
1075     cd build-mdrun-only
1076     cmake .. -DGMX_MPI=ON -DGMX_GPU=ON -DGMX_BUILD_MDRUN_ONLY=ON -DCMAKE_INSTALL_PREFIX=/your/installation/prefix/here
1077     make -j 4
1078     make install
1079     cd /to/your/unpacked/regressiontests
1080     source /your/installation/prefix/here/bin/GMXRC
1081     ./gmxtest.pl all -np 2
1082
1083 If your mdrun program has been suffixed in a non-standard way, then
1084 the ``./gmxtest.pl -mdrun`` option will let you specify that name to the
1085 test machinery. You can use ``./gmxtest.pl -double`` to test the
1086 double-precision version. You can use ``./gmxtest.pl -crosscompiling``
1087 to stop the test harness attempting to check that the programs can
1088 be run. You can use ``./gmxtest.pl -mpirun srun`` if your command to
1089 run an MPI program is called ``srun``.
1090
1091 The ``make check`` target also runs integration-style tests that may run
1092 with MPI if ``GMX_MPI=ON`` was set. To make these work with various possible
1093 MPI libraries, you may need to
1094 set the CMake variables ``MPIEXEC``, ``MPIEXEC_NUMPROC_FLAG``,
1095 ``MPIEXEC_PREFLAGS`` and ``MPIEXEC_POSTFLAGS`` so that
1096 ``mdrun-mpi-test_mpi`` would run on multiple ranks via the shell command
1097
1098 ::
1099
1100     ${MPIEXEC} ${MPIEXEC_NUMPROC_FLAG} ${NUMPROC} ${MPIEXEC_PREFLAGS} \
1101           mdrun-mpi-test_mpi ${MPIEXEC_POSTFLAGS} -otherflags
1102
1103 A typical example for SLURM is
1104
1105 ::
1106
1107      cmake .. -DGMX_MPI=on -DMPIEXEC=srun -DMPIEXEC_NUMPROC_FLAG=-n -DMPIEXEC_PREFLAGS= -DMPIEXEC_POSTFLAGS=
1108
1109
1110 Testing |Gromacs| for performance
1111 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
1112
1113 We are still working on a set of benchmark systems for testing
1114 the performance of |Gromacs|. Until that is ready, we recommend that
1115 you try a few different parallelization options, and experiment with
1116 tools such as ``gmx tune_pme``.
1117
1118 Validating |Gromacs| for source code modifications
1119 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
1120
1121 When building |Gromacs| from a release tarball, the build process automatically
1122 checks if any file contributing to the build process have been modified since they have
1123 been packed in the archive. This results in the marking of the version as either ``MODIFIED``
1124 (if the source files have been modified) or ``UNCHECKED`` (if no validation was possible, e.g.
1125 if no Python installation was found). The actual checking is performed by comparing a checksum
1126 stored in the release tarball against one generated by the ``createFileHash.py`` Python script
1127 during the build configuration. When running a |Gromacs| binary, the checksum is also printed
1128 in the log file, together with a message if there is a mismatch or no validation has been possible.
1129
1130 This allows users to check whether the binary they are using was built from source code that is
1131 identical to the source code released by the |Gromacs| team. Thus unintentional modifications
1132 to the source code for building binaries that are used for running production simulations
1133 are easily detectable. Additionally, by manually setting a version tag using the
1134 GMX_VERSION_STRING_OF_FORK cmake option, users can mark a modified |Gromacs| release
1135 code with their custom version string suffix.
1136
1137 Having difficulty?
1138 ^^^^^^^^^^^^^^^^^^
1139
1140 You are not alone - this can be a complex task! If you encounter a
1141 problem with installing |Gromacs|, then there are a number of
1142 locations where you can find assistance. It is recommended that you
1143 follow these steps to find the solution:
1144
1145 1. Read the installation instructions again, taking note that you
1146    have followed each and every step correctly.
1147
1148 2. Search the |Gromacs| webpage_ and users emailing list for information
1149    on the error. Adding
1150    ``site:https://mailman-1.sys.kth.se/pipermail/gromacs.org_gmx-users``
1151    to a Google search may help filter better results.
1152
1153 3. Search the internet using a search engine such as Google.
1154
1155 4. Post to the |Gromacs| users emailing list gmx-users for
1156    assistance. Be sure to give a full description of what you have
1157    done and why you think it did not work. Give details about the
1158    system on which you are installing.  Copy and paste your command
1159    line and as much of the output as you think might be relevant -
1160    certainly from the first indication of a problem. In particular,
1161    please try to include at least the header from the mdrun logfile,
1162    and preferably the entire file.  People who might volunteer to help
1163    you do not have time to ask you interactive detailed follow-up
1164    questions, so you will get an answer faster if you provide as much
1165    information as you think could possibly help. High quality bug
1166    reports tend to receive rapid high quality answers.
1167
1168 .. _gmx-special-build:
1169
1170 Special instructions for some platforms
1171 ---------------------------------------
1172
1173 Building on Windows
1174 ^^^^^^^^^^^^^^^^^^^
1175
1176 Building on Windows using native compilers is rather similar to
1177 building on Unix, so please start by reading the above. Then, download
1178 and unpack the |Gromacs| source archive. Make a folder in which to do
1179 the out-of-source build of |Gromacs|. For example, make it within the
1180 folder unpacked from the source archive, and call it ``build-gromacs``.
1181
1182 For CMake, you can either use the graphical user interface provided on
1183 Windows, or you can use a command line shell with instructions similar
1184 to the UNIX ones above. If you open a shell from within your IDE
1185 (e.g. Microsoft Visual Studio), it will configure the environment for
1186 you, but you might need to tweak this in order to get either a 32-bit
1187 or 64-bit build environment. The latter provides the fastest
1188 executable. If you use a normal Windows command shell, then you will
1189 need to either set up the environment to find your compilers and
1190 libraries yourself, or run the ``vcvarsall.bat`` batch script provided
1191 by MSVC (just like sourcing a bash script under Unix).
1192
1193 With the graphical user interface, you will be asked about what
1194 compilers to use at the initial configuration stage, and if you use
1195 the command line they can be set in a similar way as under UNIX.
1196
1197 Unfortunately ``-DGMX_BUILD_OWN_FFTW=ON`` (see `Using FFTW`_) does not
1198 work on Windows, because there is no supported way to build FFTW on
1199 Windows. You can either build FFTW some other way (e.g. MinGW), or
1200 use the built-in fftpack (which may be slow), or `using MKL`_.
1201
1202 For the build, you can either load the generated solutions file into
1203 e.g. Visual Studio, or use the command line with ``cmake --build`` so
1204 the right tools get used.
1205
1206 Building on Cray
1207 ^^^^^^^^^^^^^^^^
1208
1209 |Gromacs| builds mostly out of the box on modern Cray machines, but
1210 you may need to specify the use of static binaries with
1211 ``-DGMX_BUILD_SHARED_EXE=off``, and you may need to set the F77
1212 environmental variable to ``ftn`` when compiling FFTW.
1213 The ARM ThunderX2 Cray XC50 machines differ only in that the recommended
1214 compiler is the ARM HPC Compiler (``armclang``).
1215
1216
1217 Building on Solaris
1218 ^^^^^^^^^^^^^^^^^^^
1219
1220 The built-in |Gromacs| processor detection does not work on Solaris,
1221 so it is strongly recommended that you build |Gromacs| with
1222 ``-DGMX_HWLOC=on`` and ensure that the ``CMAKE_PREFIX_PATH`` includes
1223 the path where the hwloc headers and libraries can be found. At least
1224 version 1.11.8 of hwloc is recommended.
1225
1226 Oracle Developer Studio is not a currently supported compiler (and
1227 does not currently compile |Gromacs| correctly, perhaps because the
1228 thread-MPI atomics are incorrectly implemented in |Gromacs|).
1229
1230 Fujitsu PRIMEHPC
1231 ^^^^^^^^^^^^^^^^
1232
1233 This is the architecture of the K computer, which uses Fujitsu
1234 Sparc64VIIIfx chips. On this platform, |Gromacs| has
1235 accelerated group kernels using the HPC-ACE instructions, no
1236 accelerated Verlet kernels, and a custom build toolchain. Since this
1237 particular chip only does double precision SIMD, the default setup
1238 is to build |Gromacs| in double. Since most users only need single, we have added
1239 an option GMX_RELAXED_DOUBLE_PRECISION to accept single precision square root
1240 accuracy in the group kernels; unless you know that you really need 15 digits
1241 of accuracy in each individual force, we strongly recommend you use this. Note
1242 that all summation and other operations are still done in double.
1243
1244 The recommended configuration is to use
1245
1246 ::
1247
1248     cmake .. -DCMAKE_TOOLCHAIN_FILE=Toolchain-Fujitsu-Sparc64-mpi.cmake \
1249              -DCMAKE_PREFIX_PATH=/your/fftw/installation/prefix \
1250              -DCMAKE_INSTALL_PREFIX=/where/gromacs/should/be/installed \
1251              -DGMX_MPI=ON \
1252              -DGMX_BUILD_MDRUN_ONLY=ON \
1253              -DGMX_RELAXED_DOUBLE_PRECISION=ON
1254     make
1255     make install
1256
1257 Intel Xeon Phi
1258 ^^^^^^^^^^^^^^
1259
1260 Xeon Phi processors, hosted or self-hosted, are supported.
1261 Only symmetric (aka native) mode is supported on Knights Corner. The
1262 performance depends among other factors on the system size, and for
1263 now the performance might not be faster than CPUs. When building for it,
1264 the recommended configuration is
1265
1266 ::
1267
1268     cmake .. -DCMAKE_TOOLCHAIN_FILE=Platform/XeonPhi
1269     make
1270     make install
1271
1272
1273 The Knights Landing-based Xeon Phi processors behave like standard x86 nodes,
1274 but support a special SIMD instruction set. When cross-compiling for such nodes,
1275 use the ``AVX_512_KNL`` SIMD flavor.
1276 Knights Landing processors support so-called "clustering modes" which
1277 allow reconfiguring the memory subsystem for lower latency. |Gromacs| can
1278 benefit from the quadrant or SNC clustering modes.
1279 Care needs to be taken to correctly pin threads. In particular, threads of
1280 an MPI rank should not cross cluster and NUMA boundaries.
1281 In addition to the main DRAM memory, Knights Landing has a high-bandwidth
1282 stacked memory called MCDRAM. Using it offers performance benefits if
1283 it is ensured that ``mdrun`` runs entirely from this memory; to do so
1284 it is recommended that MCDRAM is configured in "Flat mode" and ``mdrun`` is
1285 bound to the appropriate NUMA node (use e.g. ``numactl --membind 1`` with
1286 quadrant clustering mode).
1287
1288
1289 Tested platforms
1290 ----------------
1291
1292 While it is our best belief that |Gromacs| will build and run pretty
1293 much everywhere, it is important that we tell you where we really know
1294 it works because we have tested it. We do test on Linux, Windows, and
1295 Mac with a range of compilers and libraries for a range of our
1296 configuration options. Every commit in our git source code repository
1297 is currently tested on x86 with a number of gcc versions ranging from 5.1
1298 through 9.1, version 19 of the Intel compiler, and Clang
1299 versions 3.6 through 8. For this, we use a variety of GNU/Linux
1300 flavors and versions as well as Windows (where we test only MSVC 2017).
1301 Other compiler, library, and OS versions are tested less frequently.
1302 For details, you can
1303 have a look at the `continuous integration server used by GROMACS`_,
1304 which runs Jenkins_.
1305
1306 We test irregularly on ARM v8, Cray, Power8, Power9,
1307 Google Native Client and other environments, and
1308 with other compilers and compiler versions, too.