fc7e8c93be4c50e30162986e4fc7bcf445422463
[alexxy/gromacs.git] / docs / install-guide / index.rst
1 .. Note that this must be a single rst file in order for Sphinx
2    to build into into a single plain-text file to place in the
3    installation tarball.
4
5 .. _install guide:
6
7 ******************
8 Installation guide
9 ******************
10
11 .. highlight:: bash
12
13 Introduction to building |Gromacs|
14 ----------------------------------
15
16 These instructions pertain to building |Gromacs|
17 |version|. You might also want to check the `up-to-date installation instructions`_.
18
19 Quick and dirty installation
20 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^
21 1. Get the latest version of your C and C++ compilers.
22 2. Check that you have CMake version |CMAKE_MINIMUM_REQUIRED_VERSION| or later.
23 3. Get and unpack the latest version of the |Gromacs| tarball.
24 4. Make a separate build directory and change to it.
25 5. Run ``cmake`` with the path to the source as an argument
26 6. Run ``make``, ``make check``, and ``make install``
27 7. Source ``GMXRC`` to get access to |Gromacs|
28
29 Or, as a sequence of commands to execute:
30
31 .. parsed-literal::
32
33     tar xfz gromacs-|version|.tar.gz
34     cd gromacs-|version|
35     mkdir build
36     cd build
37     cmake .. -DGMX_BUILD_OWN_FFTW=ON -DREGRESSIONTEST_DOWNLOAD=ON
38     make
39     make check
40     sudo make install
41     source /usr/local/gromacs/bin/GMXRC
42
43 This will download and build first the prerequisite FFT library
44 followed by |Gromacs|. If you already have FFTW installed, you can
45 remove that argument to ``cmake``. Overall, this build of |Gromacs|
46 will be correct and reasonably fast on the machine upon which
47 ``cmake`` ran. On another machine, it may not run, or may not run
48 fast. If you want to get the maximum value for your hardware with
49 |Gromacs|, you will have to read further. Sadly, the interactions of
50 hardware, libraries, and compilers are only going to continue to get
51 more complex.
52
53 Quick and dirty cluster installation
54 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
55
56 On a cluster where users are expected to be running across multiple
57 nodes using MPI, make one installation similar to the above, and
58 another using ``-DGMX_MPI=on`` and which is `building only
59 mdrun`_, because that is the only component of |Gromacs| that uses
60 MPI. The latter will install a single simulation engine binary,
61 i.e. ``mdrun_mpi`` when the default suffix is used. Hence it is safe
62 and common practice to install this into the same location where
63 the non-MPI build is installed.
64
65 Typical installation
66 ^^^^^^^^^^^^^^^^^^^^
67
68 As above, and with further details below, but you should consider
69 using the following `CMake options`_ with the
70 appropriate value instead of ``xxx`` :
71
72 * ``-DCMAKE_C_COMPILER=xxx`` equal to the name of the C99 `Compiler`_ you wish to use (or the environment variable ``CC``)
73 * ``-DCMAKE_CXX_COMPILER=xxx`` equal to the name of the C++98 `compiler`_ you wish to use (or the environment variable ``CXX``)
74 * ``-DGMX_MPI=on`` to build using `MPI support`_ (generally good to combine with `building only mdrun`_)
75 * ``-DGMX_GPU=on`` to build using nvcc to run using NVIDIA `CUDA GPU acceleration`_ or an OpenCL_ GPU
76 * ``-DGMX_USE_OPENCL=on`` to build with OpenCL_ support enabled. ``GMX_GPU`` must also be set.
77 * ``-DGMX_SIMD=xxx`` to specify the level of `SIMD support`_ of the node on which |Gromacs| will run
78 * ``-DGMX_BUILD_MDRUN_ONLY=on`` for `building only mdrun`_, e.g. for compute cluster back-end nodes
79 * ``-DGMX_DOUBLE=on`` to build |Gromacs| in double precision (slower, and not normally useful)
80 * ``-DCMAKE_PREFIX_PATH=xxx`` to add a non-standard location for CMake to `search for libraries, headers or programs`_
81 * ``-DCMAKE_INSTALL_PREFIX=xxx`` to install |Gromacs| to a `non-standard location`_ (default ``/usr/local/gromacs``)
82 * ``-DBUILD_SHARED_LIBS=off`` to turn off the building of shared libraries to help with `static linking`_
83 * ``-DGMX_FFT_LIBRARY=xxx`` to select whether to use ``fftw3``, ``mkl`` or ``fftpack`` libraries for `FFT support`_
84 * ``-DCMAKE_BUILD_TYPE=Debug`` to build |Gromacs| in debug mode
85
86 Building older versions
87 ^^^^^^^^^^^^^^^^^^^^^^^
88
89 Installation instructions for old |Gromacs| versions can be found at
90 the |Gromacs| `documentation page
91 <http://manual.gromacs.org/documentation>`_.
92
93 Prerequisites
94 -------------
95
96 Platform
97 ^^^^^^^^
98
99 |Gromacs| can be compiled for many operating systems and
100 architectures.  These include any distribution of Linux, Mac OS X or
101 Windows, and architectures including x86, AMD64/x86-64, several
102 PowerPC including POWER8, ARM v7, ARM v8, and SPARC VIII.
103
104 Compiler
105 ^^^^^^^^
106
107 |Gromacs| can be compiled on any platform with ANSI C99 and C++14
108 compilers, and their respective standard C/C++ libraries. Good
109 performance on an OS and architecture requires choosing a good
110 compiler. We recommend gcc, because it is free, widely available and
111 frequently provides the best performance.
112
113 You should strive to use the most recent version of your
114 compiler. Since we require full C++14 support the minimum supported
115 compiler versions are
116
117 * GNU (gcc) 5.1
118 * Intel (icc) 17.0.1
119 * LLVM (clang) 3.6
120 * Microsoft (MSVC) 2017
121
122 Other compilers may work (Cray, Pathscale, older clang) but do
123 not offer competitive performance. We recommend against PGI because
124 the performance with C++ is very bad.
125
126 The xlc compiler is not supported and version 16.1 does not compile on
127 POWER architectures for |Gromacs|\ -\ |version|. We recommend to use
128 the gcc compiler instead, as it is being extensively tested.
129
130 You may also need the most recent version of other compiler toolchain
131 components beside the compiler itself (e.g. assembler or linker);
132 these are often shipped by your OS distribution's binutils package.
133
134 C++14 support requires adequate support in both the compiler and the
135 C++ library. The gcc and MSVC compilers include their own standard
136 libraries and require no further configuration. For configuration of
137 other compilers, read on.
138
139 On Linux, both the Intel and clang compiler use the libstdc++ which
140 comes with gcc as the default C++ library. For |Gromacs|, we require
141 the compiler to support libstc++ version 5.1 or higher. To select a
142 particular libstdc++ library, use:
143
144 * For Intel: ``-DCMAKE_CXX_FLAGS=-gcc-name=/path/to/gcc/binary``
145   or make sure that the correct gcc version is first in path (e.g. by
146   loading the gcc module). It can also be useful to add
147   ``-DCMAKE_CXX_LINK_FLAGS="-Wl,-rpath,/path/to/gcc/lib64
148   -L/path/to/gcc/lib64"`` to ensure linking works correctly.
149 * For clang:
150   ``-DCMAKE_CXX_FLAGS=--gcc-toolchain=/path/to/gcc/folder``. This
151   folder should contain ``include/c++``.
152
153 On Windows with the Intel compiler, the MSVC standard library is used,
154 and at least MSVC 2017 is required. Load the enviroment variables with
155 vcvarsall.bat.
156
157 To build with clang and llvm's libcxx standard library, use
158 ``-DCMAKE_CXX_FLAGS=-stdlib=libc++``.
159
160 If you are running on Mac OS X, the best option is the Intel
161 compiler. Both clang and gcc will work, but they produce lower
162 performance and each have some shortcomings. clang 3.8 now offers
163 support for OpenMP, and so may provide decent performance.
164
165 For all non-x86 platforms, your best option is typically to use gcc or
166 the vendor's default or recommended compiler, and check for
167 specialized information below.
168
169 For updated versions of gcc to add to your Linux OS, see
170
171 * Ubuntu: `Ubuntu toolchain ppa page`_
172 * RHEL/CentOS: `EPEL page`_ or the RedHat Developer Toolset
173
174 Compiling with parallelization options
175 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
176
177 For maximum performance you will need to examine how you will use
178 |Gromacs| and what hardware you plan to run on. Often OpenMP_
179 parallelism is an advantage for |Gromacs|, but support for this is
180 generally built into your compiler and detected automatically.
181
182 .. _gmx-gpu-support:
183
184 GPU support
185 ~~~~~~~~~~~
186
187 |Gromacs| has excellent support for NVIDIA GPUs supported via CUDA.
188 On Linux, NVIDIA CUDA_ toolkit with minimum version |REQUIRED_CUDA_VERSION|
189 is required, and the latest version is strongly encouraged. NVIDIA GPUs with at
190 least NVIDIA compute capability |REQUIRED_CUDA_COMPUTE_CAPABILITY| are
191 required. You are strongly recommended to
192 get the latest CUDA version and driver that supports your hardware, but
193 beware of possible performance regressions in newer CUDA versions on
194 older hardware.
195 While some CUDA compilers (nvcc) might not
196 officially support recent versions of gcc as the back-end compiler, we
197 still recommend that you at least use a gcc version recent enough to
198 get the best SIMD support for your CPU, since |Gromacs| always runs some
199 code on the CPU. It is most reliable to use the same C++ compiler
200 version for |Gromacs| code as used as the host compiler for nvcc.
201
202 To make it possible to use other accelerators, |Gromacs| also includes
203 OpenCL_ support. The minimum OpenCL version required is
204 |REQUIRED_OPENCL_MIN_VERSION|. The current OpenCL implementation is recommended for
205 use with GCN-based AMD GPUs, and on Linux we recommend the ROCm runtime.
206 Intel integrated GPUs are supported with the Neo drivers.
207 OpenCL is also supported with NVIDIA GPUs, but using
208 the latest NVIDIA driver (which includes the NVIDIA OpenCL runtime) is
209 recommended. Also note that there are performance limitations (inherent
210 to the NVIDIA OpenCL runtime).
211 It is not possible to configure both CUDA and OpenCL
212 support in the same build of |Gromacs|, nor to support both
213 Intel and other vendors' GPUs with OpenCL.
214
215 .. _mpi-support:
216
217 MPI support
218 ~~~~~~~~~~~
219
220 |Gromacs| can run in parallel on multiple cores of a single
221 workstation using its built-in thread-MPI. No user action is required
222 in order to enable this.
223
224 If you wish to run in parallel on multiple machines across a network,
225 you will need to have
226
227 * an MPI library installed that supports the MPI 1.3
228   standard, and
229 * wrapper compilers that will compile code using that library.
230
231 To compile with MPI set your compiler to the normal (non-MPI) compiler
232 and add ``-DGMX_MPI=on`` to the cmake options. It is possible to set
233 the compiler to the MPI compiler wrapper but it is neither necessary
234 nor recommended.
235
236 The |Gromacs| team recommends OpenMPI_ version
237 1.6 (or higher), MPICH_ version 1.4.1 (or
238 higher), or your hardware vendor's MPI installation. The most recent
239 version of either of these is likely to be the best. More specialized
240 networks might depend on accelerations only available in the vendor's
241 library. LAM-MPI_ might work, but since it has
242 been deprecated for years, it is not supported.
243
244 CMake
245 ^^^^^
246
247 |Gromacs| builds with the CMake build system, requiring at least
248 version |CMAKE_MINIMUM_REQUIRED_VERSION|. You can check whether
249 CMake is installed, and what version it is, with ``cmake
250 --version``. If you need to install CMake, then first check whether
251 your platform's package management system provides a suitable version,
252 or visit the `CMake installation page`_ for pre-compiled binaries,
253 source code and installation instructions. The |Gromacs| team
254 recommends you install the most recent version of CMake you can.
255
256 .. _FFT support:
257
258 Fast Fourier Transform library
259 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
260
261 Many simulations in |Gromacs| make extensive use of fast Fourier
262 transforms, and a software library to perform these is always
263 required. We recommend FFTW_ (version 3 or higher only) or Intel
264 MKL_. The choice of library can be set with ``cmake
265 -DGMX_FFT_LIBRARY=<name>``, where ``<name>`` is one of ``fftw3``,
266 ``mkl``, or ``fftpack``. FFTPACK is bundled with |Gromacs| as a
267 fallback, and is acceptable if simulation performance is not a
268 priority. When choosing MKL, |Gromacs| will also use MKL for BLAS and
269 LAPACK (see `linear algebra libraries`_). Generally, there is no
270 advantage in using MKL with |Gromacs|, and FFTW is often faster.
271 With PME GPU offload support using CUDA, a GPU-based FFT library
272 is required. The CUDA-based GPU FFT library cuFFT is part of the
273 CUDA toolkit (required for all CUDA builds) and therefore no additional
274 software component is needed when building with CUDA GPU acceleration.
275
276 Using FFTW
277 ~~~~~~~~~~
278
279 FFTW_ is likely to be available for your platform via its package
280 management system, but there can be compatibility and significant
281 performance issues associated with these packages. In particular,
282 |Gromacs| simulations are normally run in "mixed" floating-point
283 precision, which is suited for the use of single precision in
284 FFTW. The default FFTW package is normally in double
285 precision, and good compiler options to use for FFTW when linked to
286 |Gromacs| may not have been used. Accordingly, the |Gromacs| team
287 recommends either
288
289 * that you permit the |Gromacs| installation to download and
290   build FFTW from source automatically for you (use
291   ``cmake -DGMX_BUILD_OWN_FFTW=ON``), or
292 * that you build FFTW from the source code.
293
294 If you build FFTW from source yourself, get the most recent version
295 and follow the `FFTW installation guide`_. Choose the precision for
296 FFTW (i.e. single/float vs. double) to match whether you will later
297 use mixed or double precision for |Gromacs|. There is no need to
298 compile FFTW with threading or MPI support, but it does no harm. On
299 x86 hardware, compile with *both* ``--enable-sse2`` and
300 ``--enable-avx`` for FFTW-3.3.4 and earlier. From FFTW-3.3.5, you
301 should also add ``--enable-avx2`` also. On Intel processors supporting
302 512-wide AVX, including KNL, add ``--enable-avx512`` also.
303 FFTW will create a fat library with codelets for all different instruction sets,
304 and pick the fastest supported one at runtime.
305 On ARM architectures with NEON SIMD support and IBM Power8 and later, you
306 definitely want version 3.3.5 or later,
307 and to compile it with ``--enable-neon`` and ``--enable-vsx``, respectively, for
308 SIMD support. If you are using a Cray, there is a special modified
309 (commercial) version of FFTs using the FFTW interface which can be
310 slightly faster.
311
312 Using MKL
313 ~~~~~~~~~
314
315 Use MKL bundled with Intel compilers by setting up the compiler
316 environment, e.g., through ``source /path/to/compilervars.sh intel64``
317 or similar before running CMake including setting
318 ``-DGMX_FFT_LIBRARY=mkl``.
319
320 If you need to customize this further, use
321
322 ::
323
324     cmake -DGMX_FFT_LIBRARY=mkl \
325           -DMKL_LIBRARIES="/full/path/to/libone.so;/full/path/to/libtwo.so" \
326           -DMKL_INCLUDE_DIR="/full/path/to/mkl/include"
327
328 The full list and order(!) of libraries you require are found in Intel's MKL documentation for your system.
329
330 Using ARM Performance Libraries
331 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
332
333 The ARM Performance Libraries provides FFT transforms implementation for ARM
334 architectures.
335 Preliminary support is provided for ARMPL in |Gromacs| through its FFTW-compatible API.
336 Assuming that the ARM HPC toolchain environment including the ARMPL paths
337 are set up (e.g. through loading the appropriate modules like
338 ``module load Module-Prefix/arm-hpc-compiler-X.Y/armpl/X.Y``) use the following cmake
339 options:
340
341 ::
342
343     cmake -DGMX_FFT_LIBRARY=fftw3 \
344           -DFFTWF_LIBRARY="${ARMPL_DIR}/lib/libarmpl_lp64.so" \
345           -DFFTWF_INCLUDE_DIR=${ARMPL_DIR}/include
346
347
348 Other optional build components
349 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
350
351 * Run-time detection of hardware capabilities can be improved by
352   linking with hwloc, which is automatically enabled if detected.
353 * Hardware-optimized BLAS and LAPACK libraries are useful
354   for a few of the |Gromacs| utilities focused on normal modes and
355   matrix manipulation, but they do not provide any benefits for normal
356   simulations. Configuring these is discussed at
357   `linear algebra libraries`_.
358 * The built-in |Gromacs| trajectory viewer ``gmx view`` requires X11 and
359   Motif/Lesstif libraries and header files. You may prefer to use
360   third-party software for visualization, such as VMD_ or PyMol_.
361 * An external TNG library for trajectory-file handling can be used
362   by setting ``-DGMX_EXTERNAL_TNG=yes``, but TNG
363   |GMX_TNG_MINIMUM_REQUIRED_VERSION| is bundled in the |Gromacs|
364   source already.
365 * The lmfit library for Levenberg-Marquardt curve fitting is used in
366   |Gromacs|. Only lmfit |GMX_LMFIT_REQUIRED_VERSION| is supported.  A
367   reduced version of that library is bundled in the |Gromacs|
368   distribution, and the default build uses it. That default may be
369   explicitly enabled with ``-DGMX_USE_LMFIT=internal``. To use an
370   external lmfit library, set ``-DGMX_USE_LMFIT=external``, and adjust
371   ``CMAKE_PREFIX_PATH`` as needed.  lmfit support can be disabled with
372   ``-DGMX_USE_LMFIT=none``.
373 * zlib is used by TNG for compressing some kinds of trajectory data
374 * Building the |Gromacs| documentation is optional, and requires
375   ImageMagick, pdflatex, bibtex, doxygen, python 2.7, sphinx
376   |EXPECTED_SPHINX_VERSION|, and pygments.
377 * The |Gromacs| utility programs often write data files in formats
378   suitable for the Grace plotting tool, but it is straightforward to
379   use these files in other plotting programs, too.
380
381 Doing a build of |Gromacs|
382 --------------------------
383
384 This section will cover a general build of |Gromacs| with CMake_, but it
385 is not an exhaustive discussion of how to use CMake. There are many
386 resources available on the web, which we suggest you search for when
387 you encounter problems not covered here. The material below applies
388 specifically to builds on Unix-like systems, including Linux, and Mac
389 OS X. For other platforms, see the specialist instructions below.
390
391 .. _configure-cmake:
392
393 Configuring with CMake
394 ^^^^^^^^^^^^^^^^^^^^^^
395
396 CMake will run many tests on your system and do its best to work out
397 how to build |Gromacs| for you. If your build machine is the same as
398 your target machine, then you can be sure that the defaults and
399 detection will be pretty good. However, if you want to control aspects
400 of the build, or you are compiling on a cluster head node for back-end
401 nodes with a different architecture, there are a few things you
402 should consider specifying.
403
404 The best way to use CMake to configure |Gromacs| is to do an
405 "out-of-source" build, by making another directory from which you will
406 run CMake. This can be outside the source directory, or a subdirectory
407 of it. It also means you can never corrupt your source code by trying
408 to build it! So, the only required argument on the CMake command line
409 is the name of the directory containing the ``CMakeLists.txt`` file of
410 the code you want to build. For example, download the source tarball
411 and use
412
413 .. parsed-literal::
414
415     tar xfz gromacs-|version|.tgz
416     cd gromacs-|version|
417     mkdir build-gromacs
418     cd build-gromacs
419     cmake ..
420
421 You will see ``cmake`` report a sequence of results of tests and
422 detections done by the |Gromacs| build system. These are written to the
423 ``cmake`` cache, kept in ``CMakeCache.txt``. You can edit this file by
424 hand, but this is not recommended because you could make a mistake.
425 You should not attempt to move or copy this file to do another build,
426 because file paths are hard-coded within it. If you mess things up,
427 just delete this file and start again with ``cmake``.
428
429 If there is a serious problem detected at this stage, then you will see
430 a fatal error and some suggestions for how to overcome it. If you are
431 not sure how to deal with that, please start by searching on the web
432 (most computer problems already have known solutions!) and then
433 consult the gmx-users mailing list. There are also informational
434 warnings that you might like to take on board or not. Piping the
435 output of ``cmake`` through ``less`` or ``tee`` can be
436 useful, too.
437
438 Once ``cmake`` returns, you can see all the settings that were chosen
439 and information about them by using e.g. the curses interface
440
441 ::
442
443     ccmake ..
444
445 You can actually use ``ccmake`` (available on most Unix platforms)
446 directly in the first step, but then
447 most of the status messages will merely blink in the lower part
448 of the terminal rather than be written to standard output. Most platforms
449 including Linux, Windows, and Mac OS X even have native graphical user interfaces for
450 ``cmake``, and it can create project files for almost any build environment
451 you want (including Visual Studio or Xcode).
452 Check out `running CMake`_ for
453 general advice on what you are seeing and how to navigate and change
454 things. The settings you might normally want to change are already
455 presented. You may make changes, then re-configure (using ``c``), so that it
456 gets a chance to make changes that depend on yours and perform more
457 checking. It may take several configuration passes to reach the desired
458 configuration, in particular if you need to resolve errors.
459
460 When you have reached the desired configuration with ``ccmake``, the
461 build system can be generated by pressing ``g``.  This requires that the previous
462 configuration pass did not reveal any additional settings (if it did, you need
463 to configure once more with ``c``).  With ``cmake``, the build system is generated
464 after each pass that does not produce errors.
465
466 You cannot attempt to change compilers after the initial run of
467 ``cmake``. If you need to change, clean up, and start again.
468
469 .. _non-standard location:
470
471 Where to install |Gromacs|
472 ~~~~~~~~~~~~~~~~~~~~~~~~~~
473
474 |Gromacs| is installed in the directory to which
475 ``CMAKE_INSTALL_PREFIX`` points. It may not be the source directory or
476 the build directory.  You require write permissions to this
477 directory. Thus, without super-user privileges,
478 ``CMAKE_INSTALL_PREFIX`` will have to be within your home directory.
479 Even if you do have super-user privileges, you should use them only
480 for the installation phase, and never for configuring, building, or
481 running |Gromacs|!
482
483 .. _cmake options:
484
485 Using CMake command-line options
486 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
487
488 Once you become comfortable with setting and changing options, you may
489 know in advance how you will configure |Gromacs|. If so, you can speed
490 things up by invoking ``cmake`` and passing the various options at once
491 on the command line. This can be done by setting cache variable at the
492 cmake invocation using ``-DOPTION=VALUE``. Note that some
493 environment variables are also taken into account, in particular
494 variables like ``CC`` and ``CXX``.
495
496 For example, the following command line
497
498 ::
499
500     cmake .. -DGMX_GPU=ON -DGMX_MPI=ON -DCMAKE_INSTALL_PREFIX=/home/marydoe/programs
501
502 can be used to build with CUDA GPUs, MPI and install in a custom
503 location. You can even save that in a shell script to make it even
504 easier next time. You can also do this kind of thing with ``ccmake``,
505 but you should avoid this, because the options set with ``-D`` will not
506 be able to be changed interactively in that run of ``ccmake``.
507
508 .. _gmx-simd-support:
509
510 SIMD support
511 ~~~~~~~~~~~~
512
513 |Gromacs| has extensive support for detecting and using the SIMD
514 capabilities of many modern HPC CPU architectures. If you are building
515 |Gromacs| on the same hardware you will run it on, then you don't need
516 to read more about this, unless you are getting configuration warnings
517 you do not understand. By default, the |Gromacs| build system will
518 detect the SIMD instruction set supported by the CPU architecture (on
519 which the configuring is done), and thus pick the best
520 available SIMD parallelization supported by |Gromacs|. The build system
521 will also check that the compiler and linker used also support the
522 selected SIMD instruction set and issue a fatal error if they
523 do not.
524
525 Valid values are listed below, and the applicable value with the
526 largest number in the list is generally the one you should choose.
527 In most cases, choosing an inappropriate higher number will lead
528 to compiling a binary that will not run. However, on a number of
529 processor architectures choosing the highest supported value can
530 lead to performance loss, e.g. on Intel Skylake-X/SP and AMD Zen.
531
532 1. ``None`` For use only on an architecture either lacking SIMD,
533    or to which |Gromacs| has not yet been ported and none of the
534    options below are applicable.
535 2. ``SSE2`` This SIMD instruction set was introduced in Intel
536    processors in 2001, and AMD in 2003. Essentially all x86
537    machines in existence have this, so it might be a good choice if
538    you need to support dinosaur x86 computers too.
539 3. ``SSE4.1`` Present in all Intel core processors since 2007,
540    but notably not in AMD Magny-Cours. Still, almost all recent
541    processors support this, so this can also be considered a good
542    baseline if you are content with slow simulations and prefer
543    portability between reasonably modern processors.
544 4. ``AVX_128_FMA`` AMD Bulldozer, Piledriver (and later Family 15h) processors have this.
545 5. ``AVX_256`` Intel processors since Sandy Bridge (2011). While this
546    code will work on the  AMD Bulldozer and Piledriver processors, it is significantly less
547    efficient than the ``AVX_128_FMA`` choice above - do not be fooled
548    to assume that 256 is better than 128 in this case.
549 6. ``AVX2_128`` AMD Zen microarchitecture processors (2017);
550    it will enable AVX2 with 3-way fused multiply-add instructions.
551    While the Zen microarchitecture does support 256-bit AVX2 instructions,
552    hence ``AVX2_256`` is also supported, 128-bit will generally be faster,
553    in particular when the non-bonded tasks run on the CPU -- hence
554    the default ``AVX2_128``. With GPU offload however ``AVX2_256``
555    can be faster on Zen processors.
556 7. ``AVX2_256`` Present on Intel Haswell (and later) processors (2013),
557    and it will also enable Intel 3-way fused multiply-add instructions.
558 8. ``AVX_512`` Skylake-X desktop and Skylake-SP Xeon processors (2017);
559    it will generally be fastest on the higher-end desktop and server
560    processors with two 512-bit fused multiply-add units (e.g. Core i9
561    and Xeon Gold). However, certain desktop and server models
562    (e.g. Xeon Bronze and Silver) come with only one AVX512 FMA unit
563    and therefore on these processors ``AVX2_256`` is faster
564    (compile- and runtime checks try to inform about such cases).
565    Additionally, with GPU accelerated runs ``AVX2_256`` can also be
566    faster on high-end Skylake CPUs with both 512-bit FMA units enabled.
567 9. ``AVX_512_KNL`` Knights Landing Xeon Phi processors
568 10. ``Sparc64_HPC_ACE`` Fujitsu machines like the K computer have this.
569 11. ``IBM_VMX`` Power6 and similar Altivec processors have this.
570 12. ``IBM_VSX`` Power7, Power8, Power9 and later have this.
571 13. ``ARM_NEON`` 32-bit ARMv7 with NEON support.
572 14. ``ARM_NEON_ASIMD`` 64-bit ARMv8 and later.
573
574 The CMake configure system will check that the compiler you have
575 chosen can target the architecture you have chosen. mdrun will check
576 further at runtime, so if in doubt, choose the lowest number you
577 think might work, and see what mdrun says. The configure system also
578 works around many known issues in many versions of common HPC
579 compilers.
580
581 A further ``GMX_SIMD=Reference`` option exists, which is a special
582 SIMD-like implementation written in plain C that developers can use
583 when developing support in |Gromacs| for new SIMD architectures. It is
584 not designed for use in production simulations, but if you are using
585 an architecture with SIMD support to which |Gromacs| has not yet been
586 ported, you may wish to try this option instead of the default
587 ``GMX_SIMD=None``, as it can often out-perform this when the
588 auto-vectorization in your compiler does a good job. And post on the
589 |Gromacs| mailing lists, because |Gromacs| can probably be ported for new
590 SIMD architectures in a few days.
591
592 CMake advanced options
593 ~~~~~~~~~~~~~~~~~~~~~~
594
595 The options that are displayed in the default view of ``ccmake`` are
596 ones that we think a reasonable number of users might want to consider
597 changing. There are a lot more options available, which you can see by
598 toggling the advanced mode in ``ccmake`` on and off with ``t``. Even
599 there, most of the variables that you might want to change have a
600 ``CMAKE_`` or ``GMX_`` prefix. There are also some options that will be
601 visible or not according to whether their preconditions are satisfied.
602
603 .. _search for libraries, headers or programs:
604
605 Helping CMake find the right libraries, headers, or programs
606 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
607
608 If libraries are installed in non-default locations their location can
609 be specified using the following variables:
610
611 * ``CMAKE_INCLUDE_PATH`` for header files
612 * ``CMAKE_LIBRARY_PATH`` for libraries
613 * ``CMAKE_PREFIX_PATH`` for header, libraries and binaries
614   (e.g. ``/usr/local``).
615
616 The respective ``include``, ``lib``, or ``bin`` is
617 appended to the path. For each of these variables, a list of paths can
618 be specified (on Unix, separated with ":"). These can be set as
619 enviroment variables like:
620
621 ::
622
623     CMAKE_PREFIX_PATH=/opt/fftw:/opt/cuda cmake ..
624
625 (assuming ``bash`` shell). Alternatively, these variables are also
626 ``cmake`` options, so they can be set like
627 ``-DCMAKE_PREFIX_PATH=/opt/fftw:/opt/cuda``.
628
629 The ``CC`` and ``CXX`` environment variables are also useful
630 for indicating to ``cmake`` which compilers to use. Similarly,
631 ``CFLAGS``/``CXXFLAGS`` can be used to pass compiler
632 options, but note that these will be appended to those set by
633 |Gromacs| for your build platform and build type. You can customize
634 some of this with advanced CMake options such as ``CMAKE_C_FLAGS``
635 and its relatives.
636
637 See also the page on `CMake environment variables`_.
638
639 .. _CUDA GPU acceleration:
640
641 CUDA GPU acceleration
642 ~~~~~~~~~~~~~~~~~~~~~
643
644 If you have the CUDA_ Toolkit installed, you can use ``cmake`` with:
645
646 ::
647
648     cmake .. -DGMX_GPU=ON -DCUDA_TOOLKIT_ROOT_DIR=/usr/local/cuda
649
650 (or whichever path has your installation). In some cases, you might
651 need to specify manually which of your C++ compilers should be used,
652 e.g. with the advanced option ``CUDA_HOST_COMPILER``.
653
654 By default, code will be generated for the most common CUDA architectures.
655 However, to reduce build time and binary size we do not generate code for
656 every single possible architecture, which in rare cases (say, Tegra systems)
657 can result in the default build not being able to use some GPUs.
658 If this happens, or if you want to remove some architectures to reduce
659 binary size and build time, you can alter the target CUDA architectures.
660 This can be done either with the ``GMX_CUDA_TARGET_SM`` or
661 ``GMX_CUDA_TARGET_COMPUTE`` CMake variables, which take a semicolon delimited
662 string with the two digit suffixes of CUDA (virtual) architectures names, for
663 instance "35;50;51;52;53;60". For details, see the "Options for steering GPU
664 code generation" section of the nvcc man / help or Chapter 6. of the nvcc
665 manual.
666
667 The GPU acceleration has been tested on AMD64/x86-64 platforms with
668 Linux, Mac OS X and Windows operating systems, but Linux is the
669 best-tested and supported of these. Linux running on POWER 8, ARM v7 and v8
670 CPUs also works well.
671
672 Experimental support is available for compiling CUDA code, both for host and
673 device, using clang (version 6.0 or later).
674 A CUDA toolkit is still required but it is used only for GPU device code
675 generation and to link against the CUDA runtime library.
676 The clang CUDA support simplifies compilation and provides benefits for development
677 (e.g. allows the use code sanitizers in CUDA host-code).
678 Additionally, using clang for both CPU and GPU compilation can be beneficial
679 to avoid compatibility issues between the GNU toolchain and the CUDA toolkit.
680 clang for CUDA can be triggered using the ``GMX_CLANG_CUDA=ON`` CMake option.
681 Target architectures can be selected with  ``GMX_CUDA_TARGET_SM``,
682 virtual architecture code is always embedded for all requested architectures
683 (hence GMX_CUDA_TARGET_COMPUTE is ignored).
684 Note that this is mainly a developer-oriented feature and it is not recommended
685 for production use as the performance can be significantly lower than that
686 of code compiled with nvcc (and it has also received less testing).
687 However, note that since clang 5.0 the performance gap is only moderate
688 (at the time of writing, about 20% slower GPU kernels), so this version
689 could be considered in non performance-critical use-cases.
690
691
692 OpenCL GPU acceleration
693 ~~~~~~~~~~~~~~~~~~~~~~~
694
695 The primary targets of the |Gromacs| OpenCL support is accelerating
696 simulations on AMD and Intel hardware. For AMD, we target both
697 discrete GPUs and APUs (integrated CPU+GPU chips), and for Intel we
698 target the integrated GPUs found on modern workstation and mobile
699 hardware. The |Gromacs| OpenCL on NVIDIA GPUs works, but performance
700 and other limitations make it less practical (for details see the user guide).
701
702 To build |Gromacs| with OpenCL_ support enabled, two components are
703 required: the OpenCL_ headers and the wrapper library that acts
704 as a client driver loader (so-called ICD loader).
705 The additional, runtime-only dependency is the vendor-specific GPU driver
706 for the device targeted. This also contains the OpenCL_ compiler.
707 As the GPU compute kernels are compiled  on-demand at run time,
708 this vendor-specific compiler and driver is not needed for building |Gromacs|.
709 The former, compile-time dependencies are standard components,
710 hence stock versions can be obtained from most Linux distribution
711 repositories (e.g. ``opencl-headers`` and ``ocl-icd-libopencl1`` on Debian/Ubuntu).
712 Only the compatibility with the required OpenCL_ version |REQUIRED_OPENCL_MIN_VERSION|
713 needs to be ensured.
714 Alternatively, the headers and library can also be obtained from vendor SDKs
715 (e.g. `from AMD <http://developer.amd.com/appsdk>`_),
716 which must be installed in a path found in ``CMAKE_PREFIX_PATH`` (or via the environment
717 variables ``AMDAPPSDKROOT`` or ``CUDA_PATH``).
718
719 To trigger an OpenCL_ build the following CMake flags must be set
720
721 ::
722
723     cmake .. -DGMX_GPU=ON -DGMX_USE_OPENCL=ON
724
725 To build with support for Intel integrated GPUs, it is required
726 to add ``-DGMX_OPENCL_NB_CLUSTER_SIZE=4`` to the cmake command line,
727 so that the GPU kernels match the characteristics of the hardware.
728 The `Neo driver <https://github.com/intel/compute-runtime/releases>`_
729 is recommended.
730
731 On Mac OS, an AMD GPU can be used only with OS version 10.10.4 and
732 higher; earlier OS versions are known to run incorrectly.
733
734 By default, any clFFT library on the system will be used with
735 |Gromacs|, but if none is found then the code will fall back on a
736 version bundled with |Gromacs|. To require |Gromacs| to link with an
737 external library, use
738
739 ::
740
741     cmake .. -DGMX_GPU=ON -DGMX_USE_OPENCL=ON -DclFFT_ROOT_DIR=/path/to/your/clFFT -DGMX_EXTERNAL_CLFFT=TRUE
742
743 Static linking
744 ~~~~~~~~~~~~~~
745
746 Dynamic linking of the |Gromacs| executables will lead to a
747 smaller disk footprint when installed, and so is the default on
748 platforms where we believe it has been tested repeatedly and found to work.
749 In general, this includes Linux, Windows, Mac OS X and BSD systems.
750 Static binaries take more space, but on some hardware and/or under
751 some conditions they are necessary, most commonly when you are running a parallel
752 simulation using MPI libraries (e.g. Cray).
753
754 * To link |Gromacs| binaries statically against the internal |Gromacs|
755   libraries, set ``-DBUILD_SHARED_LIBS=OFF``.
756 * To link statically against external (non-system) libraries as well,
757   set ``-DGMX_PREFER_STATIC_LIBS=ON``. Note, that in
758   general ``cmake`` picks up whatever is available, so this option only
759   instructs ``cmake`` to prefer static libraries when both static and
760   shared are available. If no static version of an external library is
761   available, even when the aforementioned option is ``ON``, the shared
762   library will be used. Also note that the resulting binaries will
763   still be dynamically linked against system libraries on platforms
764   where that is the default. To use static system libraries,
765   additional compiler/linker flags are necessary, e.g. ``-static-libgcc
766   -static-libstdc++``.
767 * To attempt to link a fully static binary set
768   ``-DGMX_BUILD_SHARED_EXE=OFF``. This will prevent CMake from explicitly
769   setting any dynamic linking flags. This option also sets
770   ``-DBUILD_SHARED_LIBS=OFF`` and ``-DGMX_PREFER_STATIC_LIBS=ON`` by
771   default, but the above caveats apply. For compilers which don't
772   default to static linking, the required flags have to be specified. On
773   Linux, this is usually ``CFLAGS=-static CXXFLAGS=-static``.
774
775 gmxapi external API
776 ~~~~~~~~~~~~~~~~~~~
777
778 For dynamic linking builds and on non-Windows platforms, an extra library and
779 headers are installed by setting ``-DGMXAPI=ON`` (default).
780 Build targets ``gmxapi-cppdocs`` and ``gmxapi-cppdocs-dev`` produce documentation in
781 ``docs/api-user`` and ``docs/api-dev``, respectively.
782 For more project information and use cases,
783 refer to the tracked :issue:`2585`,
784 associated GitHub `gmxapi <https://github.com/kassonlab/gmxapi>`_ projects,
785 or DOI `10.1093/bioinformatics/bty484 <https://doi.org/10.1093/bioinformatics/bty484>`_.
786
787 gmxapi is not yet tested on Windows or with static linking, but these use cases
788 are targeted for future versions.
789
790 Portability aspects
791 ~~~~~~~~~~~~~~~~~~~
792
793 A |Gromacs| build will normally not be portable, not even across
794 hardware with the same base instruction set, like x86. Non-portable
795 hardware-specific optimizations are selected at configure-time, such
796 as the SIMD instruction set used in the compute kernels. This
797 selection will be done by the build system based on the capabilities
798 of the build host machine or otherwise specified to ``cmake`` during
799 configuration.
800
801 Often it is possible to ensure portability by choosing the least
802 common denominator of SIMD support, e.g. SSE2 for x86, and ensuring
803 the you use ``cmake -DGMX_USE_RDTSCP=off`` if any of the target CPU
804 architectures does not support the ``RDTSCP`` instruction.  However, we
805 discourage attempts to use a single |Gromacs| installation when the
806 execution environment is heterogeneous, such as a mix of AVX and
807 earlier hardware, because this will lead to programs (especially
808 mdrun) that run slowly on the new hardware. Building two full
809 installations and locally managing how to call the correct one
810 (e.g. using a module system) is the recommended
811 approach. Alternatively, as at the moment the |Gromacs| tools do not
812 make strong use of SIMD acceleration, it can be convenient to create
813 an installation with tools portable across different x86 machines, but
814 with separate mdrun binaries for each architecture. To achieve this,
815 one can first build a full installation with the
816 least-common-denominator SIMD instruction set, e.g. ``-DGMX_SIMD=SSE2``,
817 then build separate mdrun binaries for each architecture present in
818 the heterogeneous environment. By using custom binary and library
819 suffixes for the mdrun-only builds, these can be installed to the
820 same location as the "generic" tools installation.
821 `Building just the mdrun binary`_ is possible by setting the
822 ``-DGMX_BUILD_MDRUN_ONLY=ON`` option.
823
824 Linear algebra libraries
825 ~~~~~~~~~~~~~~~~~~~~~~~~
826
827 As mentioned above, sometimes vendor BLAS and LAPACK libraries
828 can provide performance enhancements for |Gromacs| when doing
829 normal-mode analysis or covariance analysis. For simplicity, the text
830 below will refer only to BLAS, but the same options are available
831 for LAPACK. By default, CMake will search for BLAS, use it if it
832 is found, and otherwise fall back on a version of BLAS internal to
833 |Gromacs|. The ``cmake`` option ``-DGMX_EXTERNAL_BLAS=on`` will be set
834 accordingly. The internal versions are fine for normal use. If you
835 need to specify a non-standard path to search, use
836 ``-DCMAKE_PREFIX_PATH=/path/to/search``. If you need to specify a
837 library with a non-standard name (e.g. ESSL on Power machines
838 or ARMPL on ARM machines), then
839 set ``-DGMX_BLAS_USER=/path/to/reach/lib/libwhatever.a``.
840
841 If you are using Intel MKL_ for FFT, then the BLAS and
842 LAPACK it provides are used automatically. This could be
843 over-ridden with ``GMX_BLAS_USER``, etc.
844
845 On Apple platforms where the Accelerate Framework is available, these
846 will be automatically used for BLAS and LAPACK. This could be
847 over-ridden with ``GMX_BLAS_USER``, etc.
848
849 .. _installing with MiMiC:
850
851 Building with MiMiC QM/MM support
852 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
853
854 MiMiC QM/MM interface integration will require linking against MiMiC
855 communication library, that establishes the communication channel
856 between |Gromacs| and CPMD. The MiMiC Communication library can be
857 downloaded `here <https://gitlab.com/MiMiC-projects/CommLib>`__.
858 Compile and install it. Check that the installation folder of the
859 MiMiC library is added to CMAKE_PREFIX_PATH if it is installed in
860 non-standard location. Building QM/MM-capable version requires
861 double-precision version of |Gromacs| compiled with MPI support:
862
863 * ``-DGMX_DOUBLE=ON -DGMX_MPI -DGMX_MIMIC=ON``
864
865 Changing the names of |Gromacs| binaries and libraries
866 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
867
868 It is sometimes convenient to have different versions of the same
869 |Gromacs| programs installed. The most common use cases have been single
870 and double precision, and with and without MPI. This mechanism can
871 also be used to install side-by-side multiple versions of mdrun
872 optimized for different CPU architectures, as mentioned previously.
873
874 By default, |Gromacs| will suffix programs and libraries for such builds
875 with ``_d`` for double precision and/or ``_mpi`` for MPI (and nothing
876 otherwise). This can be controlled manually with ``GMX_DEFAULT_SUFFIX
877 (ON/OFF)``, ``GMX_BINARY_SUFFIX`` (takes a string) and ``GMX_LIBS_SUFFIX``
878 (also takes a string). For instance, to set a custom suffix for
879 programs and libraries, one might specify:
880
881 ::
882
883     cmake .. -DGMX_DEFAULT_SUFFIX=OFF -DGMX_BINARY_SUFFIX=_mod -DGMX_LIBS_SUFFIX=_mod
884
885 Thus the names of all programs and libraries will be appended with
886 ``_mod``.
887
888 Changing installation tree structure
889 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
890
891 By default, a few different directories under ``CMAKE_INSTALL_PREFIX`` are used
892 when when |Gromacs| is installed. Some of these can be changed, which is mainly
893 useful for packaging |Gromacs| for various distributions. The directories are
894 listed below, with additional notes about some of them. Unless otherwise noted,
895 the directories can be renamed by editing the installation paths in the main
896 CMakeLists.txt.
897
898 ``bin/``
899     The standard location for executables and some scripts.
900     Some of the scripts hardcode the absolute installation prefix, which needs
901     to be changed if the scripts are relocated.
902     The name of the directory can be changed using ``CMAKE_INSTALL_BINDIR`` CMake
903     variable.
904 ``include/gromacs/``
905     The standard location for installed headers.
906 ``lib/``
907     The standard location for libraries. The default depends on the system, and
908     is determined by CMake.
909     The name of the directory can be changed using ``CMAKE_INSTALL_LIBDIR`` CMake
910     variable.
911 ``lib/pkgconfig/``
912     Information about the installed ``libgromacs`` library for ``pkg-config`` is
913     installed here.  The ``lib/`` part adapts to the installation location of the
914     libraries.  The installed files contain the installation prefix as absolute
915     paths.
916 ``share/cmake/``
917     CMake package configuration files are installed here.
918 ``share/gromacs/``
919     Various data files and some documentation go here. The first part can
920     be changed using ``CMAKE_INSTALL_DATADIR``, and the second by using
921     ``GMX_INSTALL_DATASUBDIR`` Using these CMake variables is the preferred
922     way of changing the installation path for
923     ``share/gromacs/top/``, since the path to this directory is built into
924     ``libgromacs`` as well as some scripts, both as a relative and as an absolute
925     path (the latter as a fallback if everything else fails).
926 ``share/man/``
927     Installed man pages go here.
928
929 Compiling and linking
930 ^^^^^^^^^^^^^^^^^^^^^
931
932 Once you have configured with ``cmake``, you can build |Gromacs| with ``make``.
933 It is expected that this will always complete successfully, and
934 give few or no warnings. The CMake-time tests |Gromacs| makes on the settings
935 you choose are pretty extensive, but there are probably a few cases we
936 have not thought of yet. Search the web first for solutions to
937 problems, but if you need help, ask on gmx-users, being sure to
938 provide as much information as possible about what you did, the system
939 you are building on, and what went wrong. This may mean scrolling back
940 a long way through the output of ``make`` to find the first error
941 message!
942
943 If you have a multi-core or multi-CPU machine with ``N``
944 processors, then using
945
946 ::
947
948     make -j N
949
950 will generally speed things up by quite a bit. Other build generator systems
951 supported by ``cmake`` (e.g. ``ninja``) also work well.
952
953 .. _building just the mdrun binary:
954
955 Building only mdrun
956 ~~~~~~~~~~~~~~~~~~~
957
958 This is now supported with the ``cmake`` option
959 ``-DGMX_BUILD_MDRUN_ONLY=ON``, which will build a different version of
960 ``libgromacs`` and the ``mdrun`` program.
961 Naturally, now ``make install`` installs only those
962 products. By default, mdrun-only builds will default to static linking
963 against |Gromacs| libraries, because this is generally a good idea for
964 the targets for which an mdrun-only build is desirable.
965
966 Installing |Gromacs|
967 ^^^^^^^^^^^^^^^^^^^^
968
969 Finally, ``make install`` will install |Gromacs| in the
970 directory given in ``CMAKE_INSTALL_PREFIX``. If this is a system
971 directory, then you will need permission to write there, and you
972 should use super-user privileges only for ``make install`` and
973 not the whole procedure.
974
975 .. _getting access to |Gromacs|:
976
977 Getting access to |Gromacs| after installation
978 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
979
980 |Gromacs| installs the script ``GMXRC`` in the ``bin``
981 subdirectory of the installation directory
982 (e.g. ``/usr/local/gromacs/bin/GMXRC``), which you should source
983 from your shell:
984
985 ::
986
987     source /your/installation/prefix/here/bin/GMXRC
988
989 It will detect what kind of shell you are running and set up your
990 environment for using |Gromacs|. You may wish to arrange for your
991 login scripts to do this automatically; please search the web for
992 instructions on how to do this for your shell.
993
994 Many of the |Gromacs| programs rely on data installed in the
995 ``share/gromacs`` subdirectory of the installation directory. By
996 default, the programs will use the environment variables set in the
997 ``GMXRC`` script, and if this is not available they will try to guess the
998 path based on their own location.  This usually works well unless you
999 change the names of directories inside the install tree. If you still
1000 need to do that, you might want to recompile with the new install
1001 location properly set, or edit the ``GMXRC`` script.
1002
1003 Testing |Gromacs| for correctness
1004 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
1005
1006 Since 2011, the |Gromacs| development uses an automated system where
1007 every new code change is subject to regression testing on a number of
1008 platforms and software combinations. While this improves
1009 reliability quite a lot, not everything is tested, and since we
1010 increasingly rely on cutting edge compiler features there is
1011 non-negligible risk that the default compiler on your system could
1012 have bugs. We have tried our best to test and refuse to use known bad
1013 versions in ``cmake``, but we strongly recommend that you run through
1014 the tests yourself. It only takes a few minutes, after which you can
1015 trust your build.
1016
1017 The simplest way to run the checks is to build |Gromacs| with
1018 ``-DREGRESSIONTEST_DOWNLOAD``, and run ``make check``.
1019 |Gromacs| will automatically download and run the tests for you.
1020 Alternatively, you can download and unpack the |Gromacs|
1021 regression test suite |gmx-regressiontests-package| tarball yourself
1022 and use the advanced ``cmake`` option ``REGRESSIONTEST_PATH`` to
1023 specify the path to the unpacked tarball, which will then be used for
1024 testing. If the above does not work, then please read on.
1025
1026 The regression tests are also available from the download_ section.
1027 Once you have downloaded them, unpack the tarball, source
1028 ``GMXRC`` as described above, and run ``./gmxtest.pl all``
1029 inside the regression tests folder. You can find more options
1030 (e.g. adding ``double`` when using double precision, or
1031 ``-only expanded`` to run just the tests whose names match
1032 "expanded") if you just execute the script without options.
1033
1034 Hopefully, you will get a report that all tests have passed. If there
1035 are individual failed tests it could be a sign of a compiler bug, or
1036 that a tolerance is just a tiny bit too tight. Check the output files
1037 the script directs you too, and try a different or newer compiler if
1038 the errors appear to be real. If you cannot get it to pass the
1039 regression tests, you might try dropping a line to the gmx-users
1040 mailing list, but then you should include a detailed description of
1041 your hardware, and the output of ``gmx mdrun -version`` (which contains
1042 valuable diagnostic information in the header).
1043
1044 A build with ``-DGMX_BUILD_MDRUN_ONLY`` cannot be tested with
1045 ``make check`` from the build tree, because most of the tests
1046 require a full build to run things like ``grompp``. To test such an
1047 mdrun fully requires installing it to the same location as a normal
1048 build of |Gromacs|, downloading the regression tests tarball manually
1049 as described above, sourcing the correct ``GMXRC`` and running the
1050 perl script manually. For example, from your |Gromacs| source
1051 directory:
1052
1053 ::
1054
1055     mkdir build-normal
1056     cd build-normal
1057     cmake .. -DCMAKE_INSTALL_PREFIX=/your/installation/prefix/here
1058     make -j 4
1059     make install
1060     cd ..
1061     mkdir build-mdrun-only
1062     cd build-mdrun-only
1063     cmake .. -DGMX_MPI=ON -DGMX_GPU=ON -DGMX_BUILD_MDRUN_ONLY=ON -DCMAKE_INSTALL_PREFIX=/your/installation/prefix/here
1064     make -j 4
1065     make install
1066     cd /to/your/unpacked/regressiontests
1067     source /your/installation/prefix/here/bin/GMXRC
1068     ./gmxtest.pl all -np 2
1069
1070 If your mdrun program has been suffixed in a non-standard way, then
1071 the ``./gmxtest.pl -mdrun`` option will let you specify that name to the
1072 test machinery. You can use ``./gmxtest.pl -double`` to test the
1073 double-precision version. You can use ``./gmxtest.pl -crosscompiling``
1074 to stop the test harness attempting to check that the programs can
1075 be run. You can use ``./gmxtest.pl -mpirun srun`` if your command to
1076 run an MPI program is called ``srun``.
1077
1078 The ``make check`` target also runs integration-style tests that may run
1079 with MPI if ``GMX_MPI=ON`` was set. To make these work with various possible
1080 MPI libraries, you may need to
1081 set the CMake variables ``MPIEXEC``, ``MPIEXEC_NUMPROC_FLAG``,
1082 ``MPIEXEC_PREFLAGS`` and ``MPIEXEC_POSTFLAGS`` so that
1083 ``mdrun-mpi-test_mpi`` would run on multiple ranks via the shell command
1084
1085 ::
1086
1087     ${MPIEXEC} ${MPIEXEC_NUMPROC_FLAG} ${NUMPROC} ${MPIEXEC_PREFLAGS} \
1088           mdrun-mpi-test_mpi ${MPIEXEC_POSTFLAGS} -otherflags
1089
1090 A typical example for SLURM is
1091
1092 ::
1093
1094      cmake .. -DGMX_MPI=on -DMPIEXEC=srun -DMPIEXEC_NUMPROC_FLAG=-n -DMPIEXEC_PREFLAGS= -DMPIEXEC_POSTFLAGS=
1095
1096
1097 Testing |Gromacs| for performance
1098 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
1099
1100 We are still working on a set of benchmark systems for testing
1101 the performance of |Gromacs|. Until that is ready, we recommend that
1102 you try a few different parallelization options, and experiment with
1103 tools such as ``gmx tune_pme``.
1104
1105 Having difficulty?
1106 ^^^^^^^^^^^^^^^^^^
1107
1108 You are not alone - this can be a complex task! If you encounter a
1109 problem with installing |Gromacs|, then there are a number of
1110 locations where you can find assistance. It is recommended that you
1111 follow these steps to find the solution:
1112
1113 1. Read the installation instructions again, taking note that you
1114    have followed each and every step correctly.
1115
1116 2. Search the |Gromacs| webpage_ and users emailing list for information
1117    on the error. Adding
1118    ``site:https://mailman-1.sys.kth.se/pipermail/gromacs.org_gmx-users``
1119    to a Google search may help filter better results.
1120
1121 3. Search the internet using a search engine such as Google.
1122
1123 4. Post to the |Gromacs| users emailing list gmx-users for
1124    assistance. Be sure to give a full description of what you have
1125    done and why you think it did not work. Give details about the
1126    system on which you are installing.  Copy and paste your command
1127    line and as much of the output as you think might be relevant -
1128    certainly from the first indication of a problem. In particular,
1129    please try to include at least the header from the mdrun logfile,
1130    and preferably the entire file.  People who might volunteer to help
1131    you do not have time to ask you interactive detailed follow-up
1132    questions, so you will get an answer faster if you provide as much
1133    information as you think could possibly help. High quality bug
1134    reports tend to receive rapid high quality answers.
1135
1136 .. _gmx-special-build:
1137
1138 Special instructions for some platforms
1139 ---------------------------------------
1140
1141 Building on Windows
1142 ^^^^^^^^^^^^^^^^^^^
1143
1144 Building on Windows using native compilers is rather similar to
1145 building on Unix, so please start by reading the above. Then, download
1146 and unpack the |Gromacs| source archive. Make a folder in which to do
1147 the out-of-source build of |Gromacs|. For example, make it within the
1148 folder unpacked from the source archive, and call it ``build-gromacs``.
1149
1150 For CMake, you can either use the graphical user interface provided on
1151 Windows, or you can use a command line shell with instructions similar
1152 to the UNIX ones above. If you open a shell from within your IDE
1153 (e.g. Microsoft Visual Studio), it will configure the environment for
1154 you, but you might need to tweak this in order to get either a 32-bit
1155 or 64-bit build environment. The latter provides the fastest
1156 executable. If you use a normal Windows command shell, then you will
1157 need to either set up the environment to find your compilers and
1158 libraries yourself, or run the ``vcvarsall.bat`` batch script provided
1159 by MSVC (just like sourcing a bash script under Unix).
1160
1161 With the graphical user interface, you will be asked about what
1162 compilers to use at the initial configuration stage, and if you use
1163 the command line they can be set in a similar way as under UNIX.
1164
1165 Unfortunately ``-DGMX_BUILD_OWN_FFTW=ON`` (see `Using FFTW`_) does not
1166 work on Windows, because there is no supported way to build FFTW on
1167 Windows. You can either build FFTW some other way (e.g. MinGW), or
1168 use the built-in fftpack (which may be slow), or `using MKL`_.
1169
1170 For the build, you can either load the generated solutions file into
1171 e.g. Visual Studio, or use the command line with ``cmake --build`` so
1172 the right tools get used.
1173
1174 Building on Cray
1175 ^^^^^^^^^^^^^^^^
1176
1177 |Gromacs| builds mostly out of the box on modern Cray machines, but
1178 you may need to specify the use of static binaries with
1179 ``-DGMX_BUILD_SHARED_EXE=off``, and you may need to set the F77
1180 environmental variable to ``ftn`` when compiling FFTW.
1181 The ARM ThunderX2 Cray XC50 machines differ only in that the recommended
1182 compiler is the ARM HPC Compiler (``armclang``).
1183
1184
1185 Building on Solaris
1186 ^^^^^^^^^^^^^^^^^^^
1187
1188 The built-in |Gromacs| processor detection does not work on Solaris,
1189 so it is strongly recommended that you build |Gromacs| with
1190 ``-DGMX_HWLOC=on`` and ensure that the ``CMAKE_PREFIX_PATH`` includes
1191 the path where the hwloc headers and libraries can be found. At least
1192 version 1.11.8 of hwloc is recommended.
1193
1194 Oracle Developer Studio is not a currently supported compiler (and
1195 does not currently compile |Gromacs| correctly, perhaps because the
1196 thread-MPI atomics are incorrectly implemented in |Gromacs|).
1197
1198 Fujitsu PRIMEHPC
1199 ^^^^^^^^^^^^^^^^
1200
1201 This is the architecture of the K computer, which uses Fujitsu
1202 Sparc64VIIIfx chips. On this platform, |Gromacs| has
1203 accelerated group kernels using the HPC-ACE instructions, no
1204 accelerated Verlet kernels, and a custom build toolchain. Since this
1205 particular chip only does double precision SIMD, the default setup
1206 is to build |Gromacs| in double. Since most users only need single, we have added
1207 an option GMX_RELAXED_DOUBLE_PRECISION to accept single precision square root
1208 accuracy in the group kernels; unless you know that you really need 15 digits
1209 of accuracy in each individual force, we strongly recommend you use this. Note
1210 that all summation and other operations are still done in double.
1211
1212 The recommended configuration is to use
1213
1214 ::
1215
1216     cmake .. -DCMAKE_TOOLCHAIN_FILE=Toolchain-Fujitsu-Sparc64-mpi.cmake \
1217              -DCMAKE_PREFIX_PATH=/your/fftw/installation/prefix \
1218              -DCMAKE_INSTALL_PREFIX=/where/gromacs/should/be/installed \
1219              -DGMX_MPI=ON \
1220              -DGMX_BUILD_MDRUN_ONLY=ON \
1221              -DGMX_RELAXED_DOUBLE_PRECISION=ON
1222     make
1223     make install
1224
1225 Intel Xeon Phi
1226 ^^^^^^^^^^^^^^
1227
1228 Xeon Phi processors, hosted or self-hosted, are supported.
1229 Only symmetric (aka native) mode is supported on Knights Corner. The
1230 performance depends among other factors on the system size, and for
1231 now the performance might not be faster than CPUs. When building for it,
1232 the recommended configuration is
1233
1234 ::
1235
1236     cmake .. -DCMAKE_TOOLCHAIN_FILE=Platform/XeonPhi
1237     make
1238     make install
1239
1240
1241 The Knights Landing-based Xeon Phi processors behave like standard x86 nodes,
1242 but support a special SIMD instruction set. When cross-compiling for such nodes,
1243 use the ``AVX_512_KNL`` SIMD flavor.
1244 Knights Landing processors support so-called "clustering modes" which
1245 allow reconfiguring the memory subsystem for lower latency. |Gromacs| can
1246 benefit from the quadrant or SNC clustering modes.
1247 Care needs to be taken to correctly pin threads. In particular, threads of
1248 an MPI rank should not cross cluster and NUMA boundaries.
1249 In addition to the main DRAM memory, Knights Landing has a high-bandwidth
1250 stacked memory called MCDRAM. Using it offers performance benefits if
1251 it is ensured that ``mdrun`` runs entirely from this memory; to do so
1252 it is recommended that MCDRAM is configured in "Flat mode" and ``mdrun`` is
1253 bound to the appropriate NUMA node (use e.g. ``numactl --membind 1`` with
1254 quadrant clustering mode).
1255
1256
1257 Tested platforms
1258 ----------------
1259
1260 While it is our best belief that |Gromacs| will build and run pretty
1261 much everywhere, it is important that we tell you where we really know
1262 it works because we have tested it. We do test on Linux, Windows, and
1263 Mac with a range of compilers and libraries for a range of our
1264 configuration options. Every commit in our git source code repository
1265 is currently tested on x86 with a number of gcc versions ranging from 5.1
1266 through 8.1, version 19 of the Intel compiler, and Clang
1267 versions 3.6 through 7. For this, we use a variety of GNU/Linux
1268 flavors and versions as well as recent versions of Windows. Under
1269 Windows, we test both MSVC 2017 and version 16 of the Intel compiler.
1270 Other compiler, library, and OS versions are tested less frequently.
1271 For details, you can
1272 have a look at the `continuous integration server used by GROMACS`_,
1273 which runs Jenkins_.
1274
1275 We test irregularly on ARM v7, ARM v8, Cray, Fujitsu
1276 PRIMEHPC, Power8, Google Native Client and other environments, and
1277 with other compilers and compiler versions, too.