63e5760a805ccfcd9c6b5024cac99fc11d6f3fbf
[alexxy/gromacs.git] / docs / install-guide / index.rst
1 .. Note that this must be a single rst file in order for Sphinx
2    to build into into a single plain-text file to place in the
3    installation tarball.
4
5 .. _install guide:
6
7 ******************
8 Installation guide
9 ******************
10
11 .. highlight:: bash
12
13 Introduction to building |Gromacs|
14 ----------------------------------
15
16 These instructions pertain to building |Gromacs|
17 |version|. You might also want to check the `up-to-date installation instructions`_.
18
19 Quick and dirty installation
20 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^
21 1. Get the latest version of your C and C++ compilers.
22 2. Check that you have CMake version |CMAKE_MINIMUM_REQUIRED_VERSION| or later.
23 3. Get and unpack the latest version of the |Gromacs| tarball.
24 4. Make a separate build directory and change to it. 
25 5. Run ``cmake`` with the path to the source as an argument
26 6. Run ``make``, ``make check``, and ``make install``
27 7. Source ``GMXRC`` to get access to |Gromacs|
28
29 Or, as a sequence of commands to execute:
30
31 .. parsed-literal::
32
33     tar xfz gromacs-|version|.tar.gz
34     cd gromacs-|version|
35     mkdir build
36     cd build
37     cmake .. -DGMX_BUILD_OWN_FFTW=ON -DREGRESSIONTEST_DOWNLOAD=ON
38     make
39     make check
40     sudo make install
41     source /usr/local/gromacs/bin/GMXRC
42
43 This will download and build first the prerequisite FFT library
44 followed by |Gromacs|. If you already have FFTW installed, you can
45 remove that argument to ``cmake``. Overall, this build of |Gromacs|
46 will be correct and reasonably fast on the machine upon which
47 ``cmake`` ran. On another machine, it may not run, or may not run
48 fast. If you want to get the maximum value for your hardware with
49 |Gromacs|, you will have to read further. Sadly, the interactions of
50 hardware, libraries, and compilers are only going to continue to get
51 more complex.
52
53 Quick and dirty cluster installation
54 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
55
56 On a cluster where users are expected to be running across multiple
57 nodes using MPI, make one installation similar to the above, and
58 another using an MPI wrapper compiler and which is `building only
59 mdrun`_, because that is the only component of |Gromacs| that uses
60 MPI. The latter will install a single simulation engine binary,
61 i.e. ``mdrun_mpi`` when the default suffix is used. Hence it is safe
62 and common practice to install this into the same location where
63 the non-MPI build is installed.
64
65 Typical installation
66 ^^^^^^^^^^^^^^^^^^^^
67
68 As above, and with further details below, but you should consider
69 using the following `CMake options`_ with the
70 appropriate value instead of ``xxx`` :
71
72 * ``-DCMAKE_C_COMPILER=xxx`` equal to the name of the C99 `Compiler`_ you wish to use (or the environment variable ``CC``)
73 * ``-DCMAKE_CXX_COMPILER=xxx`` equal to the name of the C++98 `compiler`_ you wish to use (or the environment variable ``CXX``)
74 * ``-DGMX_MPI=on`` to build using `MPI support`_ (generally good to combine with `building only mdrun`_)
75 * ``-DGMX_GPU=on`` to build using nvcc to run using NVIDIA `CUDA GPU acceleration`_ or an OpenCL_ GPU
76 * ``-DGMX_USE_OPENCL=on`` to build with OpenCL_ support enabled. ``GMX_GPU`` must also be set.
77 * ``-DGMX_SIMD=xxx`` to specify the level of `SIMD support`_ of the node on which |Gromacs| will run
78 * ``-DGMX_BUILD_MDRUN_ONLY=on`` for `building only mdrun`_, e.g. for compute cluster back-end nodes
79 * ``-DGMX_DOUBLE=on`` to build |Gromacs| in double precision (slower, and not normally useful)
80 * ``-DCMAKE_PREFIX_PATH=xxx`` to add a non-standard location for CMake to `search for libraries, headers or programs`_
81 * ``-DCMAKE_INSTALL_PREFIX=xxx`` to install |Gromacs| to a `non-standard location`_ (default ``/usr/local/gromacs``)
82 * ``-DBUILD_SHARED_LIBS=off`` to turn off the building of shared libraries to help with `static linking`_
83 * ``-DGMX_FFT_LIBRARY=xxx`` to select whether to use ``fftw``, ``mkl`` or ``fftpack`` libraries for `FFT support`_
84 * ``-DCMAKE_BUILD_TYPE=Debug`` to build |Gromacs| in debug mode
85
86 Building older versions
87 ^^^^^^^^^^^^^^^^^^^^^^^
88
89 Installation instructions for old |Gromacs| versions can be found at
90 the |Gromacs| `documentation page
91 <http://manual.gromacs.org/documentation>`_.
92
93 Prerequisites
94 -------------
95
96 Platform
97 ^^^^^^^^
98
99 |Gromacs| can be compiled for many operating systems and
100 architectures.  These include any distribution of Linux, Mac OS X or
101 Windows, and architectures including x86, AMD64/x86-64, several
102 PowerPC including POWER8, ARM v7, ARM v8, and SPARC VIII.
103
104 Compiler
105 ^^^^^^^^
106
107 |Gromacs| can be compiled on any platform with ANSI C99 and C++11
108 compilers, and their respective standard C/C++ libraries. Good
109 performance on an OS and architecture requires choosing a good
110 compiler. We recommend gcc, because it is free, widely available and
111 frequently provides the best performance.
112
113 You should strive to use the most recent version of your
114 compiler. Since we require full C++11 support the minimum supported
115 compiler versions are
116
117 * GNU (gcc) 4.8.1
118 * Intel (icc) 15.0
119 * LLVM (clang) 3.3
120 * Microsoft (MSVC) 2015
121
122 Other compilers may work (Cray, Pathscale, older clang) but do
123 not offer competitive performance. We recommend against PGI because
124 the performance with C++ is very bad.
125
126 The xlc compiler is not supported and has not been tested on POWER
127 architectures for |Gromacs|\ -\ |version|. We recommend to use the gcc
128 compiler instead, as it is being extensively tested.
129
130 You may also need the most recent version of other compiler toolchain
131 components beside the compiler itself (e.g. assembler or linker);
132 these are often shipped by your OS distribution's binutils package.
133
134 C++11 support requires adequate support in both the compiler and the
135 C++ library. The gcc and MSVC compilers include their own standard
136 libraries and require no further configuration. For configuration of
137 other compilers, read on.
138
139 On Linux, both the Intel and clang compiler use the libstdc++ which
140 comes with gcc as the default C++ library. For |Gromacs|, we require
141 the compiler to support libstc++ version 4.8.1 or higher. To select a
142 particular libstdc++ library, use:
143
144 * For Intel: ``-DGMX_STDLIB_CXX_FLAGS=-gcc-name=/path/to/gcc/binary``
145   or make sure that the correct gcc version is first in path (e.g. by
146   loading the gcc module). It can also be useful to add
147   ``-DCMAKE_CXX_LINK_FLAGS="-Wl,-rpath,/path/to/gcc/lib64
148   -L/path/to/gcc/lib64"`` to ensure linking works correctly.
149 * For clang:
150   ``-DCMAKE_CXX_FLAGS=--gcc-toolchain=/path/to/gcc/folder``. This
151   folder should contain ``include/c++``.
152
153 On Windows with the Intel compiler, the MSVC standard library is used,
154 and at least MSVC 2015 is required. Load the enviroment variables with
155 vcvarsall.bat.
156
157 To build with any compiler and clang's libcxx standard library, use
158 ``-DGMX_STDLIB_CXX_FLAGS=-stdlib=libc++
159 -DGMX_STDLIB_LIBRARIES='-lc++abi -lc++'``.
160
161 If you are running on Mac OS X, the best option is the Intel
162 compiler. Both clang and gcc will work, but they produce lower
163 performance and each have some shortcomings. clang 3.8 now offers
164 support for OpenMP, and so may provide decent performance.
165
166 For all non-x86 platforms, your best option is typically to use gcc or
167 the vendor's default or recommended compiler, and check for
168 specialized information below.
169
170 For updated versions of gcc to add to your Linux OS, see
171
172 * Ubuntu: `Ubuntu toolchain ppa page`_
173 * RHEL/CentOS: `EPEL page`_ or the RedHat Developer Toolset
174
175 Compiling with parallelization options
176 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
177
178 For maximum performance you will need to examine how you will use
179 |Gromacs| and what hardware you plan to run on. Often OpenMP_
180 parallelism is an advantage for |Gromacs|, but support for this is
181 generally built into your compiler and detected automatically.
182
183 GPU support
184 ~~~~~~~~~~~
185
186 |Gromacs| has excellent support for NVIDIA GPUs supported via CUDA.
187 On Linux, NVIDIA CUDA_ toolkit with minimum version |REQUIRED_CUDA_VERSION|
188 is required, and the latest
189 version is strongly encouraged. Using Intel or Microsoft MSVC compilers
190 requires version 7.0 and 8.0, respectively. NVIDIA GPUs with at
191 least NVIDIA compute capability |REQUIRED_CUDA_COMPUTE_CAPABILITY| are
192 required. You are strongly recommended to
193 get the latest CUDA version and driver that supports your hardware, but
194 beware of possible performance regressions in newer CUDA versions on
195 older hardware. Note that compute capability 2.0 (Fermi)
196 devices are no longer supported from CUDA 9.0 and later.
197 While some CUDA compilers (nvcc) might not
198 officially support recent versions of gcc as the back-end compiler, we
199 still recommend that you at least use a gcc version recent enough to
200 get the best SIMD support for your CPU, since |Gromacs| always runs some
201 code on the CPU. It is most reliable to use the same C++ compiler
202 version for |Gromacs| code as used as the host compiler for nvcc.
203
204 To make it possible to use other accelerators, |Gromacs| also includes
205 OpenCL_ support. The minimum OpenCL version required is
206 |REQUIRED_OPENCL_MIN_VERSION|. The current OpenCL implementation is recommended for
207 use with GCN-based AMD GPUs, on Linux we recommend the ROCm runtime.
208 It is also supported with NVIDIA GPUs, but using
209 the latest NVIDIA driver (which includes the NVIDIA OpenCL runtime) is
210 recommended. Also note that there are performance limitations (inherent
211 to the NVIDIA OpenCL runtime).
212 It is not possible to configure both CUDA and OpenCL
213 support in the same version of |Gromacs|.
214
215 .. _mpi-support:
216
217 MPI support
218 ~~~~~~~~~~~
219
220 |Gromacs| can run in parallel on multiple cores of a single
221 workstation using its built-in thread-MPI. No user action is required
222 in order to enable this.
223
224 If you wish to run in parallel on multiple machines across a network,
225 you will need to have
226
227 * an MPI library installed that supports the MPI 1.3
228   standard, and
229 * wrapper compilers that will compile code using that library.
230
231 The |Gromacs| team recommends OpenMPI_ version
232 1.6 (or higher), MPICH_ version 1.4.1 (or
233 higher), or your hardware vendor's MPI installation. The most recent
234 version of either of these is likely to be the best. More specialized
235 networks might depend on accelerations only available in the vendor's
236 library. LAM-MPI_ might work, but since it has
237 been deprecated for years, it is not supported.
238
239 CMake
240 ^^^^^
241
242 |Gromacs| builds with the CMake build system, requiring at least
243 version |CMAKE_MINIMUM_REQUIRED_VERSION|. You can check whether
244 CMake is installed, and what version it is, with ``cmake
245 --version``. If you need to install CMake, then first check whether
246 your platform's package management system provides a suitable version,
247 or visit the `CMake installation page`_ for pre-compiled binaries,
248 source code and installation instructions. The |Gromacs| team
249 recommends you install the most recent version of CMake you can.
250
251 .. _FFT support:
252
253 Fast Fourier Transform library
254 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
255
256 Many simulations in |Gromacs| make extensive use of fast Fourier
257 transforms, and a software library to perform these is always
258 required. We recommend FFTW_ (version 3 or higher only) or Intel
259 MKL_. The choice of library can be set with ``cmake
260 -DGMX_FFT_LIBRARY=<name>``, where ``<name>`` is one of ``fftw``,
261 ``mkl``, or ``fftpack``. FFTPACK is bundled with |Gromacs| as a
262 fallback, and is acceptable if simulation performance is not a
263 priority. When choosing MKL, |Gromacs| will also use MKL for BLAS and
264 LAPACK (see `linear algebra libraries`_). Generally, there is no
265 advantage in using MKL with |Gromacs|, and FFTW is often faster.
266 With PME GPU offload support using CUDA, a GPU-based FFT library
267 is required. The CUDA-based GPU FFT library cuFFT is part of the
268 CUDA toolkit (required for all CUDA builds) and therefore no additional
269 software component is needed when building with CUDA GPU acceleration.
270
271 Using FFTW
272 ~~~~~~~~~~
273
274 FFTW_ is likely to be available for your platform via its package
275 management system, but there can be compatibility and significant
276 performance issues associated with these packages. In particular,
277 |Gromacs| simulations are normally run in "mixed" floating-point
278 precision, which is suited for the use of single precision in
279 FFTW. The default FFTW package is normally in double
280 precision, and good compiler options to use for FFTW when linked to
281 |Gromacs| may not have been used. Accordingly, the |Gromacs| team
282 recommends either
283
284 * that you permit the |Gromacs| installation to download and
285   build FFTW from source automatically for you (use
286   ``cmake -DGMX_BUILD_OWN_FFTW=ON``), or
287 * that you build FFTW from the source code.
288
289 If you build FFTW from source yourself, get the most recent version
290 and follow the `FFTW installation guide`_. Choose the precision for
291 FFTW (i.e. single/float vs. double) to match whether you will later
292 use mixed or double precision for |Gromacs|. There is no need to
293 compile FFTW with threading or MPI support, but it does no harm. On
294 x86 hardware, compile with *both* ``--enable-sse2`` and
295 ``--enable-avx`` for FFTW-3.3.4 and earlier. From FFTW-3.3.5, you
296 should also add ``--enable-avx2`` also. On Intel processors supporting
297 512-wide AVX, including KNL, add ``--enable-avx512`` also.
298 FFTW will create a fat library with codelets for all different instruction sets,
299 and pick the fastest supported one at runtime.
300 On ARM architectures with NEON SIMD support and IBM Power8 and later, you
301 definitely want version 3.3.5 or later,
302 and to compile it with ``--enable-neon`` and ``--enable-vsx``, respectively, for
303 SIMD support. If you are using a Cray, there is a special modified
304 (commercial) version of FFTs using the FFTW interface which can be
305 slightly faster.
306
307 Using MKL
308 ~~~~~~~~~
309
310 Use MKL bundled with Intel compilers by setting up the compiler
311 environment, e.g., through ``source /path/to/compilervars.sh intel64``
312 or similar before running CMake including setting
313 ``-DGMX_FFT_LIBRARY=mkl``.
314
315 If you need to customize this further, use
316
317 ::
318
319     cmake -DGMX_FFT_LIBRARY=mkl \
320           -DMKL_LIBRARIES="/full/path/to/libone.so;/full/path/to/libtwo.so" \
321           -DMKL_INCLUDE_DIR="/full/path/to/mkl/include"
322
323 The full list and order(!) of libraries you require are found in Intel's MKL documentation for your system.
324
325 Other optional build components
326 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
327
328 * Run-time detection of hardware capabilities can be improved by
329   linking with hwloc, which is automatically enabled if detected.
330 * Hardware-optimized BLAS and LAPACK libraries are useful
331   for a few of the |Gromacs| utilities focused on normal modes and
332   matrix manipulation, but they do not provide any benefits for normal
333   simulations. Configuring these is discussed at
334   `linear algebra libraries`_.
335 * The built-in |Gromacs| trajectory viewer ``gmx view`` requires X11 and
336   Motif/Lesstif libraries and header files. You may prefer to use
337   third-party software for visualization, such as VMD_ or PyMol_.
338 * An external TNG library for trajectory-file handling can be used
339   by setting ``-DGMX_EXTERNAL_TNG=yes``, but TNG
340   |GMX_TNG_MINIMUM_REQUIRED_VERSION| is bundled in the |Gromacs|
341   source already.
342 * An external lmfit library for Levenberg-Marquardt curve fitting
343   can be used by setting ``-DGMX_EXTERNAL_LMFIT=yes``, but lmfit
344   |GMX_LMFIT_MINIMUM_REQUIRED_VERSION| is bundled in the |Gromacs|
345   source already.
346 * zlib is used by TNG for compressing some kinds of trajectory data
347 * Building the |Gromacs| documentation is optional, and requires
348   ImageMagick, pdflatex, bibtex, doxygen, python 2.7, sphinx 
349   |EXPECTED_SPHINX_VERSION|, and pygments.
350 * The |Gromacs| utility programs often write data files in formats
351   suitable for the Grace plotting tool, but it is straightforward to
352   use these files in other plotting programs, too.
353   
354 Doing a build of |Gromacs|
355 --------------------------
356
357 This section will cover a general build of |Gromacs| with CMake_, but it
358 is not an exhaustive discussion of how to use CMake. There are many
359 resources available on the web, which we suggest you search for when
360 you encounter problems not covered here. The material below applies
361 specifically to builds on Unix-like systems, including Linux, and Mac
362 OS X. For other platforms, see the specialist instructions below.
363
364 .. _configure-cmake:
365
366 Configuring with CMake
367 ^^^^^^^^^^^^^^^^^^^^^^
368
369 CMake will run many tests on your system and do its best to work out
370 how to build |Gromacs| for you. If your build machine is the same as
371 your target machine, then you can be sure that the defaults and
372 detection will be pretty good. However, if you want to control aspects
373 of the build, or you are compiling on a cluster head node for back-end
374 nodes with a different architecture, there are a few things you
375 should consider specifying.
376
377 The best way to use CMake to configure |Gromacs| is to do an
378 "out-of-source" build, by making another directory from which you will
379 run CMake. This can be outside the source directory, or a subdirectory
380 of it. It also means you can never corrupt your source code by trying
381 to build it! So, the only required argument on the CMake command line
382 is the name of the directory containing the ``CMakeLists.txt`` file of
383 the code you want to build. For example, download the source tarball
384 and use
385
386 .. parsed-literal::
387
388     tar xfz gromacs-|version|.tgz
389     cd gromacs-|version|
390     mkdir build-gromacs
391     cd build-gromacs
392     cmake ..
393
394 You will see ``cmake`` report a sequence of results of tests and
395 detections done by the |Gromacs| build system. These are written to the
396 ``cmake`` cache, kept in ``CMakeCache.txt``. You can edit this file by
397 hand, but this is not recommended because you could make a mistake.
398 You should not attempt to move or copy this file to do another build,
399 because file paths are hard-coded within it. If you mess things up,
400 just delete this file and start again with ``cmake``.
401
402 If there is a serious problem detected at this stage, then you will see
403 a fatal error and some suggestions for how to overcome it. If you are
404 not sure how to deal with that, please start by searching on the web
405 (most computer problems already have known solutions!) and then
406 consult the gmx-users mailing list. There are also informational
407 warnings that you might like to take on board or not. Piping the
408 output of ``cmake`` through ``less`` or ``tee`` can be
409 useful, too.
410
411 Once ``cmake`` returns, you can see all the settings that were chosen
412 and information about them by using e.g. the curses interface
413
414 ::
415
416     ccmake ..
417
418 You can actually use ``ccmake`` (available on most Unix platforms)
419 directly in the first step, but then
420 most of the status messages will merely blink in the lower part
421 of the terminal rather than be written to standard output. Most platforms
422 including Linux, Windows, and Mac OS X even have native graphical user interfaces for
423 ``cmake``, and it can create project files for almost any build environment
424 you want (including Visual Studio or Xcode).
425 Check out `running CMake`_ for
426 general advice on what you are seeing and how to navigate and change
427 things. The settings you might normally want to change are already
428 presented. You may make changes, then re-configure (using ``c``), so that it
429 gets a chance to make changes that depend on yours and perform more
430 checking. It may take several configuration passes to reach the desired
431 configuration, in particular if you need to resolve errors.
432
433 When you have reached the desired configuration with ``ccmake``, the
434 build system can be generated by pressing ``g``.  This requires that the previous
435 configuration pass did not reveal any additional settings (if it did, you need
436 to configure once more with ``c``).  With ``cmake``, the build system is generated
437 after each pass that does not produce errors.
438
439 You cannot attempt to change compilers after the initial run of
440 ``cmake``. If you need to change, clean up, and start again.
441
442 .. _non-standard location:
443
444 Where to install |Gromacs|
445 ~~~~~~~~~~~~~~~~~~~~~~~~~~
446
447 |Gromacs| is installed in the directory to which
448 ``CMAKE_INSTALL_PREFIX`` points. It may not be the source directory or
449 the build directory.  You require write permissions to this
450 directory. Thus, without super-user privileges,
451 ``CMAKE_INSTALL_PREFIX`` will have to be within your home directory.
452 Even if you do have super-user privileges, you should use them only
453 for the installation phase, and never for configuring, building, or
454 running |Gromacs|!
455
456 .. _cmake options:
457
458 Using CMake command-line options
459 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
460
461 Once you become comfortable with setting and changing options, you may
462 know in advance how you will configure |Gromacs|. If so, you can speed
463 things up by invoking ``cmake`` and passing the various options at once
464 on the command line. This can be done by setting cache variable at the
465 cmake invocation using ``-DOPTION=VALUE``. Note that some
466 environment variables are also taken into account, in particular
467 variables like ``CC`` and ``CXX``.
468
469 For example, the following command line
470
471 ::
472
473     cmake .. -DGMX_GPU=ON -DGMX_MPI=ON -DCMAKE_INSTALL_PREFIX=/home/marydoe/programs
474
475 can be used to build with CUDA GPUs, MPI and install in a custom
476 location. You can even save that in a shell script to make it even
477 easier next time. You can also do this kind of thing with ``ccmake``,
478 but you should avoid this, because the options set with ``-D`` will not
479 be able to be changed interactively in that run of ``ccmake``.
480
481 SIMD support
482 ~~~~~~~~~~~~
483
484 |Gromacs| has extensive support for detecting and using the SIMD
485 capabilities of many modern HPC CPU architectures. If you are building
486 |Gromacs| on the same hardware you will run it on, then you don't need
487 to read more about this, unless you are getting configuration warnings
488 you do not understand. By default, the |Gromacs| build system will
489 detect the SIMD instruction set supported by the CPU architecture (on
490 which the configuring is done), and thus pick the best
491 available SIMD parallelization supported by |Gromacs|. The build system
492 will also check that the compiler and linker used also support the
493 selected SIMD instruction set and issue a fatal error if they
494 do not.
495
496 Valid values are listed below, and the applicable value with the
497 largest number in the list is generally the one you should choose.
498 In most cases, choosing an inappropriate higher number will lead
499 to compiling a binary that will not run. However, on a number of
500 processor architectures choosing the highest supported value can
501 lead to performance loss, e.g. on Intel Skylake-X/SP and AMD Zen.
502
503 1. ``None`` For use only on an architecture either lacking SIMD,
504    or to which |Gromacs| has not yet been ported and none of the
505    options below are applicable.
506 2. ``SSE2`` This SIMD instruction set was introduced in Intel
507    processors in 2001, and AMD in 2003. Essentially all x86
508    machines in existence have this, so it might be a good choice if
509    you need to support dinosaur x86 computers too.
510 3. ``SSE4.1`` Present in all Intel core processors since 2007,
511    but notably not in AMD Magny-Cours. Still, almost all recent
512    processors support this, so this can also be considered a good
513    baseline if you are content with slow simulations and prefer
514    portability between reasonably modern processors.
515 4. ``AVX_128_FMA`` AMD Bulldozer, Piledriver (and later Family 15h) processors have this.
516 5. ``AVX_256`` Intel processors since Sandy Bridge (2011). While this
517    code will work on the  AMD Bulldozer and Piledriver processors, it is significantly less
518    efficient than the ``AVX_128_FMA`` choice above - do not be fooled
519    to assume that 256 is better than 128 in this case.
520 6. ``AVX2_128`` AMD Zen microarchitecture processors (2017);
521    it will enable AVX2 with 3-way fused multiply-add instructions.
522    While the Zen microarchitecture does support 256-bit AVX2 instructions,
523    hence ``AVX2_256`` is also supported, 128-bit will generally be faster,
524    in particular when the non-bonded tasks run on the CPU -- hence
525    the default ``AVX2_128``. With GPU offload however ``AVX2_256``
526    can be faster on Zen processors.
527 7. ``AVX2_256`` Present on Intel Haswell (and later) processors (2013),
528    and it will also enable Intel 3-way fused multiply-add instructions.
529 8. ``AVX_512`` Skylake-X desktop and Skylake-SP Xeon processors (2017);
530    it will generally be fastest on the higher-end desktop and server
531    processors with two 512-bit fused multiply-add units (e.g. Core i9
532    and Xeon Gold). However, certain desktop and server models
533    (e.g. Xeon Bronze and Silver) come with only one AVX512 FMA unit
534    and therefore on these processors ``AVX2_256`` is faster
535    (compile- and runtime checks try to inform about such cases).
536    Additionally, with GPU accelerated runs ``AVX2_256`` can also be
537    faster on high-end Skylake CPUs with both 512-bit FMA units enabled.
538 9. ``AVX_512_KNL`` Knights Landing Xeon Phi processors
539 10. ``Sparc64_HPC_ACE`` Fujitsu machines like the K computer have this.
540 11. ``IBM_VMX`` Power6 and similar Altivec processors have this.
541 12. ``IBM_VSX`` Power7, Power8 and later have this.
542 13. ``ARM_NEON`` 32-bit ARMv7 with NEON support.
543 14. ``ARM_NEON_ASIMD`` 64-bit ARMv8 and later.
544
545 The CMake configure system will check that the compiler you have
546 chosen can target the architecture you have chosen. mdrun will check
547 further at runtime, so if in doubt, choose the lowest number you
548 think might work, and see what mdrun says. The configure system also
549 works around many known issues in many versions of common HPC
550 compilers.
551
552 A further ``GMX_SIMD=Reference`` option exists, which is a special
553 SIMD-like implementation written in plain C that developers can use
554 when developing support in |Gromacs| for new SIMD architectures. It is
555 not designed for use in production simulations, but if you are using
556 an architecture with SIMD support to which |Gromacs| has not yet been
557 ported, you may wish to try this option instead of the default
558 ``GMX_SIMD=None``, as it can often out-perform this when the
559 auto-vectorization in your compiler does a good job. And post on the
560 |Gromacs| mailing lists, because |Gromacs| can probably be ported for new
561 SIMD architectures in a few days.
562
563 CMake advanced options
564 ~~~~~~~~~~~~~~~~~~~~~~
565
566 The options that are displayed in the default view of ``ccmake`` are
567 ones that we think a reasonable number of users might want to consider
568 changing. There are a lot more options available, which you can see by
569 toggling the advanced mode in ``ccmake`` on and off with ``t``. Even
570 there, most of the variables that you might want to change have a
571 ``CMAKE_`` or ``GMX_`` prefix. There are also some options that will be
572 visible or not according to whether their preconditions are satisfied.
573
574 .. _search for libraries, headers or programs:
575
576 Helping CMake find the right libraries, headers, or programs
577 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
578
579 If libraries are installed in non-default locations their location can
580 be specified using the following variables:
581
582 * ``CMAKE_INCLUDE_PATH`` for header files
583 * ``CMAKE_LIBRARY_PATH`` for libraries
584 * ``CMAKE_PREFIX_PATH`` for header, libraries and binaries
585   (e.g. ``/usr/local``).
586
587 The respective ``include``, ``lib``, or ``bin`` is
588 appended to the path. For each of these variables, a list of paths can
589 be specified (on Unix, separated with ":"). These can be set as
590 enviroment variables like:
591
592 ::
593
594     CMAKE_PREFIX_PATH=/opt/fftw:/opt/cuda cmake ..
595
596 (assuming ``bash`` shell). Alternatively, these variables are also
597 ``cmake`` options, so they can be set like
598 ``-DCMAKE_PREFIX_PATH=/opt/fftw:/opt/cuda``.
599
600 The ``CC`` and ``CXX`` environment variables are also useful
601 for indicating to ``cmake`` which compilers to use. Similarly,
602 ``CFLAGS``/``CXXFLAGS`` can be used to pass compiler
603 options, but note that these will be appended to those set by
604 |Gromacs| for your build platform and build type. You can customize
605 some of this with advanced CMake options such as ``CMAKE_C_FLAGS``
606 and its relatives.
607
608 See also the page on `CMake environment variables`_.
609
610 .. _CUDA GPU acceleration:
611
612 CUDA GPU acceleration
613 ~~~~~~~~~~~~~~~~~~~~~
614
615 If you have the CUDA_ Toolkit installed, you can use ``cmake`` with:
616
617 ::
618
619     cmake .. -DGMX_GPU=ON -DCUDA_TOOLKIT_ROOT_DIR=/usr/local/cuda
620
621 (or whichever path has your installation). In some cases, you might
622 need to specify manually which of your C++ compilers should be used,
623 e.g. with the advanced option ``CUDA_HOST_COMPILER``.
624
625 To make it
626 possible to get best performance from NVIDIA Tesla and Quadro GPUs,
627 you should install the `GPU Deployment Kit
628 <https://developer.nvidia.com/gpu-deployment-kit>`_ and configure
629 |Gromacs| to use it by setting the CMake variable
630 ``-DGPU_DEPLOYMENT_KIT_ROOT_DIR=/path/to/your/kit``. The NVML support
631 is most useful if
632 ``nvidia-smi --applications-clocks-permission=UNRESTRICTED`` is run
633 (as root). When application clocks permissions are unrestricted, the
634 GPU clock speed can be increased automatically, which increases the
635 GPU kernel performance roughly proportional to the clock
636 increase. When using |Gromacs| on suitable GPUs under restricted
637 permissions, clocks cannot be changed, and in that case informative
638 log file messages will be produced. Background details can be found at
639 this `NVIDIA blog post
640 <http://devblogs.nvidia.com/parallelforall/increase-performance-gpu-boost-k80-autoboost/>`_.
641 NVML support is only available if detected, and may be disabled by
642 turning off the ``GMX_USE_NVML`` CMake advanced option.
643
644 By default, code will be generated for the most common CUDA architectures.
645 However, to reduce build time and binary size we do not generate code for
646 every single possible architecture, which in rare cases (say, Tegra systems)
647 can result in the default build not being able to use some GPUs.
648 If this happens, or if you want to remove some architectures to reduce
649 binary size and build time, you can alter the target CUDA architectures. 
650 This can be done either with the ``GMX_CUDA_TARGET_SM`` or
651 ``GMX_CUDA_TARGET_COMPUTE`` CMake variables, which take a semicolon delimited
652 string with the two digit suffixes of CUDA (virtual) architectures names, for
653 instance "35;50;51;52;53;60". For details, see the "Options for steering GPU
654 code generation" section of the nvcc man / help or Chapter 6. of the nvcc
655 manual.
656
657 The GPU acceleration has been tested on AMD64/x86-64 platforms with
658 Linux, Mac OS X and Windows operating systems, but Linux is the
659 best-tested and supported of these. Linux running on POWER 8, ARM v7 and v8
660 CPUs also works well.
661
662 Experimental support is available for compiling CUDA code, both for host and
663 device, using clang (version 3.9 or later).
664 A CUDA toolkit (>= v7.0) is still required but it is used only for GPU device code
665 generation and to link against the CUDA runtime library.
666 The clang CUDA support simplifies compilation and provides benefits for development
667 (e.g. allows the use code sanitizers in CUDA host-code).
668 Additionally, using clang for both CPU and GPU compilation can be beneficial
669 to avoid compatibility issues between the GNU toolchain and the CUDA toolkit.
670 clang for CUDA can be triggered using the ``GMX_CLANG_CUDA=ON`` CMake option.
671 Target architectures can be selected with  ``GMX_CUDA_TARGET_SM``,
672 virtual architecture code is always embedded for all requested architectures
673 (hence GMX_CUDA_TARGET_COMPUTE is ignored).
674 Note that this is mainly a developer-oriented feature and it is not recommended
675 for production use as the performance can be significantly lower than that
676 of code compiled with nvcc (and it has also received less testing).
677 However, note that with clang 5.0 the performance gap is significantly narrowed
678 (at the time of writing, about 20% slower GPU kernels), so this version
679 could be considered in non performance-critical use-cases.
680
681
682 OpenCL GPU acceleration
683 ~~~~~~~~~~~~~~~~~~~~~~~
684
685 The primary target of the |Gromacs| OpenCL support is accelerating simulations
686 on AMD hardware, both discrete GPUs and APUs (integrated CPU+GPU chips).
687 The |Gromacs| OpenCL on NVIDIA GPUs works, but performance
688 and other limitations make it less practical (for details see the user guide).
689
690 To build |Gromacs| with OpenCL_ support enabled, two components are
691 required: the OpenCL_ headers and the wrapper library that acts
692 as a client driver loader (so-called ICD loader).
693 The additional, runtime-only dependency is the vendor-specific GPU driver
694 for the device targeted. This also contains the OpenCL_ compiler.
695 As the GPU compute kernels are compiled  on-demand at run time,
696 this vendor-specific compiler and driver is not needed for building |Gromacs|.
697 The former, compile-time dependencies are standard components,
698 hence stock versions can be obtained from most Linux distribution
699 repositories (e.g. ``opencl-headers`` and ``ocl-icd-libopencl1`` on Debian/Ubuntu).
700 Only the compatibility with the required OpenCL_ version |REQUIRED_OPENCL_MIN_VERSION|
701 needs to be ensured.
702 Alternatively, the headers and library can also be obtained from vendor SDKs
703 (e.g. `from AMD <http://developer.amd.com/appsdk>`_),
704 which must be installed in a path found in ``CMAKE_PREFIX_PATH`` (or via the environment
705 variables ``AMDAPPSDKROOT`` or ``CUDA_PATH``).
706
707 To trigger an OpenCL_ build the following CMake flags must be set
708
709 ::
710
711     cmake .. -DGMX_GPU=ON -DGMX_USE_OPENCL=ON
712
713 On Mac OS, an AMD GPU can be used only with OS version 10.10.4 and
714 higher; earlier OS versions are known to run incorrectly.
715
716 Static linking
717 ~~~~~~~~~~~~~~
718
719 Dynamic linking of the |Gromacs| executables will lead to a
720 smaller disk footprint when installed, and so is the default on
721 platforms where we believe it has been tested repeatedly and found to work.
722 In general, this includes Linux, Windows, Mac OS X and BSD systems.
723 Static binaries take more space, but on some hardware and/or under
724 some conditions they are necessary, most commonly when you are running a parallel
725 simulation using MPI libraries (e.g. Cray).
726
727 * To link |Gromacs| binaries statically against the internal |Gromacs|
728   libraries, set ``-DBUILD_SHARED_LIBS=OFF``.
729 * To link statically against external (non-system) libraries as well,
730   set ``-DGMX_PREFER_STATIC_LIBS=ON``. Note, that in
731   general ``cmake`` picks up whatever is available, so this option only
732   instructs ``cmake`` to prefer static libraries when both static and
733   shared are available. If no static version of an external library is
734   available, even when the aforementioned option is ``ON``, the shared
735   library will be used. Also note that the resulting binaries will
736   still be dynamically linked against system libraries on platforms
737   where that is the default. To use static system libraries,
738   additional compiler/linker flags are necessary, e.g. ``-static-libgcc
739   -static-libstdc++``.
740 * To attempt to link a fully static binary set
741   ``-DGMX_BUILD_SHARED_EXE=OFF``. This will prevent CMake from explicitly
742   setting any dynamic linking flags. This option also sets
743   ``-DBUILD_SHARED_LIBS=OFF`` and ``-DGMX_PREFER_STATIC_LIBS=ON`` by
744   default, but the above caveats apply. For compilers which don't
745   default to static linking, the required flags have to be specified. On
746   Linux, this is usually ``CFLAGS=-static CXXFLAGS=-static``.
747
748 Portability aspects
749 ~~~~~~~~~~~~~~~~~~~
750
751 A |Gromacs| build will normally not be portable, not even across
752 hardware with the same base instruction set, like x86. Non-portable
753 hardware-specific optimizations are selected at configure-time, such
754 as the SIMD instruction set used in the compute kernels. This
755 selection will be done by the build system based on the capabilities
756 of the build host machine or otherwise specified to ``cmake`` during
757 configuration.
758
759 Often it is possible to ensure portability by choosing the least
760 common denominator of SIMD support, e.g. SSE2 for x86, and ensuring
761 the you use ``cmake -DGMX_USE_RDTSCP=off`` if any of the target CPU
762 architectures does not support the ``RDTSCP`` instruction.  However, we
763 discourage attempts to use a single |Gromacs| installation when the
764 execution environment is heterogeneous, such as a mix of AVX and
765 earlier hardware, because this will lead to programs (especially
766 mdrun) that run slowly on the new hardware. Building two full
767 installations and locally managing how to call the correct one
768 (e.g. using a module system) is the recommended
769 approach. Alternatively, as at the moment the |Gromacs| tools do not
770 make strong use of SIMD acceleration, it can be convenient to create
771 an installation with tools portable across different x86 machines, but
772 with separate mdrun binaries for each architecture. To achieve this,
773 one can first build a full installation with the
774 least-common-denominator SIMD instruction set, e.g. ``-DGMX_SIMD=SSE2``,
775 then build separate mdrun binaries for each architecture present in
776 the heterogeneous environment. By using custom binary and library
777 suffixes for the mdrun-only builds, these can be installed to the
778 same location as the "generic" tools installation.
779 `Building just the mdrun binary`_ is possible by setting the
780 ``-DGMX_BUILD_MDRUN_ONLY=ON`` option.
781
782 Linear algebra libraries
783 ~~~~~~~~~~~~~~~~~~~~~~~~
784
785 As mentioned above, sometimes vendor BLAS and LAPACK libraries
786 can provide performance enhancements for |Gromacs| when doing
787 normal-mode analysis or covariance analysis. For simplicity, the text
788 below will refer only to BLAS, but the same options are available
789 for LAPACK. By default, CMake will search for BLAS, use it if it
790 is found, and otherwise fall back on a version of BLAS internal to
791 |Gromacs|. The ``cmake`` option ``-DGMX_EXTERNAL_BLAS=on`` will be set
792 accordingly. The internal versions are fine for normal use. If you
793 need to specify a non-standard path to search, use
794 ``-DCMAKE_PREFIX_PATH=/path/to/search``. If you need to specify a
795 library with a non-standard name (e.g. ESSL on Power machines), then
796 set ``-DGMX_BLAS_USER=/path/to/reach/lib/libwhatever.a``.
797
798 If you are using Intel MKL_ for FFT, then the BLAS and
799 LAPACK it provides are used automatically. This could be
800 over-ridden with ``GMX_BLAS_USER``, etc.
801
802 On Apple platforms where the Accelerate Framework is available, these
803 will be automatically used for BLAS and LAPACK. This could be
804 over-ridden with ``GMX_BLAS_USER``, etc.
805
806 Changing the names of |Gromacs| binaries and libraries
807 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
808
809 It is sometimes convenient to have different versions of the same
810 |Gromacs| programs installed. The most common use cases have been single
811 and double precision, and with and without MPI. This mechanism can
812 also be used to install side-by-side multiple versions of mdrun
813 optimized for different CPU architectures, as mentioned previously.
814
815 By default, |Gromacs| will suffix programs and libraries for such builds
816 with ``_d`` for double precision and/or ``_mpi`` for MPI (and nothing
817 otherwise). This can be controlled manually with ``GMX_DEFAULT_SUFFIX
818 (ON/OFF)``, ``GMX_BINARY_SUFFIX`` (takes a string) and ``GMX_LIBS_SUFFIX``
819 (also takes a string). For instance, to set a custom suffix for
820 programs and libraries, one might specify:
821
822 ::
823
824     cmake .. -DGMX_DEFAULT_SUFFIX=OFF -DGMX_BINARY_SUFFIX=_mod -DGMX_LIBS_SUFFIX=_mod
825
826 Thus the names of all programs and libraries will be appended with
827 ``_mod``.
828
829 Changing installation tree structure
830 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
831
832 By default, a few different directories under ``CMAKE_INSTALL_PREFIX`` are used
833 when when |Gromacs| is installed. Some of these can be changed, which is mainly
834 useful for packaging |Gromacs| for various distributions. The directories are
835 listed below, with additional notes about some of them. Unless otherwise noted,
836 the directories can be renamed by editing the installation paths in the main
837 CMakeLists.txt.
838
839 ``bin/``
840     The standard location for executables and some scripts.
841     Some of the scripts hardcode the absolute installation prefix, which needs
842     to be changed if the scripts are relocated.
843 ``include/gromacs/``
844     The standard location for installed headers.
845 ``lib/``
846     The standard location for libraries. The default depends on the system, and
847     is determined by CMake.
848     The name of the directory can be changed using ``GMX_LIB_INSTALL_DIR`` CMake
849     variable.
850 ``lib/pkgconfig/``
851     Information about the installed ``libgromacs`` library for ``pkg-config`` is
852     installed here.  The ``lib/`` part adapts to the installation location of the
853     libraries.  The installed files contain the installation prefix as absolute
854     paths.
855 ``share/cmake/``
856     CMake package configuration files are installed here.
857 ``share/gromacs/``
858     Various data files and some documentation go here.
859     The ``gromacs`` part can be changed using ``GMX_DATA_INSTALL_DIR``. Using this
860     CMake variable is the preferred way of changing the installation path for
861     ``share/gromacs/top/``, since the path to this directory is built into
862     ``libgromacs`` as well as some scripts, both as a relative and as an absolute
863     path (the latter as a fallback if everything else fails).
864 ``share/man/``
865     Installed man pages go here.
866
867 Compiling and linking
868 ^^^^^^^^^^^^^^^^^^^^^
869
870 Once you have configured with ``cmake``, you can build |Gromacs| with ``make``.
871 It is expected that this will always complete successfully, and
872 give few or no warnings. The CMake-time tests |Gromacs| makes on the settings
873 you choose are pretty extensive, but there are probably a few cases we
874 have not thought of yet. Search the web first for solutions to
875 problems, but if you need help, ask on gmx-users, being sure to
876 provide as much information as possible about what you did, the system
877 you are building on, and what went wrong. This may mean scrolling back
878 a long way through the output of ``make`` to find the first error
879 message!
880
881 If you have a multi-core or multi-CPU machine with ``N``
882 processors, then using
883
884 ::
885
886     make -j N
887
888 will generally speed things up by quite a bit. Other build generator systems
889 supported by ``cmake`` (e.g. ``ninja``) also work well.
890
891 .. _building just the mdrun binary:
892
893 Building only mdrun
894 ~~~~~~~~~~~~~~~~~~~
895
896 This is now supported with the ``cmake`` option
897 ``-DGMX_BUILD_MDRUN_ONLY=ON``, which will build a different version of
898 ``libgromacs`` and the ``mdrun`` program.
899 Naturally, now ``make install`` installs only those
900 products. By default, mdrun-only builds will default to static linking
901 against |Gromacs| libraries, because this is generally a good idea for
902 the targets for which an mdrun-only build is desirable.
903
904 Installing |Gromacs|
905 ^^^^^^^^^^^^^^^^^^^^
906
907 Finally, ``make install`` will install |Gromacs| in the
908 directory given in ``CMAKE_INSTALL_PREFIX``. If this is a system
909 directory, then you will need permission to write there, and you
910 should use super-user privileges only for ``make install`` and
911 not the whole procedure.
912
913 .. _getting access to |Gromacs|:
914
915 Getting access to |Gromacs| after installation
916 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
917
918 |Gromacs| installs the script ``GMXRC`` in the ``bin``
919 subdirectory of the installation directory
920 (e.g. ``/usr/local/gromacs/bin/GMXRC``), which you should source
921 from your shell:
922
923 ::
924
925     source /your/installation/prefix/here/bin/GMXRC
926
927 It will detect what kind of shell you are running and set up your
928 environment for using |Gromacs|. You may wish to arrange for your
929 login scripts to do this automatically; please search the web for
930 instructions on how to do this for your shell. 
931
932 Many of the |Gromacs| programs rely on data installed in the
933 ``share/gromacs`` subdirectory of the installation directory. By
934 default, the programs will use the environment variables set in the
935 ``GMXRC`` script, and if this is not available they will try to guess the
936 path based on their own location.  This usually works well unless you
937 change the names of directories inside the install tree. If you still
938 need to do that, you might want to recompile with the new install
939 location properly set, or edit the ``GMXRC`` script.
940
941 Testing |Gromacs| for correctness
942 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
943
944 Since 2011, the |Gromacs| development uses an automated system where
945 every new code change is subject to regression testing on a number of
946 platforms and software combinations. While this improves
947 reliability quite a lot, not everything is tested, and since we
948 increasingly rely on cutting edge compiler features there is
949 non-negligible risk that the default compiler on your system could
950 have bugs. We have tried our best to test and refuse to use known bad
951 versions in ``cmake``, but we strongly recommend that you run through
952 the tests yourself. It only takes a few minutes, after which you can
953 trust your build.
954
955 The simplest way to run the checks is to build |Gromacs| with
956 ``-DREGRESSIONTEST_DOWNLOAD``, and run ``make check``.
957 |Gromacs| will automatically download and run the tests for you.
958 Alternatively, you can download and unpack the |Gromacs|
959 regression test suite |gmx-regressiontests-package| tarball yourself
960 and use the advanced ``cmake`` option ``REGRESSIONTEST_PATH`` to
961 specify the path to the unpacked tarball, which will then be used for
962 testing. If the above does not work, then please read on.
963
964 The regression tests are also available from the download_ section.
965 Once you have downloaded them, unpack the tarball, source
966 ``GMXRC`` as described above, and run ``./gmxtest.pl all``
967 inside the regression tests folder. You can find more options
968 (e.g. adding ``double`` when using double precision, or
969 ``-only expanded`` to run just the tests whose names match
970 "expanded") if you just execute the script without options.
971
972 Hopefully, you will get a report that all tests have passed. If there
973 are individual failed tests it could be a sign of a compiler bug, or
974 that a tolerance is just a tiny bit too tight. Check the output files
975 the script directs you too, and try a different or newer compiler if
976 the errors appear to be real. If you cannot get it to pass the
977 regression tests, you might try dropping a line to the gmx-users
978 mailing list, but then you should include a detailed description of
979 your hardware, and the output of ``gmx mdrun -version`` (which contains
980 valuable diagnostic information in the header).
981
982 A build with ``-DGMX_BUILD_MDRUN_ONLY`` cannot be tested with
983 ``make check`` from the build tree, because most of the tests
984 require a full build to run things like ``grompp``. To test such an
985 mdrun fully requires installing it to the same location as a normal
986 build of |Gromacs|, downloading the regression tests tarball manually
987 as described above, sourcing the correct ``GMXRC`` and running the
988 perl script manually. For example, from your |Gromacs| source
989 directory:
990
991 ::
992
993     mkdir build-normal
994     cd build-normal
995     cmake .. -DCMAKE_INSTALL_PREFIX=/your/installation/prefix/here
996     make -j 4
997     make install
998     cd ..
999     mkdir build-mdrun-only
1000     cd build-mdrun-only
1001     cmake .. -DGMX_MPI=ON -DGMX_GPU=ON -DGMX_BUILD_MDRUN_ONLY=ON -DCMAKE_INSTALL_PREFIX=/your/installation/prefix/here
1002     make -j 4
1003     make install
1004     cd /to/your/unpacked/regressiontests
1005     source /your/installation/prefix/here/bin/GMXRC
1006     ./gmxtest.pl all -np 2
1007
1008 If your mdrun program has been suffixed in a non-standard way, then
1009 the ``./gmxtest.pl -mdrun`` option will let you specify that name to the
1010 test machinery. You can use ``./gmxtest.pl -double`` to test the
1011 double-precision version. You can use ``./gmxtest.pl -crosscompiling``
1012 to stop the test harness attempting to check that the programs can
1013 be run. You can use ``./gmxtest.pl -mpirun srun`` if your command to
1014 run an MPI program is called ``srun``.
1015
1016 The ``make check`` target also runs integration-style tests that may run
1017 with MPI if ``GMX_MPI=ON`` was set. To make these work with various possible
1018 MPI libraries, you may need to
1019 set the CMake variables ``MPIEXEC``, ``MPIEXEC_NUMPROC_FLAG``,
1020 ``MPIEXEC_PREFLAGS`` and ``MPIEXEC_POSTFLAGS`` so that
1021 ``mdrun-mpi-test_mpi`` would run on multiple ranks via the shell command
1022
1023 ::
1024
1025     ${MPIEXEC} ${MPIEXEC_NUMPROC_FLAG} ${NUMPROC} ${MPIEXEC_PREFLAGS} \
1026           mdrun-mpi-test_mpi ${MPIEXEC_POSTFLAGS} -otherflags
1027
1028 A typical example for SLURM is
1029
1030 ::
1031
1032      cmake .. -DGMX_MPI=on -DMPIEXEC=srun -DMPIEXEC_NUMPROC_FLAG=-n -DMPIEXEC_PREFLAGS= -DMPIEXEC_POSTFLAGS=
1033
1034
1035 Testing |Gromacs| for performance
1036 ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
1037
1038 We are still working on a set of benchmark systems for testing
1039 the performance of |Gromacs|. Until that is ready, we recommend that
1040 you try a few different parallelization options, and experiment with
1041 tools such as ``gmx tune_pme``.
1042
1043 Having difficulty?
1044 ^^^^^^^^^^^^^^^^^^
1045
1046 You are not alone - this can be a complex task! If you encounter a
1047 problem with installing |Gromacs|, then there are a number of
1048 locations where you can find assistance. It is recommended that you
1049 follow these steps to find the solution:
1050
1051 1. Read the installation instructions again, taking note that you
1052    have followed each and every step correctly.
1053
1054 2. Search the |Gromacs| webpage_ and users emailing list for information
1055    on the error. Adding
1056    ``site:https://mailman-1.sys.kth.se/pipermail/gromacs.org_gmx-users``
1057    to a Google search may help filter better results.
1058
1059 3. Search the internet using a search engine such as Google.
1060
1061 4. Post to the |Gromacs| users emailing list gmx-users for
1062    assistance. Be sure to give a full description of what you have
1063    done and why you think it did not work. Give details about the
1064    system on which you are installing.  Copy and paste your command
1065    line and as much of the output as you think might be relevant -
1066    certainly from the first indication of a problem. In particular,
1067    please try to include at least the header from the mdrun logfile,
1068    and preferably the entire file.  People who might volunteer to help
1069    you do not have time to ask you interactive detailed follow-up
1070    questions, so you will get an answer faster if you provide as much
1071    information as you think could possibly help. High quality bug
1072    reports tend to receive rapid high quality answers.
1073
1074 .. _gmx-special-build:
1075
1076 Special instructions for some platforms
1077 ---------------------------------------
1078
1079 Building on Windows
1080 ^^^^^^^^^^^^^^^^^^^
1081
1082 Building on Windows using native compilers is rather similar to
1083 building on Unix, so please start by reading the above. Then, download
1084 and unpack the |Gromacs| source archive. Make a folder in which to do
1085 the out-of-source build of |Gromacs|. For example, make it within the
1086 folder unpacked from the source archive, and call it ``build-gromacs``.
1087
1088 For CMake, you can either use the graphical user interface provided on
1089 Windows, or you can use a command line shell with instructions similar
1090 to the UNIX ones above. If you open a shell from within your IDE
1091 (e.g. Microsoft Visual Studio), it will configure the environment for
1092 you, but you might need to tweak this in order to get either a 32-bit
1093 or 64-bit build environment. The latter provides the fastest
1094 executable. If you use a normal Windows command shell, then you will
1095 need to either set up the environment to find your compilers and
1096 libraries yourself, or run the ``vcvarsall.bat`` batch script provided
1097 by MSVC (just like sourcing a bash script under Unix).
1098
1099 With the graphical user interface, you will be asked about what
1100 compilers to use at the initial configuration stage, and if you use
1101 the command line they can be set in a similar way as under UNIX.
1102
1103 Unfortunately ``-DGMX_BUILD_OWN_FFTW=ON`` (see `Using FFTW`_) does not
1104 work on Windows, because there is no supported way to build FFTW on
1105 Windows. You can either build FFTW some other way (e.g. MinGW), or
1106 use the built-in fftpack (which may be slow), or `using MKL`_.
1107
1108 For the build, you can either load the generated solutions file into
1109 e.g. Visual Studio, or use the command line with ``cmake --build`` so
1110 the right tools get used.
1111
1112 Building on Cray
1113 ^^^^^^^^^^^^^^^^
1114
1115 |Gromacs| builds mostly out of the box on modern Cray machines, but
1116 you may need to specify the use of static binaries with
1117 ``-DGMX_BUILD_SHARED_EXE=off``, and you may need to set the F77
1118 environmental variable to ``ftn`` when compiling FFTW.
1119 The ARM ThunderX2 Cray XC50 machines differ only in that the recommended
1120 compiler is the ARM HPC Compiler (``armclang``).
1121
1122
1123 Building on Solaris
1124 ^^^^^^^^^^^^^^^^^^^
1125
1126 The built-in |Gromacs| processor detection does not work on Solaris,
1127 so it is strongly recommended that you build |Gromacs| with
1128 ``-DGMX_HWLOC=on`` and ensure that the ``CMAKE_PREFIX_PATH`` includes
1129 the path where the hwloc headers and libraries can be found. At least
1130 version 1.11.8 of hwloc is recommended.
1131
1132 Oracle Developer Studio is not a currently supported compiler (and
1133 does not currently compile |Gromacs| correctly, perhaps because the
1134 thread-MPI atomics are incorrectly implemented in |Gromacs|).
1135
1136 Fujitsu PRIMEHPC
1137 ^^^^^^^^^^^^^^^^
1138
1139 This is the architecture of the K computer, which uses Fujitsu
1140 Sparc64VIIIfx chips. On this platform, |Gromacs| has
1141 accelerated group kernels using the HPC-ACE instructions, no
1142 accelerated Verlet kernels, and a custom build toolchain. Since this
1143 particular chip only does double precision SIMD, the default setup
1144 is to build |Gromacs| in double. Since most users only need single, we have added
1145 an option GMX_RELAXED_DOUBLE_PRECISION to accept single precision square root
1146 accuracy in the group kernels; unless you know that you really need 15 digits
1147 of accuracy in each individual force, we strongly recommend you use this. Note
1148 that all summation and other operations are still done in double.
1149
1150 The recommended configuration is to use
1151
1152 ::
1153
1154     cmake .. -DCMAKE_TOOLCHAIN_FILE=Toolchain-Fujitsu-Sparc64-mpi.cmake \
1155              -DCMAKE_PREFIX_PATH=/your/fftw/installation/prefix \
1156              -DCMAKE_INSTALL_PREFIX=/where/gromacs/should/be/installed \
1157              -DGMX_MPI=ON \
1158              -DGMX_BUILD_MDRUN_ONLY=ON \
1159              -DGMX_RELAXED_DOUBLE_PRECISION=ON
1160     make
1161     make install
1162
1163 Intel Xeon Phi
1164 ^^^^^^^^^^^^^^
1165
1166 Xeon Phi processors, hosted or self-hosted, are supported.
1167 Only symmetric (aka native) mode is supported on Knights Corner. The
1168 performance depends among other factors on the system size, and for
1169 now the performance might not be faster than CPUs. When building for it,
1170 the recommended configuration is
1171
1172 ::
1173
1174     cmake .. -DCMAKE_TOOLCHAIN_FILE=Platform/XeonPhi
1175     make
1176     make install
1177
1178
1179 The Knights Landing-based Xeon Phi processors behave like standard x86 nodes,
1180 but support a special SIMD instruction set. When cross-compiling for such nodes,
1181 use the ``AVX_512_KNL`` SIMD flavor.
1182 Knights Landing processors support so-called "clustering modes" which
1183 allow reconfiguring the memory subsystem for lower latency. |Gromacs| can
1184 benefit from the quadrant or SNC clustering modes.
1185 Care needs to be taken to correctly pin threads. In particular, threads of
1186 an MPI rank should not cross cluster and NUMA boundaries.
1187 In addition to the main DRAM memory, Knights Landing has a high-bandwidth
1188 stacked memory called MCDRAM. Using it offers performance benefits if
1189 it is ensured that ``mdrun`` runs entirely from this memory; to do so
1190 it is recommended that MCDRAM is configured in "Flat mode" and ``mdrun`` is
1191 bound to the appropriate NUMA node (use e.g. ``numactl --membind 1`` with
1192 quadrant clustering mode).
1193
1194
1195 Tested platforms
1196 ----------------
1197
1198 While it is our best belief that |Gromacs| will build and run pretty
1199 much everywhere, it is important that we tell you where we really know
1200 it works because we have tested it. We do test on Linux, Windows, and
1201 Mac with a range of compilers and libraries for a range of our
1202 configuration options. Every commit in our git source code repository
1203 is currently tested on x86 with a number of gcc versions ranging from 4.8.1
1204 through 7, versions 16 and 18 of the Intel compiler, and Clang
1205 versions 3.4 through 5. For this, we use a variety of GNU/Linux
1206 flavors and versions as well as recent versions of Windows. Under
1207 Windows, we test both MSVC 2015 and version 16 of the Intel compiler.
1208 For details, you can
1209 have a look at the `continuous integration server used by GROMACS`_,
1210 which runs Jenkins_.
1211
1212 We test irregularly on ARM v7, ARM v8, Cray, Fujitsu
1213 PRIMEHPC, Power8, Google Native Client and other environments, and
1214 with other compilers and compiler versions, too.