Merge "Fix bug in selection subexpression handling."
[alexxy/gromacs.git] / src / gromacs / selection / selectioncollection.cpp
1 /*
2  * This file is part of the GROMACS molecular simulation package.
3  *
4  * Copyright (c) 2010,2011,2012,2013, by the GROMACS development team, led by
5  * David van der Spoel, Berk Hess, Erik Lindahl, and including many
6  * others, as listed in the AUTHORS file in the top-level source
7  * directory and at http://www.gromacs.org.
8  *
9  * GROMACS is free software; you can redistribute it and/or
10  * modify it under the terms of the GNU Lesser General Public License
11  * as published by the Free Software Foundation; either version 2.1
12  * of the License, or (at your option) any later version.
13  *
14  * GROMACS is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
17  * Lesser General Public License for more details.
18  *
19  * You should have received a copy of the GNU Lesser General Public
20  * License along with GROMACS; if not, see
21  * http://www.gnu.org/licenses, or write to the Free Software Foundation,
22  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA  02110-1301  USA.
23  *
24  * If you want to redistribute modifications to GROMACS, please
25  * consider that scientific software is very special. Version
26  * control is crucial - bugs must be traceable. We will be happy to
27  * consider code for inclusion in the official distribution, but
28  * derived work must not be called official GROMACS. Details are found
29  * in the README & COPYING files - if they are missing, get the
30  * official version at http://www.gromacs.org.
31  *
32  * To help us fund GROMACS development, we humbly ask that you cite
33  * the research papers on the package. Check out http://www.gromacs.org.
34  */
35 /*! \internal \file
36  * \brief
37  * Implements gmx::SelectionCollection.
38  *
39  * \author Teemu Murtola <teemu.murtola@gmail.com>
40  * \ingroup module_selection
41  */
42 #include "selectioncollection.h"
43
44 #include <cstdio>
45
46 #include <boost/shared_ptr.hpp>
47
48 #include "gromacs/legacyheaders/oenv.h"
49 #include "gromacs/legacyheaders/smalloc.h"
50 #include "gromacs/legacyheaders/xvgr.h"
51
52 #include "gromacs/options/basicoptions.h"
53 #include "gromacs/options/options.h"
54 #include "gromacs/selection/selection.h"
55 #include "gromacs/utility/exceptions.h"
56 #include "gromacs/utility/file.h"
57 #include "gromacs/utility/gmxassert.h"
58 #include "gromacs/utility/messagestringcollector.h"
59 #include "gromacs/utility/stringutil.h"
60
61 #include "compiler.h"
62 #include "mempool.h"
63 #include "parser.h"
64 #include "poscalc.h"
65 #include "scanner.h"
66 #include "selection.h"
67 #include "selectioncollection-impl.h"
68 #include "selelem.h"
69 #include "selhelp.h"
70 #include "selmethod.h"
71 #include "symrec.h"
72
73 namespace gmx
74 {
75
76 /********************************************************************
77  * SelectionCollection::Impl
78  */
79
80 SelectionCollection::Impl::Impl()
81     : debugLevel_(0), bExternalGroupsSet_(false), grps_(NULL)
82 {
83     sc_.nvars     = 0;
84     sc_.varstrs   = NULL;
85     sc_.top       = NULL;
86     gmx_ana_index_clear(&sc_.gall);
87     sc_.mempool   = NULL;
88     sc_.symtab.reset(new SelectionParserSymbolTable);
89     gmx_ana_selmethod_register_defaults(sc_.symtab.get());
90 }
91
92
93 SelectionCollection::Impl::~Impl()
94 {
95     clearSymbolTable();
96     // The tree must be freed before the SelectionData objects, since the
97     // tree may hold references to the position data in SelectionData.
98     sc_.root.reset();
99     sc_.sel.clear();
100     for (int i = 0; i < sc_.nvars; ++i)
101     {
102         sfree(sc_.varstrs[i]);
103     }
104     sfree(sc_.varstrs);
105     gmx_ana_index_deinit(&sc_.gall);
106     if (sc_.mempool)
107     {
108         _gmx_sel_mempool_destroy(sc_.mempool);
109     }
110 }
111
112
113 void
114 SelectionCollection::Impl::clearSymbolTable()
115 {
116     sc_.symtab.reset();
117 }
118
119
120 namespace
121 {
122
123 /*! \brief
124  * Reads a single selection line from stdin.
125  *
126  * \param[in]  infile        File to read from (typically File::standardInput()).
127  * \param[in]  bInteractive  Whether to print interactive prompts.
128  * \param[out] line          The read line in stored here.
129  * \returns true if something was read, false if at end of input.
130  *
131  * Handles line continuation, reading also the continuing line(s) in one call.
132  */
133 bool promptLine(File *infile, bool bInteractive, std::string *line)
134 {
135     if (bInteractive)
136     {
137         fprintf(stderr, "> ");
138     }
139     if (!infile->readLine(line))
140     {
141         return false;
142     }
143     while (endsWith(*line, "\\\n"))
144     {
145         line->resize(line->length() - 2);
146         if (bInteractive)
147         {
148             fprintf(stderr, "... ");
149         }
150         std::string buffer;
151         // Return value ignored, buffer remains empty and works correctly
152         // if there is nothing to read.
153         infile->readLine(&buffer);
154         line->append(buffer);
155     }
156     if (endsWith(*line, "\n"))
157     {
158         line->resize(line->length() - 1);
159     }
160     else if (bInteractive)
161     {
162         fprintf(stderr, "\n");
163     }
164     return true;
165 }
166
167 /*! \brief
168  * Helper function for tokenizing the input and pushing them to the parser.
169  *
170  * \param     scanner       Tokenizer data structure.
171  * \param     parserState   Parser data structure.
172  * \param[in] bInteractive  Whether to operate in interactive mode.
173  *
174  * Repeatedly reads tokens using \p scanner and pushes them to the parser with
175  * \p parserState until there is no more input, or until enough input is given
176  * (only in interactive mode).
177  */
178 int runParserLoop(yyscan_t scanner, _gmx_sel_yypstate *parserState,
179                   bool bInteractive)
180 {
181     int status    = YYPUSH_MORE;
182     int prevToken = 0;
183     do
184     {
185         YYSTYPE value;
186         int     token = _gmx_sel_yylex(&value, scanner);
187         if (bInteractive)
188         {
189             if (token == 0)
190             {
191                 break;
192             }
193             // Empty commands cause the interactive parser to print out
194             // status information. This avoids producing those unnecessarily,
195             // e.g., from "resname RA;;".
196             if (prevToken == CMD_SEP && token == CMD_SEP)
197             {
198                 continue;
199             }
200             prevToken = token;
201         }
202         status = _gmx_sel_yypush_parse(parserState, token, &value, scanner);
203     }
204     while (status == YYPUSH_MORE);
205     _gmx_sel_lexer_rethrow_exception_if_occurred(scanner);
206     return status;
207 }
208
209 /*! \brief
210  * Helper function that runs the parser once the tokenizer has been
211  * initialized.
212  *
213  * \param[in,out] scanner Scanner data structure.
214  * \param[in]     bStdIn  Whether to use a line-based reading
215  *      algorithm designed for interactive input.
216  * \param[in]     maxnr   Maximum number of selections to parse
217  *      (if -1, parse as many as provided by the user).
218  * \returns       Vector of parsed selections.
219  * \throws        std::bad_alloc if out of memory.
220  * \throws        InvalidInputError if there is a parsing error.
221  *
222  * Used internally to implement parseFromStdin(), parseFromFile() and
223  * parseFromString().
224  */
225 SelectionList runParser(yyscan_t scanner, bool bStdIn, int maxnr)
226 {
227     boost::shared_ptr<void>  scannerGuard(scanner, &_gmx_sel_free_lexer);
228     gmx_ana_selcollection_t *sc = _gmx_sel_lexer_selcollection(scanner);
229
230     MessageStringCollector   errors;
231     _gmx_sel_set_lexer_error_reporter(scanner, &errors);
232
233     int  oldCount = sc->sel.size();
234     bool bOk      = false;
235     {
236         boost::shared_ptr<_gmx_sel_yypstate> parserState(
237                 _gmx_sel_yypstate_new(), &_gmx_sel_yypstate_delete);
238         if (bStdIn)
239         {
240             File       &stdinFile(File::standardInput());
241             bool        bInteractive = _gmx_sel_is_lexer_interactive(scanner);
242             std::string line;
243             int         status;
244             while (promptLine(&stdinFile, bInteractive, &line))
245             {
246                 line.append("\n");
247                 _gmx_sel_set_lex_input_str(scanner, line.c_str());
248                 status = runParserLoop(scanner, parserState.get(), true);
249                 if (status != YYPUSH_MORE)
250                 {
251                     // TODO: Check if there is more input, and issue an
252                     // error/warning if some input was ignored.
253                     goto early_termination;
254                 }
255                 if (!errors.isEmpty() && bInteractive)
256                 {
257                     fprintf(stderr, "%s", errors.toString().c_str());
258                     errors.clear();
259                 }
260             }
261             status = _gmx_sel_yypush_parse(parserState.get(), 0, NULL,
262                                            scanner);
263             _gmx_sel_lexer_rethrow_exception_if_occurred(scanner);
264 early_termination:
265             bOk = (status == 0);
266         }
267         else
268         {
269             int status = runParserLoop(scanner, parserState.get(), false);
270             bOk = (status == 0);
271         }
272     }
273     scannerGuard.reset();
274     int nr = sc->sel.size() - oldCount;
275     if (maxnr > 0 && nr != maxnr)
276     {
277         bOk = false;
278         errors.append("Too few selections provided");
279     }
280
281     // TODO: Remove added selections from the collection if parsing failed?
282     if (!bOk || !errors.isEmpty())
283     {
284         GMX_ASSERT(!bOk && !errors.isEmpty(), "Inconsistent error reporting");
285         GMX_THROW(InvalidInputError(errors.toString()));
286     }
287
288     SelectionList                     result;
289     SelectionDataList::const_iterator i;
290     result.reserve(nr);
291     for (i = sc->sel.begin() + oldCount; i != sc->sel.end(); ++i)
292     {
293         result.push_back(Selection(i->get()));
294     }
295     return result;
296 }
297
298 }   // namespace
299
300
301 void SelectionCollection::Impl::resolveExternalGroups(
302         const SelectionTreeElementPointer &root,
303         MessageStringCollector            *errors)
304 {
305
306     if (root->type == SEL_GROUPREF)
307     {
308         bool bOk = true;
309         if (grps_ == NULL)
310         {
311             // TODO: Improve error messages
312             errors->append("Unknown group referenced in a selection");
313             bOk = false;
314         }
315         else if (root->u.gref.name != NULL)
316         {
317             char *name = root->u.gref.name;
318             if (!gmx_ana_indexgrps_find(&root->u.cgrp, grps_, name))
319             {
320                 // TODO: Improve error messages
321                 errors->append("Unknown group referenced in a selection");
322                 bOk = false;
323             }
324             else
325             {
326                 sfree(name);
327             }
328         }
329         else
330         {
331             if (!gmx_ana_indexgrps_extract(&root->u.cgrp, grps_,
332                                            root->u.gref.id))
333             {
334                 // TODO: Improve error messages
335                 errors->append("Unknown group referenced in a selection");
336                 bOk = false;
337             }
338         }
339         if (bOk)
340         {
341             root->type = SEL_CONST;
342             root->setName(root->u.cgrp.name);
343         }
344     }
345
346     SelectionTreeElementPointer child = root->child;
347     while (child)
348     {
349         resolveExternalGroups(child, errors);
350         child = child->next;
351     }
352 }
353
354
355 /********************************************************************
356  * SelectionCollection
357  */
358
359 SelectionCollection::SelectionCollection()
360     : impl_(new Impl)
361 {
362 }
363
364
365 SelectionCollection::~SelectionCollection()
366 {
367 }
368
369
370 void
371 SelectionCollection::initOptions(Options *options)
372 {
373     const char * const debug_levels[]
374         = { "no", "basic", "compile", "eval", "full" };
375
376     bool bAllowNonAtomOutput = false;
377     SelectionDataList::const_iterator iter;
378     for (iter = impl_->sc_.sel.begin(); iter != impl_->sc_.sel.end(); ++iter)
379     {
380         const internal::SelectionData &sel = **iter;
381         if (!sel.hasFlag(efSelection_OnlyAtoms))
382         {
383             bAllowNonAtomOutput = true;
384         }
385     }
386
387     const char *const *postypes = PositionCalculationCollection::typeEnumValues;
388     options->addOption(StringOption("selrpos")
389                            .enumValueFromNullTerminatedArray(postypes)
390                            .store(&impl_->rpost_).defaultValue(postypes[0])
391                            .description("Selection reference positions"));
392     if (bAllowNonAtomOutput)
393     {
394         options->addOption(StringOption("seltype")
395                                .enumValueFromNullTerminatedArray(postypes)
396                                .store(&impl_->spost_).defaultValue(postypes[0])
397                                .description("Default selection output positions"));
398     }
399     else
400     {
401         impl_->spost_ = postypes[0];
402     }
403     GMX_RELEASE_ASSERT(impl_->debugLevel_ >= 0 && impl_->debugLevel_ <= 4,
404                        "Debug level out of range");
405     options->addOption(StringOption("seldebug").hidden(impl_->debugLevel_ == 0)
406                            .enumValue(debug_levels)
407                            .defaultValue(debug_levels[impl_->debugLevel_])
408                            .storeEnumIndex(&impl_->debugLevel_)
409                            .description("Print out selection trees for debugging"));
410 }
411
412
413 void
414 SelectionCollection::setReferencePosType(const char *type)
415 {
416     GMX_RELEASE_ASSERT(type != NULL, "Cannot assign NULL position type");
417     // Check that the type is valid, throw if it is not.
418     e_poscalc_t  dummytype;
419     int          dummyflags;
420     PositionCalculationCollection::typeFromEnum(type, &dummytype, &dummyflags);
421     impl_->rpost_ = type;
422 }
423
424
425 void
426 SelectionCollection::setOutputPosType(const char *type)
427 {
428     GMX_RELEASE_ASSERT(type != NULL, "Cannot assign NULL position type");
429     // Check that the type is valid, throw if it is not.
430     e_poscalc_t  dummytype;
431     int          dummyflags;
432     PositionCalculationCollection::typeFromEnum(type, &dummytype, &dummyflags);
433     impl_->spost_ = type;
434 }
435
436
437 void
438 SelectionCollection::setDebugLevel(int debugLevel)
439 {
440     impl_->debugLevel_ = debugLevel;
441 }
442
443
444 void
445 SelectionCollection::setTopology(t_topology *top, int natoms)
446 {
447     GMX_RELEASE_ASSERT(natoms > 0 || top != NULL,
448                        "The number of atoms must be given if there is no topology");
449     // Get the number of atoms from the topology if it is not given.
450     if (natoms <= 0)
451     {
452         natoms = top->atoms.nr;
453     }
454     gmx_ana_selcollection_t *sc = &impl_->sc_;
455     // Do this first, as it allocates memory, while the others don't throw.
456     gmx_ana_index_init_simple(&sc->gall, natoms, NULL);
457     sc->pcc.setTopology(top);
458     sc->top = top;
459 }
460
461
462 void
463 SelectionCollection::setIndexGroups(gmx_ana_indexgrps_t *grps)
464 {
465     GMX_RELEASE_ASSERT(grps == NULL || !impl_->bExternalGroupsSet_,
466                        "Can only set external groups once or clear them afterwards");
467     impl_->grps_               = grps;
468     impl_->bExternalGroupsSet_ = true;
469
470     MessageStringCollector      errors;
471     SelectionTreeElementPointer root = impl_->sc_.root;
472     while (root)
473     {
474         impl_->resolveExternalGroups(root, &errors);
475         root = root->next;
476     }
477     if (!errors.isEmpty())
478     {
479         GMX_THROW(InvalidInputError(errors.toString()));
480     }
481 }
482
483
484 bool
485 SelectionCollection::requiresTopology() const
486 {
487     e_poscalc_t  type;
488     int          flags;
489
490     if (!impl_->rpost_.empty())
491     {
492         flags = 0;
493         // Should not throw, because has been checked earlier.
494         PositionCalculationCollection::typeFromEnum(impl_->rpost_.c_str(),
495                                                     &type, &flags);
496         if (type != POS_ATOM)
497         {
498             return true;
499         }
500     }
501     if (!impl_->spost_.empty())
502     {
503         flags = 0;
504         // Should not throw, because has been checked earlier.
505         PositionCalculationCollection::typeFromEnum(impl_->spost_.c_str(),
506                                                     &type, &flags);
507         if (type != POS_ATOM)
508         {
509             return true;
510         }
511     }
512
513     SelectionTreeElementPointer sel = impl_->sc_.root;
514     while (sel)
515     {
516         if (_gmx_selelem_requires_top(*sel))
517         {
518             return true;
519         }
520         sel = sel->next;
521     }
522     return false;
523 }
524
525
526 SelectionList
527 SelectionCollection::parseFromStdin(int nr, bool bInteractive)
528 {
529     yyscan_t scanner;
530
531     _gmx_sel_init_lexer(&scanner, &impl_->sc_, bInteractive, nr,
532                         impl_->bExternalGroupsSet_,
533                         impl_->grps_);
534     return runParser(scanner, true, nr);
535 }
536
537
538 SelectionList
539 SelectionCollection::parseFromFile(const std::string &filename)
540 {
541
542     try
543     {
544         yyscan_t scanner;
545         File     file(filename, "r");
546         // TODO: Exception-safe way of using the lexer.
547         _gmx_sel_init_lexer(&scanner, &impl_->sc_, false, -1,
548                             impl_->bExternalGroupsSet_,
549                             impl_->grps_);
550         _gmx_sel_set_lex_input_file(scanner, file.handle());
551         return runParser(scanner, false, -1);
552     }
553     catch (GromacsException &ex)
554     {
555         ex.prependContext(formatString(
556                                   "Error in parsing selections from file '%s'",
557                                   filename.c_str()));
558         throw;
559     }
560 }
561
562
563 SelectionList
564 SelectionCollection::parseFromString(const std::string &str)
565 {
566     yyscan_t scanner;
567
568     _gmx_sel_init_lexer(&scanner, &impl_->sc_, false, -1,
569                         impl_->bExternalGroupsSet_,
570                         impl_->grps_);
571     _gmx_sel_set_lex_input_str(scanner, str.c_str());
572     return runParser(scanner, false, -1);
573 }
574
575
576 void
577 SelectionCollection::compile()
578 {
579     if (impl_->sc_.top == NULL && requiresTopology())
580     {
581         GMX_THROW(InconsistentInputError("Selection requires topology information, but none provided"));
582     }
583     if (!impl_->bExternalGroupsSet_)
584     {
585         setIndexGroups(NULL);
586     }
587     if (impl_->debugLevel_ >= 1)
588     {
589         printTree(stderr, false);
590     }
591
592     SelectionCompiler compiler;
593     compiler.compile(this);
594
595     if (impl_->debugLevel_ >= 1)
596     {
597         std::fprintf(stderr, "\n");
598         printTree(stderr, false);
599         std::fprintf(stderr, "\n");
600         impl_->sc_.pcc.printTree(stderr);
601         std::fprintf(stderr, "\n");
602     }
603     impl_->sc_.pcc.initEvaluation();
604     if (impl_->debugLevel_ >= 1)
605     {
606         impl_->sc_.pcc.printTree(stderr);
607         std::fprintf(stderr, "\n");
608     }
609
610     // TODO: It would be nicer to associate the name of the selection option
611     // (if available) to the error message.
612     SelectionDataList::const_iterator iter;
613     for (iter = impl_->sc_.sel.begin(); iter != impl_->sc_.sel.end(); ++iter)
614     {
615         const internal::SelectionData &sel = **iter;
616         if (sel.hasFlag(efSelection_OnlyAtoms))
617         {
618             if (sel.type() != INDEX_ATOM)
619             {
620                 std::string message = formatString(
621                             "Selection '%s' does not evaluate to individual atoms. "
622                             "This is not allowed in this context.",
623                             sel.selectionText());
624                 GMX_THROW(InvalidInputError(message));
625             }
626         }
627         if (sel.hasFlag(efSelection_DisallowEmpty))
628         {
629             if (sel.posCount() == 0)
630             {
631                 std::string message = formatString(
632                             "Selection '%s' never matches any atoms.",
633                             sel.selectionText());
634                 GMX_THROW(InvalidInputError(message));
635             }
636         }
637     }
638 }
639
640
641 void
642 SelectionCollection::evaluate(t_trxframe *fr, t_pbc *pbc)
643 {
644     impl_->sc_.pcc.initFrame();
645
646     SelectionEvaluator evaluator;
647     evaluator.evaluate(this, fr, pbc);
648
649     if (impl_->debugLevel_ >= 3)
650     {
651         std::fprintf(stderr, "\n");
652         printTree(stderr, true);
653     }
654 }
655
656
657 void
658 SelectionCollection::evaluateFinal(int nframes)
659 {
660     SelectionEvaluator evaluator;
661     evaluator.evaluateFinal(this, nframes);
662 }
663
664
665 void
666 SelectionCollection::printTree(FILE *fp, bool bValues) const
667 {
668     SelectionTreeElementPointer sel = impl_->sc_.root;
669     while (sel)
670     {
671         _gmx_selelem_print_tree(fp, *sel, bValues, 0);
672         sel = sel->next;
673     }
674 }
675
676
677 void
678 SelectionCollection::printXvgrInfo(FILE *out, output_env_t oenv) const
679 {
680     if (output_env_get_xvg_format(oenv) != exvgNONE)
681     {
682         const gmx_ana_selcollection_t &sc = impl_->sc_;
683         std::fprintf(out, "# Selections:\n");
684         for (int i = 0; i < sc.nvars; ++i)
685         {
686             std::fprintf(out, "#   %s\n", sc.varstrs[i]);
687         }
688         for (size_t i = 0; i < sc.sel.size(); ++i)
689         {
690             std::fprintf(out, "#   %s\n", sc.sel[i]->selectionText());
691         }
692         std::fprintf(out, "#\n");
693     }
694 }
695
696 // static
697 HelpTopicPointer
698 SelectionCollection::createDefaultHelpTopic()
699 {
700     return createSelectionHelpTopic();
701 }
702
703 } // namespace gmx