regcomp.c

   1 /*    regcomp.c
   2  */
   3
   4 /*
   5  * "A fair jaw-cracker dwarf-language must be."  --Samwise Gamgee
   6  */
   7
   8 /* NOTE: this is derived from Henry Spencer's regexp code, and should not
   9  * confused with the original package (see point 3 below).  Thanks, Henry!
  10  */
  11
  12 /* Additional note: this code is very heavily munged from Henry's version
  13  * in places.  In some spots I've traded clarity for efficiency, so don't
  14  * blame Henry for some of the lack of readability.
  15  */
  16
  17 /* The names of the functions have been changed from regcomp and
  18  * regexec to  pregcomp and pregexec in order to avoid conflicts
  19  * with the POSIX routines of the same names.
  20 */
  21
  22 /*SUPPRESS 112*/
  23 /*
  24  * pregcomp and pregexec -- regsub and regerror are not used in perl
  25  *
  26  *      Copyright (c) 1986 by University of Toronto.
  27  *      Written by Henry Spencer.  Not derived from licensed software.
  28  *
  29  *      Permission is granted to anyone to use this software for any
  30  *      purpose on any computer system, and to redistribute it freely,
  31  *      subject to the following restrictions:
  32  *
  33  *      1. The author is not responsible for the consequences of use of
  34  *              this software, no matter how awful, even if they arise
  35  *              from defects in it.
  36  *
  37  *      2. The origin of this software must not be misrepresented, either
  38  *              by explicit claim or by omission.
  39  *
  40  *      3. Altered versions must be plainly marked as such, and must not
  41  *              be misrepresented as being the original software.
  42  *
  43  *
  44  ****    Alterations to Henry's code are...
  45  ****
  46  ****    Copyright (c) 1991-1997, Larry Wall
  47  ****
  48  ****    You may distribute under the terms of either the GNU General Public
  49  ****    License or the Artistic License, as specified in the README file.
  50
  51  *
  52  * Beware that some of this code is subtly aware of the way operator
  53  * precedence is structured in regular expressions.  Serious changes in
  54  * regular-expression syntax might require a total rethink.
  55  */
  56 #include "EXTERN.h"
  57 #include "perl.h"
  58 #include "INTERN.h"
  59
  60 #define REG_COMP_C
  61 #include "regcomp.h"
  62
  63 #ifdef op
  64 #undef op
  65 #endif /* op */
  66
  67 #ifdef MSDOS
  68 # if defined(BUGGY_MSC6)
  69  /* MSC 6.00A breaks on op/regexp.t test 85 unless we turn this off */
  70  # pragma optimize("a",off)
  71  /* But MSC 6.00A is happy with 'w', for aliases only across function calls*/
  72  # pragma optimize("w",on )
  73 # endif /* BUGGY_MSC6 */
  74 #endif /* MSDOS */
  75
  76 #ifndef STATIC
  77 #define STATIC  static
  78 #endif
  79
  80 #define ISMULT1(c)      ((c) == '*' || (c) == '+' || (c) == '?')
  81 #define ISMULT2(s)      ((*s) == '*' || (*s) == '+' || (*s) == '?' || \
  82         ((*s) == '{' && regcurly(s)))
  83 #ifdef atarist
  84 #define PERL_META       "^$.[()|?+*\\"
  85 #else
  86 #define META    "^$.[()|?+*\\"
  87 #endif
  88
  89 #ifdef SPSTART
  90 #undef SPSTART          /* dratted cpp namespace... */
  91 #endif
  92 /*
  93  * Flags to be passed up and down.
  94  */
  95 #define WORST           0       /* Worst case. */
  96 #define HASWIDTH        0x1     /* Known never to match null string. */
  97 #define SIMPLE          0x2     /* Simple enough to be STAR/PLUS operand. */
  98 #define SPSTART         0x4     /* Starts with * or +. */
  99 #define TRYAGAIN        0x8     /* Weeded out a declaration. */
 100
 101 /*
 102  * Forward declarations for pregcomp()'s friends.
 103  */
 104
 105 #ifndef PERL_OBJECT
 106 static regnode *reg _((I32, I32 *));
 107 static regnode *reganode _((U8, U32));
 108 static regnode *regatom _((I32 *));
 109 static regnode *regbranch _((I32 *, I32));
 110 static void regc _((U8, char *));
 111 static regnode *regclass _((void));
 112 STATIC I32 regcurly _((char *));
 113 static regnode *reg_node _((U8));
 114 static regnode *regpiece _((I32 *));
 115 static void reginsert _((U8, regnode *));
 116 static void regoptail _((regnode *, regnode *));
 117 static void regtail _((regnode *, regnode *));
 118 static char* regwhite _((char *, char *));
 119 static char* nextchar _((void));
 120 static void re_croak2 _((const char* pat1,const char* pat2,...)) __attribute__((noreturn));
 121 #endif
 122
 123 /* Length of a variant. */
 124
 125 #ifndef PERL_OBJECT
 126 typedef struct {
 127     I32 len_min;
 128     I32 len_delta;
 129     I32 pos_min;
 130     I32 pos_delta;
 131     SV *last_found;
 132     I32 last_end;                       /* min value, <0 unless valid. */
 133     I32 last_start_min;
 134     I32 last_start_max;
 135     SV **longest;                       /* Either &l_fixed, or &l_float. */
 136     SV *longest_fixed;
 137     I32 offset_fixed;
 138     SV *longest_float;
 139     I32 offset_float_min;
 140     I32 offset_float_max;
 141     I32 flags;
 142 } scan_data_t;
 143 #endif
 144
 145 static scan_data_t zero_scan_data = { 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 };
 146
 147 #define SF_BEFORE_EOL           (SF_BEFORE_SEOL|SF_BEFORE_MEOL)
 148 #define SF_BEFORE_SEOL          0x1
 149 #define SF_BEFORE_MEOL          0x2
 150 #define SF_FIX_BEFORE_EOL       (SF_FIX_BEFORE_SEOL|SF_FIX_BEFORE_MEOL)
 151 #define SF_FL_BEFORE_EOL        (SF_FL_BEFORE_SEOL|SF_FL_BEFORE_MEOL)
 152
 153 #ifdef NO_UNARY_PLUS
 154 #  define SF_FIX_SHIFT_EOL      (0+2)
 155 #  define SF_FL_SHIFT_EOL               (0+4)
 156 #else
 157 #  define SF_FIX_SHIFT_EOL      (+2)
 158 #  define SF_FL_SHIFT_EOL               (+4)
 159 #endif
 160
 161 #define SF_FIX_BEFORE_SEOL      (SF_BEFORE_SEOL << SF_FIX_SHIFT_EOL)
 162 #define SF_FIX_BEFORE_MEOL      (SF_BEFORE_MEOL << SF_FIX_SHIFT_EOL)
 163
 164 #define SF_FL_BEFORE_SEOL       (SF_BEFORE_SEOL << SF_FL_SHIFT_EOL)
 165 #define SF_FL_BEFORE_MEOL       (SF_BEFORE_MEOL << SF_FL_SHIFT_EOL) /* 0x20 */
 166 #define SF_IS_INF               0x40
 167 #define SF_HAS_PAR              0x80
 168 #define SF_IN_PAR               0x100
 169 #define SF_HAS_EVAL             0x200
 170 #define SCF_DO_SUBSTR           0x400
 171
 172 STATIC void
 173 scan_commit(scan_data_t *data)
 174 {
 175     STRLEN l = SvCUR(data->last_found);
 176     STRLEN old_l = SvCUR(*data->longest);
 177
 178     if ((l >= old_l) && ((l > old_l) || (data->flags & SF_BEFORE_EOL))) {
 179         sv_setsv(*data->longest, data->last_found);
 180         if (*data->longest == data->longest_fixed) {
 181             data->offset_fixed = l ? data->last_start_min : data->pos_min;
 182             if (data->flags & SF_BEFORE_EOL)
 183                 data->flags
 184                     |= ((data->flags & SF_BEFORE_EOL) << SF_FIX_SHIFT_EOL);
 185             else
 186                 data->flags &= ~SF_FIX_BEFORE_EOL;
 187         } else {
 188             data->offset_float_min = l ? data->last_start_min : data->pos_min;
 189             data->offset_float_max = (l
 190                                       ? data->last_start_max
 191                                       : data->pos_min + data->pos_delta);
 192             if (data->flags & SF_BEFORE_EOL)
 193                 data->flags
 194                     |= ((data->flags & SF_BEFORE_EOL) << SF_FL_SHIFT_EOL);
 195             else
 196                 data->flags &= ~SF_FL_BEFORE_EOL;
 197         }
 198     }
 199     SvCUR_set(data->last_found, 0);
 200     data->last_end = -1;
 201     data->flags &= ~SF_BEFORE_EOL;
 202 }
 203
 204 /* Stops at toplevel WHILEM as well as at `last'. At end *scanp is set
 205    to the position after last scanned or to NULL. */
 206
 207 STATIC I32
 208 study_chunk(regnode **scanp, I32 *deltap, regnode *last, scan_data_t *data, U32 flags)
 209                         /* scanp: Start here (read-write). */
 210                         /* deltap: Write maxlen-minlen here. */
 211                         /* last: Stop before this one. */
 212 {
 213     I32 min = 0, pars = 0, code;
 214     regnode *scan = *scanp, *next;
 215     I32 delta = 0;
 216     int is_inf = (flags & SCF_DO_SUBSTR) && (data->flags & SF_IS_INF);
 217     I32 is_par = OP(scan) == OPEN ? ARG(scan) : 0;
 218     scan_data_t data_fake;
 219
 220     while (scan && OP(scan) != END && scan < last) {
 221         /* Peephole optimizer: */
 222
 223         if (regkind[(U8)OP(scan)] == EXACT) {
 224             regnode *n = regnext(scan);
 225             U32 stringok = 1;
 226 #ifdef DEBUGGING
 227             regnode *stop = scan;
 228 #endif
 229
 230             next = scan + (*OPERAND(scan) + 2 - 1)/sizeof(regnode) + 2;
 231             /* Skip NOTHING, merge EXACT*. */
 232             while (n &&
 233                    ( regkind[(U8)OP(n)] == NOTHING ||
 234                      (stringok && (OP(n) == OP(scan))))
 235                    && NEXT_OFF(n)
 236                    && NEXT_OFF(scan) + NEXT_OFF(n) < I16_MAX) {
 237                 if (OP(n) == TAIL || n > next)
 238                     stringok = 0;
 239                 if (regkind[(U8)OP(n)] == NOTHING) {
 240                     NEXT_OFF(scan) += NEXT_OFF(n);
 241                     next = n + NODE_STEP_REGNODE;
 242 #ifdef DEBUGGING
 243                     if (stringok)
 244                         stop = n;
 245 #endif
 246                     n = regnext(n);
 247                 } else {
 248                     int oldl = *OPERAND(scan);
 249                     regnode *nnext = regnext(n);
 250
 251                     if (oldl + *OPERAND(n) > U8_MAX)
 252                         break;
 253                     NEXT_OFF(scan) += NEXT_OFF(n);
 254                     *OPERAND(scan) += *OPERAND(n);
 255                     next = n + (*OPERAND(n) + 2 - 1)/sizeof(regnode) + 2;
 256                     /* Now we can overwrite *n : */
 257                     Move(OPERAND(n) + 1, OPERAND(scan) + oldl + 1,
 258                          *OPERAND(n) + 1, char);
 259 #ifdef DEBUGGING
 260                     if (stringok)
 261                         stop = next - 1;
 262 #endif
 263                     n = nnext;
 264                 }
 265             }
 266 #ifdef DEBUGGING
 267             /* Allow dumping */
 268             n = scan + (*OPERAND(scan) + 2 - 1)/sizeof(regnode) + 2;
 269             while (n <= stop) {
 270                 /* Purify reports a benign UMR here sometimes, because we
 271                  * don't initialize the OP() slot of a node when that node
 272                  * is occupied by just the trailing null of the string in
 273                  * an EXACT node */
 274                 if (regkind[(U8)OP(n)] != NOTHING || OP(n) == NOTHING) {
 275                     OP(n) = OPTIMIZED;
 276                     NEXT_OFF(n) = 0;
 277                 }
 278                 n++;
 279             }
 280 #endif
 281
 282         }
 283         if (OP(scan) != CURLYX) {
 284             int max = (reg_off_by_arg[OP(scan)] ? I32_MAX : U16_MAX);
 285             int off = (reg_off_by_arg[OP(scan)] ? ARG(scan) : NEXT_OFF(scan));
 286             int noff;
 287             regnode *n = scan;
 288
 289             /* Skip NOTHING and LONGJMP. */
 290             while ((n = regnext(n))
 291                    && ((regkind[(U8)OP(n)] == NOTHING && (noff = NEXT_OFF(n)))
 292                        || ((OP(n) == LONGJMP) && (noff = ARG(n))))
 293                    && off + noff < max)
 294                 off += noff;
 295             if (reg_off_by_arg[OP(scan)])
 296                 ARG(scan) = off;
 297             else
 298                 NEXT_OFF(scan) = off;
 299         }
 300         if (OP(scan) == BRANCH || OP(scan) == BRANCHJ
 301                    || OP(scan) == IFTHEN || OP(scan) == SUSPEND) {
 302             next = regnext(scan);
 303             code = OP(scan);
 304
 305             if (OP(next) == code || code == IFTHEN || code == SUSPEND) {
 306                 I32 max1 = 0, min1 = I32_MAX, num = 0;
 307
 308                 if (flags & SCF_DO_SUBSTR)
 309                     scan_commit(data);
 310                 while (OP(scan) == code) {
 311                     I32 deltanext, minnext;
 312
 313                     num++;
 314                     data_fake.flags = 0;
 315                     next = regnext(scan);
 316                     scan = NEXTOPER(scan);
 317                     if (code != BRANCH)
 318                         scan = NEXTOPER(scan);
 319                     /* We suppose the run is continuous, last=next...*/
 320                     minnext = study_chunk(&scan, &deltanext, next,
 321                                           &data_fake, 0);
 322                     if (min1 > minnext)
 323                         min1 = minnext;
 324                     if (max1 < minnext + deltanext)
 325                         max1 = minnext + deltanext;
 326                     if (deltanext == I32_MAX)
 327                         is_inf = 1;
 328                     scan = next;
 329                     if (data_fake.flags & (SF_HAS_PAR|SF_IN_PAR))
 330                         pars++;
 331                     if (data && (data_fake.flags & SF_HAS_EVAL))
 332                         data->flags |= SF_HAS_EVAL;
 333                     if (code == SUSPEND)
 334                         break;
 335                 }
 336                 if (code == IFTHEN && num < 2) /* Empty ELSE branch */
 337                     min1 = 0;
 338                 if (flags & SCF_DO_SUBSTR) {
 339                     data->pos_min += min1;
 340                     data->pos_delta += max1 - min1;
 341                     if (max1 != min1 || is_inf)
 342                         data->longest = &(data->longest_float);
 343                 }
 344                 min += min1;
 345                 delta += max1 - min1;
 346             } else if (code == BRANCHJ) /* single branch is optimized. */
 347                 scan = NEXTOPER(NEXTOPER(scan));
 348             else                        /* single branch is optimized. */
 349                 scan = NEXTOPER(scan);
 350             continue;
 351         } else if (OP(scan) == EXACT) {
 352             min += *OPERAND(scan);
 353             if (flags & SCF_DO_SUBSTR) { /* Update longest substr. */
 354                 I32 l = *OPERAND(scan);
 355
 356                 /* The code below prefers earlier match for fixed
 357                    offset, later match for variable offset.  */
 358                 if (data->last_end == -1) { /* Update the start info. */
 359                     data->last_start_min = data->pos_min;
 360                     data->last_start_max = is_inf
 361                         ? I32_MAX : data->pos_min + data->pos_delta;
 362                 }
 363                 sv_catpvn(data->last_found, (char *)(OPERAND(scan)+1), l);
 364                 data->last_end = data->pos_min + l;
 365                 data->pos_min += l; /* As in the first entry. */
 366                 data->flags &= ~SF_BEFORE_EOL;
 367             }
 368         } else if (regkind[(U8)OP(scan)] == EXACT) {
 369             if (flags & SCF_DO_SUBSTR)
 370                 scan_commit(data);
 371             min += *OPERAND(scan);
 372             if (data && (flags & SCF_DO_SUBSTR))
 373                 data->pos_min += *OPERAND(scan);
 374         } else if (strchr(varies,OP(scan))) {
 375             I32 mincount, maxcount, minnext, deltanext, pos_before, fl;
 376             regnode *oscan = scan;
 377
 378             switch (regkind[(U8)OP(scan)]) {
 379             case WHILEM:
 380                 scan = NEXTOPER(scan);
 381                 goto finish;
 382             case PLUS:
 383                 if (flags & SCF_DO_SUBSTR) {
 384                     next = NEXTOPER(scan);
 385                     if (OP(next) == EXACT) {
 386                         mincount = 1;
 387                         maxcount = REG_INFTY;
 388                         next = regnext(scan);
 389                         scan = NEXTOPER(scan);
 390                         goto do_curly;
 391                     }
 392                 }
 393                 if (flags & SCF_DO_SUBSTR)
 394                     data->pos_min++;
 395                 min++;
 396                 /* Fall through. */
 397             case STAR:
 398                 is_inf = 1;
 399                 scan = regnext(scan);
 400                 if (flags & SCF_DO_SUBSTR) {
 401                     scan_commit(data);
 402                     data->longest = &(data->longest_float);
 403                 }
 404                 goto optimize_curly_tail;
 405             case CURLY:
 406                 mincount = ARG1(scan);
 407                 maxcount = ARG2(scan);
 408                 next = regnext(scan);
 409                 scan = NEXTOPER(scan) + EXTRA_STEP_2ARGS;
 410               do_curly:
 411                 if (flags & SCF_DO_SUBSTR) {
 412                     if (mincount == 0) scan_commit(data);
 413                     pos_before = data->pos_min;
 414                 }
 415                 if (data) {
 416                     fl = data->flags;
 417                     data->flags &= ~(SF_HAS_PAR|SF_IN_PAR|SF_HAS_EVAL);
 418                     if (is_inf)
 419                         data->flags |= SF_IS_INF;
 420                 }
 421                 /* This will finish on WHILEM, setting scan, or on NULL: */
 422                 minnext = study_chunk(&scan, &deltanext, last, data,
 423                                       mincount == 0
 424                                         ? (flags & ~SCF_DO_SUBSTR) : flags);
 425                 if (!scan)              /* It was not CURLYX, but CURLY. */
 426                     scan = next;
 427                 if (dowarn && (minnext + deltanext == 0)
 428                     && !(data->flags & (SF_HAS_PAR|SF_IN_PAR)))
 429                     warn("Strange *+?{} on zero-length expression");
 430                 min += minnext * mincount;
 431                 is_inf |= (maxcount == REG_INFTY && (minnext + deltanext) > 0
 432                            || deltanext == I32_MAX);
 433                 delta += (minnext + deltanext) * maxcount - minnext * mincount;
 434
 435                 /* Try powerful optimization CURLYX => CURLYN. */
 436                 if (  OP(oscan) == CURLYX && data
 437                       && data->flags & SF_IN_PAR
 438                       && !(data->flags & SF_HAS_EVAL)
 439                       && !deltanext && minnext == 1 ) {
 440                     /* Try to optimize to CURLYN.  */
 441                     regnode *nxt = NEXTOPER(oscan) + EXTRA_STEP_2ARGS;
 442                     regnode *nxt1 = nxt, *nxt2;
 443
 444                     /* Skip open. */
 445                     nxt = regnext(nxt);
 446                     if (!strchr(simple,OP(nxt))
 447                         && !(regkind[(U8)OP(nxt)] == EXACT
 448                              && *OPERAND(nxt) == 1))
 449                         goto nogo;
 450                     nxt2 = nxt;
 451                     nxt = regnext(nxt);
 452                     if (OP(nxt) != CLOSE)
 453                         goto nogo;
 454                     /* Now we know that nxt2 is the only contents: */
 455                     oscan->flags = ARG(nxt);
 456                     OP(oscan) = CURLYN;
 457                     OP(nxt1) = NOTHING; /* was OPEN. */
 458 #ifdef DEBUGGING
 459                     OP(nxt1 + 1) = OPTIMIZED; /* was count. */
 460                     NEXT_OFF(nxt1+ 1) = 0; /* just for consistancy. */
 461                     NEXT_OFF(nxt2) = 0; /* just for consistancy with CURLY. */
 462                     OP(nxt) = OPTIMIZED;        /* was CLOSE. */
 463                     OP(nxt + 1) = OPTIMIZED; /* was count. */
 464                     NEXT_OFF(nxt+ 1) = 0; /* just for consistancy. */
 465 #endif
 466                 }
 467               nogo:
 468
 469                 /* Try optimization CURLYX => CURLYM. */
 470                 if (  OP(oscan) == CURLYX && data
 471                       && !(data->flags & SF_HAS_PAR)
 472                       && !(data->flags & SF_HAS_EVAL)
 473                       && !deltanext  ) {
 474                     /* XXXX How to optimize if data == 0? */
 475                     /* Optimize to a simpler form.  */
 476                     regnode *nxt = NEXTOPER(oscan) + EXTRA_STEP_2ARGS; /* OPEN */
 477                     regnode *nxt2;
 478
 479                     OP(oscan) = CURLYM;
 480                     while ( (nxt2 = regnext(nxt)) /* skip over embedded stuff*/
 481                             && (OP(nxt2) != WHILEM))
 482                         nxt = nxt2;
 483                     OP(nxt2)  = SUCCEED; /* Whas WHILEM */
 484                     /* Need to optimize away parenths. */
 485                     if (data->flags & SF_IN_PAR) {
 486                         /* Set the parenth number.  */
 487                         regnode *nxt1 = NEXTOPER(oscan) + EXTRA_STEP_2ARGS; /* OPEN*/
 488
 489                         if (OP(nxt) != CLOSE)
 490                             FAIL("panic opt close");
 491                         oscan->flags = ARG(nxt);
 492                         OP(nxt1) = OPTIMIZED;   /* was OPEN. */
 493                         OP(nxt) = OPTIMIZED;    /* was CLOSE. */
 494 #ifdef DEBUGGING
 495                         OP(nxt1 + 1) = OPTIMIZED; /* was count. */
 496                         OP(nxt + 1) = OPTIMIZED; /* was count. */
 497                         NEXT_OFF(nxt1 + 1) = 0; /* just for consistancy. */
 498                         NEXT_OFF(nxt + 1) = 0; /* just for consistancy. */
 499 #endif
 500 #if 0
 501                         while ( nxt1 && (OP(nxt1) != WHILEM)) {
 502                             regnode *nnxt = regnext(nxt1);
 503
 504                             if (nnxt == nxt) {
 505                                 if (reg_off_by_arg[OP(nxt1)])
 506                                     ARG_SET(nxt1, nxt2 - nxt1);
 507                                 else if (nxt2 - nxt1 < U16_MAX)
 508                                     NEXT_OFF(nxt1) = nxt2 - nxt1;
 509                                 else
 510                                     OP(nxt) = NOTHING;  /* Cannot beautify */
 511                             }
 512                             nxt1 = nnxt;
 513                         }
 514 #endif
 515                         /* Optimize again: */
 516                         study_chunk(&nxt1, &deltanext, nxt, NULL, 0);
 517                     } else
 518                         oscan->flags = 0;
 519                 }
 520                 if (data && fl & (SF_HAS_PAR|SF_IN_PAR))
 521                     pars++;
 522                 if (flags & SCF_DO_SUBSTR) {
 523                     SV *last_str = Nullsv;
 524                     int counted = mincount != 0;
 525
 526                     if (data->last_end > 0 && mincount != 0) { /* Ends with a string. */
 527                         I32 b = pos_before >= data->last_start_min
 528                             ? pos_before : data->last_start_min;
 529                         STRLEN l;
 530                         char *s = SvPV(data->last_found, l);
 531
 532                         l -= b - data->last_start_min;
 533                         /* Get the added string: */
 534                         last_str = newSVpv(s  +  b - data->last_start_min, l);
 535                         if (deltanext == 0 && pos_before == b) {
 536                             /* What was added is a constant string */
 537                             if (mincount > 1) {
 538                                 SvGROW(last_str, (mincount * l) + 1);
 539                                 repeatcpy(SvPVX(last_str) + l,
 540                                           SvPVX(last_str), l, mincount - 1);
 541                                 SvCUR(last_str) *= mincount;
 542                                 /* Add additional parts. */
 543                                 SvCUR_set(data->last_found,
 544                                           SvCUR(data->last_found) - l);
 545                                 sv_catsv(data->last_found, last_str);
 546                                 data->last_end += l * (mincount - 1);
 547                             }
 548                         }
 549                     }
 550                     /* It is counted once already... */
 551                     data->pos_min += minnext * (mincount - counted);
 552                     data->pos_delta += - counted * deltanext +
 553                         (minnext + deltanext) * maxcount - minnext * mincount;
 554                     if (mincount != maxcount) {
 555                         scan_commit(data);
 556                         if (mincount && last_str) {
 557                             sv_setsv(data->last_found, last_str);
 558                             data->last_end = data->pos_min;
 559                             data->last_start_min =
 560                                 data->pos_min - SvCUR(last_str);
 561                             data->last_start_max = is_inf
 562                                 ? I32_MAX
 563                                 : data->pos_min + data->pos_delta
 564                                 - SvCUR(last_str);
 565                         }
 566                         data->longest = &(data->longest_float);
 567                     }
 568                 }
 569                 if (data && (fl & SF_HAS_EVAL))
 570                     data->flags |= SF_HAS_EVAL;
 571               optimize_curly_tail:
 572                 if (OP(oscan) != CURLYX) {
 573                     while (regkind[(U8)OP(next = regnext(oscan))] == NOTHING
 574                            && NEXT_OFF(next))
 575                         NEXT_OFF(oscan) += NEXT_OFF(next);
 576                 }
 577                 continue;
 578             default:                    /* REF only? */
 579                 if (flags & SCF_DO_SUBSTR) {
 580                     scan_commit(data);
 581                     data->longest = &(data->longest_float);
 582                 }
 583                 is_inf = 1;
 584                 break;
 585             }
 586         } else if (strchr(simple,OP(scan))) {
 587             if (flags & SCF_DO_SUBSTR) {
 588                 scan_commit(data);
 589                 data->pos_min++;
 590             }
 591             min++;
 592         } else if (regkind[(U8)OP(scan)] == EOL && flags & SCF_DO_SUBSTR) {
 593             data->flags |= (OP(scan) == MEOL
 594                             ? SF_BEFORE_MEOL
 595                             : SF_BEFORE_SEOL);
 596         } else if (regkind[(U8)OP(scan)] == BRANCHJ
 597                    && (scan->flags || data)
 598                    && (OP(scan) == IFMATCH || OP(scan) == UNLESSM)) {
 599             I32 deltanext, minnext;
 600             regnode *nscan;
 601
 602             data_fake.flags = 0;
 603             next = regnext(scan);
 604             nscan = NEXTOPER(NEXTOPER(scan));
 605             minnext = study_chunk(&nscan, &deltanext, last, &data_fake, 0);
 606             if (scan->flags) {
 607                 if (deltanext) {
 608                     FAIL("variable length lookbehind not implemented");
 609                 } else if (minnext > U8_MAX) {
 610                     FAIL2("lookbehind longer than %d not implemented", U8_MAX);
 611                 }
 612                 scan->flags = minnext;
 613             }
 614             if (data && data_fake.flags & (SF_HAS_PAR|SF_IN_PAR))
 615                 pars++;
 616             if (data && (data_fake.flags & SF_HAS_EVAL))
 617                 data->flags |= SF_HAS_EVAL;
 618         } else if (OP(scan) == OPEN) {
 619             pars++;
 620         } else if (OP(scan) == CLOSE && ARG(scan) == is_par) {
 621             next = regnext(scan);
 622
 623             if ( next && (OP(next) != WHILEM) && next < last)
 624                 is_par = 0;             /* Disable optimization */
 625         } else if (OP(scan) == EVAL) {
 626                 if (data)
 627                     data->flags |= SF_HAS_EVAL;
 628         }
 629         /* Else: zero-length, ignore. */
 630         scan = regnext(scan);
 631     }
 632
 633   finish:
 634     *scanp = scan;
 635     *deltap = is_inf ? I32_MAX : delta;
 636     if (flags & SCF_DO_SUBSTR && is_inf)
 637         data->pos_delta = I32_MAX - data->pos_min;
 638     if (is_par > U8_MAX)
 639         is_par = 0;
 640     if (is_par && pars==1 && data) {
 641         data->flags |= SF_IN_PAR;
 642         data->flags &= ~SF_HAS_PAR;
 643     } else if (pars && data) {
 644         data->flags |= SF_HAS_PAR;
 645         data->flags &= ~SF_IN_PAR;
 646     }
 647     return min;
 648 }
 649
 650 STATIC I32
 651 add_data(I32 n, char *s)
 652 {
 653     if (regcomp_rx->data) {
 654         Renewc(regcomp_rx->data,
 655                sizeof(*regcomp_rx->data) + sizeof(void*) * (regcomp_rx->data->count + n - 1),
 656                char, struct reg_data);
 657         Renew(regcomp_rx->data->what, regcomp_rx->data->count + n, U8);
 658         regcomp_rx->data->count += n;
 659     } else {
 660         Newc(1207, regcomp_rx->data, sizeof(*regcomp_rx->data) + sizeof(void*) * (n - 1),
 661              char, struct reg_data);
 662         New(1208, regcomp_rx->data->what, n, U8);
 663         regcomp_rx->data->count = n;
 664     }
 665     Copy(s, regcomp_rx->data->what + regcomp_rx->data->count - n, n, U8);
 666     return regcomp_rx->data->count - n;
 667 }
 668
 669 /*
 670  - pregcomp - compile a regular expression into internal code
 671  *
 672  * We can't allocate space until we know how big the compiled form will be,
 673  * but we can't compile it (and thus know how big it is) until we've got a
 674  * place to put the code.  So we cheat:  we compile it twice, once with code
 675  * generation turned off and size counting turned on, and once "for real".
 676  * This also means that we don't allocate space until we are sure that the
 677  * thing really will compile successfully, and we never have to move the
 678  * code and thus invalidate pointers into it.  (Note that it has to be in
 679  * one piece because free() must be able to free it all.) [NB: not true in perl]
 680  *
 681  * Beware that the optimization-preparation code in here knows about some
 682  * of the structure of the compiled regexp.  [I'll say.]
 683  */
 684 regexp *
 685 pregcomp(char *exp, char *xend, PMOP *pm)
 686 {
 687     register regexp *r;
 688     regnode *scan;
 689     SV **longest;
 690     SV *longest_fixed;
 691     SV *longest_float;
 692     regnode *first;
 693     I32 flags;
 694     I32 minlen = 0;
 695     I32 sawplus = 0;
 696     I32 sawopen = 0;
 697
 698     if (exp == NULL)
 699         FAIL("NULL regexp argument");
 700
 701     regprecomp = savepvn(exp, xend - exp);
 702     DEBUG_r(PerlIO_printf(Perl_debug_log, "compiling RE `%*s'\n",
 703                           xend - exp, regprecomp));
 704     regflags = pm->op_pmflags;
 705     regsawback = 0;
 706
 707     regseen = 0;
 708     seen_zerolen = *exp == '^' ? -1 : 0;
 709     extralen = 0;
 710
 711     /* First pass: determine size, legality. */
 712     regcomp_parse = exp;
 713     regxend = xend;
 714     regnaughty = 0;
 715     regnpar = 1;
 716     regsize = 0L;
 717     regcode = &regdummy;
 718     regc((U8)MAGIC, (char*)regcode);
 719     if (reg(0, &flags) == NULL) {
 720         Safefree(regprecomp);
 721         regprecomp = Nullch;
 722         return(NULL);
 723     }
 724     DEBUG_r(PerlIO_printf(Perl_debug_log, "size %d ", regsize));
 725
 726     DEBUG_r(
 727         if (!colorset) {
 728             int i = 0;
 729             char *s = PerlEnv_getenv("TERMCAP_COLORS");
 730
 731             colorset = 1;
 732             if (s) {
 733                 colors[0] = s = savepv(s);
 734                 while (++i < 4) {
 735                     s = strchr(s, '\t');
 736                     if (!s)
 737                         FAIL("Not enough TABs in TERMCAP_COLORS");
 738                     *s = '\0';
 739                     colors[i] = ++s;
 740                 }
 741             } else {
 742                 while (i < 4)
 743                     colors[i++] = "";
 744             }
 745             /* Reset colors: */
 746             PerlIO_printf(Perl_debug_log, "%s%s%s%s",
 747                           colors[0],colors[1],colors[2],colors[3]);
 748         }
 749         );
 750
 751     /* Small enough for pointer-storage convention?
 752        If extralen==0, this means that we will not need long jumps. */
 753     if (regsize >= 0x10000L && extralen)
 754         regsize += extralen;
 755     else
 756         extralen = 0;
 757
 758     /* Allocate space and initialize. */
 759     Newc(1001, r, sizeof(regexp) + (unsigned)regsize * sizeof(regnode),
 760          char, regexp);
 761     if (r == NULL)
 762         FAIL("regexp out of space");
 763     r->refcnt = 1;
 764     r->prelen = xend - exp;
 765     r->precomp = regprecomp;
 766     r->subbeg = r->subbase = NULL;
 767     regcomp_rx = r;
 768
 769     /* Second pass: emit code. */
 770     regcomp_parse = exp;
 771     regxend = xend;
 772     regnaughty = 0;
 773     regnpar = 1;
 774     regcode = r->program;
 775     regc((U8)MAGIC, (char*) regcode++);
 776     r->data = 0;
 777     if (reg(0, &flags) == NULL)
 778         return(NULL);
 779
 780     /* Dig out information for optimizations. */
 781     pm->op_pmflags = regflags;
 782     r->reganch = 0;
 783     r->regstclass = NULL;
 784     r->naughty = regnaughty >= 10;      /* Probably an expensive pattern. */
 785     scan = r->program + 1;              /* First BRANCH. */
 786
 787     /* XXXX To minimize changes to RE engine we always allocate
 788        3-units-long substrs field. */
 789     Newz(1004, r->substrs, 1, struct reg_substr_data);
 790
 791     if (OP(scan) != BRANCH) {   /* Only one top-level choice. */
 792         scan_data_t data;
 793         I32 fake;
 794         STRLEN longest_float_length, longest_fixed_length;
 795
 796         StructCopy(&zero_scan_data, &data, scan_data_t);
 797         first = scan;
 798         /* Skip introductions and multiplicators >= 1. */
 799         while ((OP(first) == OPEN && (sawopen = 1)) ||
 800             (OP(first) == BRANCH && OP(regnext(first)) != BRANCH) ||
 801             (OP(first) == PLUS) ||
 802             (OP(first) == MINMOD) ||
 803             (regkind[(U8)OP(first)] == CURLY && ARG1(first) > 0) ) {
 804                 if (OP(first) == PLUS)
 805                     sawplus = 1;
 806                 else
 807                     first += regarglen[(U8)OP(first)];
 808                 first = NEXTOPER(first);
 809         }
 810
 811         /* Starting-point info. */
 812       again:
 813         if (OP(first) == EXACT);        /* Empty, get anchored substr later. */
 814         else if (strchr(simple+2,OP(first)))
 815             r->regstclass = first;
 816         else if (regkind[(U8)OP(first)] == BOUND ||
 817                  regkind[(U8)OP(first)] == NBOUND)
 818             r->regstclass = first;
 819         else if (regkind[(U8)OP(first)] == BOL) {
 820             r->reganch |= (OP(first) == MBOL ? ROPT_ANCH_MBOL: ROPT_ANCH_BOL);
 821             first = NEXTOPER(first);
 822             goto again;
 823         }
 824         else if (OP(first) == GPOS) {
 825             r->reganch |= ROPT_ANCH_GPOS;
 826             first = NEXTOPER(first);
 827             goto again;
 828         }
 829         else if ((OP(first) == STAR &&
 830             regkind[(U8)OP(NEXTOPER(first))] == ANY) &&
 831             !(r->reganch & ROPT_ANCH) )
 832         {
 833             /* turn .* into ^.* with an implied $*=1 */
 834             r->reganch |= ROPT_ANCH_BOL | ROPT_IMPLICIT;
 835             first = NEXTOPER(first);
 836             goto again;
 837         }
 838         if (sawplus && (!sawopen || !regsawback))
 839             r->reganch |= ROPT_SKIP;    /* x+ must match 1st of run */
 840
 841         /* Scan is after the zeroth branch, first is atomic matcher. */
 842         DEBUG_r(PerlIO_printf(Perl_debug_log, "first at %d\n",
 843                               first - scan + 1));
 844         /*
 845         * If there's something expensive in the r.e., find the
 846         * longest literal string that must appear and make it the
 847         * regmust.  Resolve ties in favor of later strings, since
 848         * the regstart check works with the beginning of the r.e.
 849         * and avoiding duplication strengthens checking.  Not a
 850         * strong reason, but sufficient in the absence of others.
 851         * [Now we resolve ties in favor of the earlier string if
 852         * it happens that c_offset_min has been invalidated, since the
 853         * earlier string may buy us something the later one won't.]
 854         */
 855         minlen = 0;
 856
 857         data.longest_fixed = newSVpv("",0);
 858         data.longest_float = newSVpv("",0);
 859         data.last_found = newSVpv("",0);
 860         data.longest = &(data.longest_fixed);
 861         first = scan;
 862
 863         minlen = study_chunk(&first, &fake, scan + regsize, /* Up to end */
 864                              &data, SCF_DO_SUBSTR);
 865         if ( regnpar == 1 && data.longest == &(data.longest_fixed)
 866              && data.last_start_min == 0 && data.last_end > 0
 867              && !seen_zerolen
 868              && (!(regseen & REG_SEEN_GPOS) || (r->reganch & ROPT_ANCH_GPOS)))
 869             r->reganch |= ROPT_CHECK_ALL;
 870         scan_commit(&data);
 871         SvREFCNT_dec(data.last_found);
 872
 873         longest_float_length = SvCUR(data.longest_float);
 874         if (longest_float_length
 875             || (data.flags & SF_FL_BEFORE_EOL
 876                 && (!(data.flags & SF_FL_BEFORE_MEOL)
 877                     || (regflags & PMf_MULTILINE)))) {
 878             if (SvCUR(data.longest_fixed)
 879                 && data.offset_fixed == data.offset_float_min)
 880                 goto remove;            /* Like in (a)+. */
 881
 882             r->float_substr = data.longest_float;
 883             r->float_min_offset = data.offset_float_min;
 884             r->float_max_offset = data.offset_float_max;
 885             fbm_compile(r->float_substr, 0);
 886             BmUSEFUL(r->float_substr) = 100;
 887             if (data.flags & SF_FL_BEFORE_EOL /* Cannot have SEOL and MULTI */
 888                 && (!(data.flags & SF_FL_BEFORE_MEOL)
 889                     || (regflags & PMf_MULTILINE)))
 890                 SvTAIL_on(r->float_substr);
 891         } else {
 892           remove:
 893             r->float_substr = Nullsv;
 894             SvREFCNT_dec(data.longest_float);
 895             longest_float_length = 0;
 896         }
 897
 898         longest_fixed_length = SvCUR(data.longest_fixed);
 899         if (longest_fixed_length
 900             || (data.flags & SF_FIX_BEFORE_EOL /* Cannot have SEOL and MULTI */
 901                 && (!(data.flags & SF_FIX_BEFORE_MEOL)
 902                     || (regflags & PMf_MULTILINE)))) {
 903             r->anchored_substr = data.longest_fixed;
 904             r->anchored_offset = data.offset_fixed;
 905             fbm_compile(r->anchored_substr, 0);
 906             BmUSEFUL(r->anchored_substr) = 100;
 907             if (data.flags & SF_FIX_BEFORE_EOL /* Cannot have SEOL and MULTI */
 908                 && (!(data.flags & SF_FIX_BEFORE_MEOL)
 909                     || (regflags & PMf_MULTILINE)))
 910                 SvTAIL_on(r->anchored_substr);
 911         } else {
 912             r->anchored_substr = Nullsv;
 913             SvREFCNT_dec(data.longest_fixed);
 914             longest_fixed_length = 0;
 915         }
 916
 917         /* A temporary algorithm prefers floated substr to fixed one to dig more info. */
 918         if (longest_fixed_length > longest_float_length) {
 919             r->check_substr = r->anchored_substr;
 920             r->check_offset_min = r->check_offset_max = r->anchored_offset;
 921             if (r->reganch & ROPT_ANCH_SINGLE)
 922                 r->reganch |= ROPT_NOSCAN;
 923         } else {
 924             r->check_substr = r->float_substr;
 925             r->check_offset_min = data.offset_float_min;
 926             r->check_offset_max = data.offset_float_max;
 927         }
 928     } else {
 929         /* Several toplevels. Best we can is to set minlen. */
 930         I32 fake;
 931
 932         DEBUG_r(PerlIO_printf(Perl_debug_log, "\n"));
 933         scan = r->program + 1;
 934         minlen = study_chunk(&scan, &fake, scan + regsize, NULL, 0);
 935         r->check_substr = r->anchored_substr = r->float_substr = Nullsv;
 936     }
 937
 938     r->nparens = regnpar - 1;
 939     r->minlen = minlen;
 940     if (regseen & REG_SEEN_GPOS)
 941         r->reganch |= ROPT_GPOS_SEEN;
 942     if (regseen & REG_SEEN_LOOKBEHIND)
 943         r->reganch |= ROPT_LOOKBEHIND_SEEN;
 944     if (regseen & REG_SEEN_EVAL)
 945         r->reganch |= ROPT_EVAL_SEEN;
 946     Newz(1002, r->startp, regnpar, char*);
 947     Newz(1002, r->endp, regnpar, char*);
 948     DEBUG_r(regdump(r));
 949     return(r);
 950 }
 951
 952 /*
 953  - reg - regular expression, i.e. main body or parenthesized thing
 954  *
 955  * Caller must absorb opening parenthesis.
 956  *
 957  * Combining parenthesis handling with the base level of regular expression
 958  * is a trifle forced, but the need to tie the tails of the branches to what
 959  * follows makes it hard to avoid.
 960  */
 961 STATIC regnode *
 962 reg(I32 paren, I32 *flagp)
 963     /* paren: Parenthesized? 0=top, 1=(, inside: changed to letter. */
 964 {
 965     register regnode *ret;              /* Will be the head of the group. */
 966     register regnode *br;
 967     register regnode *lastbr;
 968     register regnode *ender = 0;
 969     register I32 parno = 0;
 970     I32 flags, oregflags = regflags, have_branch = 0, open = 0;
 971     char c;
 972
 973     *flagp = HASWIDTH;  /* Tentatively. */
 974
 975     /* Make an OPEN node, if parenthesized. */
 976     if (paren) {
 977         if (*regcomp_parse == '?') {
 978             regcomp_parse++;
 979             paren = *regcomp_parse++;
 980             ret = NULL;                 /* For look-ahead/behind. */
 981             switch (paren) {
 982             case '<':
 983                 regseen |= REG_SEEN_LOOKBEHIND;
 984                 if (*regcomp_parse == '!')
 985                     paren = ',';
 986                 if (*regcomp_parse != '=' && *regcomp_parse != '!')
 987                     goto unknown;
 988                 regcomp_parse++;
 989             case '=':
 990             case '!':
 991                 seen_zerolen++;
 992             case ':':
 993             case '>':
 994                 break;
 995             case '$':
 996             case '@':
 997                 FAIL2("Sequence (?%c...) not implemented", (int)paren);
 998                 break;
 999             case '#':
1000                 while (*regcomp_parse && *regcomp_parse != ')')
1001                     regcomp_parse++;
1002                 if (*regcomp_parse != ')')
1003                     FAIL("Sequence (?#... not terminated");
1004                 nextchar();
1005                 *flagp = TRYAGAIN;
1006                 return NULL;
1007             case '{':
1008             {
1009                 dTHR;
1010                 I32 count = 1, n = 0;
1011                 char c;
1012                 char *s = regcomp_parse;
1013                 SV *sv;
1014                 OP_4tree *sop, *rop;
1015
1016                 seen_zerolen++;
1017                 regseen |= REG_SEEN_EVAL;
1018                 while (count && (c = *regcomp_parse)) {
1019                     if (c == '\\' && regcomp_parse[1])
1020                         regcomp_parse++;
1021                     else if (c == '{')
1022                         count++;
1023                     else if (c == '}')
1024                         count--;
1025                     regcomp_parse++;
1026                 }
1027                 if (*regcomp_parse != ')')
1028                     FAIL("Sequence (?{...}) not terminated or not {}-balanced");
1029                 if (!SIZE_ONLY) {
1030                     AV *av;
1031
1032                     if (regcomp_parse - 1 - s)
1033                         sv = newSVpv(s, regcomp_parse - 1 - s);
1034                     else
1035                         sv = newSVpv("", 0);
1036
1037                     rop = sv_compile_2op(sv, &sop, "re", &av);
1038
1039                     n = add_data(3, "nso");
1040                     regcomp_rx->data->data[n] = (void*)rop;
1041                     regcomp_rx->data->data[n+1] = (void*)av;
1042                     regcomp_rx->data->data[n+2] = (void*)sop;
1043                     SvREFCNT_dec(sv);
1044                 } else {                /* First pass */
1045                     if (tainted)
1046                         FAIL("Eval-group in insecure regular expression");
1047                 }
1048
1049                 nextchar();
1050                 return reganode(EVAL, n);
1051             }
1052             case '(':
1053             {
1054                 if (regcomp_parse[0] == '?') {
1055                     if (regcomp_parse[1] == '=' || regcomp_parse[1] == '!'
1056                         || regcomp_parse[1] == '<'
1057                         || regcomp_parse[1] == '{') { /* Lookahead or eval. */
1058                         I32 flag;
1059
1060                         ret = reg_node(LOGICAL);
1061                         regtail(ret, reg(1, &flag));
1062                         goto insert_if;
1063                     }
1064                 } else if (regcomp_parse[0] >= '1' && regcomp_parse[0] <= '9' ) {
1065                     parno = atoi(regcomp_parse++);
1066
1067                     while (isDIGIT(*regcomp_parse))
1068                         regcomp_parse++;
1069                     ret = reganode(GROUPP, parno);
1070                     if ((c = *nextchar()) != ')')
1071                         FAIL2("Switch (?(number%c not recognized", c);
1072                   insert_if:
1073                     regtail(ret, reganode(IFTHEN, 0));
1074                     br = regbranch(&flags, 1);
1075                     if (br == NULL)
1076                         br = reganode(LONGJMP, 0);
1077                     else
1078                         regtail(br, reganode(LONGJMP, 0));
1079                     c = *nextchar();
1080                     if (c == '|') {
1081                         lastbr = reganode(IFTHEN, 0); /* Fake one for optimizer. */
1082                         regbranch(&flags, 1);
1083                         regtail(ret, lastbr);
1084                         c = *nextchar();
1085                     } else
1086                         lastbr = NULL;
1087                     if (c != ')')
1088                         FAIL("Switch (?(condition)... contains too many branches");
1089                     ender = reg_node(TAIL);
1090                     regtail(br, ender);
1091                     if (lastbr) {
1092                         regtail(lastbr, ender);
1093                         regtail(NEXTOPER(NEXTOPER(lastbr)), ender);
1094                     } else
1095                         regtail(ret, ender);
1096                     return ret;
1097                 } else {
1098                     FAIL2("Unknown condition for (?(%.2s", regcomp_parse);
1099                 }
1100             }
1101             case 0:
1102                 FAIL("Sequence (? incomplete");
1103                 break;
1104             default:
1105                 --regcomp_parse;
1106                 while (*regcomp_parse && strchr("iogcmsx", *regcomp_parse)) {
1107                     if (*regcomp_parse != 'o')
1108                         pmflag(&regflags, *regcomp_parse);
1109                     ++regcomp_parse;
1110                 }
1111               unknown:
1112                 if (*regcomp_parse != ')')
1113                     FAIL2("Sequence (?%c...) not recognized", *regcomp_parse);
1114                 nextchar();
1115                 *flagp = TRYAGAIN;
1116                 return NULL;
1117             }
1118         }
1119         else {
1120             parno = regnpar;
1121             regnpar++;
1122             ret = reganode(OPEN, parno);
1123             open = 1;
1124         }
1125     } else
1126         ret = NULL;
1127
1128     /* Pick up the branches, linking them together. */
1129     br = regbranch(&flags, 1);
1130     if (br == NULL)
1131         return(NULL);
1132     if (*regcomp_parse == '|') {
1133         if (!SIZE_ONLY && extralen) {
1134             reginsert(BRANCHJ, br);
1135         } else
1136             reginsert(BRANCH, br);
1137         have_branch = 1;
1138         if (SIZE_ONLY)
1139             extralen += 1;              /* For BRANCHJ-BRANCH. */
1140     } else if (paren == ':') {
1141         *flagp |= flags&SIMPLE;
1142     }
1143     if (open) {                         /* Starts with OPEN. */
1144         regtail(ret, br);               /* OPEN -> first. */
1145     } else if (paren != '?')            /* Not Conditional */
1146         ret = br;
1147     if (!(flags&HASWIDTH))
1148         *flagp &= ~HASWIDTH;
1149     *flagp |= flags&SPSTART;
1150     lastbr = br;
1151     while (*regcomp_parse == '|') {
1152         if (!SIZE_ONLY && extralen) {
1153             ender = reganode(LONGJMP,0);
1154             regtail(NEXTOPER(NEXTOPER(lastbr)), ender); /* Append to the previous. */
1155         }
1156         if (SIZE_ONLY)
1157             extralen += 2;              /* Account for LONGJMP. */
1158         nextchar();
1159         br = regbranch(&flags, 0);
1160         if (br == NULL)
1161             return(NULL);
1162         regtail(lastbr, br);            /* BRANCH -> BRANCH. */
1163         lastbr = br;
1164         if (!(flags&HASWIDTH))
1165             *flagp &= ~HASWIDTH;
1166         *flagp |= flags&SPSTART;
1167     }
1168
1169     if (have_branch || paren != ':') {
1170         /* Make a closing node, and hook it on the end. */
1171         switch (paren) {
1172         case ':':
1173             ender = reg_node(TAIL);
1174             break;
1175         case 1:
1176             ender = reganode(CLOSE, parno);
1177             break;
1178         case '<':
1179         case '>':
1180         case ',':
1181         case '=':
1182         case '!':
1183             ender = reg_node(SUCCEED);
1184             *flagp &= ~HASWIDTH;
1185             break;
1186         case 0:
1187             ender = reg_node(END);
1188             break;
1189         }
1190         regtail(lastbr, ender);
1191
1192         if (have_branch) {
1193             /* Hook the tails of the branches to the closing node. */
1194             for (br = ret; br != NULL; br = regnext(br)) {
1195                 regoptail(br, ender);
1196             }
1197         }
1198     }
1199
1200     {
1201         char *p;
1202         static char parens[] = "=!<,>";
1203
1204         if (paren && (p = strchr(parens, paren))) {
1205             int node = ((p - parens) % 2) ? UNLESSM : IFMATCH;
1206             int flag = (p - parens) > 1;
1207
1208             if (paren == '>')
1209                 node = SUSPEND, flag = 0;
1210             reginsert(node,ret);
1211             ret->flags = flag;
1212             regtail(ret, reg_node(TAIL));
1213         }
1214     }
1215
1216     /* Check for proper termination. */
1217     if (paren && (regcomp_parse >= regxend || *nextchar() != ')')) {
1218         FAIL("unmatched () in regexp");
1219     } else if (!paren && regcomp_parse < regxend) {
1220         if (*regcomp_parse == ')') {
1221             FAIL("unmatched () in regexp");
1222         } else
1223             FAIL("junk on end of regexp");      /* "Can't happen". */
1224         /* NOTREACHED */
1225     }
1226     if (paren != 0) {
1227         regflags = oregflags;
1228     }
1229
1230     return(ret);
1231 }
1232
1233 /*
1234  - regbranch - one alternative of an | operator
1235  *
1236  * Implements the concatenation operator.
1237  */
1238 STATIC regnode *
1239 regbranch(I32 *flagp, I32 first)
1240 {
1241     register regnode *ret;
1242     register regnode *chain = NULL;
1243     register regnode *latest;
1244     I32 flags = 0, c = 0;
1245
1246     if (first)
1247         ret = NULL;
1248     else {
1249         if (!SIZE_ONLY && extralen)
1250             ret = reganode(BRANCHJ,0);
1251         else
1252             ret = reg_node(BRANCH);
1253     }
1254
1255     if (!first && SIZE_ONLY)
1256         extralen += 1;                  /* BRANCHJ */
1257
1258     *flagp = WORST;                     /* Tentatively. */
1259
1260     regcomp_parse--;
1261     nextchar();
1262     while (regcomp_parse < regxend && *regcomp_parse != '|' && *regcomp_parse != ')') {
1263         flags &= ~TRYAGAIN;
1264         latest = regpiece(&flags);
1265         if (latest == NULL) {
1266             if (flags & TRYAGAIN)
1267                 continue;
1268             return(NULL);
1269         } else if (ret == NULL)
1270             ret = latest;
1271         *flagp |= flags&HASWIDTH;
1272         if (chain == NULL)      /* First piece. */
1273             *flagp |= flags&SPSTART;
1274         else {
1275             regnaughty++;
1276             regtail(chain, latest);
1277         }
1278         chain = latest;
1279         c++;
1280     }
1281     if (chain == NULL) {        /* Loop ran zero times. */
1282         chain = reg_node(NOTHING);
1283         if (ret == NULL)
1284             ret = chain;
1285     }
1286     if (c == 1) {
1287         *flagp |= flags&SIMPLE;
1288     }
1289
1290     return(ret);
1291 }
1292
1293 /*
1294  - regpiece - something followed by possible [*+?]
1295  *
1296  * Note that the branching code sequences used for ? and the general cases
1297  * of * and + are somewhat optimized:  they use the same NOTHING node as
1298  * both the endmarker for their branch list and the body of the last branch.
1299  * It might seem that this node could be dispensed with entirely, but the
1300  * endmarker role is not redundant.
1301  */
1302 STATIC regnode *
1303 regpiece(I32 *flagp)
1304 {
1305     register regnode *ret;
1306     register char op;
1307     register char *next;
1308     I32 flags;
1309     char *origparse = regcomp_parse;
1310     char *maxpos;
1311     I32 min;
1312     I32 max = REG_INFTY;
1313
1314     ret = regatom(&flags);
1315     if (ret == NULL) {
1316         if (flags & TRYAGAIN)
1317             *flagp |= TRYAGAIN;
1318         return(NULL);
1319     }
1320
1321     op = *regcomp_parse;
1322
1323     if (op == '{' && regcurly(regcomp_parse)) {
1324         next = regcomp_parse + 1;
1325         maxpos = Nullch;
1326         while (isDIGIT(*next) || *next == ',') {
1327             if (*next == ',') {
1328                 if (maxpos)
1329                     break;
1330                 else
1331                     maxpos = next;
1332             }
1333             next++;
1334         }
1335         if (*next == '}') {             /* got one */
1336             if (!maxpos)
1337                 maxpos = next;
1338             regcomp_parse++;
1339             min = atoi(regcomp_parse);
1340             if (*maxpos == ',')
1341                 maxpos++;
1342             else
1343                 maxpos = regcomp_parse;
1344             max = atoi(maxpos);
1345             if (!max && *maxpos != '0')
1346                 max = REG_INFTY;                /* meaning "infinity" */
1347             else if (max >= REG_INFTY)
1348                 FAIL2("Quantifier in {,} bigger than %d", REG_INFTY - 1);
1349             regcomp_parse = next;
1350             nextchar();
1351
1352         do_curly:
1353             if ((flags&SIMPLE)) {
1354                 regnaughty += 2 + regnaughty / 2;
1355                 reginsert(CURLY, ret);
1356             }
1357             else {
1358                 regnaughty += 4 + regnaughty;   /* compound interest */
1359                 regtail(ret, reg_node(WHILEM));
1360                 if (!SIZE_ONLY && extralen) {
1361                     reginsert(LONGJMP,ret);
1362                     reginsert(NOTHING,ret);
1363                     NEXT_OFF(ret) = 3;  /* Go over LONGJMP. */
1364                 }
1365                 reginsert(CURLYX,ret);
1366                 if (!SIZE_ONLY && extralen)
1367                     NEXT_OFF(ret) = 3;  /* Go over NOTHING to LONGJMP. */
1368                 regtail(ret, reg_node(NOTHING));
1369                 if (SIZE_ONLY)
1370                     extralen += 3;
1371             }
1372             ret->flags = 0;
1373
1374             if (min > 0)
1375                 *flagp = (WORST|HASWIDTH);
1376             if (max && max < min)
1377                 FAIL("Can't do {n,m} with n > m");
1378             if (!SIZE_ONLY) {
1379                 ARG1_SET(ret, min);
1380                 ARG2_SET(ret, max);
1381             }
1382
1383             goto nest_check;
1384         }
1385     }
1386
1387     if (!ISMULT1(op)) {
1388         *flagp = flags;
1389         return(ret);
1390     }
1391
1392 #if 0                           /* Now runtime fix should be reliable. */
1393     if (!(flags&HASWIDTH) && op != '?')
1394       FAIL("regexp *+ operand could be empty");
1395 #endif
1396
1397     nextchar();
1398
1399     *flagp = (op != '+') ? (WORST|SPSTART) : (WORST|HASWIDTH);
1400
1401     if (op == '*' && (flags&SIMPLE)) {
1402         reginsert(STAR, ret);
1403         ret->flags = 0;
1404         regnaughty += 4;
1405     }
1406     else if (op == '*') {
1407         min = 0;
1408         goto do_curly;
1409     } else if (op == '+' && (flags&SIMPLE)) {
1410         reginsert(PLUS, ret);
1411         ret->flags = 0;
1412         regnaughty += 3;
1413     }
1414     else if (op == '+') {
1415         min = 1;
1416         goto do_curly;
1417     } else if (op == '?') {
1418         min = 0; max = 1;
1419         goto do_curly;
1420     }
1421   nest_check:
1422     if (dowarn && !SIZE_ONLY && !(flags&HASWIDTH) && max > 10000) {
1423         warn("%.*s matches null string many times",
1424             regcomp_parse - origparse, origparse);
1425     }
1426
1427     if (*regcomp_parse == '?') {
1428         nextchar();
1429         reginsert(MINMOD, ret);
1430         regtail(ret, ret + NODE_STEP_REGNODE);
1431     }
1432     if (ISMULT2(regcomp_parse))
1433         FAIL("nested *?+ in regexp");
1434
1435     return(ret);
1436 }
1437
1438 /*
1439  - regatom - the lowest level
1440  *
1441  * Optimization:  gobbles an entire sequence of ordinary characters so that
1442  * it can turn them into a single node, which is smaller to store and
1443  * faster to run.  Backslashed characters are exceptions, each becoming a
1444  * separate node; the code is simpler that way and it's not worth fixing.
1445  *
1446  * [Yes, it is worth fixing, some scripts can run twice the speed.]
1447  */
1448 STATIC regnode *
1449 regatom(I32 *flagp)
1450 {
1451     register regnode *ret = 0;
1452     I32 flags;
1453
1454     *flagp = WORST;             /* Tentatively. */
1455
1456 tryagain:
1457     switch (*regcomp_parse) {
1458     case '^':
1459         seen_zerolen++;
1460         nextchar();
1461         if (regflags & PMf_MULTILINE)
1462             ret = reg_node(MBOL);
1463         else if (regflags & PMf_SINGLELINE)
1464             ret = reg_node(SBOL);
1465         else
1466             ret = reg_node(BOL);
1467         break;
1468     case '$':
1469         if (regcomp_parse[1])
1470             seen_zerolen++;
1471         nextchar();
1472         if (regflags & PMf_MULTILINE)
1473             ret = reg_node(MEOL);
1474         else if (regflags & PMf_SINGLELINE)
1475             ret = reg_node(SEOL);
1476         else
1477             ret = reg_node(EOL);
1478         break;
1479     case '.':
1480         nextchar();
1481         if (regflags & PMf_SINGLELINE)
1482             ret = reg_node(SANY);
1483         else
1484             ret = reg_node(ANY);
1485         regnaughty++;
1486         *flagp |= HASWIDTH|SIMPLE;
1487         break;
1488     case '[':
1489         regcomp_parse++;
1490         ret = regclass();
1491         *flagp |= HASWIDTH|SIMPLE;
1492         break;
1493     case '(':
1494         nextchar();
1495         ret = reg(1, &flags);
1496         if (ret == NULL) {
1497                 if (flags & TRYAGAIN)
1498                     goto tryagain;
1499                 return(NULL);
1500         }
1501         *flagp |= flags&(HASWIDTH|SPSTART|SIMPLE);
1502         break;
1503     case '|':
1504     case ')':
1505         if (flags & TRYAGAIN) {
1506             *flagp |= TRYAGAIN;
1507             return NULL;
1508         }
1509         FAIL2("internal urp in regexp at /%s/", regcomp_parse);
1510                                 /* Supposed to be caught earlier. */
1511         break;
1512     case '{':
1513         if (!regcurly(regcomp_parse)) {
1514             regcomp_parse++;
1515             goto defchar;
1516         }
1517         /* FALL THROUGH */
1518     case '?':
1519     case '+':
1520     case '*':
1521         FAIL("?+*{} follows nothing in regexp");
1522         break;
1523     case '\\':
1524         switch (*++regcomp_parse) {
1525         case 'A':
1526             seen_zerolen++;
1527             ret = reg_node(SBOL);
1528             *flagp |= SIMPLE;
1529             nextchar();
1530             break;
1531         case 'G':
1532             ret = reg_node(GPOS);
1533             regseen |= REG_SEEN_GPOS;
1534             *flagp |= SIMPLE;
1535             nextchar();
1536             break;
1537         case 'Z':
1538             ret = reg_node(SEOL);
1539             *flagp |= SIMPLE;
1540             nextchar();
1541             break;
1542         case 'z':
1543             ret = reg_node(EOS);
1544             *flagp |= SIMPLE;
1545             seen_zerolen++;             /* Do not optimize RE away */
1546             nextchar();
1547             break;
1548         case 'w':
1549             ret = reg_node((regflags & PMf_LOCALE) ? ALNUML : ALNUM);
1550             *flagp |= HASWIDTH|SIMPLE;
1551             nextchar();
1552             break;
1553         case 'W':
1554             ret = reg_node((regflags & PMf_LOCALE) ? NALNUML : NALNUM);
1555             *flagp |= HASWIDTH|SIMPLE;
1556             nextchar();
1557             break;
1558         case 'b':
1559             seen_zerolen++;
1560             ret = reg_node((regflags & PMf_LOCALE) ? BOUNDL : BOUND);
1561             *flagp |= SIMPLE;
1562             nextchar();
1563             break;
1564         case 'B':
1565             seen_zerolen++;
1566             ret = reg_node((regflags & PMf_LOCALE) ? NBOUNDL : NBOUND);
1567             *flagp |= SIMPLE;
1568             nextchar();
1569             break;
1570         case 's':
1571             ret = reg_node((regflags & PMf_LOCALE) ? SPACEL : SPACE);
1572             *flagp |= HASWIDTH|SIMPLE;
1573             nextchar();
1574             break;
1575         case 'S':
1576             ret = reg_node((regflags & PMf_LOCALE) ? NSPACEL : NSPACE);
1577             *flagp |= HASWIDTH|SIMPLE;
1578             nextchar();
1579             break;
1580         case 'd':
1581             ret = reg_node(DIGIT);
1582             *flagp |= HASWIDTH|SIMPLE;
1583             nextchar();
1584             break;
1585         case 'D':
1586             ret = reg_node(NDIGIT);
1587             *flagp |= HASWIDTH|SIMPLE;
1588             nextchar();
1589             break;
1590         case 'n':
1591         case 'r':
1592         case 't':
1593         case 'f':
1594         case 'e':
1595         case 'a':
1596         case 'x':
1597         case 'c':
1598         case '0':
1599             goto defchar;
1600         case '1': case '2': case '3': case '4':
1601         case '5': case '6': case '7': case '8': case '9':
1602             {
1603                 I32 num = atoi(regcomp_parse);
1604
1605                 if (num > 9 && num >= regnpar)
1606                     goto defchar;
1607                 else {
1608                     regsawback = 1;
1609                     ret = reganode((regflags & PMf_FOLD)
1610                                    ? ((regflags & PMf_LOCALE) ? REFFL : REFF)
1611                                    : REF, num);
1612                     *flagp |= HASWIDTH;
1613                     while (isDIGIT(*regcomp_parse))
1614                         regcomp_parse++;
1615                     regcomp_parse--;
1616                     nextchar();
1617                 }
1618             }
1619             break;
1620         case '\0':
1621             if (regcomp_parse >= regxend)
1622                 FAIL("trailing \\ in regexp");
1623             /* FALL THROUGH */
1624         default:
1625             goto defchar;
1626         }
1627         break;
1628
1629     case '#':
1630         if (regflags & PMf_EXTENDED) {
1631             while (regcomp_parse < regxend && *regcomp_parse != '\n') regcomp_parse++;
1632             if (regcomp_parse < regxend)
1633                 goto tryagain;
1634         }
1635         /* FALL THROUGH */
1636
1637     default: {
1638             register I32 len;
1639             register U8 ender;
1640             register char *p;
1641             char *oldp, *s;
1642             I32 numlen;
1643
1644             regcomp_parse++;
1645
1646         defchar:
1647             ret = reg_node((regflags & PMf_FOLD)
1648                           ? ((regflags & PMf_LOCALE) ? EXACTFL : EXACTF)
1649                           : EXACT);
1650             s = (char *) OPERAND(ret);
1651             regc(0, s++);               /* save spot for len */
1652             for (len = 0, p = regcomp_parse - 1;
1653               len < 127 && p < regxend;
1654               len++)
1655             {
1656                 oldp = p;
1657
1658                 if (regflags & PMf_EXTENDED)
1659                     p = regwhite(p, regxend);
1660                 switch (*p) {
1661                 case '^':
1662                 case '$':
1663                 case '.':
1664                 case '[':
1665                 case '(':
1666                 case ')':
1667                 case '|':
1668                     goto loopdone;
1669                 case '\\':
1670                     switch (*++p) {
1671                     case 'A':
1672                     case 'G':
1673                     case 'Z':
1674                     case 'z':
1675                     case 'w':
1676                     case 'W':
1677                     case 'b':
1678                     case 'B':
1679                     case 's':
1680                     case 'S':
1681                     case 'd':
1682                     case 'D':
1683                         --p;
1684                         goto loopdone;
1685                     case 'n':
1686                         ender = '\n';
1687                         p++;
1688                         break;
1689                     case 'r':
1690                         ender = '\r';
1691                         p++;
1692                         break;
1693                     case 't':
1694                         ender = '\t';
1695                         p++;
1696                         break;
1697                     case 'f':
1698                         ender = '\f';
1699                         p++;
1700                         break;
1701                     case 'e':
1702                         ender = '\033';
1703                         p++;
1704                         break;
1705                     case 'a':
1706                         ender = '\007';
1707                         p++;
1708                         break;
1709                     case 'x':
1710                         ender = scan_hex(++p, 2, &numlen);
1711                         p += numlen;
1712                         break;
1713                     case 'c':
1714                         p++;
1715                         ender = UCHARAT(p++);
1716                         ender = toCTRL(ender);
1717                         break;
1718                     case '0': case '1': case '2': case '3':case '4':
1719                     case '5': case '6': case '7': case '8':case '9':
1720                         if (*p == '0' ||
1721                           (isDIGIT(p[1]) && atoi(p) >= regnpar) ) {
1722                             ender = scan_oct(p, 3, &numlen);
1723                             p += numlen;
1724                         }
1725                         else {
1726                             --p;
1727                             goto loopdone;
1728                         }
1729                         break;
1730                     case '\0':
1731                         if (p >= regxend)
1732                             FAIL("trailing \\ in regexp");
1733                         /* FALL THROUGH */
1734                     default:
1735                         ender = *p++;
1736                         break;
1737                     }
1738                     break;
1739                 default:
1740                     ender = *p++;
1741                     break;
1742                 }
1743                 if (regflags & PMf_EXTENDED)
1744                     p = regwhite(p, regxend);
1745                 if (ISMULT2(p)) { /* Back off on ?+*. */
1746                     if (len)
1747                         p = oldp;
1748                     else {
1749                         len++;
1750                         regc(ender, s++);
1751                     }
1752                     break;
1753                 }
1754                 regc(ender, s++);
1755             }
1756         loopdone:
1757             regcomp_parse = p - 1;
1758             nextchar();
1759             if (len < 0)
1760                 FAIL("internal disaster in regexp");
1761             if (len > 0)
1762                 *flagp |= HASWIDTH;
1763             if (len == 1)
1764                 *flagp |= SIMPLE;
1765             if (!SIZE_ONLY)
1766                 *OPERAND(ret) = len;
1767             regc('\0', s++);
1768             if (SIZE_ONLY) {
1769                 regsize += (len + 2 + sizeof(regnode) - 1) / sizeof(regnode);
1770             } else {
1771                 regcode += (len + 2 + sizeof(regnode) - 1) / sizeof(regnode);
1772             }
1773         }
1774         break;
1775     }
1776
1777     return(ret);
1778 }
1779
1780 STATIC char *
1781 regwhite(char *p, char *e)
1782 {
1783     while (p < e) {
1784         if (isSPACE(*p))
1785             ++p;
1786         else if (*p == '#') {
1787             do {
1788                 p++;
1789             } while (p < e && *p != '\n');
1790         }
1791         else
1792             break;
1793     }
1794     return p;
1795 }
1796
1797 STATIC regnode *
1798 regclass(void)
1799 {
1800     register char *opnd, *s;
1801     register I32 Class;
1802     register I32 lastclass = 1234;
1803     register I32 range = 0;
1804     register regnode *ret;
1805     register I32 def;
1806     I32 numlen;
1807
1808     s = opnd = (char *) OPERAND(regcode);
1809     ret = reg_node(ANYOF);
1810     for (Class = 0; Class < 33; Class++)
1811         regc(0, s++);
1812     if (*regcomp_parse == '^') {        /* Complement of range. */
1813         regnaughty++;
1814         regcomp_parse++;
1815         if (!SIZE_ONLY)
1816             *opnd |= ANYOF_INVERT;
1817     }
1818     if (!SIZE_ONLY) {
1819         regcode += ANY_SKIP;
1820         if (regflags & PMf_FOLD)
1821             *opnd |= ANYOF_FOLD;
1822         if (regflags & PMf_LOCALE)
1823             *opnd |= ANYOF_LOCALE;
1824     } else {
1825         regsize += ANY_SKIP;
1826     }
1827     if (*regcomp_parse == ']' || *regcomp_parse == '-')
1828         goto skipcond;          /* allow 1st char to be ] or - */
1829     while (regcomp_parse < regxend && *regcomp_parse != ']') {
1830        skipcond:
1831         Class = UCHARAT(regcomp_parse++);
1832         if (Class == '[' && regcomp_parse + 1 < regxend &&
1833             /* I smell either [: or [= or [. -- POSIX has been here, right? */
1834             (*regcomp_parse == ':' || *regcomp_parse == '=' || *regcomp_parse == '.')) {
1835             char  posixccc = *regcomp_parse;
1836             char* posixccs = regcomp_parse++;
1837
1838             while (regcomp_parse < regxend && *regcomp_parse != posixccc)
1839                 regcomp_parse++;
1840             if (regcomp_parse == regxend)
1841                 /* Grandfather lone [:, [=, [. */
1842                 regcomp_parse = posixccs;
1843             else {
1844                 regcomp_parse++; /* skip over the posixccc */
1845                 if (*regcomp_parse == ']') {
1846                     /* Not Implemented Yet.
1847                      * (POSIX Extended Character Classes, that is)
1848                      * The text between e.g. [: and :] would start
1849                      * at posixccs + 1 and stop at regcomp_parse - 2. */
1850                     if (dowarn && !SIZE_ONLY)
1851                         warn("Character class syntax [%c %c] is reserved for future extensions", posixccc, posixccc);
1852                     regcomp_parse++; /* skip over the ending ] */
1853                 }
1854             }
1855         }
1856         if (Class == '\\') {
1857             Class = UCHARAT(regcomp_parse++);
1858             switch (Class) {
1859             case 'w':
1860                 if (!SIZE_ONLY) {
1861                     if (regflags & PMf_LOCALE)
1862                         *opnd |= ANYOF_ALNUML;
1863                     else {
1864                         for (Class = 0; Class < 256; Class++)
1865                             if (isALNUM(Class))
1866                                 ANYOF_SET(opnd, Class);
1867                     }
1868                 }
1869                 lastclass = 1234;
1870                 continue;
1871             case 'W':
1872                 if (!SIZE_ONLY) {
1873                     if (regflags & PMf_LOCALE)
1874                         *opnd |= ANYOF_NALNUML;
1875                     else {
1876                         for (Class = 0; Class < 256; Class++)
1877                             if (!isALNUM(Class))
1878                                 ANYOF_SET(opnd, Class);
1879                     }
1880                 }
1881                 lastclass = 1234;
1882                 continue;
1883             case 's':
1884                 if (!SIZE_ONLY) {
1885                     if (regflags & PMf_LOCALE)
1886                         *opnd |= ANYOF_SPACEL;
1887                     else {
1888                         for (Class = 0; Class < 256; Class++)
1889                             if (isSPACE(Class))
1890                                 ANYOF_SET(opnd, Class);
1891                     }
1892                 }
1893                 lastclass = 1234;
1894                 continue;
1895             case 'S':
1896                 if (!SIZE_ONLY) {
1897                     if (regflags & PMf_LOCALE)
1898                         *opnd |= ANYOF_NSPACEL;
1899                     else {
1900                         for (Class = 0; Class < 256; Class++)
1901                             if (!isSPACE(Class))
1902                                 ANYOF_SET(opnd, Class);
1903                     }
1904                 }
1905                 lastclass = 1234;
1906                 continue;
1907             case 'd':
1908                 if (!SIZE_ONLY) {
1909                     for (Class = '0'; Class <= '9'; Class++)
1910                         ANYOF_SET(opnd, Class);
1911                 }
1912                 lastclass = 1234;
1913                 continue;
1914             case 'D':
1915                 if (!SIZE_ONLY) {
1916                     for (Class = 0; Class < '0'; Class++)
1917                         ANYOF_SET(opnd, Class);
1918                     for (Class = '9' + 1; Class < 256; Class++)
1919                         ANYOF_SET(opnd, Class);
1920                 }
1921                 lastclass = 1234;
1922                 continue;
1923             case 'n':
1924                 Class = '\n';
1925                 break;
1926             case 'r':
1927                 Class = '\r';
1928                 break;
1929             case 't':
1930                 Class = '\t';
1931                 break;
1932             case 'f':
1933                 Class = '\f';
1934                 break;
1935             case 'b':
1936                 Class = '\b';
1937                 break;
1938             case 'e':
1939                 Class = '\033';
1940                 break;
1941             case 'a':
1942                 Class = '\007';
1943                 break;
1944             case 'x':
1945                 Class = scan_hex(regcomp_parse, 2, &numlen);
1946                 regcomp_parse += numlen;
1947                 break;
1948             case 'c':
1949                 Class = UCHARAT(regcomp_parse++);
1950                 Class = toCTRL(Class);
1951                 break;
1952             case '0': case '1': case '2': case '3': case '4':
1953             case '5': case '6': case '7': case '8': case '9':
1954                 Class = scan_oct(--regcomp_parse, 3, &numlen);
1955                 regcomp_parse += numlen;
1956                 break;
1957             }
1958         }
1959         if (range) {
1960             if (lastclass > Class)
1961                 FAIL("invalid [] range in regexp");
1962             range = 0;
1963         }
1964         else {
1965             lastclass = Class;
1966             if (*regcomp_parse == '-' && regcomp_parse+1 < regxend &&
1967               regcomp_parse[1] != ']') {
1968                 regcomp_parse++;
1969                 range = 1;
1970                 continue;       /* do it next time */
1971             }
1972         }
1973         if (!SIZE_ONLY) {
1974             for ( ; lastclass <= Class; lastclass++)
1975                 ANYOF_SET(opnd, lastclass);
1976         }
1977         lastclass = Class;
1978     }
1979     if (*regcomp_parse != ']')
1980         FAIL("unmatched [] in regexp");
1981     nextchar();
1982     /* optimize case-insensitive simple patterns (e.g. /[a-z]/i) */
1983     if (!SIZE_ONLY && (*opnd & (0xFF ^ ANYOF_INVERT)) == ANYOF_FOLD) {
1984         for (Class = 0; Class < 256; ++Class) {
1985             if (ANYOF_TEST(opnd, Class)) {
1986                 I32 cf = fold[Class];
1987                 ANYOF_SET(opnd, cf);
1988             }
1989         }
1990         *opnd &= ~ANYOF_FOLD;
1991     }
1992     /* optimize inverted simple patterns (e.g. [^a-z]) */
1993     if (!SIZE_ONLY && (*opnd & 0xFF) == ANYOF_INVERT) {
1994         for (Class = 0; Class < 32; ++Class)
1995             opnd[1 + Class] ^= 0xFF;
1996         *opnd = 0;
1997     }
1998     return ret;
1999 }
2000
2001 STATIC char*
2002 nextchar(void)
2003 {
2004     char* retval = regcomp_parse++;
2005
2006     for (;;) {
2007         if (*regcomp_parse == '(' && regcomp_parse[1] == '?' &&
2008                 regcomp_parse[2] == '#') {
2009             while (*regcomp_parse && *regcomp_parse != ')')
2010                 regcomp_parse++;
2011             regcomp_parse++;
2012             continue;
2013         }
2014         if (regflags & PMf_EXTENDED) {
2015             if (isSPACE(*regcomp_parse)) {
2016                 regcomp_parse++;
2017                 continue;
2018             }
2019             else if (*regcomp_parse == '#') {
2020                 while (*regcomp_parse && *regcomp_parse != '\n')
2021                     regcomp_parse++;
2022                 regcomp_parse++;
2023                 continue;
2024             }
2025         }
2026         return retval;
2027     }
2028 }
2029
2030 /*
2031 - reg_node - emit a node
2032 */
2033 STATIC regnode *                        /* Location. */
2034 reg_node(U8 op)
2035 {
2036     register regnode *ret;
2037     register regnode *ptr;
2038
2039     ret = regcode;
2040     if (SIZE_ONLY) {
2041         SIZE_ALIGN(regsize);
2042         regsize += 1;
2043         return(ret);
2044     }
2045
2046     NODE_ALIGN_FILL(ret);
2047     ptr = ret;
2048     FILL_ADVANCE_NODE(ptr, op);
2049     regcode = ptr;
2050
2051     return(ret);
2052 }
2053
2054 /*
2055 - reganode - emit a node with an argument
2056 */
2057 STATIC regnode *                        /* Location. */
2058 reganode(U8 op, U32 arg)
2059 {
2060     register regnode *ret;
2061     register regnode *ptr;
2062
2063     ret = regcode;
2064     if (SIZE_ONLY) {
2065         SIZE_ALIGN(regsize);
2066         regsize += 2;
2067         return(ret);
2068     }
2069
2070     NODE_ALIGN_FILL(ret);
2071     ptr = ret;
2072     FILL_ADVANCE_NODE_ARG(ptr, op, arg);
2073     regcode = ptr;
2074
2075     return(ret);
2076 }
2077
2078 /*
2079 - regc - emit (if appropriate) a byte of code
2080 */
2081 STATIC void
2082 regc(U8 b, char* s)
2083 {
2084     if (!SIZE_ONLY)
2085         *s = b;
2086 }
2087
2088 /*
2089 - reginsert - insert an operator in front of already-emitted operand
2090 *
2091 * Means relocating the operand.
2092 */
2093 STATIC void
2094 reginsert(U8 op, regnode *opnd)
2095 {
2096     register regnode *src;
2097     register regnode *dst;
2098     register regnode *place;
2099     register int offset = regarglen[(U8)op];
2100
2101 /* (regkind[(U8)op] == CURLY ? EXTRA_STEP_2ARGS : 0); */
2102
2103     if (SIZE_ONLY) {
2104         regsize += NODE_STEP_REGNODE + offset;
2105         return;
2106     }
2107
2108     src = regcode;
2109     regcode += NODE_STEP_REGNODE + offset;
2110     dst = regcode;
2111     while (src > opnd)
2112         StructCopy(--src, --dst, regnode);
2113
2114     place = opnd;               /* Op node, where operand used to be. */
2115     src = NEXTOPER(place);
2116     FILL_ADVANCE_NODE(place, op);
2117     Zero(src, offset, regnode);
2118 }
2119
2120 /*
2121 - regtail - set the next-pointer at the end of a node chain of p to val.
2122 */
2123 STATIC void
2124 regtail(regnode *p, regnode *val)
2125 {
2126     register regnode *scan;
2127     register regnode *temp;
2128     register I32 offset;
2129
2130     if (SIZE_ONLY)
2131         return;
2132
2133     /* Find last node. */
2134     scan = p;
2135     for (;;) {
2136         temp = regnext(scan);
2137         if (temp == NULL)
2138             break;
2139         scan = temp;
2140     }
2141
2142     if (reg_off_by_arg[OP(scan)]) {
2143         ARG_SET(scan, val - scan);
2144     } else {
2145         NEXT_OFF(scan) = val - scan;
2146     }
2147 }
2148
2149 /*
2150 - regoptail - regtail on operand of first argument; nop if operandless
2151 */
2152 STATIC void
2153 regoptail(regnode *p, regnode *val)
2154 {
2155     /* "Operandless" and "op != BRANCH" are synonymous in practice. */
2156     if (p == NULL || SIZE_ONLY)
2157         return;
2158     if (regkind[(U8)OP(p)] == BRANCH) {
2159         regtail(NEXTOPER(p), val);
2160     } else if ( regkind[(U8)OP(p)] == BRANCHJ) {
2161         regtail(NEXTOPER(NEXTOPER(p)), val);
2162     } else
2163         return;
2164 }
2165
2166 /*
2167  - regcurly - a little FSA that accepts {\d+,?\d*}
2168  */
2169 STATIC I32
2170 regcurly(register char *s)
2171 {
2172     if (*s++ != '{')
2173         return FALSE;
2174     if (!isDIGIT(*s))
2175         return FALSE;
2176     while (isDIGIT(*s))
2177         s++;
2178     if (*s == ',')
2179         s++;
2180     while (isDIGIT(*s))
2181         s++;
2182     if (*s != '}')
2183         return FALSE;
2184     return TRUE;
2185 }
2186
2187
2188 STATIC regnode *
2189 dumpuntil(regnode *start, regnode *node, regnode *last, SV* sv, I32 l)
2190 {
2191 #ifdef DEBUGGING
2192     register char op = EXACT;   /* Arbitrary non-END op. */
2193     register regnode *next, *onode;
2194
2195     while (op != END && (!last || node < last)) {
2196         /* While that wasn't END last time... */
2197
2198         NODE_ALIGN(node);
2199         op = OP(node);
2200         if (op == CLOSE)
2201             l--;
2202         next = regnext(node);
2203         /* Where, what. */
2204         if (OP(node) == OPTIMIZED)
2205             goto after_print;
2206         regprop(sv, node);
2207         PerlIO_printf(Perl_debug_log, "%4d%*s%s", node - start,
2208                       2*l + 1, "", SvPVX(sv));
2209         if (next == NULL)               /* Next ptr. */
2210             PerlIO_printf(Perl_debug_log, "(0)");
2211         else
2212             PerlIO_printf(Perl_debug_log, "(%d)", next - start);
2213         (void)PerlIO_putc(Perl_debug_log, '\n');
2214       after_print:
2215         if (regkind[(U8)op] == BRANCHJ) {
2216             register regnode *nnode = (OP(next) == LONGJMP
2217                                        ? regnext(next)
2218                                        : next);
2219             if (last && nnode > last)
2220                 nnode = last;
2221             node = dumpuntil(start, NEXTOPER(NEXTOPER(node)), nnode, sv, l + 1);
2222         } else if (regkind[(U8)op] == BRANCH) {
2223             node = dumpuntil(start, NEXTOPER(node), next, sv, l + 1);
2224         } else if ( op == CURLY) {   /* `next' might be very big: optimizer */
2225             node = dumpuntil(start, NEXTOPER(node) + EXTRA_STEP_2ARGS,
2226                              NEXTOPER(node) + EXTRA_STEP_2ARGS + 1, sv, l + 1);
2227         } else if (regkind[(U8)op] == CURLY && op != CURLYX) {
2228             node = dumpuntil(start, NEXTOPER(node) + EXTRA_STEP_2ARGS,
2229                              next, sv, l + 1);
2230         } else if ( op == PLUS || op == STAR) {
2231             node = dumpuntil(start, NEXTOPER(node), NEXTOPER(node) + 1, sv, l + 1);
2232         } else if (op == ANYOF) {
2233             node = NEXTOPER(node);
2234             node += ANY_SKIP;
2235         } else if (regkind[(U8)op] == EXACT) {
2236             /* Literal string, where present. */
2237             node += ((*OPERAND(node)) + 2 + sizeof(regnode) - 1) / sizeof(regnode);
2238             node = NEXTOPER(node);
2239         } else {
2240             node = NEXTOPER(node);
2241             node += regarglen[(U8)op];
2242         }
2243         if (op == CURLYX || op == OPEN)
2244             l++;
2245         else if (op == WHILEM)
2246             l--;
2247     }
2248 #endif  /* DEBUGGING */
2249     return node;
2250 }
2251
2252 /*
2253  - regdump - dump a regexp onto Perl_debug_log in vaguely comprehensible form
2254  */
2255 void
2256 regdump(regexp *r)
2257 {
2258 #ifdef DEBUGGING
2259     SV *sv = sv_newmortal();
2260
2261     (void)dumpuntil(r->program, r->program + 1, NULL, sv, 0);
2262
2263     /* Header fields of interest. */
2264     if (r->anchored_substr)
2265         PerlIO_printf(Perl_debug_log, "anchored `%s%s%s'%s at %d ",
2266                       colors[0],
2267                       SvPVX(r->anchored_substr),
2268                       colors[1],
2269                       SvTAIL(r->anchored_substr) ? "$" : "",
2270                       r->anchored_offset);
2271     if (r->float_substr)
2272         PerlIO_printf(Perl_debug_log, "floating `%s%s%s'%s at %d..%u ",
2273                       colors[0],
2274                       SvPVX(r->float_substr),
2275                       colors[1],
2276                       SvTAIL(r->float_substr) ? "$" : "",
2277                       r->float_min_offset, r->float_max_offset);
2278     if (r->check_substr)
2279         PerlIO_printf(Perl_debug_log,
2280                       r->check_substr == r->float_substr
2281                       ? "(checking floating" : "(checking anchored");
2282     if (r->reganch & ROPT_NOSCAN)
2283         PerlIO_printf(Perl_debug_log, " noscan");
2284     if (r->reganch & ROPT_CHECK_ALL)
2285         PerlIO_printf(Perl_debug_log, " isall");
2286     if (r->check_substr)
2287         PerlIO_printf(Perl_debug_log, ") ");
2288
2289     if (r->regstclass) {
2290         regprop(sv, r->regstclass);
2291         PerlIO_printf(Perl_debug_log, "stclass `%s' ", SvPVX(sv));
2292     }
2293     if (r->reganch & ROPT_ANCH) {
2294         PerlIO_printf(Perl_debug_log, "anchored");
2295         if (r->reganch & ROPT_ANCH_BOL)
2296             PerlIO_printf(Perl_debug_log, "(BOL)");
2297         if (r->reganch & ROPT_ANCH_MBOL)
2298             PerlIO_printf(Perl_debug_log, "(MBOL)");
2299         if (r->reganch & ROPT_ANCH_GPOS)
2300             PerlIO_printf(Perl_debug_log, "(GPOS)");
2301         PerlIO_putc(Perl_debug_log, ' ');
2302     }
2303     if (r->reganch & ROPT_GPOS_SEEN)
2304         PerlIO_printf(Perl_debug_log, "GPOS ");
2305     if (r->reganch & ROPT_SKIP)
2306         PerlIO_printf(Perl_debug_log, "plus ");
2307     if (r->reganch & ROPT_IMPLICIT)
2308         PerlIO_printf(Perl_debug_log, "implicit ");
2309     PerlIO_printf(Perl_debug_log, "minlen %ld ", (long) r->minlen);
2310     if (r->reganch & ROPT_EVAL_SEEN)
2311         PerlIO_printf(Perl_debug_log, "with eval ");
2312     PerlIO_printf(Perl_debug_log, "\n");
2313 #endif  /* DEBUGGING */
2314 }
2315
2316 /*
2317 - regprop - printable representation of opcode
2318 */
2319 void
2320 regprop(SV *sv, regnode *o)
2321 {
2322 #ifdef DEBUGGING
2323     register char *p = 0;
2324
2325     sv_setpv(sv, ":");
2326     switch (OP(o)) {
2327     case BOL:
2328         p = "BOL";
2329         break;
2330     case MBOL:
2331         p = "MBOL";
2332         break;
2333     case SBOL:
2334         p = "SBOL";
2335         break;
2336     case EOL:
2337         p = "EOL";
2338         break;
2339     case EOS:
2340         p = "EOS";
2341         break;
2342     case MEOL:
2343         p = "MEOL";
2344         break;
2345     case SEOL:
2346         p = "SEOL";
2347         break;
2348     case ANY:
2349         p = "ANY";
2350         break;
2351     case SANY:
2352         p = "SANY";
2353         break;
2354     case ANYOF:
2355         p = "ANYOF";
2356         break;
2357     case BRANCH:
2358         p = "BRANCH";
2359         break;
2360     case EXACT:
2361         sv_catpvf(sv, "EXACT <%s%s%s>", colors[0], OPERAND(o) + 1, colors[1]);
2362         break;
2363     case EXACTF:
2364         sv_catpvf(sv, "EXACTF <%s%s%s>", colors[0], OPERAND(o) + 1, colors[1]);
2365         break;
2366     case EXACTFL:
2367         sv_catpvf(sv, "EXACTFL <%s%s%s>", colors[0], OPERAND(o) + 1, colors[1]);
2368         break;
2369     case NOTHING:
2370         p = "NOTHING";
2371         break;
2372     case TAIL:
2373         p = "TAIL";
2374         break;
2375     case BACK:
2376         p = "BACK";
2377         break;
2378     case END:
2379         p = "END";
2380         break;
2381     case BOUND:
2382         p = "BOUND";
2383         break;
2384     case BOUNDL:
2385         p = "BOUNDL";
2386         break;
2387     case NBOUND:
2388         p = "NBOUND";
2389         break;
2390     case NBOUNDL:
2391         p = "NBOUNDL";
2392         break;
2393     case CURLY:
2394         sv_catpvf(sv, "CURLY {%d,%d}", ARG1(o), ARG2(o));
2395         break;
2396     case CURLYM:
2397         sv_catpvf(sv, "CURLYM[%d] {%d,%d}", o->flags, ARG1(o), ARG2(o));
2398         break;
2399     case CURLYN:
2400         sv_catpvf(sv, "CURLYN[%d] {%d,%d}", o->flags, ARG1(o), ARG2(o));
2401         break;
2402     case CURLYX:
2403         sv_catpvf(sv, "CURLYX {%d,%d}", ARG1(o), ARG2(o));
2404         break;
2405     case REF:
2406         sv_catpvf(sv, "REF%d", ARG(o));
2407         break;
2408     case REFF:
2409         sv_catpvf(sv, "REFF%d", ARG(o));
2410         break;
2411     case REFFL:
2412         sv_catpvf(sv, "REFFL%d", ARG(o));
2413         break;
2414     case OPEN:
2415         sv_catpvf(sv, "OPEN%d", ARG(o));
2416         break;
2417     case CLOSE:
2418         sv_catpvf(sv, "CLOSE%d", ARG(o));
2419         p = NULL;
2420         break;
2421     case STAR:
2422         p = "STAR";
2423         break;
2424     case PLUS:
2425         p = "PLUS";
2426         break;
2427     case MINMOD:
2428         p = "MINMOD";
2429         break;
2430     case GPOS:
2431         p = "GPOS";
2432         break;
2433     case UNLESSM:
2434         sv_catpvf(sv, "UNLESSM[-%d]", o->flags);
2435         break;
2436     case IFMATCH:
2437         sv_catpvf(sv, "IFMATCH[-%d]", o->flags);
2438         break;
2439     case SUCCEED:
2440         p = "SUCCEED";
2441         break;
2442     case WHILEM:
2443         p = "WHILEM";
2444         break;
2445     case DIGIT:
2446         p = "DIGIT";
2447         break;
2448     case NDIGIT:
2449         p = "NDIGIT";
2450         break;
2451     case ALNUM:
2452         p = "ALNUM";
2453         break;
2454     case NALNUM:
2455         p = "NALNUM";
2456         break;
2457     case SPACE:
2458         p = "SPACE";
2459         break;
2460     case NSPACE:
2461         p = "NSPACE";
2462         break;
2463     case ALNUML:
2464         p = "ALNUML";
2465         break;
2466     case NALNUML:
2467         p = "NALNUML";
2468         break;
2469     case SPACEL:
2470         p = "SPACEL";
2471         break;
2472     case NSPACEL:
2473         p = "NSPACEL";
2474         break;
2475     case EVAL:
2476         p = "EVAL";
2477         break;
2478     case LONGJMP:
2479         p = "LONGJMP";
2480         break;
2481     case BRANCHJ:
2482         p = "BRANCHJ";
2483         break;
2484     case IFTHEN:
2485         p = "IFTHEN";
2486         break;
2487     case GROUPP:
2488         sv_catpvf(sv, "GROUPP%d", ARG(o));
2489         break;
2490     case LOGICAL:
2491         p = "LOGICAL";
2492         break;
2493     case SUSPEND:
2494         p = "SUSPEND";
2495         break;
2496     case RENUM:
2497         p = "RENUM";
2498         break;
2499     case OPTIMIZED:
2500         p = "OPTIMIZED";
2501         break;
2502     default:
2503         FAIL("corrupted regexp opcode");
2504     }
2505     if (p)
2506         sv_catpv(sv, p);
2507 #endif  /* DEBUGGING */
2508 }
2509
2510 void
2511 pregfree(struct regexp *r)
2512 {
2513     if (!r || (--r->refcnt > 0))
2514         return;
2515     if (r->precomp)
2516         Safefree(r->precomp);
2517     if (r->subbase)
2518         Safefree(r->subbase);
2519     if (r->substrs) {
2520         if (r->anchored_substr)
2521             SvREFCNT_dec(r->anchored_substr);
2522         if (r->float_substr)
2523             SvREFCNT_dec(r->float_substr);
2524         Safefree(r->substrs);
2525     }
2526     if (r->data) {
2527         int n = r->data->count;
2528         while (--n >= 0) {
2529             switch (r->data->what[n]) {
2530             case 's':
2531                 SvREFCNT_dec((SV*)r->data->data[n]);
2532                 break;
2533             case 'o':
2534                 op_free((OP_4tree*)r->data->data[n]);
2535                 break;
2536             case 'n':
2537                 break;
2538             default:
2539                 FAIL2("panic: regfree data code '%c'", r->data->what[n]);
2540             }
2541         }
2542         Safefree(r->data->what);
2543         Safefree(r->data);
2544     }
2545     Safefree(r->startp);
2546     Safefree(r->endp);
2547     Safefree(r);
2548 }
2549
2550 /*
2551  - regnext - dig the "next" pointer out of a node
2552  *
2553  * [Note, when REGALIGN is defined there are two places in regmatch()
2554  * that bypass this code for speed.]
2555  */
2556 regnode *
2557 regnext(register regnode *p)
2558 {
2559     register I32 offset;
2560
2561     if (p == &regdummy)
2562         return(NULL);
2563
2564     offset = (reg_off_by_arg[OP(p)] ? ARG(p) : NEXT_OFF(p));
2565     if (offset == 0)
2566         return(NULL);
2567
2568     return(p+offset);
2569 }
2570
2571 STATIC void
2572 re_croak2(const char* pat1,const char* pat2,...)
2573 {
2574     va_list args;
2575     STRLEN l1 = strlen(pat1);
2576     STRLEN l2 = strlen(pat2);
2577     char buf[512];
2578     char *message;
2579
2580     if (l1 > 510)
2581         l1 = 510;
2582     if (l1 + l2 > 510)
2583         l2 = 510 - l1;
2584     Copy(pat1, buf, l1 , char);
2585     Copy(pat2, buf + l1, l2 , char);
2586     buf[l1 + l2] = '\n';
2587     buf[l1 + l2 + 1] = '\0';
2588     va_start(args, pat2);
2589     message = mess(buf, &args);
2590     va_end(args);
2591     l1 = strlen(message);
2592     if (l1 > 512)
2593         l1 = 512;
2594     Copy(message, buf, l1 , char);
2595     buf[l1] = '\0';                     /* Overwrite \n */
2596     croak("%s", buf);
2597 }