regcomp.c

   1 /*    regcomp.c
   2  */
   3
   4 /*
   5  * "A fair jaw-cracker dwarf-language must be."  --Samwise Gamgee
   6  */
   7
   8 /* NOTE: this is derived from Henry Spencer's regexp code, and should not
   9  * confused with the original package (see point 3 below).  Thanks, Henry!
  10  */
  11
  12 /* Additional note: this code is very heavily munged from Henry's version
  13  * in places.  In some spots I've traded clarity for efficiency, so don't
  14  * blame Henry for some of the lack of readability.
  15  */
  16
  17 /* The names of the functions have been changed from regcomp and
  18  * regexec to  pregcomp and pregexec in order to avoid conflicts
  19  * with the POSIX routines of the same names.
  20 */
  21
  22 /*SUPPRESS 112*/
  23 /*
  24  * pregcomp and pregexec -- regsub and regerror are not used in perl
  25  *
  26  *      Copyright (c) 1986 by University of Toronto.
  27  *      Written by Henry Spencer.  Not derived from licensed software.
  28  *
  29  *      Permission is granted to anyone to use this software for any
  30  *      purpose on any computer system, and to redistribute it freely,
  31  *      subject to the following restrictions:
  32  *
  33  *      1. The author is not responsible for the consequences of use of
  34  *              this software, no matter how awful, even if they arise
  35  *              from defects in it.
  36  *
  37  *      2. The origin of this software must not be misrepresented, either
  38  *              by explicit claim or by omission.
  39  *
  40  *      3. Altered versions must be plainly marked as such, and must not
  41  *              be misrepresented as being the original software.
  42  *
  43  *
  44  ****    Alterations to Henry's code are...
  45  ****
  46  ****    Copyright (c) 1991-1997, Larry Wall
  47  ****
  48  ****    You may distribute under the terms of either the GNU General Public
  49  ****    License or the Artistic License, as specified in the README file.
  50
  51  *
  52  * Beware that some of this code is subtly aware of the way operator
  53  * precedence is structured in regular expressions.  Serious changes in
  54  * regular-expression syntax might require a total rethink.
  55  */
  56 #include "EXTERN.h"
  57 #include "perl.h"
  58 #include "INTERN.h"
  59
  60 #define REG_COMP_C
  61 #include "regcomp.h"
  62
  63 #ifdef op
  64 #undef op
  65 #endif /* op */
  66
  67 static regnode regdummy;
  68 static char *  regparse;       /* Input-scan pointer. */
  69 static char *  regxend;        /* End of input for compile */
  70 static regnode *       regcode;        /* Code-emit pointer; &regdummy = don't. */
  71 static I32             regnaughty;     /* How bad is this pattern? */
  72 static I32             regsawback;     /* Did we see \1, ...? */
  73
  74 /* This guys appear both in regcomp.c and regexec.c, but there is no
  75    other reason to have them global. */
  76 static char *  regprecomp;     /* uncompiled string. */
  77 static I32              regnpar;        /* () count. */
  78 static I32              regsize;        /* Code size. */
  79 static U16              regflags;       /* are we folding, multilining? */
  80
  81 #ifdef MSDOS
  82 # if defined(BUGGY_MSC6)
  83  /* MSC 6.00A breaks on op/regexp.t test 85 unless we turn this off */
  84  # pragma optimize("a",off)
  85  /* But MSC 6.00A is happy with 'w', for aliases only across function calls*/
  86  # pragma optimize("w",on )
  87 # endif /* BUGGY_MSC6 */
  88 #endif /* MSDOS */
  89
  90 #ifndef STATIC
  91 #define STATIC  static
  92 #endif
  93
  94 #define ISMULT1(c)      ((c) == '*' || (c) == '+' || (c) == '?')
  95 #define ISMULT2(s)      ((*s) == '*' || (*s) == '+' || (*s) == '?' || \
  96         ((*s) == '{' && regcurly(s)))
  97 #ifdef atarist
  98 #define PERL_META       "^$.[()|?+*\\"
  99 #else
 100 #define META    "^$.[()|?+*\\"
 101 #endif
 102
 103 #ifdef SPSTART
 104 #undef SPSTART          /* dratted cpp namespace... */
 105 #endif
 106 /*
 107  * Flags to be passed up and down.
 108  */
 109 #define WORST           0       /* Worst case. */
 110 #define HASWIDTH        0x1     /* Known never to match null string. */
 111 #define SIMPLE          0x2     /* Simple enough to be STAR/PLUS operand. */
 112 #define SPSTART         0x4     /* Starts with * or +. */
 113 #define TRYAGAIN        0x8     /* Weeded out a declaration. */
 114
 115 /*
 116  * Forward declarations for pregcomp()'s friends.
 117  */
 118
 119 static char* regwhite _((char *, char *));
 120 #ifndef PERL_OBJECT
 121 static regnode *reg _((I32, I32 *));
 122 static regnode *reganode _((U8, U32));
 123 static regnode *regatom _((I32 *));
 124 static regnode *regbranch _((I32 *, I32));
 125 static void regc _((U8, char *));
 126 static regnode *regclass _((void));
 127 STATIC I32 regcurly _((char *));
 128 static regnode *reg_node _((U8));
 129 static regnode *regpiece _((I32 *));
 130 static void reginsert _((U8, regnode *));
 131 static void regoptail _((regnode *, regnode *));
 132 static void regset _((char *, I32));
 133 static void regtail _((regnode *, regnode *));
 134 static char* nextchar _((void));
 135 #endif
 136
 137 static U32 regseen;
 138 static I32 seen_zerolen;
 139 static regexp *rx;
 140 static I32 extralen;
 141
 142 #ifdef DEBUGGING
 143 static int colorset;
 144 char *colors[4];
 145 #endif
 146
 147 /* Length of a variant. */
 148
 149 #ifndef PERL_OBJECT
 150 typedef struct {
 151     I32 len_min;
 152     I32 len_delta;
 153     I32 pos_min;
 154     I32 pos_delta;
 155     SV *last_found;
 156     I32 last_end;                       /* min value, <0 unless valid. */
 157     I32 last_start_min;
 158     I32 last_start_max;
 159     SV **longest;                       /* Either &l_fixed, or &l_float. */
 160     SV *longest_fixed;
 161     I32 offset_fixed;
 162     SV *longest_float;
 163     I32 offset_float_min;
 164     I32 offset_float_max;
 165     I32 flags;
 166 } scan_data_t;
 167 #endif
 168
 169 static scan_data_t zero_scan_data = { 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 };
 170
 171 #define SF_BEFORE_EOL           (SF_BEFORE_SEOL|SF_BEFORE_MEOL)
 172 #define SF_BEFORE_SEOL          0x1
 173 #define SF_BEFORE_MEOL          0x2
 174 #define SF_FIX_BEFORE_EOL       (SF_FIX_BEFORE_SEOL|SF_FIX_BEFORE_MEOL)
 175 #define SF_FL_BEFORE_EOL        (SF_FL_BEFORE_SEOL|SF_FL_BEFORE_MEOL)
 176
 177 #define SF_FIX_SHIFT_EOL        (+2)
 178 #define SF_FL_SHIFT_EOL         (+4)
 179
 180 #define SF_FIX_BEFORE_SEOL      (SF_BEFORE_SEOL << SF_FIX_SHIFT_EOL)
 181 #define SF_FIX_BEFORE_MEOL      (SF_BEFORE_MEOL << SF_FIX_SHIFT_EOL)
 182
 183 #define SF_FL_BEFORE_SEOL       (SF_BEFORE_SEOL << SF_FL_SHIFT_EOL)
 184 #define SF_FL_BEFORE_MEOL       (SF_BEFORE_MEOL << SF_FL_SHIFT_EOL) /* 0x20 */
 185 #define SF_IS_INF               0x40
 186 #define SF_HAS_PAR              0x80
 187 #define SF_IN_PAR               0x100
 188 #define SF_HAS_EVAL             0x200
 189
 190 STATIC void
 191 scan_commit(scan_data_t *data)
 192 {
 193     STRLEN l = SvCUR(data->last_found);
 194     STRLEN old_l = SvCUR(*data->longest);
 195
 196     if ((l >= old_l) && ((l > old_l) || (data->flags & SF_BEFORE_EOL))) {
 197         sv_setsv(*data->longest, data->last_found);
 198         if (*data->longest == data->longest_fixed) {
 199             data->offset_fixed = l ? data->last_start_min : data->pos_min;
 200             if (data->flags & SF_BEFORE_EOL)
 201                 data->flags
 202                     |= ((data->flags & SF_BEFORE_EOL) << SF_FIX_SHIFT_EOL);
 203             else
 204                 data->flags &= ~SF_FIX_BEFORE_EOL;
 205         } else {
 206             data->offset_float_min = l ? data->last_start_min : data->pos_min;
 207             data->offset_float_max = (l
 208                                       ? data->last_start_max
 209                                       : data->pos_min + data->pos_delta);
 210             if (data->flags & SF_BEFORE_EOL)
 211                 data->flags
 212                     |= ((data->flags & SF_BEFORE_EOL) << SF_FL_SHIFT_EOL);
 213             else
 214                 data->flags &= ~SF_FL_BEFORE_EOL;
 215         }
 216     }
 217     SvCUR_set(data->last_found, 0);
 218     data->last_end = -1;
 219     data->flags &= ~SF_BEFORE_EOL;
 220 }
 221
 222 #define SCF_DO_SUBSTR 1
 223
 224 /* Stops at toplevel WHILEM as well as at `last'. At end *scanp is set
 225    to the position after last scanned or to NULL. */
 226
 227 STATIC I32
 228 study_chunk(regnode **scanp, I32 *deltap, regnode *last, scan_data_t *data, U32 flags)
 229                         /* scanp: Start here (read-write). */
 230                         /* deltap: Write maxlen-minlen here. */
 231                         /* last: Stop before this one. */
 232 {
 233     I32 min = 0, pars = 0, code;
 234     regnode *scan = *scanp, *next;
 235     I32 delta = 0;
 236     int is_inf = (flags & SCF_DO_SUBSTR) && (data->flags & SF_IS_INF);
 237     I32 is_par = OP(scan) == OPEN ? ARG(scan) : 0;
 238     scan_data_t data_fake;
 239
 240     while (scan && OP(scan) != END && scan < last) {
 241         /* Peephole optimizer: */
 242
 243         if (regkind[(U8)OP(scan)] == EXACT) {
 244             regnode *n = regnext(scan);
 245             U32 stringok = 1;
 246 #ifdef DEBUGGING
 247             regnode *stop = scan;
 248 #endif
 249
 250             next = scan + (*OPERAND(scan) + 2 - 1)/sizeof(regnode) + 2;
 251             /* Skip NOTHING, merge EXACT*. */
 252             while (n &&
 253                    ( regkind[(U8)OP(n)] == NOTHING ||
 254                      (stringok && (OP(n) == OP(scan))))
 255                    && NEXT_OFF(n)
 256                    && NEXT_OFF(scan) + NEXT_OFF(n) < I16_MAX) {
 257                 if (OP(n) == TAIL || n > next)
 258                     stringok = 0;
 259                 if (regkind[(U8)OP(n)] == NOTHING) {
 260                     NEXT_OFF(scan) += NEXT_OFF(n);
 261                     next = n + NODE_STEP_REGNODE;
 262 #ifdef DEBUGGING
 263                     if (stringok)
 264                         stop = n;
 265 #endif
 266                     n = regnext(n);
 267                 } else {
 268                     int oldl = *OPERAND(scan);
 269                     regnode *nnext = regnext(n);
 270
 271                     if (oldl + *OPERAND(n) > U8_MAX)
 272                         break;
 273                     NEXT_OFF(scan) += NEXT_OFF(n);
 274                     *OPERAND(scan) += *OPERAND(n);
 275                     next = n + (*OPERAND(n) + 2 - 1)/sizeof(regnode) + 2;
 276                     /* Now we can overwrite *n : */
 277                     Move(OPERAND(n) + 1, OPERAND(scan) + oldl + 1,
 278                          *OPERAND(n) + 1, char);
 279 #ifdef DEBUGGING
 280                     if (stringok)
 281                         stop = next - 1;
 282 #endif
 283                     n = nnext;
 284                 }
 285             }
 286 #ifdef DEBUGGING
 287             /* Allow dumping */
 288             n = scan + (*OPERAND(scan) + 2 - 1)/sizeof(regnode) + 2;
 289             while (n <= stop) {
 290                 if (regkind[(U8)OP(n)] != NOTHING || OP(n) == NOTHING) {
 291                     OP(n) = OPTIMIZED;
 292                     NEXT_OFF(n) = 0;
 293                 }
 294                 n++;
 295             }
 296 #endif
 297
 298         }
 299         if (OP(scan) != CURLYX) {
 300             int max = (reg_off_by_arg[OP(scan)] ? I32_MAX : U16_MAX);
 301             int off = (reg_off_by_arg[OP(scan)] ? ARG(scan) : NEXT_OFF(scan));
 302             int noff;
 303             regnode *n = scan;
 304
 305             /* Skip NOTHING and LONGJMP. */
 306             while ((n = regnext(n))
 307                    && ((regkind[(U8)OP(n)] == NOTHING && (noff = NEXT_OFF(n)))
 308                        || ((OP(n) == LONGJMP) && (noff = ARG(n))))
 309                    && off + noff < max)
 310                 off += noff;
 311             if (reg_off_by_arg[OP(scan)])
 312                 ARG(scan) = off;
 313             else
 314                 NEXT_OFF(scan) = off;
 315         }
 316         if (OP(scan) == BRANCH || OP(scan) == BRANCHJ
 317                    || OP(scan) == IFTHEN || OP(scan) == SUSPEND) {
 318             next = regnext(scan);
 319             code = OP(scan);
 320
 321             if (OP(next) == code || code == IFTHEN || code == SUSPEND) {
 322                 I32 max1 = 0, min1 = I32_MAX, num = 0;
 323
 324                 if (flags & SCF_DO_SUBSTR)
 325                     scan_commit(data);
 326                 while (OP(scan) == code) {
 327                     I32 deltanext, minnext;
 328
 329                     num++;
 330                     data_fake.flags = 0;
 331                     next = regnext(scan);
 332                     scan = NEXTOPER(scan);
 333                     if (code != BRANCH)
 334                         scan = NEXTOPER(scan);
 335                     /* We suppose the run is continuous, last=next...*/
 336                     minnext = study_chunk(&scan, &deltanext, next,
 337                                           &data_fake, 0);
 338                     if (min1 > minnext)
 339                         min1 = minnext;
 340                     if (max1 < minnext + deltanext)
 341                         max1 = minnext + deltanext;
 342                     if (deltanext == I32_MAX)
 343                         is_inf = 1;
 344                     scan = next;
 345                     if (data_fake.flags & (SF_HAS_PAR|SF_IN_PAR))
 346                         pars++;
 347                     if (data_fake.flags & SF_HAS_EVAL)
 348                         data->flags |= SF_HAS_EVAL;
 349                     if (code == SUSPEND)
 350                         break;
 351                 }
 352                 if (code == IFTHEN && num < 2) /* Empty ELSE branch */
 353                     min1 = 0;
 354                 if (flags & SCF_DO_SUBSTR) {
 355                     data->pos_min += min1;
 356                     data->pos_delta += max1 - min1;
 357                     if (max1 != min1 || is_inf)
 358                         data->longest = &(data->longest_float);
 359                 }
 360                 min += min1;
 361                 delta += max1 - min1;
 362             } else if (code == BRANCHJ) /* single branch is optimized. */
 363                 scan = NEXTOPER(NEXTOPER(scan));
 364             else                        /* single branch is optimized. */
 365                 scan = NEXTOPER(scan);
 366             continue;
 367         } else if (OP(scan) == EXACT) {
 368             min += *OPERAND(scan);
 369             if (flags & SCF_DO_SUBSTR) { /* Update longest substr. */
 370                 I32 l = *OPERAND(scan);
 371
 372                 /* The code below prefers earlier match for fixed
 373                    offset, later match for variable offset.  */
 374                 if (data->last_end == -1) { /* Update the start info. */
 375                     data->last_start_min = data->pos_min;
 376                     data->last_start_max = is_inf
 377                         ? I32_MAX : data->pos_min + data->pos_delta;
 378                 }
 379                 sv_catpvn(data->last_found, (char *)(OPERAND(scan)+1), l);
 380                 data->last_end = data->pos_min + l;
 381                 data->pos_min += l; /* As in the first entry. */
 382                 data->flags &= ~SF_BEFORE_EOL;
 383             }
 384         } else if (regkind[(U8)OP(scan)] == EXACT) {
 385             if (flags & SCF_DO_SUBSTR)
 386                 scan_commit(data);
 387             min += *OPERAND(scan);
 388             if (data && (flags & SCF_DO_SUBSTR))
 389                 data->pos_min += *OPERAND(scan);
 390         } else if (strchr(varies,OP(scan))) {
 391             I32 mincount, maxcount, minnext, deltanext, pos_before, fl;
 392             regnode *oscan = scan;
 393
 394             switch (regkind[(U8)OP(scan)]) {
 395             case WHILEM:
 396                 scan = NEXTOPER(scan);
 397                 goto finish;
 398             case PLUS:
 399                 if (flags & SCF_DO_SUBSTR) {
 400                     next = NEXTOPER(scan);
 401                     if (OP(next) == EXACT) {
 402                         mincount = 1;
 403                         maxcount = REG_INFTY;
 404                         next = regnext(scan);
 405                         scan = NEXTOPER(scan);
 406                         goto do_curly;
 407                     }
 408                 }
 409                 if (flags & SCF_DO_SUBSTR)
 410                     data->pos_min++;
 411                 min++;
 412                 /* Fall through. */
 413             case STAR:
 414                 is_inf = 1;
 415                 scan = regnext(scan);
 416                 if (flags & SCF_DO_SUBSTR) {
 417                     scan_commit(data);
 418                     data->longest = &(data->longest_float);
 419                 }
 420                 goto optimize_curly_tail;
 421             case CURLY:
 422                 mincount = ARG1(scan);
 423                 maxcount = ARG2(scan);
 424                 next = regnext(scan);
 425                 scan = NEXTOPER(scan) + EXTRA_STEP_2ARGS;
 426               do_curly:
 427                 if (flags & SCF_DO_SUBSTR) {
 428                     if (mincount == 0) scan_commit(data);
 429                     pos_before = data->pos_min;
 430                 }
 431                 if (data) {
 432                     fl = data->flags;
 433                     data->flags &= ~(SF_HAS_PAR|SF_IN_PAR|SF_HAS_EVAL);
 434                     if (is_inf)
 435                         data->flags |= SF_IS_INF;
 436                 }
 437                 /* This will finish on WHILEM, setting scan, or on NULL: */
 438                 minnext = study_chunk(&scan, &deltanext, last, data,
 439                                       mincount == 0
 440                                         ? (flags & ~SCF_DO_SUBSTR) : flags);
 441                 if (!scan)              /* It was not CURLYX, but CURLY. */
 442                     scan = next;
 443                 if (dowarn && (minnext + deltanext == 0)
 444                     && !(data->flags & (SF_HAS_PAR|SF_IN_PAR)))
 445                     warn("Strange *+?{} on zero-length expression");
 446                 min += minnext * mincount;
 447                 is_inf |= (maxcount == REG_INFTY && (minnext + deltanext) > 0
 448                            || deltanext == I32_MAX);
 449                 delta += (minnext + deltanext) * maxcount - minnext * mincount;
 450
 451                 /* Try powerful optimization CURLYX => CURLYN. */
 452 #ifdef REGALIGN_STRUCT
 453                 if (  OP(oscan) == CURLYX && data
 454                       && data->flags & SF_IN_PAR
 455                       && !(data->flags & SF_HAS_EVAL)
 456                       && !deltanext && minnext == 1 ) {
 457                     /* Try to optimize to CURLYN.  */
 458                     regnode *nxt = NEXTOPER(oscan) + EXTRA_STEP_2ARGS;
 459                     regnode *nxt1 = nxt, *nxt2;
 460
 461                     /* Skip open. */
 462                     nxt = regnext(nxt);
 463                     if (!strchr(simple,OP(nxt))
 464                         && !(regkind[(U8)OP(nxt)] == EXACT
 465                              && *OPERAND(nxt) == 1))
 466                         goto nogo;
 467                     nxt2 = nxt;
 468                     nxt = regnext(nxt);
 469                     if (OP(nxt) != CLOSE)
 470                         goto nogo;
 471                     /* Now we know that nxt2 is the only contents: */
 472                     oscan->flags = ARG(nxt);
 473                     OP(oscan) = CURLYN;
 474                     OP(nxt1) = NOTHING; /* was OPEN. */
 475 #ifdef DEBUGGING
 476                     OP(nxt1 + 1) = OPTIMIZED; /* was count. */
 477                     NEXT_OFF(nxt1+ 1) = 0; /* just for consistancy. */
 478                     NEXT_OFF(nxt2) = 0; /* just for consistancy with CURLY. */
 479                     OP(nxt) = OPTIMIZED;        /* was CLOSE. */
 480                     OP(nxt + 1) = OPTIMIZED; /* was count. */
 481                     NEXT_OFF(nxt+ 1) = 0; /* just for consistancy. */
 482 #endif
 483                 }
 484 #endif
 485               nogo:
 486
 487                 /* Try optimization CURLYX => CURLYM. */
 488                 if (  OP(oscan) == CURLYX && data
 489 #ifdef REGALIGN_STRUCT
 490                       && !(data->flags & SF_HAS_PAR)
 491 #else
 492                       && !(data->flags & (SF_HAS_PAR|SF_IN_PAR))
 493 #endif
 494                       && !(data->flags & SF_HAS_EVAL)
 495                       && !deltanext  ) {
 496                     /* XXXX How to optimize if data == 0? */
 497                     /* Optimize to a simpler form.  */
 498                     regnode *nxt = NEXTOPER(oscan) + EXTRA_STEP_2ARGS; /* OPEN */
 499                     regnode *nxt2;
 500
 501                     OP(oscan) = CURLYM;
 502                     while ( (nxt2 = regnext(nxt)) /* skip over embedded stuff*/
 503                             && (OP(nxt2) != WHILEM))
 504                         nxt = nxt2;
 505                     OP(nxt2)  = SUCCEED; /* Whas WHILEM */
 506 #ifdef REGALIGN_STRUCT
 507                     /* Need to optimize away parenths. */
 508                     if (data->flags & SF_IN_PAR) {
 509                         /* Set the parenth number.  */
 510                         regnode *nxt1 = NEXTOPER(oscan) + EXTRA_STEP_2ARGS; /* OPEN*/
 511
 512                         if (OP(nxt) != CLOSE)
 513                             FAIL("panic opt close");
 514                         oscan->flags = ARG(nxt);
 515                         OP(nxt1) = OPTIMIZED;   /* was OPEN. */
 516                         OP(nxt) = OPTIMIZED;    /* was CLOSE. */
 517 #ifdef DEBUGGING
 518                         OP(nxt1 + 1) = OPTIMIZED; /* was count. */
 519                         OP(nxt + 1) = OPTIMIZED; /* was count. */
 520                         NEXT_OFF(nxt1 + 1) = 0; /* just for consistancy. */
 521                         NEXT_OFF(nxt + 1) = 0; /* just for consistancy. */
 522 #endif
 523 #if 0
 524                         while ( nxt1 && (OP(nxt1) != WHILEM)) {
 525                             regnode *nnxt = regnext(nxt1);
 526
 527                             if (nnxt == nxt) {
 528                                 if (reg_off_by_arg[OP(nxt1)])
 529                                     ARG_SET(nxt1, nxt2 - nxt1);
 530                                 else if (nxt2 - nxt1 < U16_MAX)
 531                                     NEXT_OFF(nxt1) = nxt2 - nxt1;
 532                                 else
 533                                     OP(nxt) = NOTHING;  /* Cannot beautify */
 534                             }
 535                             nxt1 = nnxt;
 536                         }
 537 #endif
 538                         /* Optimize again: */
 539                         study_chunk(&nxt1, &deltanext, nxt, NULL, 0);
 540                     } else
 541                         oscan->flags = 0;
 542 #endif
 543                 }
 544                 if (data && fl & (SF_HAS_PAR|SF_IN_PAR))
 545                     pars++;
 546                 if (flags & SCF_DO_SUBSTR) {
 547                     SV *last_str = Nullsv;
 548                     int counted = mincount != 0;
 549
 550                     if (data->last_end > 0 && mincount != 0) { /* Ends with a string. */
 551                         I32 b = pos_before >= data->last_start_min
 552                             ? pos_before : data->last_start_min;
 553                         STRLEN l;
 554                         char *s = SvPV(data->last_found, l);
 555
 556                         l -= b - data->last_start_min;
 557                         /* Get the added string: */
 558                         last_str = newSVpv(s  +  b - data->last_start_min, l);
 559                         if (deltanext == 0 && pos_before == b) {
 560                             /* What was added is a constant string */
 561                             if (mincount > 1) {
 562                                 SvGROW(last_str, (mincount * l) + 1);
 563                                 repeatcpy(SvPVX(last_str) + l,
 564                                           SvPVX(last_str), l, mincount - 1);
 565                                 SvCUR(last_str) *= mincount;
 566                                 /* Add additional parts. */
 567                                 SvCUR_set(data->last_found,
 568                                           SvCUR(data->last_found) - l);
 569                                 sv_catsv(data->last_found, last_str);
 570                                 data->last_end += l * (mincount - 1);
 571                             }
 572                         }
 573                     }
 574                     /* It is counted once already... */
 575                     data->pos_min += minnext * (mincount - counted);
 576                     data->pos_delta += - counted * deltanext +
 577                         (minnext + deltanext) * maxcount - minnext * mincount;
 578                     if (mincount != maxcount) {
 579                         scan_commit(data);
 580                         if (mincount && last_str) {
 581                             sv_setsv(data->last_found, last_str);
 582                             data->last_end = data->pos_min;
 583                             data->last_start_min =
 584                                 data->pos_min - SvCUR(last_str);
 585                             data->last_start_max = is_inf
 586                                 ? I32_MAX
 587                                 : data->pos_min + data->pos_delta
 588                                 - SvCUR(last_str);
 589                         }
 590                         data->longest = &(data->longest_float);
 591                     }
 592                 }
 593                 if (fl & SF_HAS_EVAL)
 594                     data->flags |= SF_HAS_EVAL;
 595               optimize_curly_tail:
 596 #ifdef REGALIGN
 597                 if (OP(oscan) != CURLYX) {
 598                     while (regkind[(U8)OP(next = regnext(oscan))] == NOTHING
 599                            && NEXT_OFF(next))
 600                         NEXT_OFF(oscan) += NEXT_OFF(next);
 601                 }
 602 #endif
 603                 continue;
 604             default:                    /* REF only? */
 605                 if (flags & SCF_DO_SUBSTR) {
 606                     scan_commit(data);
 607                     data->longest = &(data->longest_float);
 608                 }
 609                 is_inf = 1;
 610                 break;
 611             }
 612         } else if (strchr(simple,OP(scan))) {
 613             if (flags & SCF_DO_SUBSTR) {
 614                 scan_commit(data);
 615                 data->pos_min++;
 616             }
 617             min++;
 618         } else if (regkind[(U8)OP(scan)] == EOL && flags & SCF_DO_SUBSTR) {
 619             data->flags |= (OP(scan) == MEOL
 620                             ? SF_BEFORE_MEOL
 621                             : SF_BEFORE_SEOL);
 622         } else if (regkind[(U8)OP(scan)] == BRANCHJ
 623                    && (scan->flags || data)
 624                    && (OP(scan) == IFMATCH || OP(scan) == UNLESSM)) {
 625             I32 deltanext, minnext;
 626             regnode *nscan;
 627
 628             data_fake.flags = 0;
 629             next = regnext(scan);
 630             nscan = NEXTOPER(NEXTOPER(scan));
 631             minnext = study_chunk(&nscan, &deltanext, last, &data_fake, 0);
 632             if (scan->flags) {
 633                 if (deltanext) {
 634                     FAIL("variable length lookbehind not implemented");
 635                 } else if (minnext > U8_MAX) {
 636                     FAIL2("lookbehind longer than %d not implemented", U8_MAX);
 637                 }
 638                 scan->flags = minnext;
 639             }
 640             if (data && data_fake.flags & (SF_HAS_PAR|SF_IN_PAR))
 641                 pars++;
 642             if (data_fake.flags & SF_HAS_EVAL)
 643                 data->flags |= SF_HAS_EVAL;
 644         } else if (OP(scan) == OPEN) {
 645             pars++;
 646         } else if (OP(scan) == CLOSE && ARG(scan) == is_par) {
 647 #ifdef REGALIGN_STRUCT
 648             next = regnext(scan);
 649
 650             if ( next && (OP(next) != WHILEM) && next < last)
 651 #endif
 652                 is_par = 0;             /* Disable optimization */
 653         } else if (OP(scan) == EVAL) {
 654                 if (data)
 655                     data->flags |= SF_HAS_EVAL;
 656         }
 657         /* Else: zero-length, ignore. */
 658         scan = regnext(scan);
 659     }
 660
 661   finish:
 662     *scanp = scan;
 663     *deltap = is_inf ? I32_MAX : delta;
 664     if (flags & SCF_DO_SUBSTR && is_inf)
 665         data->pos_delta = I32_MAX - data->pos_min;
 666     if (is_par > U8_MAX)
 667         is_par = 0;
 668     if (is_par && pars==1 && data) {
 669         data->flags |= SF_IN_PAR;
 670         data->flags &= ~SF_HAS_PAR;
 671     } else if (pars && data) {
 672         data->flags |= SF_HAS_PAR;
 673         data->flags &= ~SF_IN_PAR;
 674     }
 675     return min;
 676 }
 677
 678 STATIC I32
 679 add_data(I32 n, char *s)
 680 {
 681     if (rx->data) {
 682         Renewc(rx->data,
 683                sizeof(*rx->data) + sizeof(void*) * (rx->data->count + n - 1),
 684                char, struct reg_data);
 685         Renew(rx->data->what, rx->data->count + n, U8);
 686         rx->data->count += n;
 687     } else {
 688         Newc(1207, rx->data, sizeof(*rx->data) + sizeof(void*) * (n - 1),
 689              char, struct reg_data);
 690         New(1208, rx->data->what, n, U8);
 691         rx->data->count = n;
 692     }
 693     Copy(s, rx->data->what + rx->data->count - n, n, U8);
 694     return rx->data->count - n;
 695 }
 696
 697 /*
 698  - pregcomp - compile a regular expression into internal code
 699  *
 700  * We can't allocate space until we know how big the compiled form will be,
 701  * but we can't compile it (and thus know how big it is) until we've got a
 702  * place to put the code.  So we cheat:  we compile it twice, once with code
 703  * generation turned off and size counting turned on, and once "for real".
 704  * This also means that we don't allocate space until we are sure that the
 705  * thing really will compile successfully, and we never have to move the
 706  * code and thus invalidate pointers into it.  (Note that it has to be in
 707  * one piece because free() must be able to free it all.) [NB: not true in perl]
 708  *
 709  * Beware that the optimization-preparation code in here knows about some
 710  * of the structure of the compiled regexp.  [I'll say.]
 711  */
 712 regexp *
 713 pregcomp(char *exp, char *xend, PMOP *pm)
 714 {
 715     register regexp *r;
 716     regnode *scan;
 717     SV **longest;
 718     SV *longest_fixed;
 719     SV *longest_float;
 720     regnode *first;
 721     I32 flags;
 722     I32 minlen = 0;
 723     I32 sawplus = 0;
 724     I32 sawopen = 0;
 725
 726     if (exp == NULL)
 727         FAIL("NULL regexp argument");
 728
 729     regprecomp = savepvn(exp, xend - exp);
 730     DEBUG_r(PerlIO_printf(Perl_debug_log, "compiling RE `%*s'\n",
 731                           xend - exp, regprecomp));
 732     regflags = pm->op_pmflags;
 733     regsawback = 0;
 734
 735     regseen = 0;
 736     seen_zerolen = *exp == '^' ? -1 : 0;
 737     extralen = 0;
 738
 739     /* First pass: determine size, legality. */
 740     regparse = exp;
 741     regxend = xend;
 742     regnaughty = 0;
 743     regnpar = 1;
 744     regsize = 0L;
 745     regcode = &regdummy;
 746     regc((U8)MAGIC, (char*)regcode);
 747     if (reg(0, &flags) == NULL) {
 748         Safefree(regprecomp);
 749         regprecomp = Nullch;
 750         return(NULL);
 751     }
 752     DEBUG_r(PerlIO_printf(Perl_debug_log, "size %d ", regsize));
 753
 754     DEBUG_r(
 755         if (!colorset) {
 756             int i = 0;
 757             char *s = PerlEnv_getenv("TERMCAP_COLORS");
 758
 759             colorset = 1;
 760             if (s) {
 761                 colors[0] = s = savepv(s);
 762                 while (++i < 4) {
 763                     s = strchr(s, '\t');
 764                     if (!s)
 765                         FAIL("Not enough TABs in TERMCAP_COLORS");
 766                     *s = '\0';
 767                     colors[i] = ++s;
 768                 }
 769             } else {
 770                 while (i < 4)
 771                     colors[i++] = "";
 772             }
 773             /* Reset colors: */
 774             PerlIO_printf(Perl_debug_log, "%s%s%s%s",
 775                           colors[0],colors[1],colors[2],colors[3]);
 776         }
 777         );
 778
 779     /* Small enough for pointer-storage convention?
 780        If extralen==0, this means that we will not need long jumps. */
 781 #ifndef REGALIGN_STRUCT
 782     if (regsize >= 0x10000L && extralen)
 783         FAIL("regexp too big");
 784 #else
 785     if (regsize >= 0x10000L && extralen)
 786         regsize += extralen;
 787     else
 788         extralen = 0;
 789 #endif
 790
 791     /* Allocate space and initialize. */
 792     Newc(1001, r, sizeof(regexp) + (unsigned)regsize * sizeof(regnode),
 793          char, regexp);
 794     if (r == NULL)
 795         FAIL("regexp out of space");
 796     r->refcnt = 1;
 797     r->prelen = xend - exp;
 798     r->precomp = regprecomp;
 799     r->subbeg = r->subbase = NULL;
 800     rx = r;
 801
 802     /* Second pass: emit code. */
 803     regparse = exp;
 804     regxend = xend;
 805     regnaughty = 0;
 806     regnpar = 1;
 807     regcode = r->program;
 808     regc((U8)MAGIC, (char*) regcode++);
 809     r->data = 0;
 810     if (reg(0, &flags) == NULL)
 811         return(NULL);
 812
 813     /* Dig out information for optimizations. */
 814     pm->op_pmflags = regflags;
 815     r->reganch = 0;
 816     r->regstclass = NULL;
 817     r->naughty = regnaughty >= 10;      /* Probably an expensive pattern. */
 818     scan = r->program + 1;              /* First BRANCH. */
 819     if (OP(scan) != BRANCH) {   /* Only one top-level choice. */
 820         scan_data_t data;
 821         I32 fake;
 822         STRLEN longest_float_length, longest_fixed_length;
 823
 824         StructCopy(&zero_scan_data, &data, scan_data_t);
 825         first = scan;
 826         /* Skip introductions and multiplicators >= 1. */
 827         while ((OP(first) == OPEN && (sawopen = 1)) ||
 828             (OP(first) == BRANCH && OP(regnext(first)) != BRANCH) ||
 829             (OP(first) == PLUS) ||
 830             (OP(first) == MINMOD) ||
 831             (regkind[(U8)OP(first)] == CURLY && ARG1(first) > 0) ) {
 832                 if (OP(first) == PLUS)
 833                     sawplus = 1;
 834                 else
 835                     first += regarglen[(U8)OP(first)];
 836                 first = NEXTOPER(first);
 837         }
 838
 839         /* Starting-point info. */
 840       again:
 841         if (OP(first) == EXACT);        /* Empty, get anchored substr later. */
 842         else if (strchr(simple+2,OP(first)))
 843             r->regstclass = first;
 844         else if (regkind[(U8)OP(first)] == BOUND ||
 845                  regkind[(U8)OP(first)] == NBOUND)
 846             r->regstclass = first;
 847         else if (regkind[(U8)OP(first)] == BOL) {
 848             r->reganch |= (OP(first) == MBOL ? ROPT_ANCH_MBOL: ROPT_ANCH_BOL);
 849             first = NEXTOPER(first);
 850             goto again;
 851         }
 852         else if (OP(first) == GPOS) {
 853             r->reganch |= ROPT_ANCH_GPOS;
 854             first = NEXTOPER(first);
 855             goto again;
 856         }
 857         else if ((OP(first) == STAR &&
 858             regkind[(U8)OP(NEXTOPER(first))] == ANY) &&
 859             !(r->reganch & ROPT_ANCH) )
 860         {
 861             /* turn .* into ^.* with an implied $*=1 */
 862             r->reganch |= ROPT_ANCH_BOL | ROPT_IMPLICIT;
 863             first = NEXTOPER(first);
 864             goto again;
 865         }
 866         if (sawplus && (!sawopen || !regsawback))
 867             r->reganch |= ROPT_SKIP;    /* x+ must match 1st of run */
 868
 869         /* Scan is after the zeroth branch, first is atomic matcher. */
 870         DEBUG_r(PerlIO_printf(Perl_debug_log, "first at %d\n",
 871                               first - scan + 1));
 872         /*
 873         * If there's something expensive in the r.e., find the
 874         * longest literal string that must appear and make it the
 875         * regmust.  Resolve ties in favor of later strings, since
 876         * the regstart check works with the beginning of the r.e.
 877         * and avoiding duplication strengthens checking.  Not a
 878         * strong reason, but sufficient in the absence of others.
 879         * [Now we resolve ties in favor of the earlier string if
 880         * it happens that c_offset_min has been invalidated, since the
 881         * earlier string may buy us something the later one won't.]
 882         */
 883         minlen = 0;
 884
 885         data.longest_fixed = newSVpv("",0);
 886         data.longest_float = newSVpv("",0);
 887         data.last_found = newSVpv("",0);
 888         data.longest = &(data.longest_fixed);
 889         first = scan;
 890
 891         minlen = study_chunk(&first, &fake, scan + regsize, /* Up to end */
 892                              &data, SCF_DO_SUBSTR);
 893         if ( regnpar == 1 && data.longest == &(data.longest_fixed)
 894              && data.last_start_min == 0 && data.last_end > 0
 895              && !seen_zerolen
 896              && (!(regseen & REG_SEEN_GPOS) || (r->reganch & ROPT_ANCH_GPOS)))
 897             r->reganch |= ROPT_CHECK_ALL;
 898         scan_commit(&data);
 899         SvREFCNT_dec(data.last_found);
 900
 901         longest_float_length = SvCUR(data.longest_float);
 902         if (longest_float_length
 903             || (data.flags & SF_FL_BEFORE_EOL
 904                 && (!(data.flags & SF_FL_BEFORE_MEOL)
 905                     || (regflags & PMf_MULTILINE)))) {
 906             if (SvCUR(data.longest_fixed)
 907                 && data.offset_fixed == data.offset_float_min)
 908                 goto remove;            /* Like in (a)+. */
 909
 910             r->float_substr = data.longest_float;
 911             r->float_min_offset = data.offset_float_min;
 912             r->float_max_offset = data.offset_float_max;
 913             fbm_compile(r->float_substr);
 914             BmUSEFUL(r->float_substr) = 100;
 915             if (data.flags & SF_FL_BEFORE_EOL /* Cannot have SEOL and MULTI */
 916                 && (!(data.flags & SF_FL_BEFORE_MEOL)
 917                     || (regflags & PMf_MULTILINE)))
 918                 SvTAIL_on(r->float_substr);
 919         } else {
 920           remove:
 921             r->float_substr = Nullsv;
 922             SvREFCNT_dec(data.longest_float);
 923             longest_float_length = 0;
 924         }
 925
 926         longest_fixed_length = SvCUR(data.longest_fixed);
 927         if (longest_fixed_length
 928             || (data.flags & SF_FIX_BEFORE_EOL /* Cannot have SEOL and MULTI */
 929                 && (!(data.flags & SF_FIX_BEFORE_MEOL)
 930                     || (regflags & PMf_MULTILINE)))) {
 931             r->anchored_substr = data.longest_fixed;
 932             r->anchored_offset = data.offset_fixed;
 933             fbm_compile(r->anchored_substr);
 934             BmUSEFUL(r->anchored_substr) = 100;
 935             if (data.flags & SF_FIX_BEFORE_EOL /* Cannot have SEOL and MULTI */
 936                 && (!(data.flags & SF_FIX_BEFORE_MEOL)
 937                     || (regflags & PMf_MULTILINE)))
 938                 SvTAIL_on(r->anchored_substr);
 939         } else {
 940             r->anchored_substr = Nullsv;
 941             SvREFCNT_dec(data.longest_fixed);
 942             longest_fixed_length = 0;
 943         }
 944
 945         /* A temporary algorithm prefers floated substr to fixed one to dig more info. */
 946         if (longest_fixed_length > longest_float_length) {
 947             r->check_substr = r->anchored_substr;
 948             r->check_offset_min = r->check_offset_max = r->anchored_offset;
 949             if (r->reganch & ROPT_ANCH_SINGLE)
 950                 r->reganch |= ROPT_NOSCAN;
 951         } else {
 952             r->check_substr = r->float_substr;
 953             r->check_offset_min = data.offset_float_min;
 954             r->check_offset_max = data.offset_float_max;
 955         }
 956     } else {
 957         /* Several toplevels. Best we can is to set minlen. */
 958         I32 fake;
 959
 960         DEBUG_r(PerlIO_printf(Perl_debug_log, "\n"));
 961         scan = r->program + 1;
 962         minlen = study_chunk(&scan, &fake, scan + regsize, NULL, 0);
 963         r->check_substr = r->anchored_substr = r->float_substr = Nullsv;
 964     }
 965
 966     r->nparens = regnpar - 1;
 967     r->minlen = minlen;
 968     if (regseen & REG_SEEN_GPOS)
 969         r->reganch |= ROPT_GPOS_SEEN;
 970     if (regseen & REG_SEEN_LOOKBEHIND)
 971         r->reganch |= ROPT_LOOKBEHIND_SEEN;
 972     Newz(1002, r->startp, regnpar, char*);
 973     Newz(1002, r->endp, regnpar, char*);
 974     DEBUG_r(regdump(r));
 975     return(r);
 976 }
 977
 978 /*
 979  - reg - regular expression, i.e. main body or parenthesized thing
 980  *
 981  * Caller must absorb opening parenthesis.
 982  *
 983  * Combining parenthesis handling with the base level of regular expression
 984  * is a trifle forced, but the need to tie the tails of the branches to what
 985  * follows makes it hard to avoid.
 986  */
 987 STATIC regnode *
 988 reg(I32 paren, I32 *flagp)
 989     /* paren: Parenthesized? 0=top, 1=(, inside: changed to letter. */
 990 {
 991     register regnode *ret;              /* Will be the head of the group. */
 992     register regnode *br;
 993     register regnode *lastbr;
 994     register regnode *ender = 0;
 995     register I32 parno = 0;
 996     I32 flags, oregflags = regflags, have_branch = 0, open = 0;
 997     char c;
 998
 999     *flagp = HASWIDTH;  /* Tentatively. */
1000
1001     /* Make an OPEN node, if parenthesized. */
1002     if (paren) {
1003         if (*regparse == '?') {
1004             regparse++;
1005             paren = *regparse++;
1006             ret = NULL;                 /* For look-ahead/behind. */
1007             switch (paren) {
1008             case '<':
1009 #ifndef REGALIGN_STRUCT
1010                 FAIL("lookbehind non-implemented without REGALIGN_STRUCT");
1011 #endif
1012                 regseen |= REG_SEEN_LOOKBEHIND;
1013                 if (*regparse == '!')
1014                     paren = ',';
1015                 if (*regparse != '=' && *regparse != '!')
1016                     goto unknown;
1017                 regparse++;
1018             case '=':
1019             case '!':
1020                 seen_zerolen++;
1021             case ':':
1022             case '>':
1023                 break;
1024             case '$':
1025             case '@':
1026                 FAIL2("Sequence (?%c...) not implemented", (int)paren);
1027                 break;
1028             case '#':
1029                 while (*regparse && *regparse != ')')
1030                     regparse++;
1031                 if (*regparse != ')')
1032                     FAIL("Sequence (?#... not terminated");
1033                 nextchar();
1034                 *flagp = TRYAGAIN;
1035                 return NULL;
1036             case '{':
1037             {
1038                 dTHR;
1039                 I32 count = 1, n = 0;
1040                 char c;
1041                 char *s = regparse;
1042                 SV *sv;
1043                 OP_4tree *sop, *rop;
1044
1045                 seen_zerolen++;
1046                 while (count && (c = *regparse)) {
1047                     if (c == '\\' && regparse[1])
1048                         regparse++;
1049                     else if (c == '{')
1050                         count++;
1051                     else if (c == '}')
1052                         count--;
1053                     regparse++;
1054                 }
1055                 if (*regparse != ')')
1056                     FAIL("Sequence (?{...}) not terminated or not {}-balanced");
1057                 if (!SIZE_ONLY) {
1058                     AV *av;
1059
1060                     if (regparse - 1 - s)
1061                         sv = newSVpv(s, regparse - 1 - s);
1062                     else
1063                         sv = newSVpv("", 0);
1064
1065                     rop = sv_compile_2op(sv, &sop, "re", &av);
1066
1067                     n = add_data(3, "nso");
1068                     rx->data->data[n] = (void*)rop;
1069                     rx->data->data[n+1] = (void*)av;
1070                     rx->data->data[n+2] = (void*)sop;
1071                     SvREFCNT_dec(sv);
1072                 } else {                /* First pass */
1073                     if (tainted)
1074                         FAIL("Eval-group in insecure regular expression");
1075                 }
1076
1077                 nextchar();
1078                 return reganode(EVAL, n);
1079             }
1080             case '(':
1081             {
1082                 if (regparse[0] == '?') {
1083                     if (regparse[1] == '=' || regparse[1] == '!'
1084                         || regparse[1] == '<'
1085                         || regparse[1] == '{') { /* Lookahead or eval. */
1086                         I32 flag;
1087
1088                         ret = reg_node(LOGICAL);
1089                         regtail(ret, reg(1, &flag));
1090                         goto insert_if;
1091                     }
1092                 } else if (regparse[0] >= '1' && regparse[0] <= '9' ) {
1093                     parno = atoi(regparse++);
1094
1095                     while (isDIGIT(*regparse))
1096                         regparse++;
1097                     ret = reganode(GROUPP, parno);
1098                     if ((c = *nextchar()) != ')')
1099                         FAIL2("Switch (?(number%c not recognized", c);
1100                   insert_if:
1101                     regtail(ret, reganode(IFTHEN, 0));
1102                     br = regbranch(&flags, 1);
1103                     if (br == NULL)
1104                         br = reganode(LONGJMP, 0);
1105                     else
1106                         regtail(br, reganode(LONGJMP, 0));
1107                     c = *nextchar();
1108                     if (c == '|') {
1109                         lastbr = reganode(IFTHEN, 0); /* Fake one for optimizer. */
1110                         regbranch(&flags, 1);
1111                         regtail(ret, lastbr);
1112                         c = *nextchar();
1113                     } else
1114                         lastbr = NULL;
1115                     if (c != ')')
1116                         FAIL("Switch (?(condition)... contains too many branches");
1117                     ender = reg_node(TAIL);
1118                     regtail(br, ender);
1119                     if (lastbr) {
1120                         regtail(lastbr, ender);
1121                         regtail(NEXTOPER(NEXTOPER(lastbr)), ender);
1122                     } else
1123                         regtail(ret, ender);
1124                     return ret;
1125                 } else {
1126                     FAIL2("Unknown condition for (?(%.2s", regparse);
1127                 }
1128             }
1129             case 0:
1130                 FAIL("Sequence (? incomplete");
1131                 break;
1132             default:
1133                 --regparse;
1134                 while (*regparse && strchr("iogcmsx", *regparse))
1135                     pmflag(&regflags, *regparse++);
1136               unknown:
1137                 if (*regparse != ')')
1138                     FAIL2("Sequence (?%c...) not recognized", *regparse);
1139                 nextchar();
1140                 *flagp = TRYAGAIN;
1141                 return NULL;
1142             }
1143         }
1144         else {
1145             parno = regnpar;
1146             regnpar++;
1147             ret = reganode(OPEN, parno);
1148             open = 1;
1149         }
1150     } else
1151         ret = NULL;
1152
1153     /* Pick up the branches, linking them together. */
1154     br = regbranch(&flags, 1);
1155     if (br == NULL)
1156         return(NULL);
1157     if (*regparse == '|') {
1158         if (!SIZE_ONLY && extralen) {
1159             reginsert(BRANCHJ, br);
1160         } else
1161             reginsert(BRANCH, br);
1162         have_branch = 1;
1163         if (SIZE_ONLY)
1164             extralen += 1;              /* For BRANCHJ-BRANCH. */
1165     } else if (paren == ':') {
1166         *flagp |= flags&SIMPLE;
1167     }
1168     if (open) {                         /* Starts with OPEN. */
1169         regtail(ret, br);               /* OPEN -> first. */
1170     } else if (paren != '?')            /* Not Conditional */
1171         ret = br;
1172     if (!(flags&HASWIDTH))
1173         *flagp &= ~HASWIDTH;
1174     *flagp |= flags&SPSTART;
1175     lastbr = br;
1176     while (*regparse == '|') {
1177         if (!SIZE_ONLY && extralen) {
1178             ender = reganode(LONGJMP,0);
1179             regtail(NEXTOPER(NEXTOPER(lastbr)), ender); /* Append to the previous. */
1180         }
1181         if (SIZE_ONLY)
1182             extralen += 2;              /* Account for LONGJMP. */
1183         nextchar();
1184         br = regbranch(&flags, 0);
1185         if (br == NULL)
1186             return(NULL);
1187         regtail(lastbr, br);            /* BRANCH -> BRANCH. */
1188         lastbr = br;
1189         if (!(flags&HASWIDTH))
1190             *flagp &= ~HASWIDTH;
1191         *flagp |= flags&SPSTART;
1192     }
1193
1194     if (have_branch || paren != ':') {
1195         /* Make a closing node, and hook it on the end. */
1196         switch (paren) {
1197         case ':':
1198             ender = reg_node(TAIL);
1199             break;
1200         case 1:
1201             ender = reganode(CLOSE, parno);
1202             break;
1203         case '<':
1204         case '>':
1205         case ',':
1206         case '=':
1207         case '!':
1208             ender = reg_node(SUCCEED);
1209             *flagp &= ~HASWIDTH;
1210             break;
1211         case 0:
1212             ender = reg_node(END);
1213             break;
1214         }
1215         regtail(lastbr, ender);
1216
1217         if (have_branch) {
1218             /* Hook the tails of the branches to the closing node. */
1219             for (br = ret; br != NULL; br = regnext(br)) {
1220                 regoptail(br, ender);
1221             }
1222         }
1223     }
1224
1225     {
1226         char *p;
1227         static char parens[] = "=!<,>";
1228
1229         if (paren && (p = strchr(parens, paren))) {
1230             int node = ((p - parens) % 2) ? UNLESSM : IFMATCH;
1231             int flag = (p - parens) > 1;
1232
1233             if (paren == '>')
1234                 node = SUSPEND, flag = 0;
1235             reginsert(node,ret);
1236 #ifdef REGALIGN_STRUCT
1237             ret->flags = flag;
1238 #endif
1239             regtail(ret, reg_node(TAIL));
1240         }
1241     }
1242
1243     /* Check for proper termination. */
1244     if (paren && (regparse >= regxend || *nextchar() != ')')) {
1245         FAIL("unmatched () in regexp");
1246     } else if (!paren && regparse < regxend) {
1247         if (*regparse == ')') {
1248             FAIL("unmatched () in regexp");
1249         } else
1250             FAIL("junk on end of regexp");      /* "Can't happen". */
1251         /* NOTREACHED */
1252     }
1253     if (paren != 0) {
1254         regflags = oregflags;
1255     }
1256
1257     return(ret);
1258 }
1259
1260 /*
1261  - regbranch - one alternative of an | operator
1262  *
1263  * Implements the concatenation operator.
1264  */
1265 STATIC regnode *
1266 regbranch(I32 *flagp, I32 first)
1267 {
1268     register regnode *ret;
1269     register regnode *chain = NULL;
1270     register regnode *latest;
1271     I32 flags = 0, c = 0;
1272
1273     if (first)
1274         ret = NULL;
1275     else {
1276         if (!SIZE_ONLY && extralen)
1277             ret = reganode(BRANCHJ,0);
1278         else
1279             ret = reg_node(BRANCH);
1280     }
1281
1282     if (!first && SIZE_ONLY)
1283         extralen += 1;                  /* BRANCHJ */
1284
1285     *flagp = WORST;                     /* Tentatively. */
1286
1287     regparse--;
1288     nextchar();
1289     while (regparse < regxend && *regparse != '|' && *regparse != ')') {
1290         flags &= ~TRYAGAIN;
1291         latest = regpiece(&flags);
1292         if (latest == NULL) {
1293             if (flags & TRYAGAIN)
1294                 continue;
1295             return(NULL);
1296         } else if (ret == NULL)
1297             ret = latest;
1298         *flagp |= flags&HASWIDTH;
1299         if (chain == NULL)      /* First piece. */
1300             *flagp |= flags&SPSTART;
1301         else {
1302             regnaughty++;
1303             regtail(chain, latest);
1304         }
1305         chain = latest;
1306         c++;
1307     }
1308     if (chain == NULL) {        /* Loop ran zero times. */
1309         chain = reg_node(NOTHING);
1310         if (ret == NULL)
1311             ret = chain;
1312     }
1313     if (c == 1) {
1314         *flagp |= flags&SIMPLE;
1315     }
1316
1317     return(ret);
1318 }
1319
1320 /*
1321  - regpiece - something followed by possible [*+?]
1322  *
1323  * Note that the branching code sequences used for ? and the general cases
1324  * of * and + are somewhat optimized:  they use the same NOTHING node as
1325  * both the endmarker for their branch list and the body of the last branch.
1326  * It might seem that this node could be dispensed with entirely, but the
1327  * endmarker role is not redundant.
1328  */
1329 STATIC regnode *
1330 regpiece(I32 *flagp)
1331 {
1332     register regnode *ret;
1333     register char op;
1334     register char *next;
1335     I32 flags;
1336     char *origparse = regparse;
1337     char *maxpos;
1338     I32 min;
1339     I32 max = REG_INFTY;
1340
1341     ret = regatom(&flags);
1342     if (ret == NULL) {
1343         if (flags & TRYAGAIN)
1344             *flagp |= TRYAGAIN;
1345         return(NULL);
1346     }
1347
1348     op = *regparse;
1349
1350     if (op == '{' && regcurly(regparse)) {
1351         next = regparse + 1;
1352         maxpos = Nullch;
1353         while (isDIGIT(*next) || *next == ',') {
1354             if (*next == ',') {
1355                 if (maxpos)
1356                     break;
1357                 else
1358                     maxpos = next;
1359             }
1360             next++;
1361         }
1362         if (*next == '}') {             /* got one */
1363             if (!maxpos)
1364                 maxpos = next;
1365             regparse++;
1366             min = atoi(regparse);
1367             if (*maxpos == ',')
1368                 maxpos++;
1369             else
1370                 maxpos = regparse;
1371             max = atoi(maxpos);
1372             if (!max && *maxpos != '0')
1373                 max = REG_INFTY;                /* meaning "infinity" */
1374             else if (max >= REG_INFTY)
1375                 FAIL2("Quantifier in {,} bigger than %d", REG_INFTY - 1);
1376             regparse = next;
1377             nextchar();
1378
1379         do_curly:
1380             if ((flags&SIMPLE)) {
1381                 regnaughty += 2 + regnaughty / 2;
1382                 reginsert(CURLY, ret);
1383             }
1384             else {
1385                 regnaughty += 4 + regnaughty;   /* compound interest */
1386                 regtail(ret, reg_node(WHILEM));
1387                 if (!SIZE_ONLY && extralen) {
1388                     reginsert(LONGJMP,ret);
1389                     reginsert(NOTHING,ret);
1390                     NEXT_OFF(ret) = 3;  /* Go over LONGJMP. */
1391                 }
1392                 reginsert(CURLYX,ret);
1393                 if (!SIZE_ONLY && extralen)
1394                     NEXT_OFF(ret) = 3;  /* Go over NOTHING to LONGJMP. */
1395                 regtail(ret, reg_node(NOTHING));
1396                 if (SIZE_ONLY)
1397                     extralen += 3;
1398             }
1399 #ifdef REGALIGN_STRUCT
1400             ret->flags = 0;
1401 #endif
1402
1403             if (min > 0)
1404                 *flagp = (WORST|HASWIDTH);
1405             if (max && max < min)
1406                 FAIL("Can't do {n,m} with n > m");
1407             if (!SIZE_ONLY) {
1408                 ARG1_SET(ret, min);
1409                 ARG2_SET(ret, max);
1410             }
1411
1412             goto nest_check;
1413         }
1414     }
1415
1416     if (!ISMULT1(op)) {
1417         *flagp = flags;
1418         return(ret);
1419     }
1420
1421 #if 0                           /* Now runtime fix should be reliable. */
1422     if (!(flags&HASWIDTH) && op != '?')
1423       FAIL("regexp *+ operand could be empty");
1424 #endif
1425
1426     nextchar();
1427
1428     *flagp = (op != '+') ? (WORST|SPSTART) : (WORST|HASWIDTH);
1429
1430     if (op == '*' && (flags&SIMPLE)) {
1431         reginsert(STAR, ret);
1432 #ifdef REGALIGN_STRUCT
1433         ret->flags = 0;
1434 #endif
1435         regnaughty += 4;
1436     }
1437     else if (op == '*') {
1438         min = 0;
1439         goto do_curly;
1440     } else if (op == '+' && (flags&SIMPLE)) {
1441         reginsert(PLUS, ret);
1442 #ifdef REGALIGN_STRUCT
1443         ret->flags = 0;
1444 #endif
1445         regnaughty += 3;
1446     }
1447     else if (op == '+') {
1448         min = 1;
1449         goto do_curly;
1450     } else if (op == '?') {
1451         min = 0; max = 1;
1452         goto do_curly;
1453     }
1454   nest_check:
1455     if (dowarn && !SIZE_ONLY && !(flags&HASWIDTH) && max > 10000) {
1456         warn("%.*s matches null string many times",
1457             regparse - origparse, origparse);
1458     }
1459
1460     if (*regparse == '?') {
1461         nextchar();
1462         reginsert(MINMOD, ret);
1463 #ifdef REGALIGN
1464         regtail(ret, ret + NODE_STEP_REGNODE);
1465 #else
1466         regtail(ret, ret + 3);
1467 #endif
1468     }
1469     if (ISMULT2(regparse))
1470         FAIL("nested *?+ in regexp");
1471
1472     return(ret);
1473 }
1474
1475 /*
1476  - regatom - the lowest level
1477  *
1478  * Optimization:  gobbles an entire sequence of ordinary characters so that
1479  * it can turn them into a single node, which is smaller to store and
1480  * faster to run.  Backslashed characters are exceptions, each becoming a
1481  * separate node; the code is simpler that way and it's not worth fixing.
1482  *
1483  * [Yes, it is worth fixing, some scripts can run twice the speed.]
1484  */
1485 STATIC regnode *
1486 regatom(I32 *flagp)
1487 {
1488     register regnode *ret = 0;
1489     I32 flags;
1490
1491     *flagp = WORST;             /* Tentatively. */
1492
1493 tryagain:
1494     switch (*regparse) {
1495     case '^':
1496         seen_zerolen++;
1497         nextchar();
1498         if (regflags & PMf_MULTILINE)
1499             ret = reg_node(MBOL);
1500         else if (regflags & PMf_SINGLELINE)
1501             ret = reg_node(SBOL);
1502         else
1503             ret = reg_node(BOL);
1504         break;
1505     case '$':
1506         if (regparse[1])
1507             seen_zerolen++;
1508         nextchar();
1509         if (regflags & PMf_MULTILINE)
1510             ret = reg_node(MEOL);
1511         else if (regflags & PMf_SINGLELINE)
1512             ret = reg_node(SEOL);
1513         else
1514             ret = reg_node(EOL);
1515         break;
1516     case '.':
1517         nextchar();
1518         if (regflags & PMf_SINGLELINE)
1519             ret = reg_node(SANY);
1520         else
1521             ret = reg_node(ANY);
1522         regnaughty++;
1523         *flagp |= HASWIDTH|SIMPLE;
1524         break;
1525     case '[':
1526         regparse++;
1527         ret = regclass();
1528         *flagp |= HASWIDTH|SIMPLE;
1529         break;
1530     case '(':
1531         nextchar();
1532         ret = reg(1, &flags);
1533         if (ret == NULL) {
1534                 if (flags & TRYAGAIN)
1535                     goto tryagain;
1536                 return(NULL);
1537         }
1538         *flagp |= flags&(HASWIDTH|SPSTART|SIMPLE);
1539         break;
1540     case '|':
1541     case ')':
1542         if (flags & TRYAGAIN) {
1543             *flagp |= TRYAGAIN;
1544             return NULL;
1545         }
1546         FAIL2("internal urp in regexp at /%s/", regparse);
1547                                 /* Supposed to be caught earlier. */
1548         break;
1549     case '{':
1550         if (!regcurly(regparse)) {
1551             regparse++;
1552             goto defchar;
1553         }
1554         /* FALL THROUGH */
1555     case '?':
1556     case '+':
1557     case '*':
1558         FAIL("?+*{} follows nothing in regexp");
1559         break;
1560     case '\\':
1561         switch (*++regparse) {
1562         case 'A':
1563             seen_zerolen++;
1564             ret = reg_node(SBOL);
1565             *flagp |= SIMPLE;
1566             nextchar();
1567             break;
1568         case 'G':
1569             ret = reg_node(GPOS);
1570             regseen |= REG_SEEN_GPOS;
1571             *flagp |= SIMPLE;
1572             nextchar();
1573             break;
1574         case 'Z':
1575             ret = reg_node(SEOL);
1576             *flagp |= SIMPLE;
1577             nextchar();
1578             break;
1579         case 'w':
1580             ret = reg_node((regflags & PMf_LOCALE) ? ALNUML : ALNUM);
1581             *flagp |= HASWIDTH|SIMPLE;
1582             nextchar();
1583             break;
1584         case 'W':
1585             ret = reg_node((regflags & PMf_LOCALE) ? NALNUML : NALNUM);
1586             *flagp |= HASWIDTH|SIMPLE;
1587             nextchar();
1588             break;
1589         case 'b':
1590             seen_zerolen++;
1591             ret = reg_node((regflags & PMf_LOCALE) ? BOUNDL : BOUND);
1592             *flagp |= SIMPLE;
1593             nextchar();
1594             break;
1595         case 'B':
1596             seen_zerolen++;
1597             ret = reg_node((regflags & PMf_LOCALE) ? NBOUNDL : NBOUND);
1598             *flagp |= SIMPLE;
1599             nextchar();
1600             break;
1601         case 's':
1602             ret = reg_node((regflags & PMf_LOCALE) ? SPACEL : SPACE);
1603             *flagp |= HASWIDTH|SIMPLE;
1604             nextchar();
1605             break;
1606         case 'S':
1607             ret = reg_node((regflags & PMf_LOCALE) ? NSPACEL : NSPACE);
1608             *flagp |= HASWIDTH|SIMPLE;
1609             nextchar();
1610             break;
1611         case 'd':
1612             ret = reg_node(DIGIT);
1613             *flagp |= HASWIDTH|SIMPLE;
1614             nextchar();
1615             break;
1616         case 'D':
1617             ret = reg_node(NDIGIT);
1618             *flagp |= HASWIDTH|SIMPLE;
1619             nextchar();
1620             break;
1621         case 'n':
1622         case 'r':
1623         case 't':
1624         case 'f':
1625         case 'e':
1626         case 'a':
1627         case 'x':
1628         case 'c':
1629         case '0':
1630             goto defchar;
1631         case '1': case '2': case '3': case '4':
1632         case '5': case '6': case '7': case '8': case '9':
1633             {
1634                 I32 num = atoi(regparse);
1635
1636                 if (num > 9 && num >= regnpar)
1637                     goto defchar;
1638                 else {
1639                     regsawback = 1;
1640                     ret = reganode((regflags & PMf_FOLD)
1641                                    ? ((regflags & PMf_LOCALE) ? REFFL : REFF)
1642                                    : REF, num);
1643                     *flagp |= HASWIDTH;
1644                     while (isDIGIT(*regparse))
1645                         regparse++;
1646                     regparse--;
1647                     nextchar();
1648                 }
1649             }
1650             break;
1651         case '\0':
1652             if (regparse >= regxend)
1653                 FAIL("trailing \\ in regexp");
1654             /* FALL THROUGH */
1655         default:
1656             goto defchar;
1657         }
1658         break;
1659
1660     case '#':
1661         if (regflags & PMf_EXTENDED) {
1662             while (regparse < regxend && *regparse != '\n') regparse++;
1663             if (regparse < regxend)
1664                 goto tryagain;
1665         }
1666         /* FALL THROUGH */
1667
1668     default: {
1669             register I32 len;
1670             register U8 ender;
1671             register char *p;
1672             char *oldp, *s;
1673             I32 numlen;
1674
1675             regparse++;
1676
1677         defchar:
1678             ret = reg_node((regflags & PMf_FOLD)
1679                           ? ((regflags & PMf_LOCALE) ? EXACTFL : EXACTF)
1680                           : EXACT);
1681             s = (char *) OPERAND(ret);
1682             regc(0, s++);               /* save spot for len */
1683             for (len = 0, p = regparse - 1;
1684               len < 127 && p < regxend;
1685               len++)
1686             {
1687                 oldp = p;
1688
1689                 if (regflags & PMf_EXTENDED)
1690                     p = regwhite(p, regxend);
1691                 switch (*p) {
1692                 case '^':
1693                 case '$':
1694                 case '.':
1695                 case '[':
1696                 case '(':
1697                 case ')':
1698                 case '|':
1699                     goto loopdone;
1700                 case '\\':
1701                     switch (*++p) {
1702                     case 'A':
1703                     case 'G':
1704                     case 'Z':
1705                     case 'w':
1706                     case 'W':
1707                     case 'b':
1708                     case 'B':
1709                     case 's':
1710                     case 'S':
1711                     case 'd':
1712                     case 'D':
1713                         --p;
1714                         goto loopdone;
1715                     case 'n':
1716                         ender = '\n';
1717                         p++;
1718                         break;
1719                     case 'r':
1720                         ender = '\r';
1721                         p++;
1722                         break;
1723                     case 't':
1724                         ender = '\t';
1725                         p++;
1726                         break;
1727                     case 'f':
1728                         ender = '\f';
1729                         p++;
1730                         break;
1731                     case 'e':
1732                         ender = '\033';
1733                         p++;
1734                         break;
1735                     case 'a':
1736                         ender = '\007';
1737                         p++;
1738                         break;
1739                     case 'x':
1740                         ender = scan_hex(++p, 2, &numlen);
1741                         p += numlen;
1742                         break;
1743                     case 'c':
1744                         p++;
1745                         ender = UCHARAT(p++);
1746                         ender = toCTRL(ender);
1747                         break;
1748                     case '0': case '1': case '2': case '3':case '4':
1749                     case '5': case '6': case '7': case '8':case '9':
1750                         if (*p == '0' ||
1751                           (isDIGIT(p[1]) && atoi(p) >= regnpar) ) {
1752                             ender = scan_oct(p, 3, &numlen);
1753                             p += numlen;
1754                         }
1755                         else {
1756                             --p;
1757                             goto loopdone;
1758                         }
1759                         break;
1760                     case '\0':
1761                         if (p >= regxend)
1762                             FAIL("trailing \\ in regexp");
1763                         /* FALL THROUGH */
1764                     default:
1765                         ender = *p++;
1766                         break;
1767                     }
1768                     break;
1769                 default:
1770                     ender = *p++;
1771                     break;
1772                 }
1773                 if (regflags & PMf_EXTENDED)
1774                     p = regwhite(p, regxend);
1775                 if (ISMULT2(p)) { /* Back off on ?+*. */
1776                     if (len)
1777                         p = oldp;
1778                     else {
1779                         len++;
1780                         regc(ender, s++);
1781                     }
1782                     break;
1783                 }
1784                 regc(ender, s++);
1785             }
1786         loopdone:
1787             regparse = p - 1;
1788             nextchar();
1789             if (len < 0)
1790                 FAIL("internal disaster in regexp");
1791             if (len > 0)
1792                 *flagp |= HASWIDTH;
1793             if (len == 1)
1794                 *flagp |= SIMPLE;
1795             if (!SIZE_ONLY)
1796                 *OPERAND(ret) = len;
1797             regc('\0', s++);
1798             if (SIZE_ONLY) {
1799 #ifdef REGALIGN_STRUCT
1800                 regsize += (len + 2 + sizeof(regnode) - 1) / sizeof(regnode);
1801 #endif
1802             } else {
1803                 regcode += (len + 2 + sizeof(regnode) - 1) / sizeof(regnode);
1804             }
1805         }
1806         break;
1807     }
1808
1809     return(ret);
1810 }
1811
1812 static char *
1813 regwhite(char *p, char *e)
1814 {
1815     while (p < e) {
1816         if (isSPACE(*p))
1817             ++p;
1818         else if (*p == '#') {
1819             do {
1820                 p++;
1821             } while (p < e && *p != '\n');
1822         }
1823         else
1824             break;
1825     }
1826     return p;
1827 }
1828
1829 STATIC void
1830 regset(char *opnd, register I32 c)
1831 {
1832     if (SIZE_ONLY)
1833         return;
1834     c &= 0xFF;
1835     opnd[1 + (c >> 3)] |= (1 << (c & 7));
1836 }
1837
1838 STATIC regnode *
1839 regclass(void)
1840 {
1841     register char *opnd, *s;
1842     register I32 Class;
1843     register I32 lastclass = 1234;
1844     register I32 range = 0;
1845     register regnode *ret;
1846     register I32 def;
1847     I32 numlen;
1848
1849     s = opnd = (char *) OPERAND(regcode);
1850     ret = reg_node(ANYOF);
1851     for (Class = 0; Class < 33; Class++)
1852         regc(0, s++);
1853     if (*regparse == '^') {     /* Complement of range. */
1854         regnaughty++;
1855         regparse++;
1856         if (!SIZE_ONLY)
1857             *opnd |= ANYOF_INVERT;
1858     }
1859     if (!SIZE_ONLY) {
1860         regcode += ANY_SKIP;
1861         if (regflags & PMf_FOLD)
1862             *opnd |= ANYOF_FOLD;
1863         if (regflags & PMf_LOCALE)
1864             *opnd |= ANYOF_LOCALE;
1865     } else {
1866         regsize += ANY_SKIP;
1867     }
1868     if (*regparse == ']' || *regparse == '-')
1869         goto skipcond;          /* allow 1st char to be ] or - */
1870     while (regparse < regxend && *regparse != ']') {
1871        skipcond:
1872         Class = UCHARAT(regparse++);
1873         if (Class == '\\') {
1874             Class = UCHARAT(regparse++);
1875             switch (Class) {
1876             case 'w':
1877                 if (regflags & PMf_LOCALE) {
1878                     if (!SIZE_ONLY)
1879                         *opnd |= ANYOF_ALNUML;
1880                 }
1881                 else {
1882                     for (Class = 0; Class < 256; Class++)
1883                         if (isALNUM(Class))
1884                             regset(opnd, Class);
1885                 }
1886                 lastclass = 1234;
1887                 continue;
1888             case 'W':
1889                 if (regflags & PMf_LOCALE) {
1890                     if (!SIZE_ONLY)
1891                         *opnd |= ANYOF_NALNUML;
1892                 }
1893                 else {
1894                     for (Class = 0; Class < 256; Class++)
1895                         if (!isALNUM(Class))
1896                             regset(opnd, Class);
1897                 }
1898                 lastclass = 1234;
1899                 continue;
1900             case 's':
1901                 if (regflags & PMf_LOCALE) {
1902                     if (!SIZE_ONLY)
1903                         *opnd |= ANYOF_SPACEL;
1904                 }
1905                 else {
1906                     for (Class = 0; Class < 256; Class++)
1907                         if (isSPACE(Class))
1908                             regset(opnd, Class);
1909                 }
1910                 lastclass = 1234;
1911                 continue;
1912             case 'S':
1913                 if (regflags & PMf_LOCALE) {
1914                     if (!SIZE_ONLY)
1915                         *opnd |= ANYOF_NSPACEL;
1916                 }
1917                 else {
1918                     for (Class = 0; Class < 256; Class++)
1919                         if (!isSPACE(Class))
1920                             regset(opnd, Class);
1921                 }
1922                 lastclass = 1234;
1923                 continue;
1924             case 'd':
1925                 for (Class = '0'; Class <= '9'; Class++)
1926                     regset(opnd, Class);
1927                 lastclass = 1234;
1928                 continue;
1929             case 'D':
1930                 for (Class = 0; Class < '0'; Class++)
1931                     regset(opnd, Class);
1932                 for (Class = '9' + 1; Class < 256; Class++)
1933                     regset(opnd, Class);
1934                 lastclass = 1234;
1935                 continue;
1936             case 'n':
1937                 Class = '\n';
1938                 break;
1939             case 'r':
1940                 Class = '\r';
1941                 break;
1942             case 't':
1943                 Class = '\t';
1944                 break;
1945             case 'f':
1946                 Class = '\f';
1947                 break;
1948             case 'b':
1949                 Class = '\b';
1950                 break;
1951             case 'e':
1952                 Class = '\033';
1953                 break;
1954             case 'a':
1955                 Class = '\007';
1956                 break;
1957             case 'x':
1958                 Class = scan_hex(regparse, 2, &numlen);
1959                 regparse += numlen;
1960                 break;
1961             case 'c':
1962                 Class = UCHARAT(regparse++);
1963                 Class = toCTRL(Class);
1964                 break;
1965             case '0': case '1': case '2': case '3': case '4':
1966             case '5': case '6': case '7': case '8': case '9':
1967                 Class = scan_oct(--regparse, 3, &numlen);
1968                 regparse += numlen;
1969                 break;
1970             }
1971         }
1972         if (range) {
1973             if (lastclass > Class)
1974                 FAIL("invalid [] range in regexp");
1975             range = 0;
1976         }
1977         else {
1978             lastclass = Class;
1979             if (*regparse == '-' && regparse+1 < regxend &&
1980               regparse[1] != ']') {
1981                 regparse++;
1982                 range = 1;
1983                 continue;       /* do it next time */
1984             }
1985         }
1986         for ( ; lastclass <= Class; lastclass++)
1987             regset(opnd, lastclass);
1988         lastclass = Class;
1989     }
1990     if (*regparse != ']')
1991         FAIL("unmatched [] in regexp");
1992     nextchar();
1993     return ret;
1994 }
1995
1996 STATIC char*
1997 nextchar(void)
1998 {
1999     char* retval = regparse++;
2000
2001     for (;;) {
2002         if (*regparse == '(' && regparse[1] == '?' &&
2003                 regparse[2] == '#') {
2004             while (*regparse && *regparse != ')')
2005                 regparse++;
2006             regparse++;
2007             continue;
2008         }
2009         if (regflags & PMf_EXTENDED) {
2010             if (isSPACE(*regparse)) {
2011                 regparse++;
2012                 continue;
2013             }
2014             else if (*regparse == '#') {
2015                 while (*regparse && *regparse != '\n')
2016                     regparse++;
2017                 regparse++;
2018                 continue;
2019             }
2020         }
2021         return retval;
2022     }
2023 }
2024
2025 /*
2026 - reg_node - emit a node
2027 */
2028 STATIC regnode *                        /* Location. */
2029 #ifdef CAN_PROTOTYPE
2030 reg_node(U8 op)
2031 #else
2032 reg_node(op)
2033 U8 op;
2034 #endif
2035 {
2036     register regnode *ret;
2037     register regnode *ptr;
2038
2039     ret = regcode;
2040     if (SIZE_ONLY) {
2041         SIZE_ALIGN(regsize);
2042 #ifdef REGALIGN_STRUCT
2043         regsize += 1;
2044 #else
2045         regsize += 3;
2046 #endif
2047         return(ret);
2048     }
2049
2050     NODE_ALIGN_FILL(ret);
2051     ptr = ret;
2052     FILL_ADVANCE_NODE(ptr, op);
2053     regcode = ptr;
2054
2055     return(ret);
2056 }
2057
2058 /*
2059 - reganode - emit a node with an argument
2060 */
2061 STATIC regnode *                        /* Location. */
2062 #ifdef CAN_PROTOTYPE
2063 reganode(U8 op, U32 arg)
2064 #else
2065 reganode(op, arg)
2066 U8 op;
2067 U32 arg;
2068 #endif
2069 {
2070     register regnode *ret;
2071     register regnode *ptr;
2072
2073     ret = regcode;
2074     if (SIZE_ONLY) {
2075         SIZE_ALIGN(regsize);
2076 #ifdef REGALIGN
2077         regsize += 2;
2078 #else
2079         regsize += 5;
2080 #endif
2081         return(ret);
2082     }
2083
2084     NODE_ALIGN_FILL(ret);
2085     ptr = ret;
2086     FILL_ADVANCE_NODE_ARG(ptr, op, arg);
2087     regcode = ptr;
2088
2089     return(ret);
2090 }
2091
2092 /*
2093 - regc - emit (if appropriate) a byte of code
2094 */
2095 #ifdef CAN_PROTOTYPE
2096 STATIC void
2097 regc(U8 b, char* s)
2098 #else
2099 static void
2100 regc(b, s)
2101 U8 b;
2102 char *s;
2103 #endif
2104 {
2105     if (!SIZE_ONLY)
2106         *s = b;
2107 }
2108
2109 /*
2110 - reginsert - insert an operator in front of already-emitted operand
2111 *
2112 * Means relocating the operand.
2113 */
2114 #ifdef CAN_PROTOTYPE
2115 STATIC void
2116 reginsert(U8 op, regnode *opnd)
2117 #else
2118 static void
2119 reginsert(op, opnd)
2120 U8 op;
2121 regnode *opnd;
2122 #endif
2123 {
2124     register regnode *src;
2125     register regnode *dst;
2126     register regnode *place;
2127     register int offset = regarglen[(U8)op];
2128
2129 /* (regkind[(U8)op] == CURLY ? EXTRA_STEP_2ARGS : 0); */
2130
2131     if (SIZE_ONLY) {
2132         regsize += NODE_STEP_REGNODE + offset;
2133         return;
2134     }
2135
2136     src = regcode;
2137     regcode += NODE_STEP_REGNODE + offset;
2138     dst = regcode;
2139     while (src > opnd)
2140         StructCopy(--src, --dst, regnode);
2141
2142     place = opnd;               /* Op node, where operand used to be. */
2143     src = NEXTOPER(place);
2144     FILL_ADVANCE_NODE(place, op);
2145     Zero(src, offset, regnode);
2146 #if defined(REGALIGN) && !defined(REGALIGN_STRUCT)
2147     src[offset + 1] = '\177';
2148 #endif
2149 }
2150
2151 /*
2152 - regtail - set the next-pointer at the end of a node chain of p to val.
2153 */
2154 STATIC void
2155 regtail(regnode *p, regnode *val)
2156 {
2157     register regnode *scan;
2158     register regnode *temp;
2159     register I32 offset;
2160
2161     if (SIZE_ONLY)
2162         return;
2163
2164     /* Find last node. */
2165     scan = p;
2166     for (;;) {
2167         temp = regnext(scan);
2168         if (temp == NULL)
2169             break;
2170         scan = temp;
2171     }
2172
2173 #ifdef REGALIGN
2174 #  ifdef REGALIGN_STRUCT
2175     if (reg_off_by_arg[OP(scan)]) {
2176         ARG_SET(scan, val - scan);
2177     } else {
2178         NEXT_OFF(scan) = val - scan;
2179     }
2180 #  else
2181     offset = val - scan;
2182 #    ifndef lint
2183     *(short*)(scan+1) = offset;
2184 #    endif
2185 #endif
2186 #else
2187     if (OP(scan) == BACK)
2188         offset = scan - val;
2189     else
2190         offset = val - scan;
2191     *(scan+1) = (offset>>8)&0377;
2192     *(scan+2) = offset&0377;
2193 #endif
2194 }
2195
2196 /*
2197 - regoptail - regtail on operand of first argument; nop if operandless
2198 */
2199 STATIC void
2200 regoptail(regnode *p, regnode *val)
2201 {
2202     /* "Operandless" and "op != BRANCH" are synonymous in practice. */
2203     if (p == NULL || SIZE_ONLY)
2204         return;
2205     if (regkind[(U8)OP(p)] == BRANCH) {
2206         regtail(NEXTOPER(p), val);
2207     } else if ( regkind[(U8)OP(p)] == BRANCHJ) {
2208         regtail(NEXTOPER(NEXTOPER(p)), val);
2209     } else
2210         return;
2211 }
2212
2213 /*
2214  - regcurly - a little FSA that accepts {\d+,?\d*}
2215  */
2216 STATIC I32
2217 regcurly(register char *s)
2218 {
2219     if (*s++ != '{')
2220         return FALSE;
2221     if (!isDIGIT(*s))
2222         return FALSE;
2223     while (isDIGIT(*s))
2224         s++;
2225     if (*s == ',')
2226         s++;
2227     while (isDIGIT(*s))
2228         s++;
2229     if (*s != '}')
2230         return FALSE;
2231     return TRUE;
2232 }
2233
2234 #ifdef DEBUGGING
2235
2236 STATIC regnode *
2237 dumpuntil(regnode *start, regnode *node, regnode *last, SV* sv, I32 l)
2238 {
2239     register char op = EXACT;   /* Arbitrary non-END op. */
2240     register regnode *next, *onode;
2241
2242     while (op != END && (!last || node < last)) {
2243         /* While that wasn't END last time... */
2244
2245         NODE_ALIGN(node);
2246         op = OP(node);
2247         if (op == CLOSE)
2248             l--;
2249         next = regnext(node);
2250         /* Where, what. */
2251         if (OP(node) == OPTIMIZED)
2252             goto after_print;
2253         regprop(sv, node);
2254         PerlIO_printf(Perl_debug_log, "%4d%*s%s", node - start,
2255                       2*l + 1, "", SvPVX(sv));
2256         if (next == NULL)               /* Next ptr. */
2257             PerlIO_printf(Perl_debug_log, "(0)");
2258         else
2259             PerlIO_printf(Perl_debug_log, "(%d)", next - start);
2260         (void)PerlIO_putc(Perl_debug_log, '\n');
2261       after_print:
2262         if (regkind[(U8)op] == BRANCHJ) {
2263             register regnode *nnode = (OP(next) == LONGJMP
2264                                        ? regnext(next)
2265                                        : next);
2266             if (last && nnode > last)
2267                 nnode = last;
2268             node = dumpuntil(start, NEXTOPER(NEXTOPER(node)), nnode, sv, l + 1);
2269         } else if (regkind[(U8)op] == BRANCH) {
2270             node = dumpuntil(start, NEXTOPER(node), next, sv, l + 1);
2271         } else if ( op == CURLY) {   /* `next' might be very big: optimizer */
2272             node = dumpuntil(start, NEXTOPER(node) + EXTRA_STEP_2ARGS,
2273                              NEXTOPER(node) + EXTRA_STEP_2ARGS + 1, sv, l + 1);
2274         } else if (regkind[(U8)op] == CURLY && op != CURLYX) {
2275             node = dumpuntil(start, NEXTOPER(node) + EXTRA_STEP_2ARGS,
2276                              next, sv, l + 1);
2277         } else if ( op == PLUS || op == STAR) {
2278             node = dumpuntil(start, NEXTOPER(node), NEXTOPER(node) + 1, sv, l + 1);
2279         } else if (op == ANYOF) {
2280             node = NEXTOPER(node);
2281             node += ANY_SKIP;
2282         } else if (regkind[(U8)op] == EXACT) {
2283             /* Literal string, where present. */
2284             node += ((*OPERAND(node)) + 2 + sizeof(regnode) - 1) / sizeof(regnode);
2285             node = NEXTOPER(node);
2286         } else {
2287             node = NEXTOPER(node);
2288             node += regarglen[(U8)op];
2289         }
2290         if (op == CURLYX || op == OPEN)
2291             l++;
2292         else if (op == WHILEM)
2293             l--;
2294     }
2295     return node;
2296 }
2297
2298 /*
2299  - regdump - dump a regexp onto Perl_debug_log in vaguely comprehensible form
2300  */
2301 void
2302 regdump(regexp *r)
2303 {
2304     SV *sv = sv_newmortal();
2305
2306     (void)dumpuntil(r->program, r->program + 1, NULL, sv, 0);
2307
2308     /* Header fields of interest. */
2309     if (r->anchored_substr)
2310         PerlIO_printf(Perl_debug_log, "anchored `%s%s%s'%s at %d ",
2311                       colors[0],
2312                       SvPVX(r->anchored_substr),
2313                       colors[1],
2314                       SvTAIL(r->anchored_substr) ? "$" : "",
2315                       r->anchored_offset);
2316     if (r->float_substr)
2317         PerlIO_printf(Perl_debug_log, "floating `%s%s%s'%s at %d..%u ",
2318                       colors[0],
2319                       SvPVX(r->float_substr),
2320                       colors[1],
2321                       SvTAIL(r->float_substr) ? "$" : "",
2322                       r->float_min_offset, r->float_max_offset);
2323     if (r->check_substr)
2324         PerlIO_printf(Perl_debug_log,
2325                       r->check_substr == r->float_substr
2326                       ? "(checking floating" : "(checking anchored");
2327     if (r->reganch & ROPT_NOSCAN)
2328         PerlIO_printf(Perl_debug_log, " noscan");
2329     if (r->reganch & ROPT_CHECK_ALL)
2330         PerlIO_printf(Perl_debug_log, " isall");
2331     if (r->check_substr)
2332         PerlIO_printf(Perl_debug_log, ") ");
2333
2334     if (r->regstclass) {
2335         regprop(sv, r->regstclass);
2336         PerlIO_printf(Perl_debug_log, "stclass `%s' ", SvPVX(sv));
2337     }
2338     if (r->reganch & ROPT_ANCH) {
2339         PerlIO_printf(Perl_debug_log, "anchored");
2340         if (r->reganch & ROPT_ANCH_BOL)
2341             PerlIO_printf(Perl_debug_log, "(BOL)");
2342         if (r->reganch & ROPT_ANCH_MBOL)
2343             PerlIO_printf(Perl_debug_log, "(MBOL)");
2344         if (r->reganch & ROPT_ANCH_GPOS)
2345             PerlIO_printf(Perl_debug_log, "(GPOS)");
2346         PerlIO_putc(Perl_debug_log, ' ');
2347     }
2348     if (r->reganch & ROPT_GPOS_SEEN)
2349         PerlIO_printf(Perl_debug_log, "GPOS ");
2350     if (r->reganch & ROPT_SKIP)
2351         PerlIO_printf(Perl_debug_log, "plus ");
2352     if (r->reganch & ROPT_IMPLICIT)
2353         PerlIO_printf(Perl_debug_log, "implicit ");
2354     PerlIO_printf(Perl_debug_log, "minlen %ld ", (long) r->minlen);
2355     PerlIO_printf(Perl_debug_log, "\n");
2356 }
2357
2358 /*
2359 - regprop - printable representation of opcode
2360 */
2361 void
2362 regprop(SV *sv, regnode *o)
2363 {
2364     register char *p = 0;
2365
2366     sv_setpv(sv, ":");
2367     switch (OP(o)) {
2368     case BOL:
2369         p = "BOL";
2370         break;
2371     case MBOL:
2372         p = "MBOL";
2373         break;
2374     case SBOL:
2375         p = "SBOL";
2376         break;
2377     case EOL:
2378         p = "EOL";
2379         break;
2380     case MEOL:
2381         p = "MEOL";
2382         break;
2383     case SEOL:
2384         p = "SEOL";
2385         break;
2386     case ANY:
2387         p = "ANY";
2388         break;
2389     case SANY:
2390         p = "SANY";
2391         break;
2392     case ANYOF:
2393         p = "ANYOF";
2394         break;
2395     case BRANCH:
2396         p = "BRANCH";
2397         break;
2398     case EXACT:
2399         sv_catpvf(sv, "EXACT <%s%s%s>", colors[0], OPERAND(o) + 1, colors[1]);
2400         break;
2401     case EXACTF:
2402         sv_catpvf(sv, "EXACTF <%s%s%s>", colors[0], OPERAND(o) + 1, colors[1]);
2403         break;
2404     case EXACTFL:
2405         sv_catpvf(sv, "EXACTFL <%s%s%s>", colors[0], OPERAND(o) + 1, colors[1]);
2406         break;
2407     case NOTHING:
2408         p = "NOTHING";
2409         break;
2410     case TAIL:
2411         p = "TAIL";
2412         break;
2413     case BACK:
2414         p = "BACK";
2415         break;
2416     case END:
2417         p = "END";
2418         break;
2419     case BOUND:
2420         p = "BOUND";
2421         break;
2422     case BOUNDL:
2423         p = "BOUNDL";
2424         break;
2425     case NBOUND:
2426         p = "NBOUND";
2427         break;
2428     case NBOUNDL:
2429         p = "NBOUNDL";
2430         break;
2431     case CURLY:
2432         sv_catpvf(sv, "CURLY {%d,%d}", ARG1(o), ARG2(o));
2433         break;
2434     case CURLYM:
2435 #ifdef REGALIGN_STRUCT
2436         sv_catpvf(sv, "CURLYM[%d] {%d,%d}", o->flags, ARG1(o), ARG2(o));
2437 #else
2438         sv_catpvf(sv, "CURLYM {%d,%d}", ARG1(o), ARG2(o));
2439 #endif
2440         break;
2441     case CURLYN:
2442 #ifdef REGALIGN_STRUCT
2443         sv_catpvf(sv, "CURLYN[%d] {%d,%d}", o->flags, ARG1(o), ARG2(o));
2444 #else
2445         sv_catpvf(sv, "CURLYN {%d,%d}", ARG1(o), ARG2(o));
2446 #endif
2447         break;
2448     case CURLYX:
2449         sv_catpvf(sv, "CURLYX {%d,%d}", ARG1(o), ARG2(o));
2450         break;
2451     case REF:
2452         sv_catpvf(sv, "REF%d", ARG(o));
2453         break;
2454     case REFF:
2455         sv_catpvf(sv, "REFF%d", ARG(o));
2456         break;
2457     case REFFL:
2458         sv_catpvf(sv, "REFFL%d", ARG(o));
2459         break;
2460     case OPEN:
2461         sv_catpvf(sv, "OPEN%d", ARG(o));
2462         break;
2463     case CLOSE:
2464         sv_catpvf(sv, "CLOSE%d", ARG(o));
2465         p = NULL;
2466         break;
2467     case STAR:
2468         p = "STAR";
2469         break;
2470     case PLUS:
2471         p = "PLUS";
2472         break;
2473     case MINMOD:
2474         p = "MINMOD";
2475         break;
2476     case GPOS:
2477         p = "GPOS";
2478         break;
2479     case UNLESSM:
2480 #ifdef REGALIGN_STRUCT
2481         sv_catpvf(sv, "UNLESSM[-%d]", o->flags);
2482 #else
2483         p = "UNLESSM";
2484 #endif
2485         break;
2486     case IFMATCH:
2487 #ifdef REGALIGN_STRUCT
2488         sv_catpvf(sv, "IFMATCH[-%d]", o->flags);
2489 #else
2490         p = "IFMATCH";
2491 #endif
2492         break;
2493     case SUCCEED:
2494         p = "SUCCEED";
2495         break;
2496     case WHILEM:
2497         p = "WHILEM";
2498         break;
2499     case DIGIT:
2500         p = "DIGIT";
2501         break;
2502     case NDIGIT:
2503         p = "NDIGIT";
2504         break;
2505     case ALNUM:
2506         p = "ALNUM";
2507         break;
2508     case NALNUM:
2509         p = "NALNUM";
2510         break;
2511     case SPACE:
2512         p = "SPACE";
2513         break;
2514     case NSPACE:
2515         p = "NSPACE";
2516         break;
2517     case ALNUML:
2518         p = "ALNUML";
2519         break;
2520     case NALNUML:
2521         p = "NALNUML";
2522         break;
2523     case SPACEL:
2524         p = "SPACEL";
2525         break;
2526     case NSPACEL:
2527         p = "NSPACEL";
2528         break;
2529     case EVAL:
2530         p = "EVAL";
2531         break;
2532     case LONGJMP:
2533         p = "LONGJMP";
2534         break;
2535     case BRANCHJ:
2536         p = "BRANCHJ";
2537         break;
2538     case IFTHEN:
2539         p = "IFTHEN";
2540         break;
2541     case GROUPP:
2542         sv_catpvf(sv, "GROUPP%d", ARG(o));
2543         break;
2544     case LOGICAL:
2545         p = "LOGICAL";
2546         break;
2547     case SUSPEND:
2548         p = "SUSPEND";
2549         break;
2550     case RENUM:
2551         p = "RENUM";
2552         break;
2553     case OPTIMIZED:
2554         p = "OPTIMIZED";
2555         break;
2556     default:
2557         FAIL("corrupted regexp opcode");
2558     }
2559     if (p)
2560         sv_catpv(sv, p);
2561 }
2562 #endif /* DEBUGGING */
2563
2564 void
2565 pregfree(struct regexp *r)
2566 {
2567     if (!r || (--r->refcnt > 0))
2568         return;
2569     if (r->precomp)
2570         Safefree(r->precomp);
2571     if (r->subbase)
2572         Safefree(r->subbase);
2573     if (r->anchored_substr)
2574         SvREFCNT_dec(r->anchored_substr);
2575     if (r->float_substr)
2576         SvREFCNT_dec(r->float_substr);
2577     if (r->data) {
2578         int n = r->data->count;
2579         while (--n >= 0) {
2580             switch (r->data->what[n]) {
2581             case 's':
2582                 SvREFCNT_dec((SV*)r->data->data[n]);
2583                 break;
2584             case 'o':
2585                 op_free((OP_4tree*)r->data->data[n]);
2586                 break;
2587             case 'n':
2588                 break;
2589             default:
2590                 FAIL2("panic: regfree data code '%c'", r->data->what[n]);
2591             }
2592         }
2593         Safefree(r->data->what);
2594         Safefree(r->data);
2595     }
2596     Safefree(r->startp);
2597     Safefree(r->endp);
2598     Safefree(r);
2599 }
2600
2601 /*
2602  - regnext - dig the "next" pointer out of a node
2603  *
2604  * [Note, when REGALIGN is defined there are two places in regmatch()
2605  * that bypass this code for speed.]
2606  */
2607 regnode *
2608 regnext(register regnode *p)
2609 {
2610     register I32 offset;
2611
2612     if (p == &regdummy)
2613         return(NULL);
2614
2615     offset = (reg_off_by_arg[OP(p)] ? ARG(p) : NEXT_OFF(p));
2616     if (offset == 0)
2617         return(NULL);
2618
2619 #ifdef REGALIGN
2620     return(p+offset);
2621 #else
2622     if (OP(p) == BACK)
2623         return(p-offset);
2624     else
2625         return(p+offset);
2626 #endif
2627 }
2628
2629 #ifdef I_STDARG
2630 void
2631 re_croak2(const char* pat1,const char* pat2,...)
2632 #else
2633 /*VARARGS0*/
2634 void
2635 re_croak2(const char* pat1,const char* pat2, va_alist)
2636     const char* pat1;
2637     const char* pat2;
2638     va_dcl
2639 #endif
2640 {
2641     va_list args;
2642     STRLEN l1 = strlen(pat1);
2643     STRLEN l2 = strlen(pat2);
2644     char buf[512];
2645     char *message;
2646
2647     if (l1 > 510)
2648         l1 = 510;
2649     if (l1 + l2 > 510)
2650         l2 = 510 - l1;
2651     Copy(pat1, buf, l1 , char);
2652     Copy(pat2, buf + l1, l2 , char);
2653     buf[l1 + l2 + 1] = '\n';
2654     buf[l1 + l2 + 2] = '\0';
2655 #ifdef I_STDARG
2656     va_start(args, pat2);
2657 #else
2658     va_start(args);
2659 #endif
2660     message = mess(buf, &args);
2661     va_end(args);
2662     l1 = strlen(message);
2663     if (l1 > 512)
2664         l1 = 512;
2665     Copy(message, buf, l1 , char);
2666     buf[l1] = '\0';                     /* Overwrite \n */
2667     croak("%s", buf);
2668 }
2669
2670
2671