6489b7839267a798a5674ed0e704bb4acb1058fc
[p5sagit/p5-mst-13.2.git] / regcomp.c
1 /*    regcomp.c
2  */
3
4 /*
5  * "A fair jaw-cracker dwarf-language must be."  --Samwise Gamgee
6  */
7
8 /* NOTE: this is derived from Henry Spencer's regexp code, and should not
9  * confused with the original package (see point 3 below).  Thanks, Henry!
10  */
11
12 /* Additional note: this code is very heavily munged from Henry's version
13  * in places.  In some spots I've traded clarity for efficiency, so don't
14  * blame Henry for some of the lack of readability.
15  */
16
17 /* The names of the functions have been changed from regcomp and
18  * regexec to  pregcomp and pregexec in order to avoid conflicts
19  * with the POSIX routines of the same names.
20 */
21
22 /*SUPPRESS 112*/
23 /*
24  * pregcomp and pregexec -- regsub and regerror are not used in perl
25  *
26  *      Copyright (c) 1986 by University of Toronto.
27  *      Written by Henry Spencer.  Not derived from licensed software.
28  *
29  *      Permission is granted to anyone to use this software for any
30  *      purpose on any computer system, and to redistribute it freely,
31  *      subject to the following restrictions:
32  *
33  *      1. The author is not responsible for the consequences of use of
34  *              this software, no matter how awful, even if they arise
35  *              from defects in it.
36  *
37  *      2. The origin of this software must not be misrepresented, either
38  *              by explicit claim or by omission.
39  *
40  *      3. Altered versions must be plainly marked as such, and must not
41  *              be misrepresented as being the original software.
42  *
43  *
44  ****    Alterations to Henry's code are...
45  ****
46  ****    Copyright (c) 1991-1997, Larry Wall
47  ****
48  ****    You may distribute under the terms of either the GNU General Public
49  ****    License or the Artistic License, as specified in the README file.
50
51  *
52  * Beware that some of this code is subtly aware of the way operator
53  * precedence is structured in regular expressions.  Serious changes in
54  * regular-expression syntax might require a total rethink.
55  */
56 #include "EXTERN.h"
57 #include "perl.h"
58 #include "INTERN.h"
59
60 #define REG_COMP_C
61 #include "regcomp.h"
62
63 #ifdef USE_THREADS
64 #undef op
65 #endif /* USE_THREADS */
66
67 static regnode regdummy;
68 static char *  regparse;       /* Input-scan pointer. */
69 static char *  regxend;        /* End of input for compile */
70 static regnode *       regcode;        /* Code-emit pointer; &regdummy = don't. */
71 static I32             regnaughty;     /* How bad is this pattern? */
72 static I32             regsawback;     /* Did we see \1, ...? */
73
74 /* This guys appear both in regcomp.c and regexec.c, but there is no
75    other reason to have them global. */
76 static char *  regprecomp;     /* uncompiled string. */
77 static I32              regnpar;        /* () count. */
78 static I32              regsize;        /* Code size. */
79 static U16              regflags;       /* are we folding, multilining? */
80
81 #ifdef MSDOS
82 # if defined(BUGGY_MSC6)
83  /* MSC 6.00A breaks on op/regexp.t test 85 unless we turn this off */
84  # pragma optimize("a",off)
85  /* But MSC 6.00A is happy with 'w', for aliases only across function calls*/
86  # pragma optimize("w",on )
87 # endif /* BUGGY_MSC6 */
88 #endif /* MSDOS */
89
90 #ifndef STATIC
91 #define STATIC  static
92 #endif
93
94 #define ISMULT1(c)      ((c) == '*' || (c) == '+' || (c) == '?')
95 #define ISMULT2(s)      ((*s) == '*' || (*s) == '+' || (*s) == '?' || \
96         ((*s) == '{' && regcurly(s)))
97 #ifdef atarist
98 #define PERL_META       "^$.[()|?+*\\"
99 #else
100 #define META    "^$.[()|?+*\\"
101 #endif
102
103 #ifdef SPSTART
104 #undef SPSTART          /* dratted cpp namespace... */
105 #endif
106 /*
107  * Flags to be passed up and down.
108  */
109 #define WORST           0       /* Worst case. */
110 #define HASWIDTH        0x1     /* Known never to match null string. */
111 #define SIMPLE          0x2     /* Simple enough to be STAR/PLUS operand. */
112 #define SPSTART         0x4     /* Starts with * or +. */
113 #define TRYAGAIN        0x8     /* Weeded out a declaration. */
114
115 /*
116  * Forward declarations for pregcomp()'s friends.
117  */
118
119 static regnode *reg _((I32, I32 *));
120 static regnode *reganode _((U8, U32));
121 static regnode *regatom _((I32 *));
122 static regnode *regbranch _((I32 *, I32));
123 static void regc _((U8, char *));
124 static regnode *regclass _((void));
125 STATIC I32 regcurly _((char *));
126 static regnode *reg_node _((U8));
127 static regnode *regpiece _((I32 *));
128 static void reginsert _((U8, regnode *));
129 static void regoptail _((regnode *, regnode *));
130 static void regset _((char *, I32));
131 static void regtail _((regnode *, regnode *));
132 static char* regwhite _((char *, char *));
133 static char* nextchar _((void));
134
135 static U32 regseen;
136 static I32 seen_zerolen;
137 static regexp *rx;
138 static I32 extralen;
139
140 #ifdef DEBUGGING
141 static int colorset;
142 char *colors[4];
143 #endif 
144
145 /* Length of a variant. */
146
147 typedef struct {
148     I32 len_min;
149     I32 len_delta;
150     I32 pos_min;
151     I32 pos_delta;
152     SV *last_found;
153     I32 last_end;                       /* min value, <0 unless valid. */
154     I32 last_start_min;
155     I32 last_start_max;
156     SV **longest;                       /* Either &l_fixed, or &l_float. */
157     SV *longest_fixed;
158     I32 offset_fixed;
159     SV *longest_float;
160     I32 offset_float_min;
161     I32 offset_float_max;
162     I32 flags;
163 } scan_data_t;
164
165 static scan_data_t zero_scan_data = { 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 };
166
167 #define SF_BEFORE_EOL           (SF_BEFORE_SEOL|SF_BEFORE_MEOL)
168 #define SF_BEFORE_SEOL          0x1
169 #define SF_BEFORE_MEOL          0x2
170 #define SF_FIX_BEFORE_EOL       (SF_FIX_BEFORE_SEOL|SF_FIX_BEFORE_MEOL)
171 #define SF_FL_BEFORE_EOL        (SF_FL_BEFORE_SEOL|SF_FL_BEFORE_MEOL)
172
173 #define SF_FIX_SHIFT_EOL        (+2)
174 #define SF_FL_SHIFT_EOL         (+4)
175
176 #define SF_FIX_BEFORE_SEOL      (SF_BEFORE_SEOL << SF_FIX_SHIFT_EOL)
177 #define SF_FIX_BEFORE_MEOL      (SF_BEFORE_MEOL << SF_FIX_SHIFT_EOL)
178
179 #define SF_FL_BEFORE_SEOL       (SF_BEFORE_SEOL << SF_FL_SHIFT_EOL)
180 #define SF_FL_BEFORE_MEOL       (SF_BEFORE_MEOL << SF_FL_SHIFT_EOL) /* 0x20 */
181 #define SF_IS_INF               0x40
182 #define SF_HAS_PAR              0x80
183 #define SF_IN_PAR               0x100
184 #define SF_HAS_EVAL             0x200
185
186 static void
187 scan_commit(scan_data_t *data)
188 {
189     STRLEN l = SvCUR(data->last_found);
190     STRLEN old_l = SvCUR(*data->longest);
191     
192     if ((l >= old_l) && ((l > old_l) || (data->flags & SF_BEFORE_EOL))) {
193         sv_setsv(*data->longest, data->last_found);
194         if (*data->longest == data->longest_fixed) {
195             data->offset_fixed = l ? data->last_start_min : data->pos_min;
196             if (data->flags & SF_BEFORE_EOL)
197                 data->flags 
198                     |= ((data->flags & SF_BEFORE_EOL) << SF_FIX_SHIFT_EOL);
199             else
200                 data->flags &= ~SF_FIX_BEFORE_EOL;
201         } else {
202             data->offset_float_min = l ? data->last_start_min : data->pos_min;
203             data->offset_float_max = (l 
204                                       ? data->last_start_max 
205                                       : data->pos_min + data->pos_delta);
206             if (data->flags & SF_BEFORE_EOL)
207                 data->flags 
208                     |= ((data->flags & SF_BEFORE_EOL) << SF_FL_SHIFT_EOL);
209             else
210                 data->flags &= ~SF_FL_BEFORE_EOL;
211         }
212     }
213     SvCUR_set(data->last_found, 0);
214     data->last_end = -1;
215     data->flags &= ~SF_BEFORE_EOL;
216 }
217
218 #define SCF_DO_SUBSTR 1
219
220 /* Stops at toplevel WHILEM as well as at `last'. At end *scanp is set
221    to the position after last scanned or to NULL. */
222
223 static I32
224 study_chunk(regnode **scanp, I32 *deltap, regnode *last, scan_data_t *data, U32 flags)
225                         /* scanp: Start here (read-write). */
226                         /* deltap: Write maxlen-minlen here. */
227                         /* last: Stop before this one. */
228 {
229     I32 min = 0, pars = 0, code;
230     regnode *scan = *scanp, *next;
231     I32 delta = 0;
232     int is_inf = (flags & SCF_DO_SUBSTR) && (data->flags & SF_IS_INF);
233     I32 is_par = OP(scan) == OPEN ? ARG(scan) : 0;
234     scan_data_t data_fake;
235     
236     while (scan && OP(scan) != END && scan < last) {
237         /* Peephole optimizer: */
238
239         if (regkind[(U8)OP(scan)] == EXACT) {
240             regnode *n = regnext(scan);
241             U32 stringok = 1;
242 #ifdef DEBUGGING
243             regnode *stop = scan;
244 #endif 
245
246             next = scan + (*OPERAND(scan) + 2 - 1)/sizeof(regnode) + 2;
247             /* Skip NOTHING, merge EXACT*. */
248             while (n &&
249                    ( regkind[(U8)OP(n)] == NOTHING || 
250                      (stringok && (OP(n) == OP(scan))))
251                    && NEXT_OFF(n)
252                    && NEXT_OFF(scan) + NEXT_OFF(n) < I16_MAX) {
253                 if (OP(n) == TAIL || n > next)
254                     stringok = 0;
255                 if (regkind[(U8)OP(n)] == NOTHING) {
256                     NEXT_OFF(scan) += NEXT_OFF(n);
257                     next = n + NODE_STEP_REGNODE;
258 #ifdef DEBUGGING
259                     if (stringok)
260                         stop = n;
261 #endif 
262                     n = regnext(n);
263                 } else {
264                     int oldl = *OPERAND(scan);
265                     regnode *nnext = regnext(n);
266                     
267                     if (oldl + *OPERAND(n) > U8_MAX) 
268                         break;
269                     NEXT_OFF(scan) += NEXT_OFF(n);
270                     *OPERAND(scan) += *OPERAND(n);
271                     next = n + (*OPERAND(n) + 2 - 1)/sizeof(regnode) + 2;
272                     /* Now we can overwrite *n : */
273                     Move(OPERAND(n) + 1, OPERAND(scan) + oldl + 1,
274                          *OPERAND(n) + 1, char);
275 #ifdef DEBUGGING
276                     if (stringok)
277                         stop = next - 1;
278 #endif 
279                     n = nnext;
280                 }
281             }
282 #ifdef DEBUGGING
283             /* Allow dumping */
284             n = scan + (*OPERAND(scan) + 2 - 1)/sizeof(regnode) + 2;
285             while (n <= stop) {
286                 if (regkind[(U8)OP(n)] != NOTHING || OP(n) == NOTHING) {
287                     OP(n) = OPTIMIZED;
288                     NEXT_OFF(n) = 0;
289                 }
290                 n++;
291             }
292 #endif 
293
294         }
295         if (OP(scan) != CURLYX) {
296             int max = (reg_off_by_arg[OP(scan)] ? I32_MAX : U16_MAX);
297             int off = (reg_off_by_arg[OP(scan)] ? ARG(scan) : NEXT_OFF(scan));
298             int noff;
299             regnode *n = scan;
300             
301             /* Skip NOTHING and LONGJMP. */
302             while ((n = regnext(n))
303                    && ((regkind[(U8)OP(n)] == NOTHING && (noff = NEXT_OFF(n)))
304                        || ((OP(n) == LONGJMP) && (noff = ARG(n))))
305                    && off + noff < max)
306                 off += noff;
307             if (reg_off_by_arg[OP(scan)])
308                 ARG(scan) = off;
309             else 
310                 NEXT_OFF(scan) = off;
311         }
312         if (OP(scan) == BRANCH || OP(scan) == BRANCHJ 
313                    || OP(scan) == IFTHEN || OP(scan) == SUSPEND) {
314             next = regnext(scan);
315             code = OP(scan);
316             
317             if (OP(next) == code || code == IFTHEN || code == SUSPEND) { 
318                 I32 max1 = 0, min1 = I32_MAX, num = 0;
319                 
320                 if (flags & SCF_DO_SUBSTR)
321                     scan_commit(data);
322                 while (OP(scan) == code) {
323                     I32 deltanext, minnext;
324
325                     num++;
326                     data_fake.flags = 0;
327                     next = regnext(scan);
328                     scan = NEXTOPER(scan);
329                     if (code != BRANCH)
330                         scan = NEXTOPER(scan);
331                     /* We suppose the run is continuous, last=next...*/
332                     minnext = study_chunk(&scan, &deltanext, next,
333                                           &data_fake, 0);
334                     if (min1 > minnext) 
335                         min1 = minnext;
336                     if (max1 < minnext + deltanext)
337                         max1 = minnext + deltanext;
338                     if (deltanext == I32_MAX)
339                         is_inf = 1;
340                     scan = next;
341                     if (data_fake.flags & (SF_HAS_PAR|SF_IN_PAR))
342                         pars++;
343                     if (data_fake.flags & SF_HAS_EVAL)
344                         data->flags |= SF_HAS_EVAL;
345                     if (code == SUSPEND) 
346                         break;
347                 }
348                 if (code == IFTHEN && num < 2) /* Empty ELSE branch */
349                     min1 = 0;
350                 if (flags & SCF_DO_SUBSTR) {
351                     data->pos_min += min1;
352                     data->pos_delta += max1 - min1;
353                     if (max1 != min1 || is_inf)
354                         data->longest = &(data->longest_float);
355                 }
356                 min += min1;
357                 delta += max1 - min1;
358             } else if (code == BRANCHJ) /* single branch is optimized. */
359                 scan = NEXTOPER(NEXTOPER(scan));
360             else                        /* single branch is optimized. */
361                 scan = NEXTOPER(scan);
362             continue;
363         } else if (OP(scan) == EXACT) {
364             min += *OPERAND(scan);
365             if (flags & SCF_DO_SUBSTR) { /* Update longest substr. */
366                 I32 l = *OPERAND(scan);
367
368                 /* The code below prefers earlier match for fixed
369                    offset, later match for variable offset.  */
370                 if (data->last_end == -1) { /* Update the start info. */
371                     data->last_start_min = data->pos_min;
372                     data->last_start_max = is_inf
373                         ? I32_MAX : data->pos_min + data->pos_delta; 
374                 }
375                 sv_catpvn(data->last_found, OPERAND(scan)+1, l);
376                 data->last_end = data->pos_min + l;
377                 data->pos_min += l; /* As in the first entry. */
378                 data->flags &= ~SF_BEFORE_EOL;
379             }
380         } else if (regkind[(U8)OP(scan)] == EXACT) {
381             if (flags & SCF_DO_SUBSTR) 
382                 scan_commit(data);
383             min += *OPERAND(scan);
384             if (data && (flags & SCF_DO_SUBSTR))
385                 data->pos_min += *OPERAND(scan);
386         } else if (strchr(varies,OP(scan))) {
387             I32 mincount, maxcount, minnext, deltanext, pos_before, fl;
388             regnode *oscan = scan;
389             
390             switch (regkind[(U8)OP(scan)]) {
391             case WHILEM:
392                 scan = NEXTOPER(scan);
393                 goto finish;
394             case PLUS:
395                 if (flags & SCF_DO_SUBSTR) {
396                     next = NEXTOPER(scan);
397                     if (OP(next) == EXACT) {
398                         mincount = 1; 
399                         maxcount = REG_INFTY; 
400                         next = regnext(scan);
401                         scan = NEXTOPER(scan);
402                         goto do_curly;
403                     }
404                 }
405                 if (flags & SCF_DO_SUBSTR)
406                     data->pos_min++;
407                 min++;
408                 /* Fall through. */
409             case STAR:
410                 is_inf = 1; 
411                 scan = regnext(scan);
412                 if (flags & SCF_DO_SUBSTR) {
413                     scan_commit(data);
414                     data->longest = &(data->longest_float);
415                 }
416                 goto optimize_curly_tail;
417             case CURLY:
418                 mincount = ARG1(scan); 
419                 maxcount = ARG2(scan);
420                 next = regnext(scan);
421                 scan = NEXTOPER(scan) + EXTRA_STEP_2ARGS;
422               do_curly:
423                 if (flags & SCF_DO_SUBSTR) {
424                     if (mincount == 0) scan_commit(data);
425                     pos_before = data->pos_min;
426                 }
427                 if (data) {
428                     fl = data->flags;
429                     data->flags &= ~(SF_HAS_PAR|SF_IN_PAR|SF_HAS_EVAL);
430                     if (is_inf)
431                         data->flags |= SF_IS_INF;
432                 }
433                 /* This will finish on WHILEM, setting scan, or on NULL: */
434                 minnext = study_chunk(&scan, &deltanext, last, data, 
435                                       mincount == 0 
436                                         ? (flags & ~SCF_DO_SUBSTR) : flags);
437                 if (!scan)              /* It was not CURLYX, but CURLY. */
438                     scan = next;
439                 if (dowarn && (minnext + deltanext == 0) 
440                     && !(data->flags & (SF_HAS_PAR|SF_IN_PAR))) 
441                     warn("Strange *+?{} on zero-length expression");
442                 min += minnext * mincount;
443                 is_inf |= (maxcount == REG_INFTY && (minnext + deltanext) > 0
444                            || deltanext == I32_MAX);
445                 delta += (minnext + deltanext) * maxcount - minnext * mincount;
446
447                 /* Try powerful optimization CURLYX => CURLYN. */
448 #ifdef REGALIGN_STRUCT
449                 if (  OP(oscan) == CURLYX && data 
450                       && data->flags & SF_IN_PAR
451                       && !(data->flags & SF_HAS_EVAL)
452                       && !deltanext && minnext == 1 ) {
453                     /* Try to optimize to CURLYN.  */
454                     regnode *nxt = NEXTOPER(oscan) + EXTRA_STEP_2ARGS;
455                     regnode *nxt1 = nxt, *nxt2;
456
457                     /* Skip open. */
458                     nxt = regnext(nxt);
459                     if (!strchr(simple,OP(nxt))
460                         && !(regkind[(U8)OP(nxt)] == EXACT
461                              && *OPERAND(nxt) == 1)) 
462                         goto nogo;
463                     nxt2 = nxt;
464                     nxt = regnext(nxt);
465                     if (OP(nxt) != CLOSE) 
466                         goto nogo;
467                     /* Now we know that nxt2 is the only contents: */
468                     oscan->flags = ARG(nxt);
469                     OP(oscan) = CURLYN;
470                     OP(nxt1) = NOTHING; /* was OPEN. */
471 #ifdef DEBUGGING
472                     OP(nxt1 + 1) = OPTIMIZED; /* was count. */
473                     NEXT_OFF(nxt1+ 1) = 0; /* just for consistancy. */
474                     NEXT_OFF(nxt2) = 0; /* just for consistancy with CURLY. */
475                     OP(nxt) = OPTIMIZED;        /* was CLOSE. */
476                     OP(nxt + 1) = OPTIMIZED; /* was count. */
477                     NEXT_OFF(nxt+ 1) = 0; /* just for consistancy. */
478 #endif 
479                 }
480 #endif 
481               nogo:
482
483                 /* Try optimization CURLYX => CURLYM. */
484                 if (  OP(oscan) == CURLYX && data 
485 #ifdef REGALIGN_STRUCT
486                       && !(data->flags & SF_HAS_PAR)
487 #else
488                       && !(data->flags & (SF_HAS_PAR|SF_IN_PAR))
489 #endif 
490                       && !(data->flags & SF_HAS_EVAL)
491                       && !deltanext  ) {
492                     /* XXXX How to optimize if data == 0? */
493                     /* Optimize to a simpler form.  */
494                     regnode *nxt = NEXTOPER(oscan) + EXTRA_STEP_2ARGS; /* OPEN */
495                     regnode *nxt2;
496
497                     OP(oscan) = CURLYM;
498                     while ( (nxt2 = regnext(nxt)) /* skip over embedded stuff*/
499                             && (OP(nxt2) != WHILEM)) 
500                         nxt = nxt2;
501                     OP(nxt2)  = SUCCEED; /* Whas WHILEM */
502 #ifdef REGALIGN_STRUCT
503                     /* Need to optimize away parenths. */
504                     if (data->flags & SF_IN_PAR) {
505                         /* Set the parenth number.  */
506                         regnode *nxt1 = NEXTOPER(oscan) + EXTRA_STEP_2ARGS; /* OPEN*/
507
508                         if (OP(nxt) != CLOSE) 
509                             FAIL("panic opt close");
510                         oscan->flags = ARG(nxt);
511                         OP(nxt1) = OPTIMIZED;   /* was OPEN. */
512                         OP(nxt) = OPTIMIZED;    /* was CLOSE. */
513 #ifdef DEBUGGING
514                         OP(nxt1 + 1) = OPTIMIZED; /* was count. */
515                         OP(nxt + 1) = OPTIMIZED; /* was count. */
516                         NEXT_OFF(nxt1 + 1) = 0; /* just for consistancy. */
517                         NEXT_OFF(nxt + 1) = 0; /* just for consistancy. */
518 #endif 
519 #if 0
520                         while ( nxt1 && (OP(nxt1) != WHILEM)) {
521                             regnode *nnxt = regnext(nxt1);
522                             
523                             if (nnxt == nxt) {
524                                 if (reg_off_by_arg[OP(nxt1)])
525                                     ARG_SET(nxt1, nxt2 - nxt1);
526                                 else if (nxt2 - nxt1 < U16_MAX)
527                                     NEXT_OFF(nxt1) = nxt2 - nxt1;
528                                 else
529                                     OP(nxt) = NOTHING;  /* Cannot beautify */
530                             }
531                             nxt1 = nnxt;
532                         }
533 #endif
534                         /* Optimize again: */
535                         study_chunk(&nxt1, &deltanext, nxt, NULL, 0);
536                     } else
537                         oscan->flags = 0;
538 #endif 
539                 }
540                 if (data && fl & (SF_HAS_PAR|SF_IN_PAR)) 
541                     pars++;
542                 if (flags & SCF_DO_SUBSTR) {
543                     SV *last_str = Nullsv;
544                     int counted = mincount != 0;
545
546                     if (data->last_end > 0 && mincount != 0) { /* Ends with a string. */
547                         I32 b = pos_before >= data->last_start_min 
548                             ? pos_before : data->last_start_min;
549                         STRLEN l;
550                         char *s = SvPV(data->last_found, l);
551                         
552                         l -= b - data->last_start_min;
553                         /* Get the added string: */
554                         last_str = newSVpv(s  +  b - data->last_start_min, l);
555                         if (deltanext == 0 && pos_before == b) {
556                             /* What was added is a constant string */
557                             if (mincount > 1) {
558                                 SvGROW(last_str, (mincount * l) + 1);
559                                 repeatcpy(SvPVX(last_str) + l, 
560                                           SvPVX(last_str), l, mincount - 1);
561                                 SvCUR(last_str) *= mincount;
562                                 /* Add additional parts. */
563                                 SvCUR_set(data->last_found, 
564                                           SvCUR(data->last_found) - l);
565                                 sv_catsv(data->last_found, last_str);
566                                 data->last_end += l * (mincount - 1);
567                             }
568                         }
569                     }
570                     /* It is counted once already... */
571                     data->pos_min += minnext * (mincount - counted);
572                     data->pos_delta += - counted * deltanext +
573                         (minnext + deltanext) * maxcount - minnext * mincount;
574                     if (mincount != maxcount) {
575                         scan_commit(data);
576                         if (mincount && last_str) {
577                             sv_setsv(data->last_found, last_str);
578                             data->last_end = data->pos_min;
579                             data->last_start_min = 
580                                 data->pos_min - SvCUR(last_str);
581                             data->last_start_max = is_inf 
582                                 ? I32_MAX 
583                                 : data->pos_min + data->pos_delta
584                                 - SvCUR(last_str);
585                         }
586                         data->longest = &(data->longest_float);
587                     }
588                 }
589                 if (fl & SF_HAS_EVAL)
590                     data->flags |= SF_HAS_EVAL;
591               optimize_curly_tail:
592 #ifdef REGALIGN
593                 if (OP(oscan) != CURLYX) {
594                     while (regkind[(U8)OP(next = regnext(oscan))] == NOTHING
595                            && NEXT_OFF(next))
596                         NEXT_OFF(oscan) += NEXT_OFF(next);
597                 }
598 #endif
599                 continue;
600             default:                    /* REF only? */
601                 if (flags & SCF_DO_SUBSTR) {
602                     scan_commit(data);
603                     data->longest = &(data->longest_float);
604                 }
605                 is_inf = 1;
606                 break;
607             }
608         } else if (strchr(simple,OP(scan))) {
609             if (flags & SCF_DO_SUBSTR) {
610                 scan_commit(data);
611                 data->pos_min++;
612             }
613             min++;
614         } else if (regkind[(U8)OP(scan)] == EOL && flags & SCF_DO_SUBSTR) {
615             data->flags |= (OP(scan) == MEOL
616                             ? SF_BEFORE_MEOL
617                             : SF_BEFORE_SEOL);
618         } else if (regkind[(U8)OP(scan)] == BRANCHJ
619                    && (scan->flags || data)
620                    && (OP(scan) == IFMATCH || OP(scan) == UNLESSM)) {
621             I32 deltanext, minnext;
622             regnode *nscan;
623
624             data_fake.flags = 0;
625             next = regnext(scan);
626             nscan = NEXTOPER(NEXTOPER(scan));
627             minnext = study_chunk(&nscan, &deltanext, last, &data_fake, 0);
628             if (scan->flags) {
629                 if (deltanext) {
630                     FAIL("variable length lookbehind not implemented");
631                 } else if (minnext > U8_MAX) {
632                     FAIL2("lookbehind longer than %d not implemented", U8_MAX);
633                 }
634                 scan->flags = minnext;
635             }
636             if (data && data_fake.flags & (SF_HAS_PAR|SF_IN_PAR))
637                 pars++;
638             if (data_fake.flags & SF_HAS_EVAL)
639                 data->flags |= SF_HAS_EVAL;
640         } else if (OP(scan) == OPEN) {
641             pars++;
642         } else if (OP(scan) == CLOSE && ARG(scan) == is_par) {
643 #ifdef REGALIGN_STRUCT
644             next = regnext(scan);
645
646             if ( next && (OP(next) != WHILEM) && next < last)
647 #endif 
648                 is_par = 0;             /* Disable optimization */
649         } else if (OP(scan) == EVAL) {
650                 if (data)
651                     data->flags |= SF_HAS_EVAL;
652         }
653         /* Else: zero-length, ignore. */
654         scan = regnext(scan);
655     }
656
657   finish:
658     *scanp = scan;
659     *deltap = is_inf ? I32_MAX : delta;
660     if (flags & SCF_DO_SUBSTR && is_inf) 
661         data->pos_delta = I32_MAX - data->pos_min;
662     if (is_par > U8_MAX)
663         is_par = 0;
664     if (is_par && pars==1 && data) {
665         data->flags |= SF_IN_PAR;
666         data->flags &= ~SF_HAS_PAR;
667     } else if (pars && data) {
668         data->flags |= SF_HAS_PAR;
669         data->flags &= ~SF_IN_PAR;
670     }
671     return min;
672 }
673
674 static I32
675 add_data(I32 n, char *s)
676 {
677     if (rx->data) {
678         Renewc(rx->data, 
679                sizeof(*rx->data) + sizeof(void*) * (rx->data->count + n - 1), 
680                char, struct reg_data);
681         Renew(rx->data->what, rx->data->count + n, U8);
682         rx->data->count += n;
683     } else {
684         Newc(1207, rx->data, sizeof(*rx->data) + sizeof(void*) * (n - 1),
685              char, struct reg_data);
686         New(1208, rx->data->what, n, U8);
687         rx->data->count = n;
688     }
689     Copy(s, rx->data->what + rx->data->count - n, n, U8);
690     return rx->data->count - n;
691 }
692
693 /*
694  - pregcomp - compile a regular expression into internal code
695  *
696  * We can't allocate space until we know how big the compiled form will be,
697  * but we can't compile it (and thus know how big it is) until we've got a
698  * place to put the code.  So we cheat:  we compile it twice, once with code
699  * generation turned off and size counting turned on, and once "for real".
700  * This also means that we don't allocate space until we are sure that the
701  * thing really will compile successfully, and we never have to move the
702  * code and thus invalidate pointers into it.  (Note that it has to be in
703  * one piece because free() must be able to free it all.) [NB: not true in perl]
704  *
705  * Beware that the optimization-preparation code in here knows about some
706  * of the structure of the compiled regexp.  [I'll say.]
707  */
708 regexp *
709 pregcomp(char *exp, char *xend, PMOP *pm)
710 {
711     register regexp *r;
712     regnode *scan;
713     SV **longest;
714     SV *longest_fixed;
715     SV *longest_float;
716     regnode *first;
717     I32 flags;
718     I32 minlen = 0;
719     I32 sawplus = 0;
720     I32 sawopen = 0;
721
722     if (exp == NULL)
723         FAIL("NULL regexp argument");
724
725     regprecomp = savepvn(exp, xend - exp);
726     DEBUG_r(PerlIO_printf(Perl_debug_log, "compiling RE `%*s'\n",
727                           xend - exp, regprecomp));
728     regflags = pm->op_pmflags;
729     regsawback = 0;
730
731     regseen = 0;
732     seen_zerolen = *exp == '^' ? -1 : 0;
733     extralen = 0;
734
735     /* First pass: determine size, legality. */
736     regparse = exp;
737     regxend = xend;
738     regnaughty = 0;
739     regnpar = 1;
740     regsize = 0L;
741     regcode = &regdummy;
742     regc((U8)MAGIC, (char*)regcode);
743     if (reg(0, &flags) == NULL) {
744         Safefree(regprecomp);
745         regprecomp = Nullch;
746         return(NULL);
747     }
748     DEBUG_r(PerlIO_printf(Perl_debug_log, "size %d ", regsize));
749
750     DEBUG_r(
751         if (!colorset) {
752             int i = 0;
753             char *s = getenv("TERMCAP_COLORS");
754             
755             colorset = 1;
756             if (s) {
757                 colors[0] = s = savepv(s);
758                 while (++i < 4) {
759                     s = strchr(s, '\t');
760                     if (!s) 
761                         FAIL("Not enough TABs in TERMCAP_COLORS");
762                     *s = '\0';
763                     colors[i] = ++s;
764                 }
765             } else {
766                 while (i < 4) 
767                     colors[i++] = "";
768             }
769             /* Reset colors: */
770             PerlIO_printf(Perl_debug_log, "%s%s%s%s", 
771                           colors[0],colors[1],colors[2],colors[3]);
772         }
773         );
774
775     /* Small enough for pointer-storage convention?
776        If extralen==0, this means that we will not need long jumps. */
777 #ifndef REGALIGN_STRUCT
778     if (regsize >= 0x10000L && extralen)
779         FAIL("regexp too big");
780 #else
781     if (regsize >= 0x10000L && extralen)
782         regsize += extralen;
783     else
784         extralen = 0;
785 #endif 
786
787     /* Allocate space and initialize. */
788     Newc(1001, r, sizeof(regexp) + (unsigned)regsize * sizeof(regnode),
789          char, regexp);
790     if (r == NULL)
791         FAIL("regexp out of space");
792     r->refcnt = 1;
793     r->prelen = xend - exp;
794     r->precomp = regprecomp;
795     r->subbeg = r->subbase = NULL;
796     rx = r;
797
798     /* Second pass: emit code. */
799     regparse = exp;
800     regxend = xend;
801     regnaughty = 0;
802     regnpar = 1;
803     regcode = r->program;
804     regc((U8)MAGIC, (char*) regcode++);
805     r->data = 0;
806     if (reg(0, &flags) == NULL)
807         return(NULL);
808
809     /* Dig out information for optimizations. */
810     pm->op_pmflags = regflags;
811     r->reganch = 0;
812     r->regstclass = NULL;
813     r->naughty = regnaughty >= 10;      /* Probably an expensive pattern. */
814     scan = r->program + 1;              /* First BRANCH. */
815     if (OP(scan) != BRANCH) {   /* Only one top-level choice. */
816         scan_data_t data;
817         I32 fake;
818
819         StructCopy(&zero_scan_data, &data, scan_data_t);
820         first = scan;
821         /* Skip introductions and multiplicators >= 1. */
822         while ((OP(first) == OPEN && (sawopen = 1)) ||
823             (OP(first) == BRANCH && OP(regnext(first)) != BRANCH) ||
824             (OP(first) == PLUS) ||
825             (OP(first) == MINMOD) ||
826             (regkind[(U8)OP(first)] == CURLY && ARG1(first) > 0) ) {
827                 if (OP(first) == PLUS)
828                     sawplus = 1;
829                 else
830                     first += regarglen[(U8)OP(first)];
831                 first = NEXTOPER(first);
832         }
833
834         /* Starting-point info. */
835       again:
836         if (OP(first) == EXACT);        /* Empty, get anchored substr later. */
837         else if (strchr(simple+2,OP(first)))
838             r->regstclass = first;
839         else if (regkind[(U8)OP(first)] == BOUND ||
840                  regkind[(U8)OP(first)] == NBOUND)
841             r->regstclass = first;
842         else if (regkind[(U8)OP(first)] == BOL) {
843             r->reganch |= (OP(first) == MBOL ? ROPT_ANCH_MBOL: ROPT_ANCH_BOL);
844             first = NEXTOPER(first);
845             goto again;
846         }
847         else if (OP(first) == GPOS) {
848             r->reganch |= ROPT_ANCH_GPOS;
849             first = NEXTOPER(first);
850             goto again;
851         }
852         else if ((OP(first) == STAR &&
853             regkind[(U8)OP(NEXTOPER(first))] == ANY) &&
854             !(r->reganch & ROPT_ANCH) )
855         {
856             /* turn .* into ^.* with an implied $*=1 */
857             r->reganch |= ROPT_ANCH_BOL | ROPT_IMPLICIT;
858             first = NEXTOPER(first);
859             goto again;
860         }
861         if (sawplus && (!sawopen || !regsawback))
862             r->reganch |= ROPT_SKIP;    /* x+ must match 1st of run */
863
864         /* Scan is after the zeroth branch, first is atomic matcher. */
865         DEBUG_r(PerlIO_printf(Perl_debug_log, "first at %d\n", 
866                               first - scan + 1));
867         /*
868         * If there's something expensive in the r.e., find the
869         * longest literal string that must appear and make it the
870         * regmust.  Resolve ties in favor of later strings, since
871         * the regstart check works with the beginning of the r.e.
872         * and avoiding duplication strengthens checking.  Not a
873         * strong reason, but sufficient in the absence of others.
874         * [Now we resolve ties in favor of the earlier string if
875         * it happens that c_offset_min has been invalidated, since the
876         * earlier string may buy us something the later one won't.]
877         */
878         minlen = 0;
879
880         data.longest_fixed = newSVpv("",0);
881         data.longest_float = newSVpv("",0);
882         data.last_found = newSVpv("",0);
883         data.longest = &(data.longest_fixed);
884         first = scan;
885         
886         minlen = study_chunk(&first, &fake, scan + regsize, /* Up to end */
887                              &data, SCF_DO_SUBSTR);
888         if ( regnpar == 1 && data.longest == &(data.longest_fixed)
889              && data.last_start_min == 0 && data.last_end > 0 
890              && !seen_zerolen
891              && (!(regseen & REG_SEEN_GPOS) || (r->reganch & ROPT_ANCH_GPOS)))
892             r->reganch |= ROPT_CHECK_ALL;
893         scan_commit(&data);
894         SvREFCNT_dec(data.last_found);
895
896         if (SvCUR(data.longest_float)
897             || (data.flags & SF_FL_BEFORE_EOL
898                 && (!(data.flags & SF_FL_BEFORE_MEOL)
899                     || (regflags & PMf_MULTILINE)))) {
900             if (SvCUR(data.longest_fixed) 
901                 && data.offset_fixed == data.offset_float_min)
902                 goto remove;            /* Like in (a)+. */
903             
904             r->float_substr = data.longest_float;
905             r->float_min_offset = data.offset_float_min;
906             r->float_max_offset = data.offset_float_max;
907             fbm_compile(r->float_substr);
908             BmUSEFUL(r->float_substr) = 100;
909             if (data.flags & SF_FL_BEFORE_EOL /* Cannot have SEOL and MULTI */
910                 && (!(data.flags & SF_FL_BEFORE_MEOL)
911                     || (regflags & PMf_MULTILINE))) 
912                 SvTAIL_on(r->float_substr);
913         } else {
914           remove:
915             r->float_substr = Nullsv;
916             SvREFCNT_dec(data.longest_float);
917         }
918
919         if (SvCUR(data.longest_fixed)
920             || (data.flags & SF_FIX_BEFORE_EOL /* Cannot have SEOL and MULTI */
921                 && (!(data.flags & SF_FIX_BEFORE_MEOL)
922                     || (regflags & PMf_MULTILINE)))) {
923             r->anchored_substr = data.longest_fixed;
924             r->anchored_offset = data.offset_fixed;
925             fbm_compile(r->anchored_substr);
926             BmUSEFUL(r->anchored_substr) = 100;
927             if (data.flags & SF_FIX_BEFORE_EOL /* Cannot have SEOL and MULTI */
928                 && (!(data.flags & SF_FIX_BEFORE_MEOL)
929                     || (regflags & PMf_MULTILINE)))
930                 SvTAIL_on(r->anchored_substr);
931         } else {
932             r->anchored_substr = Nullsv;
933             SvREFCNT_dec(data.longest_fixed);
934         }
935
936         /* A temporary algorithm prefers floated substr to fixed one to dig more info. */
937         if (SvCUR(data.longest_fixed) > SvCUR(data.longest_float)) {
938             r->check_substr = r->anchored_substr;
939             r->check_offset_min = r->check_offset_max = r->anchored_offset;
940             if (r->reganch & ROPT_ANCH_SINGLE)
941                 r->reganch |= ROPT_NOSCAN;
942         } else {
943             r->check_substr = r->float_substr;
944             r->check_offset_min = data.offset_float_min;
945             r->check_offset_max = data.offset_float_max;
946         }
947     } else {
948         /* Several toplevels. Best we can is to set minlen. */
949         I32 fake;
950         
951         DEBUG_r(PerlIO_printf(Perl_debug_log, "\n"));
952         scan = r->program + 1;
953         minlen = study_chunk(&scan, &fake, scan + regsize, NULL, 0);
954         r->check_substr = r->anchored_substr = r->float_substr = Nullsv;
955     }
956
957     r->nparens = regnpar - 1;
958     r->minlen = minlen;
959     if (regseen & REG_SEEN_GPOS) 
960         r->reganch |= ROPT_GPOS_SEEN;
961     if (regseen & REG_SEEN_LOOKBEHIND)
962         r->reganch |= ROPT_LOOKBEHIND_SEEN;
963     Newz(1002, r->startp, regnpar, char*);
964     Newz(1002, r->endp, regnpar, char*);
965     DEBUG_r(regdump(r));
966     return(r);
967 }
968
969 /*
970  - reg - regular expression, i.e. main body or parenthesized thing
971  *
972  * Caller must absorb opening parenthesis.
973  *
974  * Combining parenthesis handling with the base level of regular expression
975  * is a trifle forced, but the need to tie the tails of the branches to what
976  * follows makes it hard to avoid.
977  */
978 static regnode *
979 reg(I32 paren, I32 *flagp)
980     /* paren: Parenthesized? 0=top, 1=(, inside: changed to letter. */
981 {
982     register regnode *ret;              /* Will be the head of the group. */
983     register regnode *br;
984     register regnode *lastbr;
985     register regnode *ender = 0;
986     register I32 parno = 0;
987     I32 flags, oregflags = regflags, have_branch = 0, open = 0;
988     char c;
989
990     *flagp = HASWIDTH;  /* Tentatively. */
991
992     /* Make an OPEN node, if parenthesized. */
993     if (paren) {
994         if (*regparse == '?') {
995             regparse++;
996             paren = *regparse++;
997             ret = NULL;                 /* For look-ahead/behind. */
998             switch (paren) {
999             case '<':
1000 #ifndef REGALIGN_STRUCT
1001                 FAIL("lookbehind non-implemented without REGALIGN_STRUCT");
1002 #endif 
1003                 regseen |= REG_SEEN_LOOKBEHIND;
1004                 if (*regparse == '!') 
1005                     paren = ',';
1006                 if (*regparse != '=' && *regparse != '!') 
1007                     goto unknown;
1008                 regparse++;
1009             case '=':
1010             case '!':
1011                 seen_zerolen++;
1012             case ':':
1013             case '>':
1014                 break;
1015             case '$':
1016             case '@':
1017                 FAIL2("Sequence (?%c...) not implemented", (int)paren);
1018                 break;
1019             case '#':
1020                 while (*regparse && *regparse != ')')
1021                     regparse++;
1022                 if (*regparse != ')')
1023                     FAIL("Sequence (?#... not terminated");
1024                 nextchar();
1025                 *flagp = TRYAGAIN;
1026                 return NULL;
1027             case '{':
1028             {
1029                 dTHR;
1030                 I32 count = 1, n = 0;
1031                 char c;
1032                 char *s = regparse;
1033                 SV *sv;
1034                 OP_4tree *sop, *rop;
1035
1036                 seen_zerolen++;
1037                 while (count && (c = *regparse)) {
1038                     if (c == '\\' && regparse[1])
1039                         regparse++;
1040                     else if (c == '{') 
1041                         count++;
1042                     else if (c == '}') 
1043                         count--;
1044                     regparse++;
1045                 }
1046                 if (*regparse != ')')
1047                     FAIL("Sequence (?{...}) not terminated or not {}-balanced");
1048                 if (!SIZE_ONLY) {
1049                     AV *av;
1050                     
1051                     if (regparse - 1 - s) 
1052                         sv = newSVpv(s, regparse - 1 - s);
1053                     else
1054                         sv = newSVpv("", 0);
1055
1056                     rop = sv_compile_2op(sv, &sop, "re", &av);
1057
1058                     n = add_data(3, "nso");
1059                     rx->data->data[n] = (void*)rop;
1060                     rx->data->data[n+1] = (void*)av;
1061                     rx->data->data[n+2] = (void*)sop;
1062                     SvREFCNT_dec(sv);
1063                 }
1064                 
1065                 nextchar();
1066                 if (tainted)
1067                     FAIL("Eval-group in insecure regular expression");
1068                 return reganode(EVAL, n);
1069             }
1070             case '(':
1071             {
1072                 if (regparse[0] == '?') {
1073                     if (regparse[1] == '=' || regparse[1] == '!' 
1074                         || regparse[1] == '<' 
1075                         || regparse[1] == '{') { /* Lookahead or eval. */
1076                         I32 flag;
1077                         
1078                         ret = reg_node(LOGICAL);
1079                         regtail(ret, reg(1, &flag));
1080                         goto insert_if;
1081                     } 
1082                 } else if (regparse[0] >= '1' && regparse[0] <= '9' ) {
1083                     parno = atoi(regparse++);
1084
1085                     while (isDIGIT(*regparse))
1086                         regparse++;
1087                     ret = reganode(GROUPP, parno);
1088                     if ((c = *nextchar()) != ')')
1089                         FAIL2("Switch (?(number%c not recognized", c);
1090                   insert_if:
1091                     regtail(ret, reganode(IFTHEN, 0));
1092                     br = regbranch(&flags, 1);
1093                     if (br == NULL)
1094                         br = reganode(LONGJMP, 0);
1095                     else
1096                         regtail(br, reganode(LONGJMP, 0));
1097                     c = *nextchar();
1098                     if (c == '|') {
1099                         lastbr = reganode(IFTHEN, 0); /* Fake one for optimizer. */
1100                         regbranch(&flags, 1);
1101                         regtail(ret, lastbr);
1102                         c = *nextchar();
1103                     } else
1104                         lastbr = NULL;
1105                     if (c != ')')
1106                         FAIL("Switch (?(condition)... contains too many branches");
1107                     ender = reg_node(TAIL);
1108                     regtail(br, ender);
1109                     if (lastbr) {
1110                         regtail(lastbr, ender);
1111                         regtail(NEXTOPER(NEXTOPER(lastbr)), ender);
1112                     } else
1113                         regtail(ret, ender);
1114                     return ret;
1115                 } else {
1116                     FAIL2("Unknown condition for (?(%.2s", regparse);
1117                 }
1118             }
1119             case 0:
1120                 FAIL("Sequence (? incomplete");
1121                 break;
1122             default:
1123                 --regparse;
1124                 while (*regparse && strchr("iogcmsx", *regparse))
1125                     pmflag(&regflags, *regparse++);
1126               unknown:
1127                 if (*regparse != ')')
1128                     FAIL2("Sequence (?%c...) not recognized", *regparse);
1129                 nextchar();
1130                 *flagp = TRYAGAIN;
1131                 return NULL;
1132             }
1133         }
1134         else {
1135             parno = regnpar;
1136             regnpar++;
1137             ret = reganode(OPEN, parno);
1138             open = 1;
1139         }
1140     } else
1141         ret = NULL;
1142
1143     /* Pick up the branches, linking them together. */
1144     br = regbranch(&flags, 1);
1145     if (br == NULL)
1146         return(NULL);
1147     if (*regparse == '|') {
1148         if (!SIZE_ONLY && extralen) {
1149             reginsert(BRANCHJ, br);
1150         } else
1151             reginsert(BRANCH, br);
1152         have_branch = 1;
1153         if (SIZE_ONLY)
1154             extralen += 1;              /* For BRANCHJ-BRANCH. */
1155     } else if (paren == ':') {
1156         *flagp |= flags&SIMPLE;
1157     }
1158     if (open) {                         /* Starts with OPEN. */
1159         regtail(ret, br);               /* OPEN -> first. */
1160     } else if (paren != '?')            /* Not Conditional */
1161         ret = br;
1162     if (!(flags&HASWIDTH))
1163         *flagp &= ~HASWIDTH;
1164     *flagp |= flags&SPSTART;
1165     lastbr = br;
1166     while (*regparse == '|') {
1167         if (!SIZE_ONLY && extralen) {
1168             ender = reganode(LONGJMP,0);
1169             regtail(NEXTOPER(NEXTOPER(lastbr)), ender); /* Append to the previous. */
1170         }
1171         if (SIZE_ONLY)
1172             extralen += 2;              /* Account for LONGJMP. */
1173         nextchar();
1174         br = regbranch(&flags, 0);
1175         if (br == NULL)
1176             return(NULL);
1177         regtail(lastbr, br);            /* BRANCH -> BRANCH. */
1178         lastbr = br;
1179         if (!(flags&HASWIDTH))
1180             *flagp &= ~HASWIDTH;
1181         *flagp |= flags&SPSTART;
1182     }
1183
1184     if (have_branch || paren != ':') {
1185         /* Make a closing node, and hook it on the end. */
1186         switch (paren) {
1187         case ':':
1188             ender = reg_node(TAIL);
1189             break;
1190         case 1:
1191             ender = reganode(CLOSE, parno);
1192             break;
1193         case '<':
1194         case '>':
1195         case ',':
1196         case '=':
1197         case '!':
1198             ender = reg_node(SUCCEED);
1199             *flagp &= ~HASWIDTH;
1200             break;
1201         case 0:
1202             ender = reg_node(END);
1203             break;
1204         }
1205         regtail(lastbr, ender);
1206
1207         if (have_branch) {
1208             /* Hook the tails of the branches to the closing node. */
1209             for (br = ret; br != NULL; br = regnext(br)) {
1210                 regoptail(br, ender);
1211             }
1212         }
1213     }
1214
1215     {
1216         char *p;
1217         static char parens[] = "=!<,>";
1218
1219         if (paren && (p = strchr(parens, paren))) {
1220             int node = ((p - parens) % 2) ? UNLESSM : IFMATCH;
1221             int flag = (p - parens) > 1;
1222
1223             if (paren == '>')
1224                 node = SUSPEND, flag = 0;
1225             reginsert(node,ret);
1226 #ifdef REGALIGN_STRUCT
1227             ret->flags = flag;
1228 #endif 
1229             regtail(ret, reg_node(TAIL));
1230         }
1231     }
1232
1233     /* Check for proper termination. */
1234     if (paren && (regparse >= regxend || *nextchar() != ')')) {
1235         FAIL("unmatched () in regexp");
1236     } else if (!paren && regparse < regxend) {
1237         if (*regparse == ')') {
1238             FAIL("unmatched () in regexp");
1239         } else
1240             FAIL("junk on end of regexp");      /* "Can't happen". */
1241         /* NOTREACHED */
1242     }
1243     if (paren != 0) {
1244         regflags = oregflags;
1245     }
1246
1247     return(ret);
1248 }
1249
1250 /*
1251  - regbranch - one alternative of an | operator
1252  *
1253  * Implements the concatenation operator.
1254  */
1255 static regnode *
1256 regbranch(I32 *flagp, I32 first)
1257 {
1258     register regnode *ret;
1259     register regnode *chain = NULL;
1260     register regnode *latest;
1261     I32 flags = 0, c = 0;
1262
1263     if (first) 
1264         ret = NULL;
1265     else {
1266         if (!SIZE_ONLY && extralen) 
1267             ret = reganode(BRANCHJ,0);
1268         else
1269             ret = reg_node(BRANCH);
1270     }
1271         
1272     if (!first && SIZE_ONLY) 
1273         extralen += 1;                  /* BRANCHJ */
1274     
1275     *flagp = WORST;                     /* Tentatively. */
1276
1277     regparse--;
1278     nextchar();
1279     while (regparse < regxend && *regparse != '|' && *regparse != ')') {
1280         flags &= ~TRYAGAIN;
1281         latest = regpiece(&flags);
1282         if (latest == NULL) {
1283             if (flags & TRYAGAIN)
1284                 continue;
1285             return(NULL);
1286         } else if (ret == NULL)
1287             ret = latest;
1288         *flagp |= flags&HASWIDTH;
1289         if (chain == NULL)      /* First piece. */
1290             *flagp |= flags&SPSTART;
1291         else {
1292             regnaughty++;
1293             regtail(chain, latest);
1294         }
1295         chain = latest;
1296         c++;
1297     }
1298     if (chain == NULL) {        /* Loop ran zero times. */
1299         chain = reg_node(NOTHING);
1300         if (ret == NULL)
1301             ret = chain;
1302     }
1303     if (c == 1) {
1304         *flagp |= flags&SIMPLE;
1305     }
1306
1307     return(ret);
1308 }
1309
1310 /*
1311  - regpiece - something followed by possible [*+?]
1312  *
1313  * Note that the branching code sequences used for ? and the general cases
1314  * of * and + are somewhat optimized:  they use the same NOTHING node as
1315  * both the endmarker for their branch list and the body of the last branch.
1316  * It might seem that this node could be dispensed with entirely, but the
1317  * endmarker role is not redundant.
1318  */
1319 static regnode *
1320 regpiece(I32 *flagp)
1321 {
1322     register regnode *ret;
1323     register char op;
1324     register char *next;
1325     I32 flags;
1326     char *origparse = regparse;
1327     char *maxpos;
1328     I32 min;
1329     I32 max = REG_INFTY;
1330
1331     ret = regatom(&flags);
1332     if (ret == NULL) {
1333         if (flags & TRYAGAIN)
1334             *flagp |= TRYAGAIN;
1335         return(NULL);
1336     }
1337
1338     op = *regparse;
1339
1340     if (op == '{' && regcurly(regparse)) {
1341         next = regparse + 1;
1342         maxpos = Nullch;
1343         while (isDIGIT(*next) || *next == ',') {
1344             if (*next == ',') {
1345                 if (maxpos)
1346                     break;
1347                 else
1348                     maxpos = next;
1349             }
1350             next++;
1351         }
1352         if (*next == '}') {             /* got one */
1353             if (!maxpos)
1354                 maxpos = next;
1355             regparse++;
1356             min = atoi(regparse);
1357             if (*maxpos == ',')
1358                 maxpos++;
1359             else
1360                 maxpos = regparse;
1361             max = atoi(maxpos);
1362             if (!max && *maxpos != '0')
1363                 max = REG_INFTY;                /* meaning "infinity" */
1364             else if (max >= REG_INFTY)
1365                 FAIL2("Quantifier in {,} bigger than %d", REG_INFTY - 1);
1366             regparse = next;
1367             nextchar();
1368
1369         do_curly:
1370             if ((flags&SIMPLE)) {
1371                 regnaughty += 2 + regnaughty / 2;
1372                 reginsert(CURLY, ret);
1373             }
1374             else {
1375                 regnaughty += 4 + regnaughty;   /* compound interest */
1376                 regtail(ret, reg_node(WHILEM));
1377                 if (!SIZE_ONLY && extralen) {
1378                     reginsert(LONGJMP,ret);
1379                     reginsert(NOTHING,ret);
1380                     NEXT_OFF(ret) = 3;  /* Go over LONGJMP. */
1381                 }
1382                 reginsert(CURLYX,ret);
1383                 if (!SIZE_ONLY && extralen)
1384                     NEXT_OFF(ret) = 3;  /* Go over NOTHING to LONGJMP. */
1385                 regtail(ret, reg_node(NOTHING));
1386                 if (SIZE_ONLY)
1387                     extralen += 3;
1388             }
1389 #ifdef REGALIGN_STRUCT
1390             ret->flags = 0;
1391 #endif 
1392
1393             if (min > 0)
1394                 *flagp = (WORST|HASWIDTH);
1395             if (max && max < min)
1396                 FAIL("Can't do {n,m} with n > m");
1397             if (!SIZE_ONLY) {
1398                 ARG1_SET(ret, min);
1399                 ARG2_SET(ret, max);
1400             }
1401
1402             goto nest_check;
1403         }
1404     }
1405
1406     if (!ISMULT1(op)) {
1407         *flagp = flags;
1408         return(ret);
1409     }
1410
1411 #if 0                           /* Now runtime fix should be reliable. */
1412     if (!(flags&HASWIDTH) && op != '?')
1413       FAIL("regexp *+ operand could be empty");
1414 #endif 
1415
1416     nextchar();
1417
1418     *flagp = (op != '+') ? (WORST|SPSTART) : (WORST|HASWIDTH);
1419
1420     if (op == '*' && (flags&SIMPLE)) {
1421         reginsert(STAR, ret);
1422 #ifdef REGALIGN_STRUCT
1423         ret->flags = 0;
1424 #endif 
1425         regnaughty += 4;
1426     }
1427     else if (op == '*') {
1428         min = 0;
1429         goto do_curly;
1430     } else if (op == '+' && (flags&SIMPLE)) {
1431         reginsert(PLUS, ret);
1432 #ifdef REGALIGN_STRUCT
1433         ret->flags = 0;
1434 #endif 
1435         regnaughty += 3;
1436     }
1437     else if (op == '+') {
1438         min = 1;
1439         goto do_curly;
1440     } else if (op == '?') {
1441         min = 0; max = 1;
1442         goto do_curly;
1443     }
1444   nest_check:
1445     if (dowarn && !SIZE_ONLY && !(flags&HASWIDTH) && max > 10000) {
1446         warn("%.*s matches null string many times",
1447             regparse - origparse, origparse);
1448     }
1449
1450     if (*regparse == '?') {
1451         nextchar();
1452         reginsert(MINMOD, ret);
1453 #ifdef REGALIGN
1454         regtail(ret, ret + NODE_STEP_REGNODE);
1455 #else
1456         regtail(ret, ret + 3);
1457 #endif
1458     }
1459     if (ISMULT2(regparse))
1460         FAIL("nested *?+ in regexp");
1461
1462     return(ret);
1463 }
1464
1465 /*
1466  - regatom - the lowest level
1467  *
1468  * Optimization:  gobbles an entire sequence of ordinary characters so that
1469  * it can turn them into a single node, which is smaller to store and
1470  * faster to run.  Backslashed characters are exceptions, each becoming a
1471  * separate node; the code is simpler that way and it's not worth fixing.
1472  *
1473  * [Yes, it is worth fixing, some scripts can run twice the speed.]
1474  */
1475 static regnode *
1476 regatom(I32 *flagp)
1477 {
1478     register regnode *ret = 0;
1479     I32 flags;
1480
1481     *flagp = WORST;             /* Tentatively. */
1482
1483 tryagain:
1484     switch (*regparse) {
1485     case '^':
1486         seen_zerolen++;
1487         nextchar();
1488         if (regflags & PMf_MULTILINE)
1489             ret = reg_node(MBOL);
1490         else if (regflags & PMf_SINGLELINE)
1491             ret = reg_node(SBOL);
1492         else
1493             ret = reg_node(BOL);
1494         break;
1495     case '$':
1496         if (regparse[1]) 
1497             seen_zerolen++;
1498         nextchar();
1499         if (regflags & PMf_MULTILINE)
1500             ret = reg_node(MEOL);
1501         else if (regflags & PMf_SINGLELINE)
1502             ret = reg_node(SEOL);
1503         else
1504             ret = reg_node(EOL);
1505         break;
1506     case '.':
1507         nextchar();
1508         if (regflags & PMf_SINGLELINE)
1509             ret = reg_node(SANY);
1510         else
1511             ret = reg_node(ANY);
1512         regnaughty++;
1513         *flagp |= HASWIDTH|SIMPLE;
1514         break;
1515     case '[':
1516         regparse++;
1517         ret = regclass();
1518         *flagp |= HASWIDTH|SIMPLE;
1519         break;
1520     case '(':
1521         nextchar();
1522         ret = reg(1, &flags);
1523         if (ret == NULL) {
1524                 if (flags & TRYAGAIN)
1525                     goto tryagain;
1526                 return(NULL);
1527         }
1528         *flagp |= flags&(HASWIDTH|SPSTART|SIMPLE);
1529         break;
1530     case '|':
1531     case ')':
1532         if (flags & TRYAGAIN) {
1533             *flagp |= TRYAGAIN;
1534             return NULL;
1535         }
1536         FAIL2("internal urp in regexp at /%s/", regparse);
1537                                 /* Supposed to be caught earlier. */
1538         break;
1539     case '{':
1540         if (!regcurly(regparse)) {
1541             regparse++;
1542             goto defchar;
1543         }
1544         /* FALL THROUGH */
1545     case '?':
1546     case '+':
1547     case '*':
1548         FAIL("?+*{} follows nothing in regexp");
1549         break;
1550     case '\\':
1551         switch (*++regparse) {
1552         case 'A':
1553             seen_zerolen++;
1554             ret = reg_node(SBOL);
1555             *flagp |= SIMPLE;
1556             nextchar();
1557             break;
1558         case 'G':
1559             ret = reg_node(GPOS);
1560             regseen |= REG_SEEN_GPOS;
1561             *flagp |= SIMPLE;
1562             nextchar();
1563             break;
1564         case 'Z':
1565             ret = reg_node(SEOL);
1566             *flagp |= SIMPLE;
1567             nextchar();
1568             break;
1569         case 'w':
1570             ret = reg_node((regflags & PMf_LOCALE) ? ALNUML : ALNUM);
1571             *flagp |= HASWIDTH|SIMPLE;
1572             nextchar();
1573             break;
1574         case 'W':
1575             ret = reg_node((regflags & PMf_LOCALE) ? NALNUML : NALNUM);
1576             *flagp |= HASWIDTH|SIMPLE;
1577             nextchar();
1578             break;
1579         case 'b':
1580             seen_zerolen++;
1581             ret = reg_node((regflags & PMf_LOCALE) ? BOUNDL : BOUND);
1582             *flagp |= SIMPLE;
1583             nextchar();
1584             break;
1585         case 'B':
1586             seen_zerolen++;
1587             ret = reg_node((regflags & PMf_LOCALE) ? NBOUNDL : NBOUND);
1588             *flagp |= SIMPLE;
1589             nextchar();
1590             break;
1591         case 's':
1592             ret = reg_node((regflags & PMf_LOCALE) ? SPACEL : SPACE);
1593             *flagp |= HASWIDTH|SIMPLE;
1594             nextchar();
1595             break;
1596         case 'S':
1597             ret = reg_node((regflags & PMf_LOCALE) ? NSPACEL : NSPACE);
1598             *flagp |= HASWIDTH|SIMPLE;
1599             nextchar();
1600             break;
1601         case 'd':
1602             ret = reg_node(DIGIT);
1603             *flagp |= HASWIDTH|SIMPLE;
1604             nextchar();
1605             break;
1606         case 'D':
1607             ret = reg_node(NDIGIT);
1608             *flagp |= HASWIDTH|SIMPLE;
1609             nextchar();
1610             break;
1611         case 'n':
1612         case 'r':
1613         case 't':
1614         case 'f':
1615         case 'e':
1616         case 'a':
1617         case 'x':
1618         case 'c':
1619         case '0':
1620             goto defchar;
1621         case '1': case '2': case '3': case '4':
1622         case '5': case '6': case '7': case '8': case '9':
1623             {
1624                 I32 num = atoi(regparse);
1625
1626                 if (num > 9 && num >= regnpar)
1627                     goto defchar;
1628                 else {
1629                     regsawback = 1;
1630                     ret = reganode((regflags & PMf_FOLD)
1631                                    ? ((regflags & PMf_LOCALE) ? REFFL : REFF)
1632                                    : REF, num);
1633                     *flagp |= HASWIDTH;
1634                     while (isDIGIT(*regparse))
1635                         regparse++;
1636                     regparse--;
1637                     nextchar();
1638                 }
1639             }
1640             break;
1641         case '\0':
1642             if (regparse >= regxend)
1643                 FAIL("trailing \\ in regexp");
1644             /* FALL THROUGH */
1645         default:
1646             goto defchar;
1647         }
1648         break;
1649
1650     case '#':
1651         if (regflags & PMf_EXTENDED) {
1652             while (regparse < regxend && *regparse != '\n') regparse++;
1653             if (regparse < regxend)
1654                 goto tryagain;
1655         }
1656         /* FALL THROUGH */
1657
1658     default: {
1659             register I32 len;
1660             register U8 ender;
1661             register char *p;
1662             char *oldp, *s;
1663             I32 numlen;
1664
1665             regparse++;
1666
1667         defchar:
1668             ret = reg_node((regflags & PMf_FOLD)
1669                           ? ((regflags & PMf_LOCALE) ? EXACTFL : EXACTF)
1670                           : EXACT);
1671             s = OPERAND(ret);
1672             regc(0, s++);               /* save spot for len */
1673             for (len = 0, p = regparse - 1;
1674               len < 127 && p < regxend;
1675               len++)
1676             {
1677                 oldp = p;
1678
1679                 if (regflags & PMf_EXTENDED)
1680                     p = regwhite(p, regxend);
1681                 switch (*p) {
1682                 case '^':
1683                 case '$':
1684                 case '.':
1685                 case '[':
1686                 case '(':
1687                 case ')':
1688                 case '|':
1689                     goto loopdone;
1690                 case '\\':
1691                     switch (*++p) {
1692                     case 'A':
1693                     case 'G':
1694                     case 'Z':
1695                     case 'w':
1696                     case 'W':
1697                     case 'b':
1698                     case 'B':
1699                     case 's':
1700                     case 'S':
1701                     case 'd':
1702                     case 'D':
1703                         --p;
1704                         goto loopdone;
1705                     case 'n':
1706                         ender = '\n';
1707                         p++;
1708                         break;
1709                     case 'r':
1710                         ender = '\r';
1711                         p++;
1712                         break;
1713                     case 't':
1714                         ender = '\t';
1715                         p++;
1716                         break;
1717                     case 'f':
1718                         ender = '\f';
1719                         p++;
1720                         break;
1721                     case 'e':
1722                         ender = '\033';
1723                         p++;
1724                         break;
1725                     case 'a':
1726                         ender = '\007';
1727                         p++;
1728                         break;
1729                     case 'x':
1730                         ender = scan_hex(++p, 2, &numlen);
1731                         p += numlen;
1732                         break;
1733                     case 'c':
1734                         p++;
1735                         ender = UCHARAT(p++);
1736                         ender = toCTRL(ender);
1737                         break;
1738                     case '0': case '1': case '2': case '3':case '4':
1739                     case '5': case '6': case '7': case '8':case '9':
1740                         if (*p == '0' ||
1741                           (isDIGIT(p[1]) && atoi(p) >= regnpar) ) {
1742                             ender = scan_oct(p, 3, &numlen);
1743                             p += numlen;
1744                         }
1745                         else {
1746                             --p;
1747                             goto loopdone;
1748                         }
1749                         break;
1750                     case '\0':
1751                         if (p >= regxend)
1752                             FAIL("trailing \\ in regexp");
1753                         /* FALL THROUGH */
1754                     default:
1755                         ender = *p++;
1756                         break;
1757                     }
1758                     break;
1759                 default:
1760                     ender = *p++;
1761                     break;
1762                 }
1763                 if (regflags & PMf_EXTENDED)
1764                     p = regwhite(p, regxend);
1765                 if (ISMULT2(p)) { /* Back off on ?+*. */
1766                     if (len)
1767                         p = oldp;
1768                     else {
1769                         len++;
1770                         regc(ender, s++);
1771                     }
1772                     break;
1773                 }
1774                 regc(ender, s++);
1775             }
1776         loopdone:
1777             regparse = p - 1;
1778             nextchar();
1779             if (len < 0)
1780                 FAIL("internal disaster in regexp");
1781             if (len > 0)
1782                 *flagp |= HASWIDTH;
1783             if (len == 1)
1784                 *flagp |= SIMPLE;
1785             if (!SIZE_ONLY)
1786                 *OPERAND(ret) = len;
1787             regc('\0', s++);
1788             if (SIZE_ONLY) {
1789 #ifdef REGALIGN_STRUCT
1790                 regsize += (len + 2 + sizeof(regnode) - 1) / sizeof(regnode);
1791 #endif 
1792             } else {
1793                 regcode += (len + 2 + sizeof(regnode) - 1) / sizeof(regnode);
1794             }
1795         }
1796         break;
1797     }
1798
1799     return(ret);
1800 }
1801
1802 static char *
1803 regwhite(char *p, char *e)
1804 {
1805     while (p < e) {
1806         if (isSPACE(*p))
1807             ++p;
1808         else if (*p == '#') {
1809             do {
1810                 p++;
1811             } while (p < e && *p != '\n');
1812         }
1813         else
1814             break;
1815     }
1816     return p;
1817 }
1818
1819 static void
1820 regset(char *opnd, register I32 c)
1821 {
1822     if (SIZE_ONLY)
1823         return;
1824     c &= 0xFF;
1825     opnd[1 + (c >> 3)] |= (1 << (c & 7));
1826 }
1827
1828 static regnode *
1829 regclass(void)
1830 {
1831     register char *opnd, *s;
1832     register I32 Class;
1833     register I32 lastclass = 1234;
1834     register I32 range = 0;
1835     register regnode *ret;
1836     register I32 def;
1837     I32 numlen;
1838
1839     s = opnd = OPERAND(regcode);
1840     ret = reg_node(ANYOF);
1841     for (Class = 0; Class < 33; Class++)
1842         regc(0, s++);
1843     if (*regparse == '^') {     /* Complement of range. */
1844         regnaughty++;
1845         regparse++;
1846         if (!SIZE_ONLY)
1847             *opnd |= ANYOF_INVERT;
1848     }
1849     if (!SIZE_ONLY) {
1850         regcode += ANY_SKIP;
1851         if (regflags & PMf_FOLD)
1852             *opnd |= ANYOF_FOLD;
1853         if (regflags & PMf_LOCALE)
1854             *opnd |= ANYOF_LOCALE;
1855     } else {
1856         regsize += ANY_SKIP;
1857     }
1858     if (*regparse == ']' || *regparse == '-')
1859         goto skipcond;          /* allow 1st char to be ] or - */
1860     while (regparse < regxend && *regparse != ']') {
1861        skipcond:
1862         Class = UCHARAT(regparse++);
1863         if (Class == '\\') {
1864             Class = UCHARAT(regparse++);
1865             switch (Class) {
1866             case 'w':
1867                 if (regflags & PMf_LOCALE) {
1868                     if (!SIZE_ONLY)
1869                         *opnd |= ANYOF_ALNUML;
1870                 }
1871                 else {
1872                     for (Class = 0; Class < 256; Class++)
1873                         if (isALNUM(Class))
1874                             regset(opnd, Class);
1875                 }
1876                 lastclass = 1234;
1877                 continue;
1878             case 'W':
1879                 if (regflags & PMf_LOCALE) {
1880                     if (!SIZE_ONLY)
1881                         *opnd |= ANYOF_NALNUML;
1882                 }
1883                 else {
1884                     for (Class = 0; Class < 256; Class++)
1885                         if (!isALNUM(Class))
1886                             regset(opnd, Class);
1887                 }
1888                 lastclass = 1234;
1889                 continue;
1890             case 's':
1891                 if (regflags & PMf_LOCALE) {
1892                     if (!SIZE_ONLY)
1893                         *opnd |= ANYOF_SPACEL;
1894                 }
1895                 else {
1896                     for (Class = 0; Class < 256; Class++)
1897                         if (isSPACE(Class))
1898                             regset(opnd, Class);
1899                 }
1900                 lastclass = 1234;
1901                 continue;
1902             case 'S':
1903                 if (regflags & PMf_LOCALE) {
1904                     if (!SIZE_ONLY)
1905                         *opnd |= ANYOF_NSPACEL;
1906                 }
1907                 else {
1908                     for (Class = 0; Class < 256; Class++)
1909                         if (!isSPACE(Class))
1910                             regset(opnd, Class);
1911                 }
1912                 lastclass = 1234;
1913                 continue;
1914             case 'd':
1915                 for (Class = '0'; Class <= '9'; Class++)
1916                     regset(opnd, Class);
1917                 lastclass = 1234;
1918                 continue;
1919             case 'D':
1920                 for (Class = 0; Class < '0'; Class++)
1921                     regset(opnd, Class);
1922                 for (Class = '9' + 1; Class < 256; Class++)
1923                     regset(opnd, Class);
1924                 lastclass = 1234;
1925                 continue;
1926             case 'n':
1927                 Class = '\n';
1928                 break;
1929             case 'r':
1930                 Class = '\r';
1931                 break;
1932             case 't':
1933                 Class = '\t';
1934                 break;
1935             case 'f':
1936                 Class = '\f';
1937                 break;
1938             case 'b':
1939                 Class = '\b';
1940                 break;
1941             case 'e':
1942                 Class = '\033';
1943                 break;
1944             case 'a':
1945                 Class = '\007';
1946                 break;
1947             case 'x':
1948                 Class = scan_hex(regparse, 2, &numlen);
1949                 regparse += numlen;
1950                 break;
1951             case 'c':
1952                 Class = UCHARAT(regparse++);
1953                 Class = toCTRL(Class);
1954                 break;
1955             case '0': case '1': case '2': case '3': case '4':
1956             case '5': case '6': case '7': case '8': case '9':
1957                 Class = scan_oct(--regparse, 3, &numlen);
1958                 regparse += numlen;
1959                 break;
1960             }
1961         }
1962         if (range) {
1963             if (lastclass > Class)
1964                 FAIL("invalid [] range in regexp");
1965             range = 0;
1966         }
1967         else {
1968             lastclass = Class;
1969             if (*regparse == '-' && regparse+1 < regxend &&
1970               regparse[1] != ']') {
1971                 regparse++;
1972                 range = 1;
1973                 continue;       /* do it next time */
1974             }
1975         }
1976         for ( ; lastclass <= Class; lastclass++)
1977             regset(opnd, lastclass);
1978         lastclass = Class;
1979     }
1980     if (*regparse != ']')
1981         FAIL("unmatched [] in regexp");
1982     nextchar();
1983     return ret;
1984 }
1985
1986 static char*
1987 nextchar(void)
1988 {
1989     char* retval = regparse++;
1990
1991     for (;;) {
1992         if (*regparse == '(' && regparse[1] == '?' &&
1993                 regparse[2] == '#') {
1994             while (*regparse && *regparse != ')')
1995                 regparse++;
1996             regparse++;
1997             continue;
1998         }
1999         if (regflags & PMf_EXTENDED) {
2000             if (isSPACE(*regparse)) {
2001                 regparse++;
2002                 continue;
2003             }
2004             else if (*regparse == '#') {
2005                 while (*regparse && *regparse != '\n')
2006                     regparse++;
2007                 regparse++;
2008                 continue;
2009             }
2010         }
2011         return retval;
2012     }
2013 }
2014
2015 /*
2016 - reg_node - emit a node
2017 */
2018 static regnode *                        /* Location. */
2019 #ifdef CAN_PROTOTYPE
2020 reg_node(U8 op)
2021 #else
2022 reg_node(op)
2023 U8 op;
2024 #endif
2025 {
2026     register regnode *ret;
2027     register regnode *ptr;
2028
2029     ret = regcode;
2030     if (SIZE_ONLY) {
2031         SIZE_ALIGN(regsize);
2032 #ifdef REGALIGN_STRUCT
2033         regsize += 1;
2034 #else
2035         regsize += 3;
2036 #endif 
2037         return(ret);
2038     }
2039
2040     NODE_ALIGN_FILL(ret);
2041     ptr = ret;
2042     FILL_ADVANCE_NODE(ptr, op);
2043     regcode = ptr;
2044
2045     return(ret);
2046 }
2047
2048 /*
2049 - reganode - emit a node with an argument
2050 */
2051 static regnode *                        /* Location. */
2052 #ifdef CAN_PROTOTYPE
2053 reganode(U8 op, U32 arg)
2054 #else
2055 reganode(op, arg)
2056 U8 op;
2057 U32 arg;
2058 #endif
2059 {
2060     register regnode *ret;
2061     register regnode *ptr;
2062
2063     ret = regcode;
2064     if (SIZE_ONLY) {
2065         SIZE_ALIGN(regsize);
2066 #ifdef REGALIGN
2067         regsize += 2;
2068 #else
2069         regsize += 5;
2070 #endif 
2071         return(ret);
2072     }
2073
2074     NODE_ALIGN_FILL(ret);
2075     ptr = ret;
2076     FILL_ADVANCE_NODE_ARG(ptr, op, arg);
2077     regcode = ptr;
2078
2079     return(ret);
2080 }
2081
2082 /*
2083 - regc - emit (if appropriate) a byte of code
2084 */
2085 #ifdef CAN_PROTOTYPE
2086 static void
2087 regc(U8 b, char* s)
2088 #else
2089 static void
2090 regc(b, s)
2091 U8 b;
2092 char *s;
2093 #endif
2094 {
2095     if (!SIZE_ONLY)
2096         *s = b;
2097 }
2098
2099 /*
2100 - reginsert - insert an operator in front of already-emitted operand
2101 *
2102 * Means relocating the operand.
2103 */
2104 #ifdef CAN_PROTOTYPE
2105 static void
2106 reginsert(U8 op, regnode *opnd)
2107 #else
2108 static void
2109 reginsert(op, opnd)
2110 U8 op;
2111 regnode *opnd;
2112 #endif
2113 {
2114     register regnode *src;
2115     register regnode *dst;
2116     register regnode *place;
2117     register int offset = regarglen[(U8)op];
2118     
2119 /* (regkind[(U8)op] == CURLY ? EXTRA_STEP_2ARGS : 0); */
2120
2121     if (SIZE_ONLY) {
2122         regsize += NODE_STEP_REGNODE + offset;
2123         return;
2124     }
2125
2126     src = regcode;
2127     regcode += NODE_STEP_REGNODE + offset;
2128     dst = regcode;
2129     while (src > opnd)
2130         StructCopy(--src, --dst, regnode);
2131
2132     place = opnd;               /* Op node, where operand used to be. */
2133     src = NEXTOPER(place);
2134     FILL_ADVANCE_NODE(place, op);
2135     Zero(src, offset, regnode);
2136 #if defined(REGALIGN) && !defined(REGALIGN_STRUCT)
2137     src[offset + 1] = '\177';
2138 #endif
2139 }
2140
2141 /*
2142 - regtail - set the next-pointer at the end of a node chain of p to val.
2143 */
2144 static void
2145 regtail(regnode *p, regnode *val)
2146 {
2147     register regnode *scan;
2148     register regnode *temp;
2149     register I32 offset;
2150
2151     if (SIZE_ONLY)
2152         return;
2153
2154     /* Find last node. */
2155     scan = p;
2156     for (;;) {
2157         temp = regnext(scan);
2158         if (temp == NULL)
2159             break;
2160         scan = temp;
2161     }
2162
2163 #ifdef REGALIGN
2164 #  ifdef REGALIGN_STRUCT
2165     if (reg_off_by_arg[OP(scan)]) {
2166         ARG_SET(scan, val - scan);
2167     } else {
2168         NEXT_OFF(scan) = val - scan;
2169     }
2170 #  else
2171     offset = val - scan;
2172 #    ifndef lint
2173     *(short*)(scan+1) = offset;
2174 #    endif
2175 #endif 
2176 #else
2177     if (OP(scan) == BACK)
2178         offset = scan - val;
2179     else
2180         offset = val - scan;
2181     *(scan+1) = (offset>>8)&0377;
2182     *(scan+2) = offset&0377;
2183 #endif
2184 }
2185
2186 /*
2187 - regoptail - regtail on operand of first argument; nop if operandless
2188 */
2189 static void
2190 regoptail(regnode *p, regnode *val)
2191 {
2192     /* "Operandless" and "op != BRANCH" are synonymous in practice. */
2193     if (p == NULL || SIZE_ONLY)
2194         return;
2195     if (regkind[(U8)OP(p)] == BRANCH) {
2196         regtail(NEXTOPER(p), val);
2197     } else if ( regkind[(U8)OP(p)] == BRANCHJ) {
2198         regtail(NEXTOPER(NEXTOPER(p)), val);
2199     } else
2200         return;
2201 }
2202
2203 /*
2204  - regcurly - a little FSA that accepts {\d+,?\d*}
2205  */
2206 STATIC I32
2207 regcurly(register char *s)
2208 {
2209     if (*s++ != '{')
2210         return FALSE;
2211     if (!isDIGIT(*s))
2212         return FALSE;
2213     while (isDIGIT(*s))
2214         s++;
2215     if (*s == ',')
2216         s++;
2217     while (isDIGIT(*s))
2218         s++;
2219     if (*s != '}')
2220         return FALSE;
2221     return TRUE;
2222 }
2223
2224 #ifdef DEBUGGING
2225
2226 static regnode *
2227 dumpuntil(regnode *start, regnode *node, regnode *last, SV* sv, I32 l)
2228 {
2229     register char op = EXACT;   /* Arbitrary non-END op. */
2230     register regnode *next, *onode;
2231
2232     while (op != END && (!last || node < last)) {
2233         /* While that wasn't END last time... */
2234
2235         NODE_ALIGN(node);
2236         op = OP(node);
2237         if (op == CLOSE)
2238             l--;        
2239         next = regnext(node);
2240         /* Where, what. */
2241         if (OP(node) == OPTIMIZED)
2242             goto after_print;
2243         regprop(sv, node);
2244         PerlIO_printf(Perl_debug_log, "%4d%*s%s", node - start, 
2245                       2*l + 1, "", SvPVX(sv));
2246         if (next == NULL)               /* Next ptr. */
2247             PerlIO_printf(Perl_debug_log, "(0)");
2248         else 
2249             PerlIO_printf(Perl_debug_log, "(%d)", next - start);
2250         (void)PerlIO_putc(Perl_debug_log, '\n');
2251       after_print:
2252         if (regkind[(U8)op] == BRANCHJ) {
2253             register regnode *nnode = (OP(next) == LONGJMP 
2254                                        ? regnext(next) 
2255                                        : next);
2256             if (last && nnode > last)
2257                 nnode = last;
2258             node = dumpuntil(start, NEXTOPER(NEXTOPER(node)), nnode, sv, l + 1);
2259         } else if (regkind[(U8)op] == BRANCH) {
2260             node = dumpuntil(start, NEXTOPER(node), next, sv, l + 1);
2261         } else if ( op == CURLY) {   /* `next' might be very big: optimizer */
2262             node = dumpuntil(start, NEXTOPER(node) + EXTRA_STEP_2ARGS,
2263                              NEXTOPER(node) + EXTRA_STEP_2ARGS + 1, sv, l + 1);
2264         } else if (regkind[(U8)op] == CURLY && op != CURLYX) {
2265             node = dumpuntil(start, NEXTOPER(node) + EXTRA_STEP_2ARGS,
2266                              next, sv, l + 1);
2267         } else if ( op == PLUS || op == STAR) {
2268             node = dumpuntil(start, NEXTOPER(node), NEXTOPER(node) + 1, sv, l + 1);
2269         } else if (op == ANYOF) {
2270             node = NEXTOPER(node);
2271             node += ANY_SKIP;
2272         } else if (regkind[(U8)op] == EXACT) {
2273             /* Literal string, where present. */
2274             node += ((*OPERAND(node)) + 2 + sizeof(regnode) - 1) / sizeof(regnode);
2275             node = NEXTOPER(node);
2276         } else {
2277             node = NEXTOPER(node);
2278             node += regarglen[(U8)op];
2279         }
2280         if (op == CURLYX || op == OPEN)
2281             l++;
2282         else if (op == WHILEM)
2283             l--;
2284     }
2285     return node;
2286 }
2287
2288 /*
2289  - regdump - dump a regexp onto Perl_debug_log in vaguely comprehensible form
2290  */
2291 void
2292 regdump(regexp *r)
2293 {
2294     SV *sv = sv_newmortal();
2295
2296     (void)dumpuntil(r->program, r->program + 1, NULL, sv, 0);
2297
2298     /* Header fields of interest. */
2299     if (r->anchored_substr)
2300         PerlIO_printf(Perl_debug_log, "anchored `%s%s%s'%s at %d ", 
2301                       colors[0],
2302                       SvPVX(r->anchored_substr), 
2303                       colors[1],
2304                       SvTAIL(r->anchored_substr) ? "$" : "",
2305                       r->anchored_offset);
2306     if (r->float_substr)
2307         PerlIO_printf(Perl_debug_log, "floating `%s%s%s'%s at %d..%u ", 
2308                       colors[0],
2309                       SvPVX(r->float_substr), 
2310                       colors[1],
2311                       SvTAIL(r->float_substr) ? "$" : "",
2312                       r->float_min_offset, r->float_max_offset);
2313     if (r->check_substr)
2314         PerlIO_printf(Perl_debug_log, 
2315                       r->check_substr == r->float_substr 
2316                       ? "(checking floating" : "(checking anchored");
2317     if (r->reganch & ROPT_NOSCAN)
2318         PerlIO_printf(Perl_debug_log, " noscan");
2319     if (r->reganch & ROPT_CHECK_ALL)
2320         PerlIO_printf(Perl_debug_log, " isall");
2321     if (r->check_substr)
2322         PerlIO_printf(Perl_debug_log, ") ");
2323
2324     if (r->regstclass) {
2325         regprop(sv, r->regstclass);
2326         PerlIO_printf(Perl_debug_log, "stclass `%s' ", SvPVX(sv));
2327     }
2328     if (r->reganch & ROPT_ANCH) {
2329         PerlIO_printf(Perl_debug_log, "anchored");
2330         if (r->reganch & ROPT_ANCH_BOL)
2331             PerlIO_printf(Perl_debug_log, "(BOL)");
2332         if (r->reganch & ROPT_ANCH_MBOL)
2333             PerlIO_printf(Perl_debug_log, "(MBOL)");
2334         if (r->reganch & ROPT_ANCH_GPOS)
2335             PerlIO_printf(Perl_debug_log, "(GPOS)");
2336         PerlIO_putc(Perl_debug_log, ' ');
2337     }
2338     if (r->reganch & ROPT_GPOS_SEEN)
2339         PerlIO_printf(Perl_debug_log, "GPOS ");
2340     if (r->reganch & ROPT_SKIP)
2341         PerlIO_printf(Perl_debug_log, "plus ");
2342     if (r->reganch & ROPT_IMPLICIT)
2343         PerlIO_printf(Perl_debug_log, "implicit ");
2344     PerlIO_printf(Perl_debug_log, "minlen %ld ", (long) r->minlen);
2345     PerlIO_printf(Perl_debug_log, "\n");
2346 }
2347
2348 /*
2349 - regprop - printable representation of opcode
2350 */
2351 void
2352 regprop(SV *sv, regnode *o)
2353 {
2354     register char *p = 0;
2355
2356     sv_setpv(sv, ":");
2357     switch (OP(o)) {
2358     case BOL:
2359         p = "BOL";
2360         break;
2361     case MBOL:
2362         p = "MBOL";
2363         break;
2364     case SBOL:
2365         p = "SBOL";
2366         break;
2367     case EOL:
2368         p = "EOL";
2369         break;
2370     case MEOL:
2371         p = "MEOL";
2372         break;
2373     case SEOL:
2374         p = "SEOL";
2375         break;
2376     case ANY:
2377         p = "ANY";
2378         break;
2379     case SANY:
2380         p = "SANY";
2381         break;
2382     case ANYOF:
2383         p = "ANYOF";
2384         break;
2385     case BRANCH:
2386         p = "BRANCH";
2387         break;
2388     case EXACT:
2389         sv_catpvf(sv, "EXACT <%s%s%s>", colors[0], OPERAND(o) + 1, colors[1]);
2390         break;
2391     case EXACTF:
2392         sv_catpvf(sv, "EXACTF <%s%s%s>", colors[0], OPERAND(o) + 1, colors[1]);
2393         break;
2394     case EXACTFL:
2395         sv_catpvf(sv, "EXACTFL <%s%s%s>", colors[0], OPERAND(o) + 1, colors[1]);
2396         break;
2397     case NOTHING:
2398         p = "NOTHING";
2399         break;
2400     case TAIL:
2401         p = "TAIL";
2402         break;
2403     case BACK:
2404         p = "BACK";
2405         break;
2406     case END:
2407         p = "END";
2408         break;
2409     case BOUND:
2410         p = "BOUND";
2411         break;
2412     case BOUNDL:
2413         p = "BOUNDL";
2414         break;
2415     case NBOUND:
2416         p = "NBOUND";
2417         break;
2418     case NBOUNDL:
2419         p = "NBOUNDL";
2420         break;
2421     case CURLY:
2422         sv_catpvf(sv, "CURLY {%d,%d}", ARG1(o), ARG2(o));
2423         break;
2424     case CURLYM:
2425 #ifdef REGALIGN_STRUCT
2426         sv_catpvf(sv, "CURLYM[%d] {%d,%d}", o->flags, ARG1(o), ARG2(o));
2427 #else
2428         sv_catpvf(sv, "CURLYM {%d,%d}", ARG1(o), ARG2(o));
2429 #endif 
2430         break;
2431     case CURLYN:
2432 #ifdef REGALIGN_STRUCT
2433         sv_catpvf(sv, "CURLYN[%d] {%d,%d}", o->flags, ARG1(o), ARG2(o));
2434 #else
2435         sv_catpvf(sv, "CURLYN {%d,%d}", ARG1(o), ARG2(o));
2436 #endif 
2437         break;
2438     case CURLYX:
2439         sv_catpvf(sv, "CURLYX {%d,%d}", ARG1(o), ARG2(o));
2440         break;
2441     case REF:
2442         sv_catpvf(sv, "REF%d", ARG(o));
2443         break;
2444     case REFF:
2445         sv_catpvf(sv, "REFF%d", ARG(o));
2446         break;
2447     case REFFL:
2448         sv_catpvf(sv, "REFFL%d", ARG(o));
2449         break;
2450     case OPEN:
2451         sv_catpvf(sv, "OPEN%d", ARG(o));
2452         break;
2453     case CLOSE:
2454         sv_catpvf(sv, "CLOSE%d", ARG(o));
2455         p = NULL;
2456         break;
2457     case STAR:
2458         p = "STAR";
2459         break;
2460     case PLUS:
2461         p = "PLUS";
2462         break;
2463     case MINMOD:
2464         p = "MINMOD";
2465         break;
2466     case GPOS:
2467         p = "GPOS";
2468         break;
2469     case UNLESSM:
2470 #ifdef REGALIGN_STRUCT
2471         sv_catpvf(sv, "UNLESSM[-%d]", o->flags);
2472 #else
2473         p = "UNLESSM";
2474 #endif 
2475         break;
2476     case IFMATCH:
2477 #ifdef REGALIGN_STRUCT
2478         sv_catpvf(sv, "IFMATCH[-%d]", o->flags);
2479 #else
2480         p = "IFMATCH";
2481 #endif 
2482         break;
2483     case SUCCEED:
2484         p = "SUCCEED";
2485         break;
2486     case WHILEM:
2487         p = "WHILEM";
2488         break;
2489     case DIGIT:
2490         p = "DIGIT";
2491         break;
2492     case NDIGIT:
2493         p = "NDIGIT";
2494         break;
2495     case ALNUM:
2496         p = "ALNUM";
2497         break;
2498     case NALNUM:
2499         p = "NALNUM";
2500         break;
2501     case SPACE:
2502         p = "SPACE";
2503         break;
2504     case NSPACE:
2505         p = "NSPACE";
2506         break;
2507     case ALNUML:
2508         p = "ALNUML";
2509         break;
2510     case NALNUML:
2511         p = "NALNUML";
2512         break;
2513     case SPACEL:
2514         p = "SPACEL";
2515         break;
2516     case NSPACEL:
2517         p = "NSPACEL";
2518         break;
2519     case EVAL:
2520         p = "EVAL";
2521         break;
2522     case LONGJMP:
2523         p = "LONGJMP";
2524         break;
2525     case BRANCHJ:
2526         p = "BRANCHJ";
2527         break;
2528     case IFTHEN:
2529         p = "IFTHEN";
2530         break;
2531     case GROUPP:
2532         sv_catpvf(sv, "GROUPP%d", ARG(o));
2533         break;
2534     case LOGICAL:
2535         p = "LOGICAL";
2536         break;
2537     case SUSPEND:
2538         p = "SUSPEND";
2539         break;
2540     case RENUM:
2541         p = "RENUM";
2542         break;
2543     case OPTIMIZED:
2544         p = "OPTIMIZED";
2545         break;
2546     default:
2547         FAIL("corrupted regexp opcode");
2548     }
2549     if (p)
2550         sv_catpv(sv, p);
2551 }
2552 #endif /* DEBUGGING */
2553
2554 void
2555 pregfree(struct regexp *r)
2556 {
2557     if (!r || (--r->refcnt > 0))
2558         return;
2559     if (r->precomp)
2560         Safefree(r->precomp);
2561     if (r->subbase)
2562         Safefree(r->subbase);
2563     if (r->anchored_substr)
2564         SvREFCNT_dec(r->anchored_substr);
2565     if (r->float_substr)
2566         SvREFCNT_dec(r->float_substr);
2567     if (r->data) {
2568         int n = r->data->count;
2569         while (--n >= 0) {
2570             switch (r->data->what[n]) {
2571             case 's':
2572                 SvREFCNT_dec((SV*)r->data->data[n]);
2573                 break;
2574             case 'o':
2575                 op_free((OP_4tree*)r->data->data[n]);
2576                 break;
2577             case 'n':
2578                 break;
2579             default:
2580                 FAIL2("panic: regfree data code '%c'", r->data->what[n]);
2581             }
2582         }
2583         Safefree(r->data->what);
2584         Safefree(r->data);
2585     }
2586     Safefree(r->startp);
2587     Safefree(r->endp);
2588     Safefree(r);
2589 }
2590
2591 /*
2592  - regnext - dig the "next" pointer out of a node
2593  *
2594  * [Note, when REGALIGN is defined there are two places in regmatch()
2595  * that bypass this code for speed.]
2596  */
2597 regnode *
2598 regnext(register regnode *p)
2599 {
2600     register I32 offset;
2601
2602     if (p == &regdummy)
2603         return(NULL);
2604
2605     offset = (reg_off_by_arg[OP(p)] ? ARG(p) : NEXT_OFF(p));
2606     if (offset == 0)
2607         return(NULL);
2608
2609 #ifdef REGALIGN
2610     return(p+offset);
2611 #else
2612     if (OP(p) == BACK)
2613         return(p-offset);
2614     else
2615         return(p+offset);
2616 #endif
2617 }
2618
2619 #ifdef I_STDARG
2620 void    
2621 re_croak2(const char* pat1,const char* pat2,...)
2622 #else
2623 /*VARARGS0*/
2624 void    
2625 re_croak2(const char* pat1,const char* pat2, va_alist)
2626     const char* pat1;
2627     const char* pat2;
2628     va_dcl
2629 #endif 
2630 {
2631     va_list args;
2632     STRLEN l1 = strlen(pat1);
2633     STRLEN l2 = strlen(pat2);
2634     char buf[512];
2635     char *message;
2636
2637     if (l1 > 510)
2638         l1 = 510;
2639     if (l1 + l2 > 510)
2640         l2 = 510 - l1;
2641     Copy(pat1, buf, l1 , char);
2642     Copy(pat2, buf + l1, l2 , char);
2643     buf[l1 + l2 + 1] = '\n';
2644     buf[l1 + l2 + 2] = '\0';
2645 #ifdef I_STDARG
2646     va_start(args, pat2);
2647 #else
2648     va_start(args);
2649 #endif
2650     message = mess(buf, &args);
2651     va_end(args);
2652     l1 = strlen(message);
2653     if (l1 > 512)
2654         l1 = 512;
2655     Copy(message, buf, l1 , char);
2656     buf[l1] = '\0';                     /* Overwrite \n */
2657     croak("%s", buf);
2658 }
2659