pthread_condattr_init in thread.h for OLD_PTHREADS_API.
[p5sagit/p5-mst-13.2.git] / toke.c
1 /*    toke.c
2  *
3  *    Copyright (c) 1991-1997, Larry Wall
4  *
5  *    You may distribute under the terms of either the GNU General Public
6  *    License or the Artistic License, as specified in the README file.
7  *
8  */
9
10 /*
11  *   "It all comes from here, the stench and the peril."  --Frodo
12  */
13
14 #include "EXTERN.h"
15 #include "perl.h"
16
17 static void check_uni _((void));
18 static void  force_next _((I32 type));
19 static char *force_version _((char *start));
20 static char *force_word _((char *start, int token, int check_keyword, int allow_pack, int allow_tick));
21 static SV *q _((SV *sv));
22 static char *scan_const _((char *start));
23 static char *scan_formline _((char *s));
24 static char *scan_heredoc _((char *s));
25 static char *scan_ident _((char *s, char *send, char *dest, STRLEN destlen,
26                            I32 ck_uni));
27 static char *scan_inputsymbol _((char *start));
28 static char *scan_pat _((char *start));
29 static char *scan_str _((char *start));
30 static char *scan_subst _((char *start));
31 static char *scan_trans _((char *start));
32 static char *scan_word _((char *s, char *dest, STRLEN destlen,
33                           int allow_package, STRLEN *slp));
34 static char *skipspace _((char *s));
35 static void checkcomma _((char *s, char *name, char *what));
36 static void force_ident _((char *s, int kind));
37 static void incline _((char *s));
38 static int intuit_method _((char *s, GV *gv));
39 static int intuit_more _((char *s));
40 static I32 lop _((I32 f, expectation x, char *s));
41 static void missingterm _((char *s));
42 static void no_op _((char *what, char *s));
43 static void set_csh _((void));
44 static I32 sublex_done _((void));
45 static I32 sublex_push _((void));
46 static I32 sublex_start _((void));
47 #ifdef CRIPPLED_CC
48 static int uni _((I32 f, char *s));
49 #endif
50 static char * filter_gets _((SV *sv, PerlIO *fp, STRLEN append));
51 static void restore_rsfp _((void *f));
52
53 static char ident_too_long[] = "Identifier too long";
54
55 static char *linestart;         /* beg. of most recently read line */
56
57 static char pending_ident;      /* pending identifier lookup */
58
59 static struct {
60     I32 super_state;    /* lexer state to save */
61     I32 sub_inwhat;     /* "lex_inwhat" to use */
62     OP *sub_op;         /* "lex_op" to use */
63 } sublex_info;
64
65 /* The following are arranged oddly so that the guard on the switch statement
66  * can get by with a single comparison (if the compiler is smart enough).
67  */
68
69 #define LEX_NORMAL              10
70 #define LEX_INTERPNORMAL         9
71 #define LEX_INTERPCASEMOD        8
72 #define LEX_INTERPPUSH           7
73 #define LEX_INTERPSTART          6
74 #define LEX_INTERPEND            5
75 #define LEX_INTERPENDMAYBE       4
76 #define LEX_INTERPCONCAT         3
77 #define LEX_INTERPCONST          2
78 #define LEX_FORMLINE             1
79 #define LEX_KNOWNEXT             0
80
81 #ifdef I_FCNTL
82 #include <fcntl.h>
83 #endif
84 #ifdef I_SYS_FILE
85 #include <sys/file.h>
86 #endif
87
88 /* XXX If this causes problems, set i_unistd=undef in the hint file.  */
89 #ifdef I_UNISTD
90 #  include <unistd.h> /* Needed for execv() */
91 #endif
92
93
94 #ifdef ff_next
95 #undef ff_next
96 #endif
97
98 #include "keywords.h"
99
100 #ifdef CLINE
101 #undef CLINE
102 #endif
103 #define CLINE (copline = (curcop->cop_line < copline ? curcop->cop_line : copline))
104
105 #define TOKEN(retval) return (bufptr = s,(int)retval)
106 #define OPERATOR(retval) return (expect = XTERM,bufptr = s,(int)retval)
107 #define AOPERATOR(retval) return ao((expect = XTERM,bufptr = s,(int)retval))
108 #define PREBLOCK(retval) return (expect = XBLOCK,bufptr = s,(int)retval)
109 #define PRETERMBLOCK(retval) return (expect = XTERMBLOCK,bufptr = s,(int)retval)
110 #define PREREF(retval) return (expect = XREF,bufptr = s,(int)retval)
111 #define TERM(retval) return (CLINE, expect = XOPERATOR,bufptr = s,(int)retval)
112 #define LOOPX(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LOOPEX)
113 #define FTST(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)UNIOP)
114 #define FUN0(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC0)
115 #define FUN1(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC1)
116 #define BOop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITOROP))
117 #define BAop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITANDOP))
118 #define SHop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)SHIFTOP))
119 #define PWop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)POWOP))
120 #define PMop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)MATCHOP)
121 #define Aop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)ADDOP))
122 #define Mop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)MULOP))
123 #define Eop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)EQOP)
124 #define Rop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)RELOP)
125
126 /* This bit of chicanery makes a unary function followed by
127  * a parenthesis into a function with one argument, highest precedence.
128  */
129 #define UNI(f) return(yylval.ival = f, \
130         expect = XTERM, \
131         bufptr = s, \
132         last_uni = oldbufptr, \
133         last_lop_op = f, \
134         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
135
136 #define UNIBRACK(f) return(yylval.ival = f, \
137         bufptr = s, \
138         last_uni = oldbufptr, \
139         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
140
141 /* grandfather return to old style */
142 #define OLDLOP(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LSTOP)
143
144 static int
145 ao(toketype)
146 int toketype;
147 {
148     if (*bufptr == '=') {
149         bufptr++;
150         if (toketype == ANDAND)
151             yylval.ival = OP_ANDASSIGN;
152         else if (toketype == OROR)
153             yylval.ival = OP_ORASSIGN;
154         toketype = ASSIGNOP;
155     }
156     return toketype;
157 }
158
159 static void
160 no_op(what, s)
161 char *what;
162 char *s;
163 {
164     char *oldbp = bufptr;
165     bool is_first = (oldbufptr == linestart);
166
167     bufptr = s;
168     yywarn(form("%s found where operator expected", what));
169     if (is_first)
170         warn("\t(Missing semicolon on previous line?)\n");
171     else if (oldoldbufptr && isIDFIRST(*oldoldbufptr)) {
172         char *t;
173         for (t = oldoldbufptr; *t && (isALNUM(*t) || *t == ':'); t++) ;
174         if (t < bufptr && isSPACE(*t))
175             warn("\t(Do you need to predeclare %.*s?)\n",
176                 t - oldoldbufptr, oldoldbufptr);
177
178     }
179     else
180         warn("\t(Missing operator before %.*s?)\n", s - oldbp, oldbp);
181     bufptr = oldbp;
182 }
183
184 static void
185 missingterm(s)
186 char *s;
187 {
188     char tmpbuf[3];
189     char q;
190     if (s) {
191         char *nl = strrchr(s,'\n');
192         if (nl)
193             *nl = '\0';
194     }
195     else if (multi_close < 32 || multi_close == 127) {
196         *tmpbuf = '^';
197         tmpbuf[1] = toCTRL(multi_close);
198         s = "\\n";
199         tmpbuf[2] = '\0';
200         s = tmpbuf;
201     }
202     else {
203         *tmpbuf = multi_close;
204         tmpbuf[1] = '\0';
205         s = tmpbuf;
206     }
207     q = strchr(s,'"') ? '\'' : '"';
208     croak("Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
209 }
210
211 void
212 deprecate(s)
213 char *s;
214 {
215     if (dowarn)
216         warn("Use of %s is deprecated", s);
217 }
218
219 static void
220 depcom()
221 {
222     deprecate("comma-less variable list");
223 }
224
225 void
226 lex_start(line)
227 SV *line;
228 {
229     dTHR;
230     char *s;
231     STRLEN len;
232
233     SAVEI32(lex_dojoin);
234     SAVEI32(lex_brackets);
235     SAVEI32(lex_fakebrack);
236     SAVEI32(lex_casemods);
237     SAVEI32(lex_starts);
238     SAVEI32(lex_state);
239     SAVESPTR(lex_inpat);
240     SAVEI32(lex_inwhat);
241     SAVEI16(curcop->cop_line);
242     SAVEPPTR(bufptr);
243     SAVEPPTR(bufend);
244     SAVEPPTR(oldbufptr);
245     SAVEPPTR(oldoldbufptr);
246     SAVEPPTR(linestart);
247     SAVESPTR(linestr);
248     SAVEPPTR(lex_brackstack);
249     SAVEPPTR(lex_casestack);
250     SAVEDESTRUCTOR(restore_rsfp, rsfp);
251
252     lex_state = LEX_NORMAL;
253     lex_defer = 0;
254     expect = XSTATE;
255     lex_brackets = 0;
256     lex_fakebrack = 0;
257     New(899, lex_brackstack, 120, char);
258     New(899, lex_casestack, 12, char);
259     SAVEFREEPV(lex_brackstack);
260     SAVEFREEPV(lex_casestack);
261     lex_casemods = 0;
262     *lex_casestack = '\0';
263     lex_dojoin = 0;
264     lex_starts = 0;
265     if (lex_stuff)
266         SvREFCNT_dec(lex_stuff);
267     lex_stuff = Nullsv;
268     if (lex_repl)
269         SvREFCNT_dec(lex_repl);
270     lex_repl = Nullsv;
271     lex_inpat = 0;
272     lex_inwhat = 0;
273     linestr = line;
274     if (SvREADONLY(linestr))
275         linestr = sv_2mortal(newSVsv(linestr));
276     s = SvPV(linestr, len);
277     if (len && s[len-1] != ';') {
278         if (!(SvFLAGS(linestr) & SVs_TEMP))
279             linestr = sv_2mortal(newSVsv(linestr));
280         sv_catpvn(linestr, "\n;", 2);
281     }
282     SvTEMP_off(linestr);
283     oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
284     bufend = bufptr + SvCUR(linestr);
285     SvREFCNT_dec(rs);
286     rs = newSVpv("\n", 1);
287     rsfp = 0;
288 }
289
290 void
291 lex_end()
292 {
293     doextract = FALSE;
294 }
295
296 static void
297 restore_rsfp(f)
298 void *f;
299 {
300     PerlIO *fp = (PerlIO*)f;
301
302     if (rsfp == PerlIO_stdin())
303         PerlIO_clearerr(rsfp);
304     else if (rsfp && (rsfp != fp))
305         PerlIO_close(rsfp);
306     rsfp = fp;
307 }
308
309 static void
310 incline(s)
311 char *s;
312 {
313     dTHR;
314     char *t;
315     char *n;
316     char ch;
317     int sawline = 0;
318
319     curcop->cop_line++;
320     if (*s++ != '#')
321         return;
322     while (*s == ' ' || *s == '\t') s++;
323     if (strnEQ(s, "line ", 5)) {
324         s += 5;
325         sawline = 1;
326     }
327     if (!isDIGIT(*s))
328         return;
329     n = s;
330     while (isDIGIT(*s))
331         s++;
332     while (*s == ' ' || *s == '\t')
333         s++;
334     if (*s == '"' && (t = strchr(s+1, '"')))
335         s++;
336     else {
337         if (!sawline)
338             return;             /* false alarm */
339         for (t = s; !isSPACE(*t); t++) ;
340     }
341     ch = *t;
342     *t = '\0';
343     if (t - s > 0)
344         curcop->cop_filegv = gv_fetchfile(s);
345     else
346         curcop->cop_filegv = gv_fetchfile(origfilename);
347     *t = ch;
348     curcop->cop_line = atoi(n)-1;
349 }
350
351 static char *
352 skipspace(s)
353 register char *s;
354 {
355     dTHR;
356     if (lex_formbrack && lex_brackets <= lex_formbrack) {
357         while (s < bufend && (*s == ' ' || *s == '\t'))
358             s++;
359         return s;
360     }
361     for (;;) {
362         STRLEN prevlen;
363         while (s < bufend && isSPACE(*s))
364             s++;
365         if (s < bufend && *s == '#') {
366             while (s < bufend && *s != '\n')
367                 s++;
368             if (s < bufend)
369                 s++;
370         }
371         if (s < bufend || !rsfp || lex_state != LEX_NORMAL)
372             return s;
373         if ((s = filter_gets(linestr, rsfp, (prevlen = SvCUR(linestr)))) == Nullch) {
374             if (minus_n || minus_p) {
375                 sv_setpv(linestr,minus_p ?
376                          ";}continue{print or die qq(-p destination: $!\\n)" :
377                          "");
378                 sv_catpv(linestr,";}");
379                 minus_n = minus_p = 0;
380             }
381             else
382                 sv_setpv(linestr,";");
383             oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
384             bufend = SvPVX(linestr) + SvCUR(linestr);
385             if (preprocess && !in_eval)
386                 (void)my_pclose(rsfp);
387             else if ((PerlIO*)rsfp == PerlIO_stdin())
388                 PerlIO_clearerr(rsfp);
389             else
390                 (void)PerlIO_close(rsfp);
391             if (e_fp == rsfp)
392                 e_fp = Nullfp;
393             rsfp = Nullfp;
394             return s;
395         }
396         linestart = bufptr = s + prevlen;
397         bufend = s + SvCUR(linestr);
398         s = bufptr;
399         incline(s);
400         if (PERLDB_LINE && curstash != debstash) {
401             SV *sv = NEWSV(85,0);
402
403             sv_upgrade(sv, SVt_PVMG);
404             sv_setpvn(sv,bufptr,bufend-bufptr);
405             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
406         }
407     }
408 }
409
410 static void
411 check_uni() {
412     char *s;
413     char ch;
414     char *t;
415
416     if (oldoldbufptr != last_uni)
417         return;
418     while (isSPACE(*last_uni))
419         last_uni++;
420     for (s = last_uni; isALNUM(*s) || *s == '-'; s++) ;
421     if ((t = strchr(s, '(')) && t < bufptr)
422         return;
423     ch = *s;
424     *s = '\0';
425     warn("Warning: Use of \"%s\" without parens is ambiguous", last_uni);
426     *s = ch;
427 }
428
429 #ifdef CRIPPLED_CC
430
431 #undef UNI
432 #define UNI(f) return uni(f,s)
433
434 static int
435 uni(f,s)
436 I32 f;
437 char *s;
438 {
439     yylval.ival = f;
440     expect = XTERM;
441     bufptr = s;
442     last_uni = oldbufptr;
443     last_lop_op = f;
444     if (*s == '(')
445         return FUNC1;
446     s = skipspace(s);
447     if (*s == '(')
448         return FUNC1;
449     else
450         return UNIOP;
451 }
452
453 #endif /* CRIPPLED_CC */
454
455 #define LOP(f,x) return lop(f,x,s)
456
457 static I32
458 lop
459 #ifdef CAN_PROTOTYPE
460    (I32 f, expectation x, char *s)
461 #else
462    (f,x,s)
463 I32 f;
464 expectation x;
465 char *s;
466 #endif /* CAN_PROTOTYPE */
467 {
468     dTHR;
469     yylval.ival = f;
470     CLINE;
471     expect = x;
472     bufptr = s;
473     last_lop = oldbufptr;
474     last_lop_op = f;
475     if (nexttoke)
476         return LSTOP;
477     if (*s == '(')
478         return FUNC;
479     s = skipspace(s);
480     if (*s == '(')
481         return FUNC;
482     else
483         return LSTOP;
484 }
485
486 static void 
487 force_next(type)
488 I32 type;
489 {
490     nexttype[nexttoke] = type;
491     nexttoke++;
492     if (lex_state != LEX_KNOWNEXT) {
493         lex_defer = lex_state;
494         lex_expect = expect;
495         lex_state = LEX_KNOWNEXT;
496     }
497 }
498
499 static char *
500 force_word(start,token,check_keyword,allow_pack,allow_tick)
501 register char *start;
502 int token;
503 int check_keyword;
504 int allow_pack;
505 int allow_tick;
506 {
507     register char *s;
508     STRLEN len;
509     
510     start = skipspace(start);
511     s = start;
512     if (isIDFIRST(*s) ||
513         (allow_pack && *s == ':') ||
514         (allow_tick && *s == '\'') )
515     {
516         s = scan_word(s, tokenbuf, sizeof tokenbuf, allow_pack, &len);
517         if (check_keyword && keyword(tokenbuf, len))
518             return start;
519         if (token == METHOD) {
520             s = skipspace(s);
521             if (*s == '(')
522                 expect = XTERM;
523             else {
524                 expect = XOPERATOR;
525                 force_next(')');
526                 force_next('(');
527             }
528         }
529         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST,0, newSVpv(tokenbuf,0));
530         nextval[nexttoke].opval->op_private |= OPpCONST_BARE;
531         force_next(token);
532     }
533     return s;
534 }
535
536 static void
537 force_ident(s, kind)
538 register char *s;
539 int kind;
540 {
541     if (s && *s) {
542         OP* o = (OP*)newSVOP(OP_CONST, 0, newSVpv(s,0));
543         nextval[nexttoke].opval = o;
544         force_next(WORD);
545         if (kind) {
546             dTHR;               /* just for in_eval */
547             o->op_private = OPpCONST_ENTERED;
548             /* XXX see note in pp_entereval() for why we forgo typo
549                warnings if the symbol must be introduced in an eval.
550                GSAR 96-10-12 */
551             gv_fetchpv(s, in_eval ? GV_ADDMULTI : TRUE,
552                 kind == '$' ? SVt_PV :
553                 kind == '@' ? SVt_PVAV :
554                 kind == '%' ? SVt_PVHV :
555                               SVt_PVGV
556                 );
557         }
558     }
559 }
560
561 static char *
562 force_version(s)
563 char *s;
564 {
565     OP *version = Nullop;
566
567     s = skipspace(s);
568
569     /* default VERSION number -- GBARR */
570
571     if(isDIGIT(*s)) {
572         char *d;
573         int c;
574         for( d=s, c = 1; isDIGIT(*d) || *d == '_' || (*d == '.' && c--); d++);
575         if((*d == ';' || isSPACE(*d)) && *(skipspace(d)) != ',') {
576             s = scan_num(s);
577             /* real VERSION number -- GBARR */
578             version = yylval.opval;
579         }
580     }
581
582     /* NOTE: The parser sees the package name and the VERSION swapped */
583     nextval[nexttoke].opval = version;
584     force_next(WORD); 
585
586     return (s);
587 }
588
589 static SV *
590 q(sv)
591 SV *sv;
592 {
593     register char *s;
594     register char *send;
595     register char *d;
596     STRLEN len;
597
598     if (!SvLEN(sv))
599         return sv;
600
601     s = SvPV_force(sv, len);
602     if (SvIVX(sv) == -1)
603         return sv;
604     send = s + len;
605     while (s < send && *s != '\\')
606         s++;
607     if (s == send)
608         return sv;
609     d = s;
610     while (s < send) {
611         if (*s == '\\') {
612             if (s + 1 < send && (s[1] == '\\'))
613                 s++;            /* all that, just for this */
614         }
615         *d++ = *s++;
616     }
617     *d = '\0';
618     SvCUR_set(sv, d - SvPVX(sv));
619
620     return sv;
621 }
622
623 static I32
624 sublex_start()
625 {
626     register I32 op_type = yylval.ival;
627
628     if (op_type == OP_NULL) {
629         yylval.opval = lex_op;
630         lex_op = Nullop;
631         return THING;
632     }
633     if (op_type == OP_CONST || op_type == OP_READLINE) {
634         SV *sv = q(lex_stuff);
635         STRLEN len;
636         char *p = SvPV(sv, len);
637         yylval.opval = (OP*)newSVOP(op_type, 0, newSVpv(p, len));
638         SvREFCNT_dec(sv);
639         lex_stuff = Nullsv;
640         return THING;
641     }
642
643     sublex_info.super_state = lex_state;
644     sublex_info.sub_inwhat = op_type;
645     sublex_info.sub_op = lex_op;
646     lex_state = LEX_INTERPPUSH;
647
648     expect = XTERM;
649     if (lex_op) {
650         yylval.opval = lex_op;
651         lex_op = Nullop;
652         return PMFUNC;
653     }
654     else
655         return FUNC;
656 }
657
658 static I32
659 sublex_push()
660 {
661     dTHR;
662     push_scope();
663
664     lex_state = sublex_info.super_state;
665     SAVEI32(lex_dojoin);
666     SAVEI32(lex_brackets);
667     SAVEI32(lex_fakebrack);
668     SAVEI32(lex_casemods);
669     SAVEI32(lex_starts);
670     SAVEI32(lex_state);
671     SAVESPTR(lex_inpat);
672     SAVEI32(lex_inwhat);
673     SAVEI16(curcop->cop_line);
674     SAVEPPTR(bufptr);
675     SAVEPPTR(oldbufptr);
676     SAVEPPTR(oldoldbufptr);
677     SAVEPPTR(linestart);
678     SAVESPTR(linestr);
679     SAVEPPTR(lex_brackstack);
680     SAVEPPTR(lex_casestack);
681
682     linestr = lex_stuff;
683     lex_stuff = Nullsv;
684
685     bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
686     bufend += SvCUR(linestr);
687     SAVEFREESV(linestr);
688
689     lex_dojoin = FALSE;
690     lex_brackets = 0;
691     lex_fakebrack = 0;
692     New(899, lex_brackstack, 120, char);
693     New(899, lex_casestack, 12, char);
694     SAVEFREEPV(lex_brackstack);
695     SAVEFREEPV(lex_casestack);
696     lex_casemods = 0;
697     *lex_casestack = '\0';
698     lex_starts = 0;
699     lex_state = LEX_INTERPCONCAT;
700     curcop->cop_line = multi_start;
701
702     lex_inwhat = sublex_info.sub_inwhat;
703     if (lex_inwhat == OP_MATCH || lex_inwhat == OP_SUBST)
704         lex_inpat = sublex_info.sub_op;
705     else
706         lex_inpat = Nullop;
707
708     return '(';
709 }
710
711 static I32
712 sublex_done()
713 {
714     if (!lex_starts++) {
715         expect = XOPERATOR;
716         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv("",0));
717         return THING;
718     }
719
720     if (lex_casemods) {         /* oops, we've got some unbalanced parens */
721         lex_state = LEX_INTERPCASEMOD;
722         return yylex();
723     }
724
725     /* Is there a right-hand side to take care of? */
726     if (lex_repl && (lex_inwhat == OP_SUBST || lex_inwhat == OP_TRANS)) {
727         linestr = lex_repl;
728         lex_inpat = 0;
729         bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
730         bufend += SvCUR(linestr);
731         SAVEFREESV(linestr);
732         lex_dojoin = FALSE;
733         lex_brackets = 0;
734         lex_fakebrack = 0;
735         lex_casemods = 0;
736         *lex_casestack = '\0';
737         lex_starts = 0;
738         if (SvCOMPILED(lex_repl)) {
739             lex_state = LEX_INTERPNORMAL;
740             lex_starts++;
741         }
742         else
743             lex_state = LEX_INTERPCONCAT;
744         lex_repl = Nullsv;
745         return ',';
746     }
747     else {
748         pop_scope();
749         bufend = SvPVX(linestr);
750         bufend += SvCUR(linestr);
751         expect = XOPERATOR;
752         return ')';
753     }
754 }
755
756 static char *
757 scan_const(start)
758 char *start;
759 {
760     register char *send = bufend;
761     SV *sv = NEWSV(93, send - start);
762     register char *s = start;
763     register char *d = SvPVX(sv);
764     bool dorange = FALSE;
765     I32 len;
766     char *leaveit =
767         lex_inpat
768             ? "\\.^$@AGZdDwWsSbB+*?|()-nrtfeaxc0123456789[{]} \t\n\r\f\v#"
769             : (lex_inwhat & OP_TRANS)
770                 ? ""
771                 : "";
772
773     while (s < send || dorange) {
774         if (lex_inwhat == OP_TRANS) {
775             if (dorange) {
776                 I32 i;
777                 I32 max;
778                 i = d - SvPVX(sv);
779                 SvGROW(sv, SvLEN(sv) + 256);
780                 d = SvPVX(sv) + i;
781                 d -= 2;
782                 max = (U8)d[1];
783                 for (i = (U8)*d; i <= max; i++)
784                     *d++ = i;
785                 dorange = FALSE;
786                 continue;
787             }
788             else if (*s == '-' && s+1 < send  && s != start) {
789                 dorange = TRUE;
790                 s++;
791             }
792         }
793         else if (*s == '(' && lex_inpat && s[1] == '?' && s[2] == '#') {
794             while (s < send && *s != ')')
795                 *d++ = *s++;
796         }
797         else if (*s == '#' && lex_inpat &&
798           ((PMOP*)lex_inpat)->op_pmflags & PMf_EXTENDED) {
799             while (s+1 < send && *s != '\n')
800                 *d++ = *s++;
801         }
802         else if (*s == '@' && s[1] && (isALNUM(s[1]) || strchr(":'{$", s[1])))
803             break;
804         else if (*s == '$') {
805             if (!lex_inpat)     /* not a regexp, so $ must be var */
806                 break;
807             if (s + 1 < send && !strchr(")| \n\t", s[1]))
808                 break;          /* in regexp, $ might be tail anchor */
809         }
810         if (*s == '\\' && s+1 < send) {
811             s++;
812             if (*s && strchr(leaveit, *s)) {
813                 *d++ = '\\';
814                 *d++ = *s++;
815                 continue;
816             }
817             if (lex_inwhat == OP_SUBST && !lex_inpat &&
818                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
819             {
820                 if (dowarn)
821                     warn("\\%c better written as $%c", *s, *s);
822                 *--s = '$';
823                 break;
824             }
825             if (lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
826                 --s;
827                 break;
828             }
829             switch (*s) {
830             case '-':
831                 if (lex_inwhat == OP_TRANS) {
832                     *d++ = *s++;
833                     continue;
834                 }
835                 /* FALL THROUGH */
836             default:
837                 *d++ = *s++;
838                 continue;
839             case '0': case '1': case '2': case '3':
840             case '4': case '5': case '6': case '7':
841                 *d++ = scan_oct(s, 3, &len);
842                 s += len;
843                 continue;
844             case 'x':
845                 *d++ = scan_hex(++s, 2, &len);
846                 s += len;
847                 continue;
848             case 'c':
849                 s++;
850                 len = *s++;
851                 *d++ = toCTRL(len);
852                 continue;
853             case 'b':
854                 *d++ = '\b';
855                 break;
856             case 'n':
857                 *d++ = '\n';
858                 break;
859             case 'r':
860                 *d++ = '\r';
861                 break;
862             case 'f':
863                 *d++ = '\f';
864                 break;
865             case 't':
866                 *d++ = '\t';
867                 break;
868             case 'e':
869                 *d++ = '\033';
870                 break;
871             case 'a':
872                 *d++ = '\007';
873                 break;
874             }
875             s++;
876             continue;
877         }
878         *d++ = *s++;
879     }
880     *d = '\0';
881     SvCUR_set(sv, d - SvPVX(sv));
882     SvPOK_on(sv);
883
884     if (SvCUR(sv) + 5 < SvLEN(sv)) {
885         SvLEN_set(sv, SvCUR(sv) + 1);
886         Renew(SvPVX(sv), SvLEN(sv), char);
887     }
888     if (s > bufptr)
889         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
890     else
891         SvREFCNT_dec(sv);
892     return s;
893 }
894
895 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
896 static int
897 intuit_more(s)
898 register char *s;
899 {
900     if (lex_brackets)
901         return TRUE;
902     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
903         return TRUE;
904     if (*s != '{' && *s != '[')
905         return FALSE;
906     if (!lex_inpat)
907         return TRUE;
908
909     /* In a pattern, so maybe we have {n,m}. */
910     if (*s == '{') {
911         s++;
912         if (!isDIGIT(*s))
913             return TRUE;
914         while (isDIGIT(*s))
915             s++;
916         if (*s == ',')
917             s++;
918         while (isDIGIT(*s))
919             s++;
920         if (*s == '}')
921             return FALSE;
922         return TRUE;
923         
924     }
925
926     /* On the other hand, maybe we have a character class */
927
928     s++;
929     if (*s == ']' || *s == '^')
930         return FALSE;
931     else {
932         int weight = 2;         /* let's weigh the evidence */
933         char seen[256];
934         unsigned char un_char = 0, last_un_char;
935         char *send = strchr(s,']');
936         char tmpbuf[sizeof tokenbuf * 4];
937
938         if (!send)              /* has to be an expression */
939             return TRUE;
940
941         Zero(seen,256,char);
942         if (*s == '$')
943             weight -= 3;
944         else if (isDIGIT(*s)) {
945             if (s[1] != ']') {
946                 if (isDIGIT(s[1]) && s[2] == ']')
947                     weight -= 10;
948             }
949             else
950                 weight -= 100;
951         }
952         for (; s < send; s++) {
953             last_un_char = un_char;
954             un_char = (unsigned char)*s;
955             switch (*s) {
956             case '@':
957             case '&':
958             case '$':
959                 weight -= seen[un_char] * 10;
960                 if (isALNUM(s[1])) {
961                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
962                     if ((int)strlen(tmpbuf) > 1 && gv_fetchpv(tmpbuf,FALSE, SVt_PV))
963                         weight -= 100;
964                     else
965                         weight -= 10;
966                 }
967                 else if (*s == '$' && s[1] &&
968                   strchr("[#!%*<>()-=",s[1])) {
969                     if (/*{*/ strchr("])} =",s[2]))
970                         weight -= 10;
971                     else
972                         weight -= 1;
973                 }
974                 break;
975             case '\\':
976                 un_char = 254;
977                 if (s[1]) {
978                     if (strchr("wds]",s[1]))
979                         weight += 100;
980                     else if (seen['\''] || seen['"'])
981                         weight += 1;
982                     else if (strchr("rnftbxcav",s[1]))
983                         weight += 40;
984                     else if (isDIGIT(s[1])) {
985                         weight += 40;
986                         while (s[1] && isDIGIT(s[1]))
987                             s++;
988                     }
989                 }
990                 else
991                     weight += 100;
992                 break;
993             case '-':
994                 if (s[1] == '\\')
995                     weight += 50;
996                 if (strchr("aA01! ",last_un_char))
997                     weight += 30;
998                 if (strchr("zZ79~",s[1]))
999                     weight += 30;
1000                 break;
1001             default:
1002                 if (!isALNUM(last_un_char) && !strchr("$@&",last_un_char) &&
1003                         isALPHA(*s) && s[1] && isALPHA(s[1])) {
1004                     char *d = tmpbuf;
1005                     while (isALPHA(*s))
1006                         *d++ = *s++;
1007                     *d = '\0';
1008                     if (keyword(tmpbuf, d - tmpbuf))
1009                         weight -= 150;
1010                 }
1011                 if (un_char == last_un_char + 1)
1012                     weight += 5;
1013                 weight -= seen[un_char];
1014                 break;
1015             }
1016             seen[un_char]++;
1017         }
1018         if (weight >= 0)        /* probably a character class */
1019             return FALSE;
1020     }
1021
1022     return TRUE;
1023 }
1024
1025 static int
1026 intuit_method(start,gv)
1027 char *start;
1028 GV *gv;
1029 {
1030     char *s = start + (*start == '$');
1031     char tmpbuf[sizeof tokenbuf];
1032     STRLEN len;
1033     GV* indirgv;
1034
1035     if (gv) {
1036         if (GvIO(gv))
1037             return 0;
1038         if (!GvCVu(gv))
1039             gv = 0;
1040     }
1041     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
1042     if (*start == '$') {
1043         if (gv || last_lop_op == OP_PRINT || isUPPER(*tokenbuf))
1044             return 0;
1045         s = skipspace(s);
1046         bufptr = start;
1047         expect = XREF;
1048         return *s == '(' ? FUNCMETH : METHOD;
1049     }
1050     if (!keyword(tmpbuf, len)) {
1051         indirgv = gv_fetchpv(tmpbuf,FALSE, SVt_PVCV);
1052         if (indirgv && GvCVu(indirgv))
1053             return 0;
1054         /* filehandle or package name makes it a method */
1055         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
1056             s = skipspace(s);
1057             if ((bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
1058                 return 0;       /* no assumptions -- "=>" quotes bearword */
1059             nextval[nexttoke].opval =
1060                 (OP*)newSVOP(OP_CONST, 0,
1061                             newSVpv(tmpbuf,0));
1062             nextval[nexttoke].opval->op_private =
1063                 OPpCONST_BARE;
1064             expect = XTERM;
1065             force_next(WORD);
1066             bufptr = s;
1067             return *s == '(' ? FUNCMETH : METHOD;
1068         }
1069     }
1070     return 0;
1071 }
1072
1073 static char*
1074 incl_perldb()
1075 {
1076     if (perldb) {
1077         char *pdb = getenv("PERL5DB");
1078
1079         if (pdb)
1080             return pdb;
1081         return "BEGIN { require 'perl5db.pl' }";
1082     }
1083     return "";
1084 }
1085
1086
1087 /* Encoded script support. filter_add() effectively inserts a
1088  * 'pre-processing' function into the current source input stream. 
1089  * Note that the filter function only applies to the current source file
1090  * (e.g., it will not affect files 'require'd or 'use'd by this one).
1091  *
1092  * The datasv parameter (which may be NULL) can be used to pass
1093  * private data to this instance of the filter. The filter function
1094  * can recover the SV using the FILTER_DATA macro and use it to
1095  * store private buffers and state information.
1096  *
1097  * The supplied datasv parameter is upgraded to a PVIO type
1098  * and the IoDIRP field is used to store the function pointer.
1099  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
1100  * private use must be set using malloc'd pointers.
1101  */
1102 static int filter_debug = 0;
1103
1104 SV *
1105 filter_add(funcp, datasv)
1106     filter_t funcp;
1107     SV *datasv;
1108 {
1109     if (!funcp){ /* temporary handy debugging hack to be deleted */
1110         filter_debug = atoi((char*)datasv);
1111         return NULL;
1112     }
1113     if (!rsfp_filters)
1114         rsfp_filters = newAV();
1115     if (!datasv)
1116         datasv = newSV(0);
1117     if (!SvUPGRADE(datasv, SVt_PVIO))
1118         die("Can't upgrade filter_add data to SVt_PVIO");
1119     IoDIRP(datasv) = (DIR*)funcp; /* stash funcp into spare field */
1120     if (filter_debug)
1121         warn("filter_add func %p (%s)", funcp, SvPV(datasv,na));
1122     av_unshift(rsfp_filters, 1);
1123     av_store(rsfp_filters, 0, datasv) ;
1124     return(datasv);
1125 }
1126  
1127
1128 /* Delete most recently added instance of this filter function. */
1129 void
1130 filter_del(funcp)
1131     filter_t funcp;
1132 {
1133     if (filter_debug)
1134         warn("filter_del func %p", funcp);
1135     if (!rsfp_filters || AvFILL(rsfp_filters)<0)
1136         return;
1137     /* if filter is on top of stack (usual case) just pop it off */
1138     if (IoDIRP(FILTER_DATA(0)) == (void*)funcp){
1139         /* sv_free(av_pop(rsfp_filters)); */
1140         sv_free(av_shift(rsfp_filters));
1141
1142         return;
1143     }
1144     /* we need to search for the correct entry and clear it     */
1145     die("filter_del can only delete in reverse order (currently)");
1146 }
1147
1148
1149 /* Invoke the n'th filter function for the current rsfp.         */
1150 I32
1151 filter_read(idx, buf_sv, maxlen)
1152     int idx;
1153     SV *buf_sv;
1154     int maxlen;         /* 0 = read one text line */
1155 {
1156     filter_t funcp;
1157     SV *datasv = NULL;
1158
1159     if (!rsfp_filters)
1160         return -1;
1161     if (idx > AvFILL(rsfp_filters)){       /* Any more filters? */
1162         /* Provide a default input filter to make life easy.    */
1163         /* Note that we append to the line. This is handy.      */
1164         if (filter_debug)
1165             warn("filter_read %d: from rsfp\n", idx);
1166         if (maxlen) { 
1167             /* Want a block */
1168             int len ;
1169             int old_len = SvCUR(buf_sv) ;
1170
1171             /* ensure buf_sv is large enough */
1172             SvGROW(buf_sv, old_len + maxlen) ;
1173             if ((len = PerlIO_read(rsfp, SvPVX(buf_sv) + old_len, maxlen)) <= 0){
1174                 if (PerlIO_error(rsfp))
1175                     return -1;          /* error */
1176                 else
1177                     return 0 ;          /* end of file */
1178             }
1179             SvCUR_set(buf_sv, old_len + len) ;
1180         } else {
1181             /* Want a line */
1182             if (sv_gets(buf_sv, rsfp, SvCUR(buf_sv)) == NULL) {
1183                 if (PerlIO_error(rsfp))
1184                     return -1;          /* error */
1185                 else
1186                     return 0 ;          /* end of file */
1187             }
1188         }
1189         return SvCUR(buf_sv);
1190     }
1191     /* Skip this filter slot if filter has been deleted */
1192     if ( (datasv = FILTER_DATA(idx)) == &sv_undef){
1193         if (filter_debug)
1194             warn("filter_read %d: skipped (filter deleted)\n", idx);
1195         return FILTER_READ(idx+1, buf_sv, maxlen); /* recurse */
1196     }
1197     /* Get function pointer hidden within datasv        */
1198     funcp = (filter_t)IoDIRP(datasv);
1199     if (filter_debug)
1200         warn("filter_read %d: via function %p (%s)\n",
1201                 idx, funcp, SvPV(datasv,na));
1202     /* Call function. The function is expected to       */
1203     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
1204     /* Return: <0:error, =0:eof, >0:not eof             */
1205     return (*funcp)(idx, buf_sv, maxlen);
1206 }
1207
1208 static char *
1209 filter_gets(sv,fp, append)
1210 register SV *sv;
1211 register PerlIO *fp;
1212 STRLEN append;
1213 {
1214     if (rsfp_filters) {
1215
1216         if (!append)
1217             SvCUR_set(sv, 0);   /* start with empty line        */
1218         if (FILTER_READ(0, sv, 0) > 0)
1219             return ( SvPVX(sv) ) ;
1220         else
1221             return Nullch ;
1222     }
1223     else 
1224         return (sv_gets(sv, fp, append));
1225     
1226 }
1227
1228
1229 #ifdef DEBUGGING
1230     static char* exp_name[] =
1231         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "TERMBLOCK" };
1232 #endif
1233
1234 EXT int yychar;         /* last token */
1235
1236 int
1237 yylex()
1238 {
1239     dTHR;
1240     register char *s;
1241     register char *d;
1242     register I32 tmp;
1243     STRLEN len;
1244
1245     if (pending_ident) {
1246         char pit = pending_ident;
1247         pending_ident = 0;
1248
1249         if (in_my) {
1250             if (strchr(tokenbuf,':'))
1251                 croak(no_myglob,tokenbuf);
1252             yylval.opval = newOP(OP_PADANY, 0);
1253             yylval.opval->op_targ = pad_allocmy(tokenbuf);
1254             return PRIVATEREF;
1255         }
1256
1257         if (!strchr(tokenbuf,':')
1258             && (tmp = pad_findmy(tokenbuf)) != NOT_IN_PAD) {
1259             if (last_lop_op == OP_SORT &&
1260                 tokenbuf[0] == '$' &&
1261                 (tokenbuf[1] == 'a' || tokenbuf[1] == 'b')
1262                 && !tokenbuf[2])
1263             {
1264                 for (d = in_eval ? oldoldbufptr : linestart;
1265                      d < bufend && *d != '\n';
1266                      d++)
1267                 {
1268                     if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
1269                         croak("Can't use \"my %s\" in sort comparison",
1270                               tokenbuf);
1271                     }
1272                 }
1273             }
1274
1275             yylval.opval = newOP(OP_PADANY, 0);
1276             yylval.opval->op_targ = tmp;
1277             return PRIVATEREF;
1278         }
1279
1280         /* Force them to make up their mind on "@foo". */
1281         if (pit == '@' && lex_state != LEX_NORMAL && !lex_brackets) {
1282             GV *gv = gv_fetchpv(tokenbuf+1, FALSE, SVt_PVAV);
1283             if (!gv || ((tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
1284                 yyerror(form("In string, %s now must be written as \\%s",
1285                              tokenbuf, tokenbuf));
1286         }
1287
1288         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf+1, 0));
1289         yylval.opval->op_private = OPpCONST_ENTERED;
1290         gv_fetchpv(tokenbuf+1, in_eval ? GV_ADDMULTI : TRUE,
1291                    ((tokenbuf[0] == '$') ? SVt_PV
1292                     : (tokenbuf[0] == '@') ? SVt_PVAV
1293                     : SVt_PVHV));
1294         return WORD;
1295     }
1296
1297     switch (lex_state) {
1298 #ifdef COMMENTARY
1299     case LEX_NORMAL:            /* Some compilers will produce faster */
1300     case LEX_INTERPNORMAL:      /* code if we comment these out. */
1301         break;
1302 #endif
1303
1304     case LEX_KNOWNEXT:
1305         nexttoke--;
1306         yylval = nextval[nexttoke];
1307         if (!nexttoke) {
1308             lex_state = lex_defer;
1309             expect = lex_expect;
1310             lex_defer = LEX_NORMAL;
1311         }
1312         return(nexttype[nexttoke]);
1313
1314     case LEX_INTERPCASEMOD:
1315 #ifdef DEBUGGING
1316         if (bufptr != bufend && *bufptr != '\\')
1317             croak("panic: INTERPCASEMOD");
1318 #endif
1319         if (bufptr == bufend || bufptr[1] == 'E') {
1320             char oldmod;
1321             if (lex_casemods) {
1322                 oldmod = lex_casestack[--lex_casemods];
1323                 lex_casestack[lex_casemods] = '\0';
1324                 if (bufptr != bufend && strchr("LUQ", oldmod)) {
1325                     bufptr += 2;
1326                     lex_state = LEX_INTERPCONCAT;
1327                 }
1328                 return ')';
1329             }
1330             if (bufptr != bufend)
1331                 bufptr += 2;
1332             lex_state = LEX_INTERPCONCAT;
1333             return yylex();
1334         }
1335         else {
1336             s = bufptr + 1;
1337             if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
1338                 tmp = *s, *s = s[2], s[2] = tmp;        /* misordered... */
1339             if (strchr("LU", *s) &&
1340                 (strchr(lex_casestack, 'L') || strchr(lex_casestack, 'U')))
1341             {
1342                 lex_casestack[--lex_casemods] = '\0';
1343                 return ')';
1344             }
1345             if (lex_casemods > 10) {
1346                 char* newlb = Renew(lex_casestack, lex_casemods + 2, char);
1347                 if (newlb != lex_casestack) {
1348                     SAVEFREEPV(newlb);
1349                     lex_casestack = newlb;
1350                 }
1351             }
1352             lex_casestack[lex_casemods++] = *s;
1353             lex_casestack[lex_casemods] = '\0';
1354             lex_state = LEX_INTERPCONCAT;
1355             nextval[nexttoke].ival = 0;
1356             force_next('(');
1357             if (*s == 'l')
1358                 nextval[nexttoke].ival = OP_LCFIRST;
1359             else if (*s == 'u')
1360                 nextval[nexttoke].ival = OP_UCFIRST;
1361             else if (*s == 'L')
1362                 nextval[nexttoke].ival = OP_LC;
1363             else if (*s == 'U')
1364                 nextval[nexttoke].ival = OP_UC;
1365             else if (*s == 'Q')
1366                 nextval[nexttoke].ival = OP_QUOTEMETA;
1367             else
1368                 croak("panic: yylex");
1369             bufptr = s + 1;
1370             force_next(FUNC);
1371             if (lex_starts) {
1372                 s = bufptr;
1373                 lex_starts = 0;
1374                 Aop(OP_CONCAT);
1375             }
1376             else
1377                 return yylex();
1378         }
1379
1380     case LEX_INTERPPUSH:
1381         return sublex_push();
1382
1383     case LEX_INTERPSTART:
1384         if (bufptr == bufend)
1385             return sublex_done();
1386         expect = XTERM;
1387         lex_dojoin = (*bufptr == '@');
1388         lex_state = LEX_INTERPNORMAL;
1389         if (lex_dojoin) {
1390             nextval[nexttoke].ival = 0;
1391             force_next(',');
1392             force_ident("\"", '$');
1393             nextval[nexttoke].ival = 0;
1394             force_next('$');
1395             nextval[nexttoke].ival = 0;
1396             force_next('(');
1397             nextval[nexttoke].ival = OP_JOIN;   /* emulate join($", ...) */
1398             force_next(FUNC);
1399         }
1400         if (lex_starts++) {
1401             s = bufptr;
1402             Aop(OP_CONCAT);
1403         }
1404         return yylex();
1405
1406     case LEX_INTERPENDMAYBE:
1407         if (intuit_more(bufptr)) {
1408             lex_state = LEX_INTERPNORMAL;       /* false alarm, more expr */
1409             break;
1410         }
1411         /* FALL THROUGH */
1412
1413     case LEX_INTERPEND:
1414         if (lex_dojoin) {
1415             lex_dojoin = FALSE;
1416             lex_state = LEX_INTERPCONCAT;
1417             return ')';
1418         }
1419         /* FALLTHROUGH */
1420     case LEX_INTERPCONCAT:
1421 #ifdef DEBUGGING
1422         if (lex_brackets)
1423             croak("panic: INTERPCONCAT");
1424 #endif
1425         if (bufptr == bufend)
1426             return sublex_done();
1427
1428         if (SvIVX(linestr) == '\'') {
1429             SV *sv = newSVsv(linestr);
1430             if (!lex_inpat)
1431                 sv = q(sv);
1432             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1433             s = bufend;
1434         }
1435         else {
1436             s = scan_const(bufptr);
1437             if (*s == '\\')
1438                 lex_state = LEX_INTERPCASEMOD;
1439             else
1440                 lex_state = LEX_INTERPSTART;
1441         }
1442
1443         if (s != bufptr) {
1444             nextval[nexttoke] = yylval;
1445             expect = XTERM;
1446             force_next(THING);
1447             if (lex_starts++)
1448                 Aop(OP_CONCAT);
1449             else {
1450                 bufptr = s;
1451                 return yylex();
1452             }
1453         }
1454
1455         return yylex();
1456     case LEX_FORMLINE:
1457         lex_state = LEX_NORMAL;
1458         s = scan_formline(bufptr);
1459         if (!lex_formbrack)
1460             goto rightbracket;
1461         OPERATOR(';');
1462     }
1463
1464     s = bufptr;
1465     oldoldbufptr = oldbufptr;
1466     oldbufptr = s;
1467     DEBUG_p( {
1468         PerlIO_printf(PerlIO_stderr(), "### Tokener expecting %s at %s\n", exp_name[expect], s);
1469     } )
1470
1471   retry:
1472     switch (*s) {
1473     default:
1474         croak("Unrecognized character \\%03o", *s & 255);
1475     case 4:
1476     case 26:
1477         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
1478     case 0:
1479         if (!rsfp) {
1480             last_uni = 0;
1481             last_lop = 0;
1482             if (lex_brackets)
1483                 yyerror("Missing right bracket");
1484             TOKEN(0);
1485         }
1486         if (s++ < bufend)
1487             goto retry;                 /* ignore stray nulls */
1488         last_uni = 0;
1489         last_lop = 0;
1490         if (!in_eval && !preambled) {
1491             preambled = TRUE;
1492             sv_setpv(linestr,incl_perldb());
1493             if (SvCUR(linestr))
1494                 sv_catpv(linestr,";");
1495             if (preambleav){
1496                 while(AvFILL(preambleav) >= 0) {
1497                     SV *tmpsv = av_shift(preambleav);
1498                     sv_catsv(linestr, tmpsv);
1499                     sv_catpv(linestr, ";");
1500                     sv_free(tmpsv);
1501                 }
1502                 sv_free((SV*)preambleav);
1503                 preambleav = NULL;
1504             }
1505             if (minus_n || minus_p) {
1506                 sv_catpv(linestr, "LINE: while (<>) {");
1507                 if (minus_l)
1508                     sv_catpv(linestr,"chomp;");
1509                 if (minus_a) {
1510                     GV* gv = gv_fetchpv("::F", TRUE, SVt_PVAV);
1511                     if (gv)
1512                         GvIMPORTED_AV_on(gv);
1513                     if (minus_F) {
1514                         if (strchr("/'\"", *splitstr)
1515                               && strchr(splitstr + 1, *splitstr))
1516                             sv_catpvf(linestr, "@F=split(%s);", splitstr);
1517                         else {
1518                             char delim;
1519                             s = "'~#\200\1'"; /* surely one char is unused...*/
1520                             while (s[1] && strchr(splitstr, *s))  s++;
1521                             delim = *s;
1522                             sv_catpvf(linestr, "@F=split(%s%c",
1523                                       "q" + (delim == '\''), delim);
1524                             for (s = splitstr; *s; s++) {
1525                                 if (*s == '\\')
1526                                     sv_catpvn(linestr, "\\", 1);
1527                                 sv_catpvn(linestr, s, 1);
1528                             }
1529                             sv_catpvf(linestr, "%c);", delim);
1530                         }
1531                     }
1532                     else
1533                         sv_catpv(linestr,"@F=split(' ');");
1534                 }
1535             }
1536             sv_catpv(linestr, "\n");
1537             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1538             bufend = SvPVX(linestr) + SvCUR(linestr);
1539             if (PERLDB_LINE && curstash != debstash) {
1540                 SV *sv = NEWSV(85,0);
1541
1542                 sv_upgrade(sv, SVt_PVMG);
1543                 sv_setsv(sv,linestr);
1544                 av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1545             }
1546             goto retry;
1547         }
1548         do {
1549             if ((s = filter_gets(linestr, rsfp, 0)) == Nullch) {
1550               fake_eof:
1551                 if (rsfp) {
1552                     if (preprocess && !in_eval)
1553                         (void)my_pclose(rsfp);
1554                     else if ((PerlIO *)rsfp == PerlIO_stdin())
1555                         PerlIO_clearerr(rsfp);
1556                     else
1557                         (void)PerlIO_close(rsfp);
1558                     if (e_fp == rsfp)
1559                         e_fp = Nullfp;
1560                     rsfp = Nullfp;
1561                 }
1562                 if (!in_eval && (minus_n || minus_p)) {
1563                     sv_setpv(linestr,minus_p ? ";}continue{print" : "");
1564                     sv_catpv(linestr,";}");
1565                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1566                     bufend = SvPVX(linestr) + SvCUR(linestr);
1567                     minus_n = minus_p = 0;
1568                     goto retry;
1569                 }
1570                 oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1571                 sv_setpv(linestr,"");
1572                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
1573             }
1574             if (doextract) {
1575                 if (*s == '#' && s[1] == '!' && instr(s,"perl"))
1576                     doextract = FALSE;
1577
1578                 /* Incest with pod. */
1579                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
1580                     sv_setpv(linestr, "");
1581                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1582                     bufend = SvPVX(linestr) + SvCUR(linestr);
1583                     doextract = FALSE;
1584                 }
1585             }
1586             incline(s);
1587         } while (doextract);
1588         oldoldbufptr = oldbufptr = bufptr = linestart = s;
1589         if (PERLDB_LINE && curstash != debstash) {
1590             SV *sv = NEWSV(85,0);
1591
1592             sv_upgrade(sv, SVt_PVMG);
1593             sv_setsv(sv,linestr);
1594             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1595         }
1596         bufend = SvPVX(linestr) + SvCUR(linestr);
1597         if (curcop->cop_line == 1) {
1598             while (s < bufend && isSPACE(*s))
1599                 s++;
1600             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
1601                 s++;
1602             d = Nullch;
1603             if (!in_eval) {
1604                 if (*s == '#' && *(s+1) == '!')
1605                     d = s + 2;
1606 #ifdef ALTERNATE_SHEBANG
1607                 else {
1608                     static char as[] = ALTERNATE_SHEBANG;
1609                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
1610                         d = s + (sizeof(as) - 1);
1611                 }
1612 #endif /* ALTERNATE_SHEBANG */
1613             }
1614             if (d) {
1615                 char *ipath;
1616                 char *ipathend;
1617
1618                 while (isSPACE(*d))
1619                     d++;
1620                 ipath = d;
1621                 while (*d && !isSPACE(*d))
1622                     d++;
1623                 ipathend = d;
1624
1625 #ifdef ARG_ZERO_IS_SCRIPT
1626                 if (ipathend > ipath) {
1627                     /*
1628                      * HP-UX (at least) sets argv[0] to the script name,
1629                      * which makes $^X incorrect.  And Digital UNIX and Linux,
1630                      * at least, set argv[0] to the basename of the Perl
1631                      * interpreter. So, having found "#!", we'll set it right.
1632                      */
1633                     SV *x = GvSV(gv_fetchpv("\030", TRUE, SVt_PV));
1634                     assert(SvPOK(x) || SvGMAGICAL(x));
1635                     if (sv_eq(x, GvSV(curcop->cop_filegv))) {
1636                         sv_setpvn(x, ipath, ipathend - ipath);
1637                         SvSETMAGIC(x);
1638                     }
1639                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
1640                 }
1641 #endif /* ARG_ZERO_IS_SCRIPT */
1642
1643                 /*
1644                  * Look for options.
1645                  */
1646                 d = instr(s,"perl -");
1647                 if (!d)
1648                     d = instr(s,"perl");
1649 #ifdef ALTERNATE_SHEBANG
1650                 /*
1651                  * If the ALTERNATE_SHEBANG on this system starts with a
1652                  * character that can be part of a Perl expression, then if
1653                  * we see it but not "perl", we're probably looking at the
1654                  * start of Perl code, not a request to hand off to some
1655                  * other interpreter.  Similarly, if "perl" is there, but
1656                  * not in the first 'word' of the line, we assume the line
1657                  * contains the start of the Perl program.
1658                  */
1659                 if (d && *s != '#') {
1660                     char *c = ipath;
1661                     while (*c && !strchr("; \t\r\n\f\v#", *c))
1662                         c++;
1663                     if (c < d)
1664                         d = Nullch;     /* "perl" not in first word; ignore */
1665                     else
1666                         *s = '#';       /* Don't try to parse shebang line */
1667                 }
1668 #endif /* ALTERNATE_SHEBANG */
1669                 if (!d &&
1670                     *s == '#' &&
1671                     ipathend > ipath &&
1672                     !minus_c &&
1673                     !instr(s,"indir") &&
1674                     instr(origargv[0],"perl"))
1675                 {
1676                     char **newargv;
1677
1678                     *ipathend = '\0';
1679                     s = ipathend + 1;
1680                     while (s < bufend && isSPACE(*s))
1681                         s++;
1682                     if (s < bufend) {
1683                         Newz(899,newargv,origargc+3,char*);
1684                         newargv[1] = s;
1685                         while (s < bufend && !isSPACE(*s))
1686                             s++;
1687                         *s = '\0';
1688                         Copy(origargv+1, newargv+2, origargc+1, char*);
1689                     }
1690                     else
1691                         newargv = origargv;
1692                     newargv[0] = ipath;
1693                     execv(ipath, newargv);
1694                     croak("Can't exec %s", ipath);
1695                 }
1696                 if (d) {
1697                     U32 oldpdb = perldb;
1698                     bool oldn = minus_n;
1699                     bool oldp = minus_p;
1700
1701                     while (*d && !isSPACE(*d)) d++;
1702                     while (*d == ' ' || *d == '\t') d++;
1703
1704                     if (*d++ == '-') {
1705                         do {
1706                             if (*d == 'M' || *d == 'm') {
1707                                 char *m = d;
1708                                 while (*d && !isSPACE(*d)) d++;
1709                                 croak("Too late for \"-%.*s\" option",
1710                                       (int)(d - m), m);
1711                             }
1712                             d = moreswitches(d);
1713                         } while (d);
1714                         if (PERLDB_LINE && !oldpdb ||
1715                             ( minus_n || minus_p ) && !(oldn || oldp) )
1716                               /* if we have already added "LINE: while (<>) {",
1717                                  we must not do it again */
1718                         {
1719                             sv_setpv(linestr, "");
1720                             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1721                             bufend = SvPVX(linestr) + SvCUR(linestr);
1722                             preambled = FALSE;
1723                             if (PERLDB_LINE)
1724                                 (void)gv_fetchfile(origfilename);
1725                             goto retry;
1726                         }
1727                     }
1728                 }
1729             }
1730         }
1731         if (lex_formbrack && lex_brackets <= lex_formbrack) {
1732             bufptr = s;
1733             lex_state = LEX_FORMLINE;
1734             return yylex();
1735         }
1736         goto retry;
1737     case '\r':
1738         warn("Illegal character \\%03o (carriage return)", '\r');
1739         croak(
1740       "(Maybe you didn't strip carriage returns after a network transfer?)\n");
1741     case ' ': case '\t': case '\f': case 013:
1742         s++;
1743         goto retry;
1744     case '#':
1745     case '\n':
1746         if (lex_state != LEX_NORMAL || (in_eval && !rsfp)) {
1747             d = bufend;
1748             while (s < d && *s != '\n')
1749                 s++;
1750             if (s < d)
1751                 s++;
1752             incline(s);
1753             if (lex_formbrack && lex_brackets <= lex_formbrack) {
1754                 bufptr = s;
1755                 lex_state = LEX_FORMLINE;
1756                 return yylex();
1757             }
1758         }
1759         else {
1760             *s = '\0';
1761             bufend = s;
1762         }
1763         goto retry;
1764     case '-':
1765         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
1766             s++;
1767             bufptr = s;
1768             tmp = *s++;
1769
1770             while (s < bufend && (*s == ' ' || *s == '\t'))
1771                 s++;
1772
1773             if (strnEQ(s,"=>",2)) {
1774                 if (dowarn)
1775                     warn("Ambiguous use of -%c => resolved to \"-%c\" =>",
1776                         (int)tmp, (int)tmp);
1777                 s = force_word(bufptr,WORD,FALSE,FALSE,FALSE);
1778                 OPERATOR('-');          /* unary minus */
1779             }
1780             last_uni = oldbufptr;
1781             last_lop_op = OP_FTEREAD;   /* good enough */
1782             switch (tmp) {
1783             case 'r': FTST(OP_FTEREAD);
1784             case 'w': FTST(OP_FTEWRITE);
1785             case 'x': FTST(OP_FTEEXEC);
1786             case 'o': FTST(OP_FTEOWNED);
1787             case 'R': FTST(OP_FTRREAD);
1788             case 'W': FTST(OP_FTRWRITE);
1789             case 'X': FTST(OP_FTREXEC);
1790             case 'O': FTST(OP_FTROWNED);
1791             case 'e': FTST(OP_FTIS);
1792             case 'z': FTST(OP_FTZERO);
1793             case 's': FTST(OP_FTSIZE);
1794             case 'f': FTST(OP_FTFILE);
1795             case 'd': FTST(OP_FTDIR);
1796             case 'l': FTST(OP_FTLINK);
1797             case 'p': FTST(OP_FTPIPE);
1798             case 'S': FTST(OP_FTSOCK);
1799             case 'u': FTST(OP_FTSUID);
1800             case 'g': FTST(OP_FTSGID);
1801             case 'k': FTST(OP_FTSVTX);
1802             case 'b': FTST(OP_FTBLK);
1803             case 'c': FTST(OP_FTCHR);
1804             case 't': FTST(OP_FTTTY);
1805             case 'T': FTST(OP_FTTEXT);
1806             case 'B': FTST(OP_FTBINARY);
1807             case 'M': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTMTIME);
1808             case 'A': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTATIME);
1809             case 'C': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTCTIME);
1810             default:
1811                 croak("Unrecognized file test: -%c", (int)tmp);
1812                 break;
1813             }
1814         }
1815         tmp = *s++;
1816         if (*s == tmp) {
1817             s++;
1818             if (expect == XOPERATOR)
1819                 TERM(POSTDEC);
1820             else
1821                 OPERATOR(PREDEC);
1822         }
1823         else if (*s == '>') {
1824             s++;
1825             s = skipspace(s);
1826             if (isIDFIRST(*s)) {
1827                 s = force_word(s,METHOD,FALSE,TRUE,FALSE);
1828                 TOKEN(ARROW);
1829             }
1830             else if (*s == '$')
1831                 OPERATOR(ARROW);
1832             else
1833                 TERM(ARROW);
1834         }
1835         if (expect == XOPERATOR)
1836             Aop(OP_SUBTRACT);
1837         else {
1838             if (isSPACE(*s) || !isSPACE(*bufptr))
1839                 check_uni();
1840             OPERATOR('-');              /* unary minus */
1841         }
1842
1843     case '+':
1844         tmp = *s++;
1845         if (*s == tmp) {
1846             s++;
1847             if (expect == XOPERATOR)
1848                 TERM(POSTINC);
1849             else
1850                 OPERATOR(PREINC);
1851         }
1852         if (expect == XOPERATOR)
1853             Aop(OP_ADD);
1854         else {
1855             if (isSPACE(*s) || !isSPACE(*bufptr))
1856                 check_uni();
1857             OPERATOR('+');
1858         }
1859
1860     case '*':
1861         if (expect != XOPERATOR) {
1862             s = scan_ident(s, bufend, tokenbuf, sizeof tokenbuf, TRUE);
1863             expect = XOPERATOR;
1864             force_ident(tokenbuf, '*');
1865             if (!*tokenbuf)
1866                 PREREF('*');
1867             TERM('*');
1868         }
1869         s++;
1870         if (*s == '*') {
1871             s++;
1872             PWop(OP_POW);
1873         }
1874         Mop(OP_MULTIPLY);
1875
1876     case '%':
1877         if (expect == XOPERATOR) {
1878             ++s;
1879             Mop(OP_MODULO);
1880         }
1881         tokenbuf[0] = '%';
1882         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, TRUE);
1883         if (!tokenbuf[1]) {
1884             if (s == bufend)
1885                 yyerror("Final % should be \\% or %name");
1886             PREREF('%');
1887         }
1888         pending_ident = '%';
1889         TERM('%');
1890
1891     case '^':
1892         s++;
1893         BOop(OP_BIT_XOR);
1894     case '[':
1895         lex_brackets++;
1896         /* FALL THROUGH */
1897     case '~':
1898     case ',':
1899         tmp = *s++;
1900         OPERATOR(tmp);
1901     case ':':
1902         if (s[1] == ':') {
1903             len = 0;
1904             goto just_a_word;
1905         }
1906         s++;
1907         OPERATOR(':');
1908     case '(':
1909         s++;
1910         if (last_lop == oldoldbufptr || last_uni == oldoldbufptr)
1911             oldbufptr = oldoldbufptr;           /* allow print(STDOUT 123) */
1912         else
1913             expect = XTERM;
1914         TOKEN('(');
1915     case ';':
1916         if (curcop->cop_line < copline)
1917             copline = curcop->cop_line;
1918         tmp = *s++;
1919         OPERATOR(tmp);
1920     case ')':
1921         tmp = *s++;
1922         s = skipspace(s);
1923         if (*s == '{')
1924             PREBLOCK(tmp);
1925         TERM(tmp);
1926     case ']':
1927         s++;
1928         if (lex_brackets <= 0)
1929             yyerror("Unmatched right bracket");
1930         else
1931             --lex_brackets;
1932         if (lex_state == LEX_INTERPNORMAL) {
1933             if (lex_brackets == 0) {
1934                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
1935                     lex_state = LEX_INTERPEND;
1936             }
1937         }
1938         TERM(']');
1939     case '{':
1940       leftbracket:
1941         s++;
1942         if (lex_brackets > 100) {
1943             char* newlb = Renew(lex_brackstack, lex_brackets + 1, char);
1944             if (newlb != lex_brackstack) {
1945                 SAVEFREEPV(newlb);
1946                 lex_brackstack = newlb;
1947             }
1948         }
1949         switch (expect) {
1950         case XTERM:
1951             if (lex_formbrack) {
1952                 s--;
1953                 PRETERMBLOCK(DO);
1954             }
1955             if (oldoldbufptr == last_lop)
1956                 lex_brackstack[lex_brackets++] = XTERM;
1957             else
1958                 lex_brackstack[lex_brackets++] = XOPERATOR;
1959             OPERATOR(HASHBRACK);
1960         case XOPERATOR:
1961             while (s < bufend && (*s == ' ' || *s == '\t'))
1962                 s++;
1963             d = s;
1964             tokenbuf[0] = '\0';
1965             if (d < bufend && *d == '-') {
1966                 tokenbuf[0] = '-';
1967                 d++;
1968                 while (d < bufend && (*d == ' ' || *d == '\t'))
1969                     d++;
1970             }
1971             if (d < bufend && isIDFIRST(*d)) {
1972                 d = scan_word(d, tokenbuf + 1, sizeof tokenbuf - 1,
1973                               FALSE, &len);
1974                 while (d < bufend && (*d == ' ' || *d == '\t'))
1975                     d++;
1976                 if (*d == '}') {
1977                     char minus = (tokenbuf[0] == '-');
1978                     if (dowarn &&
1979                         (keyword(tokenbuf + 1, len) ||
1980                          (minus && len == 1 && isALPHA(tokenbuf[1])) ||
1981                          perl_get_cv(tokenbuf + 1, FALSE) ))
1982                         warn("Ambiguous use of {%s} resolved to {\"%s\"}",
1983                              tokenbuf + !minus, tokenbuf + !minus);
1984                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
1985                     if (minus)
1986                         force_next('-');
1987                 }
1988             }
1989             /* FALL THROUGH */
1990         case XBLOCK:
1991             lex_brackstack[lex_brackets++] = XSTATE;
1992             expect = XSTATE;
1993             break;
1994         case XTERMBLOCK:
1995             lex_brackstack[lex_brackets++] = XOPERATOR;
1996             expect = XSTATE;
1997             break;
1998         default: {
1999                 char *t;
2000                 if (oldoldbufptr == last_lop)
2001                     lex_brackstack[lex_brackets++] = XTERM;
2002                 else
2003                     lex_brackstack[lex_brackets++] = XOPERATOR;
2004                 s = skipspace(s);
2005                 if (*s == '}')
2006                     OPERATOR(HASHBRACK);
2007                 /* This hack serves to disambiguate a pair of curlies
2008                  * as being a block or an anon hash.  Normally, expectation
2009                  * determines that, but in cases where we're not in a
2010                  * position to expect anything in particular (like inside
2011                  * eval"") we have to resolve the ambiguity.  This code
2012                  * covers the case where the first term in the curlies is a
2013                  * quoted string.  Most other cases need to be explicitly
2014                  * disambiguated by prepending a `+' before the opening
2015                  * curly in order to force resolution as an anon hash.
2016                  *
2017                  * XXX should probably propagate the outer expectation
2018                  * into eval"" to rely less on this hack, but that could
2019                  * potentially break current behavior of eval"".
2020                  * GSAR 97-07-21
2021                  */
2022                 t = s;
2023                 if (*s == '\'' || *s == '"' || *s == '`') {
2024                     /* common case: get past first string, handling escapes */
2025                     for (t++; t < bufend && *t != *s;)
2026                         if (*t++ == '\\' && (*t == '\\' || *t == *s))
2027                             t++;
2028                     t++;
2029                 }
2030                 else if (*s == 'q') {
2031                     if (++t < bufend
2032                         && (!isALNUM(*t)
2033                             || ((*t == 'q' || *t == 'x') && ++t < bufend
2034                                 && !isALNUM(*t)))) {
2035                         char *tmps;
2036                         char open, close, term;
2037                         I32 brackets = 1;
2038
2039                         while (t < bufend && isSPACE(*t))
2040                             t++;
2041                         term = *t;
2042                         open = term;
2043                         if (term && (tmps = strchr("([{< )]}> )]}>",term)))
2044                             term = tmps[5];
2045                         close = term;
2046                         if (open == close)
2047                             for (t++; t < bufend; t++) {
2048                                 if (*t == '\\' && t+1 < bufend && open != '\\')
2049                                     t++;
2050                                 else if (*t == open)
2051                                     break;
2052                             }
2053                         else
2054                             for (t++; t < bufend; t++) {
2055                                 if (*t == '\\' && t+1 < bufend)
2056                                     t++;
2057                                 else if (*t == close && --brackets <= 0)
2058                                     break;
2059                                 else if (*t == open)
2060                                     brackets++;
2061                             }
2062                     }
2063                     t++;
2064                 }
2065                 else if (isALPHA(*s)) {
2066                     for (t++; t < bufend && isALNUM(*t); t++) ;
2067                 }
2068                 while (t < bufend && isSPACE(*t))
2069                     t++;
2070                 /* if comma follows first term, call it an anon hash */
2071                 /* XXX it could be a comma expression with loop modifiers */
2072                 if (t < bufend && ((*t == ',' && (*s == 'q' || !isLOWER(*s)))
2073                                    || (*t == '=' && t[1] == '>')))
2074                     OPERATOR(HASHBRACK);
2075                 if (expect == XREF)
2076                     expect = XTERM;
2077                 else {
2078                     lex_brackstack[lex_brackets-1] = XSTATE;
2079                     expect = XSTATE;
2080                 }
2081             }
2082             break;
2083         }
2084         yylval.ival = curcop->cop_line;
2085         if (isSPACE(*s) || *s == '#')
2086             copline = NOLINE;   /* invalidate current command line number */
2087         TOKEN('{');
2088     case '}':
2089       rightbracket:
2090         s++;
2091         if (lex_brackets <= 0)
2092             yyerror("Unmatched right bracket");
2093         else
2094             expect = (expectation)lex_brackstack[--lex_brackets];
2095         if (lex_brackets < lex_formbrack)
2096             lex_formbrack = 0;
2097         if (lex_state == LEX_INTERPNORMAL) {
2098             if (lex_brackets == 0) {
2099                 if (lex_fakebrack) {
2100                     lex_state = LEX_INTERPEND;
2101                     bufptr = s;
2102                     return yylex();             /* ignore fake brackets */
2103                 }
2104                 if (*s == '-' && s[1] == '>')
2105                     lex_state = LEX_INTERPENDMAYBE;
2106                 else if (*s != '[' && *s != '{')
2107                     lex_state = LEX_INTERPEND;
2108             }
2109         }
2110         if (lex_brackets < lex_fakebrack) {
2111             bufptr = s;
2112             lex_fakebrack = 0;
2113             return yylex();             /* ignore fake brackets */
2114         }
2115         force_next('}');
2116         TOKEN(';');
2117     case '&':
2118         s++;
2119         tmp = *s++;
2120         if (tmp == '&')
2121             AOPERATOR(ANDAND);
2122         s--;
2123         if (expect == XOPERATOR) {
2124             if (dowarn && isALPHA(*s) && bufptr == linestart) {
2125                 curcop->cop_line--;
2126                 warn(warn_nosemi);
2127                 curcop->cop_line++;
2128             }
2129             BAop(OP_BIT_AND);
2130         }
2131
2132         s = scan_ident(s - 1, bufend, tokenbuf, sizeof tokenbuf, TRUE);
2133         if (*tokenbuf) {
2134             expect = XOPERATOR;
2135             force_ident(tokenbuf, '&');
2136         }
2137         else
2138             PREREF('&');
2139         yylval.ival = (OPpENTERSUB_AMPER<<8);
2140         TERM('&');
2141
2142     case '|':
2143         s++;
2144         tmp = *s++;
2145         if (tmp == '|')
2146             AOPERATOR(OROR);
2147         s--;
2148         BOop(OP_BIT_OR);
2149     case '=':
2150         s++;
2151         tmp = *s++;
2152         if (tmp == '=')
2153             Eop(OP_EQ);
2154         if (tmp == '>')
2155             OPERATOR(',');
2156         if (tmp == '~')
2157             PMop(OP_MATCH);
2158         if (dowarn && tmp && isSPACE(*s) && strchr("+-*/%.^&|<",tmp))
2159             warn("Reversed %c= operator",(int)tmp);
2160         s--;
2161         if (expect == XSTATE && isALPHA(tmp) &&
2162                 (s == linestart+1 || s[-2] == '\n') )
2163         {
2164             if (in_eval && !rsfp) {
2165                 d = bufend;
2166                 while (s < d) {
2167                     if (*s++ == '\n') {
2168                         incline(s);
2169                         if (strnEQ(s,"=cut",4)) {
2170                             s = strchr(s,'\n');
2171                             if (s)
2172                                 s++;
2173                             else
2174                                 s = d;
2175                             incline(s);
2176                             goto retry;
2177                         }
2178                     }
2179                 }
2180                 goto retry;
2181             }
2182             s = bufend;
2183             doextract = TRUE;
2184             goto retry;
2185         }
2186         if (lex_brackets < lex_formbrack) {
2187             char *t;
2188             for (t = s; *t == ' ' || *t == '\t'; t++) ;
2189             if (*t == '\n' || *t == '#') {
2190                 s--;
2191                 expect = XBLOCK;
2192                 goto leftbracket;
2193             }
2194         }
2195         yylval.ival = 0;
2196         OPERATOR(ASSIGNOP);
2197     case '!':
2198         s++;
2199         tmp = *s++;
2200         if (tmp == '=')
2201             Eop(OP_NE);
2202         if (tmp == '~')
2203             PMop(OP_NOT);
2204         s--;
2205         OPERATOR('!');
2206     case '<':
2207         if (expect != XOPERATOR) {
2208             if (s[1] != '<' && !strchr(s,'>'))
2209                 check_uni();
2210             if (s[1] == '<')
2211                 s = scan_heredoc(s);
2212             else
2213                 s = scan_inputsymbol(s);
2214             TERM(sublex_start());
2215         }
2216         s++;
2217         tmp = *s++;
2218         if (tmp == '<')
2219             SHop(OP_LEFT_SHIFT);
2220         if (tmp == '=') {
2221             tmp = *s++;
2222             if (tmp == '>')
2223                 Eop(OP_NCMP);
2224             s--;
2225             Rop(OP_LE);
2226         }
2227         s--;
2228         Rop(OP_LT);
2229     case '>':
2230         s++;
2231         tmp = *s++;
2232         if (tmp == '>')
2233             SHop(OP_RIGHT_SHIFT);
2234         if (tmp == '=')
2235             Rop(OP_GE);
2236         s--;
2237         Rop(OP_GT);
2238
2239     case '$':
2240         CLINE;
2241
2242         if (expect == XOPERATOR) {
2243             if (lex_formbrack && lex_brackets == lex_formbrack) {
2244                 expect = XTERM;
2245                 depcom();
2246                 return ','; /* grandfather non-comma-format format */
2247             }
2248         }
2249
2250         if (s[1] == '#' && (isALPHA(s[2]) || strchr("_{$:", s[2]))) {
2251             if (expect == XOPERATOR)
2252                 no_op("Array length", bufptr);
2253             tokenbuf[0] = '@';
2254             s = scan_ident(s + 1, bufend, tokenbuf + 1, sizeof tokenbuf - 1,
2255                            FALSE);
2256             if (!tokenbuf[1])
2257                 PREREF(DOLSHARP);
2258             expect = XOPERATOR;
2259             pending_ident = '#';
2260             TOKEN(DOLSHARP);
2261         }
2262
2263         if (expect == XOPERATOR)
2264             no_op("Scalar", bufptr);
2265         tokenbuf[0] = '$';
2266         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2267         if (!tokenbuf[1]) {
2268             if (s == bufend)
2269                 yyerror("Final $ should be \\$ or $name");
2270             PREREF('$');
2271         }
2272
2273         /* This kludge not intended to be bulletproof. */
2274         if (tokenbuf[1] == '[' && !tokenbuf[2]) {
2275             yylval.opval = newSVOP(OP_CONST, 0,
2276                                    newSViv((IV)compiling.cop_arybase));
2277             yylval.opval->op_private = OPpCONST_ARYBASE;
2278             TERM(THING);
2279         }
2280
2281         d = s;
2282         if (lex_state == LEX_NORMAL)
2283             s = skipspace(s);
2284
2285         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2286             char *t;
2287             if (*s == '[') {
2288                 tokenbuf[0] = '@';
2289                 if (dowarn) {
2290                     for(t = s + 1;
2291                         isSPACE(*t) || isALNUM(*t) || *t == '$';
2292                         t++) ;
2293                     if (*t++ == ',') {
2294                         bufptr = skipspace(bufptr);
2295                         while (t < bufend && *t != ']')
2296                             t++;
2297                         warn("Multidimensional syntax %.*s not supported",
2298                              (t - bufptr) + 1, bufptr);
2299                     }
2300                 }
2301             }
2302             else if (*s == '{') {
2303                 tokenbuf[0] = '%';
2304                 if (dowarn && strEQ(tokenbuf+1, "SIG") &&
2305                     (t = strchr(s, '}')) && (t = strchr(t, '=')))
2306                 {
2307                     char tmpbuf[sizeof tokenbuf];
2308                     STRLEN len;
2309                     for (t++; isSPACE(*t); t++) ;
2310                     if (isIDFIRST(*t)) {
2311                         t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE, &len);
2312                         if (*t != '(' && perl_get_cv(tmpbuf, FALSE))
2313                             warn("You need to quote \"%s\"", tmpbuf);
2314                     }
2315                 }
2316             }
2317         }
2318
2319         expect = XOPERATOR;
2320         if (lex_state == LEX_NORMAL && isSPACE(*d)) {
2321             bool islop = (last_lop == oldoldbufptr);
2322             if (!islop || last_lop_op == OP_GREPSTART)
2323                 expect = XOPERATOR;
2324             else if (strchr("$@\"'`q", *s))
2325                 expect = XTERM;         /* e.g. print $fh "foo" */
2326             else if (strchr("&*<%", *s) && isIDFIRST(s[1]))
2327                 expect = XTERM;         /* e.g. print $fh &sub */
2328             else if (isIDFIRST(*s)) {
2329                 char tmpbuf[sizeof tokenbuf];
2330                 scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2331                 if (tmp = keyword(tmpbuf, len)) {
2332                     /* binary operators exclude handle interpretations */
2333                     switch (tmp) {
2334                     case -KEY_x:
2335                     case -KEY_eq:
2336                     case -KEY_ne:
2337                     case -KEY_gt:
2338                     case -KEY_lt:
2339                     case -KEY_ge:
2340                     case -KEY_le:
2341                     case -KEY_cmp:
2342                         break;
2343                     default:
2344                         expect = XTERM; /* e.g. print $fh length() */
2345                         break;
2346                     }
2347                 }
2348                 else {
2349                     GV *gv = gv_fetchpv(tmpbuf, FALSE, SVt_PVCV);
2350                     if (gv && GvCVu(gv))
2351                         expect = XTERM; /* e.g. print $fh subr() */
2352                 }
2353             }
2354             else if (isDIGIT(*s))
2355                 expect = XTERM;         /* e.g. print $fh 3 */
2356             else if (*s == '.' && isDIGIT(s[1]))
2357                 expect = XTERM;         /* e.g. print $fh .3 */
2358             else if (strchr("/?-+", *s) && !isSPACE(s[1]))
2359                 expect = XTERM;         /* e.g. print $fh -1 */
2360             else if (*s == '<' && s[1] == '<' && !isSPACE(s[2]))
2361                 expect = XTERM;         /* print $fh <<"EOF" */
2362         }
2363         pending_ident = '$';
2364         TOKEN('$');
2365
2366     case '@':
2367         if (expect == XOPERATOR)
2368             no_op("Array", s);
2369         tokenbuf[0] = '@';
2370         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2371         if (!tokenbuf[1]) {
2372             if (s == bufend)
2373                 yyerror("Final @ should be \\@ or @name");
2374             PREREF('@');
2375         }
2376         if (lex_state == LEX_NORMAL)
2377             s = skipspace(s);
2378         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2379             if (*s == '{')
2380                 tokenbuf[0] = '%';
2381
2382             /* Warn about @ where they meant $. */
2383             if (dowarn) {
2384                 if (*s == '[' || *s == '{') {
2385                     char *t = s + 1;
2386                     while (*t && (isALNUM(*t) || strchr(" \t$#+-'\"", *t)))
2387                         t++;
2388                     if (*t == '}' || *t == ']') {
2389                         t++;
2390                         bufptr = skipspace(bufptr);
2391                         warn("Scalar value %.*s better written as $%.*s",
2392                             t-bufptr, bufptr, t-bufptr-1, bufptr+1);
2393                     }
2394                 }
2395             }
2396         }
2397         pending_ident = '@';
2398         TERM('@');
2399
2400     case '/':                   /* may either be division or pattern */
2401     case '?':                   /* may either be conditional or pattern */
2402         if (expect != XOPERATOR) {
2403             check_uni();
2404             s = scan_pat(s);
2405             TERM(sublex_start());
2406         }
2407         tmp = *s++;
2408         if (tmp == '/')
2409             Mop(OP_DIVIDE);
2410         OPERATOR(tmp);
2411
2412     case '.':
2413         if (lex_formbrack && lex_brackets == lex_formbrack && s[1] == '\n' &&
2414                 (s == linestart || s[-1] == '\n') ) {
2415             lex_formbrack = 0;
2416             expect = XSTATE;
2417             goto rightbracket;
2418         }
2419         if (expect == XOPERATOR || !isDIGIT(s[1])) {
2420             tmp = *s++;
2421             if (*s == tmp) {
2422                 s++;
2423                 if (*s == tmp) {
2424                     s++;
2425                     yylval.ival = OPf_SPECIAL;
2426                 }
2427                 else
2428                     yylval.ival = 0;
2429                 OPERATOR(DOTDOT);
2430             }
2431             if (expect != XOPERATOR)
2432                 check_uni();
2433             Aop(OP_CONCAT);
2434         }
2435         /* FALL THROUGH */
2436     case '0': case '1': case '2': case '3': case '4':
2437     case '5': case '6': case '7': case '8': case '9':
2438         s = scan_num(s);
2439         if (expect == XOPERATOR)
2440             no_op("Number",s);
2441         TERM(THING);
2442
2443     case '\'':
2444         s = scan_str(s);
2445         if (expect == XOPERATOR) {
2446             if (lex_formbrack && lex_brackets == lex_formbrack) {
2447                 expect = XTERM;
2448                 depcom();
2449                 return ',';     /* grandfather non-comma-format format */
2450             }
2451             else
2452                 no_op("String",s);
2453         }
2454         if (!s)
2455             missingterm((char*)0);
2456         yylval.ival = OP_CONST;
2457         TERM(sublex_start());
2458
2459     case '"':
2460         s = scan_str(s);
2461         if (expect == XOPERATOR) {
2462             if (lex_formbrack && lex_brackets == lex_formbrack) {
2463                 expect = XTERM;
2464                 depcom();
2465                 return ',';     /* grandfather non-comma-format format */
2466             }
2467             else
2468                 no_op("String",s);
2469         }
2470         if (!s)
2471             missingterm((char*)0);
2472         yylval.ival = OP_CONST;
2473         for (d = SvPV(lex_stuff, len); len; len--, d++) {
2474             if (*d == '$' || *d == '@' || *d == '\\') {
2475                 yylval.ival = OP_STRINGIFY;
2476                 break;
2477             }
2478         }
2479         TERM(sublex_start());
2480
2481     case '`':
2482         s = scan_str(s);
2483         if (expect == XOPERATOR)
2484             no_op("Backticks",s);
2485         if (!s)
2486             missingterm((char*)0);
2487         yylval.ival = OP_BACKTICK;
2488         set_csh();
2489         TERM(sublex_start());
2490
2491     case '\\':
2492         s++;
2493         if (dowarn && lex_inwhat && isDIGIT(*s))
2494             warn("Can't use \\%c to mean $%c in expression", *s, *s);
2495         if (expect == XOPERATOR)
2496             no_op("Backslash",s);
2497         OPERATOR(REFGEN);
2498
2499     case 'x':
2500         if (isDIGIT(s[1]) && expect == XOPERATOR) {
2501             s++;
2502             Mop(OP_REPEAT);
2503         }
2504         goto keylookup;
2505
2506     case '_':
2507     case 'a': case 'A':
2508     case 'b': case 'B':
2509     case 'c': case 'C':
2510     case 'd': case 'D':
2511     case 'e': case 'E':
2512     case 'f': case 'F':
2513     case 'g': case 'G':
2514     case 'h': case 'H':
2515     case 'i': case 'I':
2516     case 'j': case 'J':
2517     case 'k': case 'K':
2518     case 'l': case 'L':
2519     case 'm': case 'M':
2520     case 'n': case 'N':
2521     case 'o': case 'O':
2522     case 'p': case 'P':
2523     case 'q': case 'Q':
2524     case 'r': case 'R':
2525     case 's': case 'S':
2526     case 't': case 'T':
2527     case 'u': case 'U':
2528     case 'v': case 'V':
2529     case 'w': case 'W':
2530               case 'X':
2531     case 'y': case 'Y':
2532     case 'z': case 'Z':
2533
2534       keylookup:
2535         bufptr = s;
2536         s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2537
2538         /* Some keywords can be followed by any delimiter, including ':' */
2539         tmp = (len == 1 && strchr("msyq", tokenbuf[0]) ||
2540                len == 2 && ((tokenbuf[0] == 't' && tokenbuf[1] == 'r') ||
2541                             (tokenbuf[0] == 'q' &&
2542                              strchr("qwx", tokenbuf[1]))));
2543
2544         /* x::* is just a word, unless x is "CORE" */
2545         if (!tmp && *s == ':' && s[1] == ':' && strNE(tokenbuf, "CORE"))
2546             goto just_a_word;
2547
2548         d = s;
2549         while (d < bufend && isSPACE(*d))
2550                 d++;    /* no comments skipped here, or s### is misparsed */
2551
2552         /* Is this a label? */
2553         if (!tmp && expect == XSTATE
2554               && d < bufend && *d == ':' && *(d + 1) != ':') {
2555             s = d + 1;
2556             yylval.pval = savepv(tokenbuf);
2557             CLINE;
2558             TOKEN(LABEL);
2559         }
2560
2561         /* Check for keywords */
2562         tmp = keyword(tokenbuf, len);
2563
2564         /* Is this a word before a => operator? */
2565         if (strnEQ(d,"=>",2)) {
2566             CLINE;
2567             if (dowarn && (tmp || perl_get_cv(tokenbuf, FALSE)))
2568                 warn("Ambiguous use of %s => resolved to \"%s\" =>",
2569                         tokenbuf, tokenbuf);
2570             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2571             yylval.opval->op_private = OPpCONST_BARE;
2572             TERM(WORD);
2573         }
2574
2575         if (tmp < 0) {                  /* second-class keyword? */
2576             GV* gv;
2577             if (expect != XOPERATOR &&
2578                 (*s != ':' || s[1] != ':') &&
2579                 (gv = gv_fetchpv(tokenbuf, FALSE, SVt_PVCV)) &&
2580                 GvIMPORTED_CV(gv))
2581             {
2582                 tmp = 0;
2583             }
2584             else
2585                 tmp = -tmp;
2586         }
2587
2588       reserved_word:
2589         switch (tmp) {
2590
2591         default:                        /* not a keyword */
2592           just_a_word: {
2593                 GV *gv;
2594                 SV *sv;
2595                 char lastchar = (bufptr == oldoldbufptr ? 0 : bufptr[-1]);
2596
2597                 /* Get the rest if it looks like a package qualifier */
2598
2599                 if (*s == '\'' || *s == ':' && s[1] == ':') {
2600                     s = scan_word(s, tokenbuf + len, sizeof tokenbuf - len,
2601                                   TRUE, &len);
2602                     if (!len)
2603                         croak("Bad name after %s::", tokenbuf);
2604                 }
2605
2606                 if (expect == XOPERATOR) {
2607                     if (bufptr == linestart) {
2608                         curcop->cop_line--;
2609                         warn(warn_nosemi);
2610                         curcop->cop_line++;
2611                     }
2612                     else
2613                         no_op("Bareword",s);
2614                 }
2615
2616                 /* Look for a subroutine with this name in current package. */
2617
2618                 gv = gv_fetchpv(tokenbuf,FALSE, SVt_PVCV);
2619
2620                 /* Presume this is going to be a bareword of some sort. */
2621
2622                 CLINE;
2623                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2624                 yylval.opval->op_private = OPpCONST_BARE;
2625
2626                 /* See if it's the indirect object for a list operator. */
2627
2628                 if (oldoldbufptr &&
2629                     oldoldbufptr < bufptr &&
2630                     (oldoldbufptr == last_lop || oldoldbufptr == last_uni) &&
2631                     /* NO SKIPSPACE BEFORE HERE! */
2632                     (expect == XREF ||
2633                      (opargs[last_lop_op] >> OASHIFT & 7) == OA_FILEREF) )
2634                 {
2635                     bool immediate_paren = *s == '(';
2636
2637                     /* (Now we can afford to cross potential line boundary.) */
2638                     s = skipspace(s);
2639
2640                     /* Two barewords in a row may indicate method call. */
2641
2642                     if ((isALPHA(*s) || *s == '$') && (tmp=intuit_method(s,gv)))
2643                         return tmp;
2644
2645                     /* If not a declared subroutine, it's an indirect object. */
2646                     /* (But it's an indir obj regardless for sort.) */
2647
2648                     if ((last_lop_op == OP_SORT ||
2649                          (!immediate_paren && (!gv || !GvCVu(gv))) ) &&
2650                         (last_lop_op != OP_MAPSTART && last_lop_op != OP_GREPSTART)){
2651                         expect = (last_lop == oldoldbufptr) ? XTERM : XOPERATOR;
2652                         goto bareword;
2653                     }
2654                 }
2655
2656                 /* If followed by a paren, it's certainly a subroutine. */
2657
2658                 expect = XOPERATOR;
2659                 s = skipspace(s);
2660                 if (*s == '(') {
2661                     CLINE;
2662                     if (gv && GvCVu(gv)) {
2663                         for (d = s + 1; *d == ' ' || *d == '\t'; d++) ;
2664                         if (*d == ')' && (sv = cv_const_sv(GvCV(gv)))) {
2665                             s = d + 1;
2666                             goto its_constant;
2667                         }
2668                     }
2669                     nextval[nexttoke].opval = yylval.opval;
2670                     expect = XOPERATOR;
2671                     force_next(WORD);
2672                     yylval.ival = 0;
2673                     TOKEN('&');
2674                 }
2675
2676                 /* If followed by var or block, call it a method (unless sub) */
2677
2678                 if ((*s == '$' || *s == '{') && (!gv || !GvCVu(gv))) {
2679                     last_lop = oldbufptr;
2680                     last_lop_op = OP_METHOD;
2681                     PREBLOCK(METHOD);
2682                 }
2683
2684                 /* If followed by a bareword, see if it looks like indir obj. */
2685
2686                 if ((isALPHA(*s) || *s == '$') && (tmp = intuit_method(s,gv)))
2687                     return tmp;
2688
2689                 /* Not a method, so call it a subroutine (if defined) */
2690
2691                 if (gv && GvCVu(gv)) {
2692                     CV* cv;
2693                     if (lastchar == '-')
2694                         warn("Ambiguous use of -%s resolved as -&%s()",
2695                                 tokenbuf, tokenbuf);
2696                     last_lop = oldbufptr;
2697                     last_lop_op = OP_ENTERSUB;
2698                     /* Check for a constant sub */
2699                     cv = GvCV(gv);
2700                     if ((sv = cv_const_sv(cv))) {
2701                   its_constant:
2702                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
2703                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc(sv);
2704                         yylval.opval->op_private = 0;
2705                         TOKEN(WORD);
2706                     }
2707
2708                     /* Resolve to GV now. */
2709                     op_free(yylval.opval);
2710                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
2711                     /* Is there a prototype? */
2712                     if (SvPOK(cv)) {
2713                         STRLEN len;
2714                         char *proto = SvPV((SV*)cv, len);
2715                         if (!len)
2716                             TERM(FUNC0SUB);
2717                         if (strEQ(proto, "$"))
2718                             OPERATOR(UNIOPSUB);
2719                         if (*proto == '&' && *s == '{') {
2720                             sv_setpv(subname,"__ANON__");
2721                             PREBLOCK(LSTOPSUB);
2722                         }
2723                     }
2724                     nextval[nexttoke].opval = yylval.opval;
2725                     expect = XTERM;
2726                     force_next(WORD);
2727                     TOKEN(NOAMP);
2728                 }
2729
2730                 if (hints & HINT_STRICT_SUBS &&
2731                     lastchar != '-' &&
2732                     strnNE(s,"->",2) &&
2733                     last_lop_op != OP_TRUNCATE &&  /* S/F prototype in opcode.pl */
2734                     last_lop_op != OP_ACCEPT &&
2735                     last_lop_op != OP_PIPE_OP &&
2736                     last_lop_op != OP_SOCKPAIR)
2737                 {
2738                     warn(
2739                      "Bareword \"%s\" not allowed while \"strict subs\" in use",
2740                         tokenbuf);
2741                     ++error_count;
2742                 }
2743
2744                 /* Call it a bare word */
2745
2746             bareword:
2747                 if (dowarn) {
2748                     if (lastchar != '-') {
2749                         for (d = tokenbuf; *d && isLOWER(*d); d++) ;
2750                         if (!*d)
2751                             warn(warn_reserved, tokenbuf);
2752                     }
2753                 }
2754                 if (lastchar && strchr("*%&", lastchar)) {
2755                     warn("Operator or semicolon missing before %c%s",
2756                         lastchar, tokenbuf);
2757                     warn("Ambiguous use of %c resolved as operator %c",
2758                         lastchar, lastchar);
2759                 }
2760                 TOKEN(WORD);
2761             }
2762
2763         case KEY___FILE__:
2764             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2765                                         newSVsv(GvSV(curcop->cop_filegv)));
2766             TERM(THING);
2767
2768         case KEY___LINE__:
2769             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2770                                     newSVpvf("%ld", (long)curcop->cop_line));
2771             TERM(THING);
2772
2773         case KEY___PACKAGE__:
2774             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2775                                         (curstash
2776                                          ? newSVsv(curstname)
2777                                          : &sv_undef));
2778             TERM(THING);
2779
2780         case KEY___DATA__:
2781         case KEY___END__: {
2782             GV *gv;
2783
2784             /*SUPPRESS 560*/
2785             if (rsfp && (!in_eval || tokenbuf[2] == 'D')) {
2786                 char *pname = "main";
2787                 if (tokenbuf[2] == 'D')
2788                     pname = HvNAME(curstash ? curstash : defstash);
2789                 gv = gv_fetchpv(form("%s::DATA", pname), TRUE, SVt_PVIO);
2790                 GvMULTI_on(gv);
2791                 if (!GvIO(gv))
2792                     GvIOp(gv) = newIO();
2793                 IoIFP(GvIOp(gv)) = rsfp;
2794 #if defined(HAS_FCNTL) && defined(F_SETFD)
2795                 {
2796                     int fd = PerlIO_fileno(rsfp);
2797                     fcntl(fd,F_SETFD,fd >= 3);
2798                 }
2799 #endif
2800                 /* Mark this internal pseudo-handle as clean */
2801                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
2802                 if (preprocess)
2803                     IoTYPE(GvIOp(gv)) = '|';
2804                 else if ((PerlIO*)rsfp == PerlIO_stdin())
2805                     IoTYPE(GvIOp(gv)) = '-';
2806                 else
2807                     IoTYPE(GvIOp(gv)) = '<';
2808                 rsfp = Nullfp;
2809             }
2810             goto fake_eof;
2811         }
2812
2813         case KEY_AUTOLOAD:
2814         case KEY_DESTROY:
2815         case KEY_BEGIN:
2816         case KEY_END:
2817         case KEY_INIT:
2818             if (expect == XSTATE) {
2819                 s = bufptr;
2820                 goto really_sub;
2821             }
2822             goto just_a_word;
2823
2824         case KEY_CORE:
2825             if (*s == ':' && s[1] == ':') {
2826                 s += 2;
2827                 d = s;
2828                 s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2829                 tmp = keyword(tokenbuf, len);
2830                 if (tmp < 0)
2831                     tmp = -tmp;
2832                 goto reserved_word;
2833             }
2834             goto just_a_word;
2835
2836         case KEY_abs:
2837             UNI(OP_ABS);
2838
2839         case KEY_alarm:
2840             UNI(OP_ALARM);
2841
2842         case KEY_accept:
2843             LOP(OP_ACCEPT,XTERM);
2844
2845         case KEY_and:
2846             OPERATOR(ANDOP);
2847
2848         case KEY_atan2:
2849             LOP(OP_ATAN2,XTERM);
2850
2851         case KEY_bind:
2852             LOP(OP_BIND,XTERM);
2853
2854         case KEY_binmode:
2855             UNI(OP_BINMODE);
2856
2857         case KEY_bless:
2858             LOP(OP_BLESS,XTERM);
2859
2860         case KEY_chop:
2861             UNI(OP_CHOP);
2862
2863         case KEY_continue:
2864             PREBLOCK(CONTINUE);
2865
2866         case KEY_chdir:
2867             (void)gv_fetchpv("ENV",TRUE, SVt_PVHV);     /* may use HOME */
2868             UNI(OP_CHDIR);
2869
2870         case KEY_close:
2871             UNI(OP_CLOSE);
2872
2873         case KEY_closedir:
2874             UNI(OP_CLOSEDIR);
2875
2876         case KEY_cmp:
2877             Eop(OP_SCMP);
2878
2879         case KEY_caller:
2880             UNI(OP_CALLER);
2881
2882         case KEY_crypt:
2883 #ifdef FCRYPT
2884             if (!cryptseen++)
2885                 init_des();
2886 #endif
2887             LOP(OP_CRYPT,XTERM);
2888
2889         case KEY_chmod:
2890             if (dowarn) {
2891                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
2892                 if (*d != '0' && isDIGIT(*d))
2893                     yywarn("chmod: mode argument is missing initial 0");
2894             }
2895             LOP(OP_CHMOD,XTERM);
2896
2897         case KEY_chown:
2898             LOP(OP_CHOWN,XTERM);
2899
2900         case KEY_connect:
2901             LOP(OP_CONNECT,XTERM);
2902
2903         case KEY_chr:
2904             UNI(OP_CHR);
2905
2906         case KEY_cos:
2907             UNI(OP_COS);
2908
2909         case KEY_chroot:
2910             UNI(OP_CHROOT);
2911
2912         case KEY_do:
2913             s = skipspace(s);
2914             if (*s == '{')
2915                 PRETERMBLOCK(DO);
2916             if (*s != '\'')
2917                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
2918             OPERATOR(DO);
2919
2920         case KEY_die:
2921             hints |= HINT_BLOCK_SCOPE;
2922             LOP(OP_DIE,XTERM);
2923
2924         case KEY_defined:
2925             UNI(OP_DEFINED);
2926
2927         case KEY_delete:
2928             UNI(OP_DELETE);
2929
2930         case KEY_dbmopen:
2931             gv_fetchpv("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
2932             LOP(OP_DBMOPEN,XTERM);
2933
2934         case KEY_dbmclose:
2935             UNI(OP_DBMCLOSE);
2936
2937         case KEY_dump:
2938             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2939             LOOPX(OP_DUMP);
2940
2941         case KEY_else:
2942             PREBLOCK(ELSE);
2943
2944         case KEY_elsif:
2945             yylval.ival = curcop->cop_line;
2946             OPERATOR(ELSIF);
2947
2948         case KEY_eq:
2949             Eop(OP_SEQ);
2950
2951         case KEY_exists:
2952             UNI(OP_EXISTS);
2953             
2954         case KEY_exit:
2955             UNI(OP_EXIT);
2956
2957         case KEY_eval:
2958             s = skipspace(s);
2959             expect = (*s == '{') ? XTERMBLOCK : XTERM;
2960             UNIBRACK(OP_ENTEREVAL);
2961
2962         case KEY_eof:
2963             UNI(OP_EOF);
2964
2965         case KEY_exp:
2966             UNI(OP_EXP);
2967
2968         case KEY_each:
2969             UNI(OP_EACH);
2970
2971         case KEY_exec:
2972             set_csh();
2973             LOP(OP_EXEC,XREF);
2974
2975         case KEY_endhostent:
2976             FUN0(OP_EHOSTENT);
2977
2978         case KEY_endnetent:
2979             FUN0(OP_ENETENT);
2980
2981         case KEY_endservent:
2982             FUN0(OP_ESERVENT);
2983
2984         case KEY_endprotoent:
2985             FUN0(OP_EPROTOENT);
2986
2987         case KEY_endpwent:
2988             FUN0(OP_EPWENT);
2989
2990         case KEY_endgrent:
2991             FUN0(OP_EGRENT);
2992
2993         case KEY_for:
2994         case KEY_foreach:
2995             yylval.ival = curcop->cop_line;
2996             s = skipspace(s);
2997             if (isIDFIRST(*s)) {
2998                 char *p = s;
2999                 if ((bufend - p) >= 3 &&
3000                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
3001                     p += 2;
3002                 p = skipspace(p);
3003                 if (isIDFIRST(*p))
3004                     croak("Missing $ on loop variable");
3005             }
3006             OPERATOR(FOR);
3007
3008         case KEY_formline:
3009             LOP(OP_FORMLINE,XTERM);
3010
3011         case KEY_fork:
3012             FUN0(OP_FORK);
3013
3014         case KEY_fcntl:
3015             LOP(OP_FCNTL,XTERM);
3016
3017         case KEY_fileno:
3018             UNI(OP_FILENO);
3019
3020         case KEY_flock:
3021             LOP(OP_FLOCK,XTERM);
3022
3023         case KEY_gt:
3024             Rop(OP_SGT);
3025
3026         case KEY_ge:
3027             Rop(OP_SGE);
3028
3029         case KEY_grep:
3030             LOP(OP_GREPSTART, *s == '(' ? XTERM : XREF);
3031
3032         case KEY_goto:
3033             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3034             LOOPX(OP_GOTO);
3035
3036         case KEY_gmtime:
3037             UNI(OP_GMTIME);
3038
3039         case KEY_getc:
3040             UNI(OP_GETC);
3041
3042         case KEY_getppid:
3043             FUN0(OP_GETPPID);
3044
3045         case KEY_getpgrp:
3046             UNI(OP_GETPGRP);
3047
3048         case KEY_getpriority:
3049             LOP(OP_GETPRIORITY,XTERM);
3050
3051         case KEY_getprotobyname:
3052             UNI(OP_GPBYNAME);
3053
3054         case KEY_getprotobynumber:
3055             LOP(OP_GPBYNUMBER,XTERM);
3056
3057         case KEY_getprotoent:
3058             FUN0(OP_GPROTOENT);
3059
3060         case KEY_getpwent:
3061             FUN0(OP_GPWENT);
3062
3063         case KEY_getpwnam:
3064             UNI(OP_GPWNAM);
3065
3066         case KEY_getpwuid:
3067             UNI(OP_GPWUID);
3068
3069         case KEY_getpeername:
3070             UNI(OP_GETPEERNAME);
3071
3072         case KEY_gethostbyname:
3073             UNI(OP_GHBYNAME);
3074
3075         case KEY_gethostbyaddr:
3076             LOP(OP_GHBYADDR,XTERM);
3077
3078         case KEY_gethostent:
3079             FUN0(OP_GHOSTENT);
3080
3081         case KEY_getnetbyname:
3082             UNI(OP_GNBYNAME);
3083
3084         case KEY_getnetbyaddr:
3085             LOP(OP_GNBYADDR,XTERM);
3086
3087         case KEY_getnetent:
3088             FUN0(OP_GNETENT);
3089
3090         case KEY_getservbyname:
3091             LOP(OP_GSBYNAME,XTERM);
3092
3093         case KEY_getservbyport:
3094             LOP(OP_GSBYPORT,XTERM);
3095
3096         case KEY_getservent:
3097             FUN0(OP_GSERVENT);
3098
3099         case KEY_getsockname:
3100             UNI(OP_GETSOCKNAME);
3101
3102         case KEY_getsockopt:
3103             LOP(OP_GSOCKOPT,XTERM);
3104
3105         case KEY_getgrent:
3106             FUN0(OP_GGRENT);
3107
3108         case KEY_getgrnam:
3109             UNI(OP_GGRNAM);
3110
3111         case KEY_getgrgid:
3112             UNI(OP_GGRGID);
3113
3114         case KEY_getlogin:
3115             FUN0(OP_GETLOGIN);
3116
3117         case KEY_glob:
3118             set_csh();
3119             LOP(OP_GLOB,XTERM);
3120
3121         case KEY_hex:
3122             UNI(OP_HEX);
3123
3124         case KEY_if:
3125             yylval.ival = curcop->cop_line;
3126             OPERATOR(IF);
3127
3128         case KEY_index:
3129             LOP(OP_INDEX,XTERM);
3130
3131         case KEY_int:
3132             UNI(OP_INT);
3133
3134         case KEY_ioctl:
3135             LOP(OP_IOCTL,XTERM);
3136
3137         case KEY_join:
3138             LOP(OP_JOIN,XTERM);
3139
3140         case KEY_keys:
3141             UNI(OP_KEYS);
3142
3143         case KEY_kill:
3144             LOP(OP_KILL,XTERM);
3145
3146         case KEY_last:
3147             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3148             LOOPX(OP_LAST);
3149             
3150         case KEY_lc:
3151             UNI(OP_LC);
3152
3153         case KEY_lcfirst:
3154             UNI(OP_LCFIRST);
3155
3156         case KEY_local:
3157             OPERATOR(LOCAL);
3158
3159         case KEY_length:
3160             UNI(OP_LENGTH);
3161
3162         case KEY_lt:
3163             Rop(OP_SLT);
3164
3165         case KEY_le:
3166             Rop(OP_SLE);
3167
3168         case KEY_localtime:
3169             UNI(OP_LOCALTIME);
3170
3171         case KEY_log:
3172             UNI(OP_LOG);
3173
3174         case KEY_link:
3175             LOP(OP_LINK,XTERM);
3176
3177         case KEY_listen:
3178             LOP(OP_LISTEN,XTERM);
3179
3180         case KEY_lock:
3181             UNI(OP_LOCK);
3182
3183         case KEY_lstat:
3184             UNI(OP_LSTAT);
3185
3186         case KEY_m:
3187             s = scan_pat(s);
3188             TERM(sublex_start());
3189
3190         case KEY_map:
3191             LOP(OP_MAPSTART,XREF);
3192             
3193         case KEY_mkdir:
3194             LOP(OP_MKDIR,XTERM);
3195
3196         case KEY_msgctl:
3197             LOP(OP_MSGCTL,XTERM);
3198
3199         case KEY_msgget:
3200             LOP(OP_MSGGET,XTERM);
3201
3202         case KEY_msgrcv:
3203             LOP(OP_MSGRCV,XTERM);
3204
3205         case KEY_msgsnd:
3206             LOP(OP_MSGSND,XTERM);
3207
3208         case KEY_my:
3209             in_my = TRUE;
3210             s = skipspace(s);
3211             if (isIDFIRST(*s)) {
3212                 s = scan_word(s, tokenbuf, sizeof tokenbuf, TRUE, &len);
3213                 in_my_stash = gv_stashpv(tokenbuf, FALSE);
3214                 if (!in_my_stash) {
3215                     char tmpbuf[1024];
3216                     bufptr = s;
3217                     sprintf(tmpbuf, "No such class %.1000s", tokenbuf);
3218                     yyerror(tmpbuf);
3219                 }
3220             }
3221             OPERATOR(MY);
3222
3223         case KEY_next:
3224             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3225             LOOPX(OP_NEXT);
3226
3227         case KEY_ne:
3228             Eop(OP_SNE);
3229
3230         case KEY_no:
3231             if (expect != XSTATE)
3232                 yyerror("\"no\" not allowed in expression");
3233             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3234             s = force_version(s);
3235             yylval.ival = 0;
3236             OPERATOR(USE);
3237
3238         case KEY_not:
3239             OPERATOR(NOTOP);
3240
3241         case KEY_open:
3242             s = skipspace(s);
3243             if (isIDFIRST(*s)) {
3244                 char *t;
3245                 for (d = s; isALNUM(*d); d++) ;
3246                 t = skipspace(d);
3247                 if (strchr("|&*+-=!?:.", *t))
3248                     warn("Precedence problem: open %.*s should be open(%.*s)",
3249                         d-s,s, d-s,s);
3250             }
3251             LOP(OP_OPEN,XTERM);
3252
3253         case KEY_or:
3254             yylval.ival = OP_OR;
3255             OPERATOR(OROP);
3256
3257         case KEY_ord:
3258             UNI(OP_ORD);
3259
3260         case KEY_oct:
3261             UNI(OP_OCT);
3262
3263         case KEY_opendir:
3264             LOP(OP_OPEN_DIR,XTERM);
3265
3266         case KEY_print:
3267             checkcomma(s,tokenbuf,"filehandle");
3268             LOP(OP_PRINT,XREF);
3269
3270         case KEY_printf:
3271             checkcomma(s,tokenbuf,"filehandle");
3272             LOP(OP_PRTF,XREF);
3273
3274         case KEY_prototype:
3275             UNI(OP_PROTOTYPE);
3276
3277         case KEY_push:
3278             LOP(OP_PUSH,XTERM);
3279
3280         case KEY_pop:
3281             UNI(OP_POP);
3282
3283         case KEY_pos:
3284             UNI(OP_POS);
3285             
3286         case KEY_pack:
3287             LOP(OP_PACK,XTERM);
3288
3289         case KEY_package:
3290             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3291             OPERATOR(PACKAGE);
3292
3293         case KEY_pipe:
3294             LOP(OP_PIPE_OP,XTERM);
3295
3296         case KEY_q:
3297             s = scan_str(s);
3298             if (!s)
3299                 missingterm((char*)0);
3300             yylval.ival = OP_CONST;
3301             TERM(sublex_start());
3302
3303         case KEY_quotemeta:
3304             UNI(OP_QUOTEMETA);
3305
3306         case KEY_qw:
3307             s = scan_str(s);
3308             if (!s)
3309                 missingterm((char*)0);
3310             if (dowarn && SvLEN(lex_stuff)) {
3311                 d = SvPV_force(lex_stuff, len);
3312                 for (; len; --len, ++d) {
3313                     if (*d == ',') {
3314                         warn("Possible attempt to separate words with commas");
3315                         break;
3316                     }
3317                     if (*d == '#') {
3318                         warn("Possible attempt to put comments in qw() list");
3319                         break;
3320                     }
3321                 }
3322             }
3323             force_next(')');
3324             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, q(lex_stuff));
3325             lex_stuff = Nullsv;
3326             force_next(THING);
3327             force_next(',');
3328             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(" ",1));
3329             force_next(THING);
3330             force_next('(');
3331             yylval.ival = OP_SPLIT;
3332             CLINE;
3333             expect = XTERM;
3334             bufptr = s;
3335             last_lop = oldbufptr;
3336             last_lop_op = OP_SPLIT;
3337             return FUNC;
3338
3339         case KEY_qq:
3340             s = scan_str(s);
3341             if (!s)
3342                 missingterm((char*)0);
3343             yylval.ival = OP_STRINGIFY;
3344             if (SvIVX(lex_stuff) == '\'')
3345                 SvIVX(lex_stuff) = 0;   /* qq'$foo' should intepolate */
3346             TERM(sublex_start());
3347
3348         case KEY_qx:
3349             s = scan_str(s);
3350             if (!s)
3351                 missingterm((char*)0);
3352             yylval.ival = OP_BACKTICK;
3353             set_csh();
3354             TERM(sublex_start());
3355
3356         case KEY_return:
3357             OLDLOP(OP_RETURN);
3358
3359         case KEY_require:
3360             *tokenbuf = '\0';
3361             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3362             if (isIDFIRST(*tokenbuf))
3363                 gv_stashpvn(tokenbuf, strlen(tokenbuf), TRUE);
3364             else if (*s == '<')
3365                 yyerror("<> should be quotes");
3366             UNI(OP_REQUIRE);
3367
3368         case KEY_reset:
3369             UNI(OP_RESET);
3370
3371         case KEY_redo:
3372             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3373             LOOPX(OP_REDO);
3374
3375         case KEY_rename:
3376             LOP(OP_RENAME,XTERM);
3377
3378         case KEY_rand:
3379             UNI(OP_RAND);
3380
3381         case KEY_rmdir:
3382             UNI(OP_RMDIR);
3383
3384         case KEY_rindex:
3385             LOP(OP_RINDEX,XTERM);
3386
3387         case KEY_read:
3388             LOP(OP_READ,XTERM);
3389
3390         case KEY_readdir:
3391             UNI(OP_READDIR);
3392
3393         case KEY_readline:
3394             set_csh();
3395             UNI(OP_READLINE);
3396
3397         case KEY_readpipe:
3398             set_csh();
3399             UNI(OP_BACKTICK);
3400
3401         case KEY_rewinddir:
3402             UNI(OP_REWINDDIR);
3403
3404         case KEY_recv:
3405             LOP(OP_RECV,XTERM);
3406
3407         case KEY_reverse:
3408             LOP(OP_REVERSE,XTERM);
3409
3410         case KEY_readlink:
3411             UNI(OP_READLINK);
3412
3413         case KEY_ref:
3414             UNI(OP_REF);
3415
3416         case KEY_s:
3417             s = scan_subst(s);
3418             if (yylval.opval)
3419                 TERM(sublex_start());
3420             else
3421                 TOKEN(1);       /* force error */
3422
3423         case KEY_chomp:
3424             UNI(OP_CHOMP);
3425             
3426         case KEY_scalar:
3427             UNI(OP_SCALAR);
3428
3429         case KEY_select:
3430             LOP(OP_SELECT,XTERM);
3431
3432         case KEY_seek:
3433             LOP(OP_SEEK,XTERM);
3434
3435         case KEY_semctl:
3436             LOP(OP_SEMCTL,XTERM);
3437
3438         case KEY_semget:
3439             LOP(OP_SEMGET,XTERM);
3440
3441         case KEY_semop:
3442             LOP(OP_SEMOP,XTERM);
3443
3444         case KEY_send:
3445             LOP(OP_SEND,XTERM);
3446
3447         case KEY_setpgrp:
3448             LOP(OP_SETPGRP,XTERM);
3449
3450         case KEY_setpriority:
3451             LOP(OP_SETPRIORITY,XTERM);
3452
3453         case KEY_sethostent:
3454             UNI(OP_SHOSTENT);
3455
3456         case KEY_setnetent:
3457             UNI(OP_SNETENT);
3458
3459         case KEY_setservent:
3460             UNI(OP_SSERVENT);
3461
3462         case KEY_setprotoent:
3463             UNI(OP_SPROTOENT);
3464
3465         case KEY_setpwent:
3466             FUN0(OP_SPWENT);
3467
3468         case KEY_setgrent:
3469             FUN0(OP_SGRENT);
3470
3471         case KEY_seekdir:
3472             LOP(OP_SEEKDIR,XTERM);
3473
3474         case KEY_setsockopt:
3475             LOP(OP_SSOCKOPT,XTERM);
3476
3477         case KEY_shift:
3478             UNI(OP_SHIFT);
3479
3480         case KEY_shmctl:
3481             LOP(OP_SHMCTL,XTERM);
3482
3483         case KEY_shmget:
3484             LOP(OP_SHMGET,XTERM);
3485
3486         case KEY_shmread:
3487             LOP(OP_SHMREAD,XTERM);
3488
3489         case KEY_shmwrite:
3490             LOP(OP_SHMWRITE,XTERM);
3491
3492         case KEY_shutdown:
3493             LOP(OP_SHUTDOWN,XTERM);
3494
3495         case KEY_sin:
3496             UNI(OP_SIN);
3497
3498         case KEY_sleep:
3499             UNI(OP_SLEEP);
3500
3501         case KEY_socket:
3502             LOP(OP_SOCKET,XTERM);
3503
3504         case KEY_socketpair:
3505             LOP(OP_SOCKPAIR,XTERM);
3506
3507         case KEY_sort:
3508             checkcomma(s,tokenbuf,"subroutine name");
3509             s = skipspace(s);
3510             if (*s == ';' || *s == ')')         /* probably a close */
3511                 croak("sort is now a reserved word");
3512             expect = XTERM;
3513             s = force_word(s,WORD,TRUE,TRUE,TRUE);
3514             LOP(OP_SORT,XREF);
3515
3516         case KEY_split:
3517             LOP(OP_SPLIT,XTERM);
3518
3519         case KEY_sprintf:
3520             LOP(OP_SPRINTF,XTERM);
3521
3522         case KEY_splice:
3523             LOP(OP_SPLICE,XTERM);
3524
3525         case KEY_sqrt:
3526             UNI(OP_SQRT);
3527
3528         case KEY_srand:
3529             UNI(OP_SRAND);
3530
3531         case KEY_stat:
3532             UNI(OP_STAT);
3533
3534         case KEY_study:
3535             sawstudy++;
3536             UNI(OP_STUDY);
3537
3538         case KEY_substr:
3539             LOP(OP_SUBSTR,XTERM);
3540
3541         case KEY_format:
3542         case KEY_sub:
3543           really_sub:
3544             s = skipspace(s);
3545
3546             if (isIDFIRST(*s) || *s == '\'' || *s == ':') {
3547                 char tmpbuf[sizeof tokenbuf];
3548                 expect = XBLOCK;
3549                 d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
3550                 if (strchr(tmpbuf, ':'))
3551                     sv_setpv(subname, tmpbuf);
3552                 else {
3553                     sv_setsv(subname,curstname);
3554                     sv_catpvn(subname,"::",2);
3555                     sv_catpvn(subname,tmpbuf,len);
3556                 }
3557                 s = force_word(s,WORD,FALSE,TRUE,TRUE);
3558                 s = skipspace(s);
3559             }
3560             else {
3561                 expect = XTERMBLOCK;
3562                 sv_setpv(subname,"?");
3563             }
3564
3565             if (tmp == KEY_format) {
3566                 s = skipspace(s);
3567                 if (*s == '=')
3568                     lex_formbrack = lex_brackets + 1;
3569                 OPERATOR(FORMAT);
3570             }
3571
3572             /* Look for a prototype */
3573             if (*s == '(') {
3574                 char *p;
3575
3576                 s = scan_str(s);
3577                 if (!s) {
3578                     if (lex_stuff)
3579                         SvREFCNT_dec(lex_stuff);
3580                     lex_stuff = Nullsv;
3581                     croak("Prototype not terminated");
3582                 }
3583                 /* strip spaces */
3584                 d = SvPVX(lex_stuff);
3585                 tmp = 0;
3586                 for (p = d; *p; ++p) {
3587                     if (!isSPACE(*p))
3588                         d[tmp++] = *p;
3589                 }
3590                 d[tmp] = '\0';
3591                 SvCUR(lex_stuff) = tmp;
3592
3593                 nexttoke++;
3594                 nextval[1] = nextval[0];
3595                 nexttype[1] = nexttype[0];
3596                 nextval[0].opval = (OP*)newSVOP(OP_CONST, 0, lex_stuff);
3597                 nexttype[0] = THING;
3598                 if (nexttoke == 1) {
3599                     lex_defer = lex_state;
3600                     lex_expect = expect;
3601                     lex_state = LEX_KNOWNEXT;
3602                 }
3603                 lex_stuff = Nullsv;
3604             }
3605
3606             if (*SvPV(subname,na) == '?') {
3607                 sv_setpv(subname,"__ANON__");
3608                 TOKEN(ANONSUB);
3609             }
3610             PREBLOCK(SUB);
3611
3612         case KEY_system:
3613             set_csh();
3614             LOP(OP_SYSTEM,XREF);
3615
3616         case KEY_symlink:
3617             LOP(OP_SYMLINK,XTERM);
3618
3619         case KEY_syscall:
3620             LOP(OP_SYSCALL,XTERM);
3621
3622         case KEY_sysopen:
3623             LOP(OP_SYSOPEN,XTERM);
3624
3625         case KEY_sysseek:
3626             LOP(OP_SYSSEEK,XTERM);
3627
3628         case KEY_sysread:
3629             LOP(OP_SYSREAD,XTERM);
3630
3631         case KEY_syswrite:
3632             LOP(OP_SYSWRITE,XTERM);
3633
3634         case KEY_tr:
3635             s = scan_trans(s);
3636             TERM(sublex_start());
3637
3638         case KEY_tell:
3639             UNI(OP_TELL);
3640
3641         case KEY_telldir:
3642             UNI(OP_TELLDIR);
3643
3644         case KEY_tie:
3645             LOP(OP_TIE,XTERM);
3646
3647         case KEY_tied:
3648             UNI(OP_TIED);
3649
3650         case KEY_time:
3651             FUN0(OP_TIME);
3652
3653         case KEY_times:
3654             FUN0(OP_TMS);
3655
3656         case KEY_truncate:
3657             LOP(OP_TRUNCATE,XTERM);
3658
3659         case KEY_uc:
3660             UNI(OP_UC);
3661
3662         case KEY_ucfirst:
3663             UNI(OP_UCFIRST);
3664
3665         case KEY_untie:
3666             UNI(OP_UNTIE);
3667
3668         case KEY_until:
3669             yylval.ival = curcop->cop_line;
3670             OPERATOR(UNTIL);
3671
3672         case KEY_unless:
3673             yylval.ival = curcop->cop_line;
3674             OPERATOR(UNLESS);
3675
3676         case KEY_unlink:
3677             LOP(OP_UNLINK,XTERM);
3678
3679         case KEY_undef:
3680             UNI(OP_UNDEF);
3681
3682         case KEY_unpack:
3683             LOP(OP_UNPACK,XTERM);
3684
3685         case KEY_utime:
3686             LOP(OP_UTIME,XTERM);
3687
3688         case KEY_umask:
3689             if (dowarn) {
3690                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
3691                 if (*d != '0' && isDIGIT(*d))
3692                     yywarn("umask: argument is missing initial 0");
3693             }
3694             UNI(OP_UMASK);
3695
3696         case KEY_unshift:
3697             LOP(OP_UNSHIFT,XTERM);
3698
3699         case KEY_use:
3700             if (expect != XSTATE)
3701                 yyerror("\"use\" not allowed in expression");
3702             s = skipspace(s);
3703             if(isDIGIT(*s)) {
3704                 s = force_version(s);
3705                 if(*s == ';' || (s = skipspace(s), *s == ';')) {
3706                     nextval[nexttoke].opval = Nullop;
3707                     force_next(WORD);
3708                 }
3709             }
3710             else {
3711                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
3712                 s = force_version(s);
3713             }
3714             yylval.ival = 1;
3715             OPERATOR(USE);
3716
3717         case KEY_values:
3718             UNI(OP_VALUES);
3719
3720         case KEY_vec:
3721             sawvec = TRUE;
3722             LOP(OP_VEC,XTERM);
3723
3724         case KEY_while:
3725             yylval.ival = curcop->cop_line;
3726             OPERATOR(WHILE);
3727
3728         case KEY_warn:
3729             hints |= HINT_BLOCK_SCOPE;
3730             LOP(OP_WARN,XTERM);
3731
3732         case KEY_wait:
3733             FUN0(OP_WAIT);
3734
3735         case KEY_waitpid:
3736             LOP(OP_WAITPID,XTERM);
3737
3738         case KEY_wantarray:
3739             FUN0(OP_WANTARRAY);
3740
3741         case KEY_write:
3742             gv_fetchpv("\f",TRUE, SVt_PV);      /* Make sure $^L is defined */
3743             UNI(OP_ENTERWRITE);
3744
3745         case KEY_x:
3746             if (expect == XOPERATOR)
3747                 Mop(OP_REPEAT);
3748             check_uni();
3749             goto just_a_word;
3750
3751         case KEY_xor:
3752             yylval.ival = OP_XOR;
3753             OPERATOR(OROP);
3754
3755         case KEY_y:
3756             s = scan_trans(s);
3757             TERM(sublex_start());
3758         }
3759     }
3760 }
3761
3762 I32
3763 keyword(d, len)
3764 register char *d;
3765 I32 len;
3766 {
3767     switch (*d) {
3768     case '_':
3769         if (d[1] == '_') {
3770             if (strEQ(d,"__FILE__"))            return -KEY___FILE__;
3771             if (strEQ(d,"__LINE__"))            return -KEY___LINE__;
3772             if (strEQ(d,"__PACKAGE__"))         return -KEY___PACKAGE__;
3773             if (strEQ(d,"__DATA__"))            return KEY___DATA__;
3774             if (strEQ(d,"__END__"))             return KEY___END__;
3775         }
3776         break;
3777     case 'A':
3778         if (strEQ(d,"AUTOLOAD"))                return KEY_AUTOLOAD;
3779         break;
3780     case 'a':
3781         switch (len) {
3782         case 3:
3783             if (strEQ(d,"and"))                 return -KEY_and;
3784             if (strEQ(d,"abs"))                 return -KEY_abs;
3785             break;
3786         case 5:
3787             if (strEQ(d,"alarm"))               return -KEY_alarm;
3788             if (strEQ(d,"atan2"))               return -KEY_atan2;
3789             break;
3790         case 6:
3791             if (strEQ(d,"accept"))              return -KEY_accept;
3792             break;
3793         }
3794         break;
3795     case 'B':
3796         if (strEQ(d,"BEGIN"))                   return KEY_BEGIN;
3797         break;
3798     case 'b':
3799         if (strEQ(d,"bless"))                   return -KEY_bless;
3800         if (strEQ(d,"bind"))                    return -KEY_bind;
3801         if (strEQ(d,"binmode"))                 return -KEY_binmode;
3802         break;
3803     case 'C':
3804         if (strEQ(d,"CORE"))                    return -KEY_CORE;
3805         break;
3806     case 'c':
3807         switch (len) {
3808         case 3:
3809             if (strEQ(d,"cmp"))                 return -KEY_cmp;
3810             if (strEQ(d,"chr"))                 return -KEY_chr;
3811             if (strEQ(d,"cos"))                 return -KEY_cos;
3812             break;
3813         case 4:
3814             if (strEQ(d,"chop"))                return KEY_chop;
3815             break;
3816         case 5:
3817             if (strEQ(d,"close"))               return -KEY_close;
3818             if (strEQ(d,"chdir"))               return -KEY_chdir;
3819             if (strEQ(d,"chomp"))               return KEY_chomp;
3820             if (strEQ(d,"chmod"))               return -KEY_chmod;
3821             if (strEQ(d,"chown"))               return -KEY_chown;
3822             if (strEQ(d,"crypt"))               return -KEY_crypt;
3823             break;
3824         case 6:
3825             if (strEQ(d,"chroot"))              return -KEY_chroot;
3826             if (strEQ(d,"caller"))              return -KEY_caller;
3827             break;
3828         case 7:
3829             if (strEQ(d,"connect"))             return -KEY_connect;
3830             break;
3831         case 8:
3832             if (strEQ(d,"closedir"))            return -KEY_closedir;
3833             if (strEQ(d,"continue"))            return -KEY_continue;
3834             break;
3835         }
3836         break;
3837     case 'D':
3838         if (strEQ(d,"DESTROY"))                 return KEY_DESTROY;
3839         break;
3840     case 'd':
3841         switch (len) {
3842         case 2:
3843             if (strEQ(d,"do"))                  return KEY_do;
3844             break;
3845         case 3:
3846             if (strEQ(d,"die"))                 return -KEY_die;
3847             break;
3848         case 4:
3849             if (strEQ(d,"dump"))                return -KEY_dump;
3850             break;
3851         case 6:
3852             if (strEQ(d,"delete"))              return KEY_delete;
3853             break;
3854         case 7:
3855             if (strEQ(d,"defined"))             return KEY_defined;
3856             if (strEQ(d,"dbmopen"))             return -KEY_dbmopen;
3857             break;
3858         case 8:
3859             if (strEQ(d,"dbmclose"))            return -KEY_dbmclose;
3860             break;
3861         }
3862         break;
3863     case 'E':
3864         if (strEQ(d,"EQ")) { deprecate(d);      return -KEY_eq;}
3865         if (strEQ(d,"END"))                     return KEY_END;
3866         break;
3867     case 'e':
3868         switch (len) {
3869         case 2:
3870             if (strEQ(d,"eq"))                  return -KEY_eq;
3871             break;
3872         case 3:
3873             if (strEQ(d,"eof"))                 return -KEY_eof;
3874             if (strEQ(d,"exp"))                 return -KEY_exp;
3875             break;
3876         case 4:
3877             if (strEQ(d,"else"))                return KEY_else;
3878             if (strEQ(d,"exit"))                return -KEY_exit;
3879             if (strEQ(d,"eval"))                return KEY_eval;
3880             if (strEQ(d,"exec"))                return -KEY_exec;
3881             if (strEQ(d,"each"))                return KEY_each;
3882             break;
3883         case 5:
3884             if (strEQ(d,"elsif"))               return KEY_elsif;
3885             break;
3886         case 6:
3887             if (strEQ(d,"exists"))              return KEY_exists;
3888             if (strEQ(d,"elseif")) warn("elseif should be elsif");
3889             break;
3890         case 8:
3891             if (strEQ(d,"endgrent"))            return -KEY_endgrent;
3892             if (strEQ(d,"endpwent"))            return -KEY_endpwent;
3893             break;
3894         case 9:
3895             if (strEQ(d,"endnetent"))           return -KEY_endnetent;
3896             break;
3897         case 10:
3898             if (strEQ(d,"endhostent"))          return -KEY_endhostent;
3899             if (strEQ(d,"endservent"))          return -KEY_endservent;
3900             break;
3901         case 11:
3902             if (strEQ(d,"endprotoent"))         return -KEY_endprotoent;
3903             break;
3904         }
3905         break;
3906     case 'f':
3907         switch (len) {
3908         case 3:
3909             if (strEQ(d,"for"))                 return KEY_for;
3910             break;
3911         case 4:
3912             if (strEQ(d,"fork"))                return -KEY_fork;
3913             break;
3914         case 5:
3915             if (strEQ(d,"fcntl"))               return -KEY_fcntl;
3916             if (strEQ(d,"flock"))               return -KEY_flock;
3917             break;
3918         case 6:
3919             if (strEQ(d,"format"))              return KEY_format;
3920             if (strEQ(d,"fileno"))              return -KEY_fileno;
3921             break;
3922         case 7:
3923             if (strEQ(d,"foreach"))             return KEY_foreach;
3924             break;
3925         case 8:
3926             if (strEQ(d,"formline"))            return -KEY_formline;
3927             break;
3928         }
3929         break;
3930     case 'G':
3931         if (len == 2) {
3932             if (strEQ(d,"GT")) { deprecate(d);  return -KEY_gt;}
3933             if (strEQ(d,"GE")) { deprecate(d);  return -KEY_ge;}
3934         }
3935         break;
3936     case 'g':
3937         if (strnEQ(d,"get",3)) {
3938             d += 3;
3939             if (*d == 'p') {
3940                 switch (len) {
3941                 case 7:
3942                     if (strEQ(d,"ppid"))        return -KEY_getppid;
3943                     if (strEQ(d,"pgrp"))        return -KEY_getpgrp;
3944                     break;
3945                 case 8:
3946                     if (strEQ(d,"pwent"))       return -KEY_getpwent;
3947                     if (strEQ(d,"pwnam"))       return -KEY_getpwnam;
3948                     if (strEQ(d,"pwuid"))       return -KEY_getpwuid;
3949                     break;
3950                 case 11:
3951                     if (strEQ(d,"peername"))    return -KEY_getpeername;
3952                     if (strEQ(d,"protoent"))    return -KEY_getprotoent;
3953                     if (strEQ(d,"priority"))    return -KEY_getpriority;
3954                     break;
3955                 case 14:
3956                     if (strEQ(d,"protobyname")) return -KEY_getprotobyname;
3957                     break;
3958                 case 16:
3959                     if (strEQ(d,"protobynumber"))return -KEY_getprotobynumber;
3960                     break;
3961                 }
3962             }
3963             else if (*d == 'h') {
3964                 if (strEQ(d,"hostbyname"))      return -KEY_gethostbyname;
3965                 if (strEQ(d,"hostbyaddr"))      return -KEY_gethostbyaddr;
3966                 if (strEQ(d,"hostent"))         return -KEY_gethostent;
3967             }
3968             else if (*d == 'n') {
3969                 if (strEQ(d,"netbyname"))       return -KEY_getnetbyname;
3970                 if (strEQ(d,"netbyaddr"))       return -KEY_getnetbyaddr;
3971                 if (strEQ(d,"netent"))          return -KEY_getnetent;
3972             }
3973             else if (*d == 's') {
3974                 if (strEQ(d,"servbyname"))      return -KEY_getservbyname;
3975                 if (strEQ(d,"servbyport"))      return -KEY_getservbyport;
3976                 if (strEQ(d,"servent"))         return -KEY_getservent;
3977                 if (strEQ(d,"sockname"))        return -KEY_getsockname;
3978                 if (strEQ(d,"sockopt"))         return -KEY_getsockopt;
3979             }
3980             else if (*d == 'g') {
3981                 if (strEQ(d,"grent"))           return -KEY_getgrent;
3982                 if (strEQ(d,"grnam"))           return -KEY_getgrnam;
3983                 if (strEQ(d,"grgid"))           return -KEY_getgrgid;
3984             }
3985             else if (*d == 'l') {
3986                 if (strEQ(d,"login"))           return -KEY_getlogin;
3987             }
3988             else if (strEQ(d,"c"))              return -KEY_getc;
3989             break;
3990         }
3991         switch (len) {
3992         case 2:
3993             if (strEQ(d,"gt"))                  return -KEY_gt;
3994             if (strEQ(d,"ge"))                  return -KEY_ge;
3995             break;
3996         case 4:
3997             if (strEQ(d,"grep"))                return KEY_grep;
3998             if (strEQ(d,"goto"))                return KEY_goto;
3999             if (strEQ(d,"glob"))                return -KEY_glob;
4000             break;
4001         case 6:
4002             if (strEQ(d,"gmtime"))              return -KEY_gmtime;
4003             break;
4004         }
4005         break;
4006     case 'h':
4007         if (strEQ(d,"hex"))                     return -KEY_hex;
4008         break;
4009     case 'I':
4010         if (strEQ(d,"INIT"))                    return KEY_INIT;
4011         break;
4012     case 'i':
4013         switch (len) {
4014         case 2:
4015             if (strEQ(d,"if"))                  return KEY_if;
4016             break;
4017         case 3:
4018             if (strEQ(d,"int"))                 return -KEY_int;
4019             break;
4020         case 5:
4021             if (strEQ(d,"index"))               return -KEY_index;
4022             if (strEQ(d,"ioctl"))               return -KEY_ioctl;
4023             break;
4024         }
4025         break;
4026     case 'j':
4027         if (strEQ(d,"join"))                    return -KEY_join;
4028         break;
4029     case 'k':
4030         if (len == 4) {
4031             if (strEQ(d,"keys"))                return KEY_keys;
4032             if (strEQ(d,"kill"))                return -KEY_kill;
4033         }
4034         break;
4035     case 'L':
4036         if (len == 2) {
4037             if (strEQ(d,"LT")) { deprecate(d);  return -KEY_lt;}
4038             if (strEQ(d,"LE")) { deprecate(d);  return -KEY_le;}
4039         }
4040         break;
4041     case 'l':
4042         switch (len) {
4043         case 2:
4044             if (strEQ(d,"lt"))                  return -KEY_lt;
4045             if (strEQ(d,"le"))                  return -KEY_le;
4046             if (strEQ(d,"lc"))                  return -KEY_lc;
4047             break;
4048         case 3:
4049             if (strEQ(d,"log"))                 return -KEY_log;
4050             break;
4051         case 4:
4052             if (strEQ(d,"last"))                return KEY_last;
4053             if (strEQ(d,"link"))                return -KEY_link;
4054             if (strEQ(d,"lock"))                return -KEY_lock;
4055             break;
4056         case 5:
4057             if (strEQ(d,"local"))               return KEY_local;
4058             if (strEQ(d,"lstat"))               return -KEY_lstat;
4059             break;
4060         case 6:
4061             if (strEQ(d,"length"))              return -KEY_length;
4062             if (strEQ(d,"listen"))              return -KEY_listen;
4063             break;
4064         case 7:
4065             if (strEQ(d,"lcfirst"))             return -KEY_lcfirst;
4066             break;
4067         case 9:
4068             if (strEQ(d,"localtime"))           return -KEY_localtime;
4069             break;
4070         }
4071         break;
4072     case 'm':
4073         switch (len) {
4074         case 1:                                 return KEY_m;
4075         case 2:
4076             if (strEQ(d,"my"))                  return KEY_my;
4077             break;
4078         case 3:
4079             if (strEQ(d,"map"))                 return KEY_map;
4080             break;
4081         case 5:
4082             if (strEQ(d,"mkdir"))               return -KEY_mkdir;
4083             break;
4084         case 6:
4085             if (strEQ(d,"msgctl"))              return -KEY_msgctl;
4086             if (strEQ(d,"msgget"))              return -KEY_msgget;
4087             if (strEQ(d,"msgrcv"))              return -KEY_msgrcv;
4088             if (strEQ(d,"msgsnd"))              return -KEY_msgsnd;
4089             break;
4090         }
4091         break;
4092     case 'N':
4093         if (strEQ(d,"NE")) { deprecate(d);      return -KEY_ne;}
4094         break;
4095     case 'n':
4096         if (strEQ(d,"next"))                    return KEY_next;
4097         if (strEQ(d,"ne"))                      return -KEY_ne;
4098         if (strEQ(d,"not"))                     return -KEY_not;
4099         if (strEQ(d,"no"))                      return KEY_no;
4100         break;
4101     case 'o':
4102         switch (len) {
4103         case 2:
4104             if (strEQ(d,"or"))                  return -KEY_or;
4105             break;
4106         case 3:
4107             if (strEQ(d,"ord"))                 return -KEY_ord;
4108             if (strEQ(d,"oct"))                 return -KEY_oct;
4109             break;
4110         case 4:
4111             if (strEQ(d,"open"))                return -KEY_open;
4112             break;
4113         case 7:
4114             if (strEQ(d,"opendir"))             return -KEY_opendir;
4115             break;
4116         }
4117         break;
4118     case 'p':
4119         switch (len) {
4120         case 3:
4121             if (strEQ(d,"pop"))                 return KEY_pop;
4122             if (strEQ(d,"pos"))                 return KEY_pos;
4123             break;
4124         case 4:
4125             if (strEQ(d,"push"))                return KEY_push;
4126             if (strEQ(d,"pack"))                return -KEY_pack;
4127             if (strEQ(d,"pipe"))                return -KEY_pipe;
4128             break;
4129         case 5:
4130             if (strEQ(d,"print"))               return KEY_print;
4131             break;
4132         case 6:
4133             if (strEQ(d,"printf"))              return KEY_printf;
4134             break;
4135         case 7:
4136             if (strEQ(d,"package"))             return KEY_package;
4137             break;
4138         case 9:
4139             if (strEQ(d,"prototype"))           return KEY_prototype;
4140         }
4141         break;
4142     case 'q':
4143         if (len <= 2) {
4144             if (strEQ(d,"q"))                   return KEY_q;
4145             if (strEQ(d,"qq"))                  return KEY_qq;
4146             if (strEQ(d,"qw"))                  return KEY_qw;
4147             if (strEQ(d,"qx"))                  return KEY_qx;
4148         }
4149         else if (strEQ(d,"quotemeta"))          return -KEY_quotemeta;
4150         break;
4151     case 'r':
4152         switch (len) {
4153         case 3:
4154             if (strEQ(d,"ref"))                 return -KEY_ref;
4155             break;
4156         case 4:
4157             if (strEQ(d,"read"))                return -KEY_read;
4158             if (strEQ(d,"rand"))                return -KEY_rand;
4159             if (strEQ(d,"recv"))                return -KEY_recv;
4160             if (strEQ(d,"redo"))                return KEY_redo;
4161             break;
4162         case 5:
4163             if (strEQ(d,"rmdir"))               return -KEY_rmdir;
4164             if (strEQ(d,"reset"))               return -KEY_reset;
4165             break;
4166         case 6:
4167             if (strEQ(d,"return"))              return KEY_return;
4168             if (strEQ(d,"rename"))              return -KEY_rename;
4169             if (strEQ(d,"rindex"))              return -KEY_rindex;
4170             break;
4171         case 7:
4172             if (strEQ(d,"require"))             return -KEY_require;
4173             if (strEQ(d,"reverse"))             return -KEY_reverse;
4174             if (strEQ(d,"readdir"))             return -KEY_readdir;
4175             break;
4176         case 8:
4177             if (strEQ(d,"readlink"))            return -KEY_readlink;
4178             if (strEQ(d,"readline"))            return -KEY_readline;
4179             if (strEQ(d,"readpipe"))            return -KEY_readpipe;
4180             break;
4181         case 9:
4182             if (strEQ(d,"rewinddir"))           return -KEY_rewinddir;
4183             break;
4184         }
4185         break;
4186     case 's':
4187         switch (d[1]) {
4188         case 0:                                 return KEY_s;
4189         case 'c':
4190             if (strEQ(d,"scalar"))              return KEY_scalar;
4191             break;
4192         case 'e':
4193             switch (len) {
4194             case 4:
4195                 if (strEQ(d,"seek"))            return -KEY_seek;
4196                 if (strEQ(d,"send"))            return -KEY_send;
4197                 break;
4198             case 5:
4199                 if (strEQ(d,"semop"))           return -KEY_semop;
4200                 break;
4201             case 6:
4202                 if (strEQ(d,"select"))          return -KEY_select;
4203                 if (strEQ(d,"semctl"))          return -KEY_semctl;
4204                 if (strEQ(d,"semget"))          return -KEY_semget;
4205                 break;
4206             case 7:
4207                 if (strEQ(d,"setpgrp"))         return -KEY_setpgrp;
4208                 if (strEQ(d,"seekdir"))         return -KEY_seekdir;
4209                 break;
4210             case 8:
4211                 if (strEQ(d,"setpwent"))        return -KEY_setpwent;
4212                 if (strEQ(d,"setgrent"))        return -KEY_setgrent;
4213                 break;
4214             case 9:
4215                 if (strEQ(d,"setnetent"))       return -KEY_setnetent;
4216                 break;
4217             case 10:
4218                 if (strEQ(d,"setsockopt"))      return -KEY_setsockopt;
4219                 if (strEQ(d,"sethostent"))      return -KEY_sethostent;
4220                 if (strEQ(d,"setservent"))      return -KEY_setservent;
4221                 break;
4222             case 11:
4223                 if (strEQ(d,"setpriority"))     return -KEY_setpriority;
4224                 if (strEQ(d,"setprotoent"))     return -KEY_setprotoent;
4225                 break;
4226             }
4227             break;
4228         case 'h':
4229             switch (len) {
4230             case 5:
4231                 if (strEQ(d,"shift"))           return KEY_shift;
4232                 break;
4233             case 6:
4234                 if (strEQ(d,"shmctl"))          return -KEY_shmctl;
4235                 if (strEQ(d,"shmget"))          return -KEY_shmget;
4236                 break;
4237             case 7:
4238                 if (strEQ(d,"shmread"))         return -KEY_shmread;
4239                 break;
4240             case 8:
4241                 if (strEQ(d,"shmwrite"))        return -KEY_shmwrite;
4242                 if (strEQ(d,"shutdown"))        return -KEY_shutdown;
4243                 break;
4244             }
4245             break;
4246         case 'i':
4247             if (strEQ(d,"sin"))                 return -KEY_sin;
4248             break;
4249         case 'l':
4250             if (strEQ(d,"sleep"))               return -KEY_sleep;
4251             break;
4252         case 'o':
4253             if (strEQ(d,"sort"))                return KEY_sort;
4254             if (strEQ(d,"socket"))              return -KEY_socket;
4255             if (strEQ(d,"socketpair"))          return -KEY_socketpair;
4256             break;
4257         case 'p':
4258             if (strEQ(d,"split"))               return KEY_split;
4259             if (strEQ(d,"sprintf"))             return -KEY_sprintf;
4260             if (strEQ(d,"splice"))              return KEY_splice;
4261             break;
4262         case 'q':
4263             if (strEQ(d,"sqrt"))                return -KEY_sqrt;
4264             break;
4265         case 'r':
4266             if (strEQ(d,"srand"))               return -KEY_srand;
4267             break;
4268         case 't':
4269             if (strEQ(d,"stat"))                return -KEY_stat;
4270             if (strEQ(d,"study"))               return KEY_study;
4271             break;
4272         case 'u':
4273             if (strEQ(d,"substr"))              return -KEY_substr;
4274             if (strEQ(d,"sub"))                 return KEY_sub;
4275             break;
4276         case 'y':
4277             switch (len) {
4278             case 6:
4279                 if (strEQ(d,"system"))          return -KEY_system;
4280                 break;
4281             case 7:
4282                 if (strEQ(d,"symlink"))         return -KEY_symlink;
4283                 if (strEQ(d,"syscall"))         return -KEY_syscall;
4284                 if (strEQ(d,"sysopen"))         return -KEY_sysopen;
4285                 if (strEQ(d,"sysread"))         return -KEY_sysread;
4286                 if (strEQ(d,"sysseek"))         return -KEY_sysseek;
4287                 break;
4288             case 8:
4289                 if (strEQ(d,"syswrite"))        return -KEY_syswrite;
4290                 break;
4291             }
4292             break;
4293         }
4294         break;
4295     case 't':
4296         switch (len) {
4297         case 2:
4298             if (strEQ(d,"tr"))                  return KEY_tr;
4299             break;
4300         case 3:
4301             if (strEQ(d,"tie"))                 return KEY_tie;
4302             break;
4303         case 4:
4304             if (strEQ(d,"tell"))                return -KEY_tell;
4305             if (strEQ(d,"tied"))                return KEY_tied;
4306             if (strEQ(d,"time"))                return -KEY_time;
4307             break;
4308         case 5:
4309             if (strEQ(d,"times"))               return -KEY_times;
4310             break;
4311         case 7:
4312             if (strEQ(d,"telldir"))             return -KEY_telldir;
4313             break;
4314         case 8:
4315             if (strEQ(d,"truncate"))            return -KEY_truncate;
4316             break;
4317         }
4318         break;
4319     case 'u':
4320         switch (len) {
4321         case 2:
4322             if (strEQ(d,"uc"))                  return -KEY_uc;
4323             break;
4324         case 3:
4325             if (strEQ(d,"use"))                 return KEY_use;
4326             break;
4327         case 5:
4328             if (strEQ(d,"undef"))               return KEY_undef;
4329             if (strEQ(d,"until"))               return KEY_until;
4330             if (strEQ(d,"untie"))               return KEY_untie;
4331             if (strEQ(d,"utime"))               return -KEY_utime;
4332             if (strEQ(d,"umask"))               return -KEY_umask;
4333             break;
4334         case 6:
4335             if (strEQ(d,"unless"))              return KEY_unless;
4336             if (strEQ(d,"unpack"))              return -KEY_unpack;
4337             if (strEQ(d,"unlink"))              return -KEY_unlink;
4338             break;
4339         case 7:
4340             if (strEQ(d,"unshift"))             return KEY_unshift;
4341             if (strEQ(d,"ucfirst"))             return -KEY_ucfirst;
4342             break;
4343         }
4344         break;
4345     case 'v':
4346         if (strEQ(d,"values"))                  return -KEY_values;
4347         if (strEQ(d,"vec"))                     return -KEY_vec;
4348         break;
4349     case 'w':
4350         switch (len) {
4351         case 4:
4352             if (strEQ(d,"warn"))                return -KEY_warn;
4353             if (strEQ(d,"wait"))                return -KEY_wait;
4354             break;
4355         case 5:
4356             if (strEQ(d,"while"))               return KEY_while;
4357             if (strEQ(d,"write"))               return -KEY_write;
4358             break;
4359         case 7:
4360             if (strEQ(d,"waitpid"))             return -KEY_waitpid;
4361             break;
4362         case 9:
4363             if (strEQ(d,"wantarray"))           return -KEY_wantarray;
4364             break;
4365         }
4366         break;
4367     case 'x':
4368         if (len == 1)                           return -KEY_x;
4369         if (strEQ(d,"xor"))                     return -KEY_xor;
4370         break;
4371     case 'y':
4372         if (len == 1)                           return KEY_y;
4373         break;
4374     case 'z':
4375         break;
4376     }
4377     return 0;
4378 }
4379
4380 static void
4381 checkcomma(s,name,what)
4382 register char *s;
4383 char *name;
4384 char *what;
4385 {
4386     char *w;
4387
4388     if (dowarn && *s == ' ' && s[1] == '(') {   /* XXX gotta be a better way */
4389         int level = 1;
4390         for (w = s+2; *w && level; w++) {
4391             if (*w == '(')
4392                 ++level;
4393             else if (*w == ')')
4394                 --level;
4395         }
4396         if (*w)
4397             for (; *w && isSPACE(*w); w++) ;
4398         if (!*w || !strchr(";|})]oaiuw!=", *w)) /* an advisory hack only... */
4399             warn("%s (...) interpreted as function",name);
4400     }
4401     while (s < bufend && isSPACE(*s))
4402         s++;
4403     if (*s == '(')
4404         s++;
4405     while (s < bufend && isSPACE(*s))
4406         s++;
4407     if (isIDFIRST(*s)) {
4408         w = s++;
4409         while (isALNUM(*s))
4410             s++;
4411         while (s < bufend && isSPACE(*s))
4412             s++;
4413         if (*s == ',') {
4414             int kw;
4415             *s = '\0';
4416             kw = keyword(w, s - w) || perl_get_cv(w, FALSE) != 0;
4417             *s = ',';
4418             if (kw)
4419                 return;
4420             croak("No comma allowed after %s", what);
4421         }
4422     }
4423 }
4424
4425 static char *
4426 scan_word(s, dest, destlen, allow_package, slp)
4427 register char *s;
4428 char *dest;
4429 STRLEN destlen;
4430 int allow_package;
4431 STRLEN *slp;
4432 {
4433     register char *d = dest;
4434     register char *e = d + destlen - 3;  /* two-character token, ending NUL */
4435     for (;;) {
4436         if (d >= e)
4437             croak(ident_too_long);
4438         if (isALNUM(*s))
4439             *d++ = *s++;
4440         else if (*s == '\'' && allow_package && isIDFIRST(s[1])) {
4441             *d++ = ':';
4442             *d++ = ':';
4443             s++;
4444         }
4445         else if (*s == ':' && s[1] == ':' && allow_package && isIDFIRST(s[2])) {
4446             *d++ = *s++;
4447             *d++ = *s++;
4448         }
4449         else {
4450             *d = '\0';
4451             *slp = d - dest;
4452             return s;
4453         }
4454     }
4455 }
4456
4457 static char *
4458 scan_ident(s, send, dest, destlen, ck_uni)
4459 register char *s;
4460 register char *send;
4461 char *dest;
4462 STRLEN destlen;
4463 I32 ck_uni;
4464 {
4465     register char *d;
4466     register char *e;
4467     char *bracket = 0;
4468     char funny = *s++;
4469
4470     if (lex_brackets == 0)
4471         lex_fakebrack = 0;
4472     if (isSPACE(*s))
4473         s = skipspace(s);
4474     d = dest;
4475     e = d + destlen - 3;        /* two-character token, ending NUL */
4476     if (isDIGIT(*s)) {
4477         while (isDIGIT(*s)) {
4478             if (d >= e)
4479                 croak(ident_too_long);
4480             *d++ = *s++;
4481         }
4482     }
4483     else {
4484         for (;;) {
4485             if (d >= e)
4486                 croak(ident_too_long);
4487             if (isALNUM(*s))
4488                 *d++ = *s++;
4489             else if (*s == '\'' && isIDFIRST(s[1])) {
4490                 *d++ = ':';
4491                 *d++ = ':';
4492                 s++;
4493             }
4494             else if (*s == ':' && s[1] == ':') {
4495                 *d++ = *s++;
4496                 *d++ = *s++;
4497             }
4498             else
4499                 break;
4500         }
4501     }
4502     *d = '\0';
4503     d = dest;
4504     if (*d) {
4505         if (lex_state != LEX_NORMAL)
4506             lex_state = LEX_INTERPENDMAYBE;
4507         return s;
4508     }
4509     if (*s == '$' && s[1] &&
4510       (isALNUM(s[1]) || strchr("${", s[1]) || strnEQ(s+1,"::",2)) )
4511     {
4512         if (isDIGIT(s[1]) && lex_state == LEX_INTERPNORMAL)
4513             deprecate("\"$$<digit>\" to mean \"${$}<digit>\"");
4514         else
4515             return s;
4516     }
4517     if (*s == '{') {
4518         bracket = s;
4519         s++;
4520     }
4521     else if (ck_uni)
4522         check_uni();
4523     if (s < send)
4524         *d = *s++;
4525     d[1] = '\0';
4526     if (*d == '^' && *s && (isUPPER(*s) || strchr("[\\]^_?", *s))) {
4527         *d = toCTRL(*s);
4528         s++;
4529     }
4530     if (bracket) {
4531         if (isSPACE(s[-1])) {
4532             while (s < send) {
4533                 char ch = *s++;
4534                 if (ch != ' ' && ch != '\t') {
4535                     *d = ch;
4536                     break;
4537                 }
4538             }
4539         }
4540         if (isIDFIRST(*d)) {
4541             d++;
4542             while (isALNUM(*s) || *s == ':')
4543                 *d++ = *s++;
4544             *d = '\0';
4545             while (s < send && (*s == ' ' || *s == '\t')) s++;
4546             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
4547                 if (dowarn && keyword(dest, d - dest)) {
4548                     char *brack = *s == '[' ? "[...]" : "{...}";
4549                     warn("Ambiguous use of %c{%s%s} resolved to %c%s%s",
4550                         funny, dest, brack, funny, dest, brack);
4551                 }
4552                 lex_fakebrack = lex_brackets+1;
4553                 bracket++;
4554                 lex_brackstack[lex_brackets++] = XOPERATOR;
4555                 return s;
4556             }
4557         }
4558         if (*s == '}') {
4559             s++;
4560             if (lex_state == LEX_INTERPNORMAL && !lex_brackets)
4561                 lex_state = LEX_INTERPEND;
4562             if (funny == '#')
4563                 funny = '@';
4564             if (dowarn && lex_state == LEX_NORMAL &&
4565               (keyword(dest, d - dest) || perl_get_cv(dest, FALSE)))
4566                 warn("Ambiguous use of %c{%s} resolved to %c%s",
4567                     funny, dest, funny, dest);
4568         }
4569         else {
4570             s = bracket;                /* let the parser handle it */
4571             *dest = '\0';
4572         }
4573     }
4574     else if (lex_state == LEX_INTERPNORMAL && !lex_brackets && !intuit_more(s))
4575         lex_state = LEX_INTERPEND;
4576     return s;
4577 }
4578
4579 void pmflag(pmfl,ch)
4580 U16* pmfl;
4581 int ch;
4582 {
4583     if (ch == 'i')
4584         *pmfl |= PMf_FOLD;
4585     else if (ch == 'g')
4586         *pmfl |= PMf_GLOBAL;
4587     else if (ch == 'c')
4588         *pmfl |= PMf_CONTINUE;
4589     else if (ch == 'o')
4590         *pmfl |= PMf_KEEP;
4591     else if (ch == 'm')
4592         *pmfl |= PMf_MULTILINE;
4593     else if (ch == 's')
4594         *pmfl |= PMf_SINGLELINE;
4595     else if (ch == 'x')
4596         *pmfl |= PMf_EXTENDED;
4597 }
4598
4599 static char *
4600 scan_pat(start)
4601 char *start;
4602 {
4603     PMOP *pm;
4604     char *s;
4605
4606     s = scan_str(start);
4607     if (!s) {
4608         if (lex_stuff)
4609             SvREFCNT_dec(lex_stuff);
4610         lex_stuff = Nullsv;
4611         croak("Search pattern not terminated");
4612     }
4613
4614     pm = (PMOP*)newPMOP(OP_MATCH, 0);
4615     if (multi_open == '?')
4616         pm->op_pmflags |= PMf_ONCE;
4617     while (*s && strchr("iogcmsx", *s))
4618         pmflag(&pm->op_pmflags,*s++);
4619     pm->op_pmpermflags = pm->op_pmflags;
4620
4621     lex_op = (OP*)pm;
4622     yylval.ival = OP_MATCH;
4623     return s;
4624 }
4625
4626 static char *
4627 scan_subst(start)
4628 char *start;
4629 {
4630     register char *s;
4631     register PMOP *pm;
4632     I32 first_start;
4633     I32 es = 0;
4634
4635     yylval.ival = OP_NULL;
4636
4637     s = scan_str(start);
4638
4639     if (!s) {
4640         if (lex_stuff)
4641             SvREFCNT_dec(lex_stuff);
4642         lex_stuff = Nullsv;
4643         croak("Substitution pattern not terminated");
4644     }
4645
4646     if (s[-1] == multi_open)
4647         s--;
4648
4649     first_start = multi_start;
4650     s = scan_str(s);
4651     if (!s) {
4652         if (lex_stuff)
4653             SvREFCNT_dec(lex_stuff);
4654         lex_stuff = Nullsv;
4655         if (lex_repl)
4656             SvREFCNT_dec(lex_repl);
4657         lex_repl = Nullsv;
4658         croak("Substitution replacement not terminated");
4659     }
4660     multi_start = first_start;  /* so whole substitution is taken together */
4661
4662     pm = (PMOP*)newPMOP(OP_SUBST, 0);
4663     while (*s && strchr("iogcmsex", *s)) {
4664         if (*s == 'e') {
4665             s++;
4666             es++;
4667         }
4668         else
4669             pmflag(&pm->op_pmflags,*s++);
4670     }
4671
4672     if (es) {
4673         SV *repl;
4674         pm->op_pmflags |= PMf_EVAL;
4675         repl = newSVpv("",0);
4676         while (es-- > 0)
4677             sv_catpv(repl, es ? "eval " : "do ");
4678         sv_catpvn(repl, "{ ", 2);
4679         sv_catsv(repl, lex_repl);
4680         sv_catpvn(repl, " };", 2);
4681         SvCOMPILED_on(repl);
4682         SvREFCNT_dec(lex_repl);
4683         lex_repl = repl;
4684     }
4685
4686     pm->op_pmpermflags = pm->op_pmflags;
4687     lex_op = (OP*)pm;
4688     yylval.ival = OP_SUBST;
4689     return s;
4690 }
4691
4692 void
4693 hoistmust(pm)
4694 register PMOP *pm;
4695 {
4696     dTHR;
4697     if (!pm->op_pmshort && pm->op_pmregexp->regstart &&
4698         (!pm->op_pmregexp->regmust || pm->op_pmregexp->reganch & ROPT_ANCH)
4699        ) {
4700         if (!(pm->op_pmregexp->reganch & ROPT_ANCH))
4701             pm->op_pmflags |= PMf_SCANFIRST;
4702         pm->op_pmshort = SvREFCNT_inc(pm->op_pmregexp->regstart);
4703         pm->op_pmslen = SvCUR(pm->op_pmshort);
4704     }
4705     else if (pm->op_pmregexp->regmust) {/* is there a better short-circuit? */
4706         if (pm->op_pmshort &&
4707           sv_eq(pm->op_pmshort,pm->op_pmregexp->regmust))
4708         {
4709             if (pm->op_pmflags & PMf_SCANFIRST) {
4710                 SvREFCNT_dec(pm->op_pmshort);
4711                 pm->op_pmshort = Nullsv;
4712             }
4713             else {
4714                 SvREFCNT_dec(pm->op_pmregexp->regmust);
4715                 pm->op_pmregexp->regmust = Nullsv;
4716                 return;
4717             }
4718         }
4719         /* promote the better string */
4720         if ((!pm->op_pmshort &&
4721              !(pm->op_pmregexp->reganch & ROPT_ANCH_GPOS)) ||
4722             ((pm->op_pmflags & PMf_SCANFIRST) &&
4723              (SvCUR(pm->op_pmshort) < SvCUR(pm->op_pmregexp->regmust)))) {
4724             SvREFCNT_dec(pm->op_pmshort);               /* ok if null */
4725             pm->op_pmshort = pm->op_pmregexp->regmust;
4726             pm->op_pmslen = SvCUR(pm->op_pmshort);
4727             pm->op_pmregexp->regmust = Nullsv;
4728             pm->op_pmflags |= PMf_SCANFIRST;
4729         }
4730     }
4731 }
4732
4733 static char *
4734 scan_trans(start)
4735 char *start;
4736 {
4737     register char* s;
4738     OP *o;
4739     short *tbl;
4740     I32 squash;
4741     I32 delete;
4742     I32 complement;
4743
4744     yylval.ival = OP_NULL;
4745
4746     s = scan_str(start);
4747     if (!s) {
4748         if (lex_stuff)
4749             SvREFCNT_dec(lex_stuff);
4750         lex_stuff = Nullsv;
4751         croak("Translation pattern not terminated");
4752     }
4753     if (s[-1] == multi_open)
4754         s--;
4755
4756     s = scan_str(s);
4757     if (!s) {
4758         if (lex_stuff)
4759             SvREFCNT_dec(lex_stuff);
4760         lex_stuff = Nullsv;
4761         if (lex_repl)
4762             SvREFCNT_dec(lex_repl);
4763         lex_repl = Nullsv;
4764         croak("Translation replacement not terminated");
4765     }
4766
4767     New(803,tbl,256,short);
4768     o = newPVOP(OP_TRANS, 0, (char*)tbl);
4769
4770     complement = delete = squash = 0;
4771     while (*s == 'c' || *s == 'd' || *s == 's') {
4772         if (*s == 'c')
4773             complement = OPpTRANS_COMPLEMENT;
4774         else if (*s == 'd')
4775             delete = OPpTRANS_DELETE;
4776         else
4777             squash = OPpTRANS_SQUASH;
4778         s++;
4779     }
4780     o->op_private = delete|squash|complement;
4781
4782     lex_op = o;
4783     yylval.ival = OP_TRANS;
4784     return s;
4785 }
4786
4787 static char *
4788 scan_heredoc(s)
4789 register char *s;
4790 {
4791     dTHR;
4792     SV *herewas;
4793     I32 op_type = OP_SCALAR;
4794     I32 len;
4795     SV *tmpstr;
4796     char term;
4797     register char *d;
4798     register char *e;
4799     char *peek;
4800     int outer = (rsfp && !lex_inwhat);
4801
4802     s += 2;
4803     d = tokenbuf;
4804     e = tokenbuf + sizeof tokenbuf - 1;
4805     if (!outer)
4806         *d++ = '\n';
4807     for (peek = s; *peek == ' ' || *peek == '\t'; peek++) ;
4808     if (*peek && strchr("`'\"",*peek)) {
4809         s = peek;
4810         term = *s++;
4811         s = delimcpy(d, e, s, bufend, term, &len);
4812         d += len;
4813         if (s < bufend)
4814             s++;
4815     }
4816     else {
4817         if (*s == '\\')
4818             s++, term = '\'';
4819         else
4820             term = '"';
4821         if (!isALNUM(*s))
4822             deprecate("bare << to mean <<\"\"");
4823         for (; isALNUM(*s); s++) {
4824             if (d < e)
4825                 *d++ = *s;
4826         }
4827     }
4828     if (d >= tokenbuf + sizeof tokenbuf - 1)
4829         croak("Delimiter for here document is too long");
4830     *d++ = '\n';
4831     *d = '\0';
4832     len = d - tokenbuf;
4833     d = "\n";
4834     if (outer || !(d=ninstr(s,bufend,d,d+1)))
4835         herewas = newSVpv(s,bufend-s);
4836     else
4837         s--, herewas = newSVpv(s,d-s);
4838     s += SvCUR(herewas);
4839
4840     tmpstr = NEWSV(87,80);
4841     sv_upgrade(tmpstr, SVt_PVIV);
4842     if (term == '\'') {
4843         op_type = OP_CONST;
4844         SvIVX(tmpstr) = -1;
4845     }
4846     else if (term == '`') {
4847         op_type = OP_BACKTICK;
4848         SvIVX(tmpstr) = '\\';
4849     }
4850
4851     CLINE;
4852     multi_start = curcop->cop_line;
4853     multi_open = multi_close = '<';
4854     term = *tokenbuf;
4855     if (!outer) {
4856         d = s;
4857         while (s < bufend &&
4858           (*s != term || memNE(s,tokenbuf,len)) ) {
4859             if (*s++ == '\n')
4860                 curcop->cop_line++;
4861         }
4862         if (s >= bufend) {
4863             curcop->cop_line = multi_start;
4864             missingterm(tokenbuf);
4865         }
4866         sv_setpvn(tmpstr,d+1,s-d);
4867         s += len - 1;
4868         sv_catpvn(herewas,s,bufend-s);
4869         sv_setsv(linestr,herewas);
4870         oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
4871         bufend = SvPVX(linestr) + SvCUR(linestr);
4872     }
4873     else
4874         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
4875     while (s >= bufend) {       /* multiple line string? */
4876         if (!outer ||
4877          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4878             curcop->cop_line = multi_start;
4879             missingterm(tokenbuf);
4880         }
4881         curcop->cop_line++;
4882         if (PERLDB_LINE && curstash != debstash) {
4883             SV *sv = NEWSV(88,0);
4884
4885             sv_upgrade(sv, SVt_PVMG);
4886             sv_setsv(sv,linestr);
4887             av_store(GvAV(curcop->cop_filegv),
4888               (I32)curcop->cop_line,sv);
4889         }
4890         bufend = SvPVX(linestr) + SvCUR(linestr);
4891         if (*s == term && memEQ(s,tokenbuf,len)) {
4892             s = bufend - 1;
4893             *s = ' ';
4894             sv_catsv(linestr,herewas);
4895             bufend = SvPVX(linestr) + SvCUR(linestr);
4896         }
4897         else {
4898             s = bufend;
4899             sv_catsv(tmpstr,linestr);
4900         }
4901     }
4902     multi_end = curcop->cop_line;
4903     s++;
4904     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
4905         SvLEN_set(tmpstr, SvCUR(tmpstr) + 1);
4906         Renew(SvPVX(tmpstr), SvLEN(tmpstr), char);
4907     }
4908     SvREFCNT_dec(herewas);
4909     lex_stuff = tmpstr;
4910     yylval.ival = op_type;
4911     return s;
4912 }
4913
4914 static char *
4915 scan_inputsymbol(start)
4916 char *start;
4917 {
4918     register char *s = start;
4919     register char *d;
4920     register char *e;
4921     I32 len;
4922
4923     d = tokenbuf;
4924     e = tokenbuf + sizeof tokenbuf;
4925     s = delimcpy(d, e, s + 1, bufend, '>', &len);
4926     if (len >= sizeof tokenbuf)
4927         croak("Excessively long <> operator");
4928     if (s >= bufend)
4929         croak("Unterminated <> operator");
4930     s++;
4931     if (*d == '$' && d[1]) d++;
4932     while (*d && (isALNUM(*d) || *d == '\'' || *d == ':'))
4933         d++;
4934     if (d - tokenbuf != len) {
4935         yylval.ival = OP_GLOB;
4936         set_csh();
4937         s = scan_str(start);
4938         if (!s)
4939             croak("Glob not terminated");
4940         return s;
4941     }
4942     else {
4943         d = tokenbuf;
4944         if (!len)
4945             (void)strcpy(d,"ARGV");
4946         if (*d == '$') {
4947             I32 tmp;
4948             if ((tmp = pad_findmy(d)) != NOT_IN_PAD) {
4949                 OP *o = newOP(OP_PADSV, 0);
4950                 o->op_targ = tmp;
4951                 lex_op = (OP*)newUNOP(OP_READLINE, 0, newUNOP(OP_RV2GV, 0, o));
4952             }
4953             else {
4954                 GV *gv = gv_fetchpv(d+1,TRUE, SVt_PV);
4955                 lex_op = (OP*)newUNOP(OP_READLINE, 0,
4956                                         newUNOP(OP_RV2GV, 0,
4957                                             newUNOP(OP_RV2SV, 0,
4958                                                 newGVOP(OP_GV, 0, gv))));
4959             }
4960             yylval.ival = OP_NULL;
4961         }
4962         else {
4963             GV *gv = gv_fetchpv(d,TRUE, SVt_PVIO);
4964             lex_op = (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
4965             yylval.ival = OP_NULL;
4966         }
4967     }
4968     return s;
4969 }
4970
4971 static char *
4972 scan_str(start)
4973 char *start;
4974 {
4975     dTHR;
4976     SV *sv;
4977     char *tmps;
4978     register char *s = start;
4979     register char term;
4980     register char *to;
4981     I32 brackets = 1;
4982
4983     if (isSPACE(*s)) {
4984         /* "#" is allowed as delimiter if on same line */
4985         while (*s == ' ' || *s == '\t')
4986             s++;
4987         if (isSPACE(*s))
4988             s = skipspace(s);
4989     }
4990     CLINE;
4991     term = *s;
4992     multi_start = curcop->cop_line;
4993     multi_open = term;
4994     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4995         term = tmps[5];
4996     multi_close = term;
4997
4998     sv = NEWSV(87,80);
4999     sv_upgrade(sv, SVt_PVIV);
5000     SvIVX(sv) = term;
5001     (void)SvPOK_only(sv);               /* validate pointer */
5002     s++;
5003     for (;;) {
5004         SvGROW(sv, SvCUR(sv) + (bufend - s) + 1);
5005         to = SvPVX(sv)+SvCUR(sv);
5006         if (multi_open == multi_close) {
5007             for (; s < bufend; s++,to++) {
5008                 if (*s == '\n' && !rsfp)
5009                     curcop->cop_line++;
5010                 if (*s == '\\' && s+1 < bufend && term != '\\') {
5011                     if (s[1] == term)
5012                         s++;
5013                     else
5014                         *to++ = *s++;
5015                 }
5016                 else if (*s == term)
5017                     break;
5018                 *to = *s;
5019             }
5020         }
5021         else {
5022             for (; s < bufend; s++,to++) {
5023                 if (*s == '\n' && !rsfp)
5024                     curcop->cop_line++;
5025                 if (*s == '\\' && s+1 < bufend) {
5026                     if ((s[1] == multi_open) || (s[1] == multi_close))
5027                         s++;
5028                     else
5029                         *to++ = *s++;
5030                 }
5031                 else if (*s == multi_close && --brackets <= 0)
5032                     break;
5033                 else if (*s == multi_open)
5034                     brackets++;
5035                 *to = *s;
5036             }
5037         }
5038         *to = '\0';
5039         SvCUR_set(sv, to - SvPVX(sv));
5040
5041     if (s < bufend) break;      /* string ends on this line? */
5042
5043         if (!rsfp ||
5044          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
5045             sv_free(sv);
5046             curcop->cop_line = multi_start;
5047             return Nullch;
5048         }
5049         curcop->cop_line++;
5050         if (PERLDB_LINE && curstash != debstash) {
5051             SV *sv = NEWSV(88,0);
5052
5053             sv_upgrade(sv, SVt_PVMG);
5054             sv_setsv(sv,linestr);
5055             av_store(GvAV(curcop->cop_filegv),
5056               (I32)curcop->cop_line, sv);
5057         }
5058         bufend = SvPVX(linestr) + SvCUR(linestr);
5059     }
5060     multi_end = curcop->cop_line;
5061     s++;
5062     if (SvCUR(sv) + 5 < SvLEN(sv)) {
5063         SvLEN_set(sv, SvCUR(sv) + 1);
5064         Renew(SvPVX(sv), SvLEN(sv), char);
5065     }
5066     if (lex_stuff)
5067         lex_repl = sv;
5068     else
5069         lex_stuff = sv;
5070     return s;
5071 }
5072
5073 char *
5074 scan_num(start)
5075 char *start;
5076 {
5077     register char *s = start;
5078     register char *d;
5079     register char *e;
5080     I32 tryiv;
5081     double value;
5082     SV *sv;
5083     I32 floatit;
5084     char *lastub = 0;
5085     static char number_too_long[] = "Number too long";
5086
5087     switch (*s) {
5088     default:
5089         croak("panic: scan_num");
5090     case '0':
5091         {
5092             UV u;
5093             I32 shift;
5094             bool overflowed = FALSE;
5095
5096             if (s[1] == 'x') {
5097                 shift = 4;
5098                 s += 2;
5099             }
5100             else if (s[1] == '.')
5101                 goto decimal;
5102             else
5103                 shift = 3;
5104             u = 0;
5105             for (;;) {
5106                 UV n, b;
5107
5108                 switch (*s) {
5109                 default:
5110                     goto out;
5111                 case '_':
5112                     s++;
5113                     break;
5114                 case '8': case '9':
5115                     if (shift != 4)
5116                         yyerror("Illegal octal digit");
5117                     /* FALL THROUGH */
5118                 case '0': case '1': case '2': case '3': case '4':
5119                 case '5': case '6': case '7':
5120                     b = *s++ & 15;
5121                     goto digit;
5122                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
5123                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
5124                     if (shift != 4)
5125                         goto out;
5126                     b = (*s++ & 7) + 9;
5127                   digit:
5128                     n = u << shift;
5129                     if (!overflowed && (n >> shift) != u) {
5130                         warn("Integer overflow in %s number",
5131                              (shift == 4) ? "hex" : "octal");
5132                         overflowed = TRUE;
5133                     }
5134                     u = n | b;
5135                     break;
5136                 }
5137             }
5138           out:
5139             sv = NEWSV(92,0);
5140             sv_setuv(sv, u);
5141         }
5142         break;
5143     case '1': case '2': case '3': case '4': case '5':
5144     case '6': case '7': case '8': case '9': case '.':
5145       decimal:
5146         d = tokenbuf;
5147         e = tokenbuf + sizeof tokenbuf - 6; /* room for various punctuation */
5148         floatit = FALSE;
5149         while (isDIGIT(*s) || *s == '_') {
5150             if (*s == '_') {
5151                 if (dowarn && lastub && s - lastub != 3)
5152                     warn("Misplaced _ in number");
5153                 lastub = ++s;
5154             }
5155             else {
5156                 if (d >= e)
5157                     croak(number_too_long);
5158                 *d++ = *s++;
5159             }
5160         }
5161         if (dowarn && lastub && s - lastub != 3)
5162             warn("Misplaced _ in number");
5163         if (*s == '.' && s[1] != '.') {
5164             floatit = TRUE;
5165             *d++ = *s++;
5166             for (; isDIGIT(*s) || *s == '_'; s++) {
5167                 if (d >= e)
5168                     croak(number_too_long);
5169                 if (*s != '_')
5170                     *d++ = *s;
5171             }
5172         }
5173         if (*s && strchr("eE",*s) && strchr("+-0123456789",s[1])) {
5174             floatit = TRUE;
5175             s++;
5176             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
5177             if (*s == '+' || *s == '-')
5178                 *d++ = *s++;
5179             while (isDIGIT(*s)) {
5180                 if (d >= e)
5181                     croak(number_too_long);
5182                 *d++ = *s++;
5183             }
5184         }
5185         *d = '\0';
5186         sv = NEWSV(92,0);
5187         SET_NUMERIC_STANDARD();
5188         value = atof(tokenbuf);
5189         tryiv = I_V(value);
5190         if (!floatit && (double)tryiv == value)
5191             sv_setiv(sv, tryiv);
5192         else
5193             sv_setnv(sv, value);
5194         break;
5195     }
5196
5197     yylval.opval = newSVOP(OP_CONST, 0, sv);
5198
5199     return s;
5200 }
5201
5202 static char *
5203 scan_formline(s)
5204 register char *s;
5205 {
5206     dTHR;
5207     register char *eol;
5208     register char *t;
5209     SV *stuff = newSVpv("",0);
5210     bool needargs = FALSE;
5211
5212     while (!needargs) {
5213         if (*s == '.' || *s == '}') {
5214             /*SUPPRESS 530*/
5215             for (t = s+1; *t == ' ' || *t == '\t'; t++) ;
5216             if (*t == '\n')
5217                 break;
5218         }
5219         if (in_eval && !rsfp) {
5220             eol = strchr(s,'\n');
5221             if (!eol++)
5222                 eol = bufend;
5223         }
5224         else
5225             eol = bufend = SvPVX(linestr) + SvCUR(linestr);
5226         if (*s != '#') {
5227             for (t = s; t < eol; t++) {
5228                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
5229                     needargs = FALSE;
5230                     goto enough;        /* ~~ must be first line in formline */
5231                 }
5232                 if (*t == '@' || *t == '^')
5233                     needargs = TRUE;
5234             }
5235             sv_catpvn(stuff, s, eol-s);
5236         }
5237         s = eol;
5238         if (rsfp) {
5239             s = filter_gets(linestr, rsfp, 0);
5240             oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
5241             bufend = bufptr + SvCUR(linestr);
5242             if (!s) {
5243                 s = bufptr;
5244                 yyerror("Format not terminated");
5245                 break;
5246             }
5247         }
5248         incline(s);
5249     }
5250   enough:
5251     if (SvCUR(stuff)) {
5252         expect = XTERM;
5253         if (needargs) {
5254             lex_state = LEX_NORMAL;
5255             nextval[nexttoke].ival = 0;
5256             force_next(',');
5257         }
5258         else
5259             lex_state = LEX_FORMLINE;
5260         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, stuff);
5261         force_next(THING);
5262         nextval[nexttoke].ival = OP_FORMLINE;
5263         force_next(LSTOP);
5264     }
5265     else {
5266         SvREFCNT_dec(stuff);
5267         lex_formbrack = 0;
5268         bufptr = s;
5269     }
5270     return s;
5271 }
5272
5273 static void
5274 set_csh()
5275 {
5276 #ifdef CSH
5277     if (!cshlen)
5278         cshlen = strlen(cshname);
5279 #endif
5280 }
5281
5282 I32
5283 start_subparse(is_format, flags)
5284 I32 is_format;
5285 U32 flags;
5286 {
5287     dTHR;
5288     I32 oldsavestack_ix = savestack_ix;
5289     CV* outsidecv = compcv;
5290     AV* comppadlist;
5291
5292     if (compcv) {
5293         assert(SvTYPE(compcv) == SVt_PVCV);
5294     }
5295     save_I32(&subline);
5296     save_item(subname);
5297     SAVEI32(padix);
5298     SAVESPTR(curpad);
5299     SAVESPTR(comppad);
5300     SAVESPTR(comppad_name);
5301     SAVESPTR(compcv);
5302     SAVEI32(comppad_name_fill);
5303     SAVEI32(min_intro_pending);
5304     SAVEI32(max_intro_pending);
5305     SAVEI32(pad_reset_pending);
5306
5307     compcv = (CV*)NEWSV(1104,0);
5308     sv_upgrade((SV *)compcv, is_format ? SVt_PVFM : SVt_PVCV);
5309     CvFLAGS(compcv) |= flags;
5310
5311     comppad = newAV();
5312     av_push(comppad, Nullsv);
5313     curpad = AvARRAY(comppad);
5314     comppad_name = newAV();
5315     comppad_name_fill = 0;
5316     min_intro_pending = 0;
5317     padix = 0;
5318     subline = curcop->cop_line;
5319 #ifdef USE_THREADS
5320     av_store(comppad_name, 0, newSVpv("@_", 2));
5321     curpad[0] = (SV*)newAV();
5322     SvPADMY_on(curpad[0]);      /* XXX Needed? */
5323     CvOWNER(compcv) = 0;
5324     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5325     MUTEX_INIT(CvMUTEXP(compcv));
5326 #endif /* USE_THREADS */
5327
5328     comppadlist = newAV();
5329     AvREAL_off(comppadlist);
5330     av_store(comppadlist, 0, (SV*)comppad_name);
5331     av_store(comppadlist, 1, (SV*)comppad);
5332
5333     CvPADLIST(compcv) = comppadlist;
5334     CvOUTSIDE(compcv) = (CV*)SvREFCNT_inc((SV*)outsidecv);
5335 #ifdef USE_THREADS
5336     CvOWNER(compcv) = 0;
5337     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5338     MUTEX_INIT(CvMUTEXP(compcv));
5339 #endif /* USE_THREADS */
5340
5341     return oldsavestack_ix;
5342 }
5343
5344 int
5345 yywarn(s)
5346 char *s;
5347 {
5348     dTHR;
5349     --error_count;
5350     in_eval |= 2;
5351     yyerror(s);
5352     in_eval &= ~2;
5353     return 0;
5354 }
5355
5356 int
5357 yyerror(s)
5358 char *s;
5359 {
5360     dTHR;
5361     char *where = NULL;
5362     char *context = NULL;
5363     int contlen = -1;
5364     SV *msg;
5365
5366     if (!yychar || (yychar == ';' && !rsfp))
5367         where = "at EOF";
5368     else if (bufptr > oldoldbufptr && bufptr - oldoldbufptr < 200 &&
5369       oldoldbufptr != oldbufptr && oldbufptr != bufptr) {
5370         while (isSPACE(*oldoldbufptr))
5371             oldoldbufptr++;
5372         context = oldoldbufptr;
5373         contlen = bufptr - oldoldbufptr;
5374     }
5375     else if (bufptr > oldbufptr && bufptr - oldbufptr < 200 &&
5376       oldbufptr != bufptr) {
5377         while (isSPACE(*oldbufptr))
5378             oldbufptr++;
5379         context = oldbufptr;
5380         contlen = bufptr - oldbufptr;
5381     }
5382     else if (yychar > 255)
5383         where = "next token ???";
5384     else if ((yychar & 127) == 127) {
5385         if (lex_state == LEX_NORMAL ||
5386            (lex_state == LEX_KNOWNEXT && lex_defer == LEX_NORMAL))
5387             where = "at end of line";
5388         else if (lex_inpat)
5389             where = "within pattern";
5390         else
5391             where = "within string";
5392     }
5393     else {
5394         SV *where_sv = sv_2mortal(newSVpv("next char ", 0));
5395         if (yychar < 32)
5396             sv_catpvf(where_sv, "^%c", toCTRL(yychar));
5397         else if (isPRINT_LC(yychar))
5398             sv_catpvf(where_sv, "%c", yychar);
5399         else
5400             sv_catpvf(where_sv, "\\%03o", yychar & 255);
5401         where = SvPVX(where_sv);
5402     }
5403     msg = sv_2mortal(newSVpv(s, 0));
5404     sv_catpvf(msg, " at %_ line %ld, ",
5405               GvSV(curcop->cop_filegv), (long)curcop->cop_line);
5406     if (context)
5407         sv_catpvf(msg, "near \"%.*s\"\n", contlen, context);
5408     else
5409         sv_catpvf(msg, "%s\n", where);
5410     if (multi_start < multi_end && (U32)(curcop->cop_line - multi_end) <= 1) {
5411         sv_catpvf(msg,
5412         "  (Might be a runaway multi-line %c%c string starting on line %ld)\n",
5413                 (int)multi_open,(int)multi_close,(long)multi_start);
5414         multi_end = 0;
5415     }
5416     if (in_eval & 2)
5417         warn("%_", msg);
5418     else if (in_eval)
5419         sv_catsv(GvSV(errgv), msg);
5420     else
5421         PerlIO_write(PerlIO_stderr(), SvPVX(msg), SvCUR(msg));
5422     if (++error_count >= 10)
5423         croak("%_ has too many errors.\n", GvSV(curcop->cop_filegv));
5424     in_my = 0;
5425     in_my_stash = Nullhv;
5426     return 0;
5427 }