705b9ab8b77dddeae3be1ff0113b60fd87cbbde9
[p5sagit/p5-mst-13.2.git] / toke.c
1 /*    toke.c
2  *
3  *    Copyright (c) 1991-1997, Larry Wall
4  *
5  *    You may distribute under the terms of either the GNU General Public
6  *    License or the Artistic License, as specified in the README file.
7  *
8  */
9
10 /*
11  *   "It all comes from here, the stench and the peril."  --Frodo
12  */
13
14 #include "EXTERN.h"
15 #include "perl.h"
16
17 static void check_uni _((void));
18 static void  force_next _((I32 type));
19 static char *force_version _((char *start));
20 static char *force_word _((char *start, int token, int check_keyword, int allow_pack, int allow_tick));
21 static SV *q _((SV *sv));
22 static char *scan_const _((char *start));
23 static char *scan_formline _((char *s));
24 static char *scan_heredoc _((char *s));
25 static char *scan_ident _((char *s, char *send, char *dest, STRLEN destlen,
26                            I32 ck_uni));
27 static char *scan_inputsymbol _((char *start));
28 static char *scan_pat _((char *start));
29 static char *scan_str _((char *start));
30 static char *scan_subst _((char *start));
31 static char *scan_trans _((char *start));
32 static char *scan_word _((char *s, char *dest, STRLEN destlen,
33                           int allow_package, STRLEN *slp));
34 static char *skipspace _((char *s));
35 static void checkcomma _((char *s, char *name, char *what));
36 static void force_ident _((char *s, int kind));
37 static void incline _((char *s));
38 static int intuit_method _((char *s, GV *gv));
39 static int intuit_more _((char *s));
40 static I32 lop _((I32 f, expectation x, char *s));
41 static void missingterm _((char *s));
42 static void no_op _((char *what, char *s));
43 static void set_csh _((void));
44 static I32 sublex_done _((void));
45 static I32 sublex_push _((void));
46 static I32 sublex_start _((void));
47 #ifdef CRIPPLED_CC
48 static int uni _((I32 f, char *s));
49 #endif
50 static char * filter_gets _((SV *sv, PerlIO *fp, STRLEN append));
51 static void restore_rsfp _((void *f));
52
53 static char ident_too_long[] = "Identifier too long";
54
55 static char *linestart;         /* beg. of most recently read line */
56
57 static char pending_ident;      /* pending identifier lookup */
58
59 static struct {
60     I32 super_state;    /* lexer state to save */
61     I32 sub_inwhat;     /* "lex_inwhat" to use */
62     OP *sub_op;         /* "lex_op" to use */
63 } sublex_info;
64
65 /* The following are arranged oddly so that the guard on the switch statement
66  * can get by with a single comparison (if the compiler is smart enough).
67  */
68
69 #define LEX_NORMAL              10
70 #define LEX_INTERPNORMAL         9
71 #define LEX_INTERPCASEMOD        8
72 #define LEX_INTERPPUSH           7
73 #define LEX_INTERPSTART          6
74 #define LEX_INTERPEND            5
75 #define LEX_INTERPENDMAYBE       4
76 #define LEX_INTERPCONCAT         3
77 #define LEX_INTERPCONST          2
78 #define LEX_FORMLINE             1
79 #define LEX_KNOWNEXT             0
80
81 #ifdef I_FCNTL
82 #include <fcntl.h>
83 #endif
84 #ifdef I_SYS_FILE
85 #include <sys/file.h>
86 #endif
87
88 /* XXX If this causes problems, set i_unistd=undef in the hint file.  */
89 #ifdef I_UNISTD
90 #  include <unistd.h> /* Needed for execv() */
91 #endif
92
93
94 #ifdef ff_next
95 #undef ff_next
96 #endif
97
98 #include "keywords.h"
99
100 #ifdef CLINE
101 #undef CLINE
102 #endif
103 #define CLINE (copline = (curcop->cop_line < copline ? curcop->cop_line : copline))
104
105 #define TOKEN(retval) return (bufptr = s,(int)retval)
106 #define OPERATOR(retval) return (expect = XTERM,bufptr = s,(int)retval)
107 #define AOPERATOR(retval) return ao((expect = XTERM,bufptr = s,(int)retval))
108 #define PREBLOCK(retval) return (expect = XBLOCK,bufptr = s,(int)retval)
109 #define PRETERMBLOCK(retval) return (expect = XTERMBLOCK,bufptr = s,(int)retval)
110 #define PREREF(retval) return (expect = XREF,bufptr = s,(int)retval)
111 #define TERM(retval) return (CLINE, expect = XOPERATOR,bufptr = s,(int)retval)
112 #define LOOPX(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LOOPEX)
113 #define FTST(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)UNIOP)
114 #define FUN0(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC0)
115 #define FUN1(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC1)
116 #define BOop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITOROP))
117 #define BAop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITANDOP))
118 #define SHop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)SHIFTOP))
119 #define PWop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)POWOP))
120 #define PMop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)MATCHOP)
121 #define Aop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)ADDOP))
122 #define Mop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)MULOP))
123 #define Eop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)EQOP)
124 #define Rop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)RELOP)
125
126 /* This bit of chicanery makes a unary function followed by
127  * a parenthesis into a function with one argument, highest precedence.
128  */
129 #define UNI(f) return(yylval.ival = f, \
130         expect = XTERM, \
131         bufptr = s, \
132         last_uni = oldbufptr, \
133         last_lop_op = f, \
134         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
135
136 #define UNIBRACK(f) return(yylval.ival = f, \
137         bufptr = s, \
138         last_uni = oldbufptr, \
139         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
140
141 /* grandfather return to old style */
142 #define OLDLOP(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LSTOP)
143
144 static int
145 ao(toketype)
146 int toketype;
147 {
148     if (*bufptr == '=') {
149         bufptr++;
150         if (toketype == ANDAND)
151             yylval.ival = OP_ANDASSIGN;
152         else if (toketype == OROR)
153             yylval.ival = OP_ORASSIGN;
154         toketype = ASSIGNOP;
155     }
156     return toketype;
157 }
158
159 static void
160 no_op(what, s)
161 char *what;
162 char *s;
163 {
164     char *oldbp = bufptr;
165     bool is_first = (oldbufptr == linestart);
166
167     bufptr = s;
168     yywarn(form("%s found where operator expected", what));
169     if (is_first)
170         warn("\t(Missing semicolon on previous line?)\n");
171     else if (oldoldbufptr && isIDFIRST(*oldoldbufptr)) {
172         char *t;
173         for (t = oldoldbufptr; *t && (isALNUM(*t) || *t == ':'); t++) ;
174         if (t < bufptr && isSPACE(*t))
175             warn("\t(Do you need to predeclare %.*s?)\n",
176                 t - oldoldbufptr, oldoldbufptr);
177
178     }
179     else
180         warn("\t(Missing operator before %.*s?)\n", s - oldbp, oldbp);
181     bufptr = oldbp;
182 }
183
184 static void
185 missingterm(s)
186 char *s;
187 {
188     char tmpbuf[3];
189     char q;
190     if (s) {
191         char *nl = strrchr(s,'\n');
192         if (nl)
193             *nl = '\0';
194     }
195     else if (multi_close < 32 || multi_close == 127) {
196         *tmpbuf = '^';
197         tmpbuf[1] = toCTRL(multi_close);
198         s = "\\n";
199         tmpbuf[2] = '\0';
200         s = tmpbuf;
201     }
202     else {
203         *tmpbuf = multi_close;
204         tmpbuf[1] = '\0';
205         s = tmpbuf;
206     }
207     q = strchr(s,'"') ? '\'' : '"';
208     croak("Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
209 }
210
211 void
212 deprecate(s)
213 char *s;
214 {
215     if (dowarn)
216         warn("Use of %s is deprecated", s);
217 }
218
219 static void
220 depcom()
221 {
222     deprecate("comma-less variable list");
223 }
224
225 void
226 lex_start(line)
227 SV *line;
228 {
229     char *s;
230     STRLEN len;
231
232     SAVEI32(lex_dojoin);
233     SAVEI32(lex_brackets);
234     SAVEI32(lex_fakebrack);
235     SAVEI32(lex_casemods);
236     SAVEI32(lex_starts);
237     SAVEI32(lex_state);
238     SAVESPTR(lex_inpat);
239     SAVEI32(lex_inwhat);
240     SAVEI16(curcop->cop_line);
241     SAVEPPTR(bufptr);
242     SAVEPPTR(bufend);
243     SAVEPPTR(oldbufptr);
244     SAVEPPTR(oldoldbufptr);
245     SAVEPPTR(linestart);
246     SAVESPTR(linestr);
247     SAVEPPTR(lex_brackstack);
248     SAVEPPTR(lex_casestack);
249     SAVEDESTRUCTOR(restore_rsfp, rsfp);
250
251     lex_state = LEX_NORMAL;
252     lex_defer = 0;
253     expect = XSTATE;
254     lex_brackets = 0;
255     lex_fakebrack = 0;
256     New(899, lex_brackstack, 120, char);
257     New(899, lex_casestack, 12, char);
258     SAVEFREEPV(lex_brackstack);
259     SAVEFREEPV(lex_casestack);
260     lex_casemods = 0;
261     *lex_casestack = '\0';
262     lex_dojoin = 0;
263     lex_starts = 0;
264     if (lex_stuff)
265         SvREFCNT_dec(lex_stuff);
266     lex_stuff = Nullsv;
267     if (lex_repl)
268         SvREFCNT_dec(lex_repl);
269     lex_repl = Nullsv;
270     lex_inpat = 0;
271     lex_inwhat = 0;
272     linestr = line;
273     if (SvREADONLY(linestr))
274         linestr = sv_2mortal(newSVsv(linestr));
275     s = SvPV(linestr, len);
276     if (len && s[len-1] != ';') {
277         if (!(SvFLAGS(linestr) & SVs_TEMP))
278             linestr = sv_2mortal(newSVsv(linestr));
279         sv_catpvn(linestr, "\n;", 2);
280     }
281     SvTEMP_off(linestr);
282     oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
283     bufend = bufptr + SvCUR(linestr);
284     SvREFCNT_dec(rs);
285     rs = newSVpv("\n", 1);
286     rsfp = 0;
287 }
288
289 void
290 lex_end()
291 {
292     doextract = FALSE;
293 }
294
295 static void
296 restore_rsfp(f)
297 void *f;
298 {
299     PerlIO *fp = (PerlIO*)f;
300
301     if (rsfp == PerlIO_stdin())
302         PerlIO_clearerr(rsfp);
303     else if (rsfp && (rsfp != fp))
304         PerlIO_close(rsfp);
305     rsfp = fp;
306 }
307
308 static void
309 incline(s)
310 char *s;
311 {
312     char *t;
313     char *n;
314     char ch;
315     int sawline = 0;
316
317     curcop->cop_line++;
318     if (*s++ != '#')
319         return;
320     while (*s == ' ' || *s == '\t') s++;
321     if (strnEQ(s, "line ", 5)) {
322         s += 5;
323         sawline = 1;
324     }
325     if (!isDIGIT(*s))
326         return;
327     n = s;
328     while (isDIGIT(*s))
329         s++;
330     while (*s == ' ' || *s == '\t')
331         s++;
332     if (*s == '"' && (t = strchr(s+1, '"')))
333         s++;
334     else {
335         if (!sawline)
336             return;             /* false alarm */
337         for (t = s; !isSPACE(*t); t++) ;
338     }
339     ch = *t;
340     *t = '\0';
341     if (t - s > 0)
342         curcop->cop_filegv = gv_fetchfile(s);
343     else
344         curcop->cop_filegv = gv_fetchfile(origfilename);
345     *t = ch;
346     curcop->cop_line = atoi(n)-1;
347 }
348
349 static char *
350 skipspace(s)
351 register char *s;
352 {
353     dTHR;
354     if (lex_formbrack && lex_brackets <= lex_formbrack) {
355         while (s < bufend && (*s == ' ' || *s == '\t'))
356             s++;
357         return s;
358     }
359     for (;;) {
360         STRLEN prevlen;
361         while (s < bufend && isSPACE(*s))
362             s++;
363         if (s < bufend && *s == '#') {
364             while (s < bufend && *s != '\n')
365                 s++;
366             if (s < bufend)
367                 s++;
368         }
369         if (s < bufend || !rsfp || lex_state != LEX_NORMAL)
370             return s;
371         if ((s = filter_gets(linestr, rsfp, (prevlen = SvCUR(linestr)))) == Nullch) {
372             if (minus_n || minus_p) {
373                 sv_setpv(linestr,minus_p ? ";}continue{print" : "");
374                 sv_catpv(linestr,";}");
375                 minus_n = minus_p = 0;
376             }
377             else
378                 sv_setpv(linestr,";");
379             oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
380             bufend = SvPVX(linestr) + SvCUR(linestr);
381             if (preprocess && !in_eval)
382                 (void)my_pclose(rsfp);
383             else if ((PerlIO*)rsfp == PerlIO_stdin())
384                 PerlIO_clearerr(rsfp);
385             else
386                 (void)PerlIO_close(rsfp);
387             rsfp = Nullfp;
388             return s;
389         }
390         linestart = bufptr = s + prevlen;
391         bufend = s + SvCUR(linestr);
392         s = bufptr;
393         incline(s);
394         if (perldb && curstash != debstash) {
395             SV *sv = NEWSV(85,0);
396
397             sv_upgrade(sv, SVt_PVMG);
398             sv_setpvn(sv,bufptr,bufend-bufptr);
399             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
400         }
401     }
402 }
403
404 static void
405 check_uni() {
406     char *s;
407     char ch;
408     char *t;
409
410     if (oldoldbufptr != last_uni)
411         return;
412     while (isSPACE(*last_uni))
413         last_uni++;
414     for (s = last_uni; isALNUM(*s) || *s == '-'; s++) ;
415     if ((t = strchr(s, '(')) && t < bufptr)
416         return;
417     ch = *s;
418     *s = '\0';
419     warn("Warning: Use of \"%s\" without parens is ambiguous", last_uni);
420     *s = ch;
421 }
422
423 #ifdef CRIPPLED_CC
424
425 #undef UNI
426 #define UNI(f) return uni(f,s)
427
428 static int
429 uni(f,s)
430 I32 f;
431 char *s;
432 {
433     yylval.ival = f;
434     expect = XTERM;
435     bufptr = s;
436     last_uni = oldbufptr;
437     last_lop_op = f;
438     if (*s == '(')
439         return FUNC1;
440     s = skipspace(s);
441     if (*s == '(')
442         return FUNC1;
443     else
444         return UNIOP;
445 }
446
447 #endif /* CRIPPLED_CC */
448
449 #define LOP(f,x) return lop(f,x,s)
450
451 static I32
452 lop
453 #ifdef CAN_PROTOTYPE
454    (I32 f, expectation x, char *s)
455 #else
456    (f,x,s)
457 I32 f;
458 expectation x;
459 char *s;
460 #endif /* CAN_PROTOTYPE */
461 {
462     yylval.ival = f;
463     CLINE;
464     expect = x;
465     bufptr = s;
466     last_lop = oldbufptr;
467     last_lop_op = f;
468     if (nexttoke)
469         return LSTOP;
470     if (*s == '(')
471         return FUNC;
472     s = skipspace(s);
473     if (*s == '(')
474         return FUNC;
475     else
476         return LSTOP;
477 }
478
479 static void 
480 force_next(type)
481 I32 type;
482 {
483     nexttype[nexttoke] = type;
484     nexttoke++;
485     if (lex_state != LEX_KNOWNEXT) {
486         lex_defer = lex_state;
487         lex_expect = expect;
488         lex_state = LEX_KNOWNEXT;
489     }
490 }
491
492 static char *
493 force_word(start,token,check_keyword,allow_pack,allow_tick)
494 register char *start;
495 int token;
496 int check_keyword;
497 int allow_pack;
498 int allow_tick;
499 {
500     register char *s;
501     STRLEN len;
502     
503     start = skipspace(start);
504     s = start;
505     if (isIDFIRST(*s) ||
506         (allow_pack && *s == ':') ||
507         (allow_tick && *s == '\'') )
508     {
509         s = scan_word(s, tokenbuf, sizeof tokenbuf, allow_pack, &len);
510         if (check_keyword && keyword(tokenbuf, len))
511             return start;
512         if (token == METHOD) {
513             s = skipspace(s);
514             if (*s == '(')
515                 expect = XTERM;
516             else {
517                 expect = XOPERATOR;
518                 force_next(')');
519                 force_next('(');
520             }
521         }
522         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST,0, newSVpv(tokenbuf,0));
523         nextval[nexttoke].opval->op_private |= OPpCONST_BARE;
524         force_next(token);
525     }
526     return s;
527 }
528
529 static void
530 force_ident(s, kind)
531 register char *s;
532 int kind;
533 {
534     if (s && *s) {
535         OP* o = (OP*)newSVOP(OP_CONST, 0, newSVpv(s,0));
536         nextval[nexttoke].opval = o;
537         force_next(WORD);
538         if (kind) {
539             dTHR;               /* just for in_eval */
540             o->op_private = OPpCONST_ENTERED;
541             /* XXX see note in pp_entereval() for why we forgo typo
542                warnings if the symbol must be introduced in an eval.
543                GSAR 96-10-12 */
544             gv_fetchpv(s, in_eval ? GV_ADDMULTI : TRUE,
545                 kind == '$' ? SVt_PV :
546                 kind == '@' ? SVt_PVAV :
547                 kind == '%' ? SVt_PVHV :
548                               SVt_PVGV
549                 );
550         }
551     }
552 }
553
554 static char *
555 force_version(s)
556 char *s;
557 {
558     OP *version = Nullop;
559
560     s = skipspace(s);
561
562     /* default VERSION number -- GBARR */
563
564     if(isDIGIT(*s)) {
565         char *d;
566         int c;
567         for( d=s, c = 1; isDIGIT(*d) || *d == '_' || (*d == '.' && c--); d++);
568         if((*d == ';' || isSPACE(*d)) && *(skipspace(d)) != ',') {
569             s = scan_num(s);
570             /* real VERSION number -- GBARR */
571             version = yylval.opval;
572         }
573     }
574
575     /* NOTE: The parser sees the package name and the VERSION swapped */
576     nextval[nexttoke].opval = version;
577     force_next(WORD); 
578
579     return (s);
580 }
581
582 static SV *
583 q(sv)
584 SV *sv;
585 {
586     register char *s;
587     register char *send;
588     register char *d;
589     STRLEN len;
590
591     if (!SvLEN(sv))
592         return sv;
593
594     s = SvPV_force(sv, len);
595     if (SvIVX(sv) == -1)
596         return sv;
597     send = s + len;
598     while (s < send && *s != '\\')
599         s++;
600     if (s == send)
601         return sv;
602     d = s;
603     while (s < send) {
604         if (*s == '\\') {
605             if (s + 1 < send && (s[1] == '\\'))
606                 s++;            /* all that, just for this */
607         }
608         *d++ = *s++;
609     }
610     *d = '\0';
611     SvCUR_set(sv, d - SvPVX(sv));
612
613     return sv;
614 }
615
616 static I32
617 sublex_start()
618 {
619     register I32 op_type = yylval.ival;
620
621     if (op_type == OP_NULL) {
622         yylval.opval = lex_op;
623         lex_op = Nullop;
624         return THING;
625     }
626     if (op_type == OP_CONST || op_type == OP_READLINE) {
627         SV *sv = q(lex_stuff);
628         STRLEN len;
629         char *p = SvPV(sv, len);
630         yylval.opval = (OP*)newSVOP(op_type, 0, newSVpv(p, len));
631         SvREFCNT_dec(sv);
632         lex_stuff = Nullsv;
633         return THING;
634     }
635
636     sublex_info.super_state = lex_state;
637     sublex_info.sub_inwhat = op_type;
638     sublex_info.sub_op = lex_op;
639     lex_state = LEX_INTERPPUSH;
640
641     expect = XTERM;
642     if (lex_op) {
643         yylval.opval = lex_op;
644         lex_op = Nullop;
645         return PMFUNC;
646     }
647     else
648         return FUNC;
649 }
650
651 static I32
652 sublex_push()
653 {
654     push_scope();
655
656     lex_state = sublex_info.super_state;
657     SAVEI32(lex_dojoin);
658     SAVEI32(lex_brackets);
659     SAVEI32(lex_fakebrack);
660     SAVEI32(lex_casemods);
661     SAVEI32(lex_starts);
662     SAVEI32(lex_state);
663     SAVESPTR(lex_inpat);
664     SAVEI32(lex_inwhat);
665     SAVEI16(curcop->cop_line);
666     SAVEPPTR(bufptr);
667     SAVEPPTR(oldbufptr);
668     SAVEPPTR(oldoldbufptr);
669     SAVEPPTR(linestart);
670     SAVESPTR(linestr);
671     SAVEPPTR(lex_brackstack);
672     SAVEPPTR(lex_casestack);
673
674     linestr = lex_stuff;
675     lex_stuff = Nullsv;
676
677     bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
678     bufend += SvCUR(linestr);
679     SAVEFREESV(linestr);
680
681     lex_dojoin = FALSE;
682     lex_brackets = 0;
683     lex_fakebrack = 0;
684     New(899, lex_brackstack, 120, char);
685     New(899, lex_casestack, 12, char);
686     SAVEFREEPV(lex_brackstack);
687     SAVEFREEPV(lex_casestack);
688     lex_casemods = 0;
689     *lex_casestack = '\0';
690     lex_starts = 0;
691     lex_state = LEX_INTERPCONCAT;
692     curcop->cop_line = multi_start;
693
694     lex_inwhat = sublex_info.sub_inwhat;
695     if (lex_inwhat == OP_MATCH || lex_inwhat == OP_SUBST)
696         lex_inpat = sublex_info.sub_op;
697     else
698         lex_inpat = Nullop;
699
700     return '(';
701 }
702
703 static I32
704 sublex_done()
705 {
706     if (!lex_starts++) {
707         expect = XOPERATOR;
708         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv("",0));
709         return THING;
710     }
711
712     if (lex_casemods) {         /* oops, we've got some unbalanced parens */
713         lex_state = LEX_INTERPCASEMOD;
714         return yylex();
715     }
716
717     /* Is there a right-hand side to take care of? */
718     if (lex_repl && (lex_inwhat == OP_SUBST || lex_inwhat == OP_TRANS)) {
719         linestr = lex_repl;
720         lex_inpat = 0;
721         bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
722         bufend += SvCUR(linestr);
723         SAVEFREESV(linestr);
724         lex_dojoin = FALSE;
725         lex_brackets = 0;
726         lex_fakebrack = 0;
727         lex_casemods = 0;
728         *lex_casestack = '\0';
729         lex_starts = 0;
730         if (SvCOMPILED(lex_repl)) {
731             lex_state = LEX_INTERPNORMAL;
732             lex_starts++;
733         }
734         else
735             lex_state = LEX_INTERPCONCAT;
736         lex_repl = Nullsv;
737         return ',';
738     }
739     else {
740         pop_scope();
741         bufend = SvPVX(linestr);
742         bufend += SvCUR(linestr);
743         expect = XOPERATOR;
744         return ')';
745     }
746 }
747
748 static char *
749 scan_const(start)
750 char *start;
751 {
752     register char *send = bufend;
753     SV *sv = NEWSV(93, send - start);
754     register char *s = start;
755     register char *d = SvPVX(sv);
756     bool dorange = FALSE;
757     I32 len;
758     char *leave =
759         lex_inpat
760             ? "\\.^$@AGZdDwWsSbB+*?|()-nrtfeaxc0123456789[{]} \t\n\r\f\v#"
761             : (lex_inwhat & OP_TRANS)
762                 ? ""
763                 : "";
764
765     while (s < send || dorange) {
766         if (lex_inwhat == OP_TRANS) {
767             if (dorange) {
768                 I32 i;
769                 I32 max;
770                 i = d - SvPVX(sv);
771                 SvGROW(sv, SvLEN(sv) + 256);
772                 d = SvPVX(sv) + i;
773                 d -= 2;
774                 max = (U8)d[1];
775                 for (i = (U8)*d; i <= max; i++)
776                     *d++ = i;
777                 dorange = FALSE;
778                 continue;
779             }
780             else if (*s == '-' && s+1 < send  && s != start) {
781                 dorange = TRUE;
782                 s++;
783             }
784         }
785         else if (*s == '(' && lex_inpat && s[1] == '?' && s[2] == '#') {
786             while (s < send && *s != ')')
787                 *d++ = *s++;
788         }
789         else if (*s == '#' && lex_inpat &&
790           ((PMOP*)lex_inpat)->op_pmflags & PMf_EXTENDED) {
791             while (s+1 < send && *s != '\n')
792                 *d++ = *s++;
793         }
794         else if (*s == '@' && s[1] && (isALNUM(s[1]) || strchr(":'{$", s[1])))
795             break;
796         else if (*s == '$') {
797             if (!lex_inpat)     /* not a regexp, so $ must be var */
798                 break;
799             if (s + 1 < send && !strchr(")| \n\t", s[1]))
800                 break;          /* in regexp, $ might be tail anchor */
801         }
802         if (*s == '\\' && s+1 < send) {
803             s++;
804             if (*s && strchr(leave, *s)) {
805                 *d++ = '\\';
806                 *d++ = *s++;
807                 continue;
808             }
809             if (lex_inwhat == OP_SUBST && !lex_inpat &&
810                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
811             {
812                 if (dowarn)
813                     warn("\\%c better written as $%c", *s, *s);
814                 *--s = '$';
815                 break;
816             }
817             if (lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
818                 --s;
819                 break;
820             }
821             switch (*s) {
822             case '-':
823                 if (lex_inwhat == OP_TRANS) {
824                     *d++ = *s++;
825                     continue;
826                 }
827                 /* FALL THROUGH */
828             default:
829                 *d++ = *s++;
830                 continue;
831             case '0': case '1': case '2': case '3':
832             case '4': case '5': case '6': case '7':
833                 *d++ = scan_oct(s, 3, &len);
834                 s += len;
835                 continue;
836             case 'x':
837                 *d++ = scan_hex(++s, 2, &len);
838                 s += len;
839                 continue;
840             case 'c':
841                 s++;
842                 len = *s++;
843                 *d++ = toCTRL(len);
844                 continue;
845             case 'b':
846                 *d++ = '\b';
847                 break;
848             case 'n':
849                 *d++ = '\n';
850                 break;
851             case 'r':
852                 *d++ = '\r';
853                 break;
854             case 'f':
855                 *d++ = '\f';
856                 break;
857             case 't':
858                 *d++ = '\t';
859                 break;
860             case 'e':
861                 *d++ = '\033';
862                 break;
863             case 'a':
864                 *d++ = '\007';
865                 break;
866             }
867             s++;
868             continue;
869         }
870         *d++ = *s++;
871     }
872     *d = '\0';
873     SvCUR_set(sv, d - SvPVX(sv));
874     SvPOK_on(sv);
875
876     if (SvCUR(sv) + 5 < SvLEN(sv)) {
877         SvLEN_set(sv, SvCUR(sv) + 1);
878         Renew(SvPVX(sv), SvLEN(sv), char);
879     }
880     if (s > bufptr)
881         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
882     else
883         SvREFCNT_dec(sv);
884     return s;
885 }
886
887 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
888 static int
889 intuit_more(s)
890 register char *s;
891 {
892     if (lex_brackets)
893         return TRUE;
894     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
895         return TRUE;
896     if (*s != '{' && *s != '[')
897         return FALSE;
898     if (!lex_inpat)
899         return TRUE;
900
901     /* In a pattern, so maybe we have {n,m}. */
902     if (*s == '{') {
903         s++;
904         if (!isDIGIT(*s))
905             return TRUE;
906         while (isDIGIT(*s))
907             s++;
908         if (*s == ',')
909             s++;
910         while (isDIGIT(*s))
911             s++;
912         if (*s == '}')
913             return FALSE;
914         return TRUE;
915         
916     }
917
918     /* On the other hand, maybe we have a character class */
919
920     s++;
921     if (*s == ']' || *s == '^')
922         return FALSE;
923     else {
924         int weight = 2;         /* let's weigh the evidence */
925         char seen[256];
926         unsigned char un_char = 0, last_un_char;
927         char *send = strchr(s,']');
928         char tmpbuf[sizeof tokenbuf * 4];
929
930         if (!send)              /* has to be an expression */
931             return TRUE;
932
933         Zero(seen,256,char);
934         if (*s == '$')
935             weight -= 3;
936         else if (isDIGIT(*s)) {
937             if (s[1] != ']') {
938                 if (isDIGIT(s[1]) && s[2] == ']')
939                     weight -= 10;
940             }
941             else
942                 weight -= 100;
943         }
944         for (; s < send; s++) {
945             last_un_char = un_char;
946             un_char = (unsigned char)*s;
947             switch (*s) {
948             case '@':
949             case '&':
950             case '$':
951                 weight -= seen[un_char] * 10;
952                 if (isALNUM(s[1])) {
953                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
954                     if ((int)strlen(tmpbuf) > 1 && gv_fetchpv(tmpbuf,FALSE, SVt_PV))
955                         weight -= 100;
956                     else
957                         weight -= 10;
958                 }
959                 else if (*s == '$' && s[1] &&
960                   strchr("[#!%*<>()-=",s[1])) {
961                     if (/*{*/ strchr("])} =",s[2]))
962                         weight -= 10;
963                     else
964                         weight -= 1;
965                 }
966                 break;
967             case '\\':
968                 un_char = 254;
969                 if (s[1]) {
970                     if (strchr("wds]",s[1]))
971                         weight += 100;
972                     else if (seen['\''] || seen['"'])
973                         weight += 1;
974                     else if (strchr("rnftbxcav",s[1]))
975                         weight += 40;
976                     else if (isDIGIT(s[1])) {
977                         weight += 40;
978                         while (s[1] && isDIGIT(s[1]))
979                             s++;
980                     }
981                 }
982                 else
983                     weight += 100;
984                 break;
985             case '-':
986                 if (s[1] == '\\')
987                     weight += 50;
988                 if (strchr("aA01! ",last_un_char))
989                     weight += 30;
990                 if (strchr("zZ79~",s[1]))
991                     weight += 30;
992                 break;
993             default:
994                 if (!isALNUM(last_un_char) && !strchr("$@&",last_un_char) &&
995                         isALPHA(*s) && s[1] && isALPHA(s[1])) {
996                     char *d = tmpbuf;
997                     while (isALPHA(*s))
998                         *d++ = *s++;
999                     *d = '\0';
1000                     if (keyword(tmpbuf, d - tmpbuf))
1001                         weight -= 150;
1002                 }
1003                 if (un_char == last_un_char + 1)
1004                     weight += 5;
1005                 weight -= seen[un_char];
1006                 break;
1007             }
1008             seen[un_char]++;
1009         }
1010         if (weight >= 0)        /* probably a character class */
1011             return FALSE;
1012     }
1013
1014     return TRUE;
1015 }
1016
1017 static int
1018 intuit_method(start,gv)
1019 char *start;
1020 GV *gv;
1021 {
1022     char *s = start + (*start == '$');
1023     char tmpbuf[sizeof tokenbuf];
1024     STRLEN len;
1025     GV* indirgv;
1026
1027     if (gv) {
1028         if (GvIO(gv))
1029             return 0;
1030         if (!GvCVu(gv))
1031             gv = 0;
1032     }
1033     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
1034     if (*start == '$') {
1035         if (gv || last_lop_op == OP_PRINT || isUPPER(*tokenbuf))
1036             return 0;
1037         s = skipspace(s);
1038         bufptr = start;
1039         expect = XREF;
1040         return *s == '(' ? FUNCMETH : METHOD;
1041     }
1042     if (!keyword(tmpbuf, len)) {
1043         indirgv = gv_fetchpv(tmpbuf,FALSE, SVt_PVCV);
1044         if (indirgv && GvCVu(indirgv))
1045             return 0;
1046         /* filehandle or package name makes it a method */
1047         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
1048             s = skipspace(s);
1049             if ((bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
1050                 return 0;       /* no assumptions -- "=>" quotes bearword */
1051             nextval[nexttoke].opval =
1052                 (OP*)newSVOP(OP_CONST, 0,
1053                             newSVpv(tmpbuf,0));
1054             nextval[nexttoke].opval->op_private =
1055                 OPpCONST_BARE;
1056             expect = XTERM;
1057             force_next(WORD);
1058             bufptr = s;
1059             return *s == '(' ? FUNCMETH : METHOD;
1060         }
1061     }
1062     return 0;
1063 }
1064
1065 static char*
1066 incl_perldb()
1067 {
1068     if (perldb) {
1069         char *pdb = getenv("PERL5DB");
1070
1071         if (pdb)
1072             return pdb;
1073         return "BEGIN { require 'perl5db.pl' }";
1074     }
1075     return "";
1076 }
1077
1078
1079 /* Encoded script support. filter_add() effectively inserts a
1080  * 'pre-processing' function into the current source input stream. 
1081  * Note that the filter function only applies to the current source file
1082  * (e.g., it will not affect files 'require'd or 'use'd by this one).
1083  *
1084  * The datasv parameter (which may be NULL) can be used to pass
1085  * private data to this instance of the filter. The filter function
1086  * can recover the SV using the FILTER_DATA macro and use it to
1087  * store private buffers and state information.
1088  *
1089  * The supplied datasv parameter is upgraded to a PVIO type
1090  * and the IoDIRP field is used to store the function pointer.
1091  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
1092  * private use must be set using malloc'd pointers.
1093  */
1094 static int filter_debug = 0;
1095
1096 SV *
1097 filter_add(funcp, datasv)
1098     filter_t funcp;
1099     SV *datasv;
1100 {
1101     if (!funcp){ /* temporary handy debugging hack to be deleted */
1102         filter_debug = atoi((char*)datasv);
1103         return NULL;
1104     }
1105     if (!rsfp_filters)
1106         rsfp_filters = newAV();
1107     if (!datasv)
1108         datasv = newSV(0);
1109     if (!SvUPGRADE(datasv, SVt_PVIO))
1110         die("Can't upgrade filter_add data to SVt_PVIO");
1111     IoDIRP(datasv) = (DIR*)funcp; /* stash funcp into spare field */
1112     if (filter_debug)
1113         warn("filter_add func %p (%s)", funcp, SvPV(datasv,na));
1114     av_unshift(rsfp_filters, 1);
1115     av_store(rsfp_filters, 0, datasv) ;
1116     return(datasv);
1117 }
1118  
1119
1120 /* Delete most recently added instance of this filter function. */
1121 void
1122 filter_del(funcp)
1123     filter_t funcp;
1124 {
1125     if (filter_debug)
1126         warn("filter_del func %p", funcp);
1127     if (!rsfp_filters || AvFILL(rsfp_filters)<0)
1128         return;
1129     /* if filter is on top of stack (usual case) just pop it off */
1130     if (IoDIRP(FILTER_DATA(0)) == (void*)funcp){
1131         /* sv_free(av_pop(rsfp_filters)); */
1132         sv_free(av_shift(rsfp_filters));
1133
1134         return;
1135     }
1136     /* we need to search for the correct entry and clear it     */
1137     die("filter_del can only delete in reverse order (currently)");
1138 }
1139
1140
1141 /* Invoke the n'th filter function for the current rsfp.         */
1142 I32
1143 filter_read(idx, buf_sv, maxlen)
1144     int idx;
1145     SV *buf_sv;
1146     int maxlen;         /* 0 = read one text line */
1147 {
1148     filter_t funcp;
1149     SV *datasv = NULL;
1150
1151     if (!rsfp_filters)
1152         return -1;
1153     if (idx > AvFILL(rsfp_filters)){       /* Any more filters? */
1154         /* Provide a default input filter to make life easy.    */
1155         /* Note that we append to the line. This is handy.      */
1156         if (filter_debug)
1157             warn("filter_read %d: from rsfp\n", idx);
1158         if (maxlen) { 
1159             /* Want a block */
1160             int len ;
1161             int old_len = SvCUR(buf_sv) ;
1162
1163             /* ensure buf_sv is large enough */
1164             SvGROW(buf_sv, old_len + maxlen) ;
1165             if ((len = PerlIO_read(rsfp, SvPVX(buf_sv) + old_len, maxlen)) <= 0){
1166                 if (PerlIO_error(rsfp))
1167                     return -1;          /* error */
1168                 else
1169                     return 0 ;          /* end of file */
1170             }
1171             SvCUR_set(buf_sv, old_len + len) ;
1172         } else {
1173             /* Want a line */
1174             if (sv_gets(buf_sv, rsfp, SvCUR(buf_sv)) == NULL) {
1175                 if (PerlIO_error(rsfp))
1176                     return -1;          /* error */
1177                 else
1178                     return 0 ;          /* end of file */
1179             }
1180         }
1181         return SvCUR(buf_sv);
1182     }
1183     /* Skip this filter slot if filter has been deleted */
1184     if ( (datasv = FILTER_DATA(idx)) == &sv_undef){
1185         if (filter_debug)
1186             warn("filter_read %d: skipped (filter deleted)\n", idx);
1187         return FILTER_READ(idx+1, buf_sv, maxlen); /* recurse */
1188     }
1189     /* Get function pointer hidden within datasv        */
1190     funcp = (filter_t)IoDIRP(datasv);
1191     if (filter_debug)
1192         warn("filter_read %d: via function %p (%s)\n",
1193                 idx, funcp, SvPV(datasv,na));
1194     /* Call function. The function is expected to       */
1195     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
1196     /* Return: <0:error, =0:eof, >0:not eof             */
1197     return (*funcp)(idx, buf_sv, maxlen);
1198 }
1199
1200 static char *
1201 filter_gets(sv,fp, append)
1202 register SV *sv;
1203 register PerlIO *fp;
1204 STRLEN append;
1205 {
1206     if (rsfp_filters) {
1207
1208         if (!append)
1209             SvCUR_set(sv, 0);   /* start with empty line        */
1210         if (FILTER_READ(0, sv, 0) > 0)
1211             return ( SvPVX(sv) ) ;
1212         else
1213             return Nullch ;
1214     }
1215     else 
1216         return (sv_gets(sv, fp, append));
1217     
1218 }
1219
1220
1221 #ifdef DEBUGGING
1222     static char* exp_name[] =
1223         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "TERMBLOCK" };
1224 #endif
1225
1226 EXT int yychar;         /* last token */
1227
1228 int
1229 yylex()
1230 {
1231     dTHR;
1232     register char *s;
1233     register char *d;
1234     register I32 tmp;
1235     STRLEN len;
1236
1237     if (pending_ident) {
1238         char pit = pending_ident;
1239         pending_ident = 0;
1240
1241         if (in_my) {
1242             if (strchr(tokenbuf,':'))
1243                 croak(no_myglob,tokenbuf);
1244             yylval.opval = newOP(OP_PADANY, 0);
1245             yylval.opval->op_targ = pad_allocmy(tokenbuf);
1246             return PRIVATEREF;
1247         }
1248
1249         if (!strchr(tokenbuf,':')
1250             && (tmp = pad_findmy(tokenbuf)) != NOT_IN_PAD) {
1251             if (last_lop_op == OP_SORT &&
1252                 tokenbuf[0] == '$' &&
1253                 (tokenbuf[1] == 'a' || tokenbuf[1] == 'b')
1254                 && !tokenbuf[2])
1255             {
1256                 for (d = in_eval ? oldoldbufptr : linestart;
1257                      d < bufend && *d != '\n';
1258                      d++)
1259                 {
1260                     if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
1261                         croak("Can't use \"my %s\" in sort comparison",
1262                               tokenbuf);
1263                     }
1264                 }
1265             }
1266
1267             yylval.opval = newOP(OP_PADANY, 0);
1268             yylval.opval->op_targ = tmp;
1269             return PRIVATEREF;
1270         }
1271
1272         /* Force them to make up their mind on "@foo". */
1273         if (pit == '@' && lex_state != LEX_NORMAL && !lex_brackets) {
1274             GV *gv = gv_fetchpv(tokenbuf+1, FALSE, SVt_PVAV);
1275             if (!gv || ((tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
1276                 yyerror(form("In string, %s now must be written as \\%s",
1277                              tokenbuf, tokenbuf));
1278         }
1279
1280         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf+1, 0));
1281         yylval.opval->op_private = OPpCONST_ENTERED;
1282         gv_fetchpv(tokenbuf+1, in_eval ? GV_ADDMULTI : TRUE,
1283                    ((tokenbuf[0] == '$') ? SVt_PV
1284                     : (tokenbuf[0] == '@') ? SVt_PVAV
1285                     : SVt_PVHV));
1286         return WORD;
1287     }
1288
1289     switch (lex_state) {
1290 #ifdef COMMENTARY
1291     case LEX_NORMAL:            /* Some compilers will produce faster */
1292     case LEX_INTERPNORMAL:      /* code if we comment these out. */
1293         break;
1294 #endif
1295
1296     case LEX_KNOWNEXT:
1297         nexttoke--;
1298         yylval = nextval[nexttoke];
1299         if (!nexttoke) {
1300             lex_state = lex_defer;
1301             expect = lex_expect;
1302             lex_defer = LEX_NORMAL;
1303         }
1304         return(nexttype[nexttoke]);
1305
1306     case LEX_INTERPCASEMOD:
1307 #ifdef DEBUGGING
1308         if (bufptr != bufend && *bufptr != '\\')
1309             croak("panic: INTERPCASEMOD");
1310 #endif
1311         if (bufptr == bufend || bufptr[1] == 'E') {
1312             char oldmod;
1313             if (lex_casemods) {
1314                 oldmod = lex_casestack[--lex_casemods];
1315                 lex_casestack[lex_casemods] = '\0';
1316                 if (bufptr != bufend && strchr("LUQ", oldmod)) {
1317                     bufptr += 2;
1318                     lex_state = LEX_INTERPCONCAT;
1319                 }
1320                 return ')';
1321             }
1322             if (bufptr != bufend)
1323                 bufptr += 2;
1324             lex_state = LEX_INTERPCONCAT;
1325             return yylex();
1326         }
1327         else {
1328             s = bufptr + 1;
1329             if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
1330                 tmp = *s, *s = s[2], s[2] = tmp;        /* misordered... */
1331             if (strchr("LU", *s) &&
1332                 (strchr(lex_casestack, 'L') || strchr(lex_casestack, 'U')))
1333             {
1334                 lex_casestack[--lex_casemods] = '\0';
1335                 return ')';
1336             }
1337             if (lex_casemods > 10) {
1338                 char* newlb = Renew(lex_casestack, lex_casemods + 2, char);
1339                 if (newlb != lex_casestack) {
1340                     SAVEFREEPV(newlb);
1341                     lex_casestack = newlb;
1342                 }
1343             }
1344             lex_casestack[lex_casemods++] = *s;
1345             lex_casestack[lex_casemods] = '\0';
1346             lex_state = LEX_INTERPCONCAT;
1347             nextval[nexttoke].ival = 0;
1348             force_next('(');
1349             if (*s == 'l')
1350                 nextval[nexttoke].ival = OP_LCFIRST;
1351             else if (*s == 'u')
1352                 nextval[nexttoke].ival = OP_UCFIRST;
1353             else if (*s == 'L')
1354                 nextval[nexttoke].ival = OP_LC;
1355             else if (*s == 'U')
1356                 nextval[nexttoke].ival = OP_UC;
1357             else if (*s == 'Q')
1358                 nextval[nexttoke].ival = OP_QUOTEMETA;
1359             else
1360                 croak("panic: yylex");
1361             bufptr = s + 1;
1362             force_next(FUNC);
1363             if (lex_starts) {
1364                 s = bufptr;
1365                 lex_starts = 0;
1366                 Aop(OP_CONCAT);
1367             }
1368             else
1369                 return yylex();
1370         }
1371
1372     case LEX_INTERPPUSH:
1373         return sublex_push();
1374
1375     case LEX_INTERPSTART:
1376         if (bufptr == bufend)
1377             return sublex_done();
1378         expect = XTERM;
1379         lex_dojoin = (*bufptr == '@');
1380         lex_state = LEX_INTERPNORMAL;
1381         if (lex_dojoin) {
1382             nextval[nexttoke].ival = 0;
1383             force_next(',');
1384             force_ident("\"", '$');
1385             nextval[nexttoke].ival = 0;
1386             force_next('$');
1387             nextval[nexttoke].ival = 0;
1388             force_next('(');
1389             nextval[nexttoke].ival = OP_JOIN;   /* emulate join($", ...) */
1390             force_next(FUNC);
1391         }
1392         if (lex_starts++) {
1393             s = bufptr;
1394             Aop(OP_CONCAT);
1395         }
1396         return yylex();
1397
1398     case LEX_INTERPENDMAYBE:
1399         if (intuit_more(bufptr)) {
1400             lex_state = LEX_INTERPNORMAL;       /* false alarm, more expr */
1401             break;
1402         }
1403         /* FALL THROUGH */
1404
1405     case LEX_INTERPEND:
1406         if (lex_dojoin) {
1407             lex_dojoin = FALSE;
1408             lex_state = LEX_INTERPCONCAT;
1409             return ')';
1410         }
1411         /* FALLTHROUGH */
1412     case LEX_INTERPCONCAT:
1413 #ifdef DEBUGGING
1414         if (lex_brackets)
1415             croak("panic: INTERPCONCAT");
1416 #endif
1417         if (bufptr == bufend)
1418             return sublex_done();
1419
1420         if (SvIVX(linestr) == '\'') {
1421             SV *sv = newSVsv(linestr);
1422             if (!lex_inpat)
1423                 sv = q(sv);
1424             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1425             s = bufend;
1426         }
1427         else {
1428             s = scan_const(bufptr);
1429             if (*s == '\\')
1430                 lex_state = LEX_INTERPCASEMOD;
1431             else
1432                 lex_state = LEX_INTERPSTART;
1433         }
1434
1435         if (s != bufptr) {
1436             nextval[nexttoke] = yylval;
1437             expect = XTERM;
1438             force_next(THING);
1439             if (lex_starts++)
1440                 Aop(OP_CONCAT);
1441             else {
1442                 bufptr = s;
1443                 return yylex();
1444             }
1445         }
1446
1447         return yylex();
1448     case LEX_FORMLINE:
1449         lex_state = LEX_NORMAL;
1450         s = scan_formline(bufptr);
1451         if (!lex_formbrack)
1452             goto rightbracket;
1453         OPERATOR(';');
1454     }
1455
1456     s = bufptr;
1457     oldoldbufptr = oldbufptr;
1458     oldbufptr = s;
1459     DEBUG_p( {
1460         PerlIO_printf(PerlIO_stderr(), "### Tokener expecting %s at %s\n", exp_name[expect], s);
1461     } )
1462
1463   retry:
1464     switch (*s) {
1465     default:
1466         croak("Unrecognized character \\%03o", *s & 255);
1467     case 4:
1468     case 26:
1469         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
1470     case 0:
1471         if (!rsfp) {
1472             last_uni = 0;
1473             last_lop = 0;
1474             if (lex_brackets)
1475                 yyerror("Missing right bracket");
1476             TOKEN(0);
1477         }
1478         if (s++ < bufend)
1479             goto retry;                 /* ignore stray nulls */
1480         last_uni = 0;
1481         last_lop = 0;
1482         if (!in_eval && !preambled) {
1483             preambled = TRUE;
1484             sv_setpv(linestr,incl_perldb());
1485             if (SvCUR(linestr))
1486                 sv_catpv(linestr,";");
1487             if (preambleav){
1488                 while(AvFILL(preambleav) >= 0) {
1489                     SV *tmpsv = av_shift(preambleav);
1490                     sv_catsv(linestr, tmpsv);
1491                     sv_catpv(linestr, ";");
1492                     sv_free(tmpsv);
1493                 }
1494                 sv_free((SV*)preambleav);
1495                 preambleav = NULL;
1496             }
1497             if (minus_n || minus_p) {
1498                 sv_catpv(linestr, "LINE: while (<>) {");
1499                 if (minus_l)
1500                     sv_catpv(linestr,"chomp;");
1501                 if (minus_a) {
1502                     GV* gv = gv_fetchpv("::F", TRUE, SVt_PVAV);
1503                     if (gv)
1504                         GvIMPORTED_AV_on(gv);
1505                     if (minus_F) {
1506                         if (strchr("/'\"", *splitstr)
1507                               && strchr(splitstr + 1, *splitstr))
1508                             sv_catpvf(linestr, "@F=split(%s);", splitstr);
1509                         else {
1510                             char delim;
1511                             s = "'~#\200\1'"; /* surely one char is unused...*/
1512                             while (s[1] && strchr(splitstr, *s))  s++;
1513                             delim = *s;
1514                             sv_catpvf(linestr, "@F=split(%s%c",
1515                                       "q" + (delim == '\''), delim);
1516                             for (s = splitstr; *s; s++) {
1517                                 if (*s == '\\')
1518                                     sv_catpvn(linestr, "\\", 1);
1519                                 sv_catpvn(linestr, s, 1);
1520                             }
1521                             sv_catpvf(linestr, "%c);", delim);
1522                         }
1523                     }
1524                     else
1525                         sv_catpv(linestr,"@F=split(' ');");
1526                 }
1527             }
1528             sv_catpv(linestr, "\n");
1529             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1530             bufend = SvPVX(linestr) + SvCUR(linestr);
1531             if (perldb && curstash != debstash) {
1532                 SV *sv = NEWSV(85,0);
1533
1534                 sv_upgrade(sv, SVt_PVMG);
1535                 sv_setsv(sv,linestr);
1536                 av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1537             }
1538             goto retry;
1539         }
1540         do {
1541             if ((s = filter_gets(linestr, rsfp, 0)) == Nullch) {
1542               fake_eof:
1543                 if (rsfp) {
1544                     if (preprocess && !in_eval)
1545                         (void)my_pclose(rsfp);
1546                     else if ((PerlIO *)rsfp == PerlIO_stdin())
1547                         PerlIO_clearerr(rsfp);
1548                     else
1549                         (void)PerlIO_close(rsfp);
1550                     rsfp = Nullfp;
1551                 }
1552                 if (!in_eval && (minus_n || minus_p)) {
1553                     sv_setpv(linestr,minus_p ? ";}continue{print" : "");
1554                     sv_catpv(linestr,";}");
1555                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1556                     bufend = SvPVX(linestr) + SvCUR(linestr);
1557                     minus_n = minus_p = 0;
1558                     goto retry;
1559                 }
1560                 oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1561                 sv_setpv(linestr,"");
1562                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
1563             }
1564             if (doextract) {
1565                 if (*s == '#' && s[1] == '!' && instr(s,"perl"))
1566                     doextract = FALSE;
1567
1568                 /* Incest with pod. */
1569                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
1570                     sv_setpv(linestr, "");
1571                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1572                     bufend = SvPVX(linestr) + SvCUR(linestr);
1573                     doextract = FALSE;
1574                 }
1575             }
1576             incline(s);
1577         } while (doextract);
1578         oldoldbufptr = oldbufptr = bufptr = linestart = s;
1579         if (perldb && curstash != debstash) {
1580             SV *sv = NEWSV(85,0);
1581
1582             sv_upgrade(sv, SVt_PVMG);
1583             sv_setsv(sv,linestr);
1584             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1585         }
1586         bufend = SvPVX(linestr) + SvCUR(linestr);
1587         if (curcop->cop_line == 1) {
1588             while (s < bufend && isSPACE(*s))
1589                 s++;
1590             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
1591                 s++;
1592             d = Nullch;
1593             if (!in_eval) {
1594                 if (*s == '#' && *(s+1) == '!')
1595                     d = s + 2;
1596 #ifdef ALTERNATE_SHEBANG
1597                 else {
1598                     static char as[] = ALTERNATE_SHEBANG;
1599                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
1600                         d = s + (sizeof(as) - 1);
1601                 }
1602 #endif /* ALTERNATE_SHEBANG */
1603             }
1604             if (d) {
1605                 char *ipath;
1606                 char *ipathend;
1607
1608                 while (isSPACE(*d))
1609                     d++;
1610                 ipath = d;
1611                 while (*d && !isSPACE(*d))
1612                     d++;
1613                 ipathend = d;
1614
1615 #ifdef ARG_ZERO_IS_SCRIPT
1616                 if (ipathend > ipath) {
1617                     /*
1618                      * HP-UX (at least) sets argv[0] to the script name,
1619                      * which makes $^X incorrect.  And Digital UNIX and Linux,
1620                      * at least, set argv[0] to the basename of the Perl
1621                      * interpreter. So, having found "#!", we'll set it right.
1622                      */
1623                     SV *x = GvSV(gv_fetchpv("\030", TRUE, SVt_PV));
1624                     assert(SvPOK(x) || SvGMAGICAL(x));
1625                     if (sv_eq(x, GvSV(curcop->cop_filegv))) {
1626                         sv_setpvn(x, ipath, ipathend - ipath);
1627                         SvSETMAGIC(x);
1628                     }
1629                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
1630                 }
1631 #endif /* ARG_ZERO_IS_SCRIPT */
1632
1633                 /*
1634                  * Look for options.
1635                  */
1636                 d = instr(s,"perl -");
1637                 if (!d)
1638                     d = instr(s,"perl");
1639 #ifdef ALTERNATE_SHEBANG
1640                 /*
1641                  * If the ALTERNATE_SHEBANG on this system starts with a
1642                  * character that can be part of a Perl expression, then if
1643                  * we see it but not "perl", we're probably looking at the
1644                  * start of Perl code, not a request to hand off to some
1645                  * other interpreter.  Similarly, if "perl" is there, but
1646                  * not in the first 'word' of the line, we assume the line
1647                  * contains the start of the Perl program.
1648                  */
1649                 if (d && *s != '#') {
1650                     char *c = ipath;
1651                     while (*c && !strchr("; \t\r\n\f\v#", *c))
1652                         c++;
1653                     if (c < d)
1654                         d = Nullch;     /* "perl" not in first word; ignore */
1655                     else
1656                         *s = '#';       /* Don't try to parse shebang line */
1657                 }
1658 #endif /* ALTERNATE_SHEBANG */
1659                 if (!d &&
1660                     *s == '#' &&
1661                     ipathend > ipath &&
1662                     !minus_c &&
1663                     !instr(s,"indir") &&
1664                     instr(origargv[0],"perl"))
1665                 {
1666                     char **newargv;
1667
1668                     *ipathend = '\0';
1669                     s = ipathend + 1;
1670                     while (s < bufend && isSPACE(*s))
1671                         s++;
1672                     if (s < bufend) {
1673                         Newz(899,newargv,origargc+3,char*);
1674                         newargv[1] = s;
1675                         while (s < bufend && !isSPACE(*s))
1676                             s++;
1677                         *s = '\0';
1678                         Copy(origargv+1, newargv+2, origargc+1, char*);
1679                     }
1680                     else
1681                         newargv = origargv;
1682                     newargv[0] = ipath;
1683                     execv(ipath, newargv);
1684                     croak("Can't exec %s", ipath);
1685                 }
1686                 if (d) {
1687                     U32 oldpdb = perldb;
1688                     bool oldn = minus_n;
1689                     bool oldp = minus_p;
1690
1691                     while (*d && !isSPACE(*d)) d++;
1692                     while (*d == ' ' || *d == '\t') d++;
1693
1694                     if (*d++ == '-') {
1695                         do {
1696                             if (*d == 'M' || *d == 'm') {
1697                                 char *m = d;
1698                                 while (*d && !isSPACE(*d)) d++;
1699                                 croak("Too late for \"-%.*s\" option",
1700                                       (int)(d - m), m);
1701                             }
1702                             d = moreswitches(d);
1703                         } while (d);
1704                         if (perldb && !oldpdb ||
1705                             ( minus_n || minus_p ) && !(oldn || oldp) )
1706                               /* if we have already added "LINE: while (<>) {",
1707                                  we must not do it again */
1708                         {
1709                             sv_setpv(linestr, "");
1710                             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1711                             bufend = SvPVX(linestr) + SvCUR(linestr);
1712                             preambled = FALSE;
1713                             if (perldb)
1714                                 (void)gv_fetchfile(origfilename);
1715                             goto retry;
1716                         }
1717                     }
1718                 }
1719             }
1720         }
1721         if (lex_formbrack && lex_brackets <= lex_formbrack) {
1722             bufptr = s;
1723             lex_state = LEX_FORMLINE;
1724             return yylex();
1725         }
1726         goto retry;
1727     case '\r':
1728         warn("Illegal character \\%03o (carriage return)", '\r');
1729         croak(
1730       "(Maybe you didn't strip carriage returns after a network transfer?)\n");
1731     case ' ': case '\t': case '\f': case 013:
1732         s++;
1733         goto retry;
1734     case '#':
1735     case '\n':
1736         if (lex_state != LEX_NORMAL || (in_eval && !rsfp)) {
1737             d = bufend;
1738             while (s < d && *s != '\n')
1739                 s++;
1740             if (s < d)
1741                 s++;
1742             incline(s);
1743             if (lex_formbrack && lex_brackets <= lex_formbrack) {
1744                 bufptr = s;
1745                 lex_state = LEX_FORMLINE;
1746                 return yylex();
1747             }
1748         }
1749         else {
1750             *s = '\0';
1751             bufend = s;
1752         }
1753         goto retry;
1754     case '-':
1755         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
1756             s++;
1757             bufptr = s;
1758             tmp = *s++;
1759
1760             while (s < bufend && (*s == ' ' || *s == '\t'))
1761                 s++;
1762
1763             if (strnEQ(s,"=>",2)) {
1764                 if (dowarn)
1765                     warn("Ambiguous use of -%c => resolved to \"-%c\" =>",
1766                         (int)tmp, (int)tmp);
1767                 s = force_word(bufptr,WORD,FALSE,FALSE,FALSE);
1768                 OPERATOR('-');          /* unary minus */
1769             }
1770             last_uni = oldbufptr;
1771             last_lop_op = OP_FTEREAD;   /* good enough */
1772             switch (tmp) {
1773             case 'r': FTST(OP_FTEREAD);
1774             case 'w': FTST(OP_FTEWRITE);
1775             case 'x': FTST(OP_FTEEXEC);
1776             case 'o': FTST(OP_FTEOWNED);
1777             case 'R': FTST(OP_FTRREAD);
1778             case 'W': FTST(OP_FTRWRITE);
1779             case 'X': FTST(OP_FTREXEC);
1780             case 'O': FTST(OP_FTROWNED);
1781             case 'e': FTST(OP_FTIS);
1782             case 'z': FTST(OP_FTZERO);
1783             case 's': FTST(OP_FTSIZE);
1784             case 'f': FTST(OP_FTFILE);
1785             case 'd': FTST(OP_FTDIR);
1786             case 'l': FTST(OP_FTLINK);
1787             case 'p': FTST(OP_FTPIPE);
1788             case 'S': FTST(OP_FTSOCK);
1789             case 'u': FTST(OP_FTSUID);
1790             case 'g': FTST(OP_FTSGID);
1791             case 'k': FTST(OP_FTSVTX);
1792             case 'b': FTST(OP_FTBLK);
1793             case 'c': FTST(OP_FTCHR);
1794             case 't': FTST(OP_FTTTY);
1795             case 'T': FTST(OP_FTTEXT);
1796             case 'B': FTST(OP_FTBINARY);
1797             case 'M': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTMTIME);
1798             case 'A': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTATIME);
1799             case 'C': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTCTIME);
1800             default:
1801                 croak("Unrecognized file test: -%c", (int)tmp);
1802                 break;
1803             }
1804         }
1805         tmp = *s++;
1806         if (*s == tmp) {
1807             s++;
1808             if (expect == XOPERATOR)
1809                 TERM(POSTDEC);
1810             else
1811                 OPERATOR(PREDEC);
1812         }
1813         else if (*s == '>') {
1814             s++;
1815             s = skipspace(s);
1816             if (isIDFIRST(*s)) {
1817                 s = force_word(s,METHOD,FALSE,TRUE,FALSE);
1818                 TOKEN(ARROW);
1819             }
1820             else if (*s == '$')
1821                 OPERATOR(ARROW);
1822             else
1823                 TERM(ARROW);
1824         }
1825         if (expect == XOPERATOR)
1826             Aop(OP_SUBTRACT);
1827         else {
1828             if (isSPACE(*s) || !isSPACE(*bufptr))
1829                 check_uni();
1830             OPERATOR('-');              /* unary minus */
1831         }
1832
1833     case '+':
1834         tmp = *s++;
1835         if (*s == tmp) {
1836             s++;
1837             if (expect == XOPERATOR)
1838                 TERM(POSTINC);
1839             else
1840                 OPERATOR(PREINC);
1841         }
1842         if (expect == XOPERATOR)
1843             Aop(OP_ADD);
1844         else {
1845             if (isSPACE(*s) || !isSPACE(*bufptr))
1846                 check_uni();
1847             OPERATOR('+');
1848         }
1849
1850     case '*':
1851         if (expect != XOPERATOR) {
1852             s = scan_ident(s, bufend, tokenbuf, sizeof tokenbuf, TRUE);
1853             expect = XOPERATOR;
1854             force_ident(tokenbuf, '*');
1855             if (!*tokenbuf)
1856                 PREREF('*');
1857             TERM('*');
1858         }
1859         s++;
1860         if (*s == '*') {
1861             s++;
1862             PWop(OP_POW);
1863         }
1864         Mop(OP_MULTIPLY);
1865
1866     case '%':
1867         if (expect == XOPERATOR) {
1868             ++s;
1869             Mop(OP_MODULO);
1870         }
1871         tokenbuf[0] = '%';
1872         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, TRUE);
1873         if (!tokenbuf[1]) {
1874             if (s == bufend)
1875                 yyerror("Final % should be \\% or %name");
1876             PREREF('%');
1877         }
1878         pending_ident = '%';
1879         TERM('%');
1880
1881     case '^':
1882         s++;
1883         BOop(OP_BIT_XOR);
1884     case '[':
1885         lex_brackets++;
1886         /* FALL THROUGH */
1887     case '~':
1888     case ',':
1889         tmp = *s++;
1890         OPERATOR(tmp);
1891     case ':':
1892         if (s[1] == ':') {
1893             len = 0;
1894             goto just_a_word;
1895         }
1896         s++;
1897         OPERATOR(':');
1898     case '(':
1899         s++;
1900         if (last_lop == oldoldbufptr || last_uni == oldoldbufptr)
1901             oldbufptr = oldoldbufptr;           /* allow print(STDOUT 123) */
1902         else
1903             expect = XTERM;
1904         TOKEN('(');
1905     case ';':
1906         if (curcop->cop_line < copline)
1907             copline = curcop->cop_line;
1908         tmp = *s++;
1909         OPERATOR(tmp);
1910     case ')':
1911         tmp = *s++;
1912         s = skipspace(s);
1913         if (*s == '{')
1914             PREBLOCK(tmp);
1915         TERM(tmp);
1916     case ']':
1917         s++;
1918         if (lex_brackets <= 0)
1919             yyerror("Unmatched right bracket");
1920         else
1921             --lex_brackets;
1922         if (lex_state == LEX_INTERPNORMAL) {
1923             if (lex_brackets == 0) {
1924                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
1925                     lex_state = LEX_INTERPEND;
1926             }
1927         }
1928         TERM(']');
1929     case '{':
1930       leftbracket:
1931         s++;
1932         if (lex_brackets > 100) {
1933             char* newlb = Renew(lex_brackstack, lex_brackets + 1, char);
1934             if (newlb != lex_brackstack) {
1935                 SAVEFREEPV(newlb);
1936                 lex_brackstack = newlb;
1937             }
1938         }
1939         switch (expect) {
1940         case XTERM:
1941             if (lex_formbrack) {
1942                 s--;
1943                 PRETERMBLOCK(DO);
1944             }
1945             if (oldoldbufptr == last_lop)
1946                 lex_brackstack[lex_brackets++] = XTERM;
1947             else
1948                 lex_brackstack[lex_brackets++] = XOPERATOR;
1949             OPERATOR(HASHBRACK);
1950         case XOPERATOR:
1951             while (s < bufend && (*s == ' ' || *s == '\t'))
1952                 s++;
1953             d = s;
1954             tokenbuf[0] = '\0';
1955             if (d < bufend && *d == '-') {
1956                 tokenbuf[0] = '-';
1957                 d++;
1958                 while (d < bufend && (*d == ' ' || *d == '\t'))
1959                     d++;
1960             }
1961             if (d < bufend && isIDFIRST(*d)) {
1962                 d = scan_word(d, tokenbuf + 1, sizeof tokenbuf - 1,
1963                               FALSE, &len);
1964                 while (d < bufend && (*d == ' ' || *d == '\t'))
1965                     d++;
1966                 if (*d == '}') {
1967                     char minus = (tokenbuf[0] == '-');
1968                     if (dowarn &&
1969                         (keyword(tokenbuf + 1, len) ||
1970                          (minus && len == 1 && isALPHA(tokenbuf[1])) ||
1971                          perl_get_cv(tokenbuf + 1, FALSE) ))
1972                         warn("Ambiguous use of {%s} resolved to {\"%s\"}",
1973                              tokenbuf + !minus, tokenbuf + !minus);
1974                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
1975                     if (minus)
1976                         force_next('-');
1977                 }
1978             }
1979             /* FALL THROUGH */
1980         case XBLOCK:
1981             lex_brackstack[lex_brackets++] = XSTATE;
1982             expect = XSTATE;
1983             break;
1984         case XTERMBLOCK:
1985             lex_brackstack[lex_brackets++] = XOPERATOR;
1986             expect = XSTATE;
1987             break;
1988         default: {
1989                 char *t;
1990                 if (oldoldbufptr == last_lop)
1991                     lex_brackstack[lex_brackets++] = XTERM;
1992                 else
1993                     lex_brackstack[lex_brackets++] = XOPERATOR;
1994                 s = skipspace(s);
1995                 if (*s == '}')
1996                     OPERATOR(HASHBRACK);
1997                 if (isALPHA(*s)) {
1998                     for (t = s; t < bufend && isALNUM(*t); t++) ;
1999                 }
2000                 else if (*s == '\'' || *s == '"') {
2001                     t = strchr(s+1,*s);
2002                     if (!t++)
2003                         t = s;
2004                 }
2005                 else
2006                     t = s;
2007                 while (t < bufend && isSPACE(*t))
2008                     t++;
2009                 if ((*t == ',' && !isLOWER(*s)) || (*t == '=' && t[1] == '>'))
2010                     OPERATOR(HASHBRACK);
2011                 if (expect == XREF)
2012                     expect = XTERM;
2013                 else {
2014                     lex_brackstack[lex_brackets-1] = XSTATE;
2015                     expect = XSTATE;
2016                 }
2017             }
2018             break;
2019         }
2020         yylval.ival = curcop->cop_line;
2021         if (isSPACE(*s) || *s == '#')
2022             copline = NOLINE;   /* invalidate current command line number */
2023         TOKEN('{');
2024     case '}':
2025       rightbracket:
2026         s++;
2027         if (lex_brackets <= 0)
2028             yyerror("Unmatched right bracket");
2029         else
2030             expect = (expectation)lex_brackstack[--lex_brackets];
2031         if (lex_brackets < lex_formbrack)
2032             lex_formbrack = 0;
2033         if (lex_state == LEX_INTERPNORMAL) {
2034             if (lex_brackets == 0) {
2035                 if (lex_fakebrack) {
2036                     lex_state = LEX_INTERPEND;
2037                     bufptr = s;
2038                     return yylex();             /* ignore fake brackets */
2039                 }
2040                 if (*s == '-' && s[1] == '>')
2041                     lex_state = LEX_INTERPENDMAYBE;
2042                 else if (*s != '[' && *s != '{')
2043                     lex_state = LEX_INTERPEND;
2044             }
2045         }
2046         if (lex_brackets < lex_fakebrack) {
2047             bufptr = s;
2048             lex_fakebrack = 0;
2049             return yylex();             /* ignore fake brackets */
2050         }
2051         force_next('}');
2052         TOKEN(';');
2053     case '&':
2054         s++;
2055         tmp = *s++;
2056         if (tmp == '&')
2057             AOPERATOR(ANDAND);
2058         s--;
2059         if (expect == XOPERATOR) {
2060             if (dowarn && isALPHA(*s) && bufptr == linestart) {
2061                 curcop->cop_line--;
2062                 warn(warn_nosemi);
2063                 curcop->cop_line++;
2064             }
2065             BAop(OP_BIT_AND);
2066         }
2067
2068         s = scan_ident(s - 1, bufend, tokenbuf, sizeof tokenbuf, TRUE);
2069         if (*tokenbuf) {
2070             expect = XOPERATOR;
2071             force_ident(tokenbuf, '&');
2072         }
2073         else
2074             PREREF('&');
2075         yylval.ival = (OPpENTERSUB_AMPER<<8);
2076         TERM('&');
2077
2078     case '|':
2079         s++;
2080         tmp = *s++;
2081         if (tmp == '|')
2082             AOPERATOR(OROR);
2083         s--;
2084         BOop(OP_BIT_OR);
2085     case '=':
2086         s++;
2087         tmp = *s++;
2088         if (tmp == '=')
2089             Eop(OP_EQ);
2090         if (tmp == '>')
2091             OPERATOR(',');
2092         if (tmp == '~')
2093             PMop(OP_MATCH);
2094         if (dowarn && tmp && isSPACE(*s) && strchr("+-*/%.^&|<",tmp))
2095             warn("Reversed %c= operator",(int)tmp);
2096         s--;
2097         if (expect == XSTATE && isALPHA(tmp) &&
2098                 (s == linestart+1 || s[-2] == '\n') )
2099         {
2100             if (in_eval && !rsfp) {
2101                 d = bufend;
2102                 while (s < d) {
2103                     if (*s++ == '\n') {
2104                         incline(s);
2105                         if (strnEQ(s,"=cut",4)) {
2106                             s = strchr(s,'\n');
2107                             if (s)
2108                                 s++;
2109                             else
2110                                 s = d;
2111                             incline(s);
2112                             goto retry;
2113                         }
2114                     }
2115                 }
2116                 goto retry;
2117             }
2118             s = bufend;
2119             doextract = TRUE;
2120             goto retry;
2121         }
2122         if (lex_brackets < lex_formbrack) {
2123             char *t;
2124             for (t = s; *t == ' ' || *t == '\t'; t++) ;
2125             if (*t == '\n' || *t == '#') {
2126                 s--;
2127                 expect = XBLOCK;
2128                 goto leftbracket;
2129             }
2130         }
2131         yylval.ival = 0;
2132         OPERATOR(ASSIGNOP);
2133     case '!':
2134         s++;
2135         tmp = *s++;
2136         if (tmp == '=')
2137             Eop(OP_NE);
2138         if (tmp == '~')
2139             PMop(OP_NOT);
2140         s--;
2141         OPERATOR('!');
2142     case '<':
2143         if (expect != XOPERATOR) {
2144             if (s[1] != '<' && !strchr(s,'>'))
2145                 check_uni();
2146             if (s[1] == '<')
2147                 s = scan_heredoc(s);
2148             else
2149                 s = scan_inputsymbol(s);
2150             TERM(sublex_start());
2151         }
2152         s++;
2153         tmp = *s++;
2154         if (tmp == '<')
2155             SHop(OP_LEFT_SHIFT);
2156         if (tmp == '=') {
2157             tmp = *s++;
2158             if (tmp == '>')
2159                 Eop(OP_NCMP);
2160             s--;
2161             Rop(OP_LE);
2162         }
2163         s--;
2164         Rop(OP_LT);
2165     case '>':
2166         s++;
2167         tmp = *s++;
2168         if (tmp == '>')
2169             SHop(OP_RIGHT_SHIFT);
2170         if (tmp == '=')
2171             Rop(OP_GE);
2172         s--;
2173         Rop(OP_GT);
2174
2175     case '$':
2176         CLINE;
2177
2178         if (expect == XOPERATOR) {
2179             if (lex_formbrack && lex_brackets == lex_formbrack) {
2180                 expect = XTERM;
2181                 depcom();
2182                 return ','; /* grandfather non-comma-format format */
2183             }
2184         }
2185
2186         if (s[1] == '#' && (isALPHA(s[2]) || strchr("_{$:", s[2]))) {
2187             if (expect == XOPERATOR)
2188                 no_op("Array length", bufptr);
2189             tokenbuf[0] = '@';
2190             s = scan_ident(s + 1, bufend, tokenbuf + 1, sizeof tokenbuf - 1,
2191                            FALSE);
2192             if (!tokenbuf[1])
2193                 PREREF(DOLSHARP);
2194             expect = XOPERATOR;
2195             pending_ident = '#';
2196             TOKEN(DOLSHARP);
2197         }
2198
2199         if (expect == XOPERATOR)
2200             no_op("Scalar", bufptr);
2201         tokenbuf[0] = '$';
2202         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2203         if (!tokenbuf[1]) {
2204             if (s == bufend)
2205                 yyerror("Final $ should be \\$ or $name");
2206             PREREF('$');
2207         }
2208
2209         /* This kludge not intended to be bulletproof. */
2210         if (tokenbuf[1] == '[' && !tokenbuf[2]) {
2211             yylval.opval = newSVOP(OP_CONST, 0,
2212                                    newSViv((IV)compiling.cop_arybase));
2213             yylval.opval->op_private = OPpCONST_ARYBASE;
2214             TERM(THING);
2215         }
2216
2217         d = s;
2218         if (lex_state == LEX_NORMAL)
2219             s = skipspace(s);
2220
2221         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2222             char *t;
2223             if (*s == '[') {
2224                 tokenbuf[0] = '@';
2225                 if (dowarn) {
2226                     for(t = s + 1;
2227                         isSPACE(*t) || isALNUM(*t) || *t == '$';
2228                         t++) ;
2229                     if (*t++ == ',') {
2230                         bufptr = skipspace(bufptr);
2231                         while (t < bufend && *t != ']')
2232                             t++;
2233                         warn("Multidimensional syntax %.*s not supported",
2234                              (t - bufptr) + 1, bufptr);
2235                     }
2236                 }
2237             }
2238             else if (*s == '{') {
2239                 tokenbuf[0] = '%';
2240                 if (dowarn && strEQ(tokenbuf+1, "SIG") &&
2241                     (t = strchr(s, '}')) && (t = strchr(t, '=')))
2242                 {
2243                     char tmpbuf[sizeof tokenbuf];
2244                     STRLEN len;
2245                     for (t++; isSPACE(*t); t++) ;
2246                     if (isIDFIRST(*t)) {
2247                         t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE, &len);
2248                         if (*t != '(' && perl_get_cv(tmpbuf, FALSE))
2249                             warn("You need to quote \"%s\"", tmpbuf);
2250                     }
2251                 }
2252             }
2253         }
2254
2255         expect = XOPERATOR;
2256         if (lex_state == LEX_NORMAL && isSPACE(*d)) {
2257             bool islop = (last_lop == oldoldbufptr);
2258             if (!islop || last_lop_op == OP_GREPSTART)
2259                 expect = XOPERATOR;
2260             else if (strchr("$@\"'`q", *s))
2261                 expect = XTERM;         /* e.g. print $fh "foo" */
2262             else if (strchr("&*<%", *s) && isIDFIRST(s[1]))
2263                 expect = XTERM;         /* e.g. print $fh &sub */
2264             else if (isIDFIRST(*s)) {
2265                 char tmpbuf[sizeof tokenbuf];
2266                 scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2267                 if (keyword(tmpbuf, len))
2268                     expect = XTERM;     /* e.g. print $fh length() */
2269                 else {
2270                     GV *gv = gv_fetchpv(tmpbuf, FALSE, SVt_PVCV);
2271                     if (gv && GvCVu(gv))
2272                         expect = XTERM; /* e.g. print $fh subr() */
2273                 }
2274             }
2275             else if (isDIGIT(*s))
2276                 expect = XTERM;         /* e.g. print $fh 3 */
2277             else if (*s == '.' && isDIGIT(s[1]))
2278                 expect = XTERM;         /* e.g. print $fh .3 */
2279             else if (strchr("/?-+", *s) && !isSPACE(s[1]))
2280                 expect = XTERM;         /* e.g. print $fh -1 */
2281             else if (*s == '<' && s[1] == '<' && !isSPACE(s[2]))
2282                 expect = XTERM;         /* print $fh <<"EOF" */
2283         }
2284         pending_ident = '$';
2285         TOKEN('$');
2286
2287     case '@':
2288         if (expect == XOPERATOR)
2289             no_op("Array", s);
2290         tokenbuf[0] = '@';
2291         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2292         if (!tokenbuf[1]) {
2293             if (s == bufend)
2294                 yyerror("Final @ should be \\@ or @name");
2295             PREREF('@');
2296         }
2297         if (lex_state == LEX_NORMAL)
2298             s = skipspace(s);
2299         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2300             if (*s == '{')
2301                 tokenbuf[0] = '%';
2302
2303             /* Warn about @ where they meant $. */
2304             if (dowarn) {
2305                 if (*s == '[' || *s == '{') {
2306                     char *t = s + 1;
2307                     while (*t && (isALNUM(*t) || strchr(" \t$#+-'\"", *t)))
2308                         t++;
2309                     if (*t == '}' || *t == ']') {
2310                         t++;
2311                         bufptr = skipspace(bufptr);
2312                         warn("Scalar value %.*s better written as $%.*s",
2313                             t-bufptr, bufptr, t-bufptr-1, bufptr+1);
2314                     }
2315                 }
2316             }
2317         }
2318         pending_ident = '@';
2319         TERM('@');
2320
2321     case '/':                   /* may either be division or pattern */
2322     case '?':                   /* may either be conditional or pattern */
2323         if (expect != XOPERATOR) {
2324             check_uni();
2325             s = scan_pat(s);
2326             TERM(sublex_start());
2327         }
2328         tmp = *s++;
2329         if (tmp == '/')
2330             Mop(OP_DIVIDE);
2331         OPERATOR(tmp);
2332
2333     case '.':
2334         if (lex_formbrack && lex_brackets == lex_formbrack && s[1] == '\n' &&
2335                 (s == linestart || s[-1] == '\n') ) {
2336             lex_formbrack = 0;
2337             expect = XSTATE;
2338             goto rightbracket;
2339         }
2340         if (expect == XOPERATOR || !isDIGIT(s[1])) {
2341             tmp = *s++;
2342             if (*s == tmp) {
2343                 s++;
2344                 if (*s == tmp) {
2345                     s++;
2346                     yylval.ival = OPf_SPECIAL;
2347                 }
2348                 else
2349                     yylval.ival = 0;
2350                 OPERATOR(DOTDOT);
2351             }
2352             if (expect != XOPERATOR)
2353                 check_uni();
2354             Aop(OP_CONCAT);
2355         }
2356         /* FALL THROUGH */
2357     case '0': case '1': case '2': case '3': case '4':
2358     case '5': case '6': case '7': case '8': case '9':
2359         s = scan_num(s);
2360         if (expect == XOPERATOR)
2361             no_op("Number",s);
2362         TERM(THING);
2363
2364     case '\'':
2365         s = scan_str(s);
2366         if (expect == XOPERATOR) {
2367             if (lex_formbrack && lex_brackets == lex_formbrack) {
2368                 expect = XTERM;
2369                 depcom();
2370                 return ',';     /* grandfather non-comma-format format */
2371             }
2372             else
2373                 no_op("String",s);
2374         }
2375         if (!s)
2376             missingterm((char*)0);
2377         yylval.ival = OP_CONST;
2378         TERM(sublex_start());
2379
2380     case '"':
2381         s = scan_str(s);
2382         if (expect == XOPERATOR) {
2383             if (lex_formbrack && lex_brackets == lex_formbrack) {
2384                 expect = XTERM;
2385                 depcom();
2386                 return ',';     /* grandfather non-comma-format format */
2387             }
2388             else
2389                 no_op("String",s);
2390         }
2391         if (!s)
2392             missingterm((char*)0);
2393         yylval.ival = OP_CONST;
2394         for (d = SvPV(lex_stuff, len); len; len--, d++) {
2395             if (*d == '$' || *d == '@' || *d == '\\') {
2396                 yylval.ival = OP_STRINGIFY;
2397                 break;
2398             }
2399         }
2400         TERM(sublex_start());
2401
2402     case '`':
2403         s = scan_str(s);
2404         if (expect == XOPERATOR)
2405             no_op("Backticks",s);
2406         if (!s)
2407             missingterm((char*)0);
2408         yylval.ival = OP_BACKTICK;
2409         set_csh();
2410         TERM(sublex_start());
2411
2412     case '\\':
2413         s++;
2414         if (dowarn && lex_inwhat && isDIGIT(*s))
2415             warn("Can't use \\%c to mean $%c in expression", *s, *s);
2416         if (expect == XOPERATOR)
2417             no_op("Backslash",s);
2418         OPERATOR(REFGEN);
2419
2420     case 'x':
2421         if (isDIGIT(s[1]) && expect == XOPERATOR) {
2422             s++;
2423             Mop(OP_REPEAT);
2424         }
2425         goto keylookup;
2426
2427     case '_':
2428     case 'a': case 'A':
2429     case 'b': case 'B':
2430     case 'c': case 'C':
2431     case 'd': case 'D':
2432     case 'e': case 'E':
2433     case 'f': case 'F':
2434     case 'g': case 'G':
2435     case 'h': case 'H':
2436     case 'i': case 'I':
2437     case 'j': case 'J':
2438     case 'k': case 'K':
2439     case 'l': case 'L':
2440     case 'm': case 'M':
2441     case 'n': case 'N':
2442     case 'o': case 'O':
2443     case 'p': case 'P':
2444     case 'q': case 'Q':
2445     case 'r': case 'R':
2446     case 's': case 'S':
2447     case 't': case 'T':
2448     case 'u': case 'U':
2449     case 'v': case 'V':
2450     case 'w': case 'W':
2451               case 'X':
2452     case 'y': case 'Y':
2453     case 'z': case 'Z':
2454
2455       keylookup:
2456         bufptr = s;
2457         s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2458
2459         /* Some keywords can be followed by any delimiter, including ':' */
2460         tmp = (len == 1 && strchr("msyq", tokenbuf[0]) ||
2461                len == 2 && ((tokenbuf[0] == 't' && tokenbuf[1] == 'r') ||
2462                             (tokenbuf[0] == 'q' &&
2463                              strchr("qwx", tokenbuf[1]))));
2464
2465         /* x::* is just a word, unless x is "CORE" */
2466         if (!tmp && *s == ':' && s[1] == ':' && strNE(tokenbuf, "CORE"))
2467             goto just_a_word;
2468
2469         d = s;
2470         while (d < bufend && isSPACE(*d))
2471                 d++;    /* no comments skipped here, or s### is misparsed */
2472
2473         /* Is this a label? */
2474         if (!tmp && expect == XSTATE
2475               && d < bufend && *d == ':' && *(d + 1) != ':') {
2476             s = d + 1;
2477             yylval.pval = savepv(tokenbuf);
2478             CLINE;
2479             TOKEN(LABEL);
2480         }
2481
2482         /* Check for keywords */
2483         tmp = keyword(tokenbuf, len);
2484
2485         /* Is this a word before a => operator? */
2486         if (strnEQ(d,"=>",2)) {
2487             CLINE;
2488             if (dowarn && (tmp || perl_get_cv(tokenbuf, FALSE)))
2489                 warn("Ambiguous use of %s => resolved to \"%s\" =>",
2490                         tokenbuf, tokenbuf);
2491             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2492             yylval.opval->op_private = OPpCONST_BARE;
2493             TERM(WORD);
2494         }
2495
2496         if (tmp < 0) {                  /* second-class keyword? */
2497             GV* gv;
2498             if (expect != XOPERATOR &&
2499                 (*s != ':' || s[1] != ':') &&
2500                 (gv = gv_fetchpv(tokenbuf, FALSE, SVt_PVCV)) &&
2501                 GvIMPORTED_CV(gv))
2502             {
2503                 tmp = 0;
2504             }
2505             else
2506                 tmp = -tmp;
2507         }
2508
2509       reserved_word:
2510         switch (tmp) {
2511
2512         default:                        /* not a keyword */
2513           just_a_word: {
2514                 GV *gv;
2515                 SV *sv;
2516                 char lastchar = (bufptr == oldoldbufptr ? 0 : bufptr[-1]);
2517
2518                 /* Get the rest if it looks like a package qualifier */
2519
2520                 if (*s == '\'' || *s == ':' && s[1] == ':') {
2521                     s = scan_word(s, tokenbuf + len, sizeof tokenbuf - len,
2522                                   TRUE, &len);
2523                     if (!len)
2524                         croak("Bad name after %s::", tokenbuf);
2525                 }
2526
2527                 if (expect == XOPERATOR) {
2528                     if (bufptr == linestart) {
2529                         curcop->cop_line--;
2530                         warn(warn_nosemi);
2531                         curcop->cop_line++;
2532                     }
2533                     else
2534                         no_op("Bareword",s);
2535                 }
2536
2537                 /* Look for a subroutine with this name in current package. */
2538
2539                 gv = gv_fetchpv(tokenbuf,FALSE, SVt_PVCV);
2540
2541                 /* Presume this is going to be a bareword of some sort. */
2542
2543                 CLINE;
2544                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2545                 yylval.opval->op_private = OPpCONST_BARE;
2546
2547                 /* See if it's the indirect object for a list operator. */
2548
2549                 if (oldoldbufptr &&
2550                     oldoldbufptr < bufptr &&
2551                     (oldoldbufptr == last_lop || oldoldbufptr == last_uni) &&
2552                     /* NO SKIPSPACE BEFORE HERE! */
2553                     (expect == XREF ||
2554                      (opargs[last_lop_op] >> OASHIFT & 7) == OA_FILEREF) )
2555                 {
2556                     bool immediate_paren = *s == '(';
2557
2558                     /* (Now we can afford to cross potential line boundary.) */
2559                     s = skipspace(s);
2560
2561                     /* Two barewords in a row may indicate method call. */
2562
2563                     if ((isALPHA(*s) || *s == '$') && (tmp=intuit_method(s,gv)))
2564                         return tmp;
2565
2566                     /* If not a declared subroutine, it's an indirect object. */
2567                     /* (But it's an indir obj regardless for sort.) */
2568
2569                     if ((last_lop_op == OP_SORT ||
2570                          (!immediate_paren && (!gv || !GvCVu(gv))) ) &&
2571                         (last_lop_op != OP_MAPSTART && last_lop_op != OP_GREPSTART)){
2572                         expect = (last_lop == oldoldbufptr) ? XTERM : XOPERATOR;
2573                         goto bareword;
2574                     }
2575                 }
2576
2577                 /* If followed by a paren, it's certainly a subroutine. */
2578
2579                 expect = XOPERATOR;
2580                 s = skipspace(s);
2581                 if (*s == '(') {
2582                     CLINE;
2583                     if (gv && GvCVu(gv)) {
2584                         for (d = s + 1; *d == ' ' || *d == '\t'; d++) ;
2585                         if (*d == ')' && (sv = cv_const_sv(GvCV(gv)))) {
2586                             s = d + 1;
2587                             goto its_constant;
2588                         }
2589                     }
2590                     nextval[nexttoke].opval = yylval.opval;
2591                     expect = XOPERATOR;
2592                     force_next(WORD);
2593                     yylval.ival = 0;
2594                     TOKEN('&');
2595                 }
2596
2597                 /* If followed by var or block, call it a method (unless sub) */
2598
2599                 if ((*s == '$' || *s == '{') && (!gv || !GvCVu(gv))) {
2600                     last_lop = oldbufptr;
2601                     last_lop_op = OP_METHOD;
2602                     PREBLOCK(METHOD);
2603                 }
2604
2605                 /* If followed by a bareword, see if it looks like indir obj. */
2606
2607                 if ((isALPHA(*s) || *s == '$') && (tmp = intuit_method(s,gv)))
2608                     return tmp;
2609
2610                 /* Not a method, so call it a subroutine (if defined) */
2611
2612                 if (gv && GvCVu(gv)) {
2613                     CV* cv;
2614                     if (lastchar == '-')
2615                         warn("Ambiguous use of -%s resolved as -&%s()",
2616                                 tokenbuf, tokenbuf);
2617                     last_lop = oldbufptr;
2618                     last_lop_op = OP_ENTERSUB;
2619                     /* Check for a constant sub */
2620                     cv = GvCV(gv);
2621                     if ((sv = cv_const_sv(cv))) {
2622                   its_constant:
2623                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
2624                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc(sv);
2625                         yylval.opval->op_private = 0;
2626                         TOKEN(WORD);
2627                     }
2628
2629                     /* Resolve to GV now. */
2630                     op_free(yylval.opval);
2631                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
2632                     /* Is there a prototype? */
2633                     if (SvPOK(cv)) {
2634                         STRLEN len;
2635                         char *proto = SvPV((SV*)cv, len);
2636                         if (!len)
2637                             TERM(FUNC0SUB);
2638                         if (strEQ(proto, "$"))
2639                             OPERATOR(UNIOPSUB);
2640                         if (*proto == '&' && *s == '{') {
2641                             sv_setpv(subname,"__ANON__");
2642                             PREBLOCK(LSTOPSUB);
2643                         }
2644                     }
2645                     nextval[nexttoke].opval = yylval.opval;
2646                     expect = XTERM;
2647                     force_next(WORD);
2648                     TOKEN(NOAMP);
2649                 }
2650
2651                 if (hints & HINT_STRICT_SUBS &&
2652                     lastchar != '-' &&
2653                     strnNE(s,"->",2) &&
2654                     last_lop_op != OP_TRUNCATE &&  /* S/F prototype in opcode.pl */
2655                     last_lop_op != OP_ACCEPT &&
2656                     last_lop_op != OP_PIPE_OP &&
2657                     last_lop_op != OP_SOCKPAIR)
2658                 {
2659                     warn(
2660                      "Bareword \"%s\" not allowed while \"strict subs\" in use",
2661                         tokenbuf);
2662                     ++error_count;
2663                 }
2664
2665                 /* Call it a bare word */
2666
2667             bareword:
2668                 if (dowarn) {
2669                     if (lastchar != '-') {
2670                         for (d = tokenbuf; *d && isLOWER(*d); d++) ;
2671                         if (!*d)
2672                             warn(warn_reserved, tokenbuf);
2673                     }
2674                 }
2675                 if (lastchar && strchr("*%&", lastchar)) {
2676                     warn("Operator or semicolon missing before %c%s",
2677                         lastchar, tokenbuf);
2678                     warn("Ambiguous use of %c resolved as operator %c",
2679                         lastchar, lastchar);
2680                 }
2681                 TOKEN(WORD);
2682             }
2683
2684         case KEY___FILE__:
2685             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2686                                         newSVsv(GvSV(curcop->cop_filegv)));
2687             TERM(THING);
2688
2689         case KEY___LINE__:
2690             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2691                                     newSVpvf("%ld", (long)curcop->cop_line));
2692             TERM(THING);
2693
2694         case KEY___PACKAGE__:
2695             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2696                                         (curstash
2697                                          ? newSVsv(curstname)
2698                                          : &sv_undef));
2699             TERM(THING);
2700
2701         case KEY___DATA__:
2702         case KEY___END__: {
2703             GV *gv;
2704
2705             /*SUPPRESS 560*/
2706             if (rsfp && (!in_eval || tokenbuf[2] == 'D')) {
2707                 char *pname = "main";
2708                 if (tokenbuf[2] == 'D')
2709                     pname = HvNAME(curstash ? curstash : defstash);
2710                 gv = gv_fetchpv(form("%s::DATA", pname), TRUE, SVt_PVIO);
2711                 GvMULTI_on(gv);
2712                 if (!GvIO(gv))
2713                     GvIOp(gv) = newIO();
2714                 IoIFP(GvIOp(gv)) = rsfp;
2715 #if defined(HAS_FCNTL) && defined(F_SETFD)
2716                 {
2717                     int fd = PerlIO_fileno(rsfp);
2718                     fcntl(fd,F_SETFD,fd >= 3);
2719                 }
2720 #endif
2721                 /* Mark this internal pseudo-handle as clean */
2722                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
2723                 if (preprocess)
2724                     IoTYPE(GvIOp(gv)) = '|';
2725                 else if ((PerlIO*)rsfp == PerlIO_stdin())
2726                     IoTYPE(GvIOp(gv)) = '-';
2727                 else
2728                     IoTYPE(GvIOp(gv)) = '<';
2729                 rsfp = Nullfp;
2730             }
2731             goto fake_eof;
2732         }
2733
2734         case KEY_AUTOLOAD:
2735         case KEY_DESTROY:
2736         case KEY_BEGIN:
2737         case KEY_END:
2738         case KEY_RESTART:
2739             if (expect == XSTATE) {
2740                 s = bufptr;
2741                 goto really_sub;
2742             }
2743             goto just_a_word;
2744
2745         case KEY_CORE:
2746             if (*s == ':' && s[1] == ':') {
2747                 s += 2;
2748                 d = s;
2749                 s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2750                 tmp = keyword(tokenbuf, len);
2751                 if (tmp < 0)
2752                     tmp = -tmp;
2753                 goto reserved_word;
2754             }
2755             goto just_a_word;
2756
2757         case KEY_abs:
2758             UNI(OP_ABS);
2759
2760         case KEY_alarm:
2761             UNI(OP_ALARM);
2762
2763         case KEY_accept:
2764             LOP(OP_ACCEPT,XTERM);
2765
2766         case KEY_and:
2767             OPERATOR(ANDOP);
2768
2769         case KEY_atan2:
2770             LOP(OP_ATAN2,XTERM);
2771
2772         case KEY_bind:
2773             LOP(OP_BIND,XTERM);
2774
2775         case KEY_binmode:
2776             UNI(OP_BINMODE);
2777
2778         case KEY_bless:
2779             LOP(OP_BLESS,XTERM);
2780
2781         case KEY_chop:
2782             UNI(OP_CHOP);
2783
2784         case KEY_continue:
2785             PREBLOCK(CONTINUE);
2786
2787         case KEY_chdir:
2788             (void)gv_fetchpv("ENV",TRUE, SVt_PVHV);     /* may use HOME */
2789             UNI(OP_CHDIR);
2790
2791         case KEY_close:
2792             UNI(OP_CLOSE);
2793
2794         case KEY_closedir:
2795             UNI(OP_CLOSEDIR);
2796
2797         case KEY_cmp:
2798             Eop(OP_SCMP);
2799
2800         case KEY_caller:
2801             UNI(OP_CALLER);
2802
2803         case KEY_crypt:
2804 #ifdef FCRYPT
2805             if (!cryptseen++)
2806                 init_des();
2807 #endif
2808             LOP(OP_CRYPT,XTERM);
2809
2810         case KEY_chmod:
2811             if (dowarn) {
2812                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
2813                 if (*d != '0' && isDIGIT(*d))
2814                     yywarn("chmod: mode argument is missing initial 0");
2815             }
2816             LOP(OP_CHMOD,XTERM);
2817
2818         case KEY_chown:
2819             LOP(OP_CHOWN,XTERM);
2820
2821         case KEY_connect:
2822             LOP(OP_CONNECT,XTERM);
2823
2824         case KEY_chr:
2825             UNI(OP_CHR);
2826
2827         case KEY_cos:
2828             UNI(OP_COS);
2829
2830         case KEY_chroot:
2831             UNI(OP_CHROOT);
2832
2833         case KEY_do:
2834             s = skipspace(s);
2835             if (*s == '{')
2836                 PRETERMBLOCK(DO);
2837             if (*s != '\'')
2838                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
2839             OPERATOR(DO);
2840
2841         case KEY_die:
2842             hints |= HINT_BLOCK_SCOPE;
2843             LOP(OP_DIE,XTERM);
2844
2845         case KEY_defined:
2846             UNI(OP_DEFINED);
2847
2848         case KEY_delete:
2849             UNI(OP_DELETE);
2850
2851         case KEY_dbmopen:
2852             gv_fetchpv("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
2853             LOP(OP_DBMOPEN,XTERM);
2854
2855         case KEY_dbmclose:
2856             UNI(OP_DBMCLOSE);
2857
2858         case KEY_dump:
2859             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2860             LOOPX(OP_DUMP);
2861
2862         case KEY_else:
2863             PREBLOCK(ELSE);
2864
2865         case KEY_elsif:
2866             yylval.ival = curcop->cop_line;
2867             OPERATOR(ELSIF);
2868
2869         case KEY_eq:
2870             Eop(OP_SEQ);
2871
2872         case KEY_exists:
2873             UNI(OP_EXISTS);
2874             
2875         case KEY_exit:
2876             UNI(OP_EXIT);
2877
2878         case KEY_eval:
2879             s = skipspace(s);
2880             expect = (*s == '{') ? XTERMBLOCK : XTERM;
2881             UNIBRACK(OP_ENTEREVAL);
2882
2883         case KEY_eof:
2884             UNI(OP_EOF);
2885
2886         case KEY_exp:
2887             UNI(OP_EXP);
2888
2889         case KEY_each:
2890             UNI(OP_EACH);
2891
2892         case KEY_exec:
2893             set_csh();
2894             LOP(OP_EXEC,XREF);
2895
2896         case KEY_endhostent:
2897             FUN0(OP_EHOSTENT);
2898
2899         case KEY_endnetent:
2900             FUN0(OP_ENETENT);
2901
2902         case KEY_endservent:
2903             FUN0(OP_ESERVENT);
2904
2905         case KEY_endprotoent:
2906             FUN0(OP_EPROTOENT);
2907
2908         case KEY_endpwent:
2909             FUN0(OP_EPWENT);
2910
2911         case KEY_endgrent:
2912             FUN0(OP_EGRENT);
2913
2914         case KEY_for:
2915         case KEY_foreach:
2916             yylval.ival = curcop->cop_line;
2917             s = skipspace(s);
2918             if (isIDFIRST(*s)) {
2919                 char *p = s;
2920                 if ((bufend - p) >= 3 &&
2921                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
2922                     p += 2;
2923                 p = skipspace(p);
2924                 if (isIDFIRST(*p))
2925                     croak("Missing $ on loop variable");
2926             }
2927             OPERATOR(FOR);
2928
2929         case KEY_formline:
2930             LOP(OP_FORMLINE,XTERM);
2931
2932         case KEY_fork:
2933             FUN0(OP_FORK);
2934
2935         case KEY_fcntl:
2936             LOP(OP_FCNTL,XTERM);
2937
2938         case KEY_fileno:
2939             UNI(OP_FILENO);
2940
2941         case KEY_flock:
2942             LOP(OP_FLOCK,XTERM);
2943
2944         case KEY_gt:
2945             Rop(OP_SGT);
2946
2947         case KEY_ge:
2948             Rop(OP_SGE);
2949
2950         case KEY_grep:
2951             LOP(OP_GREPSTART, *s == '(' ? XTERM : XREF);
2952
2953         case KEY_goto:
2954             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2955             LOOPX(OP_GOTO);
2956
2957         case KEY_gmtime:
2958             UNI(OP_GMTIME);
2959
2960         case KEY_getc:
2961             UNI(OP_GETC);
2962
2963         case KEY_getppid:
2964             FUN0(OP_GETPPID);
2965
2966         case KEY_getpgrp:
2967             UNI(OP_GETPGRP);
2968
2969         case KEY_getpriority:
2970             LOP(OP_GETPRIORITY,XTERM);
2971
2972         case KEY_getprotobyname:
2973             UNI(OP_GPBYNAME);
2974
2975         case KEY_getprotobynumber:
2976             LOP(OP_GPBYNUMBER,XTERM);
2977
2978         case KEY_getprotoent:
2979             FUN0(OP_GPROTOENT);
2980
2981         case KEY_getpwent:
2982             FUN0(OP_GPWENT);
2983
2984         case KEY_getpwnam:
2985             UNI(OP_GPWNAM);
2986
2987         case KEY_getpwuid:
2988             UNI(OP_GPWUID);
2989
2990         case KEY_getpeername:
2991             UNI(OP_GETPEERNAME);
2992
2993         case KEY_gethostbyname:
2994             UNI(OP_GHBYNAME);
2995
2996         case KEY_gethostbyaddr:
2997             LOP(OP_GHBYADDR,XTERM);
2998
2999         case KEY_gethostent:
3000             FUN0(OP_GHOSTENT);
3001
3002         case KEY_getnetbyname:
3003             UNI(OP_GNBYNAME);
3004
3005         case KEY_getnetbyaddr:
3006             LOP(OP_GNBYADDR,XTERM);
3007
3008         case KEY_getnetent:
3009             FUN0(OP_GNETENT);
3010
3011         case KEY_getservbyname:
3012             LOP(OP_GSBYNAME,XTERM);
3013
3014         case KEY_getservbyport:
3015             LOP(OP_GSBYPORT,XTERM);
3016
3017         case KEY_getservent:
3018             FUN0(OP_GSERVENT);
3019
3020         case KEY_getsockname:
3021             UNI(OP_GETSOCKNAME);
3022
3023         case KEY_getsockopt:
3024             LOP(OP_GSOCKOPT,XTERM);
3025
3026         case KEY_getgrent:
3027             FUN0(OP_GGRENT);
3028
3029         case KEY_getgrnam:
3030             UNI(OP_GGRNAM);
3031
3032         case KEY_getgrgid:
3033             UNI(OP_GGRGID);
3034
3035         case KEY_getlogin:
3036             FUN0(OP_GETLOGIN);
3037
3038         case KEY_glob:
3039             set_csh();
3040             LOP(OP_GLOB,XTERM);
3041
3042         case KEY_hex:
3043             UNI(OP_HEX);
3044
3045         case KEY_if:
3046             yylval.ival = curcop->cop_line;
3047             OPERATOR(IF);
3048
3049         case KEY_index:
3050             LOP(OP_INDEX,XTERM);
3051
3052         case KEY_int:
3053             UNI(OP_INT);
3054
3055         case KEY_ioctl:
3056             LOP(OP_IOCTL,XTERM);
3057
3058         case KEY_join:
3059             LOP(OP_JOIN,XTERM);
3060
3061         case KEY_keys:
3062             UNI(OP_KEYS);
3063
3064         case KEY_kill:
3065             LOP(OP_KILL,XTERM);
3066
3067         case KEY_last:
3068             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3069             LOOPX(OP_LAST);
3070             
3071         case KEY_lc:
3072             UNI(OP_LC);
3073
3074         case KEY_lcfirst:
3075             UNI(OP_LCFIRST);
3076
3077         case KEY_local:
3078             OPERATOR(LOCAL);
3079
3080         case KEY_length:
3081             UNI(OP_LENGTH);
3082
3083         case KEY_lt:
3084             Rop(OP_SLT);
3085
3086         case KEY_le:
3087             Rop(OP_SLE);
3088
3089         case KEY_localtime:
3090             UNI(OP_LOCALTIME);
3091
3092         case KEY_log:
3093             UNI(OP_LOG);
3094
3095         case KEY_link:
3096             LOP(OP_LINK,XTERM);
3097
3098         case KEY_listen:
3099             LOP(OP_LISTEN,XTERM);
3100
3101         case KEY_lock:
3102             UNI(OP_LOCK);
3103
3104         case KEY_lstat:
3105             UNI(OP_LSTAT);
3106
3107         case KEY_m:
3108             s = scan_pat(s);
3109             TERM(sublex_start());
3110
3111         case KEY_map:
3112             LOP(OP_MAPSTART,XREF);
3113             
3114         case KEY_mkdir:
3115             LOP(OP_MKDIR,XTERM);
3116
3117         case KEY_msgctl:
3118             LOP(OP_MSGCTL,XTERM);
3119
3120         case KEY_msgget:
3121             LOP(OP_MSGGET,XTERM);
3122
3123         case KEY_msgrcv:
3124             LOP(OP_MSGRCV,XTERM);
3125
3126         case KEY_msgsnd:
3127             LOP(OP_MSGSND,XTERM);
3128
3129         case KEY_my:
3130             in_my = TRUE;
3131             s = skipspace(s);
3132             if (isIDFIRST(*s)) {
3133                 s = scan_word(s, tokenbuf, sizeof tokenbuf, TRUE, &len);
3134                 in_my_stash = gv_stashpv(tokenbuf, FALSE);
3135                 if (!in_my_stash) {
3136                     char tmpbuf[1024];
3137                     bufptr = s;
3138                     sprintf(tmpbuf, "No such class %.1000s", tokenbuf);
3139                     yyerror(tmpbuf);
3140                 }
3141             }
3142             OPERATOR(MY);
3143
3144         case KEY_next:
3145             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3146             LOOPX(OP_NEXT);
3147
3148         case KEY_ne:
3149             Eop(OP_SNE);
3150
3151         case KEY_no:
3152             if (expect != XSTATE)
3153                 yyerror("\"no\" not allowed in expression");
3154             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3155             s = force_version(s);
3156             yylval.ival = 0;
3157             OPERATOR(USE);
3158
3159         case KEY_not:
3160             OPERATOR(NOTOP);
3161
3162         case KEY_open:
3163             s = skipspace(s);
3164             if (isIDFIRST(*s)) {
3165                 char *t;
3166                 for (d = s; isALNUM(*d); d++) ;
3167                 t = skipspace(d);
3168                 if (strchr("|&*+-=!?:.", *t))
3169                     warn("Precedence problem: open %.*s should be open(%.*s)",
3170                         d-s,s, d-s,s);
3171             }
3172             LOP(OP_OPEN,XTERM);
3173
3174         case KEY_or:
3175             yylval.ival = OP_OR;
3176             OPERATOR(OROP);
3177
3178         case KEY_ord:
3179             UNI(OP_ORD);
3180
3181         case KEY_oct:
3182             UNI(OP_OCT);
3183
3184         case KEY_opendir:
3185             LOP(OP_OPEN_DIR,XTERM);
3186
3187         case KEY_print:
3188             checkcomma(s,tokenbuf,"filehandle");
3189             LOP(OP_PRINT,XREF);
3190
3191         case KEY_printf:
3192             checkcomma(s,tokenbuf,"filehandle");
3193             LOP(OP_PRTF,XREF);
3194
3195         case KEY_prototype:
3196             UNI(OP_PROTOTYPE);
3197
3198         case KEY_push:
3199             LOP(OP_PUSH,XTERM);
3200
3201         case KEY_pop:
3202             UNI(OP_POP);
3203
3204         case KEY_pos:
3205             UNI(OP_POS);
3206             
3207         case KEY_pack:
3208             LOP(OP_PACK,XTERM);
3209
3210         case KEY_package:
3211             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3212             OPERATOR(PACKAGE);
3213
3214         case KEY_pipe:
3215             LOP(OP_PIPE_OP,XTERM);
3216
3217         case KEY_q:
3218             s = scan_str(s);
3219             if (!s)
3220                 missingterm((char*)0);
3221             yylval.ival = OP_CONST;
3222             TERM(sublex_start());
3223
3224         case KEY_quotemeta:
3225             UNI(OP_QUOTEMETA);
3226
3227         case KEY_qw:
3228             s = scan_str(s);
3229             if (!s)
3230                 missingterm((char*)0);
3231             if (dowarn && SvLEN(lex_stuff)) {
3232                 d = SvPV_force(lex_stuff, len);
3233                 for (; len; --len, ++d) {
3234                     if (*d == ',') {
3235                         warn("Possible attempt to separate words with commas");
3236                         break;
3237                     }
3238                     if (*d == '#') {
3239                         warn("Possible attempt to put comments in qw() list");
3240                         break;
3241                     }
3242                 }
3243             }
3244             force_next(')');
3245             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, q(lex_stuff));
3246             lex_stuff = Nullsv;
3247             force_next(THING);
3248             force_next(',');
3249             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(" ",1));
3250             force_next(THING);
3251             force_next('(');
3252             yylval.ival = OP_SPLIT;
3253             CLINE;
3254             expect = XTERM;
3255             bufptr = s;
3256             last_lop = oldbufptr;
3257             last_lop_op = OP_SPLIT;
3258             return FUNC;
3259
3260         case KEY_qq:
3261             s = scan_str(s);
3262             if (!s)
3263                 missingterm((char*)0);
3264             yylval.ival = OP_STRINGIFY;
3265             if (SvIVX(lex_stuff) == '\'')
3266                 SvIVX(lex_stuff) = 0;   /* qq'$foo' should intepolate */
3267             TERM(sublex_start());
3268
3269         case KEY_qx:
3270             s = scan_str(s);
3271             if (!s)
3272                 missingterm((char*)0);
3273             yylval.ival = OP_BACKTICK;
3274             set_csh();
3275             TERM(sublex_start());
3276
3277         case KEY_return:
3278             OLDLOP(OP_RETURN);
3279
3280         case KEY_require:
3281             *tokenbuf = '\0';
3282             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3283             if (isIDFIRST(*tokenbuf))
3284                 gv_stashpvn(tokenbuf, strlen(tokenbuf), TRUE);
3285             else if (*s == '<')
3286                 yyerror("<> should be quotes");
3287             UNI(OP_REQUIRE);
3288
3289         case KEY_reset:
3290             UNI(OP_RESET);
3291
3292         case KEY_redo:
3293             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3294             LOOPX(OP_REDO);
3295
3296         case KEY_rename:
3297             LOP(OP_RENAME,XTERM);
3298
3299         case KEY_rand:
3300             UNI(OP_RAND);
3301
3302         case KEY_rmdir:
3303             UNI(OP_RMDIR);
3304
3305         case KEY_rindex:
3306             LOP(OP_RINDEX,XTERM);
3307
3308         case KEY_read:
3309             LOP(OP_READ,XTERM);
3310
3311         case KEY_readdir:
3312             UNI(OP_READDIR);
3313
3314         case KEY_readline:
3315             set_csh();
3316             UNI(OP_READLINE);
3317
3318         case KEY_readpipe:
3319             set_csh();
3320             UNI(OP_BACKTICK);
3321
3322         case KEY_rewinddir:
3323             UNI(OP_REWINDDIR);
3324
3325         case KEY_recv:
3326             LOP(OP_RECV,XTERM);
3327
3328         case KEY_reverse:
3329             LOP(OP_REVERSE,XTERM);
3330
3331         case KEY_readlink:
3332             UNI(OP_READLINK);
3333
3334         case KEY_ref:
3335             UNI(OP_REF);
3336
3337         case KEY_s:
3338             s = scan_subst(s);
3339             if (yylval.opval)
3340                 TERM(sublex_start());
3341             else
3342                 TOKEN(1);       /* force error */
3343
3344         case KEY_chomp:
3345             UNI(OP_CHOMP);
3346             
3347         case KEY_scalar:
3348             UNI(OP_SCALAR);
3349
3350         case KEY_select:
3351             LOP(OP_SELECT,XTERM);
3352
3353         case KEY_seek:
3354             LOP(OP_SEEK,XTERM);
3355
3356         case KEY_semctl:
3357             LOP(OP_SEMCTL,XTERM);
3358
3359         case KEY_semget:
3360             LOP(OP_SEMGET,XTERM);
3361
3362         case KEY_semop:
3363             LOP(OP_SEMOP,XTERM);
3364
3365         case KEY_send:
3366             LOP(OP_SEND,XTERM);
3367
3368         case KEY_setpgrp:
3369             LOP(OP_SETPGRP,XTERM);
3370
3371         case KEY_setpriority:
3372             LOP(OP_SETPRIORITY,XTERM);
3373
3374         case KEY_sethostent:
3375             UNI(OP_SHOSTENT);
3376
3377         case KEY_setnetent:
3378             UNI(OP_SNETENT);
3379
3380         case KEY_setservent:
3381             UNI(OP_SSERVENT);
3382
3383         case KEY_setprotoent:
3384             UNI(OP_SPROTOENT);
3385
3386         case KEY_setpwent:
3387             FUN0(OP_SPWENT);
3388
3389         case KEY_setgrent:
3390             FUN0(OP_SGRENT);
3391
3392         case KEY_seekdir:
3393             LOP(OP_SEEKDIR,XTERM);
3394
3395         case KEY_setsockopt:
3396             LOP(OP_SSOCKOPT,XTERM);
3397
3398         case KEY_shift:
3399             UNI(OP_SHIFT);
3400
3401         case KEY_shmctl:
3402             LOP(OP_SHMCTL,XTERM);
3403
3404         case KEY_shmget:
3405             LOP(OP_SHMGET,XTERM);
3406
3407         case KEY_shmread:
3408             LOP(OP_SHMREAD,XTERM);
3409
3410         case KEY_shmwrite:
3411             LOP(OP_SHMWRITE,XTERM);
3412
3413         case KEY_shutdown:
3414             LOP(OP_SHUTDOWN,XTERM);
3415
3416         case KEY_sin:
3417             UNI(OP_SIN);
3418
3419         case KEY_sleep:
3420             UNI(OP_SLEEP);
3421
3422         case KEY_socket:
3423             LOP(OP_SOCKET,XTERM);
3424
3425         case KEY_socketpair:
3426             LOP(OP_SOCKPAIR,XTERM);
3427
3428         case KEY_sort:
3429             checkcomma(s,tokenbuf,"subroutine name");
3430             s = skipspace(s);
3431             if (*s == ';' || *s == ')')         /* probably a close */
3432                 croak("sort is now a reserved word");
3433             expect = XTERM;
3434             s = force_word(s,WORD,TRUE,TRUE,TRUE);
3435             LOP(OP_SORT,XREF);
3436
3437         case KEY_split:
3438             LOP(OP_SPLIT,XTERM);
3439
3440         case KEY_sprintf:
3441             LOP(OP_SPRINTF,XTERM);
3442
3443         case KEY_splice:
3444             LOP(OP_SPLICE,XTERM);
3445
3446         case KEY_sqrt:
3447             UNI(OP_SQRT);
3448
3449         case KEY_srand:
3450             UNI(OP_SRAND);
3451
3452         case KEY_stat:
3453             UNI(OP_STAT);
3454
3455         case KEY_study:
3456             sawstudy++;
3457             UNI(OP_STUDY);
3458
3459         case KEY_substr:
3460             LOP(OP_SUBSTR,XTERM);
3461
3462         case KEY_format:
3463         case KEY_sub:
3464           really_sub:
3465             s = skipspace(s);
3466
3467             if (isIDFIRST(*s) || *s == '\'' || *s == ':') {
3468                 char tmpbuf[sizeof tokenbuf];
3469                 expect = XBLOCK;
3470                 d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
3471                 if (strchr(tmpbuf, ':'))
3472                     sv_setpv(subname, tmpbuf);
3473                 else {
3474                     sv_setsv(subname,curstname);
3475                     sv_catpvn(subname,"::",2);
3476                     sv_catpvn(subname,tmpbuf,len);
3477                 }
3478                 s = force_word(s,WORD,FALSE,TRUE,TRUE);
3479                 s = skipspace(s);
3480             }
3481             else {
3482                 expect = XTERMBLOCK;
3483                 sv_setpv(subname,"?");
3484             }
3485
3486             if (tmp == KEY_format) {
3487                 s = skipspace(s);
3488                 if (*s == '=')
3489                     lex_formbrack = lex_brackets + 1;
3490                 OPERATOR(FORMAT);
3491             }
3492
3493             /* Look for a prototype */
3494             if (*s == '(') {
3495                 char *p;
3496
3497                 s = scan_str(s);
3498                 if (!s) {
3499                     if (lex_stuff)
3500                         SvREFCNT_dec(lex_stuff);
3501                     lex_stuff = Nullsv;
3502                     croak("Prototype not terminated");
3503                 }
3504                 /* strip spaces */
3505                 d = SvPVX(lex_stuff);
3506                 tmp = 0;
3507                 for (p = d; *p; ++p) {
3508                     if (!isSPACE(*p))
3509                         d[tmp++] = *p;
3510                 }
3511                 d[tmp] = '\0';
3512                 SvCUR(lex_stuff) = tmp;
3513
3514                 nexttoke++;
3515                 nextval[1] = nextval[0];
3516                 nexttype[1] = nexttype[0];
3517                 nextval[0].opval = (OP*)newSVOP(OP_CONST, 0, lex_stuff);
3518                 nexttype[0] = THING;
3519                 if (nexttoke == 1) {
3520                     lex_defer = lex_state;
3521                     lex_expect = expect;
3522                     lex_state = LEX_KNOWNEXT;
3523                 }
3524                 lex_stuff = Nullsv;
3525             }
3526
3527             if (*SvPV(subname,na) == '?') {
3528                 sv_setpv(subname,"__ANON__");
3529                 TOKEN(ANONSUB);
3530             }
3531             PREBLOCK(SUB);
3532
3533         case KEY_system:
3534             set_csh();
3535             LOP(OP_SYSTEM,XREF);
3536
3537         case KEY_symlink:
3538             LOP(OP_SYMLINK,XTERM);
3539
3540         case KEY_syscall:
3541             LOP(OP_SYSCALL,XTERM);
3542
3543         case KEY_sysopen:
3544             LOP(OP_SYSOPEN,XTERM);
3545
3546         case KEY_sysseek:
3547             LOP(OP_SYSSEEK,XTERM);
3548
3549         case KEY_sysread:
3550             LOP(OP_SYSREAD,XTERM);
3551
3552         case KEY_syswrite:
3553             LOP(OP_SYSWRITE,XTERM);
3554
3555         case KEY_tr:
3556             s = scan_trans(s);
3557             TERM(sublex_start());
3558
3559         case KEY_tell:
3560             UNI(OP_TELL);
3561
3562         case KEY_telldir:
3563             UNI(OP_TELLDIR);
3564
3565         case KEY_tie:
3566             LOP(OP_TIE,XTERM);
3567
3568         case KEY_tied:
3569             UNI(OP_TIED);
3570
3571         case KEY_time:
3572             FUN0(OP_TIME);
3573
3574         case KEY_times:
3575             FUN0(OP_TMS);
3576
3577         case KEY_truncate:
3578             LOP(OP_TRUNCATE,XTERM);
3579
3580         case KEY_uc:
3581             UNI(OP_UC);
3582
3583         case KEY_ucfirst:
3584             UNI(OP_UCFIRST);
3585
3586         case KEY_untie:
3587             UNI(OP_UNTIE);
3588
3589         case KEY_until:
3590             yylval.ival = curcop->cop_line;
3591             OPERATOR(UNTIL);
3592
3593         case KEY_unless:
3594             yylval.ival = curcop->cop_line;
3595             OPERATOR(UNLESS);
3596
3597         case KEY_unlink:
3598             LOP(OP_UNLINK,XTERM);
3599
3600         case KEY_undef:
3601             UNI(OP_UNDEF);
3602
3603         case KEY_unpack:
3604             LOP(OP_UNPACK,XTERM);
3605
3606         case KEY_utime:
3607             LOP(OP_UTIME,XTERM);
3608
3609         case KEY_umask:
3610             if (dowarn) {
3611                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
3612                 if (*d != '0' && isDIGIT(*d))
3613                     yywarn("umask: argument is missing initial 0");
3614             }
3615             UNI(OP_UMASK);
3616
3617         case KEY_unshift:
3618             LOP(OP_UNSHIFT,XTERM);
3619
3620         case KEY_use:
3621             if (expect != XSTATE)
3622                 yyerror("\"use\" not allowed in expression");
3623             s = skipspace(s);
3624             if(isDIGIT(*s)) {
3625                 s = force_version(s);
3626                 if(*s == ';' || (s = skipspace(s), *s == ';')) {
3627                     nextval[nexttoke].opval = Nullop;
3628                     force_next(WORD);
3629                 }
3630             }
3631             else {
3632                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
3633                 s = force_version(s);
3634             }
3635             yylval.ival = 1;
3636             OPERATOR(USE);
3637
3638         case KEY_values:
3639             UNI(OP_VALUES);
3640
3641         case KEY_vec:
3642             sawvec = TRUE;
3643             LOP(OP_VEC,XTERM);
3644
3645         case KEY_while:
3646             yylval.ival = curcop->cop_line;
3647             OPERATOR(WHILE);
3648
3649         case KEY_warn:
3650             hints |= HINT_BLOCK_SCOPE;
3651             LOP(OP_WARN,XTERM);
3652
3653         case KEY_wait:
3654             FUN0(OP_WAIT);
3655
3656         case KEY_waitpid:
3657             LOP(OP_WAITPID,XTERM);
3658
3659         case KEY_wantarray:
3660             FUN0(OP_WANTARRAY);
3661
3662         case KEY_write:
3663             gv_fetchpv("\f",TRUE, SVt_PV);      /* Make sure $^L is defined */
3664             UNI(OP_ENTERWRITE);
3665
3666         case KEY_x:
3667             if (expect == XOPERATOR)
3668                 Mop(OP_REPEAT);
3669             check_uni();
3670             goto just_a_word;
3671
3672         case KEY_xor:
3673             yylval.ival = OP_XOR;
3674             OPERATOR(OROP);
3675
3676         case KEY_y:
3677             s = scan_trans(s);
3678             TERM(sublex_start());
3679         }
3680     }
3681 }
3682
3683 I32
3684 keyword(d, len)
3685 register char *d;
3686 I32 len;
3687 {
3688     switch (*d) {
3689     case '_':
3690         if (d[1] == '_') {
3691             if (strEQ(d,"__FILE__"))            return -KEY___FILE__;
3692             if (strEQ(d,"__LINE__"))            return -KEY___LINE__;
3693             if (strEQ(d,"__PACKAGE__"))         return -KEY___PACKAGE__;
3694             if (strEQ(d,"__DATA__"))            return KEY___DATA__;
3695             if (strEQ(d,"__END__"))             return KEY___END__;
3696         }
3697         break;
3698     case 'A':
3699         if (strEQ(d,"AUTOLOAD"))                return KEY_AUTOLOAD;
3700         break;
3701     case 'a':
3702         switch (len) {
3703         case 3:
3704             if (strEQ(d,"and"))                 return -KEY_and;
3705             if (strEQ(d,"abs"))                 return -KEY_abs;
3706             break;
3707         case 5:
3708             if (strEQ(d,"alarm"))               return -KEY_alarm;
3709             if (strEQ(d,"atan2"))               return -KEY_atan2;
3710             break;
3711         case 6:
3712             if (strEQ(d,"accept"))              return -KEY_accept;
3713             break;
3714         }
3715         break;
3716     case 'B':
3717         if (strEQ(d,"BEGIN"))                   return KEY_BEGIN;
3718         break;
3719     case 'b':
3720         if (strEQ(d,"bless"))                   return -KEY_bless;
3721         if (strEQ(d,"bind"))                    return -KEY_bind;
3722         if (strEQ(d,"binmode"))                 return -KEY_binmode;
3723         break;
3724     case 'C':
3725         if (strEQ(d,"CORE"))                    return -KEY_CORE;
3726         break;
3727     case 'c':
3728         switch (len) {
3729         case 3:
3730             if (strEQ(d,"cmp"))                 return -KEY_cmp;
3731             if (strEQ(d,"chr"))                 return -KEY_chr;
3732             if (strEQ(d,"cos"))                 return -KEY_cos;
3733             break;
3734         case 4:
3735             if (strEQ(d,"chop"))                return KEY_chop;
3736             break;
3737         case 5:
3738             if (strEQ(d,"close"))               return -KEY_close;
3739             if (strEQ(d,"chdir"))               return -KEY_chdir;
3740             if (strEQ(d,"chomp"))               return KEY_chomp;
3741             if (strEQ(d,"chmod"))               return -KEY_chmod;
3742             if (strEQ(d,"chown"))               return -KEY_chown;
3743             if (strEQ(d,"crypt"))               return -KEY_crypt;
3744             break;
3745         case 6:
3746             if (strEQ(d,"chroot"))              return -KEY_chroot;
3747             if (strEQ(d,"caller"))              return -KEY_caller;
3748             break;
3749         case 7:
3750             if (strEQ(d,"connect"))             return -KEY_connect;
3751             break;
3752         case 8:
3753             if (strEQ(d,"closedir"))            return -KEY_closedir;
3754             if (strEQ(d,"continue"))            return -KEY_continue;
3755             break;
3756         }
3757         break;
3758     case 'D':
3759         if (strEQ(d,"DESTROY"))                 return KEY_DESTROY;
3760         break;
3761     case 'd':
3762         switch (len) {
3763         case 2:
3764             if (strEQ(d,"do"))                  return KEY_do;
3765             break;
3766         case 3:
3767             if (strEQ(d,"die"))                 return -KEY_die;
3768             break;
3769         case 4:
3770             if (strEQ(d,"dump"))                return -KEY_dump;
3771             break;
3772         case 6:
3773             if (strEQ(d,"delete"))              return KEY_delete;
3774             break;
3775         case 7:
3776             if (strEQ(d,"defined"))             return KEY_defined;
3777             if (strEQ(d,"dbmopen"))             return -KEY_dbmopen;
3778             break;
3779         case 8:
3780             if (strEQ(d,"dbmclose"))            return -KEY_dbmclose;
3781             break;
3782         }
3783         break;
3784     case 'E':
3785         if (strEQ(d,"EQ")) { deprecate(d);      return -KEY_eq;}
3786         if (strEQ(d,"END"))                     return KEY_END;
3787         break;
3788     case 'e':
3789         switch (len) {
3790         case 2:
3791             if (strEQ(d,"eq"))                  return -KEY_eq;
3792             break;
3793         case 3:
3794             if (strEQ(d,"eof"))                 return -KEY_eof;
3795             if (strEQ(d,"exp"))                 return -KEY_exp;
3796             break;
3797         case 4:
3798             if (strEQ(d,"else"))                return KEY_else;
3799             if (strEQ(d,"exit"))                return -KEY_exit;
3800             if (strEQ(d,"eval"))                return KEY_eval;
3801             if (strEQ(d,"exec"))                return -KEY_exec;
3802             if (strEQ(d,"each"))                return KEY_each;
3803             break;
3804         case 5:
3805             if (strEQ(d,"elsif"))               return KEY_elsif;
3806             break;
3807         case 6:
3808             if (strEQ(d,"exists"))              return KEY_exists;
3809             if (strEQ(d,"elseif")) warn("elseif should be elsif");
3810             break;
3811         case 8:
3812             if (strEQ(d,"endgrent"))            return -KEY_endgrent;
3813             if (strEQ(d,"endpwent"))            return -KEY_endpwent;
3814             break;
3815         case 9:
3816             if (strEQ(d,"endnetent"))           return -KEY_endnetent;
3817             break;
3818         case 10:
3819             if (strEQ(d,"endhostent"))          return -KEY_endhostent;
3820             if (strEQ(d,"endservent"))          return -KEY_endservent;
3821             break;
3822         case 11:
3823             if (strEQ(d,"endprotoent"))         return -KEY_endprotoent;
3824             break;
3825         }
3826         break;
3827     case 'f':
3828         switch (len) {
3829         case 3:
3830             if (strEQ(d,"for"))                 return KEY_for;
3831             break;
3832         case 4:
3833             if (strEQ(d,"fork"))                return -KEY_fork;
3834             break;
3835         case 5:
3836             if (strEQ(d,"fcntl"))               return -KEY_fcntl;
3837             if (strEQ(d,"flock"))               return -KEY_flock;
3838             break;
3839         case 6:
3840             if (strEQ(d,"format"))              return KEY_format;
3841             if (strEQ(d,"fileno"))              return -KEY_fileno;
3842             break;
3843         case 7:
3844             if (strEQ(d,"foreach"))             return KEY_foreach;
3845             break;
3846         case 8:
3847             if (strEQ(d,"formline"))            return -KEY_formline;
3848             break;
3849         }
3850         break;
3851     case 'G':
3852         if (len == 2) {
3853             if (strEQ(d,"GT")) { deprecate(d);  return -KEY_gt;}
3854             if (strEQ(d,"GE")) { deprecate(d);  return -KEY_ge;}
3855         }
3856         break;
3857     case 'g':
3858         if (strnEQ(d,"get",3)) {
3859             d += 3;
3860             if (*d == 'p') {
3861                 switch (len) {
3862                 case 7:
3863                     if (strEQ(d,"ppid"))        return -KEY_getppid;
3864                     if (strEQ(d,"pgrp"))        return -KEY_getpgrp;
3865                     break;
3866                 case 8:
3867                     if (strEQ(d,"pwent"))       return -KEY_getpwent;
3868                     if (strEQ(d,"pwnam"))       return -KEY_getpwnam;
3869                     if (strEQ(d,"pwuid"))       return -KEY_getpwuid;
3870                     break;
3871                 case 11:
3872                     if (strEQ(d,"peername"))    return -KEY_getpeername;
3873                     if (strEQ(d,"protoent"))    return -KEY_getprotoent;
3874                     if (strEQ(d,"priority"))    return -KEY_getpriority;
3875                     break;
3876                 case 14:
3877                     if (strEQ(d,"protobyname")) return -KEY_getprotobyname;
3878                     break;
3879                 case 16:
3880                     if (strEQ(d,"protobynumber"))return -KEY_getprotobynumber;
3881                     break;
3882                 }
3883             }
3884             else if (*d == 'h') {
3885                 if (strEQ(d,"hostbyname"))      return -KEY_gethostbyname;
3886                 if (strEQ(d,"hostbyaddr"))      return -KEY_gethostbyaddr;
3887                 if (strEQ(d,"hostent"))         return -KEY_gethostent;
3888             }
3889             else if (*d == 'n') {
3890                 if (strEQ(d,"netbyname"))       return -KEY_getnetbyname;
3891                 if (strEQ(d,"netbyaddr"))       return -KEY_getnetbyaddr;
3892                 if (strEQ(d,"netent"))          return -KEY_getnetent;
3893             }
3894             else if (*d == 's') {
3895                 if (strEQ(d,"servbyname"))      return -KEY_getservbyname;
3896                 if (strEQ(d,"servbyport"))      return -KEY_getservbyport;
3897                 if (strEQ(d,"servent"))         return -KEY_getservent;
3898                 if (strEQ(d,"sockname"))        return -KEY_getsockname;
3899                 if (strEQ(d,"sockopt"))         return -KEY_getsockopt;
3900             }
3901             else if (*d == 'g') {
3902                 if (strEQ(d,"grent"))           return -KEY_getgrent;
3903                 if (strEQ(d,"grnam"))           return -KEY_getgrnam;
3904                 if (strEQ(d,"grgid"))           return -KEY_getgrgid;
3905             }
3906             else if (*d == 'l') {
3907                 if (strEQ(d,"login"))           return -KEY_getlogin;
3908             }
3909             else if (strEQ(d,"c"))              return -KEY_getc;
3910             break;
3911         }
3912         switch (len) {
3913         case 2:
3914             if (strEQ(d,"gt"))                  return -KEY_gt;
3915             if (strEQ(d,"ge"))                  return -KEY_ge;
3916             break;
3917         case 4:
3918             if (strEQ(d,"grep"))                return KEY_grep;
3919             if (strEQ(d,"goto"))                return KEY_goto;
3920             if (strEQ(d,"glob"))                return -KEY_glob;
3921             break;
3922         case 6:
3923             if (strEQ(d,"gmtime"))              return -KEY_gmtime;
3924             break;
3925         }
3926         break;
3927     case 'h':
3928         if (strEQ(d,"hex"))                     return -KEY_hex;
3929         break;
3930     case 'i':
3931         switch (len) {
3932         case 2:
3933             if (strEQ(d,"if"))                  return KEY_if;
3934             break;
3935         case 3:
3936             if (strEQ(d,"int"))                 return -KEY_int;
3937             break;
3938         case 5:
3939             if (strEQ(d,"index"))               return -KEY_index;
3940             if (strEQ(d,"ioctl"))               return -KEY_ioctl;
3941             break;
3942         }
3943         break;
3944     case 'j':
3945         if (strEQ(d,"join"))                    return -KEY_join;
3946         break;
3947     case 'k':
3948         if (len == 4) {
3949             if (strEQ(d,"keys"))                return KEY_keys;
3950             if (strEQ(d,"kill"))                return -KEY_kill;
3951         }
3952         break;
3953     case 'L':
3954         if (len == 2) {
3955             if (strEQ(d,"LT")) { deprecate(d);  return -KEY_lt;}
3956             if (strEQ(d,"LE")) { deprecate(d);  return -KEY_le;}
3957         }
3958         break;
3959     case 'l':
3960         switch (len) {
3961         case 2:
3962             if (strEQ(d,"lt"))                  return -KEY_lt;
3963             if (strEQ(d,"le"))                  return -KEY_le;
3964             if (strEQ(d,"lc"))                  return -KEY_lc;
3965             break;
3966         case 3:
3967             if (strEQ(d,"log"))                 return -KEY_log;
3968             break;
3969         case 4:
3970             if (strEQ(d,"last"))                return KEY_last;
3971             if (strEQ(d,"link"))                return -KEY_link;
3972             if (strEQ(d,"lock"))                return -KEY_lock;
3973             break;
3974         case 5:
3975             if (strEQ(d,"local"))               return KEY_local;
3976             if (strEQ(d,"lstat"))               return -KEY_lstat;
3977             break;
3978         case 6:
3979             if (strEQ(d,"length"))              return -KEY_length;
3980             if (strEQ(d,"listen"))              return -KEY_listen;
3981             break;
3982         case 7:
3983             if (strEQ(d,"lcfirst"))             return -KEY_lcfirst;
3984             break;
3985         case 9:
3986             if (strEQ(d,"localtime"))           return -KEY_localtime;
3987             break;
3988         }
3989         break;
3990     case 'm':
3991         switch (len) {
3992         case 1:                                 return KEY_m;
3993         case 2:
3994             if (strEQ(d,"my"))                  return KEY_my;
3995             break;
3996         case 3:
3997             if (strEQ(d,"map"))                 return KEY_map;
3998             break;
3999         case 5:
4000             if (strEQ(d,"mkdir"))               return -KEY_mkdir;
4001             break;
4002         case 6:
4003             if (strEQ(d,"msgctl"))              return -KEY_msgctl;
4004             if (strEQ(d,"msgget"))              return -KEY_msgget;
4005             if (strEQ(d,"msgrcv"))              return -KEY_msgrcv;
4006             if (strEQ(d,"msgsnd"))              return -KEY_msgsnd;
4007             break;
4008         }
4009         break;
4010     case 'N':
4011         if (strEQ(d,"NE")) { deprecate(d);      return -KEY_ne;}
4012         break;
4013     case 'n':
4014         if (strEQ(d,"next"))                    return KEY_next;
4015         if (strEQ(d,"ne"))                      return -KEY_ne;
4016         if (strEQ(d,"not"))                     return -KEY_not;
4017         if (strEQ(d,"no"))                      return KEY_no;
4018         break;
4019     case 'o':
4020         switch (len) {
4021         case 2:
4022             if (strEQ(d,"or"))                  return -KEY_or;
4023             break;
4024         case 3:
4025             if (strEQ(d,"ord"))                 return -KEY_ord;
4026             if (strEQ(d,"oct"))                 return -KEY_oct;
4027             break;
4028         case 4:
4029             if (strEQ(d,"open"))                return -KEY_open;
4030             break;
4031         case 7:
4032             if (strEQ(d,"opendir"))             return -KEY_opendir;
4033             break;
4034         }
4035         break;
4036     case 'p':
4037         switch (len) {
4038         case 3:
4039             if (strEQ(d,"pop"))                 return KEY_pop;
4040             if (strEQ(d,"pos"))                 return KEY_pos;
4041             break;
4042         case 4:
4043             if (strEQ(d,"push"))                return KEY_push;
4044             if (strEQ(d,"pack"))                return -KEY_pack;
4045             if (strEQ(d,"pipe"))                return -KEY_pipe;
4046             break;
4047         case 5:
4048             if (strEQ(d,"print"))               return KEY_print;
4049             break;
4050         case 6:
4051             if (strEQ(d,"printf"))              return KEY_printf;
4052             break;
4053         case 7:
4054             if (strEQ(d,"package"))             return KEY_package;
4055             break;
4056         case 9:
4057             if (strEQ(d,"prototype"))           return KEY_prototype;
4058         }
4059         break;
4060     case 'q':
4061         if (len <= 2) {
4062             if (strEQ(d,"q"))                   return KEY_q;
4063             if (strEQ(d,"qq"))                  return KEY_qq;
4064             if (strEQ(d,"qw"))                  return KEY_qw;
4065             if (strEQ(d,"qx"))                  return KEY_qx;
4066         }
4067         else if (strEQ(d,"quotemeta"))          return -KEY_quotemeta;
4068         break;
4069     case 'R':
4070         if (strEQ(d,"RESTART"))                 return KEY_RESTART;
4071         break;
4072     case 'r':
4073         switch (len) {
4074         case 3:
4075             if (strEQ(d,"ref"))                 return -KEY_ref;
4076             break;
4077         case 4:
4078             if (strEQ(d,"read"))                return -KEY_read;
4079             if (strEQ(d,"rand"))                return -KEY_rand;
4080             if (strEQ(d,"recv"))                return -KEY_recv;
4081             if (strEQ(d,"redo"))                return KEY_redo;
4082             break;
4083         case 5:
4084             if (strEQ(d,"rmdir"))               return -KEY_rmdir;
4085             if (strEQ(d,"reset"))               return -KEY_reset;
4086             break;
4087         case 6:
4088             if (strEQ(d,"return"))              return KEY_return;
4089             if (strEQ(d,"rename"))              return -KEY_rename;
4090             if (strEQ(d,"rindex"))              return -KEY_rindex;
4091             break;
4092         case 7:
4093             if (strEQ(d,"require"))             return -KEY_require;
4094             if (strEQ(d,"reverse"))             return -KEY_reverse;
4095             if (strEQ(d,"readdir"))             return -KEY_readdir;
4096             break;
4097         case 8:
4098             if (strEQ(d,"readlink"))            return -KEY_readlink;
4099             if (strEQ(d,"readline"))            return -KEY_readline;
4100             if (strEQ(d,"readpipe"))            return -KEY_readpipe;
4101             break;
4102         case 9:
4103             if (strEQ(d,"rewinddir"))           return -KEY_rewinddir;
4104             break;
4105         }
4106         break;
4107     case 's':
4108         switch (d[1]) {
4109         case 0:                                 return KEY_s;
4110         case 'c':
4111             if (strEQ(d,"scalar"))              return KEY_scalar;
4112             break;
4113         case 'e':
4114             switch (len) {
4115             case 4:
4116                 if (strEQ(d,"seek"))            return -KEY_seek;
4117                 if (strEQ(d,"send"))            return -KEY_send;
4118                 break;
4119             case 5:
4120                 if (strEQ(d,"semop"))           return -KEY_semop;
4121                 break;
4122             case 6:
4123                 if (strEQ(d,"select"))          return -KEY_select;
4124                 if (strEQ(d,"semctl"))          return -KEY_semctl;
4125                 if (strEQ(d,"semget"))          return -KEY_semget;
4126                 break;
4127             case 7:
4128                 if (strEQ(d,"setpgrp"))         return -KEY_setpgrp;
4129                 if (strEQ(d,"seekdir"))         return -KEY_seekdir;
4130                 break;
4131             case 8:
4132                 if (strEQ(d,"setpwent"))        return -KEY_setpwent;
4133                 if (strEQ(d,"setgrent"))        return -KEY_setgrent;
4134                 break;
4135             case 9:
4136                 if (strEQ(d,"setnetent"))       return -KEY_setnetent;
4137                 break;
4138             case 10:
4139                 if (strEQ(d,"setsockopt"))      return -KEY_setsockopt;
4140                 if (strEQ(d,"sethostent"))      return -KEY_sethostent;
4141                 if (strEQ(d,"setservent"))      return -KEY_setservent;
4142                 break;
4143             case 11:
4144                 if (strEQ(d,"setpriority"))     return -KEY_setpriority;
4145                 if (strEQ(d,"setprotoent"))     return -KEY_setprotoent;
4146                 break;
4147             }
4148             break;
4149         case 'h':
4150             switch (len) {
4151             case 5:
4152                 if (strEQ(d,"shift"))           return KEY_shift;
4153                 break;
4154             case 6:
4155                 if (strEQ(d,"shmctl"))          return -KEY_shmctl;
4156                 if (strEQ(d,"shmget"))          return -KEY_shmget;
4157                 break;
4158             case 7:
4159                 if (strEQ(d,"shmread"))         return -KEY_shmread;
4160                 break;
4161             case 8:
4162                 if (strEQ(d,"shmwrite"))        return -KEY_shmwrite;
4163                 if (strEQ(d,"shutdown"))        return -KEY_shutdown;
4164                 break;
4165             }
4166             break;
4167         case 'i':
4168             if (strEQ(d,"sin"))                 return -KEY_sin;
4169             break;
4170         case 'l':
4171             if (strEQ(d,"sleep"))               return -KEY_sleep;
4172             break;
4173         case 'o':
4174             if (strEQ(d,"sort"))                return KEY_sort;
4175             if (strEQ(d,"socket"))              return -KEY_socket;
4176             if (strEQ(d,"socketpair"))          return -KEY_socketpair;
4177             break;
4178         case 'p':
4179             if (strEQ(d,"split"))               return KEY_split;
4180             if (strEQ(d,"sprintf"))             return -KEY_sprintf;
4181             if (strEQ(d,"splice"))              return KEY_splice;
4182             break;
4183         case 'q':
4184             if (strEQ(d,"sqrt"))                return -KEY_sqrt;
4185             break;
4186         case 'r':
4187             if (strEQ(d,"srand"))               return -KEY_srand;
4188             break;
4189         case 't':
4190             if (strEQ(d,"stat"))                return -KEY_stat;
4191             if (strEQ(d,"study"))               return KEY_study;
4192             break;
4193         case 'u':
4194             if (strEQ(d,"substr"))              return -KEY_substr;
4195             if (strEQ(d,"sub"))                 return KEY_sub;
4196             break;
4197         case 'y':
4198             switch (len) {
4199             case 6:
4200                 if (strEQ(d,"system"))          return -KEY_system;
4201                 break;
4202             case 7:
4203                 if (strEQ(d,"symlink"))         return -KEY_symlink;
4204                 if (strEQ(d,"syscall"))         return -KEY_syscall;
4205                 if (strEQ(d,"sysopen"))         return -KEY_sysopen;
4206                 if (strEQ(d,"sysread"))         return -KEY_sysread;
4207                 if (strEQ(d,"sysseek"))         return -KEY_sysseek;
4208                 break;
4209             case 8:
4210                 if (strEQ(d,"syswrite"))        return -KEY_syswrite;
4211                 break;
4212             }
4213             break;
4214         }
4215         break;
4216     case 't':
4217         switch (len) {
4218         case 2:
4219             if (strEQ(d,"tr"))                  return KEY_tr;
4220             break;
4221         case 3:
4222             if (strEQ(d,"tie"))                 return KEY_tie;
4223             break;
4224         case 4:
4225             if (strEQ(d,"tell"))                return -KEY_tell;
4226             if (strEQ(d,"tied"))                return KEY_tied;
4227             if (strEQ(d,"time"))                return -KEY_time;
4228             break;
4229         case 5:
4230             if (strEQ(d,"times"))               return -KEY_times;
4231             break;
4232         case 7:
4233             if (strEQ(d,"telldir"))             return -KEY_telldir;
4234             break;
4235         case 8:
4236             if (strEQ(d,"truncate"))            return -KEY_truncate;
4237             break;
4238         }
4239         break;
4240     case 'u':
4241         switch (len) {
4242         case 2:
4243             if (strEQ(d,"uc"))                  return -KEY_uc;
4244             break;
4245         case 3:
4246             if (strEQ(d,"use"))                 return KEY_use;
4247             break;
4248         case 5:
4249             if (strEQ(d,"undef"))               return KEY_undef;
4250             if (strEQ(d,"until"))               return KEY_until;
4251             if (strEQ(d,"untie"))               return KEY_untie;
4252             if (strEQ(d,"utime"))               return -KEY_utime;
4253             if (strEQ(d,"umask"))               return -KEY_umask;
4254             break;
4255         case 6:
4256             if (strEQ(d,"unless"))              return KEY_unless;
4257             if (strEQ(d,"unpack"))              return -KEY_unpack;
4258             if (strEQ(d,"unlink"))              return -KEY_unlink;
4259             break;
4260         case 7:
4261             if (strEQ(d,"unshift"))             return KEY_unshift;
4262             if (strEQ(d,"ucfirst"))             return -KEY_ucfirst;
4263             break;
4264         }
4265         break;
4266     case 'v':
4267         if (strEQ(d,"values"))                  return -KEY_values;
4268         if (strEQ(d,"vec"))                     return -KEY_vec;
4269         break;
4270     case 'w':
4271         switch (len) {
4272         case 4:
4273             if (strEQ(d,"warn"))                return -KEY_warn;
4274             if (strEQ(d,"wait"))                return -KEY_wait;
4275             break;
4276         case 5:
4277             if (strEQ(d,"while"))               return KEY_while;
4278             if (strEQ(d,"write"))               return -KEY_write;
4279             break;
4280         case 7:
4281             if (strEQ(d,"waitpid"))             return -KEY_waitpid;
4282             break;
4283         case 9:
4284             if (strEQ(d,"wantarray"))           return -KEY_wantarray;
4285             break;
4286         }
4287         break;
4288     case 'x':
4289         if (len == 1)                           return -KEY_x;
4290         if (strEQ(d,"xor"))                     return -KEY_xor;
4291         break;
4292     case 'y':
4293         if (len == 1)                           return KEY_y;
4294         break;
4295     case 'z':
4296         break;
4297     }
4298     return 0;
4299 }
4300
4301 static void
4302 checkcomma(s,name,what)
4303 register char *s;
4304 char *name;
4305 char *what;
4306 {
4307     char *w;
4308
4309     if (dowarn && *s == ' ' && s[1] == '(') {   /* XXX gotta be a better way */
4310         int level = 1;
4311         for (w = s+2; *w && level; w++) {
4312             if (*w == '(')
4313                 ++level;
4314             else if (*w == ')')
4315                 --level;
4316         }
4317         if (*w)
4318             for (; *w && isSPACE(*w); w++) ;
4319         if (!*w || !strchr(";|})]oa!=", *w))    /* an advisory hack only... */
4320             warn("%s (...) interpreted as function",name);
4321     }
4322     while (s < bufend && isSPACE(*s))
4323         s++;
4324     if (*s == '(')
4325         s++;
4326     while (s < bufend && isSPACE(*s))
4327         s++;
4328     if (isIDFIRST(*s)) {
4329         w = s++;
4330         while (isALNUM(*s))
4331             s++;
4332         while (s < bufend && isSPACE(*s))
4333             s++;
4334         if (*s == ',') {
4335             int kw;
4336             *s = '\0';
4337             kw = keyword(w, s - w) || perl_get_cv(w, FALSE) != 0;
4338             *s = ',';
4339             if (kw)
4340                 return;
4341             croak("No comma allowed after %s", what);
4342         }
4343     }
4344 }
4345
4346 static char *
4347 scan_word(s, dest, destlen, allow_package, slp)
4348 register char *s;
4349 char *dest;
4350 STRLEN destlen;
4351 int allow_package;
4352 STRLEN *slp;
4353 {
4354     register char *d = dest;
4355     register char *e = d + destlen - 3;  /* two-character token, ending NUL */
4356     for (;;) {
4357         if (d >= e)
4358             croak(ident_too_long);
4359         if (isALNUM(*s))
4360             *d++ = *s++;
4361         else if (*s == '\'' && allow_package && isIDFIRST(s[1])) {
4362             *d++ = ':';
4363             *d++ = ':';
4364             s++;
4365         }
4366         else if (*s == ':' && s[1] == ':' && allow_package && isIDFIRST(s[2])) {
4367             *d++ = *s++;
4368             *d++ = *s++;
4369         }
4370         else {
4371             *d = '\0';
4372             *slp = d - dest;
4373             return s;
4374         }
4375     }
4376 }
4377
4378 static char *
4379 scan_ident(s, send, dest, destlen, ck_uni)
4380 register char *s;
4381 register char *send;
4382 char *dest;
4383 STRLEN destlen;
4384 I32 ck_uni;
4385 {
4386     register char *d;
4387     register char *e;
4388     char *bracket = 0;
4389     char funny = *s++;
4390
4391     if (lex_brackets == 0)
4392         lex_fakebrack = 0;
4393     if (isSPACE(*s))
4394         s = skipspace(s);
4395     d = dest;
4396     e = d + destlen - 3;        /* two-character token, ending NUL */
4397     if (isDIGIT(*s)) {
4398         while (isDIGIT(*s)) {
4399             if (d >= e)
4400                 croak(ident_too_long);
4401             *d++ = *s++;
4402         }
4403     }
4404     else {
4405         for (;;) {
4406             if (d >= e)
4407                 croak(ident_too_long);
4408             if (isALNUM(*s))
4409                 *d++ = *s++;
4410             else if (*s == '\'' && isIDFIRST(s[1])) {
4411                 *d++ = ':';
4412                 *d++ = ':';
4413                 s++;
4414             }
4415             else if (*s == ':' && s[1] == ':') {
4416                 *d++ = *s++;
4417                 *d++ = *s++;
4418             }
4419             else
4420                 break;
4421         }
4422     }
4423     *d = '\0';
4424     d = dest;
4425     if (*d) {
4426         if (lex_state != LEX_NORMAL)
4427             lex_state = LEX_INTERPENDMAYBE;
4428         return s;
4429     }
4430     if (*s == '$' && s[1] &&
4431       (isALNUM(s[1]) || strchr("${", s[1]) || strnEQ(s+1,"::",2)) )
4432     {
4433         if (isDIGIT(s[1]) && lex_state == LEX_INTERPNORMAL)
4434             deprecate("\"$$<digit>\" to mean \"${$}<digit>\"");
4435         else
4436             return s;
4437     }
4438     if (*s == '{') {
4439         bracket = s;
4440         s++;
4441     }
4442     else if (ck_uni)
4443         check_uni();
4444     if (s < send)
4445         *d = *s++;
4446     d[1] = '\0';
4447     if (*d == '^' && *s && (isUPPER(*s) || strchr("[\\]^_?", *s))) {
4448         *d = toCTRL(*s);
4449         s++;
4450     }
4451     if (bracket) {
4452         if (isSPACE(s[-1])) {
4453             while (s < send) {
4454                 char ch = *s++;
4455                 if (ch != ' ' && ch != '\t') {
4456                     *d = ch;
4457                     break;
4458                 }
4459             }
4460         }
4461         if (isIDFIRST(*d)) {
4462             d++;
4463             while (isALNUM(*s) || *s == ':')
4464                 *d++ = *s++;
4465             *d = '\0';
4466             while (s < send && (*s == ' ' || *s == '\t')) s++;
4467             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
4468                 if (dowarn && keyword(dest, d - dest)) {
4469                     char *brack = *s == '[' ? "[...]" : "{...}";
4470                     warn("Ambiguous use of %c{%s%s} resolved to %c%s%s",
4471                         funny, dest, brack, funny, dest, brack);
4472                 }
4473                 lex_fakebrack = lex_brackets+1;
4474                 bracket++;
4475                 lex_brackstack[lex_brackets++] = XOPERATOR;
4476                 return s;
4477             }
4478         }
4479         if (*s == '}') {
4480             s++;
4481             if (lex_state == LEX_INTERPNORMAL && !lex_brackets)
4482                 lex_state = LEX_INTERPEND;
4483             if (funny == '#')
4484                 funny = '@';
4485             if (dowarn &&
4486               (keyword(dest, d - dest) || perl_get_cv(dest, FALSE)))
4487                 warn("Ambiguous use of %c{%s} resolved to %c%s",
4488                     funny, dest, funny, dest);
4489         }
4490         else {
4491             s = bracket;                /* let the parser handle it */
4492             *dest = '\0';
4493         }
4494     }
4495     else if (lex_state == LEX_INTERPNORMAL && !lex_brackets && !intuit_more(s))
4496         lex_state = LEX_INTERPEND;
4497     return s;
4498 }
4499
4500 void pmflag(pmfl,ch)
4501 U16* pmfl;
4502 int ch;
4503 {
4504     if (ch == 'i')
4505         *pmfl |= PMf_FOLD;
4506     else if (ch == 'g')
4507         *pmfl |= PMf_GLOBAL;
4508     else if (ch == 'c')
4509         *pmfl |= PMf_CONTINUE;
4510     else if (ch == 'o')
4511         *pmfl |= PMf_KEEP;
4512     else if (ch == 'm')
4513         *pmfl |= PMf_MULTILINE;
4514     else if (ch == 's')
4515         *pmfl |= PMf_SINGLELINE;
4516     else if (ch == 'x')
4517         *pmfl |= PMf_EXTENDED;
4518 }
4519
4520 static char *
4521 scan_pat(start)
4522 char *start;
4523 {
4524     PMOP *pm;
4525     char *s;
4526
4527     s = scan_str(start);
4528     if (!s) {
4529         if (lex_stuff)
4530             SvREFCNT_dec(lex_stuff);
4531         lex_stuff = Nullsv;
4532         croak("Search pattern not terminated");
4533     }
4534
4535     pm = (PMOP*)newPMOP(OP_MATCH, 0);
4536     if (multi_open == '?')
4537         pm->op_pmflags |= PMf_ONCE;
4538     while (*s && strchr("iogcmsx", *s))
4539         pmflag(&pm->op_pmflags,*s++);
4540     pm->op_pmpermflags = pm->op_pmflags;
4541
4542     lex_op = (OP*)pm;
4543     yylval.ival = OP_MATCH;
4544     return s;
4545 }
4546
4547 static char *
4548 scan_subst(start)
4549 char *start;
4550 {
4551     register char *s;
4552     register PMOP *pm;
4553     I32 first_start;
4554     I32 es = 0;
4555
4556     yylval.ival = OP_NULL;
4557
4558     s = scan_str(start);
4559
4560     if (!s) {
4561         if (lex_stuff)
4562             SvREFCNT_dec(lex_stuff);
4563         lex_stuff = Nullsv;
4564         croak("Substitution pattern not terminated");
4565     }
4566
4567     if (s[-1] == multi_open)
4568         s--;
4569
4570     first_start = multi_start;
4571     s = scan_str(s);
4572     if (!s) {
4573         if (lex_stuff)
4574             SvREFCNT_dec(lex_stuff);
4575         lex_stuff = Nullsv;
4576         if (lex_repl)
4577             SvREFCNT_dec(lex_repl);
4578         lex_repl = Nullsv;
4579         croak("Substitution replacement not terminated");
4580     }
4581     multi_start = first_start;  /* so whole substitution is taken together */
4582
4583     pm = (PMOP*)newPMOP(OP_SUBST, 0);
4584     while (*s && strchr("iogcmsex", *s)) {
4585         if (*s == 'e') {
4586             s++;
4587             es++;
4588         }
4589         else
4590             pmflag(&pm->op_pmflags,*s++);
4591     }
4592
4593     if (es) {
4594         SV *repl;
4595         pm->op_pmflags |= PMf_EVAL;
4596         repl = newSVpv("",0);
4597         while (es-- > 0)
4598             sv_catpv(repl, es ? "eval " : "do ");
4599         sv_catpvn(repl, "{ ", 2);
4600         sv_catsv(repl, lex_repl);
4601         sv_catpvn(repl, " };", 2);
4602         SvCOMPILED_on(repl);
4603         SvREFCNT_dec(lex_repl);
4604         lex_repl = repl;
4605     }
4606
4607     pm->op_pmpermflags = pm->op_pmflags;
4608     lex_op = (OP*)pm;
4609     yylval.ival = OP_SUBST;
4610     return s;
4611 }
4612
4613 void
4614 hoistmust(pm)
4615 register PMOP *pm;
4616 {
4617     dTHR;
4618     if (!pm->op_pmshort && pm->op_pmregexp->regstart &&
4619         (!pm->op_pmregexp->regmust || pm->op_pmregexp->reganch & ROPT_ANCH)
4620        ) {
4621         if (!(pm->op_pmregexp->reganch & ROPT_ANCH))
4622             pm->op_pmflags |= PMf_SCANFIRST;
4623         pm->op_pmshort = SvREFCNT_inc(pm->op_pmregexp->regstart);
4624         pm->op_pmslen = SvCUR(pm->op_pmshort);
4625     }
4626     else if (pm->op_pmregexp->regmust) {/* is there a better short-circuit? */
4627         if (pm->op_pmshort &&
4628           sv_eq(pm->op_pmshort,pm->op_pmregexp->regmust))
4629         {
4630             if (pm->op_pmflags & PMf_SCANFIRST) {
4631                 SvREFCNT_dec(pm->op_pmshort);
4632                 pm->op_pmshort = Nullsv;
4633             }
4634             else {
4635                 SvREFCNT_dec(pm->op_pmregexp->regmust);
4636                 pm->op_pmregexp->regmust = Nullsv;
4637                 return;
4638             }
4639         }
4640         /* promote the better string */
4641         if ((!pm->op_pmshort &&
4642              !(pm->op_pmregexp->reganch & ROPT_ANCH_GPOS)) ||
4643             ((pm->op_pmflags & PMf_SCANFIRST) &&
4644              (SvCUR(pm->op_pmshort) < SvCUR(pm->op_pmregexp->regmust)))) {
4645             SvREFCNT_dec(pm->op_pmshort);               /* ok if null */
4646             pm->op_pmshort = pm->op_pmregexp->regmust;
4647             pm->op_pmslen = SvCUR(pm->op_pmshort);
4648             pm->op_pmregexp->regmust = Nullsv;
4649             pm->op_pmflags |= PMf_SCANFIRST;
4650         }
4651     }
4652 }
4653
4654 static char *
4655 scan_trans(start)
4656 char *start;
4657 {
4658     register char* s;
4659     OP *o;
4660     short *tbl;
4661     I32 squash;
4662     I32 delete;
4663     I32 complement;
4664
4665     yylval.ival = OP_NULL;
4666
4667     s = scan_str(start);
4668     if (!s) {
4669         if (lex_stuff)
4670             SvREFCNT_dec(lex_stuff);
4671         lex_stuff = Nullsv;
4672         croak("Translation pattern not terminated");
4673     }
4674     if (s[-1] == multi_open)
4675         s--;
4676
4677     s = scan_str(s);
4678     if (!s) {
4679         if (lex_stuff)
4680             SvREFCNT_dec(lex_stuff);
4681         lex_stuff = Nullsv;
4682         if (lex_repl)
4683             SvREFCNT_dec(lex_repl);
4684         lex_repl = Nullsv;
4685         croak("Translation replacement not terminated");
4686     }
4687
4688     New(803,tbl,256,short);
4689     o = newPVOP(OP_TRANS, 0, (char*)tbl);
4690
4691     complement = delete = squash = 0;
4692     while (*s == 'c' || *s == 'd' || *s == 's') {
4693         if (*s == 'c')
4694             complement = OPpTRANS_COMPLEMENT;
4695         else if (*s == 'd')
4696             delete = OPpTRANS_DELETE;
4697         else
4698             squash = OPpTRANS_SQUASH;
4699         s++;
4700     }
4701     o->op_private = delete|squash|complement;
4702
4703     lex_op = o;
4704     yylval.ival = OP_TRANS;
4705     return s;
4706 }
4707
4708 static char *
4709 scan_heredoc(s)
4710 register char *s;
4711 {
4712     dTHR;
4713     SV *herewas;
4714     I32 op_type = OP_SCALAR;
4715     I32 len;
4716     SV *tmpstr;
4717     char term;
4718     register char *d;
4719     register char *e;
4720     char *peek;
4721     int outer = (rsfp && !lex_inwhat);
4722
4723     s += 2;
4724     d = tokenbuf;
4725     e = tokenbuf + sizeof tokenbuf - 1;
4726     if (!outer)
4727         *d++ = '\n';
4728     for (peek = s; *peek == ' ' || *peek == '\t'; peek++) ;
4729     if (*peek && strchr("`'\"",*peek)) {
4730         s = peek;
4731         term = *s++;
4732         s = delimcpy(d, e, s, bufend, term, &len);
4733         d += len;
4734         if (s < bufend)
4735             s++;
4736     }
4737     else {
4738         if (*s == '\\')
4739             s++, term = '\'';
4740         else
4741             term = '"';
4742         if (!isALNUM(*s))
4743             deprecate("bare << to mean <<\"\"");
4744         for (; isALNUM(*s); s++) {
4745             if (d < e)
4746                 *d++ = *s;
4747         }
4748     }
4749     if (d >= tokenbuf + sizeof tokenbuf - 1)
4750         croak("Delimiter for here document is too long");
4751     *d++ = '\n';
4752     *d = '\0';
4753     len = d - tokenbuf;
4754     d = "\n";
4755     if (outer || !(d=ninstr(s,bufend,d,d+1)))
4756         herewas = newSVpv(s,bufend-s);
4757     else
4758         s--, herewas = newSVpv(s,d-s);
4759     s += SvCUR(herewas);
4760
4761     tmpstr = NEWSV(87,80);
4762     sv_upgrade(tmpstr, SVt_PVIV);
4763     if (term == '\'') {
4764         op_type = OP_CONST;
4765         SvIVX(tmpstr) = -1;
4766     }
4767     else if (term == '`') {
4768         op_type = OP_BACKTICK;
4769         SvIVX(tmpstr) = '\\';
4770     }
4771
4772     CLINE;
4773     multi_start = curcop->cop_line;
4774     multi_open = multi_close = '<';
4775     term = *tokenbuf;
4776     if (!outer) {
4777         d = s;
4778         while (s < bufend &&
4779           (*s != term || memNE(s,tokenbuf,len)) ) {
4780             if (*s++ == '\n')
4781                 curcop->cop_line++;
4782         }
4783         if (s >= bufend) {
4784             curcop->cop_line = multi_start;
4785             missingterm(tokenbuf);
4786         }
4787         sv_setpvn(tmpstr,d+1,s-d);
4788         s += len - 1;
4789         sv_catpvn(herewas,s,bufend-s);
4790         sv_setsv(linestr,herewas);
4791         oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
4792         bufend = SvPVX(linestr) + SvCUR(linestr);
4793     }
4794     else
4795         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
4796     while (s >= bufend) {       /* multiple line string? */
4797         if (!outer ||
4798          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4799             curcop->cop_line = multi_start;
4800             missingterm(tokenbuf);
4801         }
4802         curcop->cop_line++;
4803         if (perldb && curstash != debstash) {
4804             SV *sv = NEWSV(88,0);
4805
4806             sv_upgrade(sv, SVt_PVMG);
4807             sv_setsv(sv,linestr);
4808             av_store(GvAV(curcop->cop_filegv),
4809               (I32)curcop->cop_line,sv);
4810         }
4811         bufend = SvPVX(linestr) + SvCUR(linestr);
4812         if (*s == term && memEQ(s,tokenbuf,len)) {
4813             s = bufend - 1;
4814             *s = ' ';
4815             sv_catsv(linestr,herewas);
4816             bufend = SvPVX(linestr) + SvCUR(linestr);
4817         }
4818         else {
4819             s = bufend;
4820             sv_catsv(tmpstr,linestr);
4821         }
4822     }
4823     multi_end = curcop->cop_line;
4824     s++;
4825     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
4826         SvLEN_set(tmpstr, SvCUR(tmpstr) + 1);
4827         Renew(SvPVX(tmpstr), SvLEN(tmpstr), char);
4828     }
4829     SvREFCNT_dec(herewas);
4830     lex_stuff = tmpstr;
4831     yylval.ival = op_type;
4832     return s;
4833 }
4834
4835 static char *
4836 scan_inputsymbol(start)
4837 char *start;
4838 {
4839     register char *s = start;
4840     register char *d;
4841     register char *e;
4842     I32 len;
4843
4844     d = tokenbuf;
4845     e = tokenbuf + sizeof tokenbuf;
4846     s = delimcpy(d, e, s + 1, bufend, '>', &len);
4847     if (len >= sizeof tokenbuf)
4848         croak("Excessively long <> operator");
4849     if (s >= bufend)
4850         croak("Unterminated <> operator");
4851     s++;
4852     if (*d == '$' && d[1]) d++;
4853     while (*d && (isALNUM(*d) || *d == '\'' || *d == ':'))
4854         d++;
4855     if (d - tokenbuf != len) {
4856         yylval.ival = OP_GLOB;
4857         set_csh();
4858         s = scan_str(start);
4859         if (!s)
4860             croak("Glob not terminated");
4861         return s;
4862     }
4863     else {
4864         d = tokenbuf;
4865         if (!len)
4866             (void)strcpy(d,"ARGV");
4867         if (*d == '$') {
4868             I32 tmp;
4869             if ((tmp = pad_findmy(d)) != NOT_IN_PAD) {
4870                 OP *o = newOP(OP_PADSV, 0);
4871                 o->op_targ = tmp;
4872                 lex_op = (OP*)newUNOP(OP_READLINE, 0, newUNOP(OP_RV2GV, 0, o));
4873             }
4874             else {
4875                 GV *gv = gv_fetchpv(d+1,TRUE, SVt_PV);
4876                 lex_op = (OP*)newUNOP(OP_READLINE, 0,
4877                                         newUNOP(OP_RV2GV, 0,
4878                                             newUNOP(OP_RV2SV, 0,
4879                                                 newGVOP(OP_GV, 0, gv))));
4880             }
4881             yylval.ival = OP_NULL;
4882         }
4883         else {
4884             GV *gv = gv_fetchpv(d,TRUE, SVt_PVIO);
4885             lex_op = (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
4886             yylval.ival = OP_NULL;
4887         }
4888     }
4889     return s;
4890 }
4891
4892 static char *
4893 scan_str(start)
4894 char *start;
4895 {
4896     dTHR;
4897     SV *sv;
4898     char *tmps;
4899     register char *s = start;
4900     register char term;
4901     register char *to;
4902     I32 brackets = 1;
4903
4904     if (isSPACE(*s))
4905         s = skipspace(s);
4906     CLINE;
4907     term = *s;
4908     multi_start = curcop->cop_line;
4909     multi_open = term;
4910     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4911         term = tmps[5];
4912     multi_close = term;
4913
4914     sv = NEWSV(87,80);
4915     sv_upgrade(sv, SVt_PVIV);
4916     SvIVX(sv) = term;
4917     (void)SvPOK_only(sv);               /* validate pointer */
4918     s++;
4919     for (;;) {
4920         SvGROW(sv, SvCUR(sv) + (bufend - s) + 1);
4921         to = SvPVX(sv)+SvCUR(sv);
4922         if (multi_open == multi_close) {
4923             for (; s < bufend; s++,to++) {
4924                 if (*s == '\n' && !rsfp)
4925                     curcop->cop_line++;
4926                 if (*s == '\\' && s+1 < bufend && term != '\\') {
4927                     if (s[1] == term)
4928                         s++;
4929                     else
4930                         *to++ = *s++;
4931                 }
4932                 else if (*s == term)
4933                     break;
4934                 *to = *s;
4935             }
4936         }
4937         else {
4938             for (; s < bufend; s++,to++) {
4939                 if (*s == '\n' && !rsfp)
4940                     curcop->cop_line++;
4941                 if (*s == '\\' && s+1 < bufend && term != '\\') {
4942                     if (s[1] == term)
4943                         s++;
4944                     else
4945                         *to++ = *s++;
4946                 }
4947                 else if (*s == term && --brackets <= 0)
4948                     break;
4949                 else if (*s == multi_open)
4950                     brackets++;
4951                 *to = *s;
4952             }
4953         }
4954         *to = '\0';
4955         SvCUR_set(sv, to - SvPVX(sv));
4956
4957     if (s < bufend) break;      /* string ends on this line? */
4958
4959         if (!rsfp ||
4960          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4961             sv_free(sv);
4962             curcop->cop_line = multi_start;
4963             return Nullch;
4964         }
4965         curcop->cop_line++;
4966         if (perldb && curstash != debstash) {
4967             SV *sv = NEWSV(88,0);
4968
4969             sv_upgrade(sv, SVt_PVMG);
4970             sv_setsv(sv,linestr);
4971             av_store(GvAV(curcop->cop_filegv),
4972               (I32)curcop->cop_line, sv);
4973         }
4974         bufend = SvPVX(linestr) + SvCUR(linestr);
4975     }
4976     multi_end = curcop->cop_line;
4977     s++;
4978     if (SvCUR(sv) + 5 < SvLEN(sv)) {
4979         SvLEN_set(sv, SvCUR(sv) + 1);
4980         Renew(SvPVX(sv), SvLEN(sv), char);
4981     }
4982     if (lex_stuff)
4983         lex_repl = sv;
4984     else
4985         lex_stuff = sv;
4986     return s;
4987 }
4988
4989 char *
4990 scan_num(start)
4991 char *start;
4992 {
4993     register char *s = start;
4994     register char *d;
4995     register char *e;
4996     I32 tryiv;
4997     double value;
4998     SV *sv;
4999     I32 floatit;
5000     char *lastub = 0;
5001     static char number_too_long[] = "Number too long";
5002
5003     switch (*s) {
5004     default:
5005         croak("panic: scan_num");
5006     case '0':
5007         {
5008             UV u;
5009             I32 shift;
5010             bool overflowed = FALSE;
5011
5012             if (s[1] == 'x') {
5013                 shift = 4;
5014                 s += 2;
5015             }
5016             else if (s[1] == '.')
5017                 goto decimal;
5018             else
5019                 shift = 3;
5020             u = 0;
5021             for (;;) {
5022                 UV n, b;
5023
5024                 switch (*s) {
5025                 default:
5026                     goto out;
5027                 case '_':
5028                     s++;
5029                     break;
5030                 case '8': case '9':
5031                     if (shift != 4)
5032                         yyerror("Illegal octal digit");
5033                     /* FALL THROUGH */
5034                 case '0': case '1': case '2': case '3': case '4':
5035                 case '5': case '6': case '7':
5036                     b = *s++ & 15;
5037                     goto digit;
5038                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
5039                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
5040                     if (shift != 4)
5041                         goto out;
5042                     b = (*s++ & 7) + 9;
5043                   digit:
5044                     n = u << shift;
5045                     if (!overflowed && (n >> shift) != u) {
5046                         warn("Integer overflow in %s number",
5047                              (shift == 4) ? "hex" : "octal");
5048                         overflowed = TRUE;
5049                     }
5050                     u = n | b;
5051                     break;
5052                 }
5053             }
5054           out:
5055             sv = NEWSV(92,0);
5056             sv_setuv(sv, u);
5057         }
5058         break;
5059     case '1': case '2': case '3': case '4': case '5':
5060     case '6': case '7': case '8': case '9': case '.':
5061       decimal:
5062         d = tokenbuf;
5063         e = tokenbuf + sizeof tokenbuf - 6; /* room for various punctuation */
5064         floatit = FALSE;
5065         while (isDIGIT(*s) || *s == '_') {
5066             if (*s == '_') {
5067                 if (dowarn && lastub && s - lastub != 3)
5068                     warn("Misplaced _ in number");
5069                 lastub = ++s;
5070             }
5071             else {
5072                 if (d >= e)
5073                     croak(number_too_long);
5074                 *d++ = *s++;
5075             }
5076         }
5077         if (dowarn && lastub && s - lastub != 3)
5078             warn("Misplaced _ in number");
5079         if (*s == '.' && s[1] != '.') {
5080             floatit = TRUE;
5081             *d++ = *s++;
5082             for (; isDIGIT(*s) || *s == '_'; s++) {
5083                 if (d >= e)
5084                     croak(number_too_long);
5085                 if (*s != '_')
5086                     *d++ = *s;
5087             }
5088         }
5089         if (*s && strchr("eE",*s) && strchr("+-0123456789",s[1])) {
5090             floatit = TRUE;
5091             s++;
5092             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
5093             if (*s == '+' || *s == '-')
5094                 *d++ = *s++;
5095             while (isDIGIT(*s)) {
5096                 if (d >= e)
5097                     croak(number_too_long);
5098                 *d++ = *s++;
5099             }
5100         }
5101         *d = '\0';
5102         sv = NEWSV(92,0);
5103         SET_NUMERIC_STANDARD();
5104         value = atof(tokenbuf);
5105         tryiv = I_V(value);
5106         if (!floatit && (double)tryiv == value)
5107             sv_setiv(sv, tryiv);
5108         else
5109             sv_setnv(sv, value);
5110         break;
5111     }
5112
5113     yylval.opval = newSVOP(OP_CONST, 0, sv);
5114
5115     return s;
5116 }
5117
5118 static char *
5119 scan_formline(s)
5120 register char *s;
5121 {
5122     dTHR;
5123     register char *eol;
5124     register char *t;
5125     SV *stuff = newSVpv("",0);
5126     bool needargs = FALSE;
5127
5128     while (!needargs) {
5129         if (*s == '.' || *s == '}') {
5130             /*SUPPRESS 530*/
5131             for (t = s+1; *t == ' ' || *t == '\t'; t++) ;
5132             if (*t == '\n')
5133                 break;
5134         }
5135         if (in_eval && !rsfp) {
5136             eol = strchr(s,'\n');
5137             if (!eol++)
5138                 eol = bufend;
5139         }
5140         else
5141             eol = bufend = SvPVX(linestr) + SvCUR(linestr);
5142         if (*s != '#') {
5143             for (t = s; t < eol; t++) {
5144                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
5145                     needargs = FALSE;
5146                     goto enough;        /* ~~ must be first line in formline */
5147                 }
5148                 if (*t == '@' || *t == '^')
5149                     needargs = TRUE;
5150             }
5151             sv_catpvn(stuff, s, eol-s);
5152         }
5153         s = eol;
5154         if (rsfp) {
5155             s = filter_gets(linestr, rsfp, 0);
5156             oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
5157             bufend = bufptr + SvCUR(linestr);
5158             if (!s) {
5159                 s = bufptr;
5160                 yyerror("Format not terminated");
5161                 break;
5162             }
5163         }
5164         incline(s);
5165     }
5166   enough:
5167     if (SvCUR(stuff)) {
5168         expect = XTERM;
5169         if (needargs) {
5170             lex_state = LEX_NORMAL;
5171             nextval[nexttoke].ival = 0;
5172             force_next(',');
5173         }
5174         else
5175             lex_state = LEX_FORMLINE;
5176         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, stuff);
5177         force_next(THING);
5178         nextval[nexttoke].ival = OP_FORMLINE;
5179         force_next(LSTOP);
5180     }
5181     else {
5182         SvREFCNT_dec(stuff);
5183         lex_formbrack = 0;
5184         bufptr = s;
5185     }
5186     return s;
5187 }
5188
5189 static void
5190 set_csh()
5191 {
5192 #ifdef CSH
5193     if (!cshlen)
5194         cshlen = strlen(cshname);
5195 #endif
5196 }
5197
5198 I32
5199 start_subparse(is_format, flags)
5200 I32 is_format;
5201 U32 flags;
5202 {
5203     dTHR;
5204     I32 oldsavestack_ix = savestack_ix;
5205     CV* outsidecv = compcv;
5206     AV* comppadlist;
5207
5208     if (compcv) {
5209         assert(SvTYPE(compcv) == SVt_PVCV);
5210     }
5211     save_I32(&subline);
5212     save_item(subname);
5213     SAVEI32(padix);
5214     SAVESPTR(curpad);
5215     SAVESPTR(comppad);
5216     SAVESPTR(comppad_name);
5217     SAVESPTR(compcv);
5218     SAVEI32(comppad_name_fill);
5219     SAVEI32(min_intro_pending);
5220     SAVEI32(max_intro_pending);
5221     SAVEI32(pad_reset_pending);
5222
5223     compcv = (CV*)NEWSV(1104,0);
5224     sv_upgrade((SV *)compcv, is_format ? SVt_PVFM : SVt_PVCV);
5225     CvFLAGS(compcv) |= flags;
5226
5227     comppad = newAV();
5228     comppad_name = newAV();
5229     comppad_name_fill = 0;
5230 #ifdef USE_THREADS
5231     av_store(comppad_name, 0, newSVpv("@_", 2));
5232 #endif /* USE_THREADS */
5233     min_intro_pending = 0;
5234     av_push(comppad, Nullsv);
5235     curpad = AvARRAY(comppad);
5236     padix = 0;
5237     subline = curcop->cop_line;
5238
5239     comppadlist = newAV();
5240     AvREAL_off(comppadlist);
5241     av_store(comppadlist, 0, (SV*)comppad_name);
5242     av_store(comppadlist, 1, (SV*)comppad);
5243
5244     CvPADLIST(compcv) = comppadlist;
5245     CvOUTSIDE(compcv) = (CV*)SvREFCNT_inc((SV*)outsidecv);
5246 #ifdef USE_THREADS
5247     CvOWNER(compcv) = 0;
5248     New(666, CvMUTEXP(compcv), 1, pthread_mutex_t);
5249     MUTEX_INIT(CvMUTEXP(compcv));
5250     New(666, CvCONDP(compcv), 1, pthread_cond_t);
5251     COND_INIT(CvCONDP(compcv));
5252 #endif /* USE_THREADS */
5253
5254     return oldsavestack_ix;
5255 }
5256
5257 int
5258 yywarn(s)
5259 char *s;
5260 {
5261     dTHR;
5262     --error_count;
5263     in_eval |= 2;
5264     yyerror(s);
5265     in_eval &= ~2;
5266     return 0;
5267 }
5268
5269 int
5270 yyerror(s)
5271 char *s;
5272 {
5273     dTHR;
5274     char *where = NULL;
5275     char *context = NULL;
5276     int contlen = -1;
5277     SV *msg;
5278
5279     if (!yychar || (yychar == ';' && !rsfp))
5280         where = "at EOF";
5281     else if (bufptr > oldoldbufptr && bufptr - oldoldbufptr < 200 &&
5282       oldoldbufptr != oldbufptr && oldbufptr != bufptr) {
5283         while (isSPACE(*oldoldbufptr))
5284             oldoldbufptr++;
5285         context = oldoldbufptr;
5286         contlen = bufptr - oldoldbufptr;
5287     }
5288     else if (bufptr > oldbufptr && bufptr - oldbufptr < 200 &&
5289       oldbufptr != bufptr) {
5290         while (isSPACE(*oldbufptr))
5291             oldbufptr++;
5292         context = oldbufptr;
5293         contlen = bufptr - oldbufptr;
5294     }
5295     else if (yychar > 255)
5296         where = "next token ???";
5297     else if ((yychar & 127) == 127) {
5298         if (lex_state == LEX_NORMAL ||
5299            (lex_state == LEX_KNOWNEXT && lex_defer == LEX_NORMAL))
5300             where = "at end of line";
5301         else if (lex_inpat)
5302             where = "within pattern";
5303         else
5304             where = "within string";
5305     }
5306     else {
5307         SV *where_sv = sv_2mortal(newSVpv("next char ", 0));
5308         if (yychar < 32)
5309             sv_catpvf(where_sv, "^%c", toCTRL(yychar));
5310         else if (isPRINT_LC(yychar))
5311             sv_catpvf(where_sv, "%c", yychar);
5312         else
5313             sv_catpvf(where_sv, "\\%03o", yychar & 255);
5314         where = SvPVX(where_sv);
5315     }
5316     msg = sv_2mortal(newSVpv(s, 0));
5317     sv_catpvf(msg, " at %_ line %ld, ",
5318               GvSV(curcop->cop_filegv), (long)curcop->cop_line);
5319     if (context)
5320         sv_catpvf(msg, "near \"%.*s\"\n", contlen, context);
5321     else
5322         sv_catpvf(msg, "%s\n", where);
5323     if (multi_start < multi_end && (U32)(curcop->cop_line - multi_end) <= 1) {
5324         sv_catpvf(msg,
5325         "  (Might be a runaway multi-line %c%c string starting on line %ld)\n",
5326                 (int)multi_open,(int)multi_close,(long)multi_start);
5327         multi_end = 0;
5328     }
5329     if (in_eval & 2)
5330         warn("%_", msg);
5331     else if (in_eval)
5332         sv_catsv(GvSV(errgv), msg);
5333     else
5334         PerlIO_write(PerlIO_stderr(), SvPVX(msg), SvCUR(msg));
5335     if (++error_count >= 10)
5336         croak("%_ has too many errors.\n", GvSV(curcop->cop_filegv));
5337     in_my = 0;
5338     in_my_stash = Nullhv;
5339     return 0;
5340 }