Add to MANIFEST: README.threads, lib/ISA.pm, lib/Class/Fields.pm
[p5sagit/p5-mst-13.2.git] / toke.c
1 /*    toke.c
2  *
3  *    Copyright (c) 1991-1997, Larry Wall
4  *
5  *    You may distribute under the terms of either the GNU General Public
6  *    License or the Artistic License, as specified in the README file.
7  *
8  */
9
10 /*
11  *   "It all comes from here, the stench and the peril."  --Frodo
12  */
13
14 #include "EXTERN.h"
15 #include "perl.h"
16
17 static void check_uni _((void));
18 static void  force_next _((I32 type));
19 static char *force_version _((char *start));
20 static char *force_word _((char *start, int token, int check_keyword, int allow_pack, int allow_tick));
21 static SV *q _((SV *sv));
22 static char *scan_const _((char *start));
23 static char *scan_formline _((char *s));
24 static char *scan_heredoc _((char *s));
25 static char *scan_ident _((char *s, char *send, char *dest, STRLEN destlen,
26                            I32 ck_uni));
27 static char *scan_inputsymbol _((char *start));
28 static char *scan_pat _((char *start));
29 static char *scan_str _((char *start));
30 static char *scan_subst _((char *start));
31 static char *scan_trans _((char *start));
32 static char *scan_word _((char *s, char *dest, STRLEN destlen,
33                           int allow_package, STRLEN *slp));
34 static char *skipspace _((char *s));
35 static void checkcomma _((char *s, char *name, char *what));
36 static void force_ident _((char *s, int kind));
37 static void incline _((char *s));
38 static int intuit_method _((char *s, GV *gv));
39 static int intuit_more _((char *s));
40 static I32 lop _((I32 f, expectation x, char *s));
41 static void missingterm _((char *s));
42 static void no_op _((char *what, char *s));
43 static void set_csh _((void));
44 static I32 sublex_done _((void));
45 static I32 sublex_push _((void));
46 static I32 sublex_start _((void));
47 #ifdef CRIPPLED_CC
48 static int uni _((I32 f, char *s));
49 #endif
50 static char * filter_gets _((SV *sv, PerlIO *fp, STRLEN append));
51 static void restore_rsfp _((void *f));
52
53 static char ident_too_long[] = "Identifier too long";
54
55 static char *linestart;         /* beg. of most recently read line */
56
57 static char pending_ident;      /* pending identifier lookup */
58
59 static struct {
60     I32 super_state;    /* lexer state to save */
61     I32 sub_inwhat;     /* "lex_inwhat" to use */
62     OP *sub_op;         /* "lex_op" to use */
63 } sublex_info;
64
65 /* The following are arranged oddly so that the guard on the switch statement
66  * can get by with a single comparison (if the compiler is smart enough).
67  */
68
69 #define LEX_NORMAL              10
70 #define LEX_INTERPNORMAL         9
71 #define LEX_INTERPCASEMOD        8
72 #define LEX_INTERPPUSH           7
73 #define LEX_INTERPSTART          6
74 #define LEX_INTERPEND            5
75 #define LEX_INTERPENDMAYBE       4
76 #define LEX_INTERPCONCAT         3
77 #define LEX_INTERPCONST          2
78 #define LEX_FORMLINE             1
79 #define LEX_KNOWNEXT             0
80
81 #ifdef I_FCNTL
82 #include <fcntl.h>
83 #endif
84 #ifdef I_SYS_FILE
85 #include <sys/file.h>
86 #endif
87
88 /* XXX If this causes problems, set i_unistd=undef in the hint file.  */
89 #ifdef I_UNISTD
90 #  include <unistd.h> /* Needed for execv() */
91 #endif
92
93
94 #ifdef ff_next
95 #undef ff_next
96 #endif
97
98 #include "keywords.h"
99
100 #ifdef CLINE
101 #undef CLINE
102 #endif
103 #define CLINE (copline = (curcop->cop_line < copline ? curcop->cop_line : copline))
104
105 #define TOKEN(retval) return (bufptr = s,(int)retval)
106 #define OPERATOR(retval) return (expect = XTERM,bufptr = s,(int)retval)
107 #define AOPERATOR(retval) return ao((expect = XTERM,bufptr = s,(int)retval))
108 #define PREBLOCK(retval) return (expect = XBLOCK,bufptr = s,(int)retval)
109 #define PRETERMBLOCK(retval) return (expect = XTERMBLOCK,bufptr = s,(int)retval)
110 #define PREREF(retval) return (expect = XREF,bufptr = s,(int)retval)
111 #define TERM(retval) return (CLINE, expect = XOPERATOR,bufptr = s,(int)retval)
112 #define LOOPX(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LOOPEX)
113 #define FTST(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)UNIOP)
114 #define FUN0(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC0)
115 #define FUN1(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC1)
116 #define BOop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITOROP))
117 #define BAop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITANDOP))
118 #define SHop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)SHIFTOP))
119 #define PWop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)POWOP))
120 #define PMop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)MATCHOP)
121 #define Aop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)ADDOP))
122 #define Mop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)MULOP))
123 #define Eop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)EQOP)
124 #define Rop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)RELOP)
125
126 /* This bit of chicanery makes a unary function followed by
127  * a parenthesis into a function with one argument, highest precedence.
128  */
129 #define UNI(f) return(yylval.ival = f, \
130         expect = XTERM, \
131         bufptr = s, \
132         last_uni = oldbufptr, \
133         last_lop_op = f, \
134         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
135
136 #define UNIBRACK(f) return(yylval.ival = f, \
137         bufptr = s, \
138         last_uni = oldbufptr, \
139         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
140
141 /* grandfather return to old style */
142 #define OLDLOP(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LSTOP)
143
144 static int
145 ao(toketype)
146 int toketype;
147 {
148     if (*bufptr == '=') {
149         bufptr++;
150         if (toketype == ANDAND)
151             yylval.ival = OP_ANDASSIGN;
152         else if (toketype == OROR)
153             yylval.ival = OP_ORASSIGN;
154         toketype = ASSIGNOP;
155     }
156     return toketype;
157 }
158
159 static void
160 no_op(what, s)
161 char *what;
162 char *s;
163 {
164     char *oldbp = bufptr;
165     bool is_first = (oldbufptr == linestart);
166
167     bufptr = s;
168     yywarn(form("%s found where operator expected", what));
169     if (is_first)
170         warn("\t(Missing semicolon on previous line?)\n");
171     else if (oldoldbufptr && isIDFIRST(*oldoldbufptr)) {
172         char *t;
173         for (t = oldoldbufptr; *t && (isALNUM(*t) || *t == ':'); t++) ;
174         if (t < bufptr && isSPACE(*t))
175             warn("\t(Do you need to predeclare %.*s?)\n",
176                 t - oldoldbufptr, oldoldbufptr);
177
178     }
179     else
180         warn("\t(Missing operator before %.*s?)\n", s - oldbp, oldbp);
181     bufptr = oldbp;
182 }
183
184 static void
185 missingterm(s)
186 char *s;
187 {
188     char tmpbuf[3];
189     char q;
190     if (s) {
191         char *nl = strrchr(s,'\n');
192         if (nl)
193             *nl = '\0';
194     }
195     else if (multi_close < 32 || multi_close == 127) {
196         *tmpbuf = '^';
197         tmpbuf[1] = toCTRL(multi_close);
198         s = "\\n";
199         tmpbuf[2] = '\0';
200         s = tmpbuf;
201     }
202     else {
203         *tmpbuf = multi_close;
204         tmpbuf[1] = '\0';
205         s = tmpbuf;
206     }
207     q = strchr(s,'"') ? '\'' : '"';
208     croak("Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
209 }
210
211 void
212 deprecate(s)
213 char *s;
214 {
215     if (dowarn)
216         warn("Use of %s is deprecated", s);
217 }
218
219 static void
220 depcom()
221 {
222     deprecate("comma-less variable list");
223 }
224
225 void
226 lex_start(line)
227 SV *line;
228 {
229     dTHR;
230     char *s;
231     STRLEN len;
232
233     SAVEI32(lex_dojoin);
234     SAVEI32(lex_brackets);
235     SAVEI32(lex_fakebrack);
236     SAVEI32(lex_casemods);
237     SAVEI32(lex_starts);
238     SAVEI32(lex_state);
239     SAVESPTR(lex_inpat);
240     SAVEI32(lex_inwhat);
241     SAVEI16(curcop->cop_line);
242     SAVEPPTR(bufptr);
243     SAVEPPTR(bufend);
244     SAVEPPTR(oldbufptr);
245     SAVEPPTR(oldoldbufptr);
246     SAVEPPTR(linestart);
247     SAVESPTR(linestr);
248     SAVEPPTR(lex_brackstack);
249     SAVEPPTR(lex_casestack);
250     SAVEDESTRUCTOR(restore_rsfp, rsfp);
251
252     lex_state = LEX_NORMAL;
253     lex_defer = 0;
254     expect = XSTATE;
255     lex_brackets = 0;
256     lex_fakebrack = 0;
257     New(899, lex_brackstack, 120, char);
258     New(899, lex_casestack, 12, char);
259     SAVEFREEPV(lex_brackstack);
260     SAVEFREEPV(lex_casestack);
261     lex_casemods = 0;
262     *lex_casestack = '\0';
263     lex_dojoin = 0;
264     lex_starts = 0;
265     if (lex_stuff)
266         SvREFCNT_dec(lex_stuff);
267     lex_stuff = Nullsv;
268     if (lex_repl)
269         SvREFCNT_dec(lex_repl);
270     lex_repl = Nullsv;
271     lex_inpat = 0;
272     lex_inwhat = 0;
273     linestr = line;
274     if (SvREADONLY(linestr))
275         linestr = sv_2mortal(newSVsv(linestr));
276     s = SvPV(linestr, len);
277     if (len && s[len-1] != ';') {
278         if (!(SvFLAGS(linestr) & SVs_TEMP))
279             linestr = sv_2mortal(newSVsv(linestr));
280         sv_catpvn(linestr, "\n;", 2);
281     }
282     SvTEMP_off(linestr);
283     oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
284     bufend = bufptr + SvCUR(linestr);
285     SvREFCNT_dec(rs);
286     rs = newSVpv("\n", 1);
287     rsfp = 0;
288 }
289
290 void
291 lex_end()
292 {
293     doextract = FALSE;
294 }
295
296 static void
297 restore_rsfp(f)
298 void *f;
299 {
300     PerlIO *fp = (PerlIO*)f;
301
302     if (rsfp == PerlIO_stdin())
303         PerlIO_clearerr(rsfp);
304     else if (rsfp && (rsfp != fp))
305         PerlIO_close(rsfp);
306     rsfp = fp;
307 }
308
309 static void
310 incline(s)
311 char *s;
312 {
313     dTHR;
314     char *t;
315     char *n;
316     char ch;
317     int sawline = 0;
318
319     curcop->cop_line++;
320     if (*s++ != '#')
321         return;
322     while (*s == ' ' || *s == '\t') s++;
323     if (strnEQ(s, "line ", 5)) {
324         s += 5;
325         sawline = 1;
326     }
327     if (!isDIGIT(*s))
328         return;
329     n = s;
330     while (isDIGIT(*s))
331         s++;
332     while (*s == ' ' || *s == '\t')
333         s++;
334     if (*s == '"' && (t = strchr(s+1, '"')))
335         s++;
336     else {
337         if (!sawline)
338             return;             /* false alarm */
339         for (t = s; !isSPACE(*t); t++) ;
340     }
341     ch = *t;
342     *t = '\0';
343     if (t - s > 0)
344         curcop->cop_filegv = gv_fetchfile(s);
345     else
346         curcop->cop_filegv = gv_fetchfile(origfilename);
347     *t = ch;
348     curcop->cop_line = atoi(n)-1;
349 }
350
351 static char *
352 skipspace(s)
353 register char *s;
354 {
355     dTHR;
356     if (lex_formbrack && lex_brackets <= lex_formbrack) {
357         while (s < bufend && (*s == ' ' || *s == '\t'))
358             s++;
359         return s;
360     }
361     for (;;) {
362         STRLEN prevlen;
363         while (s < bufend && isSPACE(*s))
364             s++;
365         if (s < bufend && *s == '#') {
366             while (s < bufend && *s != '\n')
367                 s++;
368             if (s < bufend)
369                 s++;
370         }
371         if (s < bufend || !rsfp || lex_state != LEX_NORMAL)
372             return s;
373         if ((s = filter_gets(linestr, rsfp, (prevlen = SvCUR(linestr)))) == Nullch) {
374             if (minus_n || minus_p) {
375                 sv_setpv(linestr,minus_p ? ";}continue{print" : "");
376                 sv_catpv(linestr,";}");
377                 minus_n = minus_p = 0;
378             }
379             else
380                 sv_setpv(linestr,";");
381             oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
382             bufend = SvPVX(linestr) + SvCUR(linestr);
383             if (preprocess && !in_eval)
384                 (void)my_pclose(rsfp);
385             else if ((PerlIO*)rsfp == PerlIO_stdin())
386                 PerlIO_clearerr(rsfp);
387             else
388                 (void)PerlIO_close(rsfp);
389             rsfp = Nullfp;
390             return s;
391         }
392         linestart = bufptr = s + prevlen;
393         bufend = s + SvCUR(linestr);
394         s = bufptr;
395         incline(s);
396         if (perldb && curstash != debstash) {
397             SV *sv = NEWSV(85,0);
398
399             sv_upgrade(sv, SVt_PVMG);
400             sv_setpvn(sv,bufptr,bufend-bufptr);
401             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
402         }
403     }
404 }
405
406 static void
407 check_uni() {
408     char *s;
409     char ch;
410     char *t;
411
412     if (oldoldbufptr != last_uni)
413         return;
414     while (isSPACE(*last_uni))
415         last_uni++;
416     for (s = last_uni; isALNUM(*s) || *s == '-'; s++) ;
417     if ((t = strchr(s, '(')) && t < bufptr)
418         return;
419     ch = *s;
420     *s = '\0';
421     warn("Warning: Use of \"%s\" without parens is ambiguous", last_uni);
422     *s = ch;
423 }
424
425 #ifdef CRIPPLED_CC
426
427 #undef UNI
428 #define UNI(f) return uni(f,s)
429
430 static int
431 uni(f,s)
432 I32 f;
433 char *s;
434 {
435     yylval.ival = f;
436     expect = XTERM;
437     bufptr = s;
438     last_uni = oldbufptr;
439     last_lop_op = f;
440     if (*s == '(')
441         return FUNC1;
442     s = skipspace(s);
443     if (*s == '(')
444         return FUNC1;
445     else
446         return UNIOP;
447 }
448
449 #endif /* CRIPPLED_CC */
450
451 #define LOP(f,x) return lop(f,x,s)
452
453 static I32
454 lop
455 #ifdef CAN_PROTOTYPE
456    (I32 f, expectation x, char *s)
457 #else
458    (f,x,s)
459 I32 f;
460 expectation x;
461 char *s;
462 #endif /* CAN_PROTOTYPE */
463 {
464     dTHR;
465     yylval.ival = f;
466     CLINE;
467     expect = x;
468     bufptr = s;
469     last_lop = oldbufptr;
470     last_lop_op = f;
471     if (nexttoke)
472         return LSTOP;
473     if (*s == '(')
474         return FUNC;
475     s = skipspace(s);
476     if (*s == '(')
477         return FUNC;
478     else
479         return LSTOP;
480 }
481
482 static void 
483 force_next(type)
484 I32 type;
485 {
486     nexttype[nexttoke] = type;
487     nexttoke++;
488     if (lex_state != LEX_KNOWNEXT) {
489         lex_defer = lex_state;
490         lex_expect = expect;
491         lex_state = LEX_KNOWNEXT;
492     }
493 }
494
495 static char *
496 force_word(start,token,check_keyword,allow_pack,allow_tick)
497 register char *start;
498 int token;
499 int check_keyword;
500 int allow_pack;
501 int allow_tick;
502 {
503     register char *s;
504     STRLEN len;
505     
506     start = skipspace(start);
507     s = start;
508     if (isIDFIRST(*s) ||
509         (allow_pack && *s == ':') ||
510         (allow_tick && *s == '\'') )
511     {
512         s = scan_word(s, tokenbuf, sizeof tokenbuf, allow_pack, &len);
513         if (check_keyword && keyword(tokenbuf, len))
514             return start;
515         if (token == METHOD) {
516             s = skipspace(s);
517             if (*s == '(')
518                 expect = XTERM;
519             else {
520                 expect = XOPERATOR;
521                 force_next(')');
522                 force_next('(');
523             }
524         }
525         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST,0, newSVpv(tokenbuf,0));
526         nextval[nexttoke].opval->op_private |= OPpCONST_BARE;
527         force_next(token);
528     }
529     return s;
530 }
531
532 static void
533 force_ident(s, kind)
534 register char *s;
535 int kind;
536 {
537     if (s && *s) {
538         OP* o = (OP*)newSVOP(OP_CONST, 0, newSVpv(s,0));
539         nextval[nexttoke].opval = o;
540         force_next(WORD);
541         if (kind) {
542             dTHR;               /* just for in_eval */
543             o->op_private = OPpCONST_ENTERED;
544             /* XXX see note in pp_entereval() for why we forgo typo
545                warnings if the symbol must be introduced in an eval.
546                GSAR 96-10-12 */
547             gv_fetchpv(s, in_eval ? GV_ADDMULTI : TRUE,
548                 kind == '$' ? SVt_PV :
549                 kind == '@' ? SVt_PVAV :
550                 kind == '%' ? SVt_PVHV :
551                               SVt_PVGV
552                 );
553         }
554     }
555 }
556
557 static char *
558 force_version(s)
559 char *s;
560 {
561     OP *version = Nullop;
562
563     s = skipspace(s);
564
565     /* default VERSION number -- GBARR */
566
567     if(isDIGIT(*s)) {
568         char *d;
569         int c;
570         for( d=s, c = 1; isDIGIT(*d) || *d == '_' || (*d == '.' && c--); d++);
571         if((*d == ';' || isSPACE(*d)) && *(skipspace(d)) != ',') {
572             s = scan_num(s);
573             /* real VERSION number -- GBARR */
574             version = yylval.opval;
575         }
576     }
577
578     /* NOTE: The parser sees the package name and the VERSION swapped */
579     nextval[nexttoke].opval = version;
580     force_next(WORD); 
581
582     return (s);
583 }
584
585 static SV *
586 q(sv)
587 SV *sv;
588 {
589     register char *s;
590     register char *send;
591     register char *d;
592     STRLEN len;
593
594     if (!SvLEN(sv))
595         return sv;
596
597     s = SvPV_force(sv, len);
598     if (SvIVX(sv) == -1)
599         return sv;
600     send = s + len;
601     while (s < send && *s != '\\')
602         s++;
603     if (s == send)
604         return sv;
605     d = s;
606     while (s < send) {
607         if (*s == '\\') {
608             if (s + 1 < send && (s[1] == '\\'))
609                 s++;            /* all that, just for this */
610         }
611         *d++ = *s++;
612     }
613     *d = '\0';
614     SvCUR_set(sv, d - SvPVX(sv));
615
616     return sv;
617 }
618
619 static I32
620 sublex_start()
621 {
622     register I32 op_type = yylval.ival;
623
624     if (op_type == OP_NULL) {
625         yylval.opval = lex_op;
626         lex_op = Nullop;
627         return THING;
628     }
629     if (op_type == OP_CONST || op_type == OP_READLINE) {
630         SV *sv = q(lex_stuff);
631         STRLEN len;
632         char *p = SvPV(sv, len);
633         yylval.opval = (OP*)newSVOP(op_type, 0, newSVpv(p, len));
634         SvREFCNT_dec(sv);
635         lex_stuff = Nullsv;
636         return THING;
637     }
638
639     sublex_info.super_state = lex_state;
640     sublex_info.sub_inwhat = op_type;
641     sublex_info.sub_op = lex_op;
642     lex_state = LEX_INTERPPUSH;
643
644     expect = XTERM;
645     if (lex_op) {
646         yylval.opval = lex_op;
647         lex_op = Nullop;
648         return PMFUNC;
649     }
650     else
651         return FUNC;
652 }
653
654 static I32
655 sublex_push()
656 {
657     dTHR;
658     push_scope();
659
660     lex_state = sublex_info.super_state;
661     SAVEI32(lex_dojoin);
662     SAVEI32(lex_brackets);
663     SAVEI32(lex_fakebrack);
664     SAVEI32(lex_casemods);
665     SAVEI32(lex_starts);
666     SAVEI32(lex_state);
667     SAVESPTR(lex_inpat);
668     SAVEI32(lex_inwhat);
669     SAVEI16(curcop->cop_line);
670     SAVEPPTR(bufptr);
671     SAVEPPTR(oldbufptr);
672     SAVEPPTR(oldoldbufptr);
673     SAVEPPTR(linestart);
674     SAVESPTR(linestr);
675     SAVEPPTR(lex_brackstack);
676     SAVEPPTR(lex_casestack);
677
678     linestr = lex_stuff;
679     lex_stuff = Nullsv;
680
681     bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
682     bufend += SvCUR(linestr);
683     SAVEFREESV(linestr);
684
685     lex_dojoin = FALSE;
686     lex_brackets = 0;
687     lex_fakebrack = 0;
688     New(899, lex_brackstack, 120, char);
689     New(899, lex_casestack, 12, char);
690     SAVEFREEPV(lex_brackstack);
691     SAVEFREEPV(lex_casestack);
692     lex_casemods = 0;
693     *lex_casestack = '\0';
694     lex_starts = 0;
695     lex_state = LEX_INTERPCONCAT;
696     curcop->cop_line = multi_start;
697
698     lex_inwhat = sublex_info.sub_inwhat;
699     if (lex_inwhat == OP_MATCH || lex_inwhat == OP_SUBST)
700         lex_inpat = sublex_info.sub_op;
701     else
702         lex_inpat = Nullop;
703
704     return '(';
705 }
706
707 static I32
708 sublex_done()
709 {
710     if (!lex_starts++) {
711         expect = XOPERATOR;
712         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv("",0));
713         return THING;
714     }
715
716     if (lex_casemods) {         /* oops, we've got some unbalanced parens */
717         lex_state = LEX_INTERPCASEMOD;
718         return yylex();
719     }
720
721     /* Is there a right-hand side to take care of? */
722     if (lex_repl && (lex_inwhat == OP_SUBST || lex_inwhat == OP_TRANS)) {
723         linestr = lex_repl;
724         lex_inpat = 0;
725         bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
726         bufend += SvCUR(linestr);
727         SAVEFREESV(linestr);
728         lex_dojoin = FALSE;
729         lex_brackets = 0;
730         lex_fakebrack = 0;
731         lex_casemods = 0;
732         *lex_casestack = '\0';
733         lex_starts = 0;
734         if (SvCOMPILED(lex_repl)) {
735             lex_state = LEX_INTERPNORMAL;
736             lex_starts++;
737         }
738         else
739             lex_state = LEX_INTERPCONCAT;
740         lex_repl = Nullsv;
741         return ',';
742     }
743     else {
744         pop_scope();
745         bufend = SvPVX(linestr);
746         bufend += SvCUR(linestr);
747         expect = XOPERATOR;
748         return ')';
749     }
750 }
751
752 static char *
753 scan_const(start)
754 char *start;
755 {
756     register char *send = bufend;
757     SV *sv = NEWSV(93, send - start);
758     register char *s = start;
759     register char *d = SvPVX(sv);
760     bool dorange = FALSE;
761     I32 len;
762     char *leaveit =
763         lex_inpat
764             ? "\\.^$@AGZdDwWsSbB+*?|()-nrtfeaxc0123456789[{]} \t\n\r\f\v#"
765             : (lex_inwhat & OP_TRANS)
766                 ? ""
767                 : "";
768
769     while (s < send || dorange) {
770         if (lex_inwhat == OP_TRANS) {
771             if (dorange) {
772                 I32 i;
773                 I32 max;
774                 i = d - SvPVX(sv);
775                 SvGROW(sv, SvLEN(sv) + 256);
776                 d = SvPVX(sv) + i;
777                 d -= 2;
778                 max = (U8)d[1];
779                 for (i = (U8)*d; i <= max; i++)
780                     *d++ = i;
781                 dorange = FALSE;
782                 continue;
783             }
784             else if (*s == '-' && s+1 < send  && s != start) {
785                 dorange = TRUE;
786                 s++;
787             }
788         }
789         else if (*s == '(' && lex_inpat && s[1] == '?' && s[2] == '#') {
790             while (s < send && *s != ')')
791                 *d++ = *s++;
792         }
793         else if (*s == '#' && lex_inpat &&
794           ((PMOP*)lex_inpat)->op_pmflags & PMf_EXTENDED) {
795             while (s+1 < send && *s != '\n')
796                 *d++ = *s++;
797         }
798         else if (*s == '@' && s[1] && (isALNUM(s[1]) || strchr(":'{$", s[1])))
799             break;
800         else if (*s == '$') {
801             if (!lex_inpat)     /* not a regexp, so $ must be var */
802                 break;
803             if (s + 1 < send && !strchr(")| \n\t", s[1]))
804                 break;          /* in regexp, $ might be tail anchor */
805         }
806         if (*s == '\\' && s+1 < send) {
807             s++;
808             if (*s && strchr(leaveit, *s)) {
809                 *d++ = '\\';
810                 *d++ = *s++;
811                 continue;
812             }
813             if (lex_inwhat == OP_SUBST && !lex_inpat &&
814                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
815             {
816                 if (dowarn)
817                     warn("\\%c better written as $%c", *s, *s);
818                 *--s = '$';
819                 break;
820             }
821             if (lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
822                 --s;
823                 break;
824             }
825             switch (*s) {
826             case '-':
827                 if (lex_inwhat == OP_TRANS) {
828                     *d++ = *s++;
829                     continue;
830                 }
831                 /* FALL THROUGH */
832             default:
833                 *d++ = *s++;
834                 continue;
835             case '0': case '1': case '2': case '3':
836             case '4': case '5': case '6': case '7':
837                 *d++ = scan_oct(s, 3, &len);
838                 s += len;
839                 continue;
840             case 'x':
841                 *d++ = scan_hex(++s, 2, &len);
842                 s += len;
843                 continue;
844             case 'c':
845                 s++;
846                 len = *s++;
847                 *d++ = toCTRL(len);
848                 continue;
849             case 'b':
850                 *d++ = '\b';
851                 break;
852             case 'n':
853                 *d++ = '\n';
854                 break;
855             case 'r':
856                 *d++ = '\r';
857                 break;
858             case 'f':
859                 *d++ = '\f';
860                 break;
861             case 't':
862                 *d++ = '\t';
863                 break;
864             case 'e':
865                 *d++ = '\033';
866                 break;
867             case 'a':
868                 *d++ = '\007';
869                 break;
870             }
871             s++;
872             continue;
873         }
874         *d++ = *s++;
875     }
876     *d = '\0';
877     SvCUR_set(sv, d - SvPVX(sv));
878     SvPOK_on(sv);
879
880     if (SvCUR(sv) + 5 < SvLEN(sv)) {
881         SvLEN_set(sv, SvCUR(sv) + 1);
882         Renew(SvPVX(sv), SvLEN(sv), char);
883     }
884     if (s > bufptr)
885         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
886     else
887         SvREFCNT_dec(sv);
888     return s;
889 }
890
891 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
892 static int
893 intuit_more(s)
894 register char *s;
895 {
896     if (lex_brackets)
897         return TRUE;
898     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
899         return TRUE;
900     if (*s != '{' && *s != '[')
901         return FALSE;
902     if (!lex_inpat)
903         return TRUE;
904
905     /* In a pattern, so maybe we have {n,m}. */
906     if (*s == '{') {
907         s++;
908         if (!isDIGIT(*s))
909             return TRUE;
910         while (isDIGIT(*s))
911             s++;
912         if (*s == ',')
913             s++;
914         while (isDIGIT(*s))
915             s++;
916         if (*s == '}')
917             return FALSE;
918         return TRUE;
919         
920     }
921
922     /* On the other hand, maybe we have a character class */
923
924     s++;
925     if (*s == ']' || *s == '^')
926         return FALSE;
927     else {
928         int weight = 2;         /* let's weigh the evidence */
929         char seen[256];
930         unsigned char un_char = 0, last_un_char;
931         char *send = strchr(s,']');
932         char tmpbuf[sizeof tokenbuf * 4];
933
934         if (!send)              /* has to be an expression */
935             return TRUE;
936
937         Zero(seen,256,char);
938         if (*s == '$')
939             weight -= 3;
940         else if (isDIGIT(*s)) {
941             if (s[1] != ']') {
942                 if (isDIGIT(s[1]) && s[2] == ']')
943                     weight -= 10;
944             }
945             else
946                 weight -= 100;
947         }
948         for (; s < send; s++) {
949             last_un_char = un_char;
950             un_char = (unsigned char)*s;
951             switch (*s) {
952             case '@':
953             case '&':
954             case '$':
955                 weight -= seen[un_char] * 10;
956                 if (isALNUM(s[1])) {
957                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
958                     if ((int)strlen(tmpbuf) > 1 && gv_fetchpv(tmpbuf,FALSE, SVt_PV))
959                         weight -= 100;
960                     else
961                         weight -= 10;
962                 }
963                 else if (*s == '$' && s[1] &&
964                   strchr("[#!%*<>()-=",s[1])) {
965                     if (/*{*/ strchr("])} =",s[2]))
966                         weight -= 10;
967                     else
968                         weight -= 1;
969                 }
970                 break;
971             case '\\':
972                 un_char = 254;
973                 if (s[1]) {
974                     if (strchr("wds]",s[1]))
975                         weight += 100;
976                     else if (seen['\''] || seen['"'])
977                         weight += 1;
978                     else if (strchr("rnftbxcav",s[1]))
979                         weight += 40;
980                     else if (isDIGIT(s[1])) {
981                         weight += 40;
982                         while (s[1] && isDIGIT(s[1]))
983                             s++;
984                     }
985                 }
986                 else
987                     weight += 100;
988                 break;
989             case '-':
990                 if (s[1] == '\\')
991                     weight += 50;
992                 if (strchr("aA01! ",last_un_char))
993                     weight += 30;
994                 if (strchr("zZ79~",s[1]))
995                     weight += 30;
996                 break;
997             default:
998                 if (!isALNUM(last_un_char) && !strchr("$@&",last_un_char) &&
999                         isALPHA(*s) && s[1] && isALPHA(s[1])) {
1000                     char *d = tmpbuf;
1001                     while (isALPHA(*s))
1002                         *d++ = *s++;
1003                     *d = '\0';
1004                     if (keyword(tmpbuf, d - tmpbuf))
1005                         weight -= 150;
1006                 }
1007                 if (un_char == last_un_char + 1)
1008                     weight += 5;
1009                 weight -= seen[un_char];
1010                 break;
1011             }
1012             seen[un_char]++;
1013         }
1014         if (weight >= 0)        /* probably a character class */
1015             return FALSE;
1016     }
1017
1018     return TRUE;
1019 }
1020
1021 static int
1022 intuit_method(start,gv)
1023 char *start;
1024 GV *gv;
1025 {
1026     char *s = start + (*start == '$');
1027     char tmpbuf[sizeof tokenbuf];
1028     STRLEN len;
1029     GV* indirgv;
1030
1031     if (gv) {
1032         if (GvIO(gv))
1033             return 0;
1034         if (!GvCVu(gv))
1035             gv = 0;
1036     }
1037     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
1038     if (*start == '$') {
1039         if (gv || last_lop_op == OP_PRINT || isUPPER(*tokenbuf))
1040             return 0;
1041         s = skipspace(s);
1042         bufptr = start;
1043         expect = XREF;
1044         return *s == '(' ? FUNCMETH : METHOD;
1045     }
1046     if (!keyword(tmpbuf, len)) {
1047         indirgv = gv_fetchpv(tmpbuf,FALSE, SVt_PVCV);
1048         if (indirgv && GvCVu(indirgv))
1049             return 0;
1050         /* filehandle or package name makes it a method */
1051         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
1052             s = skipspace(s);
1053             if ((bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
1054                 return 0;       /* no assumptions -- "=>" quotes bearword */
1055             nextval[nexttoke].opval =
1056                 (OP*)newSVOP(OP_CONST, 0,
1057                             newSVpv(tmpbuf,0));
1058             nextval[nexttoke].opval->op_private =
1059                 OPpCONST_BARE;
1060             expect = XTERM;
1061             force_next(WORD);
1062             bufptr = s;
1063             return *s == '(' ? FUNCMETH : METHOD;
1064         }
1065     }
1066     return 0;
1067 }
1068
1069 static char*
1070 incl_perldb()
1071 {
1072     if (perldb) {
1073         char *pdb = getenv("PERL5DB");
1074
1075         if (pdb)
1076             return pdb;
1077         return "BEGIN { require 'perl5db.pl' }";
1078     }
1079     return "";
1080 }
1081
1082
1083 /* Encoded script support. filter_add() effectively inserts a
1084  * 'pre-processing' function into the current source input stream. 
1085  * Note that the filter function only applies to the current source file
1086  * (e.g., it will not affect files 'require'd or 'use'd by this one).
1087  *
1088  * The datasv parameter (which may be NULL) can be used to pass
1089  * private data to this instance of the filter. The filter function
1090  * can recover the SV using the FILTER_DATA macro and use it to
1091  * store private buffers and state information.
1092  *
1093  * The supplied datasv parameter is upgraded to a PVIO type
1094  * and the IoDIRP field is used to store the function pointer.
1095  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
1096  * private use must be set using malloc'd pointers.
1097  */
1098 static int filter_debug = 0;
1099
1100 SV *
1101 filter_add(funcp, datasv)
1102     filter_t funcp;
1103     SV *datasv;
1104 {
1105     if (!funcp){ /* temporary handy debugging hack to be deleted */
1106         filter_debug = atoi((char*)datasv);
1107         return NULL;
1108     }
1109     if (!rsfp_filters)
1110         rsfp_filters = newAV();
1111     if (!datasv)
1112         datasv = newSV(0);
1113     if (!SvUPGRADE(datasv, SVt_PVIO))
1114         die("Can't upgrade filter_add data to SVt_PVIO");
1115     IoDIRP(datasv) = (DIR*)funcp; /* stash funcp into spare field */
1116     if (filter_debug)
1117         warn("filter_add func %p (%s)", funcp, SvPV(datasv,na));
1118     av_unshift(rsfp_filters, 1);
1119     av_store(rsfp_filters, 0, datasv) ;
1120     return(datasv);
1121 }
1122  
1123
1124 /* Delete most recently added instance of this filter function. */
1125 void
1126 filter_del(funcp)
1127     filter_t funcp;
1128 {
1129     if (filter_debug)
1130         warn("filter_del func %p", funcp);
1131     if (!rsfp_filters || AvFILL(rsfp_filters)<0)
1132         return;
1133     /* if filter is on top of stack (usual case) just pop it off */
1134     if (IoDIRP(FILTER_DATA(0)) == (void*)funcp){
1135         /* sv_free(av_pop(rsfp_filters)); */
1136         sv_free(av_shift(rsfp_filters));
1137
1138         return;
1139     }
1140     /* we need to search for the correct entry and clear it     */
1141     die("filter_del can only delete in reverse order (currently)");
1142 }
1143
1144
1145 /* Invoke the n'th filter function for the current rsfp.         */
1146 I32
1147 filter_read(idx, buf_sv, maxlen)
1148     int idx;
1149     SV *buf_sv;
1150     int maxlen;         /* 0 = read one text line */
1151 {
1152     filter_t funcp;
1153     SV *datasv = NULL;
1154
1155     if (!rsfp_filters)
1156         return -1;
1157     if (idx > AvFILL(rsfp_filters)){       /* Any more filters? */
1158         /* Provide a default input filter to make life easy.    */
1159         /* Note that we append to the line. This is handy.      */
1160         if (filter_debug)
1161             warn("filter_read %d: from rsfp\n", idx);
1162         if (maxlen) { 
1163             /* Want a block */
1164             int len ;
1165             int old_len = SvCUR(buf_sv) ;
1166
1167             /* ensure buf_sv is large enough */
1168             SvGROW(buf_sv, old_len + maxlen) ;
1169             if ((len = PerlIO_read(rsfp, SvPVX(buf_sv) + old_len, maxlen)) <= 0){
1170                 if (PerlIO_error(rsfp))
1171                     return -1;          /* error */
1172                 else
1173                     return 0 ;          /* end of file */
1174             }
1175             SvCUR_set(buf_sv, old_len + len) ;
1176         } else {
1177             /* Want a line */
1178             if (sv_gets(buf_sv, rsfp, SvCUR(buf_sv)) == NULL) {
1179                 if (PerlIO_error(rsfp))
1180                     return -1;          /* error */
1181                 else
1182                     return 0 ;          /* end of file */
1183             }
1184         }
1185         return SvCUR(buf_sv);
1186     }
1187     /* Skip this filter slot if filter has been deleted */
1188     if ( (datasv = FILTER_DATA(idx)) == &sv_undef){
1189         if (filter_debug)
1190             warn("filter_read %d: skipped (filter deleted)\n", idx);
1191         return FILTER_READ(idx+1, buf_sv, maxlen); /* recurse */
1192     }
1193     /* Get function pointer hidden within datasv        */
1194     funcp = (filter_t)IoDIRP(datasv);
1195     if (filter_debug)
1196         warn("filter_read %d: via function %p (%s)\n",
1197                 idx, funcp, SvPV(datasv,na));
1198     /* Call function. The function is expected to       */
1199     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
1200     /* Return: <0:error, =0:eof, >0:not eof             */
1201     return (*funcp)(idx, buf_sv, maxlen);
1202 }
1203
1204 static char *
1205 filter_gets(sv,fp, append)
1206 register SV *sv;
1207 register PerlIO *fp;
1208 STRLEN append;
1209 {
1210     if (rsfp_filters) {
1211
1212         if (!append)
1213             SvCUR_set(sv, 0);   /* start with empty line        */
1214         if (FILTER_READ(0, sv, 0) > 0)
1215             return ( SvPVX(sv) ) ;
1216         else
1217             return Nullch ;
1218     }
1219     else 
1220         return (sv_gets(sv, fp, append));
1221     
1222 }
1223
1224
1225 #ifdef DEBUGGING
1226     static char* exp_name[] =
1227         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "TERMBLOCK" };
1228 #endif
1229
1230 EXT int yychar;         /* last token */
1231
1232 int
1233 yylex()
1234 {
1235     dTHR;
1236     register char *s;
1237     register char *d;
1238     register I32 tmp;
1239     STRLEN len;
1240
1241     if (pending_ident) {
1242         char pit = pending_ident;
1243         pending_ident = 0;
1244
1245         if (in_my) {
1246             if (strchr(tokenbuf,':'))
1247                 croak(no_myglob,tokenbuf);
1248             yylval.opval = newOP(OP_PADANY, 0);
1249             yylval.opval->op_targ = pad_allocmy(tokenbuf);
1250             return PRIVATEREF;
1251         }
1252
1253         if (!strchr(tokenbuf,':')
1254             && (tmp = pad_findmy(tokenbuf)) != NOT_IN_PAD) {
1255             if (last_lop_op == OP_SORT &&
1256                 tokenbuf[0] == '$' &&
1257                 (tokenbuf[1] == 'a' || tokenbuf[1] == 'b')
1258                 && !tokenbuf[2])
1259             {
1260                 for (d = in_eval ? oldoldbufptr : linestart;
1261                      d < bufend && *d != '\n';
1262                      d++)
1263                 {
1264                     if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
1265                         croak("Can't use \"my %s\" in sort comparison",
1266                               tokenbuf);
1267                     }
1268                 }
1269             }
1270
1271             yylval.opval = newOP(OP_PADANY, 0);
1272             yylval.opval->op_targ = tmp;
1273             return PRIVATEREF;
1274         }
1275
1276         /* Force them to make up their mind on "@foo". */
1277         if (pit == '@' && lex_state != LEX_NORMAL && !lex_brackets) {
1278             GV *gv = gv_fetchpv(tokenbuf+1, FALSE, SVt_PVAV);
1279             if (!gv || ((tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
1280                 yyerror(form("In string, %s now must be written as \\%s",
1281                              tokenbuf, tokenbuf));
1282         }
1283
1284         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf+1, 0));
1285         yylval.opval->op_private = OPpCONST_ENTERED;
1286         gv_fetchpv(tokenbuf+1, in_eval ? GV_ADDMULTI : TRUE,
1287                    ((tokenbuf[0] == '$') ? SVt_PV
1288                     : (tokenbuf[0] == '@') ? SVt_PVAV
1289                     : SVt_PVHV));
1290         return WORD;
1291     }
1292
1293     switch (lex_state) {
1294 #ifdef COMMENTARY
1295     case LEX_NORMAL:            /* Some compilers will produce faster */
1296     case LEX_INTERPNORMAL:      /* code if we comment these out. */
1297         break;
1298 #endif
1299
1300     case LEX_KNOWNEXT:
1301         nexttoke--;
1302         yylval = nextval[nexttoke];
1303         if (!nexttoke) {
1304             lex_state = lex_defer;
1305             expect = lex_expect;
1306             lex_defer = LEX_NORMAL;
1307         }
1308         return(nexttype[nexttoke]);
1309
1310     case LEX_INTERPCASEMOD:
1311 #ifdef DEBUGGING
1312         if (bufptr != bufend && *bufptr != '\\')
1313             croak("panic: INTERPCASEMOD");
1314 #endif
1315         if (bufptr == bufend || bufptr[1] == 'E') {
1316             char oldmod;
1317             if (lex_casemods) {
1318                 oldmod = lex_casestack[--lex_casemods];
1319                 lex_casestack[lex_casemods] = '\0';
1320                 if (bufptr != bufend && strchr("LUQ", oldmod)) {
1321                     bufptr += 2;
1322                     lex_state = LEX_INTERPCONCAT;
1323                 }
1324                 return ')';
1325             }
1326             if (bufptr != bufend)
1327                 bufptr += 2;
1328             lex_state = LEX_INTERPCONCAT;
1329             return yylex();
1330         }
1331         else {
1332             s = bufptr + 1;
1333             if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
1334                 tmp = *s, *s = s[2], s[2] = tmp;        /* misordered... */
1335             if (strchr("LU", *s) &&
1336                 (strchr(lex_casestack, 'L') || strchr(lex_casestack, 'U')))
1337             {
1338                 lex_casestack[--lex_casemods] = '\0';
1339                 return ')';
1340             }
1341             if (lex_casemods > 10) {
1342                 char* newlb = Renew(lex_casestack, lex_casemods + 2, char);
1343                 if (newlb != lex_casestack) {
1344                     SAVEFREEPV(newlb);
1345                     lex_casestack = newlb;
1346                 }
1347             }
1348             lex_casestack[lex_casemods++] = *s;
1349             lex_casestack[lex_casemods] = '\0';
1350             lex_state = LEX_INTERPCONCAT;
1351             nextval[nexttoke].ival = 0;
1352             force_next('(');
1353             if (*s == 'l')
1354                 nextval[nexttoke].ival = OP_LCFIRST;
1355             else if (*s == 'u')
1356                 nextval[nexttoke].ival = OP_UCFIRST;
1357             else if (*s == 'L')
1358                 nextval[nexttoke].ival = OP_LC;
1359             else if (*s == 'U')
1360                 nextval[nexttoke].ival = OP_UC;
1361             else if (*s == 'Q')
1362                 nextval[nexttoke].ival = OP_QUOTEMETA;
1363             else
1364                 croak("panic: yylex");
1365             bufptr = s + 1;
1366             force_next(FUNC);
1367             if (lex_starts) {
1368                 s = bufptr;
1369                 lex_starts = 0;
1370                 Aop(OP_CONCAT);
1371             }
1372             else
1373                 return yylex();
1374         }
1375
1376     case LEX_INTERPPUSH:
1377         return sublex_push();
1378
1379     case LEX_INTERPSTART:
1380         if (bufptr == bufend)
1381             return sublex_done();
1382         expect = XTERM;
1383         lex_dojoin = (*bufptr == '@');
1384         lex_state = LEX_INTERPNORMAL;
1385         if (lex_dojoin) {
1386             nextval[nexttoke].ival = 0;
1387             force_next(',');
1388             force_ident("\"", '$');
1389             nextval[nexttoke].ival = 0;
1390             force_next('$');
1391             nextval[nexttoke].ival = 0;
1392             force_next('(');
1393             nextval[nexttoke].ival = OP_JOIN;   /* emulate join($", ...) */
1394             force_next(FUNC);
1395         }
1396         if (lex_starts++) {
1397             s = bufptr;
1398             Aop(OP_CONCAT);
1399         }
1400         return yylex();
1401
1402     case LEX_INTERPENDMAYBE:
1403         if (intuit_more(bufptr)) {
1404             lex_state = LEX_INTERPNORMAL;       /* false alarm, more expr */
1405             break;
1406         }
1407         /* FALL THROUGH */
1408
1409     case LEX_INTERPEND:
1410         if (lex_dojoin) {
1411             lex_dojoin = FALSE;
1412             lex_state = LEX_INTERPCONCAT;
1413             return ')';
1414         }
1415         /* FALLTHROUGH */
1416     case LEX_INTERPCONCAT:
1417 #ifdef DEBUGGING
1418         if (lex_brackets)
1419             croak("panic: INTERPCONCAT");
1420 #endif
1421         if (bufptr == bufend)
1422             return sublex_done();
1423
1424         if (SvIVX(linestr) == '\'') {
1425             SV *sv = newSVsv(linestr);
1426             if (!lex_inpat)
1427                 sv = q(sv);
1428             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1429             s = bufend;
1430         }
1431         else {
1432             s = scan_const(bufptr);
1433             if (*s == '\\')
1434                 lex_state = LEX_INTERPCASEMOD;
1435             else
1436                 lex_state = LEX_INTERPSTART;
1437         }
1438
1439         if (s != bufptr) {
1440             nextval[nexttoke] = yylval;
1441             expect = XTERM;
1442             force_next(THING);
1443             if (lex_starts++)
1444                 Aop(OP_CONCAT);
1445             else {
1446                 bufptr = s;
1447                 return yylex();
1448             }
1449         }
1450
1451         return yylex();
1452     case LEX_FORMLINE:
1453         lex_state = LEX_NORMAL;
1454         s = scan_formline(bufptr);
1455         if (!lex_formbrack)
1456             goto rightbracket;
1457         OPERATOR(';');
1458     }
1459
1460     s = bufptr;
1461     oldoldbufptr = oldbufptr;
1462     oldbufptr = s;
1463     DEBUG_p( {
1464         PerlIO_printf(PerlIO_stderr(), "### Tokener expecting %s at %s\n", exp_name[expect], s);
1465     } )
1466
1467   retry:
1468     switch (*s) {
1469     default:
1470         croak("Unrecognized character \\%03o", *s & 255);
1471     case 4:
1472     case 26:
1473         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
1474     case 0:
1475         if (!rsfp) {
1476             last_uni = 0;
1477             last_lop = 0;
1478             if (lex_brackets)
1479                 yyerror("Missing right bracket");
1480             TOKEN(0);
1481         }
1482         if (s++ < bufend)
1483             goto retry;                 /* ignore stray nulls */
1484         last_uni = 0;
1485         last_lop = 0;
1486         if (!in_eval && !preambled) {
1487             preambled = TRUE;
1488             sv_setpv(linestr,incl_perldb());
1489             if (SvCUR(linestr))
1490                 sv_catpv(linestr,";");
1491             if (preambleav){
1492                 while(AvFILL(preambleav) >= 0) {
1493                     SV *tmpsv = av_shift(preambleav);
1494                     sv_catsv(linestr, tmpsv);
1495                     sv_catpv(linestr, ";");
1496                     sv_free(tmpsv);
1497                 }
1498                 sv_free((SV*)preambleav);
1499                 preambleav = NULL;
1500             }
1501             if (minus_n || minus_p) {
1502                 sv_catpv(linestr, "LINE: while (<>) {");
1503                 if (minus_l)
1504                     sv_catpv(linestr,"chomp;");
1505                 if (minus_a) {
1506                     GV* gv = gv_fetchpv("::F", TRUE, SVt_PVAV);
1507                     if (gv)
1508                         GvIMPORTED_AV_on(gv);
1509                     if (minus_F) {
1510                         if (strchr("/'\"", *splitstr)
1511                               && strchr(splitstr + 1, *splitstr))
1512                             sv_catpvf(linestr, "@F=split(%s);", splitstr);
1513                         else {
1514                             char delim;
1515                             s = "'~#\200\1'"; /* surely one char is unused...*/
1516                             while (s[1] && strchr(splitstr, *s))  s++;
1517                             delim = *s;
1518                             sv_catpvf(linestr, "@F=split(%s%c",
1519                                       "q" + (delim == '\''), delim);
1520                             for (s = splitstr; *s; s++) {
1521                                 if (*s == '\\')
1522                                     sv_catpvn(linestr, "\\", 1);
1523                                 sv_catpvn(linestr, s, 1);
1524                             }
1525                             sv_catpvf(linestr, "%c);", delim);
1526                         }
1527                     }
1528                     else
1529                         sv_catpv(linestr,"@F=split(' ');");
1530                 }
1531             }
1532             sv_catpv(linestr, "\n");
1533             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1534             bufend = SvPVX(linestr) + SvCUR(linestr);
1535             if (perldb && curstash != debstash) {
1536                 SV *sv = NEWSV(85,0);
1537
1538                 sv_upgrade(sv, SVt_PVMG);
1539                 sv_setsv(sv,linestr);
1540                 av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1541             }
1542             goto retry;
1543         }
1544         do {
1545             if ((s = filter_gets(linestr, rsfp, 0)) == Nullch) {
1546               fake_eof:
1547                 if (rsfp) {
1548                     if (preprocess && !in_eval)
1549                         (void)my_pclose(rsfp);
1550                     else if ((PerlIO *)rsfp == PerlIO_stdin())
1551                         PerlIO_clearerr(rsfp);
1552                     else
1553                         (void)PerlIO_close(rsfp);
1554                     rsfp = Nullfp;
1555                 }
1556                 if (!in_eval && (minus_n || minus_p)) {
1557                     sv_setpv(linestr,minus_p ? ";}continue{print" : "");
1558                     sv_catpv(linestr,";}");
1559                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1560                     bufend = SvPVX(linestr) + SvCUR(linestr);
1561                     minus_n = minus_p = 0;
1562                     goto retry;
1563                 }
1564                 oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1565                 sv_setpv(linestr,"");
1566                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
1567             }
1568             if (doextract) {
1569                 if (*s == '#' && s[1] == '!' && instr(s,"perl"))
1570                     doextract = FALSE;
1571
1572                 /* Incest with pod. */
1573                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
1574                     sv_setpv(linestr, "");
1575                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1576                     bufend = SvPVX(linestr) + SvCUR(linestr);
1577                     doextract = FALSE;
1578                 }
1579             }
1580             incline(s);
1581         } while (doextract);
1582         oldoldbufptr = oldbufptr = bufptr = linestart = s;
1583         if (perldb && curstash != debstash) {
1584             SV *sv = NEWSV(85,0);
1585
1586             sv_upgrade(sv, SVt_PVMG);
1587             sv_setsv(sv,linestr);
1588             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1589         }
1590         bufend = SvPVX(linestr) + SvCUR(linestr);
1591         if (curcop->cop_line == 1) {
1592             while (s < bufend && isSPACE(*s))
1593                 s++;
1594             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
1595                 s++;
1596             d = Nullch;
1597             if (!in_eval) {
1598                 if (*s == '#' && *(s+1) == '!')
1599                     d = s + 2;
1600 #ifdef ALTERNATE_SHEBANG
1601                 else {
1602                     static char as[] = ALTERNATE_SHEBANG;
1603                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
1604                         d = s + (sizeof(as) - 1);
1605                 }
1606 #endif /* ALTERNATE_SHEBANG */
1607             }
1608             if (d) {
1609                 char *ipath;
1610                 char *ipathend;
1611
1612                 while (isSPACE(*d))
1613                     d++;
1614                 ipath = d;
1615                 while (*d && !isSPACE(*d))
1616                     d++;
1617                 ipathend = d;
1618
1619 #ifdef ARG_ZERO_IS_SCRIPT
1620                 if (ipathend > ipath) {
1621                     /*
1622                      * HP-UX (at least) sets argv[0] to the script name,
1623                      * which makes $^X incorrect.  And Digital UNIX and Linux,
1624                      * at least, set argv[0] to the basename of the Perl
1625                      * interpreter. So, having found "#!", we'll set it right.
1626                      */
1627                     SV *x = GvSV(gv_fetchpv("\030", TRUE, SVt_PV));
1628                     assert(SvPOK(x) || SvGMAGICAL(x));
1629                     if (sv_eq(x, GvSV(curcop->cop_filegv))) {
1630                         sv_setpvn(x, ipath, ipathend - ipath);
1631                         SvSETMAGIC(x);
1632                     }
1633                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
1634                 }
1635 #endif /* ARG_ZERO_IS_SCRIPT */
1636
1637                 /*
1638                  * Look for options.
1639                  */
1640                 d = instr(s,"perl -");
1641                 if (!d)
1642                     d = instr(s,"perl");
1643 #ifdef ALTERNATE_SHEBANG
1644                 /*
1645                  * If the ALTERNATE_SHEBANG on this system starts with a
1646                  * character that can be part of a Perl expression, then if
1647                  * we see it but not "perl", we're probably looking at the
1648                  * start of Perl code, not a request to hand off to some
1649                  * other interpreter.  Similarly, if "perl" is there, but
1650                  * not in the first 'word' of the line, we assume the line
1651                  * contains the start of the Perl program.
1652                  */
1653                 if (d && *s != '#') {
1654                     char *c = ipath;
1655                     while (*c && !strchr("; \t\r\n\f\v#", *c))
1656                         c++;
1657                     if (c < d)
1658                         d = Nullch;     /* "perl" not in first word; ignore */
1659                     else
1660                         *s = '#';       /* Don't try to parse shebang line */
1661                 }
1662 #endif /* ALTERNATE_SHEBANG */
1663                 if (!d &&
1664                     *s == '#' &&
1665                     ipathend > ipath &&
1666                     !minus_c &&
1667                     !instr(s,"indir") &&
1668                     instr(origargv[0],"perl"))
1669                 {
1670                     char **newargv;
1671
1672                     *ipathend = '\0';
1673                     s = ipathend + 1;
1674                     while (s < bufend && isSPACE(*s))
1675                         s++;
1676                     if (s < bufend) {
1677                         Newz(899,newargv,origargc+3,char*);
1678                         newargv[1] = s;
1679                         while (s < bufend && !isSPACE(*s))
1680                             s++;
1681                         *s = '\0';
1682                         Copy(origargv+1, newargv+2, origargc+1, char*);
1683                     }
1684                     else
1685                         newargv = origargv;
1686                     newargv[0] = ipath;
1687                     execv(ipath, newargv);
1688                     croak("Can't exec %s", ipath);
1689                 }
1690                 if (d) {
1691                     U32 oldpdb = perldb;
1692                     bool oldn = minus_n;
1693                     bool oldp = minus_p;
1694
1695                     while (*d && !isSPACE(*d)) d++;
1696                     while (*d == ' ' || *d == '\t') d++;
1697
1698                     if (*d++ == '-') {
1699                         do {
1700                             if (*d == 'M' || *d == 'm') {
1701                                 char *m = d;
1702                                 while (*d && !isSPACE(*d)) d++;
1703                                 croak("Too late for \"-%.*s\" option",
1704                                       (int)(d - m), m);
1705                             }
1706                             d = moreswitches(d);
1707                         } while (d);
1708                         if (perldb && !oldpdb ||
1709                             ( minus_n || minus_p ) && !(oldn || oldp) )
1710                               /* if we have already added "LINE: while (<>) {",
1711                                  we must not do it again */
1712                         {
1713                             sv_setpv(linestr, "");
1714                             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1715                             bufend = SvPVX(linestr) + SvCUR(linestr);
1716                             preambled = FALSE;
1717                             if (perldb)
1718                                 (void)gv_fetchfile(origfilename);
1719                             goto retry;
1720                         }
1721                     }
1722                 }
1723             }
1724         }
1725         if (lex_formbrack && lex_brackets <= lex_formbrack) {
1726             bufptr = s;
1727             lex_state = LEX_FORMLINE;
1728             return yylex();
1729         }
1730         goto retry;
1731     case '\r':
1732         warn("Illegal character \\%03o (carriage return)", '\r');
1733         croak(
1734       "(Maybe you didn't strip carriage returns after a network transfer?)\n");
1735     case ' ': case '\t': case '\f': case 013:
1736         s++;
1737         goto retry;
1738     case '#':
1739     case '\n':
1740         if (lex_state != LEX_NORMAL || (in_eval && !rsfp)) {
1741             d = bufend;
1742             while (s < d && *s != '\n')
1743                 s++;
1744             if (s < d)
1745                 s++;
1746             incline(s);
1747             if (lex_formbrack && lex_brackets <= lex_formbrack) {
1748                 bufptr = s;
1749                 lex_state = LEX_FORMLINE;
1750                 return yylex();
1751             }
1752         }
1753         else {
1754             *s = '\0';
1755             bufend = s;
1756         }
1757         goto retry;
1758     case '-':
1759         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
1760             s++;
1761             bufptr = s;
1762             tmp = *s++;
1763
1764             while (s < bufend && (*s == ' ' || *s == '\t'))
1765                 s++;
1766
1767             if (strnEQ(s,"=>",2)) {
1768                 if (dowarn)
1769                     warn("Ambiguous use of -%c => resolved to \"-%c\" =>",
1770                         (int)tmp, (int)tmp);
1771                 s = force_word(bufptr,WORD,FALSE,FALSE,FALSE);
1772                 OPERATOR('-');          /* unary minus */
1773             }
1774             last_uni = oldbufptr;
1775             last_lop_op = OP_FTEREAD;   /* good enough */
1776             switch (tmp) {
1777             case 'r': FTST(OP_FTEREAD);
1778             case 'w': FTST(OP_FTEWRITE);
1779             case 'x': FTST(OP_FTEEXEC);
1780             case 'o': FTST(OP_FTEOWNED);
1781             case 'R': FTST(OP_FTRREAD);
1782             case 'W': FTST(OP_FTRWRITE);
1783             case 'X': FTST(OP_FTREXEC);
1784             case 'O': FTST(OP_FTROWNED);
1785             case 'e': FTST(OP_FTIS);
1786             case 'z': FTST(OP_FTZERO);
1787             case 's': FTST(OP_FTSIZE);
1788             case 'f': FTST(OP_FTFILE);
1789             case 'd': FTST(OP_FTDIR);
1790             case 'l': FTST(OP_FTLINK);
1791             case 'p': FTST(OP_FTPIPE);
1792             case 'S': FTST(OP_FTSOCK);
1793             case 'u': FTST(OP_FTSUID);
1794             case 'g': FTST(OP_FTSGID);
1795             case 'k': FTST(OP_FTSVTX);
1796             case 'b': FTST(OP_FTBLK);
1797             case 'c': FTST(OP_FTCHR);
1798             case 't': FTST(OP_FTTTY);
1799             case 'T': FTST(OP_FTTEXT);
1800             case 'B': FTST(OP_FTBINARY);
1801             case 'M': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTMTIME);
1802             case 'A': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTATIME);
1803             case 'C': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTCTIME);
1804             default:
1805                 croak("Unrecognized file test: -%c", (int)tmp);
1806                 break;
1807             }
1808         }
1809         tmp = *s++;
1810         if (*s == tmp) {
1811             s++;
1812             if (expect == XOPERATOR)
1813                 TERM(POSTDEC);
1814             else
1815                 OPERATOR(PREDEC);
1816         }
1817         else if (*s == '>') {
1818             s++;
1819             s = skipspace(s);
1820             if (isIDFIRST(*s)) {
1821                 s = force_word(s,METHOD,FALSE,TRUE,FALSE);
1822                 TOKEN(ARROW);
1823             }
1824             else if (*s == '$')
1825                 OPERATOR(ARROW);
1826             else
1827                 TERM(ARROW);
1828         }
1829         if (expect == XOPERATOR)
1830             Aop(OP_SUBTRACT);
1831         else {
1832             if (isSPACE(*s) || !isSPACE(*bufptr))
1833                 check_uni();
1834             OPERATOR('-');              /* unary minus */
1835         }
1836
1837     case '+':
1838         tmp = *s++;
1839         if (*s == tmp) {
1840             s++;
1841             if (expect == XOPERATOR)
1842                 TERM(POSTINC);
1843             else
1844                 OPERATOR(PREINC);
1845         }
1846         if (expect == XOPERATOR)
1847             Aop(OP_ADD);
1848         else {
1849             if (isSPACE(*s) || !isSPACE(*bufptr))
1850                 check_uni();
1851             OPERATOR('+');
1852         }
1853
1854     case '*':
1855         if (expect != XOPERATOR) {
1856             s = scan_ident(s, bufend, tokenbuf, sizeof tokenbuf, TRUE);
1857             expect = XOPERATOR;
1858             force_ident(tokenbuf, '*');
1859             if (!*tokenbuf)
1860                 PREREF('*');
1861             TERM('*');
1862         }
1863         s++;
1864         if (*s == '*') {
1865             s++;
1866             PWop(OP_POW);
1867         }
1868         Mop(OP_MULTIPLY);
1869
1870     case '%':
1871         if (expect == XOPERATOR) {
1872             ++s;
1873             Mop(OP_MODULO);
1874         }
1875         tokenbuf[0] = '%';
1876         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, TRUE);
1877         if (!tokenbuf[1]) {
1878             if (s == bufend)
1879                 yyerror("Final % should be \\% or %name");
1880             PREREF('%');
1881         }
1882         pending_ident = '%';
1883         TERM('%');
1884
1885     case '^':
1886         s++;
1887         BOop(OP_BIT_XOR);
1888     case '[':
1889         lex_brackets++;
1890         /* FALL THROUGH */
1891     case '~':
1892     case ',':
1893         tmp = *s++;
1894         OPERATOR(tmp);
1895     case ':':
1896         if (s[1] == ':') {
1897             len = 0;
1898             goto just_a_word;
1899         }
1900         s++;
1901         OPERATOR(':');
1902     case '(':
1903         s++;
1904         if (last_lop == oldoldbufptr || last_uni == oldoldbufptr)
1905             oldbufptr = oldoldbufptr;           /* allow print(STDOUT 123) */
1906         else
1907             expect = XTERM;
1908         TOKEN('(');
1909     case ';':
1910         if (curcop->cop_line < copline)
1911             copline = curcop->cop_line;
1912         tmp = *s++;
1913         OPERATOR(tmp);
1914     case ')':
1915         tmp = *s++;
1916         s = skipspace(s);
1917         if (*s == '{')
1918             PREBLOCK(tmp);
1919         TERM(tmp);
1920     case ']':
1921         s++;
1922         if (lex_brackets <= 0)
1923             yyerror("Unmatched right bracket");
1924         else
1925             --lex_brackets;
1926         if (lex_state == LEX_INTERPNORMAL) {
1927             if (lex_brackets == 0) {
1928                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
1929                     lex_state = LEX_INTERPEND;
1930             }
1931         }
1932         TERM(']');
1933     case '{':
1934       leftbracket:
1935         s++;
1936         if (lex_brackets > 100) {
1937             char* newlb = Renew(lex_brackstack, lex_brackets + 1, char);
1938             if (newlb != lex_brackstack) {
1939                 SAVEFREEPV(newlb);
1940                 lex_brackstack = newlb;
1941             }
1942         }
1943         switch (expect) {
1944         case XTERM:
1945             if (lex_formbrack) {
1946                 s--;
1947                 PRETERMBLOCK(DO);
1948             }
1949             if (oldoldbufptr == last_lop)
1950                 lex_brackstack[lex_brackets++] = XTERM;
1951             else
1952                 lex_brackstack[lex_brackets++] = XOPERATOR;
1953             OPERATOR(HASHBRACK);
1954         case XOPERATOR:
1955             while (s < bufend && (*s == ' ' || *s == '\t'))
1956                 s++;
1957             d = s;
1958             tokenbuf[0] = '\0';
1959             if (d < bufend && *d == '-') {
1960                 tokenbuf[0] = '-';
1961                 d++;
1962                 while (d < bufend && (*d == ' ' || *d == '\t'))
1963                     d++;
1964             }
1965             if (d < bufend && isIDFIRST(*d)) {
1966                 d = scan_word(d, tokenbuf + 1, sizeof tokenbuf - 1,
1967                               FALSE, &len);
1968                 while (d < bufend && (*d == ' ' || *d == '\t'))
1969                     d++;
1970                 if (*d == '}') {
1971                     char minus = (tokenbuf[0] == '-');
1972                     if (dowarn &&
1973                         (keyword(tokenbuf + 1, len) ||
1974                          (minus && len == 1 && isALPHA(tokenbuf[1])) ||
1975                          perl_get_cv(tokenbuf + 1, FALSE) ))
1976                         warn("Ambiguous use of {%s} resolved to {\"%s\"}",
1977                              tokenbuf + !minus, tokenbuf + !minus);
1978                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
1979                     if (minus)
1980                         force_next('-');
1981                 }
1982             }
1983             /* FALL THROUGH */
1984         case XBLOCK:
1985             lex_brackstack[lex_brackets++] = XSTATE;
1986             expect = XSTATE;
1987             break;
1988         case XTERMBLOCK:
1989             lex_brackstack[lex_brackets++] = XOPERATOR;
1990             expect = XSTATE;
1991             break;
1992         default: {
1993                 char *t;
1994                 if (oldoldbufptr == last_lop)
1995                     lex_brackstack[lex_brackets++] = XTERM;
1996                 else
1997                     lex_brackstack[lex_brackets++] = XOPERATOR;
1998                 s = skipspace(s);
1999                 if (*s == '}')
2000                     OPERATOR(HASHBRACK);
2001                 if (isALPHA(*s)) {
2002                     for (t = s; t < bufend && isALNUM(*t); t++) ;
2003                 }
2004                 else if (*s == '\'' || *s == '"') {
2005                     t = strchr(s+1,*s);
2006                     if (!t++)
2007                         t = s;
2008                 }
2009                 else
2010                     t = s;
2011                 while (t < bufend && isSPACE(*t))
2012                     t++;
2013                 if ((*t == ',' && !isLOWER(*s)) || (*t == '=' && t[1] == '>'))
2014                     OPERATOR(HASHBRACK);
2015                 if (expect == XREF)
2016                     expect = XTERM;
2017                 else {
2018                     lex_brackstack[lex_brackets-1] = XSTATE;
2019                     expect = XSTATE;
2020                 }
2021             }
2022             break;
2023         }
2024         yylval.ival = curcop->cop_line;
2025         if (isSPACE(*s) || *s == '#')
2026             copline = NOLINE;   /* invalidate current command line number */
2027         TOKEN('{');
2028     case '}':
2029       rightbracket:
2030         s++;
2031         if (lex_brackets <= 0)
2032             yyerror("Unmatched right bracket");
2033         else
2034             expect = (expectation)lex_brackstack[--lex_brackets];
2035         if (lex_brackets < lex_formbrack)
2036             lex_formbrack = 0;
2037         if (lex_state == LEX_INTERPNORMAL) {
2038             if (lex_brackets == 0) {
2039                 if (lex_fakebrack) {
2040                     lex_state = LEX_INTERPEND;
2041                     bufptr = s;
2042                     return yylex();             /* ignore fake brackets */
2043                 }
2044                 if (*s == '-' && s[1] == '>')
2045                     lex_state = LEX_INTERPENDMAYBE;
2046                 else if (*s != '[' && *s != '{')
2047                     lex_state = LEX_INTERPEND;
2048             }
2049         }
2050         if (lex_brackets < lex_fakebrack) {
2051             bufptr = s;
2052             lex_fakebrack = 0;
2053             return yylex();             /* ignore fake brackets */
2054         }
2055         force_next('}');
2056         TOKEN(';');
2057     case '&':
2058         s++;
2059         tmp = *s++;
2060         if (tmp == '&')
2061             AOPERATOR(ANDAND);
2062         s--;
2063         if (expect == XOPERATOR) {
2064             if (dowarn && isALPHA(*s) && bufptr == linestart) {
2065                 curcop->cop_line--;
2066                 warn(warn_nosemi);
2067                 curcop->cop_line++;
2068             }
2069             BAop(OP_BIT_AND);
2070         }
2071
2072         s = scan_ident(s - 1, bufend, tokenbuf, sizeof tokenbuf, TRUE);
2073         if (*tokenbuf) {
2074             expect = XOPERATOR;
2075             force_ident(tokenbuf, '&');
2076         }
2077         else
2078             PREREF('&');
2079         yylval.ival = (OPpENTERSUB_AMPER<<8);
2080         TERM('&');
2081
2082     case '|':
2083         s++;
2084         tmp = *s++;
2085         if (tmp == '|')
2086             AOPERATOR(OROR);
2087         s--;
2088         BOop(OP_BIT_OR);
2089     case '=':
2090         s++;
2091         tmp = *s++;
2092         if (tmp == '=')
2093             Eop(OP_EQ);
2094         if (tmp == '>')
2095             OPERATOR(',');
2096         if (tmp == '~')
2097             PMop(OP_MATCH);
2098         if (dowarn && tmp && isSPACE(*s) && strchr("+-*/%.^&|<",tmp))
2099             warn("Reversed %c= operator",(int)tmp);
2100         s--;
2101         if (expect == XSTATE && isALPHA(tmp) &&
2102                 (s == linestart+1 || s[-2] == '\n') )
2103         {
2104             if (in_eval && !rsfp) {
2105                 d = bufend;
2106                 while (s < d) {
2107                     if (*s++ == '\n') {
2108                         incline(s);
2109                         if (strnEQ(s,"=cut",4)) {
2110                             s = strchr(s,'\n');
2111                             if (s)
2112                                 s++;
2113                             else
2114                                 s = d;
2115                             incline(s);
2116                             goto retry;
2117                         }
2118                     }
2119                 }
2120                 goto retry;
2121             }
2122             s = bufend;
2123             doextract = TRUE;
2124             goto retry;
2125         }
2126         if (lex_brackets < lex_formbrack) {
2127             char *t;
2128             for (t = s; *t == ' ' || *t == '\t'; t++) ;
2129             if (*t == '\n' || *t == '#') {
2130                 s--;
2131                 expect = XBLOCK;
2132                 goto leftbracket;
2133             }
2134         }
2135         yylval.ival = 0;
2136         OPERATOR(ASSIGNOP);
2137     case '!':
2138         s++;
2139         tmp = *s++;
2140         if (tmp == '=')
2141             Eop(OP_NE);
2142         if (tmp == '~')
2143             PMop(OP_NOT);
2144         s--;
2145         OPERATOR('!');
2146     case '<':
2147         if (expect != XOPERATOR) {
2148             if (s[1] != '<' && !strchr(s,'>'))
2149                 check_uni();
2150             if (s[1] == '<')
2151                 s = scan_heredoc(s);
2152             else
2153                 s = scan_inputsymbol(s);
2154             TERM(sublex_start());
2155         }
2156         s++;
2157         tmp = *s++;
2158         if (tmp == '<')
2159             SHop(OP_LEFT_SHIFT);
2160         if (tmp == '=') {
2161             tmp = *s++;
2162             if (tmp == '>')
2163                 Eop(OP_NCMP);
2164             s--;
2165             Rop(OP_LE);
2166         }
2167         s--;
2168         Rop(OP_LT);
2169     case '>':
2170         s++;
2171         tmp = *s++;
2172         if (tmp == '>')
2173             SHop(OP_RIGHT_SHIFT);
2174         if (tmp == '=')
2175             Rop(OP_GE);
2176         s--;
2177         Rop(OP_GT);
2178
2179     case '$':
2180         CLINE;
2181
2182         if (expect == XOPERATOR) {
2183             if (lex_formbrack && lex_brackets == lex_formbrack) {
2184                 expect = XTERM;
2185                 depcom();
2186                 return ','; /* grandfather non-comma-format format */
2187             }
2188         }
2189
2190         if (s[1] == '#' && (isALPHA(s[2]) || strchr("_{$:", s[2]))) {
2191             if (expect == XOPERATOR)
2192                 no_op("Array length", bufptr);
2193             tokenbuf[0] = '@';
2194             s = scan_ident(s + 1, bufend, tokenbuf + 1, sizeof tokenbuf - 1,
2195                            FALSE);
2196             if (!tokenbuf[1])
2197                 PREREF(DOLSHARP);
2198             expect = XOPERATOR;
2199             pending_ident = '#';
2200             TOKEN(DOLSHARP);
2201         }
2202
2203         if (expect == XOPERATOR)
2204             no_op("Scalar", bufptr);
2205         tokenbuf[0] = '$';
2206         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2207         if (!tokenbuf[1]) {
2208             if (s == bufend)
2209                 yyerror("Final $ should be \\$ or $name");
2210             PREREF('$');
2211         }
2212
2213         /* This kludge not intended to be bulletproof. */
2214         if (tokenbuf[1] == '[' && !tokenbuf[2]) {
2215             yylval.opval = newSVOP(OP_CONST, 0,
2216                                    newSViv((IV)compiling.cop_arybase));
2217             yylval.opval->op_private = OPpCONST_ARYBASE;
2218             TERM(THING);
2219         }
2220
2221         d = s;
2222         if (lex_state == LEX_NORMAL)
2223             s = skipspace(s);
2224
2225         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2226             char *t;
2227             if (*s == '[') {
2228                 tokenbuf[0] = '@';
2229                 if (dowarn) {
2230                     for(t = s + 1;
2231                         isSPACE(*t) || isALNUM(*t) || *t == '$';
2232                         t++) ;
2233                     if (*t++ == ',') {
2234                         bufptr = skipspace(bufptr);
2235                         while (t < bufend && *t != ']')
2236                             t++;
2237                         warn("Multidimensional syntax %.*s not supported",
2238                              (t - bufptr) + 1, bufptr);
2239                     }
2240                 }
2241             }
2242             else if (*s == '{') {
2243                 tokenbuf[0] = '%';
2244                 if (dowarn && strEQ(tokenbuf+1, "SIG") &&
2245                     (t = strchr(s, '}')) && (t = strchr(t, '=')))
2246                 {
2247                     char tmpbuf[sizeof tokenbuf];
2248                     STRLEN len;
2249                     for (t++; isSPACE(*t); t++) ;
2250                     if (isIDFIRST(*t)) {
2251                         t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE, &len);
2252                         if (*t != '(' && perl_get_cv(tmpbuf, FALSE))
2253                             warn("You need to quote \"%s\"", tmpbuf);
2254                     }
2255                 }
2256             }
2257         }
2258
2259         expect = XOPERATOR;
2260         if (lex_state == LEX_NORMAL && isSPACE(*d)) {
2261             bool islop = (last_lop == oldoldbufptr);
2262             if (!islop || last_lop_op == OP_GREPSTART)
2263                 expect = XOPERATOR;
2264             else if (strchr("$@\"'`q", *s))
2265                 expect = XTERM;         /* e.g. print $fh "foo" */
2266             else if (strchr("&*<%", *s) && isIDFIRST(s[1]))
2267                 expect = XTERM;         /* e.g. print $fh &sub */
2268             else if (isIDFIRST(*s)) {
2269                 char tmpbuf[sizeof tokenbuf];
2270                 scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2271                 if (keyword(tmpbuf, len))
2272                     expect = XTERM;     /* e.g. print $fh length() */
2273                 else {
2274                     GV *gv = gv_fetchpv(tmpbuf, FALSE, SVt_PVCV);
2275                     if (gv && GvCVu(gv))
2276                         expect = XTERM; /* e.g. print $fh subr() */
2277                 }
2278             }
2279             else if (isDIGIT(*s))
2280                 expect = XTERM;         /* e.g. print $fh 3 */
2281             else if (*s == '.' && isDIGIT(s[1]))
2282                 expect = XTERM;         /* e.g. print $fh .3 */
2283             else if (strchr("/?-+", *s) && !isSPACE(s[1]))
2284                 expect = XTERM;         /* e.g. print $fh -1 */
2285             else if (*s == '<' && s[1] == '<' && !isSPACE(s[2]))
2286                 expect = XTERM;         /* print $fh <<"EOF" */
2287         }
2288         pending_ident = '$';
2289         TOKEN('$');
2290
2291     case '@':
2292         if (expect == XOPERATOR)
2293             no_op("Array", s);
2294         tokenbuf[0] = '@';
2295         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2296         if (!tokenbuf[1]) {
2297             if (s == bufend)
2298                 yyerror("Final @ should be \\@ or @name");
2299             PREREF('@');
2300         }
2301         if (lex_state == LEX_NORMAL)
2302             s = skipspace(s);
2303         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2304             if (*s == '{')
2305                 tokenbuf[0] = '%';
2306
2307             /* Warn about @ where they meant $. */
2308             if (dowarn) {
2309                 if (*s == '[' || *s == '{') {
2310                     char *t = s + 1;
2311                     while (*t && (isALNUM(*t) || strchr(" \t$#+-'\"", *t)))
2312                         t++;
2313                     if (*t == '}' || *t == ']') {
2314                         t++;
2315                         bufptr = skipspace(bufptr);
2316                         warn("Scalar value %.*s better written as $%.*s",
2317                             t-bufptr, bufptr, t-bufptr-1, bufptr+1);
2318                     }
2319                 }
2320             }
2321         }
2322         pending_ident = '@';
2323         TERM('@');
2324
2325     case '/':                   /* may either be division or pattern */
2326     case '?':                   /* may either be conditional or pattern */
2327         if (expect != XOPERATOR) {
2328             check_uni();
2329             s = scan_pat(s);
2330             TERM(sublex_start());
2331         }
2332         tmp = *s++;
2333         if (tmp == '/')
2334             Mop(OP_DIVIDE);
2335         OPERATOR(tmp);
2336
2337     case '.':
2338         if (lex_formbrack && lex_brackets == lex_formbrack && s[1] == '\n' &&
2339                 (s == linestart || s[-1] == '\n') ) {
2340             lex_formbrack = 0;
2341             expect = XSTATE;
2342             goto rightbracket;
2343         }
2344         if (expect == XOPERATOR || !isDIGIT(s[1])) {
2345             tmp = *s++;
2346             if (*s == tmp) {
2347                 s++;
2348                 if (*s == tmp) {
2349                     s++;
2350                     yylval.ival = OPf_SPECIAL;
2351                 }
2352                 else
2353                     yylval.ival = 0;
2354                 OPERATOR(DOTDOT);
2355             }
2356             if (expect != XOPERATOR)
2357                 check_uni();
2358             Aop(OP_CONCAT);
2359         }
2360         /* FALL THROUGH */
2361     case '0': case '1': case '2': case '3': case '4':
2362     case '5': case '6': case '7': case '8': case '9':
2363         s = scan_num(s);
2364         if (expect == XOPERATOR)
2365             no_op("Number",s);
2366         TERM(THING);
2367
2368     case '\'':
2369         s = scan_str(s);
2370         if (expect == XOPERATOR) {
2371             if (lex_formbrack && lex_brackets == lex_formbrack) {
2372                 expect = XTERM;
2373                 depcom();
2374                 return ',';     /* grandfather non-comma-format format */
2375             }
2376             else
2377                 no_op("String",s);
2378         }
2379         if (!s)
2380             missingterm((char*)0);
2381         yylval.ival = OP_CONST;
2382         TERM(sublex_start());
2383
2384     case '"':
2385         s = scan_str(s);
2386         if (expect == XOPERATOR) {
2387             if (lex_formbrack && lex_brackets == lex_formbrack) {
2388                 expect = XTERM;
2389                 depcom();
2390                 return ',';     /* grandfather non-comma-format format */
2391             }
2392             else
2393                 no_op("String",s);
2394         }
2395         if (!s)
2396             missingterm((char*)0);
2397         yylval.ival = OP_CONST;
2398         for (d = SvPV(lex_stuff, len); len; len--, d++) {
2399             if (*d == '$' || *d == '@' || *d == '\\') {
2400                 yylval.ival = OP_STRINGIFY;
2401                 break;
2402             }
2403         }
2404         TERM(sublex_start());
2405
2406     case '`':
2407         s = scan_str(s);
2408         if (expect == XOPERATOR)
2409             no_op("Backticks",s);
2410         if (!s)
2411             missingterm((char*)0);
2412         yylval.ival = OP_BACKTICK;
2413         set_csh();
2414         TERM(sublex_start());
2415
2416     case '\\':
2417         s++;
2418         if (dowarn && lex_inwhat && isDIGIT(*s))
2419             warn("Can't use \\%c to mean $%c in expression", *s, *s);
2420         if (expect == XOPERATOR)
2421             no_op("Backslash",s);
2422         OPERATOR(REFGEN);
2423
2424     case 'x':
2425         if (isDIGIT(s[1]) && expect == XOPERATOR) {
2426             s++;
2427             Mop(OP_REPEAT);
2428         }
2429         goto keylookup;
2430
2431     case '_':
2432     case 'a': case 'A':
2433     case 'b': case 'B':
2434     case 'c': case 'C':
2435     case 'd': case 'D':
2436     case 'e': case 'E':
2437     case 'f': case 'F':
2438     case 'g': case 'G':
2439     case 'h': case 'H':
2440     case 'i': case 'I':
2441     case 'j': case 'J':
2442     case 'k': case 'K':
2443     case 'l': case 'L':
2444     case 'm': case 'M':
2445     case 'n': case 'N':
2446     case 'o': case 'O':
2447     case 'p': case 'P':
2448     case 'q': case 'Q':
2449     case 'r': case 'R':
2450     case 's': case 'S':
2451     case 't': case 'T':
2452     case 'u': case 'U':
2453     case 'v': case 'V':
2454     case 'w': case 'W':
2455               case 'X':
2456     case 'y': case 'Y':
2457     case 'z': case 'Z':
2458
2459       keylookup:
2460         bufptr = s;
2461         s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2462
2463         /* Some keywords can be followed by any delimiter, including ':' */
2464         tmp = (len == 1 && strchr("msyq", tokenbuf[0]) ||
2465                len == 2 && ((tokenbuf[0] == 't' && tokenbuf[1] == 'r') ||
2466                             (tokenbuf[0] == 'q' &&
2467                              strchr("qwx", tokenbuf[1]))));
2468
2469         /* x::* is just a word, unless x is "CORE" */
2470         if (!tmp && *s == ':' && s[1] == ':' && strNE(tokenbuf, "CORE"))
2471             goto just_a_word;
2472
2473         d = s;
2474         while (d < bufend && isSPACE(*d))
2475                 d++;    /* no comments skipped here, or s### is misparsed */
2476
2477         /* Is this a label? */
2478         if (!tmp && expect == XSTATE
2479               && d < bufend && *d == ':' && *(d + 1) != ':') {
2480             s = d + 1;
2481             yylval.pval = savepv(tokenbuf);
2482             CLINE;
2483             TOKEN(LABEL);
2484         }
2485
2486         /* Check for keywords */
2487         tmp = keyword(tokenbuf, len);
2488
2489         /* Is this a word before a => operator? */
2490         if (strnEQ(d,"=>",2)) {
2491             CLINE;
2492             if (dowarn && (tmp || perl_get_cv(tokenbuf, FALSE)))
2493                 warn("Ambiguous use of %s => resolved to \"%s\" =>",
2494                         tokenbuf, tokenbuf);
2495             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2496             yylval.opval->op_private = OPpCONST_BARE;
2497             TERM(WORD);
2498         }
2499
2500         if (tmp < 0) {                  /* second-class keyword? */
2501             GV* gv;
2502             if (expect != XOPERATOR &&
2503                 (*s != ':' || s[1] != ':') &&
2504                 (gv = gv_fetchpv(tokenbuf, FALSE, SVt_PVCV)) &&
2505                 GvIMPORTED_CV(gv))
2506             {
2507                 tmp = 0;
2508             }
2509             else
2510                 tmp = -tmp;
2511         }
2512
2513       reserved_word:
2514         switch (tmp) {
2515
2516         default:                        /* not a keyword */
2517           just_a_word: {
2518                 GV *gv;
2519                 SV *sv;
2520                 char lastchar = (bufptr == oldoldbufptr ? 0 : bufptr[-1]);
2521
2522                 /* Get the rest if it looks like a package qualifier */
2523
2524                 if (*s == '\'' || *s == ':' && s[1] == ':') {
2525                     s = scan_word(s, tokenbuf + len, sizeof tokenbuf - len,
2526                                   TRUE, &len);
2527                     if (!len)
2528                         croak("Bad name after %s::", tokenbuf);
2529                 }
2530
2531                 if (expect == XOPERATOR) {
2532                     if (bufptr == linestart) {
2533                         curcop->cop_line--;
2534                         warn(warn_nosemi);
2535                         curcop->cop_line++;
2536                     }
2537                     else
2538                         no_op("Bareword",s);
2539                 }
2540
2541                 /* Look for a subroutine with this name in current package. */
2542
2543                 gv = gv_fetchpv(tokenbuf,FALSE, SVt_PVCV);
2544
2545                 /* Presume this is going to be a bareword of some sort. */
2546
2547                 CLINE;
2548                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2549                 yylval.opval->op_private = OPpCONST_BARE;
2550
2551                 /* See if it's the indirect object for a list operator. */
2552
2553                 if (oldoldbufptr &&
2554                     oldoldbufptr < bufptr &&
2555                     (oldoldbufptr == last_lop || oldoldbufptr == last_uni) &&
2556                     /* NO SKIPSPACE BEFORE HERE! */
2557                     (expect == XREF ||
2558                      (opargs[last_lop_op] >> OASHIFT & 7) == OA_FILEREF) )
2559                 {
2560                     bool immediate_paren = *s == '(';
2561
2562                     /* (Now we can afford to cross potential line boundary.) */
2563                     s = skipspace(s);
2564
2565                     /* Two barewords in a row may indicate method call. */
2566
2567                     if ((isALPHA(*s) || *s == '$') && (tmp=intuit_method(s,gv)))
2568                         return tmp;
2569
2570                     /* If not a declared subroutine, it's an indirect object. */
2571                     /* (But it's an indir obj regardless for sort.) */
2572
2573                     if ((last_lop_op == OP_SORT ||
2574                          (!immediate_paren && (!gv || !GvCVu(gv))) ) &&
2575                         (last_lop_op != OP_MAPSTART && last_lop_op != OP_GREPSTART)){
2576                         expect = (last_lop == oldoldbufptr) ? XTERM : XOPERATOR;
2577                         goto bareword;
2578                     }
2579                 }
2580
2581                 /* If followed by a paren, it's certainly a subroutine. */
2582
2583                 expect = XOPERATOR;
2584                 s = skipspace(s);
2585                 if (*s == '(') {
2586                     CLINE;
2587                     if (gv && GvCVu(gv)) {
2588                         for (d = s + 1; *d == ' ' || *d == '\t'; d++) ;
2589                         if (*d == ')' && (sv = cv_const_sv(GvCV(gv)))) {
2590                             s = d + 1;
2591                             goto its_constant;
2592                         }
2593                     }
2594                     nextval[nexttoke].opval = yylval.opval;
2595                     expect = XOPERATOR;
2596                     force_next(WORD);
2597                     yylval.ival = 0;
2598                     TOKEN('&');
2599                 }
2600
2601                 /* If followed by var or block, call it a method (unless sub) */
2602
2603                 if ((*s == '$' || *s == '{') && (!gv || !GvCVu(gv))) {
2604                     last_lop = oldbufptr;
2605                     last_lop_op = OP_METHOD;
2606                     PREBLOCK(METHOD);
2607                 }
2608
2609                 /* If followed by a bareword, see if it looks like indir obj. */
2610
2611                 if ((isALPHA(*s) || *s == '$') && (tmp = intuit_method(s,gv)))
2612                     return tmp;
2613
2614                 /* Not a method, so call it a subroutine (if defined) */
2615
2616                 if (gv && GvCVu(gv)) {
2617                     CV* cv;
2618                     if (lastchar == '-')
2619                         warn("Ambiguous use of -%s resolved as -&%s()",
2620                                 tokenbuf, tokenbuf);
2621                     last_lop = oldbufptr;
2622                     last_lop_op = OP_ENTERSUB;
2623                     /* Check for a constant sub */
2624                     cv = GvCV(gv);
2625                     if ((sv = cv_const_sv(cv))) {
2626                   its_constant:
2627                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
2628                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc(sv);
2629                         yylval.opval->op_private = 0;
2630                         TOKEN(WORD);
2631                     }
2632
2633                     /* Resolve to GV now. */
2634                     op_free(yylval.opval);
2635                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
2636                     /* Is there a prototype? */
2637                     if (SvPOK(cv)) {
2638                         STRLEN len;
2639                         char *proto = SvPV((SV*)cv, len);
2640                         if (!len)
2641                             TERM(FUNC0SUB);
2642                         if (strEQ(proto, "$"))
2643                             OPERATOR(UNIOPSUB);
2644                         if (*proto == '&' && *s == '{') {
2645                             sv_setpv(subname,"__ANON__");
2646                             PREBLOCK(LSTOPSUB);
2647                         }
2648                     }
2649                     nextval[nexttoke].opval = yylval.opval;
2650                     expect = XTERM;
2651                     force_next(WORD);
2652                     TOKEN(NOAMP);
2653                 }
2654
2655                 if (hints & HINT_STRICT_SUBS &&
2656                     lastchar != '-' &&
2657                     strnNE(s,"->",2) &&
2658                     last_lop_op != OP_TRUNCATE &&  /* S/F prototype in opcode.pl */
2659                     last_lop_op != OP_ACCEPT &&
2660                     last_lop_op != OP_PIPE_OP &&
2661                     last_lop_op != OP_SOCKPAIR)
2662                 {
2663                     warn(
2664                      "Bareword \"%s\" not allowed while \"strict subs\" in use",
2665                         tokenbuf);
2666                     ++error_count;
2667                 }
2668
2669                 /* Call it a bare word */
2670
2671             bareword:
2672                 if (dowarn) {
2673                     if (lastchar != '-') {
2674                         for (d = tokenbuf; *d && isLOWER(*d); d++) ;
2675                         if (!*d)
2676                             warn(warn_reserved, tokenbuf);
2677                     }
2678                 }
2679                 if (lastchar && strchr("*%&", lastchar)) {
2680                     warn("Operator or semicolon missing before %c%s",
2681                         lastchar, tokenbuf);
2682                     warn("Ambiguous use of %c resolved as operator %c",
2683                         lastchar, lastchar);
2684                 }
2685                 TOKEN(WORD);
2686             }
2687
2688         case KEY___FILE__:
2689             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2690                                         newSVsv(GvSV(curcop->cop_filegv)));
2691             TERM(THING);
2692
2693         case KEY___LINE__:
2694             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2695                                     newSVpvf("%ld", (long)curcop->cop_line));
2696             TERM(THING);
2697
2698         case KEY___PACKAGE__:
2699             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2700                                         (curstash
2701                                          ? newSVsv(curstname)
2702                                          : &sv_undef));
2703             TERM(THING);
2704
2705         case KEY___DATA__:
2706         case KEY___END__: {
2707             GV *gv;
2708
2709             /*SUPPRESS 560*/
2710             if (rsfp && (!in_eval || tokenbuf[2] == 'D')) {
2711                 char *pname = "main";
2712                 if (tokenbuf[2] == 'D')
2713                     pname = HvNAME(curstash ? curstash : defstash);
2714                 gv = gv_fetchpv(form("%s::DATA", pname), TRUE, SVt_PVIO);
2715                 GvMULTI_on(gv);
2716                 if (!GvIO(gv))
2717                     GvIOp(gv) = newIO();
2718                 IoIFP(GvIOp(gv)) = rsfp;
2719 #if defined(HAS_FCNTL) && defined(F_SETFD)
2720                 {
2721                     int fd = PerlIO_fileno(rsfp);
2722                     fcntl(fd,F_SETFD,fd >= 3);
2723                 }
2724 #endif
2725                 /* Mark this internal pseudo-handle as clean */
2726                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
2727                 if (preprocess)
2728                     IoTYPE(GvIOp(gv)) = '|';
2729                 else if ((PerlIO*)rsfp == PerlIO_stdin())
2730                     IoTYPE(GvIOp(gv)) = '-';
2731                 else
2732                     IoTYPE(GvIOp(gv)) = '<';
2733                 rsfp = Nullfp;
2734             }
2735             goto fake_eof;
2736         }
2737
2738         case KEY_AUTOLOAD:
2739         case KEY_DESTROY:
2740         case KEY_BEGIN:
2741         case KEY_END:
2742         case KEY_INIT:
2743             if (expect == XSTATE) {
2744                 s = bufptr;
2745                 goto really_sub;
2746             }
2747             goto just_a_word;
2748
2749         case KEY_CORE:
2750             if (*s == ':' && s[1] == ':') {
2751                 s += 2;
2752                 d = s;
2753                 s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2754                 tmp = keyword(tokenbuf, len);
2755                 if (tmp < 0)
2756                     tmp = -tmp;
2757                 goto reserved_word;
2758             }
2759             goto just_a_word;
2760
2761         case KEY_abs:
2762             UNI(OP_ABS);
2763
2764         case KEY_alarm:
2765             UNI(OP_ALARM);
2766
2767         case KEY_accept:
2768             LOP(OP_ACCEPT,XTERM);
2769
2770         case KEY_and:
2771             OPERATOR(ANDOP);
2772
2773         case KEY_atan2:
2774             LOP(OP_ATAN2,XTERM);
2775
2776         case KEY_bind:
2777             LOP(OP_BIND,XTERM);
2778
2779         case KEY_binmode:
2780             UNI(OP_BINMODE);
2781
2782         case KEY_bless:
2783             LOP(OP_BLESS,XTERM);
2784
2785         case KEY_chop:
2786             UNI(OP_CHOP);
2787
2788         case KEY_continue:
2789             PREBLOCK(CONTINUE);
2790
2791         case KEY_chdir:
2792             (void)gv_fetchpv("ENV",TRUE, SVt_PVHV);     /* may use HOME */
2793             UNI(OP_CHDIR);
2794
2795         case KEY_close:
2796             UNI(OP_CLOSE);
2797
2798         case KEY_closedir:
2799             UNI(OP_CLOSEDIR);
2800
2801         case KEY_cmp:
2802             Eop(OP_SCMP);
2803
2804         case KEY_caller:
2805             UNI(OP_CALLER);
2806
2807         case KEY_crypt:
2808 #ifdef FCRYPT
2809             if (!cryptseen++)
2810                 init_des();
2811 #endif
2812             LOP(OP_CRYPT,XTERM);
2813
2814         case KEY_chmod:
2815             if (dowarn) {
2816                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
2817                 if (*d != '0' && isDIGIT(*d))
2818                     yywarn("chmod: mode argument is missing initial 0");
2819             }
2820             LOP(OP_CHMOD,XTERM);
2821
2822         case KEY_chown:
2823             LOP(OP_CHOWN,XTERM);
2824
2825         case KEY_connect:
2826             LOP(OP_CONNECT,XTERM);
2827
2828         case KEY_chr:
2829             UNI(OP_CHR);
2830
2831         case KEY_cos:
2832             UNI(OP_COS);
2833
2834         case KEY_chroot:
2835             UNI(OP_CHROOT);
2836
2837         case KEY_do:
2838             s = skipspace(s);
2839             if (*s == '{')
2840                 PRETERMBLOCK(DO);
2841             if (*s != '\'')
2842                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
2843             OPERATOR(DO);
2844
2845         case KEY_die:
2846             hints |= HINT_BLOCK_SCOPE;
2847             LOP(OP_DIE,XTERM);
2848
2849         case KEY_defined:
2850             UNI(OP_DEFINED);
2851
2852         case KEY_delete:
2853             UNI(OP_DELETE);
2854
2855         case KEY_dbmopen:
2856             gv_fetchpv("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
2857             LOP(OP_DBMOPEN,XTERM);
2858
2859         case KEY_dbmclose:
2860             UNI(OP_DBMCLOSE);
2861
2862         case KEY_dump:
2863             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2864             LOOPX(OP_DUMP);
2865
2866         case KEY_else:
2867             PREBLOCK(ELSE);
2868
2869         case KEY_elsif:
2870             yylval.ival = curcop->cop_line;
2871             OPERATOR(ELSIF);
2872
2873         case KEY_eq:
2874             Eop(OP_SEQ);
2875
2876         case KEY_exists:
2877             UNI(OP_EXISTS);
2878             
2879         case KEY_exit:
2880             UNI(OP_EXIT);
2881
2882         case KEY_eval:
2883             s = skipspace(s);
2884             expect = (*s == '{') ? XTERMBLOCK : XTERM;
2885             UNIBRACK(OP_ENTEREVAL);
2886
2887         case KEY_eof:
2888             UNI(OP_EOF);
2889
2890         case KEY_exp:
2891             UNI(OP_EXP);
2892
2893         case KEY_each:
2894             UNI(OP_EACH);
2895
2896         case KEY_exec:
2897             set_csh();
2898             LOP(OP_EXEC,XREF);
2899
2900         case KEY_endhostent:
2901             FUN0(OP_EHOSTENT);
2902
2903         case KEY_endnetent:
2904             FUN0(OP_ENETENT);
2905
2906         case KEY_endservent:
2907             FUN0(OP_ESERVENT);
2908
2909         case KEY_endprotoent:
2910             FUN0(OP_EPROTOENT);
2911
2912         case KEY_endpwent:
2913             FUN0(OP_EPWENT);
2914
2915         case KEY_endgrent:
2916             FUN0(OP_EGRENT);
2917
2918         case KEY_for:
2919         case KEY_foreach:
2920             yylval.ival = curcop->cop_line;
2921             s = skipspace(s);
2922             if (isIDFIRST(*s)) {
2923                 char *p = s;
2924                 if ((bufend - p) >= 3 &&
2925                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
2926                     p += 2;
2927                 p = skipspace(p);
2928                 if (isIDFIRST(*p))
2929                     croak("Missing $ on loop variable");
2930             }
2931             OPERATOR(FOR);
2932
2933         case KEY_formline:
2934             LOP(OP_FORMLINE,XTERM);
2935
2936         case KEY_fork:
2937             FUN0(OP_FORK);
2938
2939         case KEY_fcntl:
2940             LOP(OP_FCNTL,XTERM);
2941
2942         case KEY_fileno:
2943             UNI(OP_FILENO);
2944
2945         case KEY_flock:
2946             LOP(OP_FLOCK,XTERM);
2947
2948         case KEY_gt:
2949             Rop(OP_SGT);
2950
2951         case KEY_ge:
2952             Rop(OP_SGE);
2953
2954         case KEY_grep:
2955             LOP(OP_GREPSTART, *s == '(' ? XTERM : XREF);
2956
2957         case KEY_goto:
2958             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2959             LOOPX(OP_GOTO);
2960
2961         case KEY_gmtime:
2962             UNI(OP_GMTIME);
2963
2964         case KEY_getc:
2965             UNI(OP_GETC);
2966
2967         case KEY_getppid:
2968             FUN0(OP_GETPPID);
2969
2970         case KEY_getpgrp:
2971             UNI(OP_GETPGRP);
2972
2973         case KEY_getpriority:
2974             LOP(OP_GETPRIORITY,XTERM);
2975
2976         case KEY_getprotobyname:
2977             UNI(OP_GPBYNAME);
2978
2979         case KEY_getprotobynumber:
2980             LOP(OP_GPBYNUMBER,XTERM);
2981
2982         case KEY_getprotoent:
2983             FUN0(OP_GPROTOENT);
2984
2985         case KEY_getpwent:
2986             FUN0(OP_GPWENT);
2987
2988         case KEY_getpwnam:
2989             UNI(OP_GPWNAM);
2990
2991         case KEY_getpwuid:
2992             UNI(OP_GPWUID);
2993
2994         case KEY_getpeername:
2995             UNI(OP_GETPEERNAME);
2996
2997         case KEY_gethostbyname:
2998             UNI(OP_GHBYNAME);
2999
3000         case KEY_gethostbyaddr:
3001             LOP(OP_GHBYADDR,XTERM);
3002
3003         case KEY_gethostent:
3004             FUN0(OP_GHOSTENT);
3005
3006         case KEY_getnetbyname:
3007             UNI(OP_GNBYNAME);
3008
3009         case KEY_getnetbyaddr:
3010             LOP(OP_GNBYADDR,XTERM);
3011
3012         case KEY_getnetent:
3013             FUN0(OP_GNETENT);
3014
3015         case KEY_getservbyname:
3016             LOP(OP_GSBYNAME,XTERM);
3017
3018         case KEY_getservbyport:
3019             LOP(OP_GSBYPORT,XTERM);
3020
3021         case KEY_getservent:
3022             FUN0(OP_GSERVENT);
3023
3024         case KEY_getsockname:
3025             UNI(OP_GETSOCKNAME);
3026
3027         case KEY_getsockopt:
3028             LOP(OP_GSOCKOPT,XTERM);
3029
3030         case KEY_getgrent:
3031             FUN0(OP_GGRENT);
3032
3033         case KEY_getgrnam:
3034             UNI(OP_GGRNAM);
3035
3036         case KEY_getgrgid:
3037             UNI(OP_GGRGID);
3038
3039         case KEY_getlogin:
3040             FUN0(OP_GETLOGIN);
3041
3042         case KEY_glob:
3043             set_csh();
3044             LOP(OP_GLOB,XTERM);
3045
3046         case KEY_hex:
3047             UNI(OP_HEX);
3048
3049         case KEY_if:
3050             yylval.ival = curcop->cop_line;
3051             OPERATOR(IF);
3052
3053         case KEY_index:
3054             LOP(OP_INDEX,XTERM);
3055
3056         case KEY_int:
3057             UNI(OP_INT);
3058
3059         case KEY_ioctl:
3060             LOP(OP_IOCTL,XTERM);
3061
3062         case KEY_join:
3063             LOP(OP_JOIN,XTERM);
3064
3065         case KEY_keys:
3066             UNI(OP_KEYS);
3067
3068         case KEY_kill:
3069             LOP(OP_KILL,XTERM);
3070
3071         case KEY_last:
3072             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3073             LOOPX(OP_LAST);
3074             
3075         case KEY_lc:
3076             UNI(OP_LC);
3077
3078         case KEY_lcfirst:
3079             UNI(OP_LCFIRST);
3080
3081         case KEY_local:
3082             OPERATOR(LOCAL);
3083
3084         case KEY_length:
3085             UNI(OP_LENGTH);
3086
3087         case KEY_lt:
3088             Rop(OP_SLT);
3089
3090         case KEY_le:
3091             Rop(OP_SLE);
3092
3093         case KEY_localtime:
3094             UNI(OP_LOCALTIME);
3095
3096         case KEY_log:
3097             UNI(OP_LOG);
3098
3099         case KEY_link:
3100             LOP(OP_LINK,XTERM);
3101
3102         case KEY_listen:
3103             LOP(OP_LISTEN,XTERM);
3104
3105         case KEY_lock:
3106             UNI(OP_LOCK);
3107
3108         case KEY_lstat:
3109             UNI(OP_LSTAT);
3110
3111         case KEY_m:
3112             s = scan_pat(s);
3113             TERM(sublex_start());
3114
3115         case KEY_map:
3116             LOP(OP_MAPSTART,XREF);
3117             
3118         case KEY_mkdir:
3119             LOP(OP_MKDIR,XTERM);
3120
3121         case KEY_msgctl:
3122             LOP(OP_MSGCTL,XTERM);
3123
3124         case KEY_msgget:
3125             LOP(OP_MSGGET,XTERM);
3126
3127         case KEY_msgrcv:
3128             LOP(OP_MSGRCV,XTERM);
3129
3130         case KEY_msgsnd:
3131             LOP(OP_MSGSND,XTERM);
3132
3133         case KEY_my:
3134             in_my = TRUE;
3135             s = skipspace(s);
3136             if (isIDFIRST(*s)) {
3137                 s = scan_word(s, tokenbuf, sizeof tokenbuf, TRUE, &len);
3138                 in_my_stash = gv_stashpv(tokenbuf, FALSE);
3139                 if (!in_my_stash) {
3140                     char tmpbuf[1024];
3141                     bufptr = s;
3142                     sprintf(tmpbuf, "No such class %.1000s", tokenbuf);
3143                     yyerror(tmpbuf);
3144                 }
3145             }
3146             OPERATOR(MY);
3147
3148         case KEY_next:
3149             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3150             LOOPX(OP_NEXT);
3151
3152         case KEY_ne:
3153             Eop(OP_SNE);
3154
3155         case KEY_no:
3156             if (expect != XSTATE)
3157                 yyerror("\"no\" not allowed in expression");
3158             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3159             s = force_version(s);
3160             yylval.ival = 0;
3161             OPERATOR(USE);
3162
3163         case KEY_not:
3164             OPERATOR(NOTOP);
3165
3166         case KEY_open:
3167             s = skipspace(s);
3168             if (isIDFIRST(*s)) {
3169                 char *t;
3170                 for (d = s; isALNUM(*d); d++) ;
3171                 t = skipspace(d);
3172                 if (strchr("|&*+-=!?:.", *t))
3173                     warn("Precedence problem: open %.*s should be open(%.*s)",
3174                         d-s,s, d-s,s);
3175             }
3176             LOP(OP_OPEN,XTERM);
3177
3178         case KEY_or:
3179             yylval.ival = OP_OR;
3180             OPERATOR(OROP);
3181
3182         case KEY_ord:
3183             UNI(OP_ORD);
3184
3185         case KEY_oct:
3186             UNI(OP_OCT);
3187
3188         case KEY_opendir:
3189             LOP(OP_OPEN_DIR,XTERM);
3190
3191         case KEY_print:
3192             checkcomma(s,tokenbuf,"filehandle");
3193             LOP(OP_PRINT,XREF);
3194
3195         case KEY_printf:
3196             checkcomma(s,tokenbuf,"filehandle");
3197             LOP(OP_PRTF,XREF);
3198
3199         case KEY_prototype:
3200             UNI(OP_PROTOTYPE);
3201
3202         case KEY_push:
3203             LOP(OP_PUSH,XTERM);
3204
3205         case KEY_pop:
3206             UNI(OP_POP);
3207
3208         case KEY_pos:
3209             UNI(OP_POS);
3210             
3211         case KEY_pack:
3212             LOP(OP_PACK,XTERM);
3213
3214         case KEY_package:
3215             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3216             OPERATOR(PACKAGE);
3217
3218         case KEY_pipe:
3219             LOP(OP_PIPE_OP,XTERM);
3220
3221         case KEY_q:
3222             s = scan_str(s);
3223             if (!s)
3224                 missingterm((char*)0);
3225             yylval.ival = OP_CONST;
3226             TERM(sublex_start());
3227
3228         case KEY_quotemeta:
3229             UNI(OP_QUOTEMETA);
3230
3231         case KEY_qw:
3232             s = scan_str(s);
3233             if (!s)
3234                 missingterm((char*)0);
3235             if (dowarn && SvLEN(lex_stuff)) {
3236                 d = SvPV_force(lex_stuff, len);
3237                 for (; len; --len, ++d) {
3238                     if (*d == ',') {
3239                         warn("Possible attempt to separate words with commas");
3240                         break;
3241                     }
3242                     if (*d == '#') {
3243                         warn("Possible attempt to put comments in qw() list");
3244                         break;
3245                     }
3246                 }
3247             }
3248             force_next(')');
3249             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, q(lex_stuff));
3250             lex_stuff = Nullsv;
3251             force_next(THING);
3252             force_next(',');
3253             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(" ",1));
3254             force_next(THING);
3255             force_next('(');
3256             yylval.ival = OP_SPLIT;
3257             CLINE;
3258             expect = XTERM;
3259             bufptr = s;
3260             last_lop = oldbufptr;
3261             last_lop_op = OP_SPLIT;
3262             return FUNC;
3263
3264         case KEY_qq:
3265             s = scan_str(s);
3266             if (!s)
3267                 missingterm((char*)0);
3268             yylval.ival = OP_STRINGIFY;
3269             if (SvIVX(lex_stuff) == '\'')
3270                 SvIVX(lex_stuff) = 0;   /* qq'$foo' should intepolate */
3271             TERM(sublex_start());
3272
3273         case KEY_qx:
3274             s = scan_str(s);
3275             if (!s)
3276                 missingterm((char*)0);
3277             yylval.ival = OP_BACKTICK;
3278             set_csh();
3279             TERM(sublex_start());
3280
3281         case KEY_return:
3282             OLDLOP(OP_RETURN);
3283
3284         case KEY_require:
3285             *tokenbuf = '\0';
3286             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3287             if (isIDFIRST(*tokenbuf))
3288                 gv_stashpvn(tokenbuf, strlen(tokenbuf), TRUE);
3289             else if (*s == '<')
3290                 yyerror("<> should be quotes");
3291             UNI(OP_REQUIRE);
3292
3293         case KEY_reset:
3294             UNI(OP_RESET);
3295
3296         case KEY_redo:
3297             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3298             LOOPX(OP_REDO);
3299
3300         case KEY_rename:
3301             LOP(OP_RENAME,XTERM);
3302
3303         case KEY_rand:
3304             UNI(OP_RAND);
3305
3306         case KEY_rmdir:
3307             UNI(OP_RMDIR);
3308
3309         case KEY_rindex:
3310             LOP(OP_RINDEX,XTERM);
3311
3312         case KEY_read:
3313             LOP(OP_READ,XTERM);
3314
3315         case KEY_readdir:
3316             UNI(OP_READDIR);
3317
3318         case KEY_readline:
3319             set_csh();
3320             UNI(OP_READLINE);
3321
3322         case KEY_readpipe:
3323             set_csh();
3324             UNI(OP_BACKTICK);
3325
3326         case KEY_rewinddir:
3327             UNI(OP_REWINDDIR);
3328
3329         case KEY_recv:
3330             LOP(OP_RECV,XTERM);
3331
3332         case KEY_reverse:
3333             LOP(OP_REVERSE,XTERM);
3334
3335         case KEY_readlink:
3336             UNI(OP_READLINK);
3337
3338         case KEY_ref:
3339             UNI(OP_REF);
3340
3341         case KEY_s:
3342             s = scan_subst(s);
3343             if (yylval.opval)
3344                 TERM(sublex_start());
3345             else
3346                 TOKEN(1);       /* force error */
3347
3348         case KEY_chomp:
3349             UNI(OP_CHOMP);
3350             
3351         case KEY_scalar:
3352             UNI(OP_SCALAR);
3353
3354         case KEY_select:
3355             LOP(OP_SELECT,XTERM);
3356
3357         case KEY_seek:
3358             LOP(OP_SEEK,XTERM);
3359
3360         case KEY_semctl:
3361             LOP(OP_SEMCTL,XTERM);
3362
3363         case KEY_semget:
3364             LOP(OP_SEMGET,XTERM);
3365
3366         case KEY_semop:
3367             LOP(OP_SEMOP,XTERM);
3368
3369         case KEY_send:
3370             LOP(OP_SEND,XTERM);
3371
3372         case KEY_setpgrp:
3373             LOP(OP_SETPGRP,XTERM);
3374
3375         case KEY_setpriority:
3376             LOP(OP_SETPRIORITY,XTERM);
3377
3378         case KEY_sethostent:
3379             UNI(OP_SHOSTENT);
3380
3381         case KEY_setnetent:
3382             UNI(OP_SNETENT);
3383
3384         case KEY_setservent:
3385             UNI(OP_SSERVENT);
3386
3387         case KEY_setprotoent:
3388             UNI(OP_SPROTOENT);
3389
3390         case KEY_setpwent:
3391             FUN0(OP_SPWENT);
3392
3393         case KEY_setgrent:
3394             FUN0(OP_SGRENT);
3395
3396         case KEY_seekdir:
3397             LOP(OP_SEEKDIR,XTERM);
3398
3399         case KEY_setsockopt:
3400             LOP(OP_SSOCKOPT,XTERM);
3401
3402         case KEY_shift:
3403             UNI(OP_SHIFT);
3404
3405         case KEY_shmctl:
3406             LOP(OP_SHMCTL,XTERM);
3407
3408         case KEY_shmget:
3409             LOP(OP_SHMGET,XTERM);
3410
3411         case KEY_shmread:
3412             LOP(OP_SHMREAD,XTERM);
3413
3414         case KEY_shmwrite:
3415             LOP(OP_SHMWRITE,XTERM);
3416
3417         case KEY_shutdown:
3418             LOP(OP_SHUTDOWN,XTERM);
3419
3420         case KEY_sin:
3421             UNI(OP_SIN);
3422
3423         case KEY_sleep:
3424             UNI(OP_SLEEP);
3425
3426         case KEY_socket:
3427             LOP(OP_SOCKET,XTERM);
3428
3429         case KEY_socketpair:
3430             LOP(OP_SOCKPAIR,XTERM);
3431
3432         case KEY_sort:
3433             checkcomma(s,tokenbuf,"subroutine name");
3434             s = skipspace(s);
3435             if (*s == ';' || *s == ')')         /* probably a close */
3436                 croak("sort is now a reserved word");
3437             expect = XTERM;
3438             s = force_word(s,WORD,TRUE,TRUE,TRUE);
3439             LOP(OP_SORT,XREF);
3440
3441         case KEY_split:
3442             LOP(OP_SPLIT,XTERM);
3443
3444         case KEY_sprintf:
3445             LOP(OP_SPRINTF,XTERM);
3446
3447         case KEY_splice:
3448             LOP(OP_SPLICE,XTERM);
3449
3450         case KEY_sqrt:
3451             UNI(OP_SQRT);
3452
3453         case KEY_srand:
3454             UNI(OP_SRAND);
3455
3456         case KEY_stat:
3457             UNI(OP_STAT);
3458
3459         case KEY_study:
3460             sawstudy++;
3461             UNI(OP_STUDY);
3462
3463         case KEY_substr:
3464             LOP(OP_SUBSTR,XTERM);
3465
3466         case KEY_format:
3467         case KEY_sub:
3468           really_sub:
3469             s = skipspace(s);
3470
3471             if (isIDFIRST(*s) || *s == '\'' || *s == ':') {
3472                 char tmpbuf[sizeof tokenbuf];
3473                 expect = XBLOCK;
3474                 d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
3475                 if (strchr(tmpbuf, ':'))
3476                     sv_setpv(subname, tmpbuf);
3477                 else {
3478                     sv_setsv(subname,curstname);
3479                     sv_catpvn(subname,"::",2);
3480                     sv_catpvn(subname,tmpbuf,len);
3481                 }
3482                 s = force_word(s,WORD,FALSE,TRUE,TRUE);
3483                 s = skipspace(s);
3484             }
3485             else {
3486                 expect = XTERMBLOCK;
3487                 sv_setpv(subname,"?");
3488             }
3489
3490             if (tmp == KEY_format) {
3491                 s = skipspace(s);
3492                 if (*s == '=')
3493                     lex_formbrack = lex_brackets + 1;
3494                 OPERATOR(FORMAT);
3495             }
3496
3497             /* Look for a prototype */
3498             if (*s == '(') {
3499                 char *p;
3500
3501                 s = scan_str(s);
3502                 if (!s) {
3503                     if (lex_stuff)
3504                         SvREFCNT_dec(lex_stuff);
3505                     lex_stuff = Nullsv;
3506                     croak("Prototype not terminated");
3507                 }
3508                 /* strip spaces */
3509                 d = SvPVX(lex_stuff);
3510                 tmp = 0;
3511                 for (p = d; *p; ++p) {
3512                     if (!isSPACE(*p))
3513                         d[tmp++] = *p;
3514                 }
3515                 d[tmp] = '\0';
3516                 SvCUR(lex_stuff) = tmp;
3517
3518                 nexttoke++;
3519                 nextval[1] = nextval[0];
3520                 nexttype[1] = nexttype[0];
3521                 nextval[0].opval = (OP*)newSVOP(OP_CONST, 0, lex_stuff);
3522                 nexttype[0] = THING;
3523                 if (nexttoke == 1) {
3524                     lex_defer = lex_state;
3525                     lex_expect = expect;
3526                     lex_state = LEX_KNOWNEXT;
3527                 }
3528                 lex_stuff = Nullsv;
3529             }
3530
3531             if (*SvPV(subname,na) == '?') {
3532                 sv_setpv(subname,"__ANON__");
3533                 TOKEN(ANONSUB);
3534             }
3535             PREBLOCK(SUB);
3536
3537         case KEY_system:
3538             set_csh();
3539             LOP(OP_SYSTEM,XREF);
3540
3541         case KEY_symlink:
3542             LOP(OP_SYMLINK,XTERM);
3543
3544         case KEY_syscall:
3545             LOP(OP_SYSCALL,XTERM);
3546
3547         case KEY_sysopen:
3548             LOP(OP_SYSOPEN,XTERM);
3549
3550         case KEY_sysseek:
3551             LOP(OP_SYSSEEK,XTERM);
3552
3553         case KEY_sysread:
3554             LOP(OP_SYSREAD,XTERM);
3555
3556         case KEY_syswrite:
3557             LOP(OP_SYSWRITE,XTERM);
3558
3559         case KEY_tr:
3560             s = scan_trans(s);
3561             TERM(sublex_start());
3562
3563         case KEY_tell:
3564             UNI(OP_TELL);
3565
3566         case KEY_telldir:
3567             UNI(OP_TELLDIR);
3568
3569         case KEY_tie:
3570             LOP(OP_TIE,XTERM);
3571
3572         case KEY_tied:
3573             UNI(OP_TIED);
3574
3575         case KEY_time:
3576             FUN0(OP_TIME);
3577
3578         case KEY_times:
3579             FUN0(OP_TMS);
3580
3581         case KEY_truncate:
3582             LOP(OP_TRUNCATE,XTERM);
3583
3584         case KEY_uc:
3585             UNI(OP_UC);
3586
3587         case KEY_ucfirst:
3588             UNI(OP_UCFIRST);
3589
3590         case KEY_untie:
3591             UNI(OP_UNTIE);
3592
3593         case KEY_until:
3594             yylval.ival = curcop->cop_line;
3595             OPERATOR(UNTIL);
3596
3597         case KEY_unless:
3598             yylval.ival = curcop->cop_line;
3599             OPERATOR(UNLESS);
3600
3601         case KEY_unlink:
3602             LOP(OP_UNLINK,XTERM);
3603
3604         case KEY_undef:
3605             UNI(OP_UNDEF);
3606
3607         case KEY_unpack:
3608             LOP(OP_UNPACK,XTERM);
3609
3610         case KEY_utime:
3611             LOP(OP_UTIME,XTERM);
3612
3613         case KEY_umask:
3614             if (dowarn) {
3615                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
3616                 if (*d != '0' && isDIGIT(*d))
3617                     yywarn("umask: argument is missing initial 0");
3618             }
3619             UNI(OP_UMASK);
3620
3621         case KEY_unshift:
3622             LOP(OP_UNSHIFT,XTERM);
3623
3624         case KEY_use:
3625             if (expect != XSTATE)
3626                 yyerror("\"use\" not allowed in expression");
3627             s = skipspace(s);
3628             if(isDIGIT(*s)) {
3629                 s = force_version(s);
3630                 if(*s == ';' || (s = skipspace(s), *s == ';')) {
3631                     nextval[nexttoke].opval = Nullop;
3632                     force_next(WORD);
3633                 }
3634             }
3635             else {
3636                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
3637                 s = force_version(s);
3638             }
3639             yylval.ival = 1;
3640             OPERATOR(USE);
3641
3642         case KEY_values:
3643             UNI(OP_VALUES);
3644
3645         case KEY_vec:
3646             sawvec = TRUE;
3647             LOP(OP_VEC,XTERM);
3648
3649         case KEY_while:
3650             yylval.ival = curcop->cop_line;
3651             OPERATOR(WHILE);
3652
3653         case KEY_warn:
3654             hints |= HINT_BLOCK_SCOPE;
3655             LOP(OP_WARN,XTERM);
3656
3657         case KEY_wait:
3658             FUN0(OP_WAIT);
3659
3660         case KEY_waitpid:
3661             LOP(OP_WAITPID,XTERM);
3662
3663         case KEY_wantarray:
3664             FUN0(OP_WANTARRAY);
3665
3666         case KEY_write:
3667             gv_fetchpv("\f",TRUE, SVt_PV);      /* Make sure $^L is defined */
3668             UNI(OP_ENTERWRITE);
3669
3670         case KEY_x:
3671             if (expect == XOPERATOR)
3672                 Mop(OP_REPEAT);
3673             check_uni();
3674             goto just_a_word;
3675
3676         case KEY_xor:
3677             yylval.ival = OP_XOR;
3678             OPERATOR(OROP);
3679
3680         case KEY_y:
3681             s = scan_trans(s);
3682             TERM(sublex_start());
3683         }
3684     }
3685 }
3686
3687 I32
3688 keyword(d, len)
3689 register char *d;
3690 I32 len;
3691 {
3692     switch (*d) {
3693     case '_':
3694         if (d[1] == '_') {
3695             if (strEQ(d,"__FILE__"))            return -KEY___FILE__;
3696             if (strEQ(d,"__LINE__"))            return -KEY___LINE__;
3697             if (strEQ(d,"__PACKAGE__"))         return -KEY___PACKAGE__;
3698             if (strEQ(d,"__DATA__"))            return KEY___DATA__;
3699             if (strEQ(d,"__END__"))             return KEY___END__;
3700         }
3701         break;
3702     case 'A':
3703         if (strEQ(d,"AUTOLOAD"))                return KEY_AUTOLOAD;
3704         break;
3705     case 'a':
3706         switch (len) {
3707         case 3:
3708             if (strEQ(d,"and"))                 return -KEY_and;
3709             if (strEQ(d,"abs"))                 return -KEY_abs;
3710             break;
3711         case 5:
3712             if (strEQ(d,"alarm"))               return -KEY_alarm;
3713             if (strEQ(d,"atan2"))               return -KEY_atan2;
3714             break;
3715         case 6:
3716             if (strEQ(d,"accept"))              return -KEY_accept;
3717             break;
3718         }
3719         break;
3720     case 'B':
3721         if (strEQ(d,"BEGIN"))                   return KEY_BEGIN;
3722         break;
3723     case 'b':
3724         if (strEQ(d,"bless"))                   return -KEY_bless;
3725         if (strEQ(d,"bind"))                    return -KEY_bind;
3726         if (strEQ(d,"binmode"))                 return -KEY_binmode;
3727         break;
3728     case 'C':
3729         if (strEQ(d,"CORE"))                    return -KEY_CORE;
3730         break;
3731     case 'c':
3732         switch (len) {
3733         case 3:
3734             if (strEQ(d,"cmp"))                 return -KEY_cmp;
3735             if (strEQ(d,"chr"))                 return -KEY_chr;
3736             if (strEQ(d,"cos"))                 return -KEY_cos;
3737             break;
3738         case 4:
3739             if (strEQ(d,"chop"))                return KEY_chop;
3740             break;
3741         case 5:
3742             if (strEQ(d,"close"))               return -KEY_close;
3743             if (strEQ(d,"chdir"))               return -KEY_chdir;
3744             if (strEQ(d,"chomp"))               return KEY_chomp;
3745             if (strEQ(d,"chmod"))               return -KEY_chmod;
3746             if (strEQ(d,"chown"))               return -KEY_chown;
3747             if (strEQ(d,"crypt"))               return -KEY_crypt;
3748             break;
3749         case 6:
3750             if (strEQ(d,"chroot"))              return -KEY_chroot;
3751             if (strEQ(d,"caller"))              return -KEY_caller;
3752             break;
3753         case 7:
3754             if (strEQ(d,"connect"))             return -KEY_connect;
3755             break;
3756         case 8:
3757             if (strEQ(d,"closedir"))            return -KEY_closedir;
3758             if (strEQ(d,"continue"))            return -KEY_continue;
3759             break;
3760         }
3761         break;
3762     case 'D':
3763         if (strEQ(d,"DESTROY"))                 return KEY_DESTROY;
3764         break;
3765     case 'd':
3766         switch (len) {
3767         case 2:
3768             if (strEQ(d,"do"))                  return KEY_do;
3769             break;
3770         case 3:
3771             if (strEQ(d,"die"))                 return -KEY_die;
3772             break;
3773         case 4:
3774             if (strEQ(d,"dump"))                return -KEY_dump;
3775             break;
3776         case 6:
3777             if (strEQ(d,"delete"))              return KEY_delete;
3778             break;
3779         case 7:
3780             if (strEQ(d,"defined"))             return KEY_defined;
3781             if (strEQ(d,"dbmopen"))             return -KEY_dbmopen;
3782             break;
3783         case 8:
3784             if (strEQ(d,"dbmclose"))            return -KEY_dbmclose;
3785             break;
3786         }
3787         break;
3788     case 'E':
3789         if (strEQ(d,"EQ")) { deprecate(d);      return -KEY_eq;}
3790         if (strEQ(d,"END"))                     return KEY_END;
3791         break;
3792     case 'e':
3793         switch (len) {
3794         case 2:
3795             if (strEQ(d,"eq"))                  return -KEY_eq;
3796             break;
3797         case 3:
3798             if (strEQ(d,"eof"))                 return -KEY_eof;
3799             if (strEQ(d,"exp"))                 return -KEY_exp;
3800             break;
3801         case 4:
3802             if (strEQ(d,"else"))                return KEY_else;
3803             if (strEQ(d,"exit"))                return -KEY_exit;
3804             if (strEQ(d,"eval"))                return KEY_eval;
3805             if (strEQ(d,"exec"))                return -KEY_exec;
3806             if (strEQ(d,"each"))                return KEY_each;
3807             break;
3808         case 5:
3809             if (strEQ(d,"elsif"))               return KEY_elsif;
3810             break;
3811         case 6:
3812             if (strEQ(d,"exists"))              return KEY_exists;
3813             if (strEQ(d,"elseif")) warn("elseif should be elsif");
3814             break;
3815         case 8:
3816             if (strEQ(d,"endgrent"))            return -KEY_endgrent;
3817             if (strEQ(d,"endpwent"))            return -KEY_endpwent;
3818             break;
3819         case 9:
3820             if (strEQ(d,"endnetent"))           return -KEY_endnetent;
3821             break;
3822         case 10:
3823             if (strEQ(d,"endhostent"))          return -KEY_endhostent;
3824             if (strEQ(d,"endservent"))          return -KEY_endservent;
3825             break;
3826         case 11:
3827             if (strEQ(d,"endprotoent"))         return -KEY_endprotoent;
3828             break;
3829         }
3830         break;
3831     case 'f':
3832         switch (len) {
3833         case 3:
3834             if (strEQ(d,"for"))                 return KEY_for;
3835             break;
3836         case 4:
3837             if (strEQ(d,"fork"))                return -KEY_fork;
3838             break;
3839         case 5:
3840             if (strEQ(d,"fcntl"))               return -KEY_fcntl;
3841             if (strEQ(d,"flock"))               return -KEY_flock;
3842             break;
3843         case 6:
3844             if (strEQ(d,"format"))              return KEY_format;
3845             if (strEQ(d,"fileno"))              return -KEY_fileno;
3846             break;
3847         case 7:
3848             if (strEQ(d,"foreach"))             return KEY_foreach;
3849             break;
3850         case 8:
3851             if (strEQ(d,"formline"))            return -KEY_formline;
3852             break;
3853         }
3854         break;
3855     case 'G':
3856         if (len == 2) {
3857             if (strEQ(d,"GT")) { deprecate(d);  return -KEY_gt;}
3858             if (strEQ(d,"GE")) { deprecate(d);  return -KEY_ge;}
3859         }
3860         break;
3861     case 'g':
3862         if (strnEQ(d,"get",3)) {
3863             d += 3;
3864             if (*d == 'p') {
3865                 switch (len) {
3866                 case 7:
3867                     if (strEQ(d,"ppid"))        return -KEY_getppid;
3868                     if (strEQ(d,"pgrp"))        return -KEY_getpgrp;
3869                     break;
3870                 case 8:
3871                     if (strEQ(d,"pwent"))       return -KEY_getpwent;
3872                     if (strEQ(d,"pwnam"))       return -KEY_getpwnam;
3873                     if (strEQ(d,"pwuid"))       return -KEY_getpwuid;
3874                     break;
3875                 case 11:
3876                     if (strEQ(d,"peername"))    return -KEY_getpeername;
3877                     if (strEQ(d,"protoent"))    return -KEY_getprotoent;
3878                     if (strEQ(d,"priority"))    return -KEY_getpriority;
3879                     break;
3880                 case 14:
3881                     if (strEQ(d,"protobyname")) return -KEY_getprotobyname;
3882                     break;
3883                 case 16:
3884                     if (strEQ(d,"protobynumber"))return -KEY_getprotobynumber;
3885                     break;
3886                 }
3887             }
3888             else if (*d == 'h') {
3889                 if (strEQ(d,"hostbyname"))      return -KEY_gethostbyname;
3890                 if (strEQ(d,"hostbyaddr"))      return -KEY_gethostbyaddr;
3891                 if (strEQ(d,"hostent"))         return -KEY_gethostent;
3892             }
3893             else if (*d == 'n') {
3894                 if (strEQ(d,"netbyname"))       return -KEY_getnetbyname;
3895                 if (strEQ(d,"netbyaddr"))       return -KEY_getnetbyaddr;
3896                 if (strEQ(d,"netent"))          return -KEY_getnetent;
3897             }
3898             else if (*d == 's') {
3899                 if (strEQ(d,"servbyname"))      return -KEY_getservbyname;
3900                 if (strEQ(d,"servbyport"))      return -KEY_getservbyport;
3901                 if (strEQ(d,"servent"))         return -KEY_getservent;
3902                 if (strEQ(d,"sockname"))        return -KEY_getsockname;
3903                 if (strEQ(d,"sockopt"))         return -KEY_getsockopt;
3904             }
3905             else if (*d == 'g') {
3906                 if (strEQ(d,"grent"))           return -KEY_getgrent;
3907                 if (strEQ(d,"grnam"))           return -KEY_getgrnam;
3908                 if (strEQ(d,"grgid"))           return -KEY_getgrgid;
3909             }
3910             else if (*d == 'l') {
3911                 if (strEQ(d,"login"))           return -KEY_getlogin;
3912             }
3913             else if (strEQ(d,"c"))              return -KEY_getc;
3914             break;
3915         }
3916         switch (len) {
3917         case 2:
3918             if (strEQ(d,"gt"))                  return -KEY_gt;
3919             if (strEQ(d,"ge"))                  return -KEY_ge;
3920             break;
3921         case 4:
3922             if (strEQ(d,"grep"))                return KEY_grep;
3923             if (strEQ(d,"goto"))                return KEY_goto;
3924             if (strEQ(d,"glob"))                return -KEY_glob;
3925             break;
3926         case 6:
3927             if (strEQ(d,"gmtime"))              return -KEY_gmtime;
3928             break;
3929         }
3930         break;
3931     case 'h':
3932         if (strEQ(d,"hex"))                     return -KEY_hex;
3933         break;
3934     case 'I':
3935         if (strEQ(d,"INIT"))                    return KEY_INIT;
3936         break;
3937     case 'i':
3938         switch (len) {
3939         case 2:
3940             if (strEQ(d,"if"))                  return KEY_if;
3941             break;
3942         case 3:
3943             if (strEQ(d,"int"))                 return -KEY_int;
3944             break;
3945         case 5:
3946             if (strEQ(d,"index"))               return -KEY_index;
3947             if (strEQ(d,"ioctl"))               return -KEY_ioctl;
3948             break;
3949         }
3950         break;
3951     case 'j':
3952         if (strEQ(d,"join"))                    return -KEY_join;
3953         break;
3954     case 'k':
3955         if (len == 4) {
3956             if (strEQ(d,"keys"))                return KEY_keys;
3957             if (strEQ(d,"kill"))                return -KEY_kill;
3958         }
3959         break;
3960     case 'L':
3961         if (len == 2) {
3962             if (strEQ(d,"LT")) { deprecate(d);  return -KEY_lt;}
3963             if (strEQ(d,"LE")) { deprecate(d);  return -KEY_le;}
3964         }
3965         break;
3966     case 'l':
3967         switch (len) {
3968         case 2:
3969             if (strEQ(d,"lt"))                  return -KEY_lt;
3970             if (strEQ(d,"le"))                  return -KEY_le;
3971             if (strEQ(d,"lc"))                  return -KEY_lc;
3972             break;
3973         case 3:
3974             if (strEQ(d,"log"))                 return -KEY_log;
3975             break;
3976         case 4:
3977             if (strEQ(d,"last"))                return KEY_last;
3978             if (strEQ(d,"link"))                return -KEY_link;
3979             if (strEQ(d,"lock"))                return -KEY_lock;
3980             break;
3981         case 5:
3982             if (strEQ(d,"local"))               return KEY_local;
3983             if (strEQ(d,"lstat"))               return -KEY_lstat;
3984             break;
3985         case 6:
3986             if (strEQ(d,"length"))              return -KEY_length;
3987             if (strEQ(d,"listen"))              return -KEY_listen;
3988             break;
3989         case 7:
3990             if (strEQ(d,"lcfirst"))             return -KEY_lcfirst;
3991             break;
3992         case 9:
3993             if (strEQ(d,"localtime"))           return -KEY_localtime;
3994             break;
3995         }
3996         break;
3997     case 'm':
3998         switch (len) {
3999         case 1:                                 return KEY_m;
4000         case 2:
4001             if (strEQ(d,"my"))                  return KEY_my;
4002             break;
4003         case 3:
4004             if (strEQ(d,"map"))                 return KEY_map;
4005             break;
4006         case 5:
4007             if (strEQ(d,"mkdir"))               return -KEY_mkdir;
4008             break;
4009         case 6:
4010             if (strEQ(d,"msgctl"))              return -KEY_msgctl;
4011             if (strEQ(d,"msgget"))              return -KEY_msgget;
4012             if (strEQ(d,"msgrcv"))              return -KEY_msgrcv;
4013             if (strEQ(d,"msgsnd"))              return -KEY_msgsnd;
4014             break;
4015         }
4016         break;
4017     case 'N':
4018         if (strEQ(d,"NE")) { deprecate(d);      return -KEY_ne;}
4019         break;
4020     case 'n':
4021         if (strEQ(d,"next"))                    return KEY_next;
4022         if (strEQ(d,"ne"))                      return -KEY_ne;
4023         if (strEQ(d,"not"))                     return -KEY_not;
4024         if (strEQ(d,"no"))                      return KEY_no;
4025         break;
4026     case 'o':
4027         switch (len) {
4028         case 2:
4029             if (strEQ(d,"or"))                  return -KEY_or;
4030             break;
4031         case 3:
4032             if (strEQ(d,"ord"))                 return -KEY_ord;
4033             if (strEQ(d,"oct"))                 return -KEY_oct;
4034             break;
4035         case 4:
4036             if (strEQ(d,"open"))                return -KEY_open;
4037             break;
4038         case 7:
4039             if (strEQ(d,"opendir"))             return -KEY_opendir;
4040             break;
4041         }
4042         break;
4043     case 'p':
4044         switch (len) {
4045         case 3:
4046             if (strEQ(d,"pop"))                 return KEY_pop;
4047             if (strEQ(d,"pos"))                 return KEY_pos;
4048             break;
4049         case 4:
4050             if (strEQ(d,"push"))                return KEY_push;
4051             if (strEQ(d,"pack"))                return -KEY_pack;
4052             if (strEQ(d,"pipe"))                return -KEY_pipe;
4053             break;
4054         case 5:
4055             if (strEQ(d,"print"))               return KEY_print;
4056             break;
4057         case 6:
4058             if (strEQ(d,"printf"))              return KEY_printf;
4059             break;
4060         case 7:
4061             if (strEQ(d,"package"))             return KEY_package;
4062             break;
4063         case 9:
4064             if (strEQ(d,"prototype"))           return KEY_prototype;
4065         }
4066         break;
4067     case 'q':
4068         if (len <= 2) {
4069             if (strEQ(d,"q"))                   return KEY_q;
4070             if (strEQ(d,"qq"))                  return KEY_qq;
4071             if (strEQ(d,"qw"))                  return KEY_qw;
4072             if (strEQ(d,"qx"))                  return KEY_qx;
4073         }
4074         else if (strEQ(d,"quotemeta"))          return -KEY_quotemeta;
4075         break;
4076     case 'r':
4077         switch (len) {
4078         case 3:
4079             if (strEQ(d,"ref"))                 return -KEY_ref;
4080             break;
4081         case 4:
4082             if (strEQ(d,"read"))                return -KEY_read;
4083             if (strEQ(d,"rand"))                return -KEY_rand;
4084             if (strEQ(d,"recv"))                return -KEY_recv;
4085             if (strEQ(d,"redo"))                return KEY_redo;
4086             break;
4087         case 5:
4088             if (strEQ(d,"rmdir"))               return -KEY_rmdir;
4089             if (strEQ(d,"reset"))               return -KEY_reset;
4090             break;
4091         case 6:
4092             if (strEQ(d,"return"))              return KEY_return;
4093             if (strEQ(d,"rename"))              return -KEY_rename;
4094             if (strEQ(d,"rindex"))              return -KEY_rindex;
4095             break;
4096         case 7:
4097             if (strEQ(d,"require"))             return -KEY_require;
4098             if (strEQ(d,"reverse"))             return -KEY_reverse;
4099             if (strEQ(d,"readdir"))             return -KEY_readdir;
4100             break;
4101         case 8:
4102             if (strEQ(d,"readlink"))            return -KEY_readlink;
4103             if (strEQ(d,"readline"))            return -KEY_readline;
4104             if (strEQ(d,"readpipe"))            return -KEY_readpipe;
4105             break;
4106         case 9:
4107             if (strEQ(d,"rewinddir"))           return -KEY_rewinddir;
4108             break;
4109         }
4110         break;
4111     case 's':
4112         switch (d[1]) {
4113         case 0:                                 return KEY_s;
4114         case 'c':
4115             if (strEQ(d,"scalar"))              return KEY_scalar;
4116             break;
4117         case 'e':
4118             switch (len) {
4119             case 4:
4120                 if (strEQ(d,"seek"))            return -KEY_seek;
4121                 if (strEQ(d,"send"))            return -KEY_send;
4122                 break;
4123             case 5:
4124                 if (strEQ(d,"semop"))           return -KEY_semop;
4125                 break;
4126             case 6:
4127                 if (strEQ(d,"select"))          return -KEY_select;
4128                 if (strEQ(d,"semctl"))          return -KEY_semctl;
4129                 if (strEQ(d,"semget"))          return -KEY_semget;
4130                 break;
4131             case 7:
4132                 if (strEQ(d,"setpgrp"))         return -KEY_setpgrp;
4133                 if (strEQ(d,"seekdir"))         return -KEY_seekdir;
4134                 break;
4135             case 8:
4136                 if (strEQ(d,"setpwent"))        return -KEY_setpwent;
4137                 if (strEQ(d,"setgrent"))        return -KEY_setgrent;
4138                 break;
4139             case 9:
4140                 if (strEQ(d,"setnetent"))       return -KEY_setnetent;
4141                 break;
4142             case 10:
4143                 if (strEQ(d,"setsockopt"))      return -KEY_setsockopt;
4144                 if (strEQ(d,"sethostent"))      return -KEY_sethostent;
4145                 if (strEQ(d,"setservent"))      return -KEY_setservent;
4146                 break;
4147             case 11:
4148                 if (strEQ(d,"setpriority"))     return -KEY_setpriority;
4149                 if (strEQ(d,"setprotoent"))     return -KEY_setprotoent;
4150                 break;
4151             }
4152             break;
4153         case 'h':
4154             switch (len) {
4155             case 5:
4156                 if (strEQ(d,"shift"))           return KEY_shift;
4157                 break;
4158             case 6:
4159                 if (strEQ(d,"shmctl"))          return -KEY_shmctl;
4160                 if (strEQ(d,"shmget"))          return -KEY_shmget;
4161                 break;
4162             case 7:
4163                 if (strEQ(d,"shmread"))         return -KEY_shmread;
4164                 break;
4165             case 8:
4166                 if (strEQ(d,"shmwrite"))        return -KEY_shmwrite;
4167                 if (strEQ(d,"shutdown"))        return -KEY_shutdown;
4168                 break;
4169             }
4170             break;
4171         case 'i':
4172             if (strEQ(d,"sin"))                 return -KEY_sin;
4173             break;
4174         case 'l':
4175             if (strEQ(d,"sleep"))               return -KEY_sleep;
4176             break;
4177         case 'o':
4178             if (strEQ(d,"sort"))                return KEY_sort;
4179             if (strEQ(d,"socket"))              return -KEY_socket;
4180             if (strEQ(d,"socketpair"))          return -KEY_socketpair;
4181             break;
4182         case 'p':
4183             if (strEQ(d,"split"))               return KEY_split;
4184             if (strEQ(d,"sprintf"))             return -KEY_sprintf;
4185             if (strEQ(d,"splice"))              return KEY_splice;
4186             break;
4187         case 'q':
4188             if (strEQ(d,"sqrt"))                return -KEY_sqrt;
4189             break;
4190         case 'r':
4191             if (strEQ(d,"srand"))               return -KEY_srand;
4192             break;
4193         case 't':
4194             if (strEQ(d,"stat"))                return -KEY_stat;
4195             if (strEQ(d,"study"))               return KEY_study;
4196             break;
4197         case 'u':
4198             if (strEQ(d,"substr"))              return -KEY_substr;
4199             if (strEQ(d,"sub"))                 return KEY_sub;
4200             break;
4201         case 'y':
4202             switch (len) {
4203             case 6:
4204                 if (strEQ(d,"system"))          return -KEY_system;
4205                 break;
4206             case 7:
4207                 if (strEQ(d,"symlink"))         return -KEY_symlink;
4208                 if (strEQ(d,"syscall"))         return -KEY_syscall;
4209                 if (strEQ(d,"sysopen"))         return -KEY_sysopen;
4210                 if (strEQ(d,"sysread"))         return -KEY_sysread;
4211                 if (strEQ(d,"sysseek"))         return -KEY_sysseek;
4212                 break;
4213             case 8:
4214                 if (strEQ(d,"syswrite"))        return -KEY_syswrite;
4215                 break;
4216             }
4217             break;
4218         }
4219         break;
4220     case 't':
4221         switch (len) {
4222         case 2:
4223             if (strEQ(d,"tr"))                  return KEY_tr;
4224             break;
4225         case 3:
4226             if (strEQ(d,"tie"))                 return KEY_tie;
4227             break;
4228         case 4:
4229             if (strEQ(d,"tell"))                return -KEY_tell;
4230             if (strEQ(d,"tied"))                return KEY_tied;
4231             if (strEQ(d,"time"))                return -KEY_time;
4232             break;
4233         case 5:
4234             if (strEQ(d,"times"))               return -KEY_times;
4235             break;
4236         case 7:
4237             if (strEQ(d,"telldir"))             return -KEY_telldir;
4238             break;
4239         case 8:
4240             if (strEQ(d,"truncate"))            return -KEY_truncate;
4241             break;
4242         }
4243         break;
4244     case 'u':
4245         switch (len) {
4246         case 2:
4247             if (strEQ(d,"uc"))                  return -KEY_uc;
4248             break;
4249         case 3:
4250             if (strEQ(d,"use"))                 return KEY_use;
4251             break;
4252         case 5:
4253             if (strEQ(d,"undef"))               return KEY_undef;
4254             if (strEQ(d,"until"))               return KEY_until;
4255             if (strEQ(d,"untie"))               return KEY_untie;
4256             if (strEQ(d,"utime"))               return -KEY_utime;
4257             if (strEQ(d,"umask"))               return -KEY_umask;
4258             break;
4259         case 6:
4260             if (strEQ(d,"unless"))              return KEY_unless;
4261             if (strEQ(d,"unpack"))              return -KEY_unpack;
4262             if (strEQ(d,"unlink"))              return -KEY_unlink;
4263             break;
4264         case 7:
4265             if (strEQ(d,"unshift"))             return KEY_unshift;
4266             if (strEQ(d,"ucfirst"))             return -KEY_ucfirst;
4267             break;
4268         }
4269         break;
4270     case 'v':
4271         if (strEQ(d,"values"))                  return -KEY_values;
4272         if (strEQ(d,"vec"))                     return -KEY_vec;
4273         break;
4274     case 'w':
4275         switch (len) {
4276         case 4:
4277             if (strEQ(d,"warn"))                return -KEY_warn;
4278             if (strEQ(d,"wait"))                return -KEY_wait;
4279             break;
4280         case 5:
4281             if (strEQ(d,"while"))               return KEY_while;
4282             if (strEQ(d,"write"))               return -KEY_write;
4283             break;
4284         case 7:
4285             if (strEQ(d,"waitpid"))             return -KEY_waitpid;
4286             break;
4287         case 9:
4288             if (strEQ(d,"wantarray"))           return -KEY_wantarray;
4289             break;
4290         }
4291         break;
4292     case 'x':
4293         if (len == 1)                           return -KEY_x;
4294         if (strEQ(d,"xor"))                     return -KEY_xor;
4295         break;
4296     case 'y':
4297         if (len == 1)                           return KEY_y;
4298         break;
4299     case 'z':
4300         break;
4301     }
4302     return 0;
4303 }
4304
4305 static void
4306 checkcomma(s,name,what)
4307 register char *s;
4308 char *name;
4309 char *what;
4310 {
4311     char *w;
4312
4313     if (dowarn && *s == ' ' && s[1] == '(') {   /* XXX gotta be a better way */
4314         int level = 1;
4315         for (w = s+2; *w && level; w++) {
4316             if (*w == '(')
4317                 ++level;
4318             else if (*w == ')')
4319                 --level;
4320         }
4321         if (*w)
4322             for (; *w && isSPACE(*w); w++) ;
4323         if (!*w || !strchr(";|})]oa!=", *w))    /* an advisory hack only... */
4324             warn("%s (...) interpreted as function",name);
4325     }
4326     while (s < bufend && isSPACE(*s))
4327         s++;
4328     if (*s == '(')
4329         s++;
4330     while (s < bufend && isSPACE(*s))
4331         s++;
4332     if (isIDFIRST(*s)) {
4333         w = s++;
4334         while (isALNUM(*s))
4335             s++;
4336         while (s < bufend && isSPACE(*s))
4337             s++;
4338         if (*s == ',') {
4339             int kw;
4340             *s = '\0';
4341             kw = keyword(w, s - w) || perl_get_cv(w, FALSE) != 0;
4342             *s = ',';
4343             if (kw)
4344                 return;
4345             croak("No comma allowed after %s", what);
4346         }
4347     }
4348 }
4349
4350 static char *
4351 scan_word(s, dest, destlen, allow_package, slp)
4352 register char *s;
4353 char *dest;
4354 STRLEN destlen;
4355 int allow_package;
4356 STRLEN *slp;
4357 {
4358     register char *d = dest;
4359     register char *e = d + destlen - 3;  /* two-character token, ending NUL */
4360     for (;;) {
4361         if (d >= e)
4362             croak(ident_too_long);
4363         if (isALNUM(*s))
4364             *d++ = *s++;
4365         else if (*s == '\'' && allow_package && isIDFIRST(s[1])) {
4366             *d++ = ':';
4367             *d++ = ':';
4368             s++;
4369         }
4370         else if (*s == ':' && s[1] == ':' && allow_package && isIDFIRST(s[2])) {
4371             *d++ = *s++;
4372             *d++ = *s++;
4373         }
4374         else {
4375             *d = '\0';
4376             *slp = d - dest;
4377             return s;
4378         }
4379     }
4380 }
4381
4382 static char *
4383 scan_ident(s, send, dest, destlen, ck_uni)
4384 register char *s;
4385 register char *send;
4386 char *dest;
4387 STRLEN destlen;
4388 I32 ck_uni;
4389 {
4390     register char *d;
4391     register char *e;
4392     char *bracket = 0;
4393     char funny = *s++;
4394
4395     if (lex_brackets == 0)
4396         lex_fakebrack = 0;
4397     if (isSPACE(*s))
4398         s = skipspace(s);
4399     d = dest;
4400     e = d + destlen - 3;        /* two-character token, ending NUL */
4401     if (isDIGIT(*s)) {
4402         while (isDIGIT(*s)) {
4403             if (d >= e)
4404                 croak(ident_too_long);
4405             *d++ = *s++;
4406         }
4407     }
4408     else {
4409         for (;;) {
4410             if (d >= e)
4411                 croak(ident_too_long);
4412             if (isALNUM(*s))
4413                 *d++ = *s++;
4414             else if (*s == '\'' && isIDFIRST(s[1])) {
4415                 *d++ = ':';
4416                 *d++ = ':';
4417                 s++;
4418             }
4419             else if (*s == ':' && s[1] == ':') {
4420                 *d++ = *s++;
4421                 *d++ = *s++;
4422             }
4423             else
4424                 break;
4425         }
4426     }
4427     *d = '\0';
4428     d = dest;
4429     if (*d) {
4430         if (lex_state != LEX_NORMAL)
4431             lex_state = LEX_INTERPENDMAYBE;
4432         return s;
4433     }
4434     if (*s == '$' && s[1] &&
4435       (isALNUM(s[1]) || strchr("${", s[1]) || strnEQ(s+1,"::",2)) )
4436     {
4437         if (isDIGIT(s[1]) && lex_state == LEX_INTERPNORMAL)
4438             deprecate("\"$$<digit>\" to mean \"${$}<digit>\"");
4439         else
4440             return s;
4441     }
4442     if (*s == '{') {
4443         bracket = s;
4444         s++;
4445     }
4446     else if (ck_uni)
4447         check_uni();
4448     if (s < send)
4449         *d = *s++;
4450     d[1] = '\0';
4451     if (*d == '^' && *s && (isUPPER(*s) || strchr("[\\]^_?", *s))) {
4452         *d = toCTRL(*s);
4453         s++;
4454     }
4455     if (bracket) {
4456         if (isSPACE(s[-1])) {
4457             while (s < send) {
4458                 char ch = *s++;
4459                 if (ch != ' ' && ch != '\t') {
4460                     *d = ch;
4461                     break;
4462                 }
4463             }
4464         }
4465         if (isIDFIRST(*d)) {
4466             d++;
4467             while (isALNUM(*s) || *s == ':')
4468                 *d++ = *s++;
4469             *d = '\0';
4470             while (s < send && (*s == ' ' || *s == '\t')) s++;
4471             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
4472                 if (dowarn && keyword(dest, d - dest)) {
4473                     char *brack = *s == '[' ? "[...]" : "{...}";
4474                     warn("Ambiguous use of %c{%s%s} resolved to %c%s%s",
4475                         funny, dest, brack, funny, dest, brack);
4476                 }
4477                 lex_fakebrack = lex_brackets+1;
4478                 bracket++;
4479                 lex_brackstack[lex_brackets++] = XOPERATOR;
4480                 return s;
4481             }
4482         }
4483         if (*s == '}') {
4484             s++;
4485             if (lex_state == LEX_INTERPNORMAL && !lex_brackets)
4486                 lex_state = LEX_INTERPEND;
4487             if (funny == '#')
4488                 funny = '@';
4489             if (dowarn &&
4490               (keyword(dest, d - dest) || perl_get_cv(dest, FALSE)))
4491                 warn("Ambiguous use of %c{%s} resolved to %c%s",
4492                     funny, dest, funny, dest);
4493         }
4494         else {
4495             s = bracket;                /* let the parser handle it */
4496             *dest = '\0';
4497         }
4498     }
4499     else if (lex_state == LEX_INTERPNORMAL && !lex_brackets && !intuit_more(s))
4500         lex_state = LEX_INTERPEND;
4501     return s;
4502 }
4503
4504 void pmflag(pmfl,ch)
4505 U16* pmfl;
4506 int ch;
4507 {
4508     if (ch == 'i')
4509         *pmfl |= PMf_FOLD;
4510     else if (ch == 'g')
4511         *pmfl |= PMf_GLOBAL;
4512     else if (ch == 'c')
4513         *pmfl |= PMf_CONTINUE;
4514     else if (ch == 'o')
4515         *pmfl |= PMf_KEEP;
4516     else if (ch == 'm')
4517         *pmfl |= PMf_MULTILINE;
4518     else if (ch == 's')
4519         *pmfl |= PMf_SINGLELINE;
4520     else if (ch == 'x')
4521         *pmfl |= PMf_EXTENDED;
4522 }
4523
4524 static char *
4525 scan_pat(start)
4526 char *start;
4527 {
4528     PMOP *pm;
4529     char *s;
4530
4531     s = scan_str(start);
4532     if (!s) {
4533         if (lex_stuff)
4534             SvREFCNT_dec(lex_stuff);
4535         lex_stuff = Nullsv;
4536         croak("Search pattern not terminated");
4537     }
4538
4539     pm = (PMOP*)newPMOP(OP_MATCH, 0);
4540     if (multi_open == '?')
4541         pm->op_pmflags |= PMf_ONCE;
4542     while (*s && strchr("iogcmsx", *s))
4543         pmflag(&pm->op_pmflags,*s++);
4544     pm->op_pmpermflags = pm->op_pmflags;
4545
4546     lex_op = (OP*)pm;
4547     yylval.ival = OP_MATCH;
4548     return s;
4549 }
4550
4551 static char *
4552 scan_subst(start)
4553 char *start;
4554 {
4555     register char *s;
4556     register PMOP *pm;
4557     I32 first_start;
4558     I32 es = 0;
4559
4560     yylval.ival = OP_NULL;
4561
4562     s = scan_str(start);
4563
4564     if (!s) {
4565         if (lex_stuff)
4566             SvREFCNT_dec(lex_stuff);
4567         lex_stuff = Nullsv;
4568         croak("Substitution pattern not terminated");
4569     }
4570
4571     if (s[-1] == multi_open)
4572         s--;
4573
4574     first_start = multi_start;
4575     s = scan_str(s);
4576     if (!s) {
4577         if (lex_stuff)
4578             SvREFCNT_dec(lex_stuff);
4579         lex_stuff = Nullsv;
4580         if (lex_repl)
4581             SvREFCNT_dec(lex_repl);
4582         lex_repl = Nullsv;
4583         croak("Substitution replacement not terminated");
4584     }
4585     multi_start = first_start;  /* so whole substitution is taken together */
4586
4587     pm = (PMOP*)newPMOP(OP_SUBST, 0);
4588     while (*s && strchr("iogcmsex", *s)) {
4589         if (*s == 'e') {
4590             s++;
4591             es++;
4592         }
4593         else
4594             pmflag(&pm->op_pmflags,*s++);
4595     }
4596
4597     if (es) {
4598         SV *repl;
4599         pm->op_pmflags |= PMf_EVAL;
4600         repl = newSVpv("",0);
4601         while (es-- > 0)
4602             sv_catpv(repl, es ? "eval " : "do ");
4603         sv_catpvn(repl, "{ ", 2);
4604         sv_catsv(repl, lex_repl);
4605         sv_catpvn(repl, " };", 2);
4606         SvCOMPILED_on(repl);
4607         SvREFCNT_dec(lex_repl);
4608         lex_repl = repl;
4609     }
4610
4611     pm->op_pmpermflags = pm->op_pmflags;
4612     lex_op = (OP*)pm;
4613     yylval.ival = OP_SUBST;
4614     return s;
4615 }
4616
4617 void
4618 hoistmust(pm)
4619 register PMOP *pm;
4620 {
4621     dTHR;
4622     if (!pm->op_pmshort && pm->op_pmregexp->regstart &&
4623         (!pm->op_pmregexp->regmust || pm->op_pmregexp->reganch & ROPT_ANCH)
4624        ) {
4625         if (!(pm->op_pmregexp->reganch & ROPT_ANCH))
4626             pm->op_pmflags |= PMf_SCANFIRST;
4627         pm->op_pmshort = SvREFCNT_inc(pm->op_pmregexp->regstart);
4628         pm->op_pmslen = SvCUR(pm->op_pmshort);
4629     }
4630     else if (pm->op_pmregexp->regmust) {/* is there a better short-circuit? */
4631         if (pm->op_pmshort &&
4632           sv_eq(pm->op_pmshort,pm->op_pmregexp->regmust))
4633         {
4634             if (pm->op_pmflags & PMf_SCANFIRST) {
4635                 SvREFCNT_dec(pm->op_pmshort);
4636                 pm->op_pmshort = Nullsv;
4637             }
4638             else {
4639                 SvREFCNT_dec(pm->op_pmregexp->regmust);
4640                 pm->op_pmregexp->regmust = Nullsv;
4641                 return;
4642             }
4643         }
4644         /* promote the better string */
4645         if ((!pm->op_pmshort &&
4646              !(pm->op_pmregexp->reganch & ROPT_ANCH_GPOS)) ||
4647             ((pm->op_pmflags & PMf_SCANFIRST) &&
4648              (SvCUR(pm->op_pmshort) < SvCUR(pm->op_pmregexp->regmust)))) {
4649             SvREFCNT_dec(pm->op_pmshort);               /* ok if null */
4650             pm->op_pmshort = pm->op_pmregexp->regmust;
4651             pm->op_pmslen = SvCUR(pm->op_pmshort);
4652             pm->op_pmregexp->regmust = Nullsv;
4653             pm->op_pmflags |= PMf_SCANFIRST;
4654         }
4655     }
4656 }
4657
4658 static char *
4659 scan_trans(start)
4660 char *start;
4661 {
4662     register char* s;
4663     OP *o;
4664     short *tbl;
4665     I32 squash;
4666     I32 delete;
4667     I32 complement;
4668
4669     yylval.ival = OP_NULL;
4670
4671     s = scan_str(start);
4672     if (!s) {
4673         if (lex_stuff)
4674             SvREFCNT_dec(lex_stuff);
4675         lex_stuff = Nullsv;
4676         croak("Translation pattern not terminated");
4677     }
4678     if (s[-1] == multi_open)
4679         s--;
4680
4681     s = scan_str(s);
4682     if (!s) {
4683         if (lex_stuff)
4684             SvREFCNT_dec(lex_stuff);
4685         lex_stuff = Nullsv;
4686         if (lex_repl)
4687             SvREFCNT_dec(lex_repl);
4688         lex_repl = Nullsv;
4689         croak("Translation replacement not terminated");
4690     }
4691
4692     New(803,tbl,256,short);
4693     o = newPVOP(OP_TRANS, 0, (char*)tbl);
4694
4695     complement = delete = squash = 0;
4696     while (*s == 'c' || *s == 'd' || *s == 's') {
4697         if (*s == 'c')
4698             complement = OPpTRANS_COMPLEMENT;
4699         else if (*s == 'd')
4700             delete = OPpTRANS_DELETE;
4701         else
4702             squash = OPpTRANS_SQUASH;
4703         s++;
4704     }
4705     o->op_private = delete|squash|complement;
4706
4707     lex_op = o;
4708     yylval.ival = OP_TRANS;
4709     return s;
4710 }
4711
4712 static char *
4713 scan_heredoc(s)
4714 register char *s;
4715 {
4716     dTHR;
4717     SV *herewas;
4718     I32 op_type = OP_SCALAR;
4719     I32 len;
4720     SV *tmpstr;
4721     char term;
4722     register char *d;
4723     register char *e;
4724     char *peek;
4725     int outer = (rsfp && !lex_inwhat);
4726
4727     s += 2;
4728     d = tokenbuf;
4729     e = tokenbuf + sizeof tokenbuf - 1;
4730     if (!outer)
4731         *d++ = '\n';
4732     for (peek = s; *peek == ' ' || *peek == '\t'; peek++) ;
4733     if (*peek && strchr("`'\"",*peek)) {
4734         s = peek;
4735         term = *s++;
4736         s = delimcpy(d, e, s, bufend, term, &len);
4737         d += len;
4738         if (s < bufend)
4739             s++;
4740     }
4741     else {
4742         if (*s == '\\')
4743             s++, term = '\'';
4744         else
4745             term = '"';
4746         if (!isALNUM(*s))
4747             deprecate("bare << to mean <<\"\"");
4748         for (; isALNUM(*s); s++) {
4749             if (d < e)
4750                 *d++ = *s;
4751         }
4752     }
4753     if (d >= tokenbuf + sizeof tokenbuf - 1)
4754         croak("Delimiter for here document is too long");
4755     *d++ = '\n';
4756     *d = '\0';
4757     len = d - tokenbuf;
4758     d = "\n";
4759     if (outer || !(d=ninstr(s,bufend,d,d+1)))
4760         herewas = newSVpv(s,bufend-s);
4761     else
4762         s--, herewas = newSVpv(s,d-s);
4763     s += SvCUR(herewas);
4764
4765     tmpstr = NEWSV(87,80);
4766     sv_upgrade(tmpstr, SVt_PVIV);
4767     if (term == '\'') {
4768         op_type = OP_CONST;
4769         SvIVX(tmpstr) = -1;
4770     }
4771     else if (term == '`') {
4772         op_type = OP_BACKTICK;
4773         SvIVX(tmpstr) = '\\';
4774     }
4775
4776     CLINE;
4777     multi_start = curcop->cop_line;
4778     multi_open = multi_close = '<';
4779     term = *tokenbuf;
4780     if (!outer) {
4781         d = s;
4782         while (s < bufend &&
4783           (*s != term || memNE(s,tokenbuf,len)) ) {
4784             if (*s++ == '\n')
4785                 curcop->cop_line++;
4786         }
4787         if (s >= bufend) {
4788             curcop->cop_line = multi_start;
4789             missingterm(tokenbuf);
4790         }
4791         sv_setpvn(tmpstr,d+1,s-d);
4792         s += len - 1;
4793         sv_catpvn(herewas,s,bufend-s);
4794         sv_setsv(linestr,herewas);
4795         oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
4796         bufend = SvPVX(linestr) + SvCUR(linestr);
4797     }
4798     else
4799         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
4800     while (s >= bufend) {       /* multiple line string? */
4801         if (!outer ||
4802          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4803             curcop->cop_line = multi_start;
4804             missingterm(tokenbuf);
4805         }
4806         curcop->cop_line++;
4807         if (perldb && curstash != debstash) {
4808             SV *sv = NEWSV(88,0);
4809
4810             sv_upgrade(sv, SVt_PVMG);
4811             sv_setsv(sv,linestr);
4812             av_store(GvAV(curcop->cop_filegv),
4813               (I32)curcop->cop_line,sv);
4814         }
4815         bufend = SvPVX(linestr) + SvCUR(linestr);
4816         if (*s == term && memEQ(s,tokenbuf,len)) {
4817             s = bufend - 1;
4818             *s = ' ';
4819             sv_catsv(linestr,herewas);
4820             bufend = SvPVX(linestr) + SvCUR(linestr);
4821         }
4822         else {
4823             s = bufend;
4824             sv_catsv(tmpstr,linestr);
4825         }
4826     }
4827     multi_end = curcop->cop_line;
4828     s++;
4829     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
4830         SvLEN_set(tmpstr, SvCUR(tmpstr) + 1);
4831         Renew(SvPVX(tmpstr), SvLEN(tmpstr), char);
4832     }
4833     SvREFCNT_dec(herewas);
4834     lex_stuff = tmpstr;
4835     yylval.ival = op_type;
4836     return s;
4837 }
4838
4839 static char *
4840 scan_inputsymbol(start)
4841 char *start;
4842 {
4843     register char *s = start;
4844     register char *d;
4845     register char *e;
4846     I32 len;
4847
4848     d = tokenbuf;
4849     e = tokenbuf + sizeof tokenbuf;
4850     s = delimcpy(d, e, s + 1, bufend, '>', &len);
4851     if (len >= sizeof tokenbuf)
4852         croak("Excessively long <> operator");
4853     if (s >= bufend)
4854         croak("Unterminated <> operator");
4855     s++;
4856     if (*d == '$' && d[1]) d++;
4857     while (*d && (isALNUM(*d) || *d == '\'' || *d == ':'))
4858         d++;
4859     if (d - tokenbuf != len) {
4860         yylval.ival = OP_GLOB;
4861         set_csh();
4862         s = scan_str(start);
4863         if (!s)
4864             croak("Glob not terminated");
4865         return s;
4866     }
4867     else {
4868         d = tokenbuf;
4869         if (!len)
4870             (void)strcpy(d,"ARGV");
4871         if (*d == '$') {
4872             I32 tmp;
4873             if ((tmp = pad_findmy(d)) != NOT_IN_PAD) {
4874                 OP *o = newOP(OP_PADSV, 0);
4875                 o->op_targ = tmp;
4876                 lex_op = (OP*)newUNOP(OP_READLINE, 0, newUNOP(OP_RV2GV, 0, o));
4877             }
4878             else {
4879                 GV *gv = gv_fetchpv(d+1,TRUE, SVt_PV);
4880                 lex_op = (OP*)newUNOP(OP_READLINE, 0,
4881                                         newUNOP(OP_RV2GV, 0,
4882                                             newUNOP(OP_RV2SV, 0,
4883                                                 newGVOP(OP_GV, 0, gv))));
4884             }
4885             yylval.ival = OP_NULL;
4886         }
4887         else {
4888             GV *gv = gv_fetchpv(d,TRUE, SVt_PVIO);
4889             lex_op = (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
4890             yylval.ival = OP_NULL;
4891         }
4892     }
4893     return s;
4894 }
4895
4896 static char *
4897 scan_str(start)
4898 char *start;
4899 {
4900     dTHR;
4901     SV *sv;
4902     char *tmps;
4903     register char *s = start;
4904     register char term;
4905     register char *to;
4906     I32 brackets = 1;
4907
4908     if (isSPACE(*s))
4909         s = skipspace(s);
4910     CLINE;
4911     term = *s;
4912     multi_start = curcop->cop_line;
4913     multi_open = term;
4914     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4915         term = tmps[5];
4916     multi_close = term;
4917
4918     sv = NEWSV(87,80);
4919     sv_upgrade(sv, SVt_PVIV);
4920     SvIVX(sv) = term;
4921     (void)SvPOK_only(sv);               /* validate pointer */
4922     s++;
4923     for (;;) {
4924         SvGROW(sv, SvCUR(sv) + (bufend - s) + 1);
4925         to = SvPVX(sv)+SvCUR(sv);
4926         if (multi_open == multi_close) {
4927             for (; s < bufend; s++,to++) {
4928                 if (*s == '\n' && !rsfp)
4929                     curcop->cop_line++;
4930                 if (*s == '\\' && s+1 < bufend && term != '\\') {
4931                     if (s[1] == term)
4932                         s++;
4933                     else
4934                         *to++ = *s++;
4935                 }
4936                 else if (*s == term)
4937                     break;
4938                 *to = *s;
4939             }
4940         }
4941         else {
4942             for (; s < bufend; s++,to++) {
4943                 if (*s == '\n' && !rsfp)
4944                     curcop->cop_line++;
4945                 if (*s == '\\' && s+1 < bufend && term != '\\') {
4946                     if (s[1] == term)
4947                         s++;
4948                     else
4949                         *to++ = *s++;
4950                 }
4951                 else if (*s == term && --brackets <= 0)
4952                     break;
4953                 else if (*s == multi_open)
4954                     brackets++;
4955                 *to = *s;
4956             }
4957         }
4958         *to = '\0';
4959         SvCUR_set(sv, to - SvPVX(sv));
4960
4961     if (s < bufend) break;      /* string ends on this line? */
4962
4963         if (!rsfp ||
4964          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4965             sv_free(sv);
4966             curcop->cop_line = multi_start;
4967             return Nullch;
4968         }
4969         curcop->cop_line++;
4970         if (perldb && curstash != debstash) {
4971             SV *sv = NEWSV(88,0);
4972
4973             sv_upgrade(sv, SVt_PVMG);
4974             sv_setsv(sv,linestr);
4975             av_store(GvAV(curcop->cop_filegv),
4976               (I32)curcop->cop_line, sv);
4977         }
4978         bufend = SvPVX(linestr) + SvCUR(linestr);
4979     }
4980     multi_end = curcop->cop_line;
4981     s++;
4982     if (SvCUR(sv) + 5 < SvLEN(sv)) {
4983         SvLEN_set(sv, SvCUR(sv) + 1);
4984         Renew(SvPVX(sv), SvLEN(sv), char);
4985     }
4986     if (lex_stuff)
4987         lex_repl = sv;
4988     else
4989         lex_stuff = sv;
4990     return s;
4991 }
4992
4993 char *
4994 scan_num(start)
4995 char *start;
4996 {
4997     register char *s = start;
4998     register char *d;
4999     register char *e;
5000     I32 tryiv;
5001     double value;
5002     SV *sv;
5003     I32 floatit;
5004     char *lastub = 0;
5005     static char number_too_long[] = "Number too long";
5006
5007     switch (*s) {
5008     default:
5009         croak("panic: scan_num");
5010     case '0':
5011         {
5012             UV u;
5013             I32 shift;
5014             bool overflowed = FALSE;
5015
5016             if (s[1] == 'x') {
5017                 shift = 4;
5018                 s += 2;
5019             }
5020             else if (s[1] == '.')
5021                 goto decimal;
5022             else
5023                 shift = 3;
5024             u = 0;
5025             for (;;) {
5026                 UV n, b;
5027
5028                 switch (*s) {
5029                 default:
5030                     goto out;
5031                 case '_':
5032                     s++;
5033                     break;
5034                 case '8': case '9':
5035                     if (shift != 4)
5036                         yyerror("Illegal octal digit");
5037                     /* FALL THROUGH */
5038                 case '0': case '1': case '2': case '3': case '4':
5039                 case '5': case '6': case '7':
5040                     b = *s++ & 15;
5041                     goto digit;
5042                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
5043                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
5044                     if (shift != 4)
5045                         goto out;
5046                     b = (*s++ & 7) + 9;
5047                   digit:
5048                     n = u << shift;
5049                     if (!overflowed && (n >> shift) != u) {
5050                         warn("Integer overflow in %s number",
5051                              (shift == 4) ? "hex" : "octal");
5052                         overflowed = TRUE;
5053                     }
5054                     u = n | b;
5055                     break;
5056                 }
5057             }
5058           out:
5059             sv = NEWSV(92,0);
5060             sv_setuv(sv, u);
5061         }
5062         break;
5063     case '1': case '2': case '3': case '4': case '5':
5064     case '6': case '7': case '8': case '9': case '.':
5065       decimal:
5066         d = tokenbuf;
5067         e = tokenbuf + sizeof tokenbuf - 6; /* room for various punctuation */
5068         floatit = FALSE;
5069         while (isDIGIT(*s) || *s == '_') {
5070             if (*s == '_') {
5071                 if (dowarn && lastub && s - lastub != 3)
5072                     warn("Misplaced _ in number");
5073                 lastub = ++s;
5074             }
5075             else {
5076                 if (d >= e)
5077                     croak(number_too_long);
5078                 *d++ = *s++;
5079             }
5080         }
5081         if (dowarn && lastub && s - lastub != 3)
5082             warn("Misplaced _ in number");
5083         if (*s == '.' && s[1] != '.') {
5084             floatit = TRUE;
5085             *d++ = *s++;
5086             for (; isDIGIT(*s) || *s == '_'; s++) {
5087                 if (d >= e)
5088                     croak(number_too_long);
5089                 if (*s != '_')
5090                     *d++ = *s;
5091             }
5092         }
5093         if (*s && strchr("eE",*s) && strchr("+-0123456789",s[1])) {
5094             floatit = TRUE;
5095             s++;
5096             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
5097             if (*s == '+' || *s == '-')
5098                 *d++ = *s++;
5099             while (isDIGIT(*s)) {
5100                 if (d >= e)
5101                     croak(number_too_long);
5102                 *d++ = *s++;
5103             }
5104         }
5105         *d = '\0';
5106         sv = NEWSV(92,0);
5107         SET_NUMERIC_STANDARD();
5108         value = atof(tokenbuf);
5109         tryiv = I_V(value);
5110         if (!floatit && (double)tryiv == value)
5111             sv_setiv(sv, tryiv);
5112         else
5113             sv_setnv(sv, value);
5114         break;
5115     }
5116
5117     yylval.opval = newSVOP(OP_CONST, 0, sv);
5118
5119     return s;
5120 }
5121
5122 static char *
5123 scan_formline(s)
5124 register char *s;
5125 {
5126     dTHR;
5127     register char *eol;
5128     register char *t;
5129     SV *stuff = newSVpv("",0);
5130     bool needargs = FALSE;
5131
5132     while (!needargs) {
5133         if (*s == '.' || *s == '}') {
5134             /*SUPPRESS 530*/
5135             for (t = s+1; *t == ' ' || *t == '\t'; t++) ;
5136             if (*t == '\n')
5137                 break;
5138         }
5139         if (in_eval && !rsfp) {
5140             eol = strchr(s,'\n');
5141             if (!eol++)
5142                 eol = bufend;
5143         }
5144         else
5145             eol = bufend = SvPVX(linestr) + SvCUR(linestr);
5146         if (*s != '#') {
5147             for (t = s; t < eol; t++) {
5148                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
5149                     needargs = FALSE;
5150                     goto enough;        /* ~~ must be first line in formline */
5151                 }
5152                 if (*t == '@' || *t == '^')
5153                     needargs = TRUE;
5154             }
5155             sv_catpvn(stuff, s, eol-s);
5156         }
5157         s = eol;
5158         if (rsfp) {
5159             s = filter_gets(linestr, rsfp, 0);
5160             oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
5161             bufend = bufptr + SvCUR(linestr);
5162             if (!s) {
5163                 s = bufptr;
5164                 yyerror("Format not terminated");
5165                 break;
5166             }
5167         }
5168         incline(s);
5169     }
5170   enough:
5171     if (SvCUR(stuff)) {
5172         expect = XTERM;
5173         if (needargs) {
5174             lex_state = LEX_NORMAL;
5175             nextval[nexttoke].ival = 0;
5176             force_next(',');
5177         }
5178         else
5179             lex_state = LEX_FORMLINE;
5180         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, stuff);
5181         force_next(THING);
5182         nextval[nexttoke].ival = OP_FORMLINE;
5183         force_next(LSTOP);
5184     }
5185     else {
5186         SvREFCNT_dec(stuff);
5187         lex_formbrack = 0;
5188         bufptr = s;
5189     }
5190     return s;
5191 }
5192
5193 static void
5194 set_csh()
5195 {
5196 #ifdef CSH
5197     if (!cshlen)
5198         cshlen = strlen(cshname);
5199 #endif
5200 }
5201
5202 I32
5203 start_subparse(is_format, flags)
5204 I32 is_format;
5205 U32 flags;
5206 {
5207     dTHR;
5208     I32 oldsavestack_ix = savestack_ix;
5209     CV* outsidecv = compcv;
5210     AV* comppadlist;
5211
5212     if (compcv) {
5213         assert(SvTYPE(compcv) == SVt_PVCV);
5214     }
5215     save_I32(&subline);
5216     save_item(subname);
5217     SAVEI32(padix);
5218     SAVESPTR(curpad);
5219     SAVESPTR(comppad);
5220     SAVESPTR(comppad_name);
5221     SAVESPTR(compcv);
5222     SAVEI32(comppad_name_fill);
5223     SAVEI32(min_intro_pending);
5224     SAVEI32(max_intro_pending);
5225     SAVEI32(pad_reset_pending);
5226
5227     compcv = (CV*)NEWSV(1104,0);
5228     sv_upgrade((SV *)compcv, is_format ? SVt_PVFM : SVt_PVCV);
5229     CvFLAGS(compcv) |= flags;
5230
5231     comppad = newAV();
5232     av_push(comppad, Nullsv);
5233     curpad = AvARRAY(comppad);
5234     comppad_name = newAV();
5235     comppad_name_fill = 0;
5236     min_intro_pending = 0;
5237     padix = 0;
5238     subline = curcop->cop_line;
5239 #ifdef USE_THREADS
5240     av_store(comppad_name, 0, newSVpv("@_", 2));
5241     curpad[0] = (SV*)newAV();
5242     SvPADMY_on(curpad[0]);      /* XXX Needed? */
5243     CvOWNER(compcv) = 0;
5244     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5245     MUTEX_INIT(CvMUTEXP(compcv));
5246     New(666, CvCONDP(compcv), 1, perl_cond);
5247     COND_INIT(CvCONDP(compcv));
5248 #endif /* USE_THREADS */
5249
5250     comppadlist = newAV();
5251     AvREAL_off(comppadlist);
5252     av_store(comppadlist, 0, (SV*)comppad_name);
5253     av_store(comppadlist, 1, (SV*)comppad);
5254
5255     CvPADLIST(compcv) = comppadlist;
5256     CvOUTSIDE(compcv) = (CV*)SvREFCNT_inc((SV*)outsidecv);
5257 #ifdef USE_THREADS
5258     CvOWNER(compcv) = 0;
5259     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5260     MUTEX_INIT(CvMUTEXP(compcv));
5261     New(666, CvCONDP(compcv), 1, perl_cond);
5262     COND_INIT(CvCONDP(compcv));
5263 #endif /* USE_THREADS */
5264
5265     return oldsavestack_ix;
5266 }
5267
5268 int
5269 yywarn(s)
5270 char *s;
5271 {
5272     dTHR;
5273     --error_count;
5274     in_eval |= 2;
5275     yyerror(s);
5276     in_eval &= ~2;
5277     return 0;
5278 }
5279
5280 int
5281 yyerror(s)
5282 char *s;
5283 {
5284     dTHR;
5285     char *where = NULL;
5286     char *context = NULL;
5287     int contlen = -1;
5288     SV *msg;
5289
5290     if (!yychar || (yychar == ';' && !rsfp))
5291         where = "at EOF";
5292     else if (bufptr > oldoldbufptr && bufptr - oldoldbufptr < 200 &&
5293       oldoldbufptr != oldbufptr && oldbufptr != bufptr) {
5294         while (isSPACE(*oldoldbufptr))
5295             oldoldbufptr++;
5296         context = oldoldbufptr;
5297         contlen = bufptr - oldoldbufptr;
5298     }
5299     else if (bufptr > oldbufptr && bufptr - oldbufptr < 200 &&
5300       oldbufptr != bufptr) {
5301         while (isSPACE(*oldbufptr))
5302             oldbufptr++;
5303         context = oldbufptr;
5304         contlen = bufptr - oldbufptr;
5305     }
5306     else if (yychar > 255)
5307         where = "next token ???";
5308     else if ((yychar & 127) == 127) {
5309         if (lex_state == LEX_NORMAL ||
5310            (lex_state == LEX_KNOWNEXT && lex_defer == LEX_NORMAL))
5311             where = "at end of line";
5312         else if (lex_inpat)
5313             where = "within pattern";
5314         else
5315             where = "within string";
5316     }
5317     else {
5318         SV *where_sv = sv_2mortal(newSVpv("next char ", 0));
5319         if (yychar < 32)
5320             sv_catpvf(where_sv, "^%c", toCTRL(yychar));
5321         else if (isPRINT_LC(yychar))
5322             sv_catpvf(where_sv, "%c", yychar);
5323         else
5324             sv_catpvf(where_sv, "\\%03o", yychar & 255);
5325         where = SvPVX(where_sv);
5326     }
5327     msg = sv_2mortal(newSVpv(s, 0));
5328     sv_catpvf(msg, " at %_ line %ld, ",
5329               GvSV(curcop->cop_filegv), (long)curcop->cop_line);
5330     if (context)
5331         sv_catpvf(msg, "near \"%.*s\"\n", contlen, context);
5332     else
5333         sv_catpvf(msg, "%s\n", where);
5334     if (multi_start < multi_end && (U32)(curcop->cop_line - multi_end) <= 1) {
5335         sv_catpvf(msg,
5336         "  (Might be a runaway multi-line %c%c string starting on line %ld)\n",
5337                 (int)multi_open,(int)multi_close,(long)multi_start);
5338         multi_end = 0;
5339     }
5340     if (in_eval & 2)
5341         warn("%_", msg);
5342     else if (in_eval)
5343         sv_catsv(GvSV(errgv), msg);
5344     else
5345         PerlIO_write(PerlIO_stderr(), SvPVX(msg), SvCUR(msg));
5346     if (++error_count >= 10)
5347         croak("%_ has too many errors.\n", GvSV(curcop->cop_filegv));
5348     in_my = 0;
5349     in_my_stash = Nullhv;
5350     return 0;
5351 }