df5e0eb7fbae20ffc25be457840a1fa0d0629f21
[p5sagit/p5-mst-13.2.git] / toke.c
1 /*    toke.c
2  *
3  *    Copyright (c) 1991-1997, Larry Wall
4  *
5  *    You may distribute under the terms of either the GNU General Public
6  *    License or the Artistic License, as specified in the README file.
7  *
8  */
9
10 /*
11  *   "It all comes from here, the stench and the peril."  --Frodo
12  */
13
14 #include "EXTERN.h"
15 #include "perl.h"
16
17 static void check_uni _((void));
18 static void  force_next _((I32 type));
19 static char *force_version _((char *start));
20 static char *force_word _((char *start, int token, int check_keyword, int allow_pack, int allow_tick));
21 static SV *q _((SV *sv));
22 static char *scan_const _((char *start));
23 static char *scan_formline _((char *s));
24 static char *scan_heredoc _((char *s));
25 static char *scan_ident _((char *s, char *send, char *dest, STRLEN destlen,
26                            I32 ck_uni));
27 static char *scan_inputsymbol _((char *start));
28 static char *scan_pat _((char *start));
29 static char *scan_str _((char *start));
30 static char *scan_subst _((char *start));
31 static char *scan_trans _((char *start));
32 static char *scan_word _((char *s, char *dest, STRLEN destlen,
33                           int allow_package, STRLEN *slp));
34 static char *skipspace _((char *s));
35 static void checkcomma _((char *s, char *name, char *what));
36 static void force_ident _((char *s, int kind));
37 static void incline _((char *s));
38 static int intuit_method _((char *s, GV *gv));
39 static int intuit_more _((char *s));
40 static I32 lop _((I32 f, expectation x, char *s));
41 static void missingterm _((char *s));
42 static void no_op _((char *what, char *s));
43 static void set_csh _((void));
44 static I32 sublex_done _((void));
45 static I32 sublex_push _((void));
46 static I32 sublex_start _((void));
47 #ifdef CRIPPLED_CC
48 static int uni _((I32 f, char *s));
49 #endif
50 static char * filter_gets _((SV *sv, PerlIO *fp, STRLEN append));
51 static void restore_rsfp _((void *f));
52
53 static char ident_too_long[] = "Identifier too long";
54
55 static char *linestart;         /* beg. of most recently read line */
56
57 static char pending_ident;      /* pending identifier lookup */
58
59 static struct {
60     I32 super_state;    /* lexer state to save */
61     I32 sub_inwhat;     /* "lex_inwhat" to use */
62     OP *sub_op;         /* "lex_op" to use */
63 } sublex_info;
64
65 /* The following are arranged oddly so that the guard on the switch statement
66  * can get by with a single comparison (if the compiler is smart enough).
67  */
68
69 /* #define LEX_NOTPARSING               11 is done in perl.h. */
70
71 #define LEX_NORMAL              10
72 #define LEX_INTERPNORMAL         9
73 #define LEX_INTERPCASEMOD        8
74 #define LEX_INTERPPUSH           7
75 #define LEX_INTERPSTART          6
76 #define LEX_INTERPEND            5
77 #define LEX_INTERPENDMAYBE       4
78 #define LEX_INTERPCONCAT         3
79 #define LEX_INTERPCONST          2
80 #define LEX_FORMLINE             1
81 #define LEX_KNOWNEXT             0
82
83 #ifdef I_FCNTL
84 #include <fcntl.h>
85 #endif
86 #ifdef I_SYS_FILE
87 #include <sys/file.h>
88 #endif
89
90 /* XXX If this causes problems, set i_unistd=undef in the hint file.  */
91 #ifdef I_UNISTD
92 #  include <unistd.h> /* Needed for execv() */
93 #endif
94
95
96 #ifdef ff_next
97 #undef ff_next
98 #endif
99
100 #include "keywords.h"
101
102 #ifdef CLINE
103 #undef CLINE
104 #endif
105 #define CLINE (copline = (curcop->cop_line < copline ? curcop->cop_line : copline))
106
107 #define TOKEN(retval) return (bufptr = s,(int)retval)
108 #define OPERATOR(retval) return (expect = XTERM,bufptr = s,(int)retval)
109 #define AOPERATOR(retval) return ao((expect = XTERM,bufptr = s,(int)retval))
110 #define PREBLOCK(retval) return (expect = XBLOCK,bufptr = s,(int)retval)
111 #define PRETERMBLOCK(retval) return (expect = XTERMBLOCK,bufptr = s,(int)retval)
112 #define PREREF(retval) return (expect = XREF,bufptr = s,(int)retval)
113 #define TERM(retval) return (CLINE, expect = XOPERATOR,bufptr = s,(int)retval)
114 #define LOOPX(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LOOPEX)
115 #define FTST(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)UNIOP)
116 #define FUN0(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC0)
117 #define FUN1(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC1)
118 #define BOop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITOROP))
119 #define BAop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITANDOP))
120 #define SHop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)SHIFTOP))
121 #define PWop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)POWOP))
122 #define PMop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)MATCHOP)
123 #define Aop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)ADDOP))
124 #define Mop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)MULOP))
125 #define Eop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)EQOP)
126 #define Rop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)RELOP)
127
128 /* This bit of chicanery makes a unary function followed by
129  * a parenthesis into a function with one argument, highest precedence.
130  */
131 #define UNI(f) return(yylval.ival = f, \
132         expect = XTERM, \
133         bufptr = s, \
134         last_uni = oldbufptr, \
135         last_lop_op = f, \
136         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
137
138 #define UNIBRACK(f) return(yylval.ival = f, \
139         bufptr = s, \
140         last_uni = oldbufptr, \
141         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
142
143 /* grandfather return to old style */
144 #define OLDLOP(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LSTOP)
145
146 static int
147 ao(toketype)
148 int toketype;
149 {
150     if (*bufptr == '=') {
151         bufptr++;
152         if (toketype == ANDAND)
153             yylval.ival = OP_ANDASSIGN;
154         else if (toketype == OROR)
155             yylval.ival = OP_ORASSIGN;
156         toketype = ASSIGNOP;
157     }
158     return toketype;
159 }
160
161 static void
162 no_op(what, s)
163 char *what;
164 char *s;
165 {
166     char *oldbp = bufptr;
167     bool is_first = (oldbufptr == linestart);
168
169     bufptr = s;
170     yywarn(form("%s found where operator expected", what));
171     if (is_first)
172         warn("\t(Missing semicolon on previous line?)\n");
173     else if (oldoldbufptr && isIDFIRST(*oldoldbufptr)) {
174         char *t;
175         for (t = oldoldbufptr; *t && (isALNUM(*t) || *t == ':'); t++) ;
176         if (t < bufptr && isSPACE(*t))
177             warn("\t(Do you need to predeclare %.*s?)\n",
178                 t - oldoldbufptr, oldoldbufptr);
179
180     }
181     else
182         warn("\t(Missing operator before %.*s?)\n", s - oldbp, oldbp);
183     bufptr = oldbp;
184 }
185
186 static void
187 missingterm(s)
188 char *s;
189 {
190     char tmpbuf[3];
191     char q;
192     if (s) {
193         char *nl = strrchr(s,'\n');
194         if (nl)
195             *nl = '\0';
196     }
197     else if (multi_close < 32 || multi_close == 127) {
198         *tmpbuf = '^';
199         tmpbuf[1] = toCTRL(multi_close);
200         s = "\\n";
201         tmpbuf[2] = '\0';
202         s = tmpbuf;
203     }
204     else {
205         *tmpbuf = multi_close;
206         tmpbuf[1] = '\0';
207         s = tmpbuf;
208     }
209     q = strchr(s,'"') ? '\'' : '"';
210     croak("Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
211 }
212
213 void
214 deprecate(s)
215 char *s;
216 {
217     if (dowarn)
218         warn("Use of %s is deprecated", s);
219 }
220
221 static void
222 depcom()
223 {
224     deprecate("comma-less variable list");
225 }
226
227 void
228 lex_start(line)
229 SV *line;
230 {
231     dTHR;
232     char *s;
233     STRLEN len;
234
235     SAVEI32(lex_dojoin);
236     SAVEI32(lex_brackets);
237     SAVEI32(lex_fakebrack);
238     SAVEI32(lex_casemods);
239     SAVEI32(lex_starts);
240     SAVEI32(lex_state);
241     SAVESPTR(lex_inpat);
242     SAVEI32(lex_inwhat);
243     SAVEI16(curcop->cop_line);
244     SAVEPPTR(bufptr);
245     SAVEPPTR(bufend);
246     SAVEPPTR(oldbufptr);
247     SAVEPPTR(oldoldbufptr);
248     SAVEPPTR(linestart);
249     SAVESPTR(linestr);
250     SAVEPPTR(lex_brackstack);
251     SAVEPPTR(lex_casestack);
252     SAVEDESTRUCTOR(restore_rsfp, rsfp);
253
254     lex_state = LEX_NORMAL;
255     lex_defer = 0;
256     expect = XSTATE;
257     lex_brackets = 0;
258     lex_fakebrack = 0;
259     New(899, lex_brackstack, 120, char);
260     New(899, lex_casestack, 12, char);
261     SAVEFREEPV(lex_brackstack);
262     SAVEFREEPV(lex_casestack);
263     lex_casemods = 0;
264     *lex_casestack = '\0';
265     lex_dojoin = 0;
266     lex_starts = 0;
267     if (lex_stuff)
268         SvREFCNT_dec(lex_stuff);
269     lex_stuff = Nullsv;
270     if (lex_repl)
271         SvREFCNT_dec(lex_repl);
272     lex_repl = Nullsv;
273     lex_inpat = 0;
274     lex_inwhat = 0;
275     linestr = line;
276     if (SvREADONLY(linestr))
277         linestr = sv_2mortal(newSVsv(linestr));
278     s = SvPV(linestr, len);
279     if (len && s[len-1] != ';') {
280         if (!(SvFLAGS(linestr) & SVs_TEMP))
281             linestr = sv_2mortal(newSVsv(linestr));
282         sv_catpvn(linestr, "\n;", 2);
283     }
284     SvTEMP_off(linestr);
285     oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
286     bufend = bufptr + SvCUR(linestr);
287     SvREFCNT_dec(rs);
288     rs = newSVpv("\n", 1);
289     rsfp = 0;
290 }
291
292 void
293 lex_end()
294 {
295     doextract = FALSE;
296 }
297
298 static void
299 restore_rsfp(f)
300 void *f;
301 {
302     PerlIO *fp = (PerlIO*)f;
303
304     if (rsfp == PerlIO_stdin())
305         PerlIO_clearerr(rsfp);
306     else if (rsfp && (rsfp != fp))
307         PerlIO_close(rsfp);
308     rsfp = fp;
309 }
310
311 static void
312 incline(s)
313 char *s;
314 {
315     dTHR;
316     char *t;
317     char *n;
318     char ch;
319     int sawline = 0;
320
321     curcop->cop_line++;
322     if (*s++ != '#')
323         return;
324     while (*s == ' ' || *s == '\t') s++;
325     if (strnEQ(s, "line ", 5)) {
326         s += 5;
327         sawline = 1;
328     }
329     if (!isDIGIT(*s))
330         return;
331     n = s;
332     while (isDIGIT(*s))
333         s++;
334     while (*s == ' ' || *s == '\t')
335         s++;
336     if (*s == '"' && (t = strchr(s+1, '"')))
337         s++;
338     else {
339         if (!sawline)
340             return;             /* false alarm */
341         for (t = s; !isSPACE(*t); t++) ;
342     }
343     ch = *t;
344     *t = '\0';
345     if (t - s > 0)
346         curcop->cop_filegv = gv_fetchfile(s);
347     else
348         curcop->cop_filegv = gv_fetchfile(origfilename);
349     *t = ch;
350     curcop->cop_line = atoi(n)-1;
351 }
352
353 static char *
354 skipspace(s)
355 register char *s;
356 {
357     dTHR;
358     if (lex_formbrack && lex_brackets <= lex_formbrack) {
359         while (s < bufend && (*s == ' ' || *s == '\t'))
360             s++;
361         return s;
362     }
363     for (;;) {
364         STRLEN prevlen;
365         while (s < bufend && isSPACE(*s))
366             s++;
367         if (s < bufend && *s == '#') {
368             while (s < bufend && *s != '\n')
369                 s++;
370             if (s < bufend)
371                 s++;
372         }
373         if (s < bufend || !rsfp || lex_state != LEX_NORMAL)
374             return s;
375         if ((s = filter_gets(linestr, rsfp, (prevlen = SvCUR(linestr)))) == Nullch) {
376             if (minus_n || minus_p) {
377                 sv_setpv(linestr,minus_p ?
378                          ";}continue{print or die qq(-p destination: $!\\n)" :
379                          "");
380                 sv_catpv(linestr,";}");
381                 minus_n = minus_p = 0;
382             }
383             else
384                 sv_setpv(linestr,";");
385             oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
386             bufend = SvPVX(linestr) + SvCUR(linestr);
387             if (preprocess && !in_eval)
388                 (void)my_pclose(rsfp);
389             else if ((PerlIO*)rsfp == PerlIO_stdin())
390                 PerlIO_clearerr(rsfp);
391             else
392                 (void)PerlIO_close(rsfp);
393             if (e_fp == rsfp)
394                 e_fp = Nullfp;
395             rsfp = Nullfp;
396             return s;
397         }
398         linestart = bufptr = s + prevlen;
399         bufend = s + SvCUR(linestr);
400         s = bufptr;
401         incline(s);
402         if (PERLDB_LINE && curstash != debstash) {
403             SV *sv = NEWSV(85,0);
404
405             sv_upgrade(sv, SVt_PVMG);
406             sv_setpvn(sv,bufptr,bufend-bufptr);
407             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
408         }
409     }
410 }
411
412 static void
413 check_uni() {
414     char *s;
415     char ch;
416     char *t;
417
418     if (oldoldbufptr != last_uni)
419         return;
420     while (isSPACE(*last_uni))
421         last_uni++;
422     for (s = last_uni; isALNUM(*s) || *s == '-'; s++) ;
423     if ((t = strchr(s, '(')) && t < bufptr)
424         return;
425     ch = *s;
426     *s = '\0';
427     warn("Warning: Use of \"%s\" without parens is ambiguous", last_uni);
428     *s = ch;
429 }
430
431 #ifdef CRIPPLED_CC
432
433 #undef UNI
434 #define UNI(f) return uni(f,s)
435
436 static int
437 uni(f,s)
438 I32 f;
439 char *s;
440 {
441     yylval.ival = f;
442     expect = XTERM;
443     bufptr = s;
444     last_uni = oldbufptr;
445     last_lop_op = f;
446     if (*s == '(')
447         return FUNC1;
448     s = skipspace(s);
449     if (*s == '(')
450         return FUNC1;
451     else
452         return UNIOP;
453 }
454
455 #endif /* CRIPPLED_CC */
456
457 #define LOP(f,x) return lop(f,x,s)
458
459 static I32
460 lop
461 #ifdef CAN_PROTOTYPE
462    (I32 f, expectation x, char *s)
463 #else
464    (f,x,s)
465 I32 f;
466 expectation x;
467 char *s;
468 #endif /* CAN_PROTOTYPE */
469 {
470     dTHR;
471     yylval.ival = f;
472     CLINE;
473     expect = x;
474     bufptr = s;
475     last_lop = oldbufptr;
476     last_lop_op = f;
477     if (nexttoke)
478         return LSTOP;
479     if (*s == '(')
480         return FUNC;
481     s = skipspace(s);
482     if (*s == '(')
483         return FUNC;
484     else
485         return LSTOP;
486 }
487
488 static void 
489 force_next(type)
490 I32 type;
491 {
492     nexttype[nexttoke] = type;
493     nexttoke++;
494     if (lex_state != LEX_KNOWNEXT) {
495         lex_defer = lex_state;
496         lex_expect = expect;
497         lex_state = LEX_KNOWNEXT;
498     }
499 }
500
501 static char *
502 force_word(start,token,check_keyword,allow_pack,allow_tick)
503 register char *start;
504 int token;
505 int check_keyword;
506 int allow_pack;
507 int allow_tick;
508 {
509     register char *s;
510     STRLEN len;
511     
512     start = skipspace(start);
513     s = start;
514     if (isIDFIRST(*s) ||
515         (allow_pack && *s == ':') ||
516         (allow_tick && *s == '\'') )
517     {
518         s = scan_word(s, tokenbuf, sizeof tokenbuf, allow_pack, &len);
519         if (check_keyword && keyword(tokenbuf, len))
520             return start;
521         if (token == METHOD) {
522             s = skipspace(s);
523             if (*s == '(')
524                 expect = XTERM;
525             else {
526                 expect = XOPERATOR;
527                 force_next(')');
528                 force_next('(');
529             }
530         }
531         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST,0, newSVpv(tokenbuf,0));
532         nextval[nexttoke].opval->op_private |= OPpCONST_BARE;
533         force_next(token);
534     }
535     return s;
536 }
537
538 static void
539 force_ident(s, kind)
540 register char *s;
541 int kind;
542 {
543     if (s && *s) {
544         OP* o = (OP*)newSVOP(OP_CONST, 0, newSVpv(s,0));
545         nextval[nexttoke].opval = o;
546         force_next(WORD);
547         if (kind) {
548             dTHR;               /* just for in_eval */
549             o->op_private = OPpCONST_ENTERED;
550             /* XXX see note in pp_entereval() for why we forgo typo
551                warnings if the symbol must be introduced in an eval.
552                GSAR 96-10-12 */
553             gv_fetchpv(s, in_eval ? GV_ADDMULTI : TRUE,
554                 kind == '$' ? SVt_PV :
555                 kind == '@' ? SVt_PVAV :
556                 kind == '%' ? SVt_PVHV :
557                               SVt_PVGV
558                 );
559         }
560     }
561 }
562
563 static char *
564 force_version(s)
565 char *s;
566 {
567     OP *version = Nullop;
568
569     s = skipspace(s);
570
571     /* default VERSION number -- GBARR */
572
573     if(isDIGIT(*s)) {
574         char *d;
575         int c;
576         for( d=s, c = 1; isDIGIT(*d) || *d == '_' || (*d == '.' && c--); d++);
577         if((*d == ';' || isSPACE(*d)) && *(skipspace(d)) != ',') {
578             s = scan_num(s);
579             /* real VERSION number -- GBARR */
580             version = yylval.opval;
581         }
582     }
583
584     /* NOTE: The parser sees the package name and the VERSION swapped */
585     nextval[nexttoke].opval = version;
586     force_next(WORD); 
587
588     return (s);
589 }
590
591 static SV *
592 q(sv)
593 SV *sv;
594 {
595     register char *s;
596     register char *send;
597     register char *d;
598     STRLEN len;
599
600     if (!SvLEN(sv))
601         return sv;
602
603     s = SvPV_force(sv, len);
604     if (SvIVX(sv) == -1)
605         return sv;
606     send = s + len;
607     while (s < send && *s != '\\')
608         s++;
609     if (s == send)
610         return sv;
611     d = s;
612     while (s < send) {
613         if (*s == '\\') {
614             if (s + 1 < send && (s[1] == '\\'))
615                 s++;            /* all that, just for this */
616         }
617         *d++ = *s++;
618     }
619     *d = '\0';
620     SvCUR_set(sv, d - SvPVX(sv));
621
622     return sv;
623 }
624
625 static I32
626 sublex_start()
627 {
628     register I32 op_type = yylval.ival;
629
630     if (op_type == OP_NULL) {
631         yylval.opval = lex_op;
632         lex_op = Nullop;
633         return THING;
634     }
635     if (op_type == OP_CONST || op_type == OP_READLINE) {
636         SV *sv = q(lex_stuff);
637         STRLEN len;
638         char *p = SvPV(sv, len);
639         yylval.opval = (OP*)newSVOP(op_type, 0, newSVpv(p, len));
640         SvREFCNT_dec(sv);
641         lex_stuff = Nullsv;
642         return THING;
643     }
644
645     sublex_info.super_state = lex_state;
646     sublex_info.sub_inwhat = op_type;
647     sublex_info.sub_op = lex_op;
648     lex_state = LEX_INTERPPUSH;
649
650     expect = XTERM;
651     if (lex_op) {
652         yylval.opval = lex_op;
653         lex_op = Nullop;
654         return PMFUNC;
655     }
656     else
657         return FUNC;
658 }
659
660 static I32
661 sublex_push()
662 {
663     dTHR;
664     push_scope();
665
666     lex_state = sublex_info.super_state;
667     SAVEI32(lex_dojoin);
668     SAVEI32(lex_brackets);
669     SAVEI32(lex_fakebrack);
670     SAVEI32(lex_casemods);
671     SAVEI32(lex_starts);
672     SAVEI32(lex_state);
673     SAVESPTR(lex_inpat);
674     SAVEI32(lex_inwhat);
675     SAVEI16(curcop->cop_line);
676     SAVEPPTR(bufptr);
677     SAVEPPTR(oldbufptr);
678     SAVEPPTR(oldoldbufptr);
679     SAVEPPTR(linestart);
680     SAVESPTR(linestr);
681     SAVEPPTR(lex_brackstack);
682     SAVEPPTR(lex_casestack);
683
684     linestr = lex_stuff;
685     lex_stuff = Nullsv;
686
687     bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
688     bufend += SvCUR(linestr);
689     SAVEFREESV(linestr);
690
691     lex_dojoin = FALSE;
692     lex_brackets = 0;
693     lex_fakebrack = 0;
694     New(899, lex_brackstack, 120, char);
695     New(899, lex_casestack, 12, char);
696     SAVEFREEPV(lex_brackstack);
697     SAVEFREEPV(lex_casestack);
698     lex_casemods = 0;
699     *lex_casestack = '\0';
700     lex_starts = 0;
701     lex_state = LEX_INTERPCONCAT;
702     curcop->cop_line = multi_start;
703
704     lex_inwhat = sublex_info.sub_inwhat;
705     if (lex_inwhat == OP_MATCH || lex_inwhat == OP_SUBST)
706         lex_inpat = sublex_info.sub_op;
707     else
708         lex_inpat = Nullop;
709
710     return '(';
711 }
712
713 static I32
714 sublex_done()
715 {
716     if (!lex_starts++) {
717         expect = XOPERATOR;
718         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv("",0));
719         return THING;
720     }
721
722     if (lex_casemods) {         /* oops, we've got some unbalanced parens */
723         lex_state = LEX_INTERPCASEMOD;
724         return yylex();
725     }
726
727     /* Is there a right-hand side to take care of? */
728     if (lex_repl && (lex_inwhat == OP_SUBST || lex_inwhat == OP_TRANS)) {
729         linestr = lex_repl;
730         lex_inpat = 0;
731         bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
732         bufend += SvCUR(linestr);
733         SAVEFREESV(linestr);
734         lex_dojoin = FALSE;
735         lex_brackets = 0;
736         lex_fakebrack = 0;
737         lex_casemods = 0;
738         *lex_casestack = '\0';
739         lex_starts = 0;
740         if (SvCOMPILED(lex_repl)) {
741             lex_state = LEX_INTERPNORMAL;
742             lex_starts++;
743         }
744         else
745             lex_state = LEX_INTERPCONCAT;
746         lex_repl = Nullsv;
747         return ',';
748     }
749     else {
750         pop_scope();
751         bufend = SvPVX(linestr);
752         bufend += SvCUR(linestr);
753         expect = XOPERATOR;
754         return ')';
755     }
756 }
757
758 static char *
759 scan_const(start)
760 char *start;
761 {
762     register char *send = bufend;
763     SV *sv = NEWSV(93, send - start);
764     register char *s = start;
765     register char *d = SvPVX(sv);
766     bool dorange = FALSE;
767     I32 len;
768     char *leaveit =
769         lex_inpat
770             ? "\\.^$@AGZdDwWsSbB+*?|()-nrtfeaxc0123456789[{]} \t\n\r\f\v#"
771             : (lex_inwhat & OP_TRANS)
772                 ? ""
773                 : "";
774
775     while (s < send || dorange) {
776         if (lex_inwhat == OP_TRANS) {
777             if (dorange) {
778                 I32 i;
779                 I32 max;
780                 i = d - SvPVX(sv);
781                 SvGROW(sv, SvLEN(sv) + 256);
782                 d = SvPVX(sv) + i;
783                 d -= 2;
784                 max = (U8)d[1];
785                 for (i = (U8)*d; i <= max; i++)
786                     *d++ = i;
787                 dorange = FALSE;
788                 continue;
789             }
790             else if (*s == '-' && s+1 < send  && s != start) {
791                 dorange = TRUE;
792                 s++;
793             }
794         }
795         else if (*s == '(' && lex_inpat && s[1] == '?' && s[2] == '#') {
796             while (s < send && *s != ')')
797                 *d++ = *s++;
798         }
799         else if (*s == '#' && lex_inpat &&
800           ((PMOP*)lex_inpat)->op_pmflags & PMf_EXTENDED) {
801             while (s+1 < send && *s != '\n')
802                 *d++ = *s++;
803         }
804         else if (*s == '@' && s[1] && (isALNUM(s[1]) || strchr(":'{$", s[1])))
805             break;
806         else if (*s == '$') {
807             if (!lex_inpat)     /* not a regexp, so $ must be var */
808                 break;
809             if (s + 1 < send && !strchr(")| \n\t", s[1]))
810                 break;          /* in regexp, $ might be tail anchor */
811         }
812         if (*s == '\\' && s+1 < send) {
813             s++;
814             if (*s && strchr(leaveit, *s)) {
815                 *d++ = '\\';
816                 *d++ = *s++;
817                 continue;
818             }
819             if (lex_inwhat == OP_SUBST && !lex_inpat &&
820                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
821             {
822                 if (dowarn)
823                     warn("\\%c better written as $%c", *s, *s);
824                 *--s = '$';
825                 break;
826             }
827             if (lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
828                 --s;
829                 break;
830             }
831             switch (*s) {
832             case '-':
833                 if (lex_inwhat == OP_TRANS) {
834                     *d++ = *s++;
835                     continue;
836                 }
837                 /* FALL THROUGH */
838             default:
839                 *d++ = *s++;
840                 continue;
841             case '0': case '1': case '2': case '3':
842             case '4': case '5': case '6': case '7':
843                 *d++ = scan_oct(s, 3, &len);
844                 s += len;
845                 continue;
846             case 'x':
847                 *d++ = scan_hex(++s, 2, &len);
848                 s += len;
849                 continue;
850             case 'c':
851                 s++;
852                 len = *s++;
853                 *d++ = toCTRL(len);
854                 continue;
855             case 'b':
856                 *d++ = '\b';
857                 break;
858             case 'n':
859                 *d++ = '\n';
860                 break;
861             case 'r':
862                 *d++ = '\r';
863                 break;
864             case 'f':
865                 *d++ = '\f';
866                 break;
867             case 't':
868                 *d++ = '\t';
869                 break;
870             case 'e':
871                 *d++ = '\033';
872                 break;
873             case 'a':
874                 *d++ = '\007';
875                 break;
876             }
877             s++;
878             continue;
879         }
880         *d++ = *s++;
881     }
882     *d = '\0';
883     SvCUR_set(sv, d - SvPVX(sv));
884     SvPOK_on(sv);
885
886     if (SvCUR(sv) + 5 < SvLEN(sv)) {
887         SvLEN_set(sv, SvCUR(sv) + 1);
888         Renew(SvPVX(sv), SvLEN(sv), char);
889     }
890     if (s > bufptr)
891         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
892     else
893         SvREFCNT_dec(sv);
894     return s;
895 }
896
897 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
898 static int
899 intuit_more(s)
900 register char *s;
901 {
902     if (lex_brackets)
903         return TRUE;
904     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
905         return TRUE;
906     if (*s != '{' && *s != '[')
907         return FALSE;
908     if (!lex_inpat)
909         return TRUE;
910
911     /* In a pattern, so maybe we have {n,m}. */
912     if (*s == '{') {
913         s++;
914         if (!isDIGIT(*s))
915             return TRUE;
916         while (isDIGIT(*s))
917             s++;
918         if (*s == ',')
919             s++;
920         while (isDIGIT(*s))
921             s++;
922         if (*s == '}')
923             return FALSE;
924         return TRUE;
925         
926     }
927
928     /* On the other hand, maybe we have a character class */
929
930     s++;
931     if (*s == ']' || *s == '^')
932         return FALSE;
933     else {
934         int weight = 2;         /* let's weigh the evidence */
935         char seen[256];
936         unsigned char un_char = 0, last_un_char;
937         char *send = strchr(s,']');
938         char tmpbuf[sizeof tokenbuf * 4];
939
940         if (!send)              /* has to be an expression */
941             return TRUE;
942
943         Zero(seen,256,char);
944         if (*s == '$')
945             weight -= 3;
946         else if (isDIGIT(*s)) {
947             if (s[1] != ']') {
948                 if (isDIGIT(s[1]) && s[2] == ']')
949                     weight -= 10;
950             }
951             else
952                 weight -= 100;
953         }
954         for (; s < send; s++) {
955             last_un_char = un_char;
956             un_char = (unsigned char)*s;
957             switch (*s) {
958             case '@':
959             case '&':
960             case '$':
961                 weight -= seen[un_char] * 10;
962                 if (isALNUM(s[1])) {
963                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
964                     if ((int)strlen(tmpbuf) > 1 && gv_fetchpv(tmpbuf,FALSE, SVt_PV))
965                         weight -= 100;
966                     else
967                         weight -= 10;
968                 }
969                 else if (*s == '$' && s[1] &&
970                   strchr("[#!%*<>()-=",s[1])) {
971                     if (/*{*/ strchr("])} =",s[2]))
972                         weight -= 10;
973                     else
974                         weight -= 1;
975                 }
976                 break;
977             case '\\':
978                 un_char = 254;
979                 if (s[1]) {
980                     if (strchr("wds]",s[1]))
981                         weight += 100;
982                     else if (seen['\''] || seen['"'])
983                         weight += 1;
984                     else if (strchr("rnftbxcav",s[1]))
985                         weight += 40;
986                     else if (isDIGIT(s[1])) {
987                         weight += 40;
988                         while (s[1] && isDIGIT(s[1]))
989                             s++;
990                     }
991                 }
992                 else
993                     weight += 100;
994                 break;
995             case '-':
996                 if (s[1] == '\\')
997                     weight += 50;
998                 if (strchr("aA01! ",last_un_char))
999                     weight += 30;
1000                 if (strchr("zZ79~",s[1]))
1001                     weight += 30;
1002                 break;
1003             default:
1004                 if (!isALNUM(last_un_char) && !strchr("$@&",last_un_char) &&
1005                         isALPHA(*s) && s[1] && isALPHA(s[1])) {
1006                     char *d = tmpbuf;
1007                     while (isALPHA(*s))
1008                         *d++ = *s++;
1009                     *d = '\0';
1010                     if (keyword(tmpbuf, d - tmpbuf))
1011                         weight -= 150;
1012                 }
1013                 if (un_char == last_un_char + 1)
1014                     weight += 5;
1015                 weight -= seen[un_char];
1016                 break;
1017             }
1018             seen[un_char]++;
1019         }
1020         if (weight >= 0)        /* probably a character class */
1021             return FALSE;
1022     }
1023
1024     return TRUE;
1025 }
1026
1027 static int
1028 intuit_method(start,gv)
1029 char *start;
1030 GV *gv;
1031 {
1032     char *s = start + (*start == '$');
1033     char tmpbuf[sizeof tokenbuf];
1034     STRLEN len;
1035     GV* indirgv;
1036
1037     if (gv) {
1038         if (GvIO(gv))
1039             return 0;
1040         if (!GvCVu(gv))
1041             gv = 0;
1042     }
1043     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
1044     if (*start == '$') {
1045         if (gv || last_lop_op == OP_PRINT || isUPPER(*tokenbuf))
1046             return 0;
1047         s = skipspace(s);
1048         bufptr = start;
1049         expect = XREF;
1050         return *s == '(' ? FUNCMETH : METHOD;
1051     }
1052     if (!keyword(tmpbuf, len)) {
1053         indirgv = gv_fetchpv(tmpbuf,FALSE, SVt_PVCV);
1054         if (indirgv && GvCVu(indirgv))
1055             return 0;
1056         /* filehandle or package name makes it a method */
1057         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
1058             s = skipspace(s);
1059             if ((bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
1060                 return 0;       /* no assumptions -- "=>" quotes bearword */
1061             nextval[nexttoke].opval =
1062                 (OP*)newSVOP(OP_CONST, 0,
1063                             newSVpv(tmpbuf,0));
1064             nextval[nexttoke].opval->op_private =
1065                 OPpCONST_BARE;
1066             expect = XTERM;
1067             force_next(WORD);
1068             bufptr = s;
1069             return *s == '(' ? FUNCMETH : METHOD;
1070         }
1071     }
1072     return 0;
1073 }
1074
1075 static char*
1076 incl_perldb()
1077 {
1078     if (perldb) {
1079         char *pdb = getenv("PERL5DB");
1080
1081         if (pdb)
1082             return pdb;
1083         return "BEGIN { require 'perl5db.pl' }";
1084     }
1085     return "";
1086 }
1087
1088
1089 /* Encoded script support. filter_add() effectively inserts a
1090  * 'pre-processing' function into the current source input stream. 
1091  * Note that the filter function only applies to the current source file
1092  * (e.g., it will not affect files 'require'd or 'use'd by this one).
1093  *
1094  * The datasv parameter (which may be NULL) can be used to pass
1095  * private data to this instance of the filter. The filter function
1096  * can recover the SV using the FILTER_DATA macro and use it to
1097  * store private buffers and state information.
1098  *
1099  * The supplied datasv parameter is upgraded to a PVIO type
1100  * and the IoDIRP field is used to store the function pointer.
1101  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
1102  * private use must be set using malloc'd pointers.
1103  */
1104 static int filter_debug = 0;
1105
1106 SV *
1107 filter_add(funcp, datasv)
1108     filter_t funcp;
1109     SV *datasv;
1110 {
1111     if (!funcp){ /* temporary handy debugging hack to be deleted */
1112         filter_debug = atoi((char*)datasv);
1113         return NULL;
1114     }
1115     if (!rsfp_filters)
1116         rsfp_filters = newAV();
1117     if (!datasv)
1118         datasv = newSV(0);
1119     if (!SvUPGRADE(datasv, SVt_PVIO))
1120         die("Can't upgrade filter_add data to SVt_PVIO");
1121     IoDIRP(datasv) = (DIR*)funcp; /* stash funcp into spare field */
1122     if (filter_debug)
1123         warn("filter_add func %p (%s)", funcp, SvPV(datasv,na));
1124     av_unshift(rsfp_filters, 1);
1125     av_store(rsfp_filters, 0, datasv) ;
1126     return(datasv);
1127 }
1128  
1129
1130 /* Delete most recently added instance of this filter function. */
1131 void
1132 filter_del(funcp)
1133     filter_t funcp;
1134 {
1135     if (filter_debug)
1136         warn("filter_del func %p", funcp);
1137     if (!rsfp_filters || AvFILL(rsfp_filters)<0)
1138         return;
1139     /* if filter is on top of stack (usual case) just pop it off */
1140     if (IoDIRP(FILTER_DATA(0)) == (void*)funcp){
1141         /* sv_free(av_pop(rsfp_filters)); */
1142         sv_free(av_shift(rsfp_filters));
1143
1144         return;
1145     }
1146     /* we need to search for the correct entry and clear it     */
1147     die("filter_del can only delete in reverse order (currently)");
1148 }
1149
1150
1151 /* Invoke the n'th filter function for the current rsfp.         */
1152 I32
1153 filter_read(idx, buf_sv, maxlen)
1154     int idx;
1155     SV *buf_sv;
1156     int maxlen;         /* 0 = read one text line */
1157 {
1158     filter_t funcp;
1159     SV *datasv = NULL;
1160
1161     if (!rsfp_filters)
1162         return -1;
1163     if (idx > AvFILL(rsfp_filters)){       /* Any more filters? */
1164         /* Provide a default input filter to make life easy.    */
1165         /* Note that we append to the line. This is handy.      */
1166         if (filter_debug)
1167             warn("filter_read %d: from rsfp\n", idx);
1168         if (maxlen) { 
1169             /* Want a block */
1170             int len ;
1171             int old_len = SvCUR(buf_sv) ;
1172
1173             /* ensure buf_sv is large enough */
1174             SvGROW(buf_sv, old_len + maxlen) ;
1175             if ((len = PerlIO_read(rsfp, SvPVX(buf_sv) + old_len, maxlen)) <= 0){
1176                 if (PerlIO_error(rsfp))
1177                     return -1;          /* error */
1178                 else
1179                     return 0 ;          /* end of file */
1180             }
1181             SvCUR_set(buf_sv, old_len + len) ;
1182         } else {
1183             /* Want a line */
1184             if (sv_gets(buf_sv, rsfp, SvCUR(buf_sv)) == NULL) {
1185                 if (PerlIO_error(rsfp))
1186                     return -1;          /* error */
1187                 else
1188                     return 0 ;          /* end of file */
1189             }
1190         }
1191         return SvCUR(buf_sv);
1192     }
1193     /* Skip this filter slot if filter has been deleted */
1194     if ( (datasv = FILTER_DATA(idx)) == &sv_undef){
1195         if (filter_debug)
1196             warn("filter_read %d: skipped (filter deleted)\n", idx);
1197         return FILTER_READ(idx+1, buf_sv, maxlen); /* recurse */
1198     }
1199     /* Get function pointer hidden within datasv        */
1200     funcp = (filter_t)IoDIRP(datasv);
1201     if (filter_debug)
1202         warn("filter_read %d: via function %p (%s)\n",
1203                 idx, funcp, SvPV(datasv,na));
1204     /* Call function. The function is expected to       */
1205     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
1206     /* Return: <0:error, =0:eof, >0:not eof             */
1207     return (*funcp)(idx, buf_sv, maxlen);
1208 }
1209
1210 static char *
1211 filter_gets(sv,fp, append)
1212 register SV *sv;
1213 register PerlIO *fp;
1214 STRLEN append;
1215 {
1216     if (rsfp_filters) {
1217
1218         if (!append)
1219             SvCUR_set(sv, 0);   /* start with empty line        */
1220         if (FILTER_READ(0, sv, 0) > 0)
1221             return ( SvPVX(sv) ) ;
1222         else
1223             return Nullch ;
1224     }
1225     else 
1226         return (sv_gets(sv, fp, append));
1227     
1228 }
1229
1230
1231 #ifdef DEBUGGING
1232     static char* exp_name[] =
1233         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "TERMBLOCK" };
1234 #endif
1235
1236 EXT int yychar;         /* last token */
1237
1238 int
1239 yylex()
1240 {
1241     dTHR;
1242     register char *s;
1243     register char *d;
1244     register I32 tmp;
1245     STRLEN len;
1246
1247     if (pending_ident) {
1248         char pit = pending_ident;
1249         pending_ident = 0;
1250
1251         if (in_my) {
1252             if (strchr(tokenbuf,':'))
1253                 croak(no_myglob,tokenbuf);
1254             yylval.opval = newOP(OP_PADANY, 0);
1255             yylval.opval->op_targ = pad_allocmy(tokenbuf);
1256             return PRIVATEREF;
1257         }
1258
1259         if (!strchr(tokenbuf,':')) {
1260 #ifdef USE_THREADS
1261             /* Check for single character per-thread magicals */
1262             if (tokenbuf[0] == '$' && tokenbuf[2] == '\0'
1263                 && !isALPHA(tokenbuf[1]) /* Rule out obvious non-magicals */
1264                 && (tmp = find_thread_magical(&tokenbuf[1])) != NOT_IN_PAD)
1265             {
1266                 yylval.opval = newOP(OP_SPECIFIC, 0);
1267                 yylval.opval->op_targ = tmp;
1268                 return PRIVATEREF;
1269             }
1270 #endif /* USE_THREADS */
1271             if ((tmp = pad_findmy(tokenbuf)) != NOT_IN_PAD) {
1272                 if (last_lop_op == OP_SORT &&
1273                     tokenbuf[0] == '$' &&
1274                     (tokenbuf[1] == 'a' || tokenbuf[1] == 'b')
1275                     && !tokenbuf[2])
1276                 {
1277                     for (d = in_eval ? oldoldbufptr : linestart;
1278                          d < bufend && *d != '\n';
1279                          d++)
1280                     {
1281                         if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
1282                             croak("Can't use \"my %s\" in sort comparison",
1283                                   tokenbuf);
1284                         }
1285                     }
1286                 }
1287
1288                 yylval.opval = newOP(OP_PADANY, 0);
1289                 yylval.opval->op_targ = tmp;
1290                 return PRIVATEREF;
1291             }
1292         }
1293
1294         /* Force them to make up their mind on "@foo". */
1295         if (pit == '@' && lex_state != LEX_NORMAL && !lex_brackets) {
1296             GV *gv = gv_fetchpv(tokenbuf+1, FALSE, SVt_PVAV);
1297             if (!gv || ((tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
1298                 yyerror(form("In string, %s now must be written as \\%s",
1299                              tokenbuf, tokenbuf));
1300         }
1301
1302         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf+1, 0));
1303         yylval.opval->op_private = OPpCONST_ENTERED;
1304         gv_fetchpv(tokenbuf+1, in_eval ? GV_ADDMULTI : TRUE,
1305                    ((tokenbuf[0] == '$') ? SVt_PV
1306                     : (tokenbuf[0] == '@') ? SVt_PVAV
1307                     : SVt_PVHV));
1308         return WORD;
1309     }
1310
1311     switch (lex_state) {
1312 #ifdef COMMENTARY
1313     case LEX_NORMAL:            /* Some compilers will produce faster */
1314     case LEX_INTERPNORMAL:      /* code if we comment these out. */
1315         break;
1316 #endif
1317
1318     case LEX_KNOWNEXT:
1319         nexttoke--;
1320         yylval = nextval[nexttoke];
1321         if (!nexttoke) {
1322             lex_state = lex_defer;
1323             expect = lex_expect;
1324             lex_defer = LEX_NORMAL;
1325         }
1326         return(nexttype[nexttoke]);
1327
1328     case LEX_INTERPCASEMOD:
1329 #ifdef DEBUGGING
1330         if (bufptr != bufend && *bufptr != '\\')
1331             croak("panic: INTERPCASEMOD");
1332 #endif
1333         if (bufptr == bufend || bufptr[1] == 'E') {
1334             char oldmod;
1335             if (lex_casemods) {
1336                 oldmod = lex_casestack[--lex_casemods];
1337                 lex_casestack[lex_casemods] = '\0';
1338                 if (bufptr != bufend && strchr("LUQ", oldmod)) {
1339                     bufptr += 2;
1340                     lex_state = LEX_INTERPCONCAT;
1341                 }
1342                 return ')';
1343             }
1344             if (bufptr != bufend)
1345                 bufptr += 2;
1346             lex_state = LEX_INTERPCONCAT;
1347             return yylex();
1348         }
1349         else {
1350             s = bufptr + 1;
1351             if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
1352                 tmp = *s, *s = s[2], s[2] = tmp;        /* misordered... */
1353             if (strchr("LU", *s) &&
1354                 (strchr(lex_casestack, 'L') || strchr(lex_casestack, 'U')))
1355             {
1356                 lex_casestack[--lex_casemods] = '\0';
1357                 return ')';
1358             }
1359             if (lex_casemods > 10) {
1360                 char* newlb = Renew(lex_casestack, lex_casemods + 2, char);
1361                 if (newlb != lex_casestack) {
1362                     SAVEFREEPV(newlb);
1363                     lex_casestack = newlb;
1364                 }
1365             }
1366             lex_casestack[lex_casemods++] = *s;
1367             lex_casestack[lex_casemods] = '\0';
1368             lex_state = LEX_INTERPCONCAT;
1369             nextval[nexttoke].ival = 0;
1370             force_next('(');
1371             if (*s == 'l')
1372                 nextval[nexttoke].ival = OP_LCFIRST;
1373             else if (*s == 'u')
1374                 nextval[nexttoke].ival = OP_UCFIRST;
1375             else if (*s == 'L')
1376                 nextval[nexttoke].ival = OP_LC;
1377             else if (*s == 'U')
1378                 nextval[nexttoke].ival = OP_UC;
1379             else if (*s == 'Q')
1380                 nextval[nexttoke].ival = OP_QUOTEMETA;
1381             else
1382                 croak("panic: yylex");
1383             bufptr = s + 1;
1384             force_next(FUNC);
1385             if (lex_starts) {
1386                 s = bufptr;
1387                 lex_starts = 0;
1388                 Aop(OP_CONCAT);
1389             }
1390             else
1391                 return yylex();
1392         }
1393
1394     case LEX_INTERPPUSH:
1395         return sublex_push();
1396
1397     case LEX_INTERPSTART:
1398         if (bufptr == bufend)
1399             return sublex_done();
1400         expect = XTERM;
1401         lex_dojoin = (*bufptr == '@');
1402         lex_state = LEX_INTERPNORMAL;
1403         if (lex_dojoin) {
1404             nextval[nexttoke].ival = 0;
1405             force_next(',');
1406 #ifdef USE_THREADS
1407             nextval[nexttoke].opval = newOP(OP_SPECIFIC, 0);
1408             nextval[nexttoke].opval->op_targ = find_thread_magical("\"");
1409             force_next(PRIVATEREF);
1410 #else
1411             force_ident("\"", '$');
1412 #endif /* USE_THREADS */
1413             nextval[nexttoke].ival = 0;
1414             force_next('$');
1415             nextval[nexttoke].ival = 0;
1416             force_next('(');
1417             nextval[nexttoke].ival = OP_JOIN;   /* emulate join($", ...) */
1418             force_next(FUNC);
1419         }
1420         if (lex_starts++) {
1421             s = bufptr;
1422             Aop(OP_CONCAT);
1423         }
1424         return yylex();
1425
1426     case LEX_INTERPENDMAYBE:
1427         if (intuit_more(bufptr)) {
1428             lex_state = LEX_INTERPNORMAL;       /* false alarm, more expr */
1429             break;
1430         }
1431         /* FALL THROUGH */
1432
1433     case LEX_INTERPEND:
1434         if (lex_dojoin) {
1435             lex_dojoin = FALSE;
1436             lex_state = LEX_INTERPCONCAT;
1437             return ')';
1438         }
1439         /* FALLTHROUGH */
1440     case LEX_INTERPCONCAT:
1441 #ifdef DEBUGGING
1442         if (lex_brackets)
1443             croak("panic: INTERPCONCAT");
1444 #endif
1445         if (bufptr == bufend)
1446             return sublex_done();
1447
1448         if (SvIVX(linestr) == '\'') {
1449             SV *sv = newSVsv(linestr);
1450             if (!lex_inpat)
1451                 sv = q(sv);
1452             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1453             s = bufend;
1454         }
1455         else {
1456             s = scan_const(bufptr);
1457             if (*s == '\\')
1458                 lex_state = LEX_INTERPCASEMOD;
1459             else
1460                 lex_state = LEX_INTERPSTART;
1461         }
1462
1463         if (s != bufptr) {
1464             nextval[nexttoke] = yylval;
1465             expect = XTERM;
1466             force_next(THING);
1467             if (lex_starts++)
1468                 Aop(OP_CONCAT);
1469             else {
1470                 bufptr = s;
1471                 return yylex();
1472             }
1473         }
1474
1475         return yylex();
1476     case LEX_FORMLINE:
1477         lex_state = LEX_NORMAL;
1478         s = scan_formline(bufptr);
1479         if (!lex_formbrack)
1480             goto rightbracket;
1481         OPERATOR(';');
1482     }
1483
1484     s = bufptr;
1485     oldoldbufptr = oldbufptr;
1486     oldbufptr = s;
1487     DEBUG_p( {
1488         PerlIO_printf(PerlIO_stderr(), "### Tokener expecting %s at %s\n", exp_name[expect], s);
1489     } )
1490
1491   retry:
1492     switch (*s) {
1493     default:
1494         croak("Unrecognized character \\%03o", *s & 255);
1495     case 4:
1496     case 26:
1497         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
1498     case 0:
1499         if (!rsfp) {
1500             last_uni = 0;
1501             last_lop = 0;
1502             if (lex_brackets)
1503                 yyerror("Missing right bracket");
1504             TOKEN(0);
1505         }
1506         if (s++ < bufend)
1507             goto retry;                 /* ignore stray nulls */
1508         last_uni = 0;
1509         last_lop = 0;
1510         if (!in_eval && !preambled) {
1511             preambled = TRUE;
1512             sv_setpv(linestr,incl_perldb());
1513             if (SvCUR(linestr))
1514                 sv_catpv(linestr,";");
1515             if (preambleav){
1516                 while(AvFILL(preambleav) >= 0) {
1517                     SV *tmpsv = av_shift(preambleav);
1518                     sv_catsv(linestr, tmpsv);
1519                     sv_catpv(linestr, ";");
1520                     sv_free(tmpsv);
1521                 }
1522                 sv_free((SV*)preambleav);
1523                 preambleav = NULL;
1524             }
1525             if (minus_n || minus_p) {
1526                 sv_catpv(linestr, "LINE: while (<>) {");
1527                 if (minus_l)
1528                     sv_catpv(linestr,"chomp;");
1529                 if (minus_a) {
1530                     GV* gv = gv_fetchpv("::F", TRUE, SVt_PVAV);
1531                     if (gv)
1532                         GvIMPORTED_AV_on(gv);
1533                     if (minus_F) {
1534                         if (strchr("/'\"", *splitstr)
1535                               && strchr(splitstr + 1, *splitstr))
1536                             sv_catpvf(linestr, "@F=split(%s);", splitstr);
1537                         else {
1538                             char delim;
1539                             s = "'~#\200\1'"; /* surely one char is unused...*/
1540                             while (s[1] && strchr(splitstr, *s))  s++;
1541                             delim = *s;
1542                             sv_catpvf(linestr, "@F=split(%s%c",
1543                                       "q" + (delim == '\''), delim);
1544                             for (s = splitstr; *s; s++) {
1545                                 if (*s == '\\')
1546                                     sv_catpvn(linestr, "\\", 1);
1547                                 sv_catpvn(linestr, s, 1);
1548                             }
1549                             sv_catpvf(linestr, "%c);", delim);
1550                         }
1551                     }
1552                     else
1553                         sv_catpv(linestr,"@F=split(' ');");
1554                 }
1555             }
1556             sv_catpv(linestr, "\n");
1557             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1558             bufend = SvPVX(linestr) + SvCUR(linestr);
1559             if (PERLDB_LINE && curstash != debstash) {
1560                 SV *sv = NEWSV(85,0);
1561
1562                 sv_upgrade(sv, SVt_PVMG);
1563                 sv_setsv(sv,linestr);
1564                 av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1565             }
1566             goto retry;
1567         }
1568         do {
1569             if ((s = filter_gets(linestr, rsfp, 0)) == Nullch) {
1570               fake_eof:
1571                 if (rsfp) {
1572                     if (preprocess && !in_eval)
1573                         (void)my_pclose(rsfp);
1574                     else if ((PerlIO *)rsfp == PerlIO_stdin())
1575                         PerlIO_clearerr(rsfp);
1576                     else
1577                         (void)PerlIO_close(rsfp);
1578                     if (e_fp == rsfp)
1579                         e_fp = Nullfp;
1580                     rsfp = Nullfp;
1581                 }
1582                 if (!in_eval && (minus_n || minus_p)) {
1583                     sv_setpv(linestr,minus_p ? ";}continue{print" : "");
1584                     sv_catpv(linestr,";}");
1585                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1586                     bufend = SvPVX(linestr) + SvCUR(linestr);
1587                     minus_n = minus_p = 0;
1588                     goto retry;
1589                 }
1590                 oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1591                 sv_setpv(linestr,"");
1592                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
1593             }
1594             if (doextract) {
1595                 if (*s == '#' && s[1] == '!' && instr(s,"perl"))
1596                     doextract = FALSE;
1597
1598                 /* Incest with pod. */
1599                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
1600                     sv_setpv(linestr, "");
1601                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1602                     bufend = SvPVX(linestr) + SvCUR(linestr);
1603                     doextract = FALSE;
1604                 }
1605             }
1606             incline(s);
1607         } while (doextract);
1608         oldoldbufptr = oldbufptr = bufptr = linestart = s;
1609         if (PERLDB_LINE && curstash != debstash) {
1610             SV *sv = NEWSV(85,0);
1611
1612             sv_upgrade(sv, SVt_PVMG);
1613             sv_setsv(sv,linestr);
1614             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1615         }
1616         bufend = SvPVX(linestr) + SvCUR(linestr);
1617         if (curcop->cop_line == 1) {
1618             while (s < bufend && isSPACE(*s))
1619                 s++;
1620             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
1621                 s++;
1622             d = Nullch;
1623             if (!in_eval) {
1624                 if (*s == '#' && *(s+1) == '!')
1625                     d = s + 2;
1626 #ifdef ALTERNATE_SHEBANG
1627                 else {
1628                     static char as[] = ALTERNATE_SHEBANG;
1629                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
1630                         d = s + (sizeof(as) - 1);
1631                 }
1632 #endif /* ALTERNATE_SHEBANG */
1633             }
1634             if (d) {
1635                 char *ipath;
1636                 char *ipathend;
1637
1638                 while (isSPACE(*d))
1639                     d++;
1640                 ipath = d;
1641                 while (*d && !isSPACE(*d))
1642                     d++;
1643                 ipathend = d;
1644
1645 #ifdef ARG_ZERO_IS_SCRIPT
1646                 if (ipathend > ipath) {
1647                     /*
1648                      * HP-UX (at least) sets argv[0] to the script name,
1649                      * which makes $^X incorrect.  And Digital UNIX and Linux,
1650                      * at least, set argv[0] to the basename of the Perl
1651                      * interpreter. So, having found "#!", we'll set it right.
1652                      */
1653                     SV *x = GvSV(gv_fetchpv("\030", TRUE, SVt_PV));
1654                     assert(SvPOK(x) || SvGMAGICAL(x));
1655                     if (sv_eq(x, GvSV(curcop->cop_filegv))) {
1656                         sv_setpvn(x, ipath, ipathend - ipath);
1657                         SvSETMAGIC(x);
1658                     }
1659                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
1660                 }
1661 #endif /* ARG_ZERO_IS_SCRIPT */
1662
1663                 /*
1664                  * Look for options.
1665                  */
1666                 d = instr(s,"perl -");
1667                 if (!d)
1668                     d = instr(s,"perl");
1669 #ifdef ALTERNATE_SHEBANG
1670                 /*
1671                  * If the ALTERNATE_SHEBANG on this system starts with a
1672                  * character that can be part of a Perl expression, then if
1673                  * we see it but not "perl", we're probably looking at the
1674                  * start of Perl code, not a request to hand off to some
1675                  * other interpreter.  Similarly, if "perl" is there, but
1676                  * not in the first 'word' of the line, we assume the line
1677                  * contains the start of the Perl program.
1678                  */
1679                 if (d && *s != '#') {
1680                     char *c = ipath;
1681                     while (*c && !strchr("; \t\r\n\f\v#", *c))
1682                         c++;
1683                     if (c < d)
1684                         d = Nullch;     /* "perl" not in first word; ignore */
1685                     else
1686                         *s = '#';       /* Don't try to parse shebang line */
1687                 }
1688 #endif /* ALTERNATE_SHEBANG */
1689                 if (!d &&
1690                     *s == '#' &&
1691                     ipathend > ipath &&
1692                     !minus_c &&
1693                     !instr(s,"indir") &&
1694                     instr(origargv[0],"perl"))
1695                 {
1696                     char **newargv;
1697
1698                     *ipathend = '\0';
1699                     s = ipathend + 1;
1700                     while (s < bufend && isSPACE(*s))
1701                         s++;
1702                     if (s < bufend) {
1703                         Newz(899,newargv,origargc+3,char*);
1704                         newargv[1] = s;
1705                         while (s < bufend && !isSPACE(*s))
1706                             s++;
1707                         *s = '\0';
1708                         Copy(origargv+1, newargv+2, origargc+1, char*);
1709                     }
1710                     else
1711                         newargv = origargv;
1712                     newargv[0] = ipath;
1713                     execv(ipath, newargv);
1714                     croak("Can't exec %s", ipath);
1715                 }
1716                 if (d) {
1717                     U32 oldpdb = perldb;
1718                     bool oldn = minus_n;
1719                     bool oldp = minus_p;
1720
1721                     while (*d && !isSPACE(*d)) d++;
1722                     while (*d == ' ' || *d == '\t') d++;
1723
1724                     if (*d++ == '-') {
1725                         do {
1726                             if (*d == 'M' || *d == 'm') {
1727                                 char *m = d;
1728                                 while (*d && !isSPACE(*d)) d++;
1729                                 croak("Too late for \"-%.*s\" option",
1730                                       (int)(d - m), m);
1731                             }
1732                             d = moreswitches(d);
1733                         } while (d);
1734                         if (PERLDB_LINE && !oldpdb ||
1735                             ( minus_n || minus_p ) && !(oldn || oldp) )
1736                               /* if we have already added "LINE: while (<>) {",
1737                                  we must not do it again */
1738                         {
1739                             sv_setpv(linestr, "");
1740                             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1741                             bufend = SvPVX(linestr) + SvCUR(linestr);
1742                             preambled = FALSE;
1743                             if (PERLDB_LINE)
1744                                 (void)gv_fetchfile(origfilename);
1745                             goto retry;
1746                         }
1747                     }
1748                 }
1749             }
1750         }
1751         if (lex_formbrack && lex_brackets <= lex_formbrack) {
1752             bufptr = s;
1753             lex_state = LEX_FORMLINE;
1754             return yylex();
1755         }
1756         goto retry;
1757     case '\r':
1758         warn("Illegal character \\%03o (carriage return)", '\r');
1759         croak(
1760       "(Maybe you didn't strip carriage returns after a network transfer?)\n");
1761     case ' ': case '\t': case '\f': case 013:
1762         s++;
1763         goto retry;
1764     case '#':
1765     case '\n':
1766         if (lex_state != LEX_NORMAL || (in_eval && !rsfp)) {
1767             d = bufend;
1768             while (s < d && *s != '\n')
1769                 s++;
1770             if (s < d)
1771                 s++;
1772             incline(s);
1773             if (lex_formbrack && lex_brackets <= lex_formbrack) {
1774                 bufptr = s;
1775                 lex_state = LEX_FORMLINE;
1776                 return yylex();
1777             }
1778         }
1779         else {
1780             *s = '\0';
1781             bufend = s;
1782         }
1783         goto retry;
1784     case '-':
1785         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
1786             s++;
1787             bufptr = s;
1788             tmp = *s++;
1789
1790             while (s < bufend && (*s == ' ' || *s == '\t'))
1791                 s++;
1792
1793             if (strnEQ(s,"=>",2)) {
1794                 if (dowarn)
1795                     warn("Ambiguous use of -%c => resolved to \"-%c\" =>",
1796                         (int)tmp, (int)tmp);
1797                 s = force_word(bufptr,WORD,FALSE,FALSE,FALSE);
1798                 OPERATOR('-');          /* unary minus */
1799             }
1800             last_uni = oldbufptr;
1801             last_lop_op = OP_FTEREAD;   /* good enough */
1802             switch (tmp) {
1803             case 'r': FTST(OP_FTEREAD);
1804             case 'w': FTST(OP_FTEWRITE);
1805             case 'x': FTST(OP_FTEEXEC);
1806             case 'o': FTST(OP_FTEOWNED);
1807             case 'R': FTST(OP_FTRREAD);
1808             case 'W': FTST(OP_FTRWRITE);
1809             case 'X': FTST(OP_FTREXEC);
1810             case 'O': FTST(OP_FTROWNED);
1811             case 'e': FTST(OP_FTIS);
1812             case 'z': FTST(OP_FTZERO);
1813             case 's': FTST(OP_FTSIZE);
1814             case 'f': FTST(OP_FTFILE);
1815             case 'd': FTST(OP_FTDIR);
1816             case 'l': FTST(OP_FTLINK);
1817             case 'p': FTST(OP_FTPIPE);
1818             case 'S': FTST(OP_FTSOCK);
1819             case 'u': FTST(OP_FTSUID);
1820             case 'g': FTST(OP_FTSGID);
1821             case 'k': FTST(OP_FTSVTX);
1822             case 'b': FTST(OP_FTBLK);
1823             case 'c': FTST(OP_FTCHR);
1824             case 't': FTST(OP_FTTTY);
1825             case 'T': FTST(OP_FTTEXT);
1826             case 'B': FTST(OP_FTBINARY);
1827             case 'M': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTMTIME);
1828             case 'A': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTATIME);
1829             case 'C': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTCTIME);
1830             default:
1831                 croak("Unrecognized file test: -%c", (int)tmp);
1832                 break;
1833             }
1834         }
1835         tmp = *s++;
1836         if (*s == tmp) {
1837             s++;
1838             if (expect == XOPERATOR)
1839                 TERM(POSTDEC);
1840             else
1841                 OPERATOR(PREDEC);
1842         }
1843         else if (*s == '>') {
1844             s++;
1845             s = skipspace(s);
1846             if (isIDFIRST(*s)) {
1847                 s = force_word(s,METHOD,FALSE,TRUE,FALSE);
1848                 TOKEN(ARROW);
1849             }
1850             else if (*s == '$')
1851                 OPERATOR(ARROW);
1852             else
1853                 TERM(ARROW);
1854         }
1855         if (expect == XOPERATOR)
1856             Aop(OP_SUBTRACT);
1857         else {
1858             if (isSPACE(*s) || !isSPACE(*bufptr))
1859                 check_uni();
1860             OPERATOR('-');              /* unary minus */
1861         }
1862
1863     case '+':
1864         tmp = *s++;
1865         if (*s == tmp) {
1866             s++;
1867             if (expect == XOPERATOR)
1868                 TERM(POSTINC);
1869             else
1870                 OPERATOR(PREINC);
1871         }
1872         if (expect == XOPERATOR)
1873             Aop(OP_ADD);
1874         else {
1875             if (isSPACE(*s) || !isSPACE(*bufptr))
1876                 check_uni();
1877             OPERATOR('+');
1878         }
1879
1880     case '*':
1881         if (expect != XOPERATOR) {
1882             s = scan_ident(s, bufend, tokenbuf, sizeof tokenbuf, TRUE);
1883             expect = XOPERATOR;
1884             force_ident(tokenbuf, '*');
1885             if (!*tokenbuf)
1886                 PREREF('*');
1887             TERM('*');
1888         }
1889         s++;
1890         if (*s == '*') {
1891             s++;
1892             PWop(OP_POW);
1893         }
1894         Mop(OP_MULTIPLY);
1895
1896     case '%':
1897         if (expect == XOPERATOR) {
1898             ++s;
1899             Mop(OP_MODULO);
1900         }
1901         tokenbuf[0] = '%';
1902         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, TRUE);
1903         if (!tokenbuf[1]) {
1904             if (s == bufend)
1905                 yyerror("Final % should be \\% or %name");
1906             PREREF('%');
1907         }
1908         pending_ident = '%';
1909         TERM('%');
1910
1911     case '^':
1912         s++;
1913         BOop(OP_BIT_XOR);
1914     case '[':
1915         lex_brackets++;
1916         /* FALL THROUGH */
1917     case '~':
1918     case ',':
1919         tmp = *s++;
1920         OPERATOR(tmp);
1921     case ':':
1922         if (s[1] == ':') {
1923             len = 0;
1924             goto just_a_word;
1925         }
1926         s++;
1927         OPERATOR(':');
1928     case '(':
1929         s++;
1930         if (last_lop == oldoldbufptr || last_uni == oldoldbufptr)
1931             oldbufptr = oldoldbufptr;           /* allow print(STDOUT 123) */
1932         else
1933             expect = XTERM;
1934         TOKEN('(');
1935     case ';':
1936         if (curcop->cop_line < copline)
1937             copline = curcop->cop_line;
1938         tmp = *s++;
1939         OPERATOR(tmp);
1940     case ')':
1941         tmp = *s++;
1942         s = skipspace(s);
1943         if (*s == '{')
1944             PREBLOCK(tmp);
1945         TERM(tmp);
1946     case ']':
1947         s++;
1948         if (lex_brackets <= 0)
1949             yyerror("Unmatched right bracket");
1950         else
1951             --lex_brackets;
1952         if (lex_state == LEX_INTERPNORMAL) {
1953             if (lex_brackets == 0) {
1954                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
1955                     lex_state = LEX_INTERPEND;
1956             }
1957         }
1958         TERM(']');
1959     case '{':
1960       leftbracket:
1961         s++;
1962         if (lex_brackets > 100) {
1963             char* newlb = Renew(lex_brackstack, lex_brackets + 1, char);
1964             if (newlb != lex_brackstack) {
1965                 SAVEFREEPV(newlb);
1966                 lex_brackstack = newlb;
1967             }
1968         }
1969         switch (expect) {
1970         case XTERM:
1971             if (lex_formbrack) {
1972                 s--;
1973                 PRETERMBLOCK(DO);
1974             }
1975             if (oldoldbufptr == last_lop)
1976                 lex_brackstack[lex_brackets++] = XTERM;
1977             else
1978                 lex_brackstack[lex_brackets++] = XOPERATOR;
1979             OPERATOR(HASHBRACK);
1980         case XOPERATOR:
1981             while (s < bufend && (*s == ' ' || *s == '\t'))
1982                 s++;
1983             d = s;
1984             tokenbuf[0] = '\0';
1985             if (d < bufend && *d == '-') {
1986                 tokenbuf[0] = '-';
1987                 d++;
1988                 while (d < bufend && (*d == ' ' || *d == '\t'))
1989                     d++;
1990             }
1991             if (d < bufend && isIDFIRST(*d)) {
1992                 d = scan_word(d, tokenbuf + 1, sizeof tokenbuf - 1,
1993                               FALSE, &len);
1994                 while (d < bufend && (*d == ' ' || *d == '\t'))
1995                     d++;
1996                 if (*d == '}') {
1997                     char minus = (tokenbuf[0] == '-');
1998                     if (dowarn &&
1999                         (keyword(tokenbuf + 1, len) ||
2000                          (minus && len == 1 && isALPHA(tokenbuf[1])) ||
2001                          perl_get_cv(tokenbuf + 1, FALSE) ))
2002                         warn("Ambiguous use of {%s} resolved to {\"%s\"}",
2003                              tokenbuf + !minus, tokenbuf + !minus);
2004                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
2005                     if (minus)
2006                         force_next('-');
2007                 }
2008             }
2009             /* FALL THROUGH */
2010         case XBLOCK:
2011             lex_brackstack[lex_brackets++] = XSTATE;
2012             expect = XSTATE;
2013             break;
2014         case XTERMBLOCK:
2015             lex_brackstack[lex_brackets++] = XOPERATOR;
2016             expect = XSTATE;
2017             break;
2018         default: {
2019                 char *t;
2020                 if (oldoldbufptr == last_lop)
2021                     lex_brackstack[lex_brackets++] = XTERM;
2022                 else
2023                     lex_brackstack[lex_brackets++] = XOPERATOR;
2024                 s = skipspace(s);
2025                 if (*s == '}')
2026                     OPERATOR(HASHBRACK);
2027                 /* This hack serves to disambiguate a pair of curlies
2028                  * as being a block or an anon hash.  Normally, expectation
2029                  * determines that, but in cases where we're not in a
2030                  * position to expect anything in particular (like inside
2031                  * eval"") we have to resolve the ambiguity.  This code
2032                  * covers the case where the first term in the curlies is a
2033                  * quoted string.  Most other cases need to be explicitly
2034                  * disambiguated by prepending a `+' before the opening
2035                  * curly in order to force resolution as an anon hash.
2036                  *
2037                  * XXX should probably propagate the outer expectation
2038                  * into eval"" to rely less on this hack, but that could
2039                  * potentially break current behavior of eval"".
2040                  * GSAR 97-07-21
2041                  */
2042                 t = s;
2043                 if (*s == '\'' || *s == '"' || *s == '`') {
2044                     /* common case: get past first string, handling escapes */
2045                     for (t++; t < bufend && *t != *s;)
2046                         if (*t++ == '\\' && (*t == '\\' || *t == *s))
2047                             t++;
2048                     t++;
2049                 }
2050                 else if (*s == 'q') {
2051                     if (++t < bufend
2052                         && (!isALNUM(*t)
2053                             || ((*t == 'q' || *t == 'x') && ++t < bufend
2054                                 && !isALNUM(*t)))) {
2055                         char *tmps;
2056                         char open, close, term;
2057                         I32 brackets = 1;
2058
2059                         while (t < bufend && isSPACE(*t))
2060                             t++;
2061                         term = *t;
2062                         open = term;
2063                         if (term && (tmps = strchr("([{< )]}> )]}>",term)))
2064                             term = tmps[5];
2065                         close = term;
2066                         if (open == close)
2067                             for (t++; t < bufend; t++) {
2068                                 if (*t == '\\' && t+1 < bufend && open != '\\')
2069                                     t++;
2070                                 else if (*t == open)
2071                                     break;
2072                             }
2073                         else
2074                             for (t++; t < bufend; t++) {
2075                                 if (*t == '\\' && t+1 < bufend)
2076                                     t++;
2077                                 else if (*t == close && --brackets <= 0)
2078                                     break;
2079                                 else if (*t == open)
2080                                     brackets++;
2081                             }
2082                     }
2083                     t++;
2084                 }
2085                 else if (isALPHA(*s)) {
2086                     for (t++; t < bufend && isALNUM(*t); t++) ;
2087                 }
2088                 while (t < bufend && isSPACE(*t))
2089                     t++;
2090                 /* if comma follows first term, call it an anon hash */
2091                 /* XXX it could be a comma expression with loop modifiers */
2092                 if (t < bufend && ((*t == ',' && (*s == 'q' || !isLOWER(*s)))
2093                                    || (*t == '=' && t[1] == '>')))
2094                     OPERATOR(HASHBRACK);
2095                 if (expect == XREF)
2096                     expect = XTERM;
2097                 else {
2098                     lex_brackstack[lex_brackets-1] = XSTATE;
2099                     expect = XSTATE;
2100                 }
2101             }
2102             break;
2103         }
2104         yylval.ival = curcop->cop_line;
2105         if (isSPACE(*s) || *s == '#')
2106             copline = NOLINE;   /* invalidate current command line number */
2107         TOKEN('{');
2108     case '}':
2109       rightbracket:
2110         s++;
2111         if (lex_brackets <= 0)
2112             yyerror("Unmatched right bracket");
2113         else
2114             expect = (expectation)lex_brackstack[--lex_brackets];
2115         if (lex_brackets < lex_formbrack)
2116             lex_formbrack = 0;
2117         if (lex_state == LEX_INTERPNORMAL) {
2118             if (lex_brackets == 0) {
2119                 if (lex_fakebrack) {
2120                     lex_state = LEX_INTERPEND;
2121                     bufptr = s;
2122                     return yylex();             /* ignore fake brackets */
2123                 }
2124                 if (*s == '-' && s[1] == '>')
2125                     lex_state = LEX_INTERPENDMAYBE;
2126                 else if (*s != '[' && *s != '{')
2127                     lex_state = LEX_INTERPEND;
2128             }
2129         }
2130         if (lex_brackets < lex_fakebrack) {
2131             bufptr = s;
2132             lex_fakebrack = 0;
2133             return yylex();             /* ignore fake brackets */
2134         }
2135         force_next('}');
2136         TOKEN(';');
2137     case '&':
2138         s++;
2139         tmp = *s++;
2140         if (tmp == '&')
2141             AOPERATOR(ANDAND);
2142         s--;
2143         if (expect == XOPERATOR) {
2144             if (dowarn && isALPHA(*s) && bufptr == linestart) {
2145                 curcop->cop_line--;
2146                 warn(warn_nosemi);
2147                 curcop->cop_line++;
2148             }
2149             BAop(OP_BIT_AND);
2150         }
2151
2152         s = scan_ident(s - 1, bufend, tokenbuf, sizeof tokenbuf, TRUE);
2153         if (*tokenbuf) {
2154             expect = XOPERATOR;
2155             force_ident(tokenbuf, '&');
2156         }
2157         else
2158             PREREF('&');
2159         yylval.ival = (OPpENTERSUB_AMPER<<8);
2160         TERM('&');
2161
2162     case '|':
2163         s++;
2164         tmp = *s++;
2165         if (tmp == '|')
2166             AOPERATOR(OROR);
2167         s--;
2168         BOop(OP_BIT_OR);
2169     case '=':
2170         s++;
2171         tmp = *s++;
2172         if (tmp == '=')
2173             Eop(OP_EQ);
2174         if (tmp == '>')
2175             OPERATOR(',');
2176         if (tmp == '~')
2177             PMop(OP_MATCH);
2178         if (dowarn && tmp && isSPACE(*s) && strchr("+-*/%.^&|<",tmp))
2179             warn("Reversed %c= operator",(int)tmp);
2180         s--;
2181         if (expect == XSTATE && isALPHA(tmp) &&
2182                 (s == linestart+1 || s[-2] == '\n') )
2183         {
2184             if (in_eval && !rsfp) {
2185                 d = bufend;
2186                 while (s < d) {
2187                     if (*s++ == '\n') {
2188                         incline(s);
2189                         if (strnEQ(s,"=cut",4)) {
2190                             s = strchr(s,'\n');
2191                             if (s)
2192                                 s++;
2193                             else
2194                                 s = d;
2195                             incline(s);
2196                             goto retry;
2197                         }
2198                     }
2199                 }
2200                 goto retry;
2201             }
2202             s = bufend;
2203             doextract = TRUE;
2204             goto retry;
2205         }
2206         if (lex_brackets < lex_formbrack) {
2207             char *t;
2208             for (t = s; *t == ' ' || *t == '\t'; t++) ;
2209             if (*t == '\n' || *t == '#') {
2210                 s--;
2211                 expect = XBLOCK;
2212                 goto leftbracket;
2213             }
2214         }
2215         yylval.ival = 0;
2216         OPERATOR(ASSIGNOP);
2217     case '!':
2218         s++;
2219         tmp = *s++;
2220         if (tmp == '=')
2221             Eop(OP_NE);
2222         if (tmp == '~')
2223             PMop(OP_NOT);
2224         s--;
2225         OPERATOR('!');
2226     case '<':
2227         if (expect != XOPERATOR) {
2228             if (s[1] != '<' && !strchr(s,'>'))
2229                 check_uni();
2230             if (s[1] == '<')
2231                 s = scan_heredoc(s);
2232             else
2233                 s = scan_inputsymbol(s);
2234             TERM(sublex_start());
2235         }
2236         s++;
2237         tmp = *s++;
2238         if (tmp == '<')
2239             SHop(OP_LEFT_SHIFT);
2240         if (tmp == '=') {
2241             tmp = *s++;
2242             if (tmp == '>')
2243                 Eop(OP_NCMP);
2244             s--;
2245             Rop(OP_LE);
2246         }
2247         s--;
2248         Rop(OP_LT);
2249     case '>':
2250         s++;
2251         tmp = *s++;
2252         if (tmp == '>')
2253             SHop(OP_RIGHT_SHIFT);
2254         if (tmp == '=')
2255             Rop(OP_GE);
2256         s--;
2257         Rop(OP_GT);
2258
2259     case '$':
2260         CLINE;
2261
2262         if (expect == XOPERATOR) {
2263             if (lex_formbrack && lex_brackets == lex_formbrack) {
2264                 expect = XTERM;
2265                 depcom();
2266                 return ','; /* grandfather non-comma-format format */
2267             }
2268         }
2269
2270         if (s[1] == '#' && (isALPHA(s[2]) || strchr("_{$:", s[2]))) {
2271             if (expect == XOPERATOR)
2272                 no_op("Array length", bufptr);
2273             tokenbuf[0] = '@';
2274             s = scan_ident(s + 1, bufend, tokenbuf + 1, sizeof tokenbuf - 1,
2275                            FALSE);
2276             if (!tokenbuf[1])
2277                 PREREF(DOLSHARP);
2278             expect = XOPERATOR;
2279             pending_ident = '#';
2280             TOKEN(DOLSHARP);
2281         }
2282
2283         if (expect == XOPERATOR)
2284             no_op("Scalar", bufptr);
2285         tokenbuf[0] = '$';
2286         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2287         if (!tokenbuf[1]) {
2288             if (s == bufend)
2289                 yyerror("Final $ should be \\$ or $name");
2290             PREREF('$');
2291         }
2292
2293         /* This kludge not intended to be bulletproof. */
2294         if (tokenbuf[1] == '[' && !tokenbuf[2]) {
2295             yylval.opval = newSVOP(OP_CONST, 0,
2296                                    newSViv((IV)compiling.cop_arybase));
2297             yylval.opval->op_private = OPpCONST_ARYBASE;
2298             TERM(THING);
2299         }
2300
2301         d = s;
2302         if (lex_state == LEX_NORMAL)
2303             s = skipspace(s);
2304
2305         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2306             char *t;
2307             if (*s == '[') {
2308                 tokenbuf[0] = '@';
2309                 if (dowarn) {
2310                     for(t = s + 1;
2311                         isSPACE(*t) || isALNUM(*t) || *t == '$';
2312                         t++) ;
2313                     if (*t++ == ',') {
2314                         bufptr = skipspace(bufptr);
2315                         while (t < bufend && *t != ']')
2316                             t++;
2317                         warn("Multidimensional syntax %.*s not supported",
2318                              (t - bufptr) + 1, bufptr);
2319                     }
2320                 }
2321             }
2322             else if (*s == '{') {
2323                 tokenbuf[0] = '%';
2324                 if (dowarn && strEQ(tokenbuf+1, "SIG") &&
2325                     (t = strchr(s, '}')) && (t = strchr(t, '=')))
2326                 {
2327                     char tmpbuf[sizeof tokenbuf];
2328                     STRLEN len;
2329                     for (t++; isSPACE(*t); t++) ;
2330                     if (isIDFIRST(*t)) {
2331                         t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE, &len);
2332                         if (*t != '(' && perl_get_cv(tmpbuf, FALSE))
2333                             warn("You need to quote \"%s\"", tmpbuf);
2334                     }
2335                 }
2336             }
2337         }
2338
2339         expect = XOPERATOR;
2340         if (lex_state == LEX_NORMAL && isSPACE(*d)) {
2341             bool islop = (last_lop == oldoldbufptr);
2342             if (!islop || last_lop_op == OP_GREPSTART)
2343                 expect = XOPERATOR;
2344             else if (strchr("$@\"'`q", *s))
2345                 expect = XTERM;         /* e.g. print $fh "foo" */
2346             else if (strchr("&*<%", *s) && isIDFIRST(s[1]))
2347                 expect = XTERM;         /* e.g. print $fh &sub */
2348             else if (isIDFIRST(*s)) {
2349                 char tmpbuf[sizeof tokenbuf];
2350                 scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2351                 if (tmp = keyword(tmpbuf, len)) {
2352                     /* binary operators exclude handle interpretations */
2353                     switch (tmp) {
2354                     case -KEY_x:
2355                     case -KEY_eq:
2356                     case -KEY_ne:
2357                     case -KEY_gt:
2358                     case -KEY_lt:
2359                     case -KEY_ge:
2360                     case -KEY_le:
2361                     case -KEY_cmp:
2362                         break;
2363                     default:
2364                         expect = XTERM; /* e.g. print $fh length() */
2365                         break;
2366                     }
2367                 }
2368                 else {
2369                     GV *gv = gv_fetchpv(tmpbuf, FALSE, SVt_PVCV);
2370                     if (gv && GvCVu(gv))
2371                         expect = XTERM; /* e.g. print $fh subr() */
2372                 }
2373             }
2374             else if (isDIGIT(*s))
2375                 expect = XTERM;         /* e.g. print $fh 3 */
2376             else if (*s == '.' && isDIGIT(s[1]))
2377                 expect = XTERM;         /* e.g. print $fh .3 */
2378             else if (strchr("/?-+", *s) && !isSPACE(s[1]))
2379                 expect = XTERM;         /* e.g. print $fh -1 */
2380             else if (*s == '<' && s[1] == '<' && !isSPACE(s[2]))
2381                 expect = XTERM;         /* print $fh <<"EOF" */
2382         }
2383         pending_ident = '$';
2384         TOKEN('$');
2385
2386     case '@':
2387         if (expect == XOPERATOR)
2388             no_op("Array", s);
2389         tokenbuf[0] = '@';
2390         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2391         if (!tokenbuf[1]) {
2392             if (s == bufend)
2393                 yyerror("Final @ should be \\@ or @name");
2394             PREREF('@');
2395         }
2396         if (lex_state == LEX_NORMAL)
2397             s = skipspace(s);
2398         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2399             if (*s == '{')
2400                 tokenbuf[0] = '%';
2401
2402             /* Warn about @ where they meant $. */
2403             if (dowarn) {
2404                 if (*s == '[' || *s == '{') {
2405                     char *t = s + 1;
2406                     while (*t && (isALNUM(*t) || strchr(" \t$#+-'\"", *t)))
2407                         t++;
2408                     if (*t == '}' || *t == ']') {
2409                         t++;
2410                         bufptr = skipspace(bufptr);
2411                         warn("Scalar value %.*s better written as $%.*s",
2412                             t-bufptr, bufptr, t-bufptr-1, bufptr+1);
2413                     }
2414                 }
2415             }
2416         }
2417         pending_ident = '@';
2418         TERM('@');
2419
2420     case '/':                   /* may either be division or pattern */
2421     case '?':                   /* may either be conditional or pattern */
2422         if (expect != XOPERATOR) {
2423             check_uni();
2424             s = scan_pat(s);
2425             TERM(sublex_start());
2426         }
2427         tmp = *s++;
2428         if (tmp == '/')
2429             Mop(OP_DIVIDE);
2430         OPERATOR(tmp);
2431
2432     case '.':
2433         if (lex_formbrack && lex_brackets == lex_formbrack && s[1] == '\n' &&
2434                 (s == linestart || s[-1] == '\n') ) {
2435             lex_formbrack = 0;
2436             expect = XSTATE;
2437             goto rightbracket;
2438         }
2439         if (expect == XOPERATOR || !isDIGIT(s[1])) {
2440             tmp = *s++;
2441             if (*s == tmp) {
2442                 s++;
2443                 if (*s == tmp) {
2444                     s++;
2445                     yylval.ival = OPf_SPECIAL;
2446                 }
2447                 else
2448                     yylval.ival = 0;
2449                 OPERATOR(DOTDOT);
2450             }
2451             if (expect != XOPERATOR)
2452                 check_uni();
2453             Aop(OP_CONCAT);
2454         }
2455         /* FALL THROUGH */
2456     case '0': case '1': case '2': case '3': case '4':
2457     case '5': case '6': case '7': case '8': case '9':
2458         s = scan_num(s);
2459         if (expect == XOPERATOR)
2460             no_op("Number",s);
2461         TERM(THING);
2462
2463     case '\'':
2464         s = scan_str(s);
2465         if (expect == XOPERATOR) {
2466             if (lex_formbrack && lex_brackets == lex_formbrack) {
2467                 expect = XTERM;
2468                 depcom();
2469                 return ',';     /* grandfather non-comma-format format */
2470             }
2471             else
2472                 no_op("String",s);
2473         }
2474         if (!s)
2475             missingterm((char*)0);
2476         yylval.ival = OP_CONST;
2477         TERM(sublex_start());
2478
2479     case '"':
2480         s = scan_str(s);
2481         if (expect == XOPERATOR) {
2482             if (lex_formbrack && lex_brackets == lex_formbrack) {
2483                 expect = XTERM;
2484                 depcom();
2485                 return ',';     /* grandfather non-comma-format format */
2486             }
2487             else
2488                 no_op("String",s);
2489         }
2490         if (!s)
2491             missingterm((char*)0);
2492         yylval.ival = OP_CONST;
2493         for (d = SvPV(lex_stuff, len); len; len--, d++) {
2494             if (*d == '$' || *d == '@' || *d == '\\') {
2495                 yylval.ival = OP_STRINGIFY;
2496                 break;
2497             }
2498         }
2499         TERM(sublex_start());
2500
2501     case '`':
2502         s = scan_str(s);
2503         if (expect == XOPERATOR)
2504             no_op("Backticks",s);
2505         if (!s)
2506             missingterm((char*)0);
2507         yylval.ival = OP_BACKTICK;
2508         set_csh();
2509         TERM(sublex_start());
2510
2511     case '\\':
2512         s++;
2513         if (dowarn && lex_inwhat && isDIGIT(*s))
2514             warn("Can't use \\%c to mean $%c in expression", *s, *s);
2515         if (expect == XOPERATOR)
2516             no_op("Backslash",s);
2517         OPERATOR(REFGEN);
2518
2519     case 'x':
2520         if (isDIGIT(s[1]) && expect == XOPERATOR) {
2521             s++;
2522             Mop(OP_REPEAT);
2523         }
2524         goto keylookup;
2525
2526     case '_':
2527     case 'a': case 'A':
2528     case 'b': case 'B':
2529     case 'c': case 'C':
2530     case 'd': case 'D':
2531     case 'e': case 'E':
2532     case 'f': case 'F':
2533     case 'g': case 'G':
2534     case 'h': case 'H':
2535     case 'i': case 'I':
2536     case 'j': case 'J':
2537     case 'k': case 'K':
2538     case 'l': case 'L':
2539     case 'm': case 'M':
2540     case 'n': case 'N':
2541     case 'o': case 'O':
2542     case 'p': case 'P':
2543     case 'q': case 'Q':
2544     case 'r': case 'R':
2545     case 's': case 'S':
2546     case 't': case 'T':
2547     case 'u': case 'U':
2548     case 'v': case 'V':
2549     case 'w': case 'W':
2550               case 'X':
2551     case 'y': case 'Y':
2552     case 'z': case 'Z':
2553
2554       keylookup: {
2555         GV *gv = Nullgv;
2556         GV **gvp = 0;
2557
2558         bufptr = s;
2559         s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2560
2561         /* Some keywords can be followed by any delimiter, including ':' */
2562         tmp = (len == 1 && strchr("msyq", tokenbuf[0]) ||
2563                len == 2 && ((tokenbuf[0] == 't' && tokenbuf[1] == 'r') ||
2564                             (tokenbuf[0] == 'q' &&
2565                              strchr("qwx", tokenbuf[1]))));
2566
2567         /* x::* is just a word, unless x is "CORE" */
2568         if (!tmp && *s == ':' && s[1] == ':' && strNE(tokenbuf, "CORE"))
2569             goto just_a_word;
2570
2571         d = s;
2572         while (d < bufend && isSPACE(*d))
2573                 d++;    /* no comments skipped here, or s### is misparsed */
2574
2575         /* Is this a label? */
2576         if (!tmp && expect == XSTATE
2577               && d < bufend && *d == ':' && *(d + 1) != ':') {
2578             s = d + 1;
2579             yylval.pval = savepv(tokenbuf);
2580             CLINE;
2581             TOKEN(LABEL);
2582         }
2583
2584         /* Check for keywords */
2585         tmp = keyword(tokenbuf, len);
2586
2587         /* Is this a word before a => operator? */
2588         if (strnEQ(d,"=>",2)) {
2589             CLINE;
2590             if (dowarn && (tmp || perl_get_cv(tokenbuf, FALSE)))
2591                 warn("Ambiguous use of %s => resolved to \"%s\" =>",
2592                         tokenbuf, tokenbuf);
2593             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2594             yylval.opval->op_private = OPpCONST_BARE;
2595             TERM(WORD);
2596         }
2597
2598         if (tmp < 0) {                  /* second-class keyword? */
2599             if (expect != XOPERATOR && (*s != ':' || s[1] != ':') &&
2600                 (((gv = gv_fetchpv(tokenbuf, FALSE, SVt_PVCV)) &&
2601                   GvCVu(gv) && GvIMPORTED_CV(gv)) ||
2602                  ((gvp = (GV**)hv_fetch(globalstash,tokenbuf,len,FALSE)) &&
2603                   (gv = *gvp) != (GV*)&sv_undef &&
2604                   GvCVu(gv) && GvIMPORTED_CV(gv))))
2605             {
2606                 tmp = 0;
2607             }
2608             else {
2609                 tmp = -tmp; gv = Nullgv; gvp = 0;
2610             }
2611         }
2612
2613       reserved_word:
2614         switch (tmp) {
2615
2616         default:                        /* not a keyword */
2617           just_a_word: {
2618                 SV *sv;
2619                 char lastchar = (bufptr == oldoldbufptr ? 0 : bufptr[-1]);
2620
2621                 /* Get the rest if it looks like a package qualifier */
2622
2623                 if (*s == '\'' || *s == ':' && s[1] == ':') {
2624                     s = scan_word(s, tokenbuf + len, sizeof tokenbuf - len,
2625                                   TRUE, &len);
2626                     if (!len)
2627                         croak("Bad name after %s::", tokenbuf);
2628                 }
2629
2630                 if (expect == XOPERATOR) {
2631                     if (bufptr == linestart) {
2632                         curcop->cop_line--;
2633                         warn(warn_nosemi);
2634                         curcop->cop_line++;
2635                     }
2636                     else
2637                         no_op("Bareword",s);
2638                 }
2639
2640                 /* Look for a subroutine with this name in current package. */
2641
2642                 if (gvp) {
2643                     sv = newSVpv("CORE::GLOBAL::",14);
2644                     sv_catpv(sv,tokenbuf);
2645                 }
2646                 else
2647                     sv = newSVpv(tokenbuf,0);
2648                 if (!gv)
2649                     gv = gv_fetchpv(tokenbuf,FALSE, SVt_PVCV);
2650
2651                 /* Presume this is going to be a bareword of some sort. */
2652
2653                 CLINE;
2654                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
2655                 yylval.opval->op_private = OPpCONST_BARE;
2656
2657                 /* See if it's the indirect object for a list operator. */
2658
2659                 if (oldoldbufptr &&
2660                     oldoldbufptr < bufptr &&
2661                     (oldoldbufptr == last_lop || oldoldbufptr == last_uni) &&
2662                     /* NO SKIPSPACE BEFORE HERE! */
2663                     (expect == XREF ||
2664                      (opargs[last_lop_op] >> OASHIFT & 7) == OA_FILEREF) )
2665                 {
2666                     bool immediate_paren = *s == '(';
2667
2668                     /* (Now we can afford to cross potential line boundary.) */
2669                     s = skipspace(s);
2670
2671                     /* Two barewords in a row may indicate method call. */
2672
2673                     if ((isALPHA(*s) || *s == '$') && (tmp=intuit_method(s,gv)))
2674                         return tmp;
2675
2676                     /* If not a declared subroutine, it's an indirect object. */
2677                     /* (But it's an indir obj regardless for sort.) */
2678
2679                     if ((last_lop_op == OP_SORT ||
2680                          (!immediate_paren && (!gv || !GvCVu(gv))) ) &&
2681                         (last_lop_op != OP_MAPSTART && last_lop_op != OP_GREPSTART)){
2682                         expect = (last_lop == oldoldbufptr) ? XTERM : XOPERATOR;
2683                         goto bareword;
2684                     }
2685                 }
2686
2687                 /* If followed by a paren, it's certainly a subroutine. */
2688
2689                 expect = XOPERATOR;
2690                 s = skipspace(s);
2691                 if (*s == '(') {
2692                     CLINE;
2693                     if (gv && GvCVu(gv)) {
2694                         for (d = s + 1; *d == ' ' || *d == '\t'; d++) ;
2695                         if (*d == ')' && (sv = cv_const_sv(GvCV(gv)))) {
2696                             s = d + 1;
2697                             goto its_constant;
2698                         }
2699                     }
2700                     nextval[nexttoke].opval = yylval.opval;
2701                     expect = XOPERATOR;
2702                     force_next(WORD);
2703                     yylval.ival = 0;
2704                     TOKEN('&');
2705                 }
2706
2707                 /* If followed by var or block, call it a method (unless sub) */
2708
2709                 if ((*s == '$' || *s == '{') && (!gv || !GvCVu(gv))) {
2710                     last_lop = oldbufptr;
2711                     last_lop_op = OP_METHOD;
2712                     PREBLOCK(METHOD);
2713                 }
2714
2715                 /* If followed by a bareword, see if it looks like indir obj. */
2716
2717                 if ((isALPHA(*s) || *s == '$') && (tmp = intuit_method(s,gv)))
2718                     return tmp;
2719
2720                 /* Not a method, so call it a subroutine (if defined) */
2721
2722                 if (gv && GvCVu(gv)) {
2723                     CV* cv;
2724                     if (lastchar == '-')
2725                         warn("Ambiguous use of -%s resolved as -&%s()",
2726                                 tokenbuf, tokenbuf);
2727                     last_lop = oldbufptr;
2728                     last_lop_op = OP_ENTERSUB;
2729                     /* Check for a constant sub */
2730                     cv = GvCV(gv);
2731                     if ((sv = cv_const_sv(cv))) {
2732                   its_constant:
2733                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
2734                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc(sv);
2735                         yylval.opval->op_private = 0;
2736                         TOKEN(WORD);
2737                     }
2738
2739                     /* Resolve to GV now. */
2740                     op_free(yylval.opval);
2741                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
2742                     /* Is there a prototype? */
2743                     if (SvPOK(cv)) {
2744                         STRLEN len;
2745                         char *proto = SvPV((SV*)cv, len);
2746                         if (!len)
2747                             TERM(FUNC0SUB);
2748                         if (strEQ(proto, "$"))
2749                             OPERATOR(UNIOPSUB);
2750                         if (*proto == '&' && *s == '{') {
2751                             sv_setpv(subname,"__ANON__");
2752                             PREBLOCK(LSTOPSUB);
2753                         }
2754                     }
2755                     nextval[nexttoke].opval = yylval.opval;
2756                     expect = XTERM;
2757                     force_next(WORD);
2758                     TOKEN(NOAMP);
2759                 }
2760
2761                 if (hints & HINT_STRICT_SUBS &&
2762                     lastchar != '-' &&
2763                     strnNE(s,"->",2) &&
2764                     last_lop_op != OP_TRUNCATE &&  /* S/F prototype in opcode.pl */
2765                     last_lop_op != OP_ACCEPT &&
2766                     last_lop_op != OP_PIPE_OP &&
2767                     last_lop_op != OP_SOCKPAIR)
2768                 {
2769                     warn(
2770                      "Bareword \"%s\" not allowed while \"strict subs\" in use",
2771                         tokenbuf);
2772                     ++error_count;
2773                 }
2774
2775                 /* Call it a bare word */
2776
2777             bareword:
2778                 if (dowarn) {
2779                     if (lastchar != '-') {
2780                         for (d = tokenbuf; *d && isLOWER(*d); d++) ;
2781                         if (!*d)
2782                             warn(warn_reserved, tokenbuf);
2783                     }
2784                 }
2785                 if (lastchar && strchr("*%&", lastchar)) {
2786                     warn("Operator or semicolon missing before %c%s",
2787                         lastchar, tokenbuf);
2788                     warn("Ambiguous use of %c resolved as operator %c",
2789                         lastchar, lastchar);
2790                 }
2791                 TOKEN(WORD);
2792             }
2793
2794         case KEY___FILE__:
2795             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2796                                         newSVsv(GvSV(curcop->cop_filegv)));
2797             TERM(THING);
2798
2799         case KEY___LINE__:
2800             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2801                                     newSVpvf("%ld", (long)curcop->cop_line));
2802             TERM(THING);
2803
2804         case KEY___PACKAGE__:
2805             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2806                                         (curstash
2807                                          ? newSVsv(curstname)
2808                                          : &sv_undef));
2809             TERM(THING);
2810
2811         case KEY___DATA__:
2812         case KEY___END__: {
2813             GV *gv;
2814
2815             /*SUPPRESS 560*/
2816             if (rsfp && (!in_eval || tokenbuf[2] == 'D')) {
2817                 char *pname = "main";
2818                 if (tokenbuf[2] == 'D')
2819                     pname = HvNAME(curstash ? curstash : defstash);
2820                 gv = gv_fetchpv(form("%s::DATA", pname), TRUE, SVt_PVIO);
2821                 GvMULTI_on(gv);
2822                 if (!GvIO(gv))
2823                     GvIOp(gv) = newIO();
2824                 IoIFP(GvIOp(gv)) = rsfp;
2825 #if defined(HAS_FCNTL) && defined(F_SETFD)
2826                 {
2827                     int fd = PerlIO_fileno(rsfp);
2828                     fcntl(fd,F_SETFD,fd >= 3);
2829                 }
2830 #endif
2831                 /* Mark this internal pseudo-handle as clean */
2832                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
2833                 if (preprocess)
2834                     IoTYPE(GvIOp(gv)) = '|';
2835                 else if ((PerlIO*)rsfp == PerlIO_stdin())
2836                     IoTYPE(GvIOp(gv)) = '-';
2837                 else
2838                     IoTYPE(GvIOp(gv)) = '<';
2839                 rsfp = Nullfp;
2840             }
2841             goto fake_eof;
2842         }
2843
2844         case KEY_AUTOLOAD:
2845         case KEY_DESTROY:
2846         case KEY_BEGIN:
2847         case KEY_END:
2848         case KEY_INIT:
2849             if (expect == XSTATE) {
2850                 s = bufptr;
2851                 goto really_sub;
2852             }
2853             goto just_a_word;
2854
2855         case KEY_CORE:
2856             if (*s == ':' && s[1] == ':') {
2857                 s += 2;
2858                 d = s;
2859                 s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2860                 tmp = keyword(tokenbuf, len);
2861                 if (tmp < 0)
2862                     tmp = -tmp;
2863                 goto reserved_word;
2864             }
2865             goto just_a_word;
2866
2867         case KEY_abs:
2868             UNI(OP_ABS);
2869
2870         case KEY_alarm:
2871             UNI(OP_ALARM);
2872
2873         case KEY_accept:
2874             LOP(OP_ACCEPT,XTERM);
2875
2876         case KEY_and:
2877             OPERATOR(ANDOP);
2878
2879         case KEY_atan2:
2880             LOP(OP_ATAN2,XTERM);
2881
2882         case KEY_bind:
2883             LOP(OP_BIND,XTERM);
2884
2885         case KEY_binmode:
2886             UNI(OP_BINMODE);
2887
2888         case KEY_bless:
2889             LOP(OP_BLESS,XTERM);
2890
2891         case KEY_chop:
2892             UNI(OP_CHOP);
2893
2894         case KEY_continue:
2895             PREBLOCK(CONTINUE);
2896
2897         case KEY_chdir:
2898             (void)gv_fetchpv("ENV",TRUE, SVt_PVHV);     /* may use HOME */
2899             UNI(OP_CHDIR);
2900
2901         case KEY_close:
2902             UNI(OP_CLOSE);
2903
2904         case KEY_closedir:
2905             UNI(OP_CLOSEDIR);
2906
2907         case KEY_cmp:
2908             Eop(OP_SCMP);
2909
2910         case KEY_caller:
2911             UNI(OP_CALLER);
2912
2913         case KEY_crypt:
2914 #ifdef FCRYPT
2915             if (!cryptseen++)
2916                 init_des();
2917 #endif
2918             LOP(OP_CRYPT,XTERM);
2919
2920         case KEY_chmod:
2921             if (dowarn) {
2922                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
2923                 if (*d != '0' && isDIGIT(*d))
2924                     yywarn("chmod: mode argument is missing initial 0");
2925             }
2926             LOP(OP_CHMOD,XTERM);
2927
2928         case KEY_chown:
2929             LOP(OP_CHOWN,XTERM);
2930
2931         case KEY_connect:
2932             LOP(OP_CONNECT,XTERM);
2933
2934         case KEY_chr:
2935             UNI(OP_CHR);
2936
2937         case KEY_cos:
2938             UNI(OP_COS);
2939
2940         case KEY_chroot:
2941             UNI(OP_CHROOT);
2942
2943         case KEY_do:
2944             s = skipspace(s);
2945             if (*s == '{')
2946                 PRETERMBLOCK(DO);
2947             if (*s != '\'')
2948                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
2949             OPERATOR(DO);
2950
2951         case KEY_die:
2952             hints |= HINT_BLOCK_SCOPE;
2953             LOP(OP_DIE,XTERM);
2954
2955         case KEY_defined:
2956             UNI(OP_DEFINED);
2957
2958         case KEY_delete:
2959             UNI(OP_DELETE);
2960
2961         case KEY_dbmopen:
2962             gv_fetchpv("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
2963             LOP(OP_DBMOPEN,XTERM);
2964
2965         case KEY_dbmclose:
2966             UNI(OP_DBMCLOSE);
2967
2968         case KEY_dump:
2969             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2970             LOOPX(OP_DUMP);
2971
2972         case KEY_else:
2973             PREBLOCK(ELSE);
2974
2975         case KEY_elsif:
2976             yylval.ival = curcop->cop_line;
2977             OPERATOR(ELSIF);
2978
2979         case KEY_eq:
2980             Eop(OP_SEQ);
2981
2982         case KEY_exists:
2983             UNI(OP_EXISTS);
2984             
2985         case KEY_exit:
2986             UNI(OP_EXIT);
2987
2988         case KEY_eval:
2989             s = skipspace(s);
2990             expect = (*s == '{') ? XTERMBLOCK : XTERM;
2991             UNIBRACK(OP_ENTEREVAL);
2992
2993         case KEY_eof:
2994             UNI(OP_EOF);
2995
2996         case KEY_exp:
2997             UNI(OP_EXP);
2998
2999         case KEY_each:
3000             UNI(OP_EACH);
3001
3002         case KEY_exec:
3003             set_csh();
3004             LOP(OP_EXEC,XREF);
3005
3006         case KEY_endhostent:
3007             FUN0(OP_EHOSTENT);
3008
3009         case KEY_endnetent:
3010             FUN0(OP_ENETENT);
3011
3012         case KEY_endservent:
3013             FUN0(OP_ESERVENT);
3014
3015         case KEY_endprotoent:
3016             FUN0(OP_EPROTOENT);
3017
3018         case KEY_endpwent:
3019             FUN0(OP_EPWENT);
3020
3021         case KEY_endgrent:
3022             FUN0(OP_EGRENT);
3023
3024         case KEY_for:
3025         case KEY_foreach:
3026             yylval.ival = curcop->cop_line;
3027             s = skipspace(s);
3028             if (isIDFIRST(*s)) {
3029                 char *p = s;
3030                 if ((bufend - p) >= 3 &&
3031                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
3032                     p += 2;
3033                 p = skipspace(p);
3034                 if (isIDFIRST(*p))
3035                     croak("Missing $ on loop variable");
3036             }
3037             OPERATOR(FOR);
3038
3039         case KEY_formline:
3040             LOP(OP_FORMLINE,XTERM);
3041
3042         case KEY_fork:
3043             FUN0(OP_FORK);
3044
3045         case KEY_fcntl:
3046             LOP(OP_FCNTL,XTERM);
3047
3048         case KEY_fileno:
3049             UNI(OP_FILENO);
3050
3051         case KEY_flock:
3052             LOP(OP_FLOCK,XTERM);
3053
3054         case KEY_gt:
3055             Rop(OP_SGT);
3056
3057         case KEY_ge:
3058             Rop(OP_SGE);
3059
3060         case KEY_grep:
3061             LOP(OP_GREPSTART, *s == '(' ? XTERM : XREF);
3062
3063         case KEY_goto:
3064             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3065             LOOPX(OP_GOTO);
3066
3067         case KEY_gmtime:
3068             UNI(OP_GMTIME);
3069
3070         case KEY_getc:
3071             UNI(OP_GETC);
3072
3073         case KEY_getppid:
3074             FUN0(OP_GETPPID);
3075
3076         case KEY_getpgrp:
3077             UNI(OP_GETPGRP);
3078
3079         case KEY_getpriority:
3080             LOP(OP_GETPRIORITY,XTERM);
3081
3082         case KEY_getprotobyname:
3083             UNI(OP_GPBYNAME);
3084
3085         case KEY_getprotobynumber:
3086             LOP(OP_GPBYNUMBER,XTERM);
3087
3088         case KEY_getprotoent:
3089             FUN0(OP_GPROTOENT);
3090
3091         case KEY_getpwent:
3092             FUN0(OP_GPWENT);
3093
3094         case KEY_getpwnam:
3095             UNI(OP_GPWNAM);
3096
3097         case KEY_getpwuid:
3098             UNI(OP_GPWUID);
3099
3100         case KEY_getpeername:
3101             UNI(OP_GETPEERNAME);
3102
3103         case KEY_gethostbyname:
3104             UNI(OP_GHBYNAME);
3105
3106         case KEY_gethostbyaddr:
3107             LOP(OP_GHBYADDR,XTERM);
3108
3109         case KEY_gethostent:
3110             FUN0(OP_GHOSTENT);
3111
3112         case KEY_getnetbyname:
3113             UNI(OP_GNBYNAME);
3114
3115         case KEY_getnetbyaddr:
3116             LOP(OP_GNBYADDR,XTERM);
3117
3118         case KEY_getnetent:
3119             FUN0(OP_GNETENT);
3120
3121         case KEY_getservbyname:
3122             LOP(OP_GSBYNAME,XTERM);
3123
3124         case KEY_getservbyport:
3125             LOP(OP_GSBYPORT,XTERM);
3126
3127         case KEY_getservent:
3128             FUN0(OP_GSERVENT);
3129
3130         case KEY_getsockname:
3131             UNI(OP_GETSOCKNAME);
3132
3133         case KEY_getsockopt:
3134             LOP(OP_GSOCKOPT,XTERM);
3135
3136         case KEY_getgrent:
3137             FUN0(OP_GGRENT);
3138
3139         case KEY_getgrnam:
3140             UNI(OP_GGRNAM);
3141
3142         case KEY_getgrgid:
3143             UNI(OP_GGRGID);
3144
3145         case KEY_getlogin:
3146             FUN0(OP_GETLOGIN);
3147
3148         case KEY_glob:
3149             set_csh();
3150             LOP(OP_GLOB,XTERM);
3151
3152         case KEY_hex:
3153             UNI(OP_HEX);
3154
3155         case KEY_if:
3156             yylval.ival = curcop->cop_line;
3157             OPERATOR(IF);
3158
3159         case KEY_index:
3160             LOP(OP_INDEX,XTERM);
3161
3162         case KEY_int:
3163             UNI(OP_INT);
3164
3165         case KEY_ioctl:
3166             LOP(OP_IOCTL,XTERM);
3167
3168         case KEY_join:
3169             LOP(OP_JOIN,XTERM);
3170
3171         case KEY_keys:
3172             UNI(OP_KEYS);
3173
3174         case KEY_kill:
3175             LOP(OP_KILL,XTERM);
3176
3177         case KEY_last:
3178             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3179             LOOPX(OP_LAST);
3180             
3181         case KEY_lc:
3182             UNI(OP_LC);
3183
3184         case KEY_lcfirst:
3185             UNI(OP_LCFIRST);
3186
3187         case KEY_local:
3188             OPERATOR(LOCAL);
3189
3190         case KEY_length:
3191             UNI(OP_LENGTH);
3192
3193         case KEY_lt:
3194             Rop(OP_SLT);
3195
3196         case KEY_le:
3197             Rop(OP_SLE);
3198
3199         case KEY_localtime:
3200             UNI(OP_LOCALTIME);
3201
3202         case KEY_log:
3203             UNI(OP_LOG);
3204
3205         case KEY_link:
3206             LOP(OP_LINK,XTERM);
3207
3208         case KEY_listen:
3209             LOP(OP_LISTEN,XTERM);
3210
3211         case KEY_lock:
3212             UNI(OP_LOCK);
3213
3214         case KEY_lstat:
3215             UNI(OP_LSTAT);
3216
3217         case KEY_m:
3218             s = scan_pat(s);
3219             TERM(sublex_start());
3220
3221         case KEY_map:
3222             LOP(OP_MAPSTART,XREF);
3223             
3224         case KEY_mkdir:
3225             LOP(OP_MKDIR,XTERM);
3226
3227         case KEY_msgctl:
3228             LOP(OP_MSGCTL,XTERM);
3229
3230         case KEY_msgget:
3231             LOP(OP_MSGGET,XTERM);
3232
3233         case KEY_msgrcv:
3234             LOP(OP_MSGRCV,XTERM);
3235
3236         case KEY_msgsnd:
3237             LOP(OP_MSGSND,XTERM);
3238
3239         case KEY_my:
3240             in_my = TRUE;
3241             s = skipspace(s);
3242             if (isIDFIRST(*s)) {
3243                 s = scan_word(s, tokenbuf, sizeof tokenbuf, TRUE, &len);
3244                 in_my_stash = gv_stashpv(tokenbuf, FALSE);
3245                 if (!in_my_stash) {
3246                     char tmpbuf[1024];
3247                     bufptr = s;
3248                     sprintf(tmpbuf, "No such class %.1000s", tokenbuf);
3249                     yyerror(tmpbuf);
3250                 }
3251             }
3252             OPERATOR(MY);
3253
3254         case KEY_next:
3255             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3256             LOOPX(OP_NEXT);
3257
3258         case KEY_ne:
3259             Eop(OP_SNE);
3260
3261         case KEY_no:
3262             if (expect != XSTATE)
3263                 yyerror("\"no\" not allowed in expression");
3264             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3265             s = force_version(s);
3266             yylval.ival = 0;
3267             OPERATOR(USE);
3268
3269         case KEY_not:
3270             OPERATOR(NOTOP);
3271
3272         case KEY_open:
3273             s = skipspace(s);
3274             if (isIDFIRST(*s)) {
3275                 char *t;
3276                 for (d = s; isALNUM(*d); d++) ;
3277                 t = skipspace(d);
3278                 if (strchr("|&*+-=!?:.", *t))
3279                     warn("Precedence problem: open %.*s should be open(%.*s)",
3280                         d-s,s, d-s,s);
3281             }
3282             LOP(OP_OPEN,XTERM);
3283
3284         case KEY_or:
3285             yylval.ival = OP_OR;
3286             OPERATOR(OROP);
3287
3288         case KEY_ord:
3289             UNI(OP_ORD);
3290
3291         case KEY_oct:
3292             UNI(OP_OCT);
3293
3294         case KEY_opendir:
3295             LOP(OP_OPEN_DIR,XTERM);
3296
3297         case KEY_print:
3298             checkcomma(s,tokenbuf,"filehandle");
3299             LOP(OP_PRINT,XREF);
3300
3301         case KEY_printf:
3302             checkcomma(s,tokenbuf,"filehandle");
3303             LOP(OP_PRTF,XREF);
3304
3305         case KEY_prototype:
3306             UNI(OP_PROTOTYPE);
3307
3308         case KEY_push:
3309             LOP(OP_PUSH,XTERM);
3310
3311         case KEY_pop:
3312             UNI(OP_POP);
3313
3314         case KEY_pos:
3315             UNI(OP_POS);
3316             
3317         case KEY_pack:
3318             LOP(OP_PACK,XTERM);
3319
3320         case KEY_package:
3321             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3322             OPERATOR(PACKAGE);
3323
3324         case KEY_pipe:
3325             LOP(OP_PIPE_OP,XTERM);
3326
3327         case KEY_q:
3328             s = scan_str(s);
3329             if (!s)
3330                 missingterm((char*)0);
3331             yylval.ival = OP_CONST;
3332             TERM(sublex_start());
3333
3334         case KEY_quotemeta:
3335             UNI(OP_QUOTEMETA);
3336
3337         case KEY_qw:
3338             s = scan_str(s);
3339             if (!s)
3340                 missingterm((char*)0);
3341             if (dowarn && SvLEN(lex_stuff)) {
3342                 d = SvPV_force(lex_stuff, len);
3343                 for (; len; --len, ++d) {
3344                     if (*d == ',') {
3345                         warn("Possible attempt to separate words with commas");
3346                         break;
3347                     }
3348                     if (*d == '#') {
3349                         warn("Possible attempt to put comments in qw() list");
3350                         break;
3351                     }
3352                 }
3353             }
3354             force_next(')');
3355             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, q(lex_stuff));
3356             lex_stuff = Nullsv;
3357             force_next(THING);
3358             force_next(',');
3359             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(" ",1));
3360             force_next(THING);
3361             force_next('(');
3362             yylval.ival = OP_SPLIT;
3363             CLINE;
3364             expect = XTERM;
3365             bufptr = s;
3366             last_lop = oldbufptr;
3367             last_lop_op = OP_SPLIT;
3368             return FUNC;
3369
3370         case KEY_qq:
3371             s = scan_str(s);
3372             if (!s)
3373                 missingterm((char*)0);
3374             yylval.ival = OP_STRINGIFY;
3375             if (SvIVX(lex_stuff) == '\'')
3376                 SvIVX(lex_stuff) = 0;   /* qq'$foo' should intepolate */
3377             TERM(sublex_start());
3378
3379         case KEY_qx:
3380             s = scan_str(s);
3381             if (!s)
3382                 missingterm((char*)0);
3383             yylval.ival = OP_BACKTICK;
3384             set_csh();
3385             TERM(sublex_start());
3386
3387         case KEY_return:
3388             OLDLOP(OP_RETURN);
3389
3390         case KEY_require:
3391             *tokenbuf = '\0';
3392             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3393             if (isIDFIRST(*tokenbuf))
3394                 gv_stashpvn(tokenbuf, strlen(tokenbuf), TRUE);
3395             else if (*s == '<')
3396                 yyerror("<> should be quotes");
3397             UNI(OP_REQUIRE);
3398
3399         case KEY_reset:
3400             UNI(OP_RESET);
3401
3402         case KEY_redo:
3403             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3404             LOOPX(OP_REDO);
3405
3406         case KEY_rename:
3407             LOP(OP_RENAME,XTERM);
3408
3409         case KEY_rand:
3410             UNI(OP_RAND);
3411
3412         case KEY_rmdir:
3413             UNI(OP_RMDIR);
3414
3415         case KEY_rindex:
3416             LOP(OP_RINDEX,XTERM);
3417
3418         case KEY_read:
3419             LOP(OP_READ,XTERM);
3420
3421         case KEY_readdir:
3422             UNI(OP_READDIR);
3423
3424         case KEY_readline:
3425             set_csh();
3426             UNI(OP_READLINE);
3427
3428         case KEY_readpipe:
3429             set_csh();
3430             UNI(OP_BACKTICK);
3431
3432         case KEY_rewinddir:
3433             UNI(OP_REWINDDIR);
3434
3435         case KEY_recv:
3436             LOP(OP_RECV,XTERM);
3437
3438         case KEY_reverse:
3439             LOP(OP_REVERSE,XTERM);
3440
3441         case KEY_readlink:
3442             UNI(OP_READLINK);
3443
3444         case KEY_ref:
3445             UNI(OP_REF);
3446
3447         case KEY_s:
3448             s = scan_subst(s);
3449             if (yylval.opval)
3450                 TERM(sublex_start());
3451             else
3452                 TOKEN(1);       /* force error */
3453
3454         case KEY_chomp:
3455             UNI(OP_CHOMP);
3456             
3457         case KEY_scalar:
3458             UNI(OP_SCALAR);
3459
3460         case KEY_select:
3461             LOP(OP_SELECT,XTERM);
3462
3463         case KEY_seek:
3464             LOP(OP_SEEK,XTERM);
3465
3466         case KEY_semctl:
3467             LOP(OP_SEMCTL,XTERM);
3468
3469         case KEY_semget:
3470             LOP(OP_SEMGET,XTERM);
3471
3472         case KEY_semop:
3473             LOP(OP_SEMOP,XTERM);
3474
3475         case KEY_send:
3476             LOP(OP_SEND,XTERM);
3477
3478         case KEY_setpgrp:
3479             LOP(OP_SETPGRP,XTERM);
3480
3481         case KEY_setpriority:
3482             LOP(OP_SETPRIORITY,XTERM);
3483
3484         case KEY_sethostent:
3485             UNI(OP_SHOSTENT);
3486
3487         case KEY_setnetent:
3488             UNI(OP_SNETENT);
3489
3490         case KEY_setservent:
3491             UNI(OP_SSERVENT);
3492
3493         case KEY_setprotoent:
3494             UNI(OP_SPROTOENT);
3495
3496         case KEY_setpwent:
3497             FUN0(OP_SPWENT);
3498
3499         case KEY_setgrent:
3500             FUN0(OP_SGRENT);
3501
3502         case KEY_seekdir:
3503             LOP(OP_SEEKDIR,XTERM);
3504
3505         case KEY_setsockopt:
3506             LOP(OP_SSOCKOPT,XTERM);
3507
3508         case KEY_shift:
3509             UNI(OP_SHIFT);
3510
3511         case KEY_shmctl:
3512             LOP(OP_SHMCTL,XTERM);
3513
3514         case KEY_shmget:
3515             LOP(OP_SHMGET,XTERM);
3516
3517         case KEY_shmread:
3518             LOP(OP_SHMREAD,XTERM);
3519
3520         case KEY_shmwrite:
3521             LOP(OP_SHMWRITE,XTERM);
3522
3523         case KEY_shutdown:
3524             LOP(OP_SHUTDOWN,XTERM);
3525
3526         case KEY_sin:
3527             UNI(OP_SIN);
3528
3529         case KEY_sleep:
3530             UNI(OP_SLEEP);
3531
3532         case KEY_socket:
3533             LOP(OP_SOCKET,XTERM);
3534
3535         case KEY_socketpair:
3536             LOP(OP_SOCKPAIR,XTERM);
3537
3538         case KEY_sort:
3539             checkcomma(s,tokenbuf,"subroutine name");
3540             s = skipspace(s);
3541             if (*s == ';' || *s == ')')         /* probably a close */
3542                 croak("sort is now a reserved word");
3543             expect = XTERM;
3544             s = force_word(s,WORD,TRUE,TRUE,TRUE);
3545             LOP(OP_SORT,XREF);
3546
3547         case KEY_split:
3548             LOP(OP_SPLIT,XTERM);
3549
3550         case KEY_sprintf:
3551             LOP(OP_SPRINTF,XTERM);
3552
3553         case KEY_splice:
3554             LOP(OP_SPLICE,XTERM);
3555
3556         case KEY_sqrt:
3557             UNI(OP_SQRT);
3558
3559         case KEY_srand:
3560             UNI(OP_SRAND);
3561
3562         case KEY_stat:
3563             UNI(OP_STAT);
3564
3565         case KEY_study:
3566             sawstudy++;
3567             UNI(OP_STUDY);
3568
3569         case KEY_substr:
3570             LOP(OP_SUBSTR,XTERM);
3571
3572         case KEY_format:
3573         case KEY_sub:
3574           really_sub:
3575             s = skipspace(s);
3576
3577             if (isIDFIRST(*s) || *s == '\'' || *s == ':') {
3578                 char tmpbuf[sizeof tokenbuf];
3579                 expect = XBLOCK;
3580                 d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
3581                 if (strchr(tmpbuf, ':'))
3582                     sv_setpv(subname, tmpbuf);
3583                 else {
3584                     sv_setsv(subname,curstname);
3585                     sv_catpvn(subname,"::",2);
3586                     sv_catpvn(subname,tmpbuf,len);
3587                 }
3588                 s = force_word(s,WORD,FALSE,TRUE,TRUE);
3589                 s = skipspace(s);
3590             }
3591             else {
3592                 expect = XTERMBLOCK;
3593                 sv_setpv(subname,"?");
3594             }
3595
3596             if (tmp == KEY_format) {
3597                 s = skipspace(s);
3598                 if (*s == '=')
3599                     lex_formbrack = lex_brackets + 1;
3600                 OPERATOR(FORMAT);
3601             }
3602
3603             /* Look for a prototype */
3604             if (*s == '(') {
3605                 char *p;
3606
3607                 s = scan_str(s);
3608                 if (!s) {
3609                     if (lex_stuff)
3610                         SvREFCNT_dec(lex_stuff);
3611                     lex_stuff = Nullsv;
3612                     croak("Prototype not terminated");
3613                 }
3614                 /* strip spaces */
3615                 d = SvPVX(lex_stuff);
3616                 tmp = 0;
3617                 for (p = d; *p; ++p) {
3618                     if (!isSPACE(*p))
3619                         d[tmp++] = *p;
3620                 }
3621                 d[tmp] = '\0';
3622                 SvCUR(lex_stuff) = tmp;
3623
3624                 nexttoke++;
3625                 nextval[1] = nextval[0];
3626                 nexttype[1] = nexttype[0];
3627                 nextval[0].opval = (OP*)newSVOP(OP_CONST, 0, lex_stuff);
3628                 nexttype[0] = THING;
3629                 if (nexttoke == 1) {
3630                     lex_defer = lex_state;
3631                     lex_expect = expect;
3632                     lex_state = LEX_KNOWNEXT;
3633                 }
3634                 lex_stuff = Nullsv;
3635             }
3636
3637             if (*SvPV(subname,na) == '?') {
3638                 sv_setpv(subname,"__ANON__");
3639                 TOKEN(ANONSUB);
3640             }
3641             PREBLOCK(SUB);
3642
3643         case KEY_system:
3644             set_csh();
3645             LOP(OP_SYSTEM,XREF);
3646
3647         case KEY_symlink:
3648             LOP(OP_SYMLINK,XTERM);
3649
3650         case KEY_syscall:
3651             LOP(OP_SYSCALL,XTERM);
3652
3653         case KEY_sysopen:
3654             LOP(OP_SYSOPEN,XTERM);
3655
3656         case KEY_sysseek:
3657             LOP(OP_SYSSEEK,XTERM);
3658
3659         case KEY_sysread:
3660             LOP(OP_SYSREAD,XTERM);
3661
3662         case KEY_syswrite:
3663             LOP(OP_SYSWRITE,XTERM);
3664
3665         case KEY_tr:
3666             s = scan_trans(s);
3667             TERM(sublex_start());
3668
3669         case KEY_tell:
3670             UNI(OP_TELL);
3671
3672         case KEY_telldir:
3673             UNI(OP_TELLDIR);
3674
3675         case KEY_tie:
3676             LOP(OP_TIE,XTERM);
3677
3678         case KEY_tied:
3679             UNI(OP_TIED);
3680
3681         case KEY_time:
3682             FUN0(OP_TIME);
3683
3684         case KEY_times:
3685             FUN0(OP_TMS);
3686
3687         case KEY_truncate:
3688             LOP(OP_TRUNCATE,XTERM);
3689
3690         case KEY_uc:
3691             UNI(OP_UC);
3692
3693         case KEY_ucfirst:
3694             UNI(OP_UCFIRST);
3695
3696         case KEY_untie:
3697             UNI(OP_UNTIE);
3698
3699         case KEY_until:
3700             yylval.ival = curcop->cop_line;
3701             OPERATOR(UNTIL);
3702
3703         case KEY_unless:
3704             yylval.ival = curcop->cop_line;
3705             OPERATOR(UNLESS);
3706
3707         case KEY_unlink:
3708             LOP(OP_UNLINK,XTERM);
3709
3710         case KEY_undef:
3711             UNI(OP_UNDEF);
3712
3713         case KEY_unpack:
3714             LOP(OP_UNPACK,XTERM);
3715
3716         case KEY_utime:
3717             LOP(OP_UTIME,XTERM);
3718
3719         case KEY_umask:
3720             if (dowarn) {
3721                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
3722                 if (*d != '0' && isDIGIT(*d))
3723                     yywarn("umask: argument is missing initial 0");
3724             }
3725             UNI(OP_UMASK);
3726
3727         case KEY_unshift:
3728             LOP(OP_UNSHIFT,XTERM);
3729
3730         case KEY_use:
3731             if (expect != XSTATE)
3732                 yyerror("\"use\" not allowed in expression");
3733             s = skipspace(s);
3734             if(isDIGIT(*s)) {
3735                 s = force_version(s);
3736                 if(*s == ';' || (s = skipspace(s), *s == ';')) {
3737                     nextval[nexttoke].opval = Nullop;
3738                     force_next(WORD);
3739                 }
3740             }
3741             else {
3742                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
3743                 s = force_version(s);
3744             }
3745             yylval.ival = 1;
3746             OPERATOR(USE);
3747
3748         case KEY_values:
3749             UNI(OP_VALUES);
3750
3751         case KEY_vec:
3752             sawvec = TRUE;
3753             LOP(OP_VEC,XTERM);
3754
3755         case KEY_while:
3756             yylval.ival = curcop->cop_line;
3757             OPERATOR(WHILE);
3758
3759         case KEY_warn:
3760             hints |= HINT_BLOCK_SCOPE;
3761             LOP(OP_WARN,XTERM);
3762
3763         case KEY_wait:
3764             FUN0(OP_WAIT);
3765
3766         case KEY_waitpid:
3767             LOP(OP_WAITPID,XTERM);
3768
3769         case KEY_wantarray:
3770             FUN0(OP_WANTARRAY);
3771
3772         case KEY_write:
3773             gv_fetchpv("\f",TRUE, SVt_PV);      /* Make sure $^L is defined */
3774             UNI(OP_ENTERWRITE);
3775
3776         case KEY_x:
3777             if (expect == XOPERATOR)
3778                 Mop(OP_REPEAT);
3779             check_uni();
3780             goto just_a_word;
3781
3782         case KEY_xor:
3783             yylval.ival = OP_XOR;
3784             OPERATOR(OROP);
3785
3786         case KEY_y:
3787             s = scan_trans(s);
3788             TERM(sublex_start());
3789         }
3790     }}
3791 }
3792
3793 I32
3794 keyword(d, len)
3795 register char *d;
3796 I32 len;
3797 {
3798     switch (*d) {
3799     case '_':
3800         if (d[1] == '_') {
3801             if (strEQ(d,"__FILE__"))            return -KEY___FILE__;
3802             if (strEQ(d,"__LINE__"))            return -KEY___LINE__;
3803             if (strEQ(d,"__PACKAGE__"))         return -KEY___PACKAGE__;
3804             if (strEQ(d,"__DATA__"))            return KEY___DATA__;
3805             if (strEQ(d,"__END__"))             return KEY___END__;
3806         }
3807         break;
3808     case 'A':
3809         if (strEQ(d,"AUTOLOAD"))                return KEY_AUTOLOAD;
3810         break;
3811     case 'a':
3812         switch (len) {
3813         case 3:
3814             if (strEQ(d,"and"))                 return -KEY_and;
3815             if (strEQ(d,"abs"))                 return -KEY_abs;
3816             break;
3817         case 5:
3818             if (strEQ(d,"alarm"))               return -KEY_alarm;
3819             if (strEQ(d,"atan2"))               return -KEY_atan2;
3820             break;
3821         case 6:
3822             if (strEQ(d,"accept"))              return -KEY_accept;
3823             break;
3824         }
3825         break;
3826     case 'B':
3827         if (strEQ(d,"BEGIN"))                   return KEY_BEGIN;
3828         break;
3829     case 'b':
3830         if (strEQ(d,"bless"))                   return -KEY_bless;
3831         if (strEQ(d,"bind"))                    return -KEY_bind;
3832         if (strEQ(d,"binmode"))                 return -KEY_binmode;
3833         break;
3834     case 'C':
3835         if (strEQ(d,"CORE"))                    return -KEY_CORE;
3836         break;
3837     case 'c':
3838         switch (len) {
3839         case 3:
3840             if (strEQ(d,"cmp"))                 return -KEY_cmp;
3841             if (strEQ(d,"chr"))                 return -KEY_chr;
3842             if (strEQ(d,"cos"))                 return -KEY_cos;
3843             break;
3844         case 4:
3845             if (strEQ(d,"chop"))                return KEY_chop;
3846             break;
3847         case 5:
3848             if (strEQ(d,"close"))               return -KEY_close;
3849             if (strEQ(d,"chdir"))               return -KEY_chdir;
3850             if (strEQ(d,"chomp"))               return KEY_chomp;
3851             if (strEQ(d,"chmod"))               return -KEY_chmod;
3852             if (strEQ(d,"chown"))               return -KEY_chown;
3853             if (strEQ(d,"crypt"))               return -KEY_crypt;
3854             break;
3855         case 6:
3856             if (strEQ(d,"chroot"))              return -KEY_chroot;
3857             if (strEQ(d,"caller"))              return -KEY_caller;
3858             break;
3859         case 7:
3860             if (strEQ(d,"connect"))             return -KEY_connect;
3861             break;
3862         case 8:
3863             if (strEQ(d,"closedir"))            return -KEY_closedir;
3864             if (strEQ(d,"continue"))            return -KEY_continue;
3865             break;
3866         }
3867         break;
3868     case 'D':
3869         if (strEQ(d,"DESTROY"))                 return KEY_DESTROY;
3870         break;
3871     case 'd':
3872         switch (len) {
3873         case 2:
3874             if (strEQ(d,"do"))                  return KEY_do;
3875             break;
3876         case 3:
3877             if (strEQ(d,"die"))                 return -KEY_die;
3878             break;
3879         case 4:
3880             if (strEQ(d,"dump"))                return -KEY_dump;
3881             break;
3882         case 6:
3883             if (strEQ(d,"delete"))              return KEY_delete;
3884             break;
3885         case 7:
3886             if (strEQ(d,"defined"))             return KEY_defined;
3887             if (strEQ(d,"dbmopen"))             return -KEY_dbmopen;
3888             break;
3889         case 8:
3890             if (strEQ(d,"dbmclose"))            return -KEY_dbmclose;
3891             break;
3892         }
3893         break;
3894     case 'E':
3895         if (strEQ(d,"EQ")) { deprecate(d);      return -KEY_eq;}
3896         if (strEQ(d,"END"))                     return KEY_END;
3897         break;
3898     case 'e':
3899         switch (len) {
3900         case 2:
3901             if (strEQ(d,"eq"))                  return -KEY_eq;
3902             break;
3903         case 3:
3904             if (strEQ(d,"eof"))                 return -KEY_eof;
3905             if (strEQ(d,"exp"))                 return -KEY_exp;
3906             break;
3907         case 4:
3908             if (strEQ(d,"else"))                return KEY_else;
3909             if (strEQ(d,"exit"))                return -KEY_exit;
3910             if (strEQ(d,"eval"))                return KEY_eval;
3911             if (strEQ(d,"exec"))                return -KEY_exec;
3912             if (strEQ(d,"each"))                return KEY_each;
3913             break;
3914         case 5:
3915             if (strEQ(d,"elsif"))               return KEY_elsif;
3916             break;
3917         case 6:
3918             if (strEQ(d,"exists"))              return KEY_exists;
3919             if (strEQ(d,"elseif")) warn("elseif should be elsif");
3920             break;
3921         case 8:
3922             if (strEQ(d,"endgrent"))            return -KEY_endgrent;
3923             if (strEQ(d,"endpwent"))            return -KEY_endpwent;
3924             break;
3925         case 9:
3926             if (strEQ(d,"endnetent"))           return -KEY_endnetent;
3927             break;
3928         case 10:
3929             if (strEQ(d,"endhostent"))          return -KEY_endhostent;
3930             if (strEQ(d,"endservent"))          return -KEY_endservent;
3931             break;
3932         case 11:
3933             if (strEQ(d,"endprotoent"))         return -KEY_endprotoent;
3934             break;
3935         }
3936         break;
3937     case 'f':
3938         switch (len) {
3939         case 3:
3940             if (strEQ(d,"for"))                 return KEY_for;
3941             break;
3942         case 4:
3943             if (strEQ(d,"fork"))                return -KEY_fork;
3944             break;
3945         case 5:
3946             if (strEQ(d,"fcntl"))               return -KEY_fcntl;
3947             if (strEQ(d,"flock"))               return -KEY_flock;
3948             break;
3949         case 6:
3950             if (strEQ(d,"format"))              return KEY_format;
3951             if (strEQ(d,"fileno"))              return -KEY_fileno;
3952             break;
3953         case 7:
3954             if (strEQ(d,"foreach"))             return KEY_foreach;
3955             break;
3956         case 8:
3957             if (strEQ(d,"formline"))            return -KEY_formline;
3958             break;
3959         }
3960         break;
3961     case 'G':
3962         if (len == 2) {
3963             if (strEQ(d,"GT")) { deprecate(d);  return -KEY_gt;}
3964             if (strEQ(d,"GE")) { deprecate(d);  return -KEY_ge;}
3965         }
3966         break;
3967     case 'g':
3968         if (strnEQ(d,"get",3)) {
3969             d += 3;
3970             if (*d == 'p') {
3971                 switch (len) {
3972                 case 7:
3973                     if (strEQ(d,"ppid"))        return -KEY_getppid;
3974                     if (strEQ(d,"pgrp"))        return -KEY_getpgrp;
3975                     break;
3976                 case 8:
3977                     if (strEQ(d,"pwent"))       return -KEY_getpwent;
3978                     if (strEQ(d,"pwnam"))       return -KEY_getpwnam;
3979                     if (strEQ(d,"pwuid"))       return -KEY_getpwuid;
3980                     break;
3981                 case 11:
3982                     if (strEQ(d,"peername"))    return -KEY_getpeername;
3983                     if (strEQ(d,"protoent"))    return -KEY_getprotoent;
3984                     if (strEQ(d,"priority"))    return -KEY_getpriority;
3985                     break;
3986                 case 14:
3987                     if (strEQ(d,"protobyname")) return -KEY_getprotobyname;
3988                     break;
3989                 case 16:
3990                     if (strEQ(d,"protobynumber"))return -KEY_getprotobynumber;
3991                     break;
3992                 }
3993             }
3994             else if (*d == 'h') {
3995                 if (strEQ(d,"hostbyname"))      return -KEY_gethostbyname;
3996                 if (strEQ(d,"hostbyaddr"))      return -KEY_gethostbyaddr;
3997                 if (strEQ(d,"hostent"))         return -KEY_gethostent;
3998             }
3999             else if (*d == 'n') {
4000                 if (strEQ(d,"netbyname"))       return -KEY_getnetbyname;
4001                 if (strEQ(d,"netbyaddr"))       return -KEY_getnetbyaddr;
4002                 if (strEQ(d,"netent"))          return -KEY_getnetent;
4003             }
4004             else if (*d == 's') {
4005                 if (strEQ(d,"servbyname"))      return -KEY_getservbyname;
4006                 if (strEQ(d,"servbyport"))      return -KEY_getservbyport;
4007                 if (strEQ(d,"servent"))         return -KEY_getservent;
4008                 if (strEQ(d,"sockname"))        return -KEY_getsockname;
4009                 if (strEQ(d,"sockopt"))         return -KEY_getsockopt;
4010             }
4011             else if (*d == 'g') {
4012                 if (strEQ(d,"grent"))           return -KEY_getgrent;
4013                 if (strEQ(d,"grnam"))           return -KEY_getgrnam;
4014                 if (strEQ(d,"grgid"))           return -KEY_getgrgid;
4015             }
4016             else if (*d == 'l') {
4017                 if (strEQ(d,"login"))           return -KEY_getlogin;
4018             }
4019             else if (strEQ(d,"c"))              return -KEY_getc;
4020             break;
4021         }
4022         switch (len) {
4023         case 2:
4024             if (strEQ(d,"gt"))                  return -KEY_gt;
4025             if (strEQ(d,"ge"))                  return -KEY_ge;
4026             break;
4027         case 4:
4028             if (strEQ(d,"grep"))                return KEY_grep;
4029             if (strEQ(d,"goto"))                return KEY_goto;
4030             if (strEQ(d,"glob"))                return KEY_glob;
4031             break;
4032         case 6:
4033             if (strEQ(d,"gmtime"))              return -KEY_gmtime;
4034             break;
4035         }
4036         break;
4037     case 'h':
4038         if (strEQ(d,"hex"))                     return -KEY_hex;
4039         break;
4040     case 'I':
4041         if (strEQ(d,"INIT"))                    return KEY_INIT;
4042         break;
4043     case 'i':
4044         switch (len) {
4045         case 2:
4046             if (strEQ(d,"if"))                  return KEY_if;
4047             break;
4048         case 3:
4049             if (strEQ(d,"int"))                 return -KEY_int;
4050             break;
4051         case 5:
4052             if (strEQ(d,"index"))               return -KEY_index;
4053             if (strEQ(d,"ioctl"))               return -KEY_ioctl;
4054             break;
4055         }
4056         break;
4057     case 'j':
4058         if (strEQ(d,"join"))                    return -KEY_join;
4059         break;
4060     case 'k':
4061         if (len == 4) {
4062             if (strEQ(d,"keys"))                return KEY_keys;
4063             if (strEQ(d,"kill"))                return -KEY_kill;
4064         }
4065         break;
4066     case 'L':
4067         if (len == 2) {
4068             if (strEQ(d,"LT")) { deprecate(d);  return -KEY_lt;}
4069             if (strEQ(d,"LE")) { deprecate(d);  return -KEY_le;}
4070         }
4071         break;
4072     case 'l':
4073         switch (len) {
4074         case 2:
4075             if (strEQ(d,"lt"))                  return -KEY_lt;
4076             if (strEQ(d,"le"))                  return -KEY_le;
4077             if (strEQ(d,"lc"))                  return -KEY_lc;
4078             break;
4079         case 3:
4080             if (strEQ(d,"log"))                 return -KEY_log;
4081             break;
4082         case 4:
4083             if (strEQ(d,"last"))                return KEY_last;
4084             if (strEQ(d,"link"))                return -KEY_link;
4085             if (strEQ(d,"lock"))                return -KEY_lock;
4086             break;
4087         case 5:
4088             if (strEQ(d,"local"))               return KEY_local;
4089             if (strEQ(d,"lstat"))               return -KEY_lstat;
4090             break;
4091         case 6:
4092             if (strEQ(d,"length"))              return -KEY_length;
4093             if (strEQ(d,"listen"))              return -KEY_listen;
4094             break;
4095         case 7:
4096             if (strEQ(d,"lcfirst"))             return -KEY_lcfirst;
4097             break;
4098         case 9:
4099             if (strEQ(d,"localtime"))           return -KEY_localtime;
4100             break;
4101         }
4102         break;
4103     case 'm':
4104         switch (len) {
4105         case 1:                                 return KEY_m;
4106         case 2:
4107             if (strEQ(d,"my"))                  return KEY_my;
4108             break;
4109         case 3:
4110             if (strEQ(d,"map"))                 return KEY_map;
4111             break;
4112         case 5:
4113             if (strEQ(d,"mkdir"))               return -KEY_mkdir;
4114             break;
4115         case 6:
4116             if (strEQ(d,"msgctl"))              return -KEY_msgctl;
4117             if (strEQ(d,"msgget"))              return -KEY_msgget;
4118             if (strEQ(d,"msgrcv"))              return -KEY_msgrcv;
4119             if (strEQ(d,"msgsnd"))              return -KEY_msgsnd;
4120             break;
4121         }
4122         break;
4123     case 'N':
4124         if (strEQ(d,"NE")) { deprecate(d);      return -KEY_ne;}
4125         break;
4126     case 'n':
4127         if (strEQ(d,"next"))                    return KEY_next;
4128         if (strEQ(d,"ne"))                      return -KEY_ne;
4129         if (strEQ(d,"not"))                     return -KEY_not;
4130         if (strEQ(d,"no"))                      return KEY_no;
4131         break;
4132     case 'o':
4133         switch (len) {
4134         case 2:
4135             if (strEQ(d,"or"))                  return -KEY_or;
4136             break;
4137         case 3:
4138             if (strEQ(d,"ord"))                 return -KEY_ord;
4139             if (strEQ(d,"oct"))                 return -KEY_oct;
4140             break;
4141         case 4:
4142             if (strEQ(d,"open"))                return -KEY_open;
4143             break;
4144         case 7:
4145             if (strEQ(d,"opendir"))             return -KEY_opendir;
4146             break;
4147         }
4148         break;
4149     case 'p':
4150         switch (len) {
4151         case 3:
4152             if (strEQ(d,"pop"))                 return KEY_pop;
4153             if (strEQ(d,"pos"))                 return KEY_pos;
4154             break;
4155         case 4:
4156             if (strEQ(d,"push"))                return KEY_push;
4157             if (strEQ(d,"pack"))                return -KEY_pack;
4158             if (strEQ(d,"pipe"))                return -KEY_pipe;
4159             break;
4160         case 5:
4161             if (strEQ(d,"print"))               return KEY_print;
4162             break;
4163         case 6:
4164             if (strEQ(d,"printf"))              return KEY_printf;
4165             break;
4166         case 7:
4167             if (strEQ(d,"package"))             return KEY_package;
4168             break;
4169         case 9:
4170             if (strEQ(d,"prototype"))           return KEY_prototype;
4171         }
4172         break;
4173     case 'q':
4174         if (len <= 2) {
4175             if (strEQ(d,"q"))                   return KEY_q;
4176             if (strEQ(d,"qq"))                  return KEY_qq;
4177             if (strEQ(d,"qw"))                  return KEY_qw;
4178             if (strEQ(d,"qx"))                  return KEY_qx;
4179         }
4180         else if (strEQ(d,"quotemeta"))          return -KEY_quotemeta;
4181         break;
4182     case 'r':
4183         switch (len) {
4184         case 3:
4185             if (strEQ(d,"ref"))                 return -KEY_ref;
4186             break;
4187         case 4:
4188             if (strEQ(d,"read"))                return -KEY_read;
4189             if (strEQ(d,"rand"))                return -KEY_rand;
4190             if (strEQ(d,"recv"))                return -KEY_recv;
4191             if (strEQ(d,"redo"))                return KEY_redo;
4192             break;
4193         case 5:
4194             if (strEQ(d,"rmdir"))               return -KEY_rmdir;
4195             if (strEQ(d,"reset"))               return -KEY_reset;
4196             break;
4197         case 6:
4198             if (strEQ(d,"return"))              return KEY_return;
4199             if (strEQ(d,"rename"))              return -KEY_rename;
4200             if (strEQ(d,"rindex"))              return -KEY_rindex;
4201             break;
4202         case 7:
4203             if (strEQ(d,"require"))             return -KEY_require;
4204             if (strEQ(d,"reverse"))             return -KEY_reverse;
4205             if (strEQ(d,"readdir"))             return -KEY_readdir;
4206             break;
4207         case 8:
4208             if (strEQ(d,"readlink"))            return -KEY_readlink;
4209             if (strEQ(d,"readline"))            return -KEY_readline;
4210             if (strEQ(d,"readpipe"))            return -KEY_readpipe;
4211             break;
4212         case 9:
4213             if (strEQ(d,"rewinddir"))           return -KEY_rewinddir;
4214             break;
4215         }
4216         break;
4217     case 's':
4218         switch (d[1]) {
4219         case 0:                                 return KEY_s;
4220         case 'c':
4221             if (strEQ(d,"scalar"))              return KEY_scalar;
4222             break;
4223         case 'e':
4224             switch (len) {
4225             case 4:
4226                 if (strEQ(d,"seek"))            return -KEY_seek;
4227                 if (strEQ(d,"send"))            return -KEY_send;
4228                 break;
4229             case 5:
4230                 if (strEQ(d,"semop"))           return -KEY_semop;
4231                 break;
4232             case 6:
4233                 if (strEQ(d,"select"))          return -KEY_select;
4234                 if (strEQ(d,"semctl"))          return -KEY_semctl;
4235                 if (strEQ(d,"semget"))          return -KEY_semget;
4236                 break;
4237             case 7:
4238                 if (strEQ(d,"setpgrp"))         return -KEY_setpgrp;
4239                 if (strEQ(d,"seekdir"))         return -KEY_seekdir;
4240                 break;
4241             case 8:
4242                 if (strEQ(d,"setpwent"))        return -KEY_setpwent;
4243                 if (strEQ(d,"setgrent"))        return -KEY_setgrent;
4244                 break;
4245             case 9:
4246                 if (strEQ(d,"setnetent"))       return -KEY_setnetent;
4247                 break;
4248             case 10:
4249                 if (strEQ(d,"setsockopt"))      return -KEY_setsockopt;
4250                 if (strEQ(d,"sethostent"))      return -KEY_sethostent;
4251                 if (strEQ(d,"setservent"))      return -KEY_setservent;
4252                 break;
4253             case 11:
4254                 if (strEQ(d,"setpriority"))     return -KEY_setpriority;
4255                 if (strEQ(d,"setprotoent"))     return -KEY_setprotoent;
4256                 break;
4257             }
4258             break;
4259         case 'h':
4260             switch (len) {
4261             case 5:
4262                 if (strEQ(d,"shift"))           return KEY_shift;
4263                 break;
4264             case 6:
4265                 if (strEQ(d,"shmctl"))          return -KEY_shmctl;
4266                 if (strEQ(d,"shmget"))          return -KEY_shmget;
4267                 break;
4268             case 7:
4269                 if (strEQ(d,"shmread"))         return -KEY_shmread;
4270                 break;
4271             case 8:
4272                 if (strEQ(d,"shmwrite"))        return -KEY_shmwrite;
4273                 if (strEQ(d,"shutdown"))        return -KEY_shutdown;
4274                 break;
4275             }
4276             break;
4277         case 'i':
4278             if (strEQ(d,"sin"))                 return -KEY_sin;
4279             break;
4280         case 'l':
4281             if (strEQ(d,"sleep"))               return -KEY_sleep;
4282             break;
4283         case 'o':
4284             if (strEQ(d,"sort"))                return KEY_sort;
4285             if (strEQ(d,"socket"))              return -KEY_socket;
4286             if (strEQ(d,"socketpair"))          return -KEY_socketpair;
4287             break;
4288         case 'p':
4289             if (strEQ(d,"split"))               return KEY_split;
4290             if (strEQ(d,"sprintf"))             return -KEY_sprintf;
4291             if (strEQ(d,"splice"))              return KEY_splice;
4292             break;
4293         case 'q':
4294             if (strEQ(d,"sqrt"))                return -KEY_sqrt;
4295             break;
4296         case 'r':
4297             if (strEQ(d,"srand"))               return -KEY_srand;
4298             break;
4299         case 't':
4300             if (strEQ(d,"stat"))                return -KEY_stat;
4301             if (strEQ(d,"study"))               return KEY_study;
4302             break;
4303         case 'u':
4304             if (strEQ(d,"substr"))              return -KEY_substr;
4305             if (strEQ(d,"sub"))                 return KEY_sub;
4306             break;
4307         case 'y':
4308             switch (len) {
4309             case 6:
4310                 if (strEQ(d,"system"))          return -KEY_system;
4311                 break;
4312             case 7:
4313                 if (strEQ(d,"symlink"))         return -KEY_symlink;
4314                 if (strEQ(d,"syscall"))         return -KEY_syscall;
4315                 if (strEQ(d,"sysopen"))         return -KEY_sysopen;
4316                 if (strEQ(d,"sysread"))         return -KEY_sysread;
4317                 if (strEQ(d,"sysseek"))         return -KEY_sysseek;
4318                 break;
4319             case 8:
4320                 if (strEQ(d,"syswrite"))        return -KEY_syswrite;
4321                 break;
4322             }
4323             break;
4324         }
4325         break;
4326     case 't':
4327         switch (len) {
4328         case 2:
4329             if (strEQ(d,"tr"))                  return KEY_tr;
4330             break;
4331         case 3:
4332             if (strEQ(d,"tie"))                 return KEY_tie;
4333             break;
4334         case 4:
4335             if (strEQ(d,"tell"))                return -KEY_tell;
4336             if (strEQ(d,"tied"))                return KEY_tied;
4337             if (strEQ(d,"time"))                return -KEY_time;
4338             break;
4339         case 5:
4340             if (strEQ(d,"times"))               return -KEY_times;
4341             break;
4342         case 7:
4343             if (strEQ(d,"telldir"))             return -KEY_telldir;
4344             break;
4345         case 8:
4346             if (strEQ(d,"truncate"))            return -KEY_truncate;
4347             break;
4348         }
4349         break;
4350     case 'u':
4351         switch (len) {
4352         case 2:
4353             if (strEQ(d,"uc"))                  return -KEY_uc;
4354             break;
4355         case 3:
4356             if (strEQ(d,"use"))                 return KEY_use;
4357             break;
4358         case 5:
4359             if (strEQ(d,"undef"))               return KEY_undef;
4360             if (strEQ(d,"until"))               return KEY_until;
4361             if (strEQ(d,"untie"))               return KEY_untie;
4362             if (strEQ(d,"utime"))               return -KEY_utime;
4363             if (strEQ(d,"umask"))               return -KEY_umask;
4364             break;
4365         case 6:
4366             if (strEQ(d,"unless"))              return KEY_unless;
4367             if (strEQ(d,"unpack"))              return -KEY_unpack;
4368             if (strEQ(d,"unlink"))              return -KEY_unlink;
4369             break;
4370         case 7:
4371             if (strEQ(d,"unshift"))             return KEY_unshift;
4372             if (strEQ(d,"ucfirst"))             return -KEY_ucfirst;
4373             break;
4374         }
4375         break;
4376     case 'v':
4377         if (strEQ(d,"values"))                  return -KEY_values;
4378         if (strEQ(d,"vec"))                     return -KEY_vec;
4379         break;
4380     case 'w':
4381         switch (len) {
4382         case 4:
4383             if (strEQ(d,"warn"))                return -KEY_warn;
4384             if (strEQ(d,"wait"))                return -KEY_wait;
4385             break;
4386         case 5:
4387             if (strEQ(d,"while"))               return KEY_while;
4388             if (strEQ(d,"write"))               return -KEY_write;
4389             break;
4390         case 7:
4391             if (strEQ(d,"waitpid"))             return -KEY_waitpid;
4392             break;
4393         case 9:
4394             if (strEQ(d,"wantarray"))           return -KEY_wantarray;
4395             break;
4396         }
4397         break;
4398     case 'x':
4399         if (len == 1)                           return -KEY_x;
4400         if (strEQ(d,"xor"))                     return -KEY_xor;
4401         break;
4402     case 'y':
4403         if (len == 1)                           return KEY_y;
4404         break;
4405     case 'z':
4406         break;
4407     }
4408     return 0;
4409 }
4410
4411 static void
4412 checkcomma(s,name,what)
4413 register char *s;
4414 char *name;
4415 char *what;
4416 {
4417     char *w;
4418
4419     if (dowarn && *s == ' ' && s[1] == '(') {   /* XXX gotta be a better way */
4420         int level = 1;
4421         for (w = s+2; *w && level; w++) {
4422             if (*w == '(')
4423                 ++level;
4424             else if (*w == ')')
4425                 --level;
4426         }
4427         if (*w)
4428             for (; *w && isSPACE(*w); w++) ;
4429         if (!*w || !strchr(";|})]oaiuw!=", *w)) /* an advisory hack only... */
4430             warn("%s (...) interpreted as function",name);
4431     }
4432     while (s < bufend && isSPACE(*s))
4433         s++;
4434     if (*s == '(')
4435         s++;
4436     while (s < bufend && isSPACE(*s))
4437         s++;
4438     if (isIDFIRST(*s)) {
4439         w = s++;
4440         while (isALNUM(*s))
4441             s++;
4442         while (s < bufend && isSPACE(*s))
4443             s++;
4444         if (*s == ',') {
4445             int kw;
4446             *s = '\0';
4447             kw = keyword(w, s - w) || perl_get_cv(w, FALSE) != 0;
4448             *s = ',';
4449             if (kw)
4450                 return;
4451             croak("No comma allowed after %s", what);
4452         }
4453     }
4454 }
4455
4456 static char *
4457 scan_word(s, dest, destlen, allow_package, slp)
4458 register char *s;
4459 char *dest;
4460 STRLEN destlen;
4461 int allow_package;
4462 STRLEN *slp;
4463 {
4464     register char *d = dest;
4465     register char *e = d + destlen - 3;  /* two-character token, ending NUL */
4466     for (;;) {
4467         if (d >= e)
4468             croak(ident_too_long);
4469         if (isALNUM(*s))
4470             *d++ = *s++;
4471         else if (*s == '\'' && allow_package && isIDFIRST(s[1])) {
4472             *d++ = ':';
4473             *d++ = ':';
4474             s++;
4475         }
4476         else if (*s == ':' && s[1] == ':' && allow_package && isIDFIRST(s[2])) {
4477             *d++ = *s++;
4478             *d++ = *s++;
4479         }
4480         else {
4481             *d = '\0';
4482             *slp = d - dest;
4483             return s;
4484         }
4485     }
4486 }
4487
4488 static char *
4489 scan_ident(s, send, dest, destlen, ck_uni)
4490 register char *s;
4491 register char *send;
4492 char *dest;
4493 STRLEN destlen;
4494 I32 ck_uni;
4495 {
4496     register char *d;
4497     register char *e;
4498     char *bracket = 0;
4499     char funny = *s++;
4500
4501     if (lex_brackets == 0)
4502         lex_fakebrack = 0;
4503     if (isSPACE(*s))
4504         s = skipspace(s);
4505     d = dest;
4506     e = d + destlen - 3;        /* two-character token, ending NUL */
4507     if (isDIGIT(*s)) {
4508         while (isDIGIT(*s)) {
4509             if (d >= e)
4510                 croak(ident_too_long);
4511             *d++ = *s++;
4512         }
4513     }
4514     else {
4515         for (;;) {
4516             if (d >= e)
4517                 croak(ident_too_long);
4518             if (isALNUM(*s))
4519                 *d++ = *s++;
4520             else if (*s == '\'' && isIDFIRST(s[1])) {
4521                 *d++ = ':';
4522                 *d++ = ':';
4523                 s++;
4524             }
4525             else if (*s == ':' && s[1] == ':') {
4526                 *d++ = *s++;
4527                 *d++ = *s++;
4528             }
4529             else
4530                 break;
4531         }
4532     }
4533     *d = '\0';
4534     d = dest;
4535     if (*d) {
4536         if (lex_state != LEX_NORMAL)
4537             lex_state = LEX_INTERPENDMAYBE;
4538         return s;
4539     }
4540     if (*s == '$' && s[1] &&
4541       (isALNUM(s[1]) || strchr("${", s[1]) || strnEQ(s+1,"::",2)) )
4542     {
4543         if (isDIGIT(s[1]) && lex_state == LEX_INTERPNORMAL)
4544             deprecate("\"$$<digit>\" to mean \"${$}<digit>\"");
4545         else
4546             return s;
4547     }
4548     if (*s == '{') {
4549         bracket = s;
4550         s++;
4551     }
4552     else if (ck_uni)
4553         check_uni();
4554     if (s < send)
4555         *d = *s++;
4556     d[1] = '\0';
4557     if (*d == '^' && *s && (isUPPER(*s) || strchr("[\\]^_?", *s))) {
4558         *d = toCTRL(*s);
4559         s++;
4560     }
4561     if (bracket) {
4562         if (isSPACE(s[-1])) {
4563             while (s < send) {
4564                 char ch = *s++;
4565                 if (ch != ' ' && ch != '\t') {
4566                     *d = ch;
4567                     break;
4568                 }
4569             }
4570         }
4571         if (isIDFIRST(*d)) {
4572             d++;
4573             while (isALNUM(*s) || *s == ':')
4574                 *d++ = *s++;
4575             *d = '\0';
4576             while (s < send && (*s == ' ' || *s == '\t')) s++;
4577             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
4578                 if (dowarn && keyword(dest, d - dest)) {
4579                     char *brack = *s == '[' ? "[...]" : "{...}";
4580                     warn("Ambiguous use of %c{%s%s} resolved to %c%s%s",
4581                         funny, dest, brack, funny, dest, brack);
4582                 }
4583                 lex_fakebrack = lex_brackets+1;
4584                 bracket++;
4585                 lex_brackstack[lex_brackets++] = XOPERATOR;
4586                 return s;
4587             }
4588         }
4589         if (*s == '}') {
4590             s++;
4591             if (lex_state == LEX_INTERPNORMAL && !lex_brackets)
4592                 lex_state = LEX_INTERPEND;
4593             if (funny == '#')
4594                 funny = '@';
4595             if (dowarn && lex_state == LEX_NORMAL &&
4596               (keyword(dest, d - dest) || perl_get_cv(dest, FALSE)))
4597                 warn("Ambiguous use of %c{%s} resolved to %c%s",
4598                     funny, dest, funny, dest);
4599         }
4600         else {
4601             s = bracket;                /* let the parser handle it */
4602             *dest = '\0';
4603         }
4604     }
4605     else if (lex_state == LEX_INTERPNORMAL && !lex_brackets && !intuit_more(s))
4606         lex_state = LEX_INTERPEND;
4607     return s;
4608 }
4609
4610 void pmflag(pmfl,ch)
4611 U16* pmfl;
4612 int ch;
4613 {
4614     if (ch == 'i')
4615         *pmfl |= PMf_FOLD;
4616     else if (ch == 'g')
4617         *pmfl |= PMf_GLOBAL;
4618     else if (ch == 'c')
4619         *pmfl |= PMf_CONTINUE;
4620     else if (ch == 'o')
4621         *pmfl |= PMf_KEEP;
4622     else if (ch == 'm')
4623         *pmfl |= PMf_MULTILINE;
4624     else if (ch == 's')
4625         *pmfl |= PMf_SINGLELINE;
4626     else if (ch == 'x')
4627         *pmfl |= PMf_EXTENDED;
4628 }
4629
4630 static char *
4631 scan_pat(start)
4632 char *start;
4633 {
4634     PMOP *pm;
4635     char *s;
4636
4637     s = scan_str(start);
4638     if (!s) {
4639         if (lex_stuff)
4640             SvREFCNT_dec(lex_stuff);
4641         lex_stuff = Nullsv;
4642         croak("Search pattern not terminated");
4643     }
4644
4645     pm = (PMOP*)newPMOP(OP_MATCH, 0);
4646     if (multi_open == '?')
4647         pm->op_pmflags |= PMf_ONCE;
4648     while (*s && strchr("iogcmsx", *s))
4649         pmflag(&pm->op_pmflags,*s++);
4650     pm->op_pmpermflags = pm->op_pmflags;
4651
4652     lex_op = (OP*)pm;
4653     yylval.ival = OP_MATCH;
4654     return s;
4655 }
4656
4657 static char *
4658 scan_subst(start)
4659 char *start;
4660 {
4661     register char *s;
4662     register PMOP *pm;
4663     I32 first_start;
4664     I32 es = 0;
4665
4666     yylval.ival = OP_NULL;
4667
4668     s = scan_str(start);
4669
4670     if (!s) {
4671         if (lex_stuff)
4672             SvREFCNT_dec(lex_stuff);
4673         lex_stuff = Nullsv;
4674         croak("Substitution pattern not terminated");
4675     }
4676
4677     if (s[-1] == multi_open)
4678         s--;
4679
4680     first_start = multi_start;
4681     s = scan_str(s);
4682     if (!s) {
4683         if (lex_stuff)
4684             SvREFCNT_dec(lex_stuff);
4685         lex_stuff = Nullsv;
4686         if (lex_repl)
4687             SvREFCNT_dec(lex_repl);
4688         lex_repl = Nullsv;
4689         croak("Substitution replacement not terminated");
4690     }
4691     multi_start = first_start;  /* so whole substitution is taken together */
4692
4693     pm = (PMOP*)newPMOP(OP_SUBST, 0);
4694     while (*s && strchr("iogcmsex", *s)) {
4695         if (*s == 'e') {
4696             s++;
4697             es++;
4698         }
4699         else
4700             pmflag(&pm->op_pmflags,*s++);
4701     }
4702
4703     if (es) {
4704         SV *repl;
4705         pm->op_pmflags |= PMf_EVAL;
4706         repl = newSVpv("",0);
4707         while (es-- > 0)
4708             sv_catpv(repl, es ? "eval " : "do ");
4709         sv_catpvn(repl, "{ ", 2);
4710         sv_catsv(repl, lex_repl);
4711         sv_catpvn(repl, " };", 2);
4712         SvCOMPILED_on(repl);
4713         SvREFCNT_dec(lex_repl);
4714         lex_repl = repl;
4715     }
4716
4717     pm->op_pmpermflags = pm->op_pmflags;
4718     lex_op = (OP*)pm;
4719     yylval.ival = OP_SUBST;
4720     return s;
4721 }
4722
4723 void
4724 hoistmust(pm)
4725 register PMOP *pm;
4726 {
4727     dTHR;
4728     if (!pm->op_pmshort && pm->op_pmregexp->regstart &&
4729         (!pm->op_pmregexp->regmust || pm->op_pmregexp->reganch & ROPT_ANCH)
4730        ) {
4731         if (!(pm->op_pmregexp->reganch & ROPT_ANCH))
4732             pm->op_pmflags |= PMf_SCANFIRST;
4733         pm->op_pmshort = SvREFCNT_inc(pm->op_pmregexp->regstart);
4734         pm->op_pmslen = SvCUR(pm->op_pmshort);
4735     }
4736     else if (pm->op_pmregexp->regmust) {/* is there a better short-circuit? */
4737         if (pm->op_pmshort &&
4738           sv_eq(pm->op_pmshort,pm->op_pmregexp->regmust))
4739         {
4740             if (pm->op_pmflags & PMf_SCANFIRST) {
4741                 SvREFCNT_dec(pm->op_pmshort);
4742                 pm->op_pmshort = Nullsv;
4743             }
4744             else {
4745                 SvREFCNT_dec(pm->op_pmregexp->regmust);
4746                 pm->op_pmregexp->regmust = Nullsv;
4747                 return;
4748             }
4749         }
4750         /* promote the better string */
4751         if ((!pm->op_pmshort &&
4752              !(pm->op_pmregexp->reganch & ROPT_ANCH_GPOS)) ||
4753             ((pm->op_pmflags & PMf_SCANFIRST) &&
4754              (SvCUR(pm->op_pmshort) < SvCUR(pm->op_pmregexp->regmust)))) {
4755             SvREFCNT_dec(pm->op_pmshort);               /* ok if null */
4756             pm->op_pmshort = pm->op_pmregexp->regmust;
4757             pm->op_pmslen = SvCUR(pm->op_pmshort);
4758             pm->op_pmregexp->regmust = Nullsv;
4759             pm->op_pmflags |= PMf_SCANFIRST;
4760         }
4761     }
4762 }
4763
4764 static char *
4765 scan_trans(start)
4766 char *start;
4767 {
4768     register char* s;
4769     OP *o;
4770     short *tbl;
4771     I32 squash;
4772     I32 delete;
4773     I32 complement;
4774
4775     yylval.ival = OP_NULL;
4776
4777     s = scan_str(start);
4778     if (!s) {
4779         if (lex_stuff)
4780             SvREFCNT_dec(lex_stuff);
4781         lex_stuff = Nullsv;
4782         croak("Translation pattern not terminated");
4783     }
4784     if (s[-1] == multi_open)
4785         s--;
4786
4787     s = scan_str(s);
4788     if (!s) {
4789         if (lex_stuff)
4790             SvREFCNT_dec(lex_stuff);
4791         lex_stuff = Nullsv;
4792         if (lex_repl)
4793             SvREFCNT_dec(lex_repl);
4794         lex_repl = Nullsv;
4795         croak("Translation replacement not terminated");
4796     }
4797
4798     New(803,tbl,256,short);
4799     o = newPVOP(OP_TRANS, 0, (char*)tbl);
4800
4801     complement = delete = squash = 0;
4802     while (*s == 'c' || *s == 'd' || *s == 's') {
4803         if (*s == 'c')
4804             complement = OPpTRANS_COMPLEMENT;
4805         else if (*s == 'd')
4806             delete = OPpTRANS_DELETE;
4807         else
4808             squash = OPpTRANS_SQUASH;
4809         s++;
4810     }
4811     o->op_private = delete|squash|complement;
4812
4813     lex_op = o;
4814     yylval.ival = OP_TRANS;
4815     return s;
4816 }
4817
4818 static char *
4819 scan_heredoc(s)
4820 register char *s;
4821 {
4822     dTHR;
4823     SV *herewas;
4824     I32 op_type = OP_SCALAR;
4825     I32 len;
4826     SV *tmpstr;
4827     char term;
4828     register char *d;
4829     register char *e;
4830     char *peek;
4831     int outer = (rsfp && !lex_inwhat);
4832
4833     s += 2;
4834     d = tokenbuf;
4835     e = tokenbuf + sizeof tokenbuf - 1;
4836     if (!outer)
4837         *d++ = '\n';
4838     for (peek = s; *peek == ' ' || *peek == '\t'; peek++) ;
4839     if (*peek && strchr("`'\"",*peek)) {
4840         s = peek;
4841         term = *s++;
4842         s = delimcpy(d, e, s, bufend, term, &len);
4843         d += len;
4844         if (s < bufend)
4845             s++;
4846     }
4847     else {
4848         if (*s == '\\')
4849             s++, term = '\'';
4850         else
4851             term = '"';
4852         if (!isALNUM(*s))
4853             deprecate("bare << to mean <<\"\"");
4854         for (; isALNUM(*s); s++) {
4855             if (d < e)
4856                 *d++ = *s;
4857         }
4858     }
4859     if (d >= tokenbuf + sizeof tokenbuf - 1)
4860         croak("Delimiter for here document is too long");
4861     *d++ = '\n';
4862     *d = '\0';
4863     len = d - tokenbuf;
4864     d = "\n";
4865     if (outer || !(d=ninstr(s,bufend,d,d+1)))
4866         herewas = newSVpv(s,bufend-s);
4867     else
4868         s--, herewas = newSVpv(s,d-s);
4869     s += SvCUR(herewas);
4870
4871     tmpstr = NEWSV(87,80);
4872     sv_upgrade(tmpstr, SVt_PVIV);
4873     if (term == '\'') {
4874         op_type = OP_CONST;
4875         SvIVX(tmpstr) = -1;
4876     }
4877     else if (term == '`') {
4878         op_type = OP_BACKTICK;
4879         SvIVX(tmpstr) = '\\';
4880     }
4881
4882     CLINE;
4883     multi_start = curcop->cop_line;
4884     multi_open = multi_close = '<';
4885     term = *tokenbuf;
4886     if (!outer) {
4887         d = s;
4888         while (s < bufend &&
4889           (*s != term || memNE(s,tokenbuf,len)) ) {
4890             if (*s++ == '\n')
4891                 curcop->cop_line++;
4892         }
4893         if (s >= bufend) {
4894             curcop->cop_line = multi_start;
4895             missingterm(tokenbuf);
4896         }
4897         sv_setpvn(tmpstr,d+1,s-d);
4898         s += len - 1;
4899         sv_catpvn(herewas,s,bufend-s);
4900         sv_setsv(linestr,herewas);
4901         oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
4902         bufend = SvPVX(linestr) + SvCUR(linestr);
4903     }
4904     else
4905         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
4906     while (s >= bufend) {       /* multiple line string? */
4907         if (!outer ||
4908          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4909             curcop->cop_line = multi_start;
4910             missingterm(tokenbuf);
4911         }
4912         curcop->cop_line++;
4913         if (PERLDB_LINE && curstash != debstash) {
4914             SV *sv = NEWSV(88,0);
4915
4916             sv_upgrade(sv, SVt_PVMG);
4917             sv_setsv(sv,linestr);
4918             av_store(GvAV(curcop->cop_filegv),
4919               (I32)curcop->cop_line,sv);
4920         }
4921         bufend = SvPVX(linestr) + SvCUR(linestr);
4922         if (*s == term && memEQ(s,tokenbuf,len)) {
4923             s = bufend - 1;
4924             *s = ' ';
4925             sv_catsv(linestr,herewas);
4926             bufend = SvPVX(linestr) + SvCUR(linestr);
4927         }
4928         else {
4929             s = bufend;
4930             sv_catsv(tmpstr,linestr);
4931         }
4932     }
4933     multi_end = curcop->cop_line;
4934     s++;
4935     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
4936         SvLEN_set(tmpstr, SvCUR(tmpstr) + 1);
4937         Renew(SvPVX(tmpstr), SvLEN(tmpstr), char);
4938     }
4939     SvREFCNT_dec(herewas);
4940     lex_stuff = tmpstr;
4941     yylval.ival = op_type;
4942     return s;
4943 }
4944
4945 static char *
4946 scan_inputsymbol(start)
4947 char *start;
4948 {
4949     register char *s = start;
4950     register char *d;
4951     register char *e;
4952     I32 len;
4953
4954     d = tokenbuf;
4955     e = tokenbuf + sizeof tokenbuf;
4956     s = delimcpy(d, e, s + 1, bufend, '>', &len);
4957     if (len >= sizeof tokenbuf)
4958         croak("Excessively long <> operator");
4959     if (s >= bufend)
4960         croak("Unterminated <> operator");
4961     s++;
4962     if (*d == '$' && d[1]) d++;
4963     while (*d && (isALNUM(*d) || *d == '\'' || *d == ':'))
4964         d++;
4965     if (d - tokenbuf != len) {
4966         yylval.ival = OP_GLOB;
4967         set_csh();
4968         s = scan_str(start);
4969         if (!s)
4970             croak("Glob not terminated");
4971         return s;
4972     }
4973     else {
4974         d = tokenbuf;
4975         if (!len)
4976             (void)strcpy(d,"ARGV");
4977         if (*d == '$') {
4978             I32 tmp;
4979             if ((tmp = pad_findmy(d)) != NOT_IN_PAD) {
4980                 OP *o = newOP(OP_PADSV, 0);
4981                 o->op_targ = tmp;
4982                 lex_op = (OP*)newUNOP(OP_READLINE, 0, newUNOP(OP_RV2GV, 0, o));
4983             }
4984             else {
4985                 GV *gv = gv_fetchpv(d+1,TRUE, SVt_PV);
4986                 lex_op = (OP*)newUNOP(OP_READLINE, 0,
4987                                         newUNOP(OP_RV2GV, 0,
4988                                             newUNOP(OP_RV2SV, 0,
4989                                                 newGVOP(OP_GV, 0, gv))));
4990             }
4991             yylval.ival = OP_NULL;
4992         }
4993         else {
4994             GV *gv = gv_fetchpv(d,TRUE, SVt_PVIO);
4995             lex_op = (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
4996             yylval.ival = OP_NULL;
4997         }
4998     }
4999     return s;
5000 }
5001
5002 static char *
5003 scan_str(start)
5004 char *start;
5005 {
5006     dTHR;
5007     SV *sv;
5008     char *tmps;
5009     register char *s = start;
5010     register char term;
5011     register char *to;
5012     I32 brackets = 1;
5013
5014     if (isSPACE(*s))
5015         s = skipspace(s);
5016     CLINE;
5017     term = *s;
5018     multi_start = curcop->cop_line;
5019     multi_open = term;
5020     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
5021         term = tmps[5];
5022     multi_close = term;
5023
5024     sv = NEWSV(87,80);
5025     sv_upgrade(sv, SVt_PVIV);
5026     SvIVX(sv) = term;
5027     (void)SvPOK_only(sv);               /* validate pointer */
5028     s++;
5029     for (;;) {
5030         SvGROW(sv, SvCUR(sv) + (bufend - s) + 1);
5031         to = SvPVX(sv)+SvCUR(sv);
5032         if (multi_open == multi_close) {
5033             for (; s < bufend; s++,to++) {
5034                 if (*s == '\n' && !rsfp)
5035                     curcop->cop_line++;
5036                 if (*s == '\\' && s+1 < bufend && term != '\\') {
5037                     if (s[1] == term)
5038                         s++;
5039                     else
5040                         *to++ = *s++;
5041                 }
5042                 else if (*s == term)
5043                     break;
5044                 *to = *s;
5045             }
5046         }
5047         else {
5048             for (; s < bufend; s++,to++) {
5049                 if (*s == '\n' && !rsfp)
5050                     curcop->cop_line++;
5051                 if (*s == '\\' && s+1 < bufend) {
5052                     if ((s[1] == multi_open) || (s[1] == multi_close))
5053                         s++;
5054                     else
5055                         *to++ = *s++;
5056                 }
5057                 else if (*s == multi_close && --brackets <= 0)
5058                     break;
5059                 else if (*s == multi_open)
5060                     brackets++;
5061                 *to = *s;
5062             }
5063         }
5064         *to = '\0';
5065         SvCUR_set(sv, to - SvPVX(sv));
5066
5067     if (s < bufend) break;      /* string ends on this line? */
5068
5069         if (!rsfp ||
5070          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
5071             sv_free(sv);
5072             curcop->cop_line = multi_start;
5073             return Nullch;
5074         }
5075         curcop->cop_line++;
5076         if (PERLDB_LINE && curstash != debstash) {
5077             SV *sv = NEWSV(88,0);
5078
5079             sv_upgrade(sv, SVt_PVMG);
5080             sv_setsv(sv,linestr);
5081             av_store(GvAV(curcop->cop_filegv),
5082               (I32)curcop->cop_line, sv);
5083         }
5084         bufend = SvPVX(linestr) + SvCUR(linestr);
5085     }
5086     multi_end = curcop->cop_line;
5087     s++;
5088     if (SvCUR(sv) + 5 < SvLEN(sv)) {
5089         SvLEN_set(sv, SvCUR(sv) + 1);
5090         Renew(SvPVX(sv), SvLEN(sv), char);
5091     }
5092     if (lex_stuff)
5093         lex_repl = sv;
5094     else
5095         lex_stuff = sv;
5096     return s;
5097 }
5098
5099 char *
5100 scan_num(start)
5101 char *start;
5102 {
5103     register char *s = start;
5104     register char *d;
5105     register char *e;
5106     I32 tryiv;
5107     double value;
5108     SV *sv;
5109     I32 floatit;
5110     char *lastub = 0;
5111     static char number_too_long[] = "Number too long";
5112
5113     switch (*s) {
5114     default:
5115         croak("panic: scan_num");
5116     case '0':
5117         {
5118             UV u;
5119             I32 shift;
5120             bool overflowed = FALSE;
5121
5122             if (s[1] == 'x') {
5123                 shift = 4;
5124                 s += 2;
5125             }
5126             else if (s[1] == '.')
5127                 goto decimal;
5128             else
5129                 shift = 3;
5130             u = 0;
5131             for (;;) {
5132                 UV n, b;
5133
5134                 switch (*s) {
5135                 default:
5136                     goto out;
5137                 case '_':
5138                     s++;
5139                     break;
5140                 case '8': case '9':
5141                     if (shift != 4)
5142                         yyerror("Illegal octal digit");
5143                     /* FALL THROUGH */
5144                 case '0': case '1': case '2': case '3': case '4':
5145                 case '5': case '6': case '7':
5146                     b = *s++ & 15;
5147                     goto digit;
5148                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
5149                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
5150                     if (shift != 4)
5151                         goto out;
5152                     b = (*s++ & 7) + 9;
5153                   digit:
5154                     n = u << shift;
5155                     if (!overflowed && (n >> shift) != u) {
5156                         warn("Integer overflow in %s number",
5157                              (shift == 4) ? "hex" : "octal");
5158                         overflowed = TRUE;
5159                     }
5160                     u = n | b;
5161                     break;
5162                 }
5163             }
5164           out:
5165             sv = NEWSV(92,0);
5166             sv_setuv(sv, u);
5167         }
5168         break;
5169     case '1': case '2': case '3': case '4': case '5':
5170     case '6': case '7': case '8': case '9': case '.':
5171       decimal:
5172         d = tokenbuf;
5173         e = tokenbuf + sizeof tokenbuf - 6; /* room for various punctuation */
5174         floatit = FALSE;
5175         while (isDIGIT(*s) || *s == '_') {
5176             if (*s == '_') {
5177                 if (dowarn && lastub && s - lastub != 3)
5178                     warn("Misplaced _ in number");
5179                 lastub = ++s;
5180             }
5181             else {
5182                 if (d >= e)
5183                     croak(number_too_long);
5184                 *d++ = *s++;
5185             }
5186         }
5187         if (dowarn && lastub && s - lastub != 3)
5188             warn("Misplaced _ in number");
5189         if (*s == '.' && s[1] != '.') {
5190             floatit = TRUE;
5191             *d++ = *s++;
5192             for (; isDIGIT(*s) || *s == '_'; s++) {
5193                 if (d >= e)
5194                     croak(number_too_long);
5195                 if (*s != '_')
5196                     *d++ = *s;
5197             }
5198         }
5199         if (*s && strchr("eE",*s) && strchr("+-0123456789",s[1])) {
5200             floatit = TRUE;
5201             s++;
5202             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
5203             if (*s == '+' || *s == '-')
5204                 *d++ = *s++;
5205             while (isDIGIT(*s)) {
5206                 if (d >= e)
5207                     croak(number_too_long);
5208                 *d++ = *s++;
5209             }
5210         }
5211         *d = '\0';
5212         sv = NEWSV(92,0);
5213         SET_NUMERIC_STANDARD();
5214         value = atof(tokenbuf);
5215         tryiv = I_V(value);
5216         if (!floatit && (double)tryiv == value)
5217             sv_setiv(sv, tryiv);
5218         else
5219             sv_setnv(sv, value);
5220         break;
5221     }
5222
5223     yylval.opval = newSVOP(OP_CONST, 0, sv);
5224
5225     return s;
5226 }
5227
5228 static char *
5229 scan_formline(s)
5230 register char *s;
5231 {
5232     dTHR;
5233     register char *eol;
5234     register char *t;
5235     SV *stuff = newSVpv("",0);
5236     bool needargs = FALSE;
5237
5238     while (!needargs) {
5239         if (*s == '.' || *s == '}') {
5240             /*SUPPRESS 530*/
5241             for (t = s+1; *t == ' ' || *t == '\t'; t++) ;
5242             if (*t == '\n')
5243                 break;
5244         }
5245         if (in_eval && !rsfp) {
5246             eol = strchr(s,'\n');
5247             if (!eol++)
5248                 eol = bufend;
5249         }
5250         else
5251             eol = bufend = SvPVX(linestr) + SvCUR(linestr);
5252         if (*s != '#') {
5253             for (t = s; t < eol; t++) {
5254                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
5255                     needargs = FALSE;
5256                     goto enough;        /* ~~ must be first line in formline */
5257                 }
5258                 if (*t == '@' || *t == '^')
5259                     needargs = TRUE;
5260             }
5261             sv_catpvn(stuff, s, eol-s);
5262         }
5263         s = eol;
5264         if (rsfp) {
5265             s = filter_gets(linestr, rsfp, 0);
5266             oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
5267             bufend = bufptr + SvCUR(linestr);
5268             if (!s) {
5269                 s = bufptr;
5270                 yyerror("Format not terminated");
5271                 break;
5272             }
5273         }
5274         incline(s);
5275     }
5276   enough:
5277     if (SvCUR(stuff)) {
5278         expect = XTERM;
5279         if (needargs) {
5280             lex_state = LEX_NORMAL;
5281             nextval[nexttoke].ival = 0;
5282             force_next(',');
5283         }
5284         else
5285             lex_state = LEX_FORMLINE;
5286         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, stuff);
5287         force_next(THING);
5288         nextval[nexttoke].ival = OP_FORMLINE;
5289         force_next(LSTOP);
5290     }
5291     else {
5292         SvREFCNT_dec(stuff);
5293         lex_formbrack = 0;
5294         bufptr = s;
5295     }
5296     return s;
5297 }
5298
5299 static void
5300 set_csh()
5301 {
5302 #ifdef CSH
5303     if (!cshlen)
5304         cshlen = strlen(cshname);
5305 #endif
5306 }
5307
5308 I32
5309 start_subparse(is_format, flags)
5310 I32 is_format;
5311 U32 flags;
5312 {
5313     dTHR;
5314     I32 oldsavestack_ix = savestack_ix;
5315     CV* outsidecv = compcv;
5316     AV* comppadlist;
5317
5318     if (compcv) {
5319         assert(SvTYPE(compcv) == SVt_PVCV);
5320     }
5321     save_I32(&subline);
5322     save_item(subname);
5323     SAVEI32(padix);
5324     SAVESPTR(curpad);
5325     SAVESPTR(comppad);
5326     SAVESPTR(comppad_name);
5327     SAVESPTR(compcv);
5328     SAVEI32(comppad_name_fill);
5329     SAVEI32(min_intro_pending);
5330     SAVEI32(max_intro_pending);
5331     SAVEI32(pad_reset_pending);
5332
5333     compcv = (CV*)NEWSV(1104,0);
5334     sv_upgrade((SV *)compcv, is_format ? SVt_PVFM : SVt_PVCV);
5335     CvFLAGS(compcv) |= flags;
5336
5337     comppad = newAV();
5338     av_push(comppad, Nullsv);
5339     curpad = AvARRAY(comppad);
5340     comppad_name = newAV();
5341     comppad_name_fill = 0;
5342     min_intro_pending = 0;
5343     padix = 0;
5344     subline = curcop->cop_line;
5345 #ifdef USE_THREADS
5346     av_store(comppad_name, 0, newSVpv("@_", 2));
5347     curpad[0] = (SV*)newAV();
5348     SvPADMY_on(curpad[0]);      /* XXX Needed? */
5349     CvOWNER(compcv) = 0;
5350     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5351     MUTEX_INIT(CvMUTEXP(compcv));
5352 #endif /* USE_THREADS */
5353
5354     comppadlist = newAV();
5355     AvREAL_off(comppadlist);
5356     av_store(comppadlist, 0, (SV*)comppad_name);
5357     av_store(comppadlist, 1, (SV*)comppad);
5358
5359     CvPADLIST(compcv) = comppadlist;
5360     CvOUTSIDE(compcv) = (CV*)SvREFCNT_inc(outsidecv);
5361 #ifdef USE_THREADS
5362     CvOWNER(compcv) = 0;
5363     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5364     MUTEX_INIT(CvMUTEXP(compcv));
5365 #endif /* USE_THREADS */
5366
5367     return oldsavestack_ix;
5368 }
5369
5370 int
5371 yywarn(s)
5372 char *s;
5373 {
5374     dTHR;
5375     --error_count;
5376     in_eval |= 2;
5377     yyerror(s);
5378     in_eval &= ~2;
5379     return 0;
5380 }
5381
5382 int
5383 yyerror(s)
5384 char *s;
5385 {
5386     dTHR;
5387     char *where = NULL;
5388     char *context = NULL;
5389     int contlen = -1;
5390     SV *msg;
5391
5392     if (!yychar || (yychar == ';' && !rsfp))
5393         where = "at EOF";
5394     else if (bufptr > oldoldbufptr && bufptr - oldoldbufptr < 200 &&
5395       oldoldbufptr != oldbufptr && oldbufptr != bufptr) {
5396         while (isSPACE(*oldoldbufptr))
5397             oldoldbufptr++;
5398         context = oldoldbufptr;
5399         contlen = bufptr - oldoldbufptr;
5400     }
5401     else if (bufptr > oldbufptr && bufptr - oldbufptr < 200 &&
5402       oldbufptr != bufptr) {
5403         while (isSPACE(*oldbufptr))
5404             oldbufptr++;
5405         context = oldbufptr;
5406         contlen = bufptr - oldbufptr;
5407     }
5408     else if (yychar > 255)
5409         where = "next token ???";
5410     else if ((yychar & 127) == 127) {
5411         if (lex_state == LEX_NORMAL ||
5412            (lex_state == LEX_KNOWNEXT && lex_defer == LEX_NORMAL))
5413             where = "at end of line";
5414         else if (lex_inpat)
5415             where = "within pattern";
5416         else
5417             where = "within string";
5418     }
5419     else {
5420         SV *where_sv = sv_2mortal(newSVpv("next char ", 0));
5421         if (yychar < 32)
5422             sv_catpvf(where_sv, "^%c", toCTRL(yychar));
5423         else if (isPRINT_LC(yychar))
5424             sv_catpvf(where_sv, "%c", yychar);
5425         else
5426             sv_catpvf(where_sv, "\\%03o", yychar & 255);
5427         where = SvPVX(where_sv);
5428     }
5429     msg = sv_2mortal(newSVpv(s, 0));
5430     sv_catpvf(msg, " at %_ line %ld, ",
5431               GvSV(curcop->cop_filegv), (long)curcop->cop_line);
5432     if (context)
5433         sv_catpvf(msg, "near \"%.*s\"\n", contlen, context);
5434     else
5435         sv_catpvf(msg, "%s\n", where);
5436     if (multi_start < multi_end && (U32)(curcop->cop_line - multi_end) <= 1) {
5437         sv_catpvf(msg,
5438         "  (Might be a runaway multi-line %c%c string starting on line %ld)\n",
5439                 (int)multi_open,(int)multi_close,(long)multi_start);
5440         multi_end = 0;
5441     }
5442     if (in_eval & 2)
5443         warn("%_", msg);
5444     else if (in_eval)
5445         sv_catsv(errsv, msg);
5446     else
5447         PerlIO_write(PerlIO_stderr(), SvPVX(msg), SvCUR(msg));
5448     if (++error_count >= 10)
5449         croak("%_ has too many errors.\n", GvSV(curcop->cop_filegv));
5450     in_my = 0;
5451     in_my_stash = Nullhv;
5452     return 0;
5453 }