toke.c

   1 /*    toke.c
   2  *
   3  *    Copyright (c) 1991-1997, Larry Wall
   4  *
   5  *    You may distribute under the terms of either the GNU General Public
   6  *    License or the Artistic License, as specified in the README file.
   7  *
   8  */
   9
  10 /*
  11  *   "It all comes from here, the stench and the peril."  --Frodo
  12  */
  13
  14 #include "EXTERN.h"
  15 #include "perl.h"
  16
  17 static void check_uni _((void));
  18 static void  force_next _((I32 type));
  19 static char *force_version _((char *start));
  20 static char *force_word _((char *start, int token, int check_keyword, int allow_pack, int allow_tick));
  21 static SV *q _((SV *sv));
  22 static char *scan_const _((char *start));
  23 static char *scan_formline _((char *s));
  24 static char *scan_heredoc _((char *s));
  25 static char *scan_ident _((char *s, char *send, char *dest, STRLEN destlen,
  26                            I32 ck_uni));
  27 static char *scan_inputsymbol _((char *start));
  28 static char *scan_pat _((char *start));
  29 static char *scan_str _((char *start));
  30 static char *scan_subst _((char *start));
  31 static char *scan_trans _((char *start));
  32 static char *scan_word _((char *s, char *dest, STRLEN destlen,
  33                           int allow_package, STRLEN *slp));
  34 static char *skipspace _((char *s));
  35 static void checkcomma _((char *s, char *name, char *what));
  36 static void force_ident _((char *s, int kind));
  37 static void incline _((char *s));
  38 static int intuit_method _((char *s, GV *gv));
  39 static int intuit_more _((char *s));
  40 static I32 lop _((I32 f, expectation x, char *s));
  41 static void missingterm _((char *s));
  42 static void no_op _((char *what, char *s));
  43 static void set_csh _((void));
  44 static I32 sublex_done _((void));
  45 static I32 sublex_push _((void));
  46 static I32 sublex_start _((void));
  47 #ifdef CRIPPLED_CC
  48 static int uni _((I32 f, char *s));
  49 #endif
  50 static char * filter_gets _((SV *sv, PerlIO *fp, STRLEN append));
  51 static void restore_rsfp _((void *f));
  52 static void restore_expect _((void *e));
  53 static void restore_lex_expect _((void *e));
  54
  55 static char ident_too_long[] = "Identifier too long";
  56
  57 static char *linestart;         /* beg. of most recently read line */
  58
  59 static char pending_ident;      /* pending identifier lookup */
  60
  61 static struct {
  62     I32 super_state;    /* lexer state to save */
  63     I32 sub_inwhat;     /* "lex_inwhat" to use */
  64     OP *sub_op;         /* "lex_op" to use */
  65 } sublex_info;
  66
  67 /* The following are arranged oddly so that the guard on the switch statement
  68  * can get by with a single comparison (if the compiler is smart enough).
  69  */
  70
  71 /* #define LEX_NOTPARSING               11 is done in perl.h. */
  72
  73 #define LEX_NORMAL              10
  74 #define LEX_INTERPNORMAL         9
  75 #define LEX_INTERPCASEMOD        8
  76 #define LEX_INTERPPUSH           7
  77 #define LEX_INTERPSTART          6
  78 #define LEX_INTERPEND            5
  79 #define LEX_INTERPENDMAYBE       4
  80 #define LEX_INTERPCONCAT         3
  81 #define LEX_INTERPCONST          2
  82 #define LEX_FORMLINE             1
  83 #define LEX_KNOWNEXT             0
  84
  85 #ifdef I_FCNTL
  86 #include <fcntl.h>
  87 #endif
  88 #ifdef I_SYS_FILE
  89 #include <sys/file.h>
  90 #endif
  91
  92 /* XXX If this causes problems, set i_unistd=undef in the hint file.  */
  93 #ifdef I_UNISTD
  94 #  include <unistd.h> /* Needed for execv() */
  95 #endif
  96
  97
  98 #ifdef ff_next
  99 #undef ff_next
 100 #endif
 101
 102 #include "keywords.h"
 103
 104 #ifdef CLINE
 105 #undef CLINE
 106 #endif
 107 #define CLINE (copline = (curcop->cop_line < copline ? curcop->cop_line : copline))
 108
 109 #define TOKEN(retval) return (bufptr = s,(int)retval)
 110 #define OPERATOR(retval) return (expect = XTERM,bufptr = s,(int)retval)
 111 #define AOPERATOR(retval) return ao((expect = XTERM,bufptr = s,(int)retval))
 112 #define PREBLOCK(retval) return (expect = XBLOCK,bufptr = s,(int)retval)
 113 #define PRETERMBLOCK(retval) return (expect = XTERMBLOCK,bufptr = s,(int)retval)
 114 #define PREREF(retval) return (expect = XREF,bufptr = s,(int)retval)
 115 #define TERM(retval) return (CLINE, expect = XOPERATOR,bufptr = s,(int)retval)
 116 #define LOOPX(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LOOPEX)
 117 #define FTST(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)UNIOP)
 118 #define FUN0(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC0)
 119 #define FUN1(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC1)
 120 #define BOop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITOROP))
 121 #define BAop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITANDOP))
 122 #define SHop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)SHIFTOP))
 123 #define PWop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)POWOP))
 124 #define PMop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)MATCHOP)
 125 #define Aop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)ADDOP))
 126 #define Mop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)MULOP))
 127 #define Eop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)EQOP)
 128 #define Rop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)RELOP)
 129
 130 /* This bit of chicanery makes a unary function followed by
 131  * a parenthesis into a function with one argument, highest precedence.
 132  */
 133 #define UNI(f) return(yylval.ival = f, \
 134         expect = XTERM, \
 135         bufptr = s, \
 136         last_uni = oldbufptr, \
 137         last_lop_op = f, \
 138         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 139
 140 #define UNIBRACK(f) return(yylval.ival = f, \
 141         bufptr = s, \
 142         last_uni = oldbufptr, \
 143         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 144
 145 /* grandfather return to old style */
 146 #define OLDLOP(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LSTOP)
 147
 148 static int
 149 ao(int toketype)
 150 {
 151     if (*bufptr == '=') {
 152         bufptr++;
 153         if (toketype == ANDAND)
 154             yylval.ival = OP_ANDASSIGN;
 155         else if (toketype == OROR)
 156             yylval.ival = OP_ORASSIGN;
 157         toketype = ASSIGNOP;
 158     }
 159     return toketype;
 160 }
 161
 162 static void
 163 no_op(char *what, char *s)
 164 {
 165     char *oldbp = bufptr;
 166     bool is_first = (oldbufptr == linestart);
 167
 168     bufptr = s;
 169     yywarn(form("%s found where operator expected", what));
 170     if (is_first)
 171         warn("\t(Missing semicolon on previous line?)\n");
 172     else if (oldoldbufptr && isIDFIRST(*oldoldbufptr)) {
 173         char *t;
 174         for (t = oldoldbufptr; *t && (isALNUM(*t) || *t == ':'); t++) ;
 175         if (t < bufptr && isSPACE(*t))
 176             warn("\t(Do you need to predeclare %.*s?)\n",
 177                 t - oldoldbufptr, oldoldbufptr);
 178
 179     }
 180     else
 181         warn("\t(Missing operator before %.*s?)\n", s - oldbp, oldbp);
 182     bufptr = oldbp;
 183 }
 184
 185 static void
 186 missingterm(char *s)
 187 {
 188     char tmpbuf[3];
 189     char q;
 190     if (s) {
 191         char *nl = strrchr(s,'\n');
 192         if (nl)
 193             *nl = '\0';
 194     }
 195     else if (multi_close < 32 || multi_close == 127) {
 196         *tmpbuf = '^';
 197         tmpbuf[1] = toCTRL(multi_close);
 198         s = "\\n";
 199         tmpbuf[2] = '\0';
 200         s = tmpbuf;
 201     }
 202     else {
 203         *tmpbuf = multi_close;
 204         tmpbuf[1] = '\0';
 205         s = tmpbuf;
 206     }
 207     q = strchr(s,'"') ? '\'' : '"';
 208     croak("Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
 209 }
 210
 211 void
 212 deprecate(char *s)
 213 {
 214     if (dowarn)
 215         warn("Use of %s is deprecated", s);
 216 }
 217
 218 static void
 219 depcom(void)
 220 {
 221     deprecate("comma-less variable list");
 222 }
 223
 224 #ifdef WIN32
 225
 226 static I32
 227 win32_textfilter(int idx, SV *sv, int maxlen)
 228 {
 229  I32 count = FILTER_READ(idx+1, sv, maxlen);
 230  if (count > 0 && !maxlen)
 231   win32_strip_return(sv);
 232  return count;
 233 }
 234 #endif
 235
 236
 237 void
 238 lex_start(SV *line)
 239 {
 240     dTHR;
 241     char *s;
 242     STRLEN len;
 243
 244     SAVEI32(lex_dojoin);
 245     SAVEI32(lex_brackets);
 246     SAVEI32(lex_fakebrack);
 247     SAVEI32(lex_casemods);
 248     SAVEI32(lex_starts);
 249     SAVEI32(lex_state);
 250     SAVESPTR(lex_inpat);
 251     SAVEI32(lex_inwhat);
 252     SAVEI16(curcop->cop_line);
 253     SAVEPPTR(bufptr);
 254     SAVEPPTR(bufend);
 255     SAVEPPTR(oldbufptr);
 256     SAVEPPTR(oldoldbufptr);
 257     SAVEPPTR(linestart);
 258     SAVESPTR(linestr);
 259     SAVEPPTR(lex_brackstack);
 260     SAVEPPTR(lex_casestack);
 261     SAVEDESTRUCTOR(restore_rsfp, rsfp);
 262     SAVESPTR(lex_stuff);
 263     SAVEI32(lex_defer);
 264     SAVESPTR(lex_repl);
 265     SAVEDESTRUCTOR(restore_expect, tokenbuf + expect); /* encode as pointer */
 266     SAVEDESTRUCTOR(restore_lex_expect, tokenbuf + expect);
 267
 268     lex_state = LEX_NORMAL;
 269     lex_defer = 0;
 270     expect = XSTATE;
 271     lex_brackets = 0;
 272     lex_fakebrack = 0;
 273     New(899, lex_brackstack, 120, char);
 274     New(899, lex_casestack, 12, char);
 275     SAVEFREEPV(lex_brackstack);
 276     SAVEFREEPV(lex_casestack);
 277     lex_casemods = 0;
 278     *lex_casestack = '\0';
 279     lex_dojoin = 0;
 280     lex_starts = 0;
 281     lex_stuff = Nullsv;
 282     lex_repl = Nullsv;
 283     lex_inpat = 0;
 284     lex_inwhat = 0;
 285     linestr = line;
 286     if (SvREADONLY(linestr))
 287         linestr = sv_2mortal(newSVsv(linestr));
 288     s = SvPV(linestr, len);
 289     if (len && s[len-1] != ';') {
 290         if (!(SvFLAGS(linestr) & SVs_TEMP))
 291             linestr = sv_2mortal(newSVsv(linestr));
 292         sv_catpvn(linestr, "\n;", 2);
 293     }
 294     SvTEMP_off(linestr);
 295     oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
 296     bufend = bufptr + SvCUR(linestr);
 297     SvREFCNT_dec(rs);
 298     rs = newSVpv("\n", 1);
 299     rsfp = 0;
 300 }
 301
 302 void
 303 lex_end(void)
 304 {
 305     doextract = FALSE;
 306 }
 307
 308 static void
 309 restore_rsfp(void *f)
 310 {
 311     PerlIO *fp = (PerlIO*)f;
 312
 313     if (rsfp == PerlIO_stdin())
 314         PerlIO_clearerr(rsfp);
 315     else if (rsfp && (rsfp != fp))
 316         PerlIO_close(rsfp);
 317     rsfp = fp;
 318 }
 319
 320 static void
 321 restore_expect(e)
 322 void *e;
 323 {
 324     /* a safe way to store a small integer in a pointer */
 325     expect = (expectation)((char *)e - tokenbuf);
 326 }
 327
 328 static void
 329 restore_lex_expect(e)
 330 void *e;
 331 {
 332     /* a safe way to store a small integer in a pointer */
 333     lex_expect = (expectation)((char *)e - tokenbuf);
 334 }
 335
 336 static void
 337 incline(char *s)
 338 {
 339     dTHR;
 340     char *t;
 341     char *n;
 342     char ch;
 343     int sawline = 0;
 344
 345     curcop->cop_line++;
 346     if (*s++ != '#')
 347         return;
 348     while (*s == ' ' || *s == '\t') s++;
 349     if (strnEQ(s, "line ", 5)) {
 350         s += 5;
 351         sawline = 1;
 352     }
 353     if (!isDIGIT(*s))
 354         return;
 355     n = s;
 356     while (isDIGIT(*s))
 357         s++;
 358     while (*s == ' ' || *s == '\t')
 359         s++;
 360     if (*s == '"' && (t = strchr(s+1, '"')))
 361         s++;
 362     else {
 363         if (!sawline)
 364             return;             /* false alarm */
 365         for (t = s; !isSPACE(*t); t++) ;
 366     }
 367     ch = *t;
 368     *t = '\0';
 369     if (t - s > 0)
 370         curcop->cop_filegv = gv_fetchfile(s);
 371     else
 372         curcop->cop_filegv = gv_fetchfile(origfilename);
 373     *t = ch;
 374     curcop->cop_line = atoi(n)-1;
 375 }
 376
 377 static char *
 378 skipspace(register char *s)
 379 {
 380     dTHR;
 381     if (lex_formbrack && lex_brackets <= lex_formbrack) {
 382         while (s < bufend && (*s == ' ' || *s == '\t'))
 383             s++;
 384         return s;
 385     }
 386     for (;;) {
 387         STRLEN prevlen;
 388         while (s < bufend && isSPACE(*s))
 389             s++;
 390         if (s < bufend && *s == '#') {
 391             while (s < bufend && *s != '\n')
 392                 s++;
 393             if (s < bufend)
 394                 s++;
 395         }
 396         if (s < bufend || !rsfp || lex_state != LEX_NORMAL)
 397             return s;
 398         if ((s = filter_gets(linestr, rsfp, (prevlen = SvCUR(linestr)))) == Nullch) {
 399             if (minus_n || minus_p) {
 400                 sv_setpv(linestr,minus_p ?
 401                          ";}continue{print or die qq(-p destination: $!\\n)" :
 402                          "");
 403                 sv_catpv(linestr,";}");
 404                 minus_n = minus_p = 0;
 405             }
 406             else
 407                 sv_setpv(linestr,";");
 408             oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
 409             bufend = SvPVX(linestr) + SvCUR(linestr);
 410             if (preprocess && !in_eval)
 411                 (void)PerlProc_pclose(rsfp);
 412             else if ((PerlIO*)rsfp == PerlIO_stdin())
 413                 PerlIO_clearerr(rsfp);
 414             else
 415                 (void)PerlIO_close(rsfp);
 416             if (e_fp == rsfp)
 417                 e_fp = Nullfp;
 418             rsfp = Nullfp;
 419             return s;
 420         }
 421         linestart = bufptr = s + prevlen;
 422         bufend = s + SvCUR(linestr);
 423         s = bufptr;
 424         incline(s);
 425         if (PERLDB_LINE && curstash != debstash) {
 426             SV *sv = NEWSV(85,0);
 427
 428             sv_upgrade(sv, SVt_PVMG);
 429             sv_setpvn(sv,bufptr,bufend-bufptr);
 430             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
 431         }
 432     }
 433 }
 434
 435 static void
 436 check_uni(void) {
 437     char *s;
 438     char ch;
 439     char *t;
 440
 441     if (oldoldbufptr != last_uni)
 442         return;
 443     while (isSPACE(*last_uni))
 444         last_uni++;
 445     for (s = last_uni; isALNUM(*s) || *s == '-'; s++) ;
 446     if ((t = strchr(s, '(')) && t < bufptr)
 447         return;
 448     ch = *s;
 449     *s = '\0';
 450     warn("Warning: Use of \"%s\" without parens is ambiguous", last_uni);
 451     *s = ch;
 452 }
 453
 454 #ifdef CRIPPLED_CC
 455
 456 #undef UNI
 457 #define UNI(f) return uni(f,s)
 458
 459 static int
 460 uni(I32 f, char *s)
 461 {
 462     yylval.ival = f;
 463     expect = XTERM;
 464     bufptr = s;
 465     last_uni = oldbufptr;
 466     last_lop_op = f;
 467     if (*s == '(')
 468         return FUNC1;
 469     s = skipspace(s);
 470     if (*s == '(')
 471         return FUNC1;
 472     else
 473         return UNIOP;
 474 }
 475
 476 #endif /* CRIPPLED_CC */
 477
 478 #define LOP(f,x) return lop(f,x,s)
 479
 480 static I32
 481 lop
 482 #ifdef CAN_PROTOTYPE
 483    (I32 f, expectation x, char *s)
 484 #else
 485    (f,x,s)
 486 I32 f;
 487 expectation x;
 488 char *s;
 489 #endif /* CAN_PROTOTYPE */
 490 {
 491     dTHR;
 492     yylval.ival = f;
 493     CLINE;
 494     expect = x;
 495     bufptr = s;
 496     last_lop = oldbufptr;
 497     last_lop_op = f;
 498     if (nexttoke)
 499         return LSTOP;
 500     if (*s == '(')
 501         return FUNC;
 502     s = skipspace(s);
 503     if (*s == '(')
 504         return FUNC;
 505     else
 506         return LSTOP;
 507 }
 508
 509 static void
 510 force_next(I32 type)
 511 {
 512     nexttype[nexttoke] = type;
 513     nexttoke++;
 514     if (lex_state != LEX_KNOWNEXT) {
 515         lex_defer = lex_state;
 516         lex_expect = expect;
 517         lex_state = LEX_KNOWNEXT;
 518     }
 519 }
 520
 521 static char *
 522 force_word(register char *start, int token, int check_keyword, int allow_pack, int allow_initial_tick)
 523 {
 524     register char *s;
 525     STRLEN len;
 526
 527     start = skipspace(start);
 528     s = start;
 529     if (isIDFIRST(*s) ||
 530         (allow_pack && *s == ':') ||
 531         (allow_initial_tick && *s == '\'') )
 532     {
 533         s = scan_word(s, tokenbuf, sizeof tokenbuf, allow_pack, &len);
 534         if (check_keyword && keyword(tokenbuf, len))
 535             return start;
 536         if (token == METHOD) {
 537             s = skipspace(s);
 538             if (*s == '(')
 539                 expect = XTERM;
 540             else {
 541                 expect = XOPERATOR;
 542                 force_next(')');
 543                 force_next('(');
 544             }
 545         }
 546         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST,0, newSVpv(tokenbuf,0));
 547         nextval[nexttoke].opval->op_private |= OPpCONST_BARE;
 548         force_next(token);
 549     }
 550     return s;
 551 }
 552
 553 static void
 554 force_ident(register char *s, int kind)
 555 {
 556     if (s && *s) {
 557         OP* o = (OP*)newSVOP(OP_CONST, 0, newSVpv(s,0));
 558         nextval[nexttoke].opval = o;
 559         force_next(WORD);
 560         if (kind) {
 561             dTHR;               /* just for in_eval */
 562             o->op_private = OPpCONST_ENTERED;
 563             /* XXX see note in pp_entereval() for why we forgo typo
 564                warnings if the symbol must be introduced in an eval.
 565                GSAR 96-10-12 */
 566             gv_fetchpv(s, in_eval ? GV_ADDMULTI : TRUE,
 567                 kind == '$' ? SVt_PV :
 568                 kind == '@' ? SVt_PVAV :
 569                 kind == '%' ? SVt_PVHV :
 570                               SVt_PVGV
 571                 );
 572         }
 573     }
 574 }
 575
 576 static char *
 577 force_version(char *s)
 578 {
 579     OP *version = Nullop;
 580
 581     s = skipspace(s);
 582
 583     /* default VERSION number -- GBARR */
 584
 585     if(isDIGIT(*s)) {
 586         char *d;
 587         int c;
 588         for( d=s, c = 1; isDIGIT(*d) || *d == '_' || (*d == '.' && c--); d++);
 589         if((*d == ';' || isSPACE(*d)) && *(skipspace(d)) != ',') {
 590             s = scan_num(s);
 591             /* real VERSION number -- GBARR */
 592             version = yylval.opval;
 593         }
 594     }
 595
 596     /* NOTE: The parser sees the package name and the VERSION swapped */
 597     nextval[nexttoke].opval = version;
 598     force_next(WORD);
 599
 600     return (s);
 601 }
 602
 603 static SV *
 604 q(SV *sv)
 605 {
 606     register char *s;
 607     register char *send;
 608     register char *d;
 609     STRLEN len;
 610
 611     if (!SvLEN(sv))
 612         return sv;
 613
 614     s = SvPV_force(sv, len);
 615     if (SvIVX(sv) == -1)
 616         return sv;
 617     send = s + len;
 618     while (s < send && *s != '\\')
 619         s++;
 620     if (s == send)
 621         return sv;
 622     d = s;
 623     while (s < send) {
 624         if (*s == '\\') {
 625             if (s + 1 < send && (s[1] == '\\'))
 626                 s++;            /* all that, just for this */
 627         }
 628         *d++ = *s++;
 629     }
 630     *d = '\0';
 631     SvCUR_set(sv, d - SvPVX(sv));
 632
 633     return sv;
 634 }
 635
 636 static I32
 637 sublex_start(void)
 638 {
 639     register I32 op_type = yylval.ival;
 640
 641     if (op_type == OP_NULL) {
 642         yylval.opval = lex_op;
 643         lex_op = Nullop;
 644         return THING;
 645     }
 646     if (op_type == OP_CONST || op_type == OP_READLINE) {
 647         SV *sv = q(lex_stuff);
 648         STRLEN len;
 649         char *p = SvPV(sv, len);
 650         yylval.opval = (OP*)newSVOP(op_type, 0, newSVpv(p, len));
 651         SvREFCNT_dec(sv);
 652         lex_stuff = Nullsv;
 653         return THING;
 654     }
 655
 656     sublex_info.super_state = lex_state;
 657     sublex_info.sub_inwhat = op_type;
 658     sublex_info.sub_op = lex_op;
 659     lex_state = LEX_INTERPPUSH;
 660
 661     expect = XTERM;
 662     if (lex_op) {
 663         yylval.opval = lex_op;
 664         lex_op = Nullop;
 665         return PMFUNC;
 666     }
 667     else
 668         return FUNC;
 669 }
 670
 671 static I32
 672 sublex_push(void)
 673 {
 674     dTHR;
 675     push_scope();
 676
 677     lex_state = sublex_info.super_state;
 678     SAVEI32(lex_dojoin);
 679     SAVEI32(lex_brackets);
 680     SAVEI32(lex_fakebrack);
 681     SAVEI32(lex_casemods);
 682     SAVEI32(lex_starts);
 683     SAVEI32(lex_state);
 684     SAVESPTR(lex_inpat);
 685     SAVEI32(lex_inwhat);
 686     SAVEI16(curcop->cop_line);
 687     SAVEPPTR(bufptr);
 688     SAVEPPTR(oldbufptr);
 689     SAVEPPTR(oldoldbufptr);
 690     SAVEPPTR(linestart);
 691     SAVESPTR(linestr);
 692     SAVEPPTR(lex_brackstack);
 693     SAVEPPTR(lex_casestack);
 694
 695     linestr = lex_stuff;
 696     lex_stuff = Nullsv;
 697
 698     bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 699     bufend += SvCUR(linestr);
 700     SAVEFREESV(linestr);
 701
 702     lex_dojoin = FALSE;
 703     lex_brackets = 0;
 704     lex_fakebrack = 0;
 705     New(899, lex_brackstack, 120, char);
 706     New(899, lex_casestack, 12, char);
 707     SAVEFREEPV(lex_brackstack);
 708     SAVEFREEPV(lex_casestack);
 709     lex_casemods = 0;
 710     *lex_casestack = '\0';
 711     lex_starts = 0;
 712     lex_state = LEX_INTERPCONCAT;
 713     curcop->cop_line = multi_start;
 714
 715     lex_inwhat = sublex_info.sub_inwhat;
 716     if (lex_inwhat == OP_MATCH || lex_inwhat == OP_SUBST)
 717         lex_inpat = sublex_info.sub_op;
 718     else
 719         lex_inpat = Nullop;
 720
 721     return '(';
 722 }
 723
 724 static I32
 725 sublex_done(void)
 726 {
 727     if (!lex_starts++) {
 728         expect = XOPERATOR;
 729         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv("",0));
 730         return THING;
 731     }
 732
 733     if (lex_casemods) {         /* oops, we've got some unbalanced parens */
 734         lex_state = LEX_INTERPCASEMOD;
 735         return yylex();
 736     }
 737
 738     /* Is there a right-hand side to take care of? */
 739     if (lex_repl && (lex_inwhat == OP_SUBST || lex_inwhat == OP_TRANS)) {
 740         linestr = lex_repl;
 741         lex_inpat = 0;
 742         bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 743         bufend += SvCUR(linestr);
 744         SAVEFREESV(linestr);
 745         lex_dojoin = FALSE;
 746         lex_brackets = 0;
 747         lex_fakebrack = 0;
 748         lex_casemods = 0;
 749         *lex_casestack = '\0';
 750         lex_starts = 0;
 751         if (SvCOMPILED(lex_repl)) {
 752             lex_state = LEX_INTERPNORMAL;
 753             lex_starts++;
 754         }
 755         else
 756             lex_state = LEX_INTERPCONCAT;
 757         lex_repl = Nullsv;
 758         return ',';
 759     }
 760     else {
 761         pop_scope();
 762         bufend = SvPVX(linestr);
 763         bufend += SvCUR(linestr);
 764         expect = XOPERATOR;
 765         return ')';
 766     }
 767 }
 768
 769 static char *
 770 scan_const(char *start)
 771 {
 772     register char *send = bufend;
 773     SV *sv = NEWSV(93, send - start);
 774     register char *s = start;
 775     register char *d = SvPVX(sv);
 776     bool dorange = FALSE;
 777     I32 len;
 778     char *leaveit =
 779         lex_inpat
 780             ? "\\.^$@AGZdDwWsSbB+*?|()-nrtfeaxc0123456789[{]} \t\n\r\f\v#"
 781             : (lex_inwhat & OP_TRANS)
 782                 ? ""
 783                 : "";
 784
 785     while (s < send || dorange) {
 786         if (lex_inwhat == OP_TRANS) {
 787             if (dorange) {
 788                 I32 i;
 789                 I32 max;
 790                 i = d - SvPVX(sv);
 791                 SvGROW(sv, SvLEN(sv) + 256);
 792                 d = SvPVX(sv) + i;
 793                 d -= 2;
 794                 max = (U8)d[1];
 795                 for (i = (U8)*d; i <= max; i++)
 796                     *d++ = i;
 797                 dorange = FALSE;
 798                 continue;
 799             }
 800             else if (*s == '-' && s+1 < send  && s != start) {
 801                 dorange = TRUE;
 802                 s++;
 803             }
 804         }
 805         else if (*s == '(' && lex_inpat && s[1] == '?' && s[2] == '#') {
 806             while (s < send && *s != ')')
 807                 *d++ = *s++;
 808         }
 809         else if (*s == '#' && lex_inpat &&
 810           ((PMOP*)lex_inpat)->op_pmflags & PMf_EXTENDED) {
 811             while (s+1 < send && *s != '\n')
 812                 *d++ = *s++;
 813         }
 814         else if (*s == '@' && s[1] && (isALNUM(s[1]) || strchr(":'{$", s[1])))
 815             break;
 816         else if (*s == '$') {
 817             if (!lex_inpat)     /* not a regexp, so $ must be var */
 818                 break;
 819             if (s + 1 < send && !strchr("()| \n\t", s[1]))
 820                 break;          /* in regexp, $ might be tail anchor */
 821         }
 822         if (*s == '\\' && s+1 < send) {
 823             s++;
 824             if (*s && strchr(leaveit, *s)) {
 825                 *d++ = '\\';
 826                 *d++ = *s++;
 827                 continue;
 828             }
 829             if (lex_inwhat == OP_SUBST && !lex_inpat &&
 830                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
 831             {
 832                 if (dowarn)
 833                     warn("\\%c better written as $%c", *s, *s);
 834                 *--s = '$';
 835                 break;
 836             }
 837             if (lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
 838                 --s;
 839                 break;
 840             }
 841             switch (*s) {
 842             case '-':
 843                 if (lex_inwhat == OP_TRANS) {
 844                     *d++ = *s++;
 845                     continue;
 846                 }
 847                 /* FALL THROUGH */
 848             default:
 849                 *d++ = *s++;
 850                 continue;
 851             case '0': case '1': case '2': case '3':
 852             case '4': case '5': case '6': case '7':
 853                 *d++ = scan_oct(s, 3, &len);
 854                 s += len;
 855                 continue;
 856             case 'x':
 857                 *d++ = scan_hex(++s, 2, &len);
 858                 s += len;
 859                 continue;
 860             case 'c':
 861                 s++;
 862                 len = *s++;
 863                 *d++ = toCTRL(len);
 864                 continue;
 865             case 'b':
 866                 *d++ = '\b';
 867                 break;
 868             case 'n':
 869                 *d++ = '\n';
 870                 break;
 871             case 'r':
 872                 *d++ = '\r';
 873                 break;
 874             case 'f':
 875                 *d++ = '\f';
 876                 break;
 877             case 't':
 878                 *d++ = '\t';
 879                 break;
 880             case 'e':
 881                 *d++ = '\033';
 882                 break;
 883             case 'a':
 884                 *d++ = '\007';
 885                 break;
 886             }
 887             s++;
 888             continue;
 889         }
 890         *d++ = *s++;
 891     }
 892     *d = '\0';
 893     SvCUR_set(sv, d - SvPVX(sv));
 894     SvPOK_on(sv);
 895
 896     if (SvCUR(sv) + 5 < SvLEN(sv)) {
 897         SvLEN_set(sv, SvCUR(sv) + 1);
 898         Renew(SvPVX(sv), SvLEN(sv), char);
 899     }
 900     if (s > bufptr)
 901         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
 902     else
 903         SvREFCNT_dec(sv);
 904     return s;
 905 }
 906
 907 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
 908 static int
 909 intuit_more(register char *s)
 910 {
 911     if (lex_brackets)
 912         return TRUE;
 913     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
 914         return TRUE;
 915     if (*s != '{' && *s != '[')
 916         return FALSE;
 917     if (!lex_inpat)
 918         return TRUE;
 919
 920     /* In a pattern, so maybe we have {n,m}. */
 921     if (*s == '{') {
 922         s++;
 923         if (!isDIGIT(*s))
 924             return TRUE;
 925         while (isDIGIT(*s))
 926             s++;
 927         if (*s == ',')
 928             s++;
 929         while (isDIGIT(*s))
 930             s++;
 931         if (*s == '}')
 932             return FALSE;
 933         return TRUE;
 934
 935     }
 936
 937     /* On the other hand, maybe we have a character class */
 938
 939     s++;
 940     if (*s == ']' || *s == '^')
 941         return FALSE;
 942     else {
 943         int weight = 2;         /* let's weigh the evidence */
 944         char seen[256];
 945         unsigned char un_char = 0, last_un_char;
 946         char *send = strchr(s,']');
 947         char tmpbuf[sizeof tokenbuf * 4];
 948
 949         if (!send)              /* has to be an expression */
 950             return TRUE;
 951
 952         Zero(seen,256,char);
 953         if (*s == '$')
 954             weight -= 3;
 955         else if (isDIGIT(*s)) {
 956             if (s[1] != ']') {
 957                 if (isDIGIT(s[1]) && s[2] == ']')
 958                     weight -= 10;
 959             }
 960             else
 961                 weight -= 100;
 962         }
 963         for (; s < send; s++) {
 964             last_un_char = un_char;
 965             un_char = (unsigned char)*s;
 966             switch (*s) {
 967             case '@':
 968             case '&':
 969             case '$':
 970                 weight -= seen[un_char] * 10;
 971                 if (isALNUM(s[1])) {
 972                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
 973                     if ((int)strlen(tmpbuf) > 1 && gv_fetchpv(tmpbuf,FALSE, SVt_PV))
 974                         weight -= 100;
 975                     else
 976                         weight -= 10;
 977                 }
 978                 else if (*s == '$' && s[1] &&
 979                   strchr("[#!%*<>()-=",s[1])) {
 980                     if (/*{*/ strchr("])} =",s[2]))
 981                         weight -= 10;
 982                     else
 983                         weight -= 1;
 984                 }
 985                 break;
 986             case '\\':
 987                 un_char = 254;
 988                 if (s[1]) {
 989                     if (strchr("wds]",s[1]))
 990                         weight += 100;
 991                     else if (seen['\''] || seen['"'])
 992                         weight += 1;
 993                     else if (strchr("rnftbxcav",s[1]))
 994                         weight += 40;
 995                     else if (isDIGIT(s[1])) {
 996                         weight += 40;
 997                         while (s[1] && isDIGIT(s[1]))
 998                             s++;
 999                     }
1000                 }
1001                 else
1002                     weight += 100;
1003                 break;
1004             case '-':
1005                 if (s[1] == '\\')
1006                     weight += 50;
1007                 if (strchr("aA01! ",last_un_char))
1008                     weight += 30;
1009                 if (strchr("zZ79~",s[1]))
1010                     weight += 30;
1011                 break;
1012             default:
1013                 if (!isALNUM(last_un_char) && !strchr("$@&",last_un_char) &&
1014                         isALPHA(*s) && s[1] && isALPHA(s[1])) {
1015                     char *d = tmpbuf;
1016                     while (isALPHA(*s))
1017                         *d++ = *s++;
1018                     *d = '\0';
1019                     if (keyword(tmpbuf, d - tmpbuf))
1020                         weight -= 150;
1021                 }
1022                 if (un_char == last_un_char + 1)
1023                     weight += 5;
1024                 weight -= seen[un_char];
1025                 break;
1026             }
1027             seen[un_char]++;
1028         }
1029         if (weight >= 0)        /* probably a character class */
1030             return FALSE;
1031     }
1032
1033     return TRUE;
1034 }
1035
1036 static int
1037 intuit_method(char *start, GV *gv)
1038 {
1039     char *s = start + (*start == '$');
1040     char tmpbuf[sizeof tokenbuf];
1041     STRLEN len;
1042     GV* indirgv;
1043
1044     if (gv) {
1045         if (GvIO(gv))
1046             return 0;
1047         if (!GvCVu(gv))
1048             gv = 0;
1049     }
1050     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
1051     if (*start == '$') {
1052         if (gv || last_lop_op == OP_PRINT || isUPPER(*tokenbuf))
1053             return 0;
1054         s = skipspace(s);
1055         bufptr = start;
1056         expect = XREF;
1057         return *s == '(' ? FUNCMETH : METHOD;
1058     }
1059     if (!keyword(tmpbuf, len)) {
1060         indirgv = gv_fetchpv(tmpbuf,FALSE, SVt_PVCV);
1061         if (indirgv && GvCVu(indirgv))
1062             return 0;
1063         /* filehandle or package name makes it a method */
1064         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
1065             s = skipspace(s);
1066             if ((bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
1067                 return 0;       /* no assumptions -- "=>" quotes bearword */
1068             nextval[nexttoke].opval =
1069                 (OP*)newSVOP(OP_CONST, 0,
1070                             newSVpv(tmpbuf,0));
1071             nextval[nexttoke].opval->op_private =
1072                 OPpCONST_BARE;
1073             expect = XTERM;
1074             force_next(WORD);
1075             bufptr = s;
1076             return *s == '(' ? FUNCMETH : METHOD;
1077         }
1078     }
1079     return 0;
1080 }
1081
1082 static char*
1083 incl_perldb(void)
1084 {
1085     if (perldb) {
1086         char *pdb = PerlEnv_getenv("PERL5DB");
1087
1088         if (pdb)
1089             return pdb;
1090         SETERRNO(0,SS$_NORMAL);
1091         return "BEGIN { require 'perl5db.pl' }";
1092     }
1093     return "";
1094 }
1095
1096
1097 /* Encoded script support. filter_add() effectively inserts a
1098  * 'pre-processing' function into the current source input stream.
1099  * Note that the filter function only applies to the current source file
1100  * (e.g., it will not affect files 'require'd or 'use'd by this one).
1101  *
1102  * The datasv parameter (which may be NULL) can be used to pass
1103  * private data to this instance of the filter. The filter function
1104  * can recover the SV using the FILTER_DATA macro and use it to
1105  * store private buffers and state information.
1106  *
1107  * The supplied datasv parameter is upgraded to a PVIO type
1108  * and the IoDIRP field is used to store the function pointer.
1109  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
1110  * private use must be set using malloc'd pointers.
1111  */
1112 static int filter_debug = 0;
1113
1114 SV *
1115 filter_add(filter_t funcp, SV *datasv)
1116 {
1117     if (!funcp){ /* temporary handy debugging hack to be deleted */
1118         filter_debug = atoi((char*)datasv);
1119         return NULL;
1120     }
1121     if (!rsfp_filters)
1122         rsfp_filters = newAV();
1123     if (!datasv)
1124         datasv = newSV(0);
1125     if (!SvUPGRADE(datasv, SVt_PVIO))
1126         die("Can't upgrade filter_add data to SVt_PVIO");
1127     IoDIRP(datasv) = (DIR*)funcp; /* stash funcp into spare field */
1128     if (filter_debug)
1129         warn("filter_add func %p (%s)", funcp, SvPV(datasv,na));
1130     av_unshift(rsfp_filters, 1);
1131     av_store(rsfp_filters, 0, datasv) ;
1132     return(datasv);
1133 }
1134
1135
1136 /* Delete most recently added instance of this filter function. */
1137 void
1138 filter_del(filter_t funcp)
1139 {
1140     if (filter_debug)
1141         warn("filter_del func %p", funcp);
1142     if (!rsfp_filters || AvFILLp(rsfp_filters)<0)
1143         return;
1144     /* if filter is on top of stack (usual case) just pop it off */
1145     if (IoDIRP(FILTER_DATA(AvFILLp(rsfp_filters))) == (void*)funcp){
1146         sv_free(av_pop(rsfp_filters));
1147
1148         return;
1149     }
1150     /* we need to search for the correct entry and clear it     */
1151     die("filter_del can only delete in reverse order (currently)");
1152 }
1153
1154
1155 /* Invoke the n'th filter function for the current rsfp.         */
1156 I32
1157 filter_read(int idx, SV *buf_sv, int maxlen)
1158
1159
1160                         /* 0 = read one text line */
1161 {
1162     filter_t funcp;
1163     SV *datasv = NULL;
1164
1165     if (!rsfp_filters)
1166         return -1;
1167     if (idx > AvFILLp(rsfp_filters)){       /* Any more filters?        */
1168         /* Provide a default input filter to make life easy.    */
1169         /* Note that we append to the line. This is handy.      */
1170         if (filter_debug)
1171             warn("filter_read %d: from rsfp\n", idx);
1172         if (maxlen) {
1173             /* Want a block */
1174             int len ;
1175             int old_len = SvCUR(buf_sv) ;
1176
1177             /* ensure buf_sv is large enough */
1178             SvGROW(buf_sv, old_len + maxlen) ;
1179             if ((len = PerlIO_read(rsfp, SvPVX(buf_sv) + old_len, maxlen)) <= 0){
1180                 if (PerlIO_error(rsfp))
1181                     return -1;          /* error */
1182                 else
1183                     return 0 ;          /* end of file */
1184             }
1185             SvCUR_set(buf_sv, old_len + len) ;
1186         } else {
1187             /* Want a line */
1188             if (sv_gets(buf_sv, rsfp, SvCUR(buf_sv)) == NULL) {
1189                 if (PerlIO_error(rsfp))
1190                     return -1;          /* error */
1191                 else
1192                     return 0 ;          /* end of file */
1193             }
1194
1195         }
1196         return SvCUR(buf_sv);
1197     }
1198     /* Skip this filter slot if filter has been deleted */
1199     if ( (datasv = FILTER_DATA(idx)) == &sv_undef){
1200         if (filter_debug)
1201             warn("filter_read %d: skipped (filter deleted)\n", idx);
1202         return FILTER_READ(idx+1, buf_sv, maxlen); /* recurse */
1203     }
1204     /* Get function pointer hidden within datasv        */
1205     funcp = (filter_t)IoDIRP(datasv);
1206     if (filter_debug)
1207         warn("filter_read %d: via function %p (%s)\n",
1208                 idx, funcp, SvPV(datasv,na));
1209     /* Call function. The function is expected to       */
1210     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
1211     /* Return: <0:error, =0:eof, >0:not eof             */
1212     return (*funcp)(idx, buf_sv, maxlen);
1213 }
1214
1215
1216 static char *
1217 filter_gets(register SV *sv, register PerlIO *fp, STRLEN append)
1218 {
1219 #ifdef WIN32FILTER
1220     if (!rsfp_filters) {
1221         filter_add(win32_textfilter,NULL);
1222     }
1223 #endif
1224     if (rsfp_filters) {
1225
1226         if (!append)
1227             SvCUR_set(sv, 0);   /* start with empty line        */
1228         if (FILTER_READ(0, sv, 0) > 0)
1229             return ( SvPVX(sv) ) ;
1230         else
1231             return Nullch ;
1232     }
1233     else
1234         return (sv_gets(sv, fp, append));
1235 }
1236
1237
1238 #ifdef DEBUGGING
1239     static char* exp_name[] =
1240         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "TERMBLOCK" };
1241 #endif
1242
1243 EXT int yychar;         /* last token */
1244
1245 int
1246 yylex(void)
1247 {
1248     dTHR;
1249     register char *s;
1250     register char *d;
1251     register I32 tmp;
1252     STRLEN len;
1253     GV *gv = Nullgv;
1254     GV **gvp = 0;
1255
1256     if (pending_ident) {
1257         char pit = pending_ident;
1258         pending_ident = 0;
1259
1260         if (in_my) {
1261             if (strchr(tokenbuf,':'))
1262                 croak(no_myglob,tokenbuf);
1263             yylval.opval = newOP(OP_PADANY, 0);
1264             yylval.opval->op_targ = pad_allocmy(tokenbuf);
1265             return PRIVATEREF;
1266         }
1267
1268         if (!strchr(tokenbuf,':')) {
1269 #ifdef USE_THREADS
1270             /* Check for single character per-thread SVs */
1271             if (tokenbuf[0] == '$' && tokenbuf[2] == '\0'
1272                 && !isALPHA(tokenbuf[1]) /* Rule out obvious non-threadsvs */
1273                 && (tmp = find_threadsv(&tokenbuf[1])) != NOT_IN_PAD)
1274             {
1275                 yylval.opval = newOP(OP_THREADSV, 0);
1276                 yylval.opval->op_targ = tmp;
1277                 return PRIVATEREF;
1278             }
1279 #endif /* USE_THREADS */
1280             if ((tmp = pad_findmy(tokenbuf)) != NOT_IN_PAD) {
1281                 if (last_lop_op == OP_SORT &&
1282                     tokenbuf[0] == '$' &&
1283                     (tokenbuf[1] == 'a' || tokenbuf[1] == 'b')
1284                     && !tokenbuf[2])
1285                 {
1286                     for (d = in_eval ? oldoldbufptr : linestart;
1287                          d < bufend && *d != '\n';
1288                          d++)
1289                     {
1290                         if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
1291                             croak("Can't use \"my %s\" in sort comparison",
1292                                   tokenbuf);
1293                         }
1294                     }
1295                 }
1296
1297                 yylval.opval = newOP(OP_PADANY, 0);
1298                 yylval.opval->op_targ = tmp;
1299                 return PRIVATEREF;
1300             }
1301         }
1302
1303         /* Force them to make up their mind on "@foo". */
1304         if (pit == '@' && lex_state != LEX_NORMAL && !lex_brackets) {
1305             GV *gv = gv_fetchpv(tokenbuf+1, FALSE, SVt_PVAV);
1306             if (!gv || ((tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
1307                 yyerror(form("In string, %s now must be written as \\%s",
1308                              tokenbuf, tokenbuf));
1309         }
1310
1311         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf+1, 0));
1312         yylval.opval->op_private = OPpCONST_ENTERED;
1313         gv_fetchpv(tokenbuf+1, in_eval ? GV_ADDMULTI : TRUE,
1314                    ((tokenbuf[0] == '$') ? SVt_PV
1315                     : (tokenbuf[0] == '@') ? SVt_PVAV
1316                     : SVt_PVHV));
1317         return WORD;
1318     }
1319
1320     switch (lex_state) {
1321 #ifdef COMMENTARY
1322     case LEX_NORMAL:            /* Some compilers will produce faster */
1323     case LEX_INTERPNORMAL:      /* code if we comment these out. */
1324         break;
1325 #endif
1326
1327     case LEX_KNOWNEXT:
1328         nexttoke--;
1329         yylval = nextval[nexttoke];
1330         if (!nexttoke) {
1331             lex_state = lex_defer;
1332             expect = lex_expect;
1333             lex_defer = LEX_NORMAL;
1334         }
1335         return(nexttype[nexttoke]);
1336
1337     case LEX_INTERPCASEMOD:
1338 #ifdef DEBUGGING
1339         if (bufptr != bufend && *bufptr != '\\')
1340             croak("panic: INTERPCASEMOD");
1341 #endif
1342         if (bufptr == bufend || bufptr[1] == 'E') {
1343             char oldmod;
1344             if (lex_casemods) {
1345                 oldmod = lex_casestack[--lex_casemods];
1346                 lex_casestack[lex_casemods] = '\0';
1347                 if (bufptr != bufend && strchr("LUQ", oldmod)) {
1348                     bufptr += 2;
1349                     lex_state = LEX_INTERPCONCAT;
1350                 }
1351                 return ')';
1352             }
1353             if (bufptr != bufend)
1354                 bufptr += 2;
1355             lex_state = LEX_INTERPCONCAT;
1356             return yylex();
1357         }
1358         else {
1359             s = bufptr + 1;
1360             if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
1361                 tmp = *s, *s = s[2], s[2] = tmp;        /* misordered... */
1362             if (strchr("LU", *s) &&
1363                 (strchr(lex_casestack, 'L') || strchr(lex_casestack, 'U')))
1364             {
1365                 lex_casestack[--lex_casemods] = '\0';
1366                 return ')';
1367             }
1368             if (lex_casemods > 10) {
1369                 char* newlb = Renew(lex_casestack, lex_casemods + 2, char);
1370                 if (newlb != lex_casestack) {
1371                     SAVEFREEPV(newlb);
1372                     lex_casestack = newlb;
1373                 }
1374             }
1375             lex_casestack[lex_casemods++] = *s;
1376             lex_casestack[lex_casemods] = '\0';
1377             lex_state = LEX_INTERPCONCAT;
1378             nextval[nexttoke].ival = 0;
1379             force_next('(');
1380             if (*s == 'l')
1381                 nextval[nexttoke].ival = OP_LCFIRST;
1382             else if (*s == 'u')
1383                 nextval[nexttoke].ival = OP_UCFIRST;
1384             else if (*s == 'L')
1385                 nextval[nexttoke].ival = OP_LC;
1386             else if (*s == 'U')
1387                 nextval[nexttoke].ival = OP_UC;
1388             else if (*s == 'Q')
1389                 nextval[nexttoke].ival = OP_QUOTEMETA;
1390             else
1391                 croak("panic: yylex");
1392             bufptr = s + 1;
1393             force_next(FUNC);
1394             if (lex_starts) {
1395                 s = bufptr;
1396                 lex_starts = 0;
1397                 Aop(OP_CONCAT);
1398             }
1399             else
1400                 return yylex();
1401         }
1402
1403     case LEX_INTERPPUSH:
1404         return sublex_push();
1405
1406     case LEX_INTERPSTART:
1407         if (bufptr == bufend)
1408             return sublex_done();
1409         expect = XTERM;
1410         lex_dojoin = (*bufptr == '@');
1411         lex_state = LEX_INTERPNORMAL;
1412         if (lex_dojoin) {
1413             nextval[nexttoke].ival = 0;
1414             force_next(',');
1415 #ifdef USE_THREADS
1416             nextval[nexttoke].opval = newOP(OP_THREADSV, 0);
1417             nextval[nexttoke].opval->op_targ = find_threadsv("\"");
1418             force_next(PRIVATEREF);
1419 #else
1420             force_ident("\"", '$');
1421 #endif /* USE_THREADS */
1422             nextval[nexttoke].ival = 0;
1423             force_next('$');
1424             nextval[nexttoke].ival = 0;
1425             force_next('(');
1426             nextval[nexttoke].ival = OP_JOIN;   /* emulate join($", ...) */
1427             force_next(FUNC);
1428         }
1429         if (lex_starts++) {
1430             s = bufptr;
1431             Aop(OP_CONCAT);
1432         }
1433         return yylex();
1434
1435     case LEX_INTERPENDMAYBE:
1436         if (intuit_more(bufptr)) {
1437             lex_state = LEX_INTERPNORMAL;       /* false alarm, more expr */
1438             break;
1439         }
1440         /* FALL THROUGH */
1441
1442     case LEX_INTERPEND:
1443         if (lex_dojoin) {
1444             lex_dojoin = FALSE;
1445             lex_state = LEX_INTERPCONCAT;
1446             return ')';
1447         }
1448         /* FALLTHROUGH */
1449     case LEX_INTERPCONCAT:
1450 #ifdef DEBUGGING
1451         if (lex_brackets)
1452             croak("panic: INTERPCONCAT");
1453 #endif
1454         if (bufptr == bufend)
1455             return sublex_done();
1456
1457         if (SvIVX(linestr) == '\'') {
1458             SV *sv = newSVsv(linestr);
1459             if (!lex_inpat)
1460                 sv = q(sv);
1461             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1462             s = bufend;
1463         }
1464         else {
1465             s = scan_const(bufptr);
1466             if (*s == '\\')
1467                 lex_state = LEX_INTERPCASEMOD;
1468             else
1469                 lex_state = LEX_INTERPSTART;
1470         }
1471
1472         if (s != bufptr) {
1473             nextval[nexttoke] = yylval;
1474             expect = XTERM;
1475             force_next(THING);
1476             if (lex_starts++)
1477                 Aop(OP_CONCAT);
1478             else {
1479                 bufptr = s;
1480                 return yylex();
1481             }
1482         }
1483
1484         return yylex();
1485     case LEX_FORMLINE:
1486         lex_state = LEX_NORMAL;
1487         s = scan_formline(bufptr);
1488         if (!lex_formbrack)
1489             goto rightbracket;
1490         OPERATOR(';');
1491     }
1492
1493     s = bufptr;
1494     oldoldbufptr = oldbufptr;
1495     oldbufptr = s;
1496     DEBUG_p( {
1497         PerlIO_printf(PerlIO_stderr(), "### Tokener expecting %s at %s\n", exp_name[expect], s);
1498     } )
1499
1500   retry:
1501     switch (*s) {
1502     default:
1503         croak("Unrecognized character \\%03o", *s & 255);
1504     case 4:
1505     case 26:
1506         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
1507     case 0:
1508         if (!rsfp) {
1509             last_uni = 0;
1510             last_lop = 0;
1511             if (lex_brackets)
1512                 yyerror("Missing right bracket");
1513             TOKEN(0);
1514         }
1515         if (s++ < bufend)
1516             goto retry;                 /* ignore stray nulls */
1517         last_uni = 0;
1518         last_lop = 0;
1519         if (!in_eval && !preambled) {
1520             preambled = TRUE;
1521             sv_setpv(linestr,incl_perldb());
1522             if (SvCUR(linestr))
1523                 sv_catpv(linestr,";");
1524             if (preambleav){
1525                 while(AvFILLp(preambleav) >= 0) {
1526                     SV *tmpsv = av_shift(preambleav);
1527                     sv_catsv(linestr, tmpsv);
1528                     sv_catpv(linestr, ";");
1529                     sv_free(tmpsv);
1530                 }
1531                 sv_free((SV*)preambleav);
1532                 preambleav = NULL;
1533             }
1534             if (minus_n || minus_p) {
1535                 sv_catpv(linestr, "LINE: while (<>) {");
1536                 if (minus_l)
1537                     sv_catpv(linestr,"chomp;");
1538                 if (minus_a) {
1539                     GV* gv = gv_fetchpv("::F", TRUE, SVt_PVAV);
1540                     if (gv)
1541                         GvIMPORTED_AV_on(gv);
1542                     if (minus_F) {
1543                         if (strchr("/'\"", *splitstr)
1544                               && strchr(splitstr + 1, *splitstr))
1545                             sv_catpvf(linestr, "@F=split(%s);", splitstr);
1546                         else {
1547                             char delim;
1548                             s = "'~#\200\1'"; /* surely one char is unused...*/
1549                             while (s[1] && strchr(splitstr, *s))  s++;
1550                             delim = *s;
1551                             sv_catpvf(linestr, "@F=split(%s%c",
1552                                       "q" + (delim == '\''), delim);
1553                             for (s = splitstr; *s; s++) {
1554                                 if (*s == '\\')
1555                                     sv_catpvn(linestr, "\\", 1);
1556                                 sv_catpvn(linestr, s, 1);
1557                             }
1558                             sv_catpvf(linestr, "%c);", delim);
1559                         }
1560                     }
1561                     else
1562                         sv_catpv(linestr,"@F=split(' ');");
1563                 }
1564             }
1565             sv_catpv(linestr, "\n");
1566             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1567             bufend = SvPVX(linestr) + SvCUR(linestr);
1568             if (PERLDB_LINE && curstash != debstash) {
1569                 SV *sv = NEWSV(85,0);
1570
1571                 sv_upgrade(sv, SVt_PVMG);
1572                 sv_setsv(sv,linestr);
1573                 av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1574             }
1575             goto retry;
1576         }
1577         do {
1578             if ((s = filter_gets(linestr, rsfp, 0)) == Nullch) {
1579               fake_eof:
1580                 if (rsfp) {
1581                     if (preprocess && !in_eval)
1582                         (void)PerlProc_pclose(rsfp);
1583                     else if ((PerlIO *)rsfp == PerlIO_stdin())
1584                         PerlIO_clearerr(rsfp);
1585                     else
1586                         (void)PerlIO_close(rsfp);
1587                     if (e_fp == rsfp)
1588                         e_fp = Nullfp;
1589                     rsfp = Nullfp;
1590                 }
1591                 if (!in_eval && (minus_n || minus_p)) {
1592                     sv_setpv(linestr,minus_p ? ";}continue{print" : "");
1593                     sv_catpv(linestr,";}");
1594                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1595                     bufend = SvPVX(linestr) + SvCUR(linestr);
1596                     minus_n = minus_p = 0;
1597                     goto retry;
1598                 }
1599                 oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1600                 sv_setpv(linestr,"");
1601                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
1602             }
1603             if (doextract) {
1604                 if (*s == '#' && s[1] == '!' && instr(s,"perl"))
1605                     doextract = FALSE;
1606
1607                 /* Incest with pod. */
1608                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
1609                     sv_setpv(linestr, "");
1610                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1611                     bufend = SvPVX(linestr) + SvCUR(linestr);
1612                     doextract = FALSE;
1613                 }
1614             }
1615             incline(s);
1616         } while (doextract);
1617         oldoldbufptr = oldbufptr = bufptr = linestart = s;
1618         if (PERLDB_LINE && curstash != debstash) {
1619             SV *sv = NEWSV(85,0);
1620
1621             sv_upgrade(sv, SVt_PVMG);
1622             sv_setsv(sv,linestr);
1623             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1624         }
1625         bufend = SvPVX(linestr) + SvCUR(linestr);
1626         if (curcop->cop_line == 1) {
1627             while (s < bufend && isSPACE(*s))
1628                 s++;
1629             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
1630                 s++;
1631             d = Nullch;
1632             if (!in_eval) {
1633                 if (*s == '#' && *(s+1) == '!')
1634                     d = s + 2;
1635 #ifdef ALTERNATE_SHEBANG
1636                 else {
1637                     static char as[] = ALTERNATE_SHEBANG;
1638                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
1639                         d = s + (sizeof(as) - 1);
1640                 }
1641 #endif /* ALTERNATE_SHEBANG */
1642             }
1643             if (d) {
1644                 char *ipath;
1645                 char *ipathend;
1646
1647                 while (isSPACE(*d))
1648                     d++;
1649                 ipath = d;
1650                 while (*d && !isSPACE(*d))
1651                     d++;
1652                 ipathend = d;
1653
1654 #ifdef ARG_ZERO_IS_SCRIPT
1655                 if (ipathend > ipath) {
1656                     /*
1657                      * HP-UX (at least) sets argv[0] to the script name,
1658                      * which makes $^X incorrect.  And Digital UNIX and Linux,
1659                      * at least, set argv[0] to the basename of the Perl
1660                      * interpreter. So, having found "#!", we'll set it right.
1661                      */
1662                     SV *x = GvSV(gv_fetchpv("\030", TRUE, SVt_PV));
1663                     assert(SvPOK(x) || SvGMAGICAL(x));
1664                     if (sv_eq(x, GvSV(curcop->cop_filegv))) {
1665                         sv_setpvn(x, ipath, ipathend - ipath);
1666                         SvSETMAGIC(x);
1667                     }
1668                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
1669                 }
1670 #endif /* ARG_ZERO_IS_SCRIPT */
1671
1672                 /*
1673                  * Look for options.
1674                  */
1675                 d = instr(s,"perl -");
1676                 if (!d)
1677                     d = instr(s,"perl");
1678 #ifdef ALTERNATE_SHEBANG
1679                 /*
1680                  * If the ALTERNATE_SHEBANG on this system starts with a
1681                  * character that can be part of a Perl expression, then if
1682                  * we see it but not "perl", we're probably looking at the
1683                  * start of Perl code, not a request to hand off to some
1684                  * other interpreter.  Similarly, if "perl" is there, but
1685                  * not in the first 'word' of the line, we assume the line
1686                  * contains the start of the Perl program.
1687                  */
1688                 if (d && *s != '#') {
1689                     char *c = ipath;
1690                     while (*c && !strchr("; \t\r\n\f\v#", *c))
1691                         c++;
1692                     if (c < d)
1693                         d = Nullch;     /* "perl" not in first word; ignore */
1694                     else
1695                         *s = '#';       /* Don't try to parse shebang line */
1696                 }
1697 #endif /* ALTERNATE_SHEBANG */
1698                 if (!d &&
1699                     *s == '#' &&
1700                     ipathend > ipath &&
1701                     !minus_c &&
1702                     !instr(s,"indir") &&
1703                     instr(origargv[0],"perl"))
1704                 {
1705                     char **newargv;
1706
1707                     *ipathend = '\0';
1708                     s = ipathend + 1;
1709                     while (s < bufend && isSPACE(*s))
1710                         s++;
1711                     if (s < bufend) {
1712                         Newz(899,newargv,origargc+3,char*);
1713                         newargv[1] = s;
1714                         while (s < bufend && !isSPACE(*s))
1715                             s++;
1716                         *s = '\0';
1717                         Copy(origargv+1, newargv+2, origargc+1, char*);
1718                     }
1719                     else
1720                         newargv = origargv;
1721                     newargv[0] = ipath;
1722                     execv(ipath, newargv);
1723                     croak("Can't exec %s", ipath);
1724                 }
1725                 if (d) {
1726                     U32 oldpdb = perldb;
1727                     bool oldn = minus_n;
1728                     bool oldp = minus_p;
1729
1730                     while (*d && !isSPACE(*d)) d++;
1731                     while (*d == ' ' || *d == '\t') d++;
1732
1733                     if (*d++ == '-') {
1734                         do {
1735                             if (*d == 'M' || *d == 'm') {
1736                                 char *m = d;
1737                                 while (*d && !isSPACE(*d)) d++;
1738                                 croak("Too late for \"-%.*s\" option",
1739                                       (int)(d - m), m);
1740                             }
1741                             d = moreswitches(d);
1742                         } while (d);
1743                         if (PERLDB_LINE && !oldpdb ||
1744                             ( minus_n || minus_p ) && !(oldn || oldp) )
1745                               /* if we have already added "LINE: while (<>) {",
1746                                  we must not do it again */
1747                         {
1748                             sv_setpv(linestr, "");
1749                             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1750                             bufend = SvPVX(linestr) + SvCUR(linestr);
1751                             preambled = FALSE;
1752                             if (PERLDB_LINE)
1753                                 (void)gv_fetchfile(origfilename);
1754                             goto retry;
1755                         }
1756                     }
1757                 }
1758             }
1759         }
1760         if (lex_formbrack && lex_brackets <= lex_formbrack) {
1761             bufptr = s;
1762             lex_state = LEX_FORMLINE;
1763             return yylex();
1764         }
1765         goto retry;
1766     case '\r':
1767 #ifndef WIN32CHEAT
1768         warn("Illegal character \\%03o (carriage return)", '\r');
1769         croak(
1770       "(Maybe you didn't strip carriage returns after a network transfer?)\n");
1771 #endif
1772     case ' ': case '\t': case '\f': case 013:
1773         s++;
1774         goto retry;
1775     case '#':
1776     case '\n':
1777         if (lex_state != LEX_NORMAL || (in_eval && !rsfp)) {
1778             d = bufend;
1779             while (s < d && *s != '\n')
1780                 s++;
1781             if (s < d)
1782                 s++;
1783             incline(s);
1784             if (lex_formbrack && lex_brackets <= lex_formbrack) {
1785                 bufptr = s;
1786                 lex_state = LEX_FORMLINE;
1787                 return yylex();
1788             }
1789         }
1790         else {
1791             *s = '\0';
1792             bufend = s;
1793         }
1794         goto retry;
1795     case '-':
1796         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
1797             s++;
1798             bufptr = s;
1799             tmp = *s++;
1800
1801             while (s < bufend && (*s == ' ' || *s == '\t'))
1802                 s++;
1803
1804             if (strnEQ(s,"=>",2)) {
1805                 if (dowarn)
1806                     warn("Ambiguous use of -%c => resolved to \"-%c\" =>",
1807                         (int)tmp, (int)tmp);
1808                 s = force_word(bufptr,WORD,FALSE,FALSE,FALSE);
1809                 OPERATOR('-');          /* unary minus */
1810             }
1811             last_uni = oldbufptr;
1812             last_lop_op = OP_FTEREAD;   /* good enough */
1813             switch (tmp) {
1814             case 'r': FTST(OP_FTEREAD);
1815             case 'w': FTST(OP_FTEWRITE);
1816             case 'x': FTST(OP_FTEEXEC);
1817             case 'o': FTST(OP_FTEOWNED);
1818             case 'R': FTST(OP_FTRREAD);
1819             case 'W': FTST(OP_FTRWRITE);
1820             case 'X': FTST(OP_FTREXEC);
1821             case 'O': FTST(OP_FTROWNED);
1822             case 'e': FTST(OP_FTIS);
1823             case 'z': FTST(OP_FTZERO);
1824             case 's': FTST(OP_FTSIZE);
1825             case 'f': FTST(OP_FTFILE);
1826             case 'd': FTST(OP_FTDIR);
1827             case 'l': FTST(OP_FTLINK);
1828             case 'p': FTST(OP_FTPIPE);
1829             case 'S': FTST(OP_FTSOCK);
1830             case 'u': FTST(OP_FTSUID);
1831             case 'g': FTST(OP_FTSGID);
1832             case 'k': FTST(OP_FTSVTX);
1833             case 'b': FTST(OP_FTBLK);
1834             case 'c': FTST(OP_FTCHR);
1835             case 't': FTST(OP_FTTTY);
1836             case 'T': FTST(OP_FTTEXT);
1837             case 'B': FTST(OP_FTBINARY);
1838             case 'M': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTMTIME);
1839             case 'A': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTATIME);
1840             case 'C': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTCTIME);
1841             default:
1842                 croak("Unrecognized file test: -%c", (int)tmp);
1843                 break;
1844             }
1845         }
1846         tmp = *s++;
1847         if (*s == tmp) {
1848             s++;
1849             if (expect == XOPERATOR)
1850                 TERM(POSTDEC);
1851             else
1852                 OPERATOR(PREDEC);
1853         }
1854         else if (*s == '>') {
1855             s++;
1856             s = skipspace(s);
1857             if (isIDFIRST(*s)) {
1858                 s = force_word(s,METHOD,FALSE,TRUE,FALSE);
1859                 TOKEN(ARROW);
1860             }
1861             else if (*s == '$')
1862                 OPERATOR(ARROW);
1863             else
1864                 TERM(ARROW);
1865         }
1866         if (expect == XOPERATOR)
1867             Aop(OP_SUBTRACT);
1868         else {
1869             if (isSPACE(*s) || !isSPACE(*bufptr))
1870                 check_uni();
1871             OPERATOR('-');              /* unary minus */
1872         }
1873
1874     case '+':
1875         tmp = *s++;
1876         if (*s == tmp) {
1877             s++;
1878             if (expect == XOPERATOR)
1879                 TERM(POSTINC);
1880             else
1881                 OPERATOR(PREINC);
1882         }
1883         if (expect == XOPERATOR)
1884             Aop(OP_ADD);
1885         else {
1886             if (isSPACE(*s) || !isSPACE(*bufptr))
1887                 check_uni();
1888             OPERATOR('+');
1889         }
1890
1891     case '*':
1892         if (expect != XOPERATOR) {
1893             s = scan_ident(s, bufend, tokenbuf, sizeof tokenbuf, TRUE);
1894             expect = XOPERATOR;
1895             force_ident(tokenbuf, '*');
1896             if (!*tokenbuf)
1897                 PREREF('*');
1898             TERM('*');
1899         }
1900         s++;
1901         if (*s == '*') {
1902             s++;
1903             PWop(OP_POW);
1904         }
1905         Mop(OP_MULTIPLY);
1906
1907     case '%':
1908         if (expect == XOPERATOR) {
1909             ++s;
1910             Mop(OP_MODULO);
1911         }
1912         tokenbuf[0] = '%';
1913         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, TRUE);
1914         if (!tokenbuf[1]) {
1915             if (s == bufend)
1916                 yyerror("Final % should be \\% or %name");
1917             PREREF('%');
1918         }
1919         pending_ident = '%';
1920         TERM('%');
1921
1922     case '^':
1923         s++;
1924         BOop(OP_BIT_XOR);
1925     case '[':
1926         lex_brackets++;
1927         /* FALL THROUGH */
1928     case '~':
1929     case ',':
1930         tmp = *s++;
1931         OPERATOR(tmp);
1932     case ':':
1933         if (s[1] == ':') {
1934             len = 0;
1935             goto just_a_word;
1936         }
1937         s++;
1938         OPERATOR(':');
1939     case '(':
1940         s++;
1941         if (last_lop == oldoldbufptr || last_uni == oldoldbufptr)
1942             oldbufptr = oldoldbufptr;           /* allow print(STDOUT 123) */
1943         else
1944             expect = XTERM;
1945         TOKEN('(');
1946     case ';':
1947         if (curcop->cop_line < copline)
1948             copline = curcop->cop_line;
1949         tmp = *s++;
1950         OPERATOR(tmp);
1951     case ')':
1952         tmp = *s++;
1953         s = skipspace(s);
1954         if (*s == '{')
1955             PREBLOCK(tmp);
1956         TERM(tmp);
1957     case ']':
1958         s++;
1959         if (lex_brackets <= 0)
1960             yyerror("Unmatched right bracket");
1961         else
1962             --lex_brackets;
1963         if (lex_state == LEX_INTERPNORMAL) {
1964             if (lex_brackets == 0) {
1965                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
1966                     lex_state = LEX_INTERPEND;
1967             }
1968         }
1969         TERM(']');
1970     case '{':
1971       leftbracket:
1972         s++;
1973         if (lex_brackets > 100) {
1974             char* newlb = Renew(lex_brackstack, lex_brackets + 1, char);
1975             if (newlb != lex_brackstack) {
1976                 SAVEFREEPV(newlb);
1977                 lex_brackstack = newlb;
1978             }
1979         }
1980         switch (expect) {
1981         case XTERM:
1982             if (lex_formbrack) {
1983                 s--;
1984                 PRETERMBLOCK(DO);
1985             }
1986             if (oldoldbufptr == last_lop)
1987                 lex_brackstack[lex_brackets++] = XTERM;
1988             else
1989                 lex_brackstack[lex_brackets++] = XOPERATOR;
1990             OPERATOR(HASHBRACK);
1991         case XOPERATOR:
1992             while (s < bufend && (*s == ' ' || *s == '\t'))
1993                 s++;
1994             d = s;
1995             tokenbuf[0] = '\0';
1996             if (d < bufend && *d == '-') {
1997                 tokenbuf[0] = '-';
1998                 d++;
1999                 while (d < bufend && (*d == ' ' || *d == '\t'))
2000                     d++;
2001             }
2002             if (d < bufend && isIDFIRST(*d)) {
2003                 d = scan_word(d, tokenbuf + 1, sizeof tokenbuf - 1,
2004                               FALSE, &len);
2005                 while (d < bufend && (*d == ' ' || *d == '\t'))
2006                     d++;
2007                 if (*d == '}') {
2008                     char minus = (tokenbuf[0] == '-');
2009                     if (dowarn &&
2010                         (keyword(tokenbuf + 1, len) ||
2011                          (minus && len == 1 && isALPHA(tokenbuf[1])) ||
2012                          perl_get_cv(tokenbuf + 1, FALSE) ))
2013                         warn("Ambiguous use of {%s} resolved to {\"%s\"}",
2014                              tokenbuf + !minus, tokenbuf + !minus);
2015                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
2016                     if (minus)
2017                         force_next('-');
2018                 }
2019             }
2020             /* FALL THROUGH */
2021         case XBLOCK:
2022             lex_brackstack[lex_brackets++] = XSTATE;
2023             expect = XSTATE;
2024             break;
2025         case XTERMBLOCK:
2026             lex_brackstack[lex_brackets++] = XOPERATOR;
2027             expect = XSTATE;
2028             break;
2029         default: {
2030                 char *t;
2031                 if (oldoldbufptr == last_lop)
2032                     lex_brackstack[lex_brackets++] = XTERM;
2033                 else
2034                     lex_brackstack[lex_brackets++] = XOPERATOR;
2035                 s = skipspace(s);
2036                 if (*s == '}') {
2037                     if (expect == XSTATE) {
2038                         lex_brackstack[lex_brackets-1] = XSTATE;
2039                         break;
2040                     }
2041                     OPERATOR(HASHBRACK);
2042                 }
2043                 /* This hack serves to disambiguate a pair of curlies
2044                  * as being a block or an anon hash.  Normally, expectation
2045                  * determines that, but in cases where we're not in a
2046                  * position to expect anything in particular (like inside
2047                  * eval"") we have to resolve the ambiguity.  This code
2048                  * covers the case where the first term in the curlies is a
2049                  * quoted string.  Most other cases need to be explicitly
2050                  * disambiguated by prepending a `+' before the opening
2051                  * curly in order to force resolution as an anon hash.
2052                  *
2053                  * XXX should probably propagate the outer expectation
2054                  * into eval"" to rely less on this hack, but that could
2055                  * potentially break current behavior of eval"".
2056                  * GSAR 97-07-21
2057                  */
2058                 t = s;
2059                 if (*s == '\'' || *s == '"' || *s == '`') {
2060                     /* common case: get past first string, handling escapes */
2061                     for (t++; t < bufend && *t != *s;)
2062                         if (*t++ == '\\' && (*t == '\\' || *t == *s))
2063                             t++;
2064                     t++;
2065                 }
2066                 else if (*s == 'q') {
2067                     if (++t < bufend
2068                         && (!isALNUM(*t)
2069                             || ((*t == 'q' || *t == 'x') && ++t < bufend
2070                                 && !isALNUM(*t)))) {
2071                         char *tmps;
2072                         char open, close, term;
2073                         I32 brackets = 1;
2074
2075                         while (t < bufend && isSPACE(*t))
2076                             t++;
2077                         term = *t;
2078                         open = term;
2079                         if (term && (tmps = strchr("([{< )]}> )]}>",term)))
2080                             term = tmps[5];
2081                         close = term;
2082                         if (open == close)
2083                             for (t++; t < bufend; t++) {
2084                                 if (*t == '\\' && t+1 < bufend && open != '\\')
2085                                     t++;
2086                                 else if (*t == open)
2087                                     break;
2088                             }
2089                         else
2090                             for (t++; t < bufend; t++) {
2091                                 if (*t == '\\' && t+1 < bufend)
2092                                     t++;
2093                                 else if (*t == close && --brackets <= 0)
2094                                     break;
2095                                 else if (*t == open)
2096                                     brackets++;
2097                             }
2098                     }
2099                     t++;
2100                 }
2101                 else if (isALPHA(*s)) {
2102                     for (t++; t < bufend && isALNUM(*t); t++) ;
2103                 }
2104                 while (t < bufend && isSPACE(*t))
2105                     t++;
2106                 /* if comma follows first term, call it an anon hash */
2107                 /* XXX it could be a comma expression with loop modifiers */
2108                 if (t < bufend && ((*t == ',' && (*s == 'q' || !isLOWER(*s)))
2109                                    || (*t == '=' && t[1] == '>')))
2110                     OPERATOR(HASHBRACK);
2111                 if (expect == XREF)
2112                     expect = XTERM;
2113                 else {
2114                     lex_brackstack[lex_brackets-1] = XSTATE;
2115                     expect = XSTATE;
2116                 }
2117             }
2118             break;
2119         }
2120         yylval.ival = curcop->cop_line;
2121         if (isSPACE(*s) || *s == '#')
2122             copline = NOLINE;   /* invalidate current command line number */
2123         TOKEN('{');
2124     case '}':
2125       rightbracket:
2126         s++;
2127         if (lex_brackets <= 0)
2128             yyerror("Unmatched right bracket");
2129         else
2130             expect = (expectation)lex_brackstack[--lex_brackets];
2131         if (lex_brackets < lex_formbrack)
2132             lex_formbrack = 0;
2133         if (lex_state == LEX_INTERPNORMAL) {
2134             if (lex_brackets == 0) {
2135                 if (lex_fakebrack) {
2136                     lex_state = LEX_INTERPEND;
2137                     bufptr = s;
2138                     return yylex();             /* ignore fake brackets */
2139                 }
2140                 if (*s == '-' && s[1] == '>')
2141                     lex_state = LEX_INTERPENDMAYBE;
2142                 else if (*s != '[' && *s != '{')
2143                     lex_state = LEX_INTERPEND;
2144             }
2145         }
2146         if (lex_brackets < lex_fakebrack) {
2147             bufptr = s;
2148             lex_fakebrack = 0;
2149             return yylex();             /* ignore fake brackets */
2150         }
2151         force_next('}');
2152         TOKEN(';');
2153     case '&':
2154         s++;
2155         tmp = *s++;
2156         if (tmp == '&')
2157             AOPERATOR(ANDAND);
2158         s--;
2159         if (expect == XOPERATOR) {
2160             if (dowarn && isALPHA(*s) && bufptr == linestart) {
2161                 curcop->cop_line--;
2162                 warn(warn_nosemi);
2163                 curcop->cop_line++;
2164             }
2165             BAop(OP_BIT_AND);
2166         }
2167
2168         s = scan_ident(s - 1, bufend, tokenbuf, sizeof tokenbuf, TRUE);
2169         if (*tokenbuf) {
2170             expect = XOPERATOR;
2171             force_ident(tokenbuf, '&');
2172         }
2173         else
2174             PREREF('&');
2175         yylval.ival = (OPpENTERSUB_AMPER<<8);
2176         TERM('&');
2177
2178     case '|':
2179         s++;
2180         tmp = *s++;
2181         if (tmp == '|')
2182             AOPERATOR(OROR);
2183         s--;
2184         BOop(OP_BIT_OR);
2185     case '=':
2186         s++;
2187         tmp = *s++;
2188         if (tmp == '=')
2189             Eop(OP_EQ);
2190         if (tmp == '>')
2191             OPERATOR(',');
2192         if (tmp == '~')
2193             PMop(OP_MATCH);
2194         if (dowarn && tmp && isSPACE(*s) && strchr("+-*/%.^&|<",tmp))
2195             warn("Reversed %c= operator",(int)tmp);
2196         s--;
2197         if (expect == XSTATE && isALPHA(tmp) &&
2198                 (s == linestart+1 || s[-2] == '\n') )
2199         {
2200             if (in_eval && !rsfp) {
2201                 d = bufend;
2202                 while (s < d) {
2203                     if (*s++ == '\n') {
2204                         incline(s);
2205                         if (strnEQ(s,"=cut",4)) {
2206                             s = strchr(s,'\n');
2207                             if (s)
2208                                 s++;
2209                             else
2210                                 s = d;
2211                             incline(s);
2212                             goto retry;
2213                         }
2214                     }
2215                 }
2216                 goto retry;
2217             }
2218             s = bufend;
2219             doextract = TRUE;
2220             goto retry;
2221         }
2222         if (lex_brackets < lex_formbrack) {
2223             char *t;
2224             for (t = s; *t == ' ' || *t == '\t'; t++) ;
2225             if (*t == '\n' || *t == '#') {
2226                 s--;
2227                 expect = XBLOCK;
2228                 goto leftbracket;
2229             }
2230         }
2231         yylval.ival = 0;
2232         OPERATOR(ASSIGNOP);
2233     case '!':
2234         s++;
2235         tmp = *s++;
2236         if (tmp == '=')
2237             Eop(OP_NE);
2238         if (tmp == '~')
2239             PMop(OP_NOT);
2240         s--;
2241         OPERATOR('!');
2242     case '<':
2243         if (expect != XOPERATOR) {
2244             if (s[1] != '<' && !strchr(s,'>'))
2245                 check_uni();
2246             if (s[1] == '<')
2247                 s = scan_heredoc(s);
2248             else
2249                 s = scan_inputsymbol(s);
2250             TERM(sublex_start());
2251         }
2252         s++;
2253         tmp = *s++;
2254         if (tmp == '<')
2255             SHop(OP_LEFT_SHIFT);
2256         if (tmp == '=') {
2257             tmp = *s++;
2258             if (tmp == '>')
2259                 Eop(OP_NCMP);
2260             s--;
2261             Rop(OP_LE);
2262         }
2263         s--;
2264         Rop(OP_LT);
2265     case '>':
2266         s++;
2267         tmp = *s++;
2268         if (tmp == '>')
2269             SHop(OP_RIGHT_SHIFT);
2270         if (tmp == '=')
2271             Rop(OP_GE);
2272         s--;
2273         Rop(OP_GT);
2274
2275     case '$':
2276         CLINE;
2277
2278         if (expect == XOPERATOR) {
2279             if (lex_formbrack && lex_brackets == lex_formbrack) {
2280                 expect = XTERM;
2281                 depcom();
2282                 return ','; /* grandfather non-comma-format format */
2283             }
2284         }
2285
2286         if (s[1] == '#' && (isALPHA(s[2]) || strchr("_{$:", s[2]))) {
2287             if (expect == XOPERATOR)
2288                 no_op("Array length", bufptr);
2289             tokenbuf[0] = '@';
2290             s = scan_ident(s + 1, bufend, tokenbuf + 1, sizeof tokenbuf - 1,
2291                            FALSE);
2292             if (!tokenbuf[1])
2293                 PREREF(DOLSHARP);
2294             expect = XOPERATOR;
2295             pending_ident = '#';
2296             TOKEN(DOLSHARP);
2297         }
2298
2299         if (expect == XOPERATOR)
2300             no_op("Scalar", bufptr);
2301         tokenbuf[0] = '$';
2302         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2303         if (!tokenbuf[1]) {
2304             if (s == bufend)
2305                 yyerror("Final $ should be \\$ or $name");
2306             PREREF('$');
2307         }
2308
2309         /* This kludge not intended to be bulletproof. */
2310         if (tokenbuf[1] == '[' && !tokenbuf[2]) {
2311             yylval.opval = newSVOP(OP_CONST, 0,
2312                                    newSViv((IV)compiling.cop_arybase));
2313             yylval.opval->op_private = OPpCONST_ARYBASE;
2314             TERM(THING);
2315         }
2316
2317         d = s;
2318         if (lex_state == LEX_NORMAL)
2319             s = skipspace(s);
2320
2321         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2322             char *t;
2323             if (*s == '[') {
2324                 tokenbuf[0] = '@';
2325                 if (dowarn) {
2326                     for(t = s + 1;
2327                         isSPACE(*t) || isALNUM(*t) || *t == '$';
2328                         t++) ;
2329                     if (*t++ == ',') {
2330                         bufptr = skipspace(bufptr);
2331                         while (t < bufend && *t != ']')
2332                             t++;
2333                         warn("Multidimensional syntax %.*s not supported",
2334                              (t - bufptr) + 1, bufptr);
2335                     }
2336                 }
2337             }
2338             else if (*s == '{') {
2339                 tokenbuf[0] = '%';
2340                 if (dowarn && strEQ(tokenbuf+1, "SIG") &&
2341                     (t = strchr(s, '}')) && (t = strchr(t, '=')))
2342                 {
2343                     char tmpbuf[sizeof tokenbuf];
2344                     STRLEN len;
2345                     for (t++; isSPACE(*t); t++) ;
2346                     if (isIDFIRST(*t)) {
2347                         t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE, &len);
2348                         if (*t != '(' && perl_get_cv(tmpbuf, FALSE))
2349                             warn("You need to quote \"%s\"", tmpbuf);
2350                     }
2351                 }
2352             }
2353         }
2354
2355         expect = XOPERATOR;
2356         if (lex_state == LEX_NORMAL && isSPACE(*d)) {
2357             bool islop = (last_lop == oldoldbufptr);
2358             if (!islop || last_lop_op == OP_GREPSTART)
2359                 expect = XOPERATOR;
2360             else if (strchr("$@\"'`q", *s))
2361                 expect = XTERM;         /* e.g. print $fh "foo" */
2362             else if (strchr("&*<%", *s) && isIDFIRST(s[1]))
2363                 expect = XTERM;         /* e.g. print $fh &sub */
2364             else if (isIDFIRST(*s)) {
2365                 char tmpbuf[sizeof tokenbuf];
2366                 scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2367                 if (tmp = keyword(tmpbuf, len)) {
2368                     /* binary operators exclude handle interpretations */
2369                     switch (tmp) {
2370                     case -KEY_x:
2371                     case -KEY_eq:
2372                     case -KEY_ne:
2373                     case -KEY_gt:
2374                     case -KEY_lt:
2375                     case -KEY_ge:
2376                     case -KEY_le:
2377                     case -KEY_cmp:
2378                         break;
2379                     default:
2380                         expect = XTERM; /* e.g. print $fh length() */
2381                         break;
2382                     }
2383                 }
2384                 else {
2385                     GV *gv = gv_fetchpv(tmpbuf, FALSE, SVt_PVCV);
2386                     if (gv && GvCVu(gv))
2387                         expect = XTERM; /* e.g. print $fh subr() */
2388                 }
2389             }
2390             else if (isDIGIT(*s))
2391                 expect = XTERM;         /* e.g. print $fh 3 */
2392             else if (*s == '.' && isDIGIT(s[1]))
2393                 expect = XTERM;         /* e.g. print $fh .3 */
2394             else if (strchr("/?-+", *s) && !isSPACE(s[1]))
2395                 expect = XTERM;         /* e.g. print $fh -1 */
2396             else if (*s == '<' && s[1] == '<' && !isSPACE(s[2]))
2397                 expect = XTERM;         /* print $fh <<"EOF" */
2398         }
2399         pending_ident = '$';
2400         TOKEN('$');
2401
2402     case '@':
2403         if (expect == XOPERATOR)
2404             no_op("Array", s);
2405         tokenbuf[0] = '@';
2406         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2407         if (!tokenbuf[1]) {
2408             if (s == bufend)
2409                 yyerror("Final @ should be \\@ or @name");
2410             PREREF('@');
2411         }
2412         if (lex_state == LEX_NORMAL)
2413             s = skipspace(s);
2414         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2415             if (*s == '{')
2416                 tokenbuf[0] = '%';
2417
2418             /* Warn about @ where they meant $. */
2419             if (dowarn) {
2420                 if (*s == '[' || *s == '{') {
2421                     char *t = s + 1;
2422                     while (*t && (isALNUM(*t) || strchr(" \t$#+-'\"", *t)))
2423                         t++;
2424                     if (*t == '}' || *t == ']') {
2425                         t++;
2426                         bufptr = skipspace(bufptr);
2427                         warn("Scalar value %.*s better written as $%.*s",
2428                             t-bufptr, bufptr, t-bufptr-1, bufptr+1);
2429                     }
2430                 }
2431             }
2432         }
2433         pending_ident = '@';
2434         TERM('@');
2435
2436     case '/':                   /* may either be division or pattern */
2437     case '?':                   /* may either be conditional or pattern */
2438         if (expect != XOPERATOR) {
2439             /* Disable warning on "study /blah/" */
2440             if (oldoldbufptr == last_uni
2441                 && (*last_uni != 's' || s - last_uni < 5
2442                     || memNE(last_uni, "study", 5) || isALNUM(last_uni[5])))
2443                 check_uni();
2444             s = scan_pat(s);
2445             TERM(sublex_start());
2446         }
2447         tmp = *s++;
2448         if (tmp == '/')
2449             Mop(OP_DIVIDE);
2450         OPERATOR(tmp);
2451
2452     case '.':
2453         if (lex_formbrack && lex_brackets == lex_formbrack && s[1] == '\n' &&
2454                 (s == linestart || s[-1] == '\n') ) {
2455             lex_formbrack = 0;
2456             expect = XSTATE;
2457             goto rightbracket;
2458         }
2459         if (expect == XOPERATOR || !isDIGIT(s[1])) {
2460             tmp = *s++;
2461             if (*s == tmp) {
2462                 s++;
2463                 if (*s == tmp) {
2464                     s++;
2465                     yylval.ival = OPf_SPECIAL;
2466                 }
2467                 else
2468                     yylval.ival = 0;
2469                 OPERATOR(DOTDOT);
2470             }
2471             if (expect != XOPERATOR)
2472                 check_uni();
2473             Aop(OP_CONCAT);
2474         }
2475         /* FALL THROUGH */
2476     case '0': case '1': case '2': case '3': case '4':
2477     case '5': case '6': case '7': case '8': case '9':
2478         s = scan_num(s);
2479         if (expect == XOPERATOR)
2480             no_op("Number",s);
2481         TERM(THING);
2482
2483     case '\'':
2484         s = scan_str(s);
2485         if (expect == XOPERATOR) {
2486             if (lex_formbrack && lex_brackets == lex_formbrack) {
2487                 expect = XTERM;
2488                 depcom();
2489                 return ',';     /* grandfather non-comma-format format */
2490             }
2491             else
2492                 no_op("String",s);
2493         }
2494         if (!s)
2495             missingterm((char*)0);
2496         yylval.ival = OP_CONST;
2497         TERM(sublex_start());
2498
2499     case '"':
2500         s = scan_str(s);
2501         if (expect == XOPERATOR) {
2502             if (lex_formbrack && lex_brackets == lex_formbrack) {
2503                 expect = XTERM;
2504                 depcom();
2505                 return ',';     /* grandfather non-comma-format format */
2506             }
2507             else
2508                 no_op("String",s);
2509         }
2510         if (!s)
2511             missingterm((char*)0);
2512         yylval.ival = OP_CONST;
2513         for (d = SvPV(lex_stuff, len); len; len--, d++) {
2514             if (*d == '$' || *d == '@' || *d == '\\') {
2515                 yylval.ival = OP_STRINGIFY;
2516                 break;
2517             }
2518         }
2519         TERM(sublex_start());
2520
2521     case '`':
2522         s = scan_str(s);
2523         if (expect == XOPERATOR)
2524             no_op("Backticks",s);
2525         if (!s)
2526             missingterm((char*)0);
2527         yylval.ival = OP_BACKTICK;
2528         set_csh();
2529         TERM(sublex_start());
2530
2531     case '\\':
2532         s++;
2533         if (dowarn && lex_inwhat && isDIGIT(*s))
2534             warn("Can't use \\%c to mean $%c in expression", *s, *s);
2535         if (expect == XOPERATOR)
2536             no_op("Backslash",s);
2537         OPERATOR(REFGEN);
2538
2539     case 'x':
2540         if (isDIGIT(s[1]) && expect == XOPERATOR) {
2541             s++;
2542             Mop(OP_REPEAT);
2543         }
2544         goto keylookup;
2545
2546     case '_':
2547     case 'a': case 'A':
2548     case 'b': case 'B':
2549     case 'c': case 'C':
2550     case 'd': case 'D':
2551     case 'e': case 'E':
2552     case 'f': case 'F':
2553     case 'g': case 'G':
2554     case 'h': case 'H':
2555     case 'i': case 'I':
2556     case 'j': case 'J':
2557     case 'k': case 'K':
2558     case 'l': case 'L':
2559     case 'm': case 'M':
2560     case 'n': case 'N':
2561     case 'o': case 'O':
2562     case 'p': case 'P':
2563     case 'q': case 'Q':
2564     case 'r': case 'R':
2565     case 's': case 'S':
2566     case 't': case 'T':
2567     case 'u': case 'U':
2568     case 'v': case 'V':
2569     case 'w': case 'W':
2570               case 'X':
2571     case 'y': case 'Y':
2572     case 'z': case 'Z':
2573
2574       keylookup: {
2575         gv = Nullgv;
2576         gvp = 0;
2577
2578         bufptr = s;
2579         s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2580
2581         /* Some keywords can be followed by any delimiter, including ':' */
2582         tmp = (len == 1 && strchr("msyq", tokenbuf[0]) ||
2583                len == 2 && ((tokenbuf[0] == 't' && tokenbuf[1] == 'r') ||
2584                             (tokenbuf[0] == 'q' &&
2585                              strchr("qwx", tokenbuf[1]))));
2586
2587         /* x::* is just a word, unless x is "CORE" */
2588         if (!tmp && *s == ':' && s[1] == ':' && strNE(tokenbuf, "CORE"))
2589             goto just_a_word;
2590
2591         d = s;
2592         while (d < bufend && isSPACE(*d))
2593                 d++;    /* no comments skipped here, or s### is misparsed */
2594
2595         /* Is this a label? */
2596         if (!tmp && expect == XSTATE
2597               && d < bufend && *d == ':' && *(d + 1) != ':') {
2598             s = d + 1;
2599             yylval.pval = savepv(tokenbuf);
2600             CLINE;
2601             TOKEN(LABEL);
2602         }
2603
2604         /* Check for keywords */
2605         tmp = keyword(tokenbuf, len);
2606
2607         /* Is this a word before a => operator? */
2608         if (strnEQ(d,"=>",2)) {
2609             CLINE;
2610             if (dowarn && (tmp || perl_get_cv(tokenbuf, FALSE)))
2611                 warn("Ambiguous use of %s => resolved to \"%s\" =>",
2612                         tokenbuf, tokenbuf);
2613             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2614             yylval.opval->op_private = OPpCONST_BARE;
2615             TERM(WORD);
2616         }
2617
2618         if (tmp < 0) {                  /* second-class keyword? */
2619             if (expect != XOPERATOR && (*s != ':' || s[1] != ':') &&
2620                 (((gv = gv_fetchpv(tokenbuf, FALSE, SVt_PVCV)) &&
2621                   GvCVu(gv) && GvIMPORTED_CV(gv)) ||
2622                  ((gvp = (GV**)hv_fetch(globalstash,tokenbuf,len,FALSE)) &&
2623                   (gv = *gvp) != (GV*)&sv_undef &&
2624                   GvCVu(gv) && GvIMPORTED_CV(gv))))
2625             {
2626                 tmp = 0;                /* overridden by importation */
2627             }
2628             else if (gv && !gvp
2629                      && -tmp==KEY_lock  /* XXX generalizable kludge */
2630                      && !hv_fetch(GvHVn(incgv), "Thread.pm", 9, FALSE))
2631             {
2632                 tmp = 0;                /* any sub overrides "weak" keyword */
2633             }
2634             else {
2635                 tmp = -tmp; gv = Nullgv; gvp = 0;
2636             }
2637         }
2638
2639       reserved_word:
2640         switch (tmp) {
2641
2642         default:                        /* not a keyword */
2643           just_a_word: {
2644                 SV *sv;
2645                 char lastchar = (bufptr == oldoldbufptr ? 0 : bufptr[-1]);
2646
2647                 /* Get the rest if it looks like a package qualifier */
2648
2649                 if (*s == '\'' || *s == ':' && s[1] == ':') {
2650                     s = scan_word(s, tokenbuf + len, sizeof tokenbuf - len,
2651                                   TRUE, &len);
2652                     if (!len)
2653                         croak("Bad name after %s::", tokenbuf);
2654                 }
2655
2656                 if (expect == XOPERATOR) {
2657                     if (bufptr == linestart) {
2658                         curcop->cop_line--;
2659                         warn(warn_nosemi);
2660                         curcop->cop_line++;
2661                     }
2662                     else
2663                         no_op("Bareword",s);
2664                 }
2665
2666                 /* Look for a subroutine with this name in current package. */
2667
2668                 if (gvp) {
2669                     sv = newSVpv("CORE::GLOBAL::",14);
2670                     sv_catpv(sv,tokenbuf);
2671                 }
2672                 else
2673                     sv = newSVpv(tokenbuf,0);
2674                 if (!gv)
2675                     gv = gv_fetchpv(tokenbuf,FALSE, SVt_PVCV);
2676
2677                 /* Presume this is going to be a bareword of some sort. */
2678
2679                 CLINE;
2680                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
2681                 yylval.opval->op_private = OPpCONST_BARE;
2682
2683                 /* See if it's the indirect object for a list operator. */
2684
2685                 if (oldoldbufptr &&
2686                     oldoldbufptr < bufptr &&
2687                     (oldoldbufptr == last_lop || oldoldbufptr == last_uni) &&
2688                     /* NO SKIPSPACE BEFORE HERE! */
2689                     (expect == XREF ||
2690                      ((opargs[last_lop_op] >> OASHIFT)& 7) == OA_FILEREF) )
2691                 {
2692                     bool immediate_paren = *s == '(';
2693
2694                     /* (Now we can afford to cross potential line boundary.) */
2695                     s = skipspace(s);
2696
2697                     /* Two barewords in a row may indicate method call. */
2698
2699                     if ((isALPHA(*s) || *s == '$') && (tmp=intuit_method(s,gv)))
2700                         return tmp;
2701
2702                     /* If not a declared subroutine, it's an indirect object. */
2703                     /* (But it's an indir obj regardless for sort.) */
2704
2705                     if ((last_lop_op == OP_SORT ||
2706                          (!immediate_paren && (!gv || !GvCVu(gv))) ) &&
2707                         (last_lop_op != OP_MAPSTART && last_lop_op != OP_GREPSTART)){
2708                         expect = (last_lop == oldoldbufptr) ? XTERM : XOPERATOR;
2709                         goto bareword;
2710                     }
2711                 }
2712
2713                 /* If followed by a paren, it's certainly a subroutine. */
2714
2715                 expect = XOPERATOR;
2716                 s = skipspace(s);
2717                 if (*s == '(') {
2718                     CLINE;
2719                     if (gv && GvCVu(gv)) {
2720                         for (d = s + 1; *d == ' ' || *d == '\t'; d++) ;
2721                         if (*d == ')' && (sv = cv_const_sv(GvCV(gv)))) {
2722                             s = d + 1;
2723                             goto its_constant;
2724                         }
2725                     }
2726                     nextval[nexttoke].opval = yylval.opval;
2727                     expect = XOPERATOR;
2728                     force_next(WORD);
2729                     yylval.ival = 0;
2730                     TOKEN('&');
2731                 }
2732
2733                 /* If followed by var or block, call it a method (unless sub) */
2734
2735                 if ((*s == '$' || *s == '{') && (!gv || !GvCVu(gv))) {
2736                     last_lop = oldbufptr;
2737                     last_lop_op = OP_METHOD;
2738                     PREBLOCK(METHOD);
2739                 }
2740
2741                 /* If followed by a bareword, see if it looks like indir obj. */
2742
2743                 if ((isALPHA(*s) || *s == '$') && (tmp = intuit_method(s,gv)))
2744                     return tmp;
2745
2746                 /* Not a method, so call it a subroutine (if defined) */
2747
2748                 if (gv && GvCVu(gv)) {
2749                     CV* cv;
2750                     if (lastchar == '-')
2751                         warn("Ambiguous use of -%s resolved as -&%s()",
2752                                 tokenbuf, tokenbuf);
2753                     last_lop = oldbufptr;
2754                     last_lop_op = OP_ENTERSUB;
2755                     /* Check for a constant sub */
2756                     cv = GvCV(gv);
2757                     if ((sv = cv_const_sv(cv))) {
2758                   its_constant:
2759                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
2760                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc(sv);
2761                         yylval.opval->op_private = 0;
2762                         TOKEN(WORD);
2763                     }
2764
2765                     /* Resolve to GV now. */
2766                     op_free(yylval.opval);
2767                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
2768                     /* Is there a prototype? */
2769                     if (SvPOK(cv)) {
2770                         STRLEN len;
2771                         char *proto = SvPV((SV*)cv, len);
2772                         if (!len)
2773                             TERM(FUNC0SUB);
2774                         if (strEQ(proto, "$"))
2775                             OPERATOR(UNIOPSUB);
2776                         if (*proto == '&' && *s == '{') {
2777                             sv_setpv(subname,"__ANON__");
2778                             PREBLOCK(LSTOPSUB);
2779                         }
2780                     }
2781                     nextval[nexttoke].opval = yylval.opval;
2782                     expect = XTERM;
2783                     force_next(WORD);
2784                     TOKEN(NOAMP);
2785                 }
2786
2787                 if (hints & HINT_STRICT_SUBS &&
2788                     lastchar != '-' &&
2789                     strnNE(s,"->",2) &&
2790                     last_lop_op != OP_TRUNCATE &&  /* S/F prototype in opcode.pl */
2791                     last_lop_op != OP_ACCEPT &&
2792                     last_lop_op != OP_PIPE_OP &&
2793                     last_lop_op != OP_SOCKPAIR)
2794                 {
2795                     warn(
2796                      "Bareword \"%s\" not allowed while \"strict subs\" in use",
2797                         tokenbuf);
2798                     ++error_count;
2799                 }
2800
2801                 /* Call it a bare word */
2802
2803             bareword:
2804                 if (dowarn) {
2805                     if (lastchar != '-') {
2806                         for (d = tokenbuf; *d && isLOWER(*d); d++) ;
2807                         if (!*d)
2808                             warn(warn_reserved, tokenbuf);
2809                     }
2810                 }
2811                 if (lastchar && strchr("*%&", lastchar)) {
2812                     warn("Operator or semicolon missing before %c%s",
2813                         lastchar, tokenbuf);
2814                     warn("Ambiguous use of %c resolved as operator %c",
2815                         lastchar, lastchar);
2816                 }
2817                 TOKEN(WORD);
2818             }
2819
2820         case KEY___FILE__:
2821             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2822                                         newSVsv(GvSV(curcop->cop_filegv)));
2823             TERM(THING);
2824
2825         case KEY___LINE__:
2826             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2827                                     newSVpvf("%ld", (long)curcop->cop_line));
2828             TERM(THING);
2829
2830         case KEY___PACKAGE__:
2831             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2832                                         (curstash
2833                                          ? newSVsv(curstname)
2834                                          : &sv_undef));
2835             TERM(THING);
2836
2837         case KEY___DATA__:
2838         case KEY___END__: {
2839             GV *gv;
2840
2841             /*SUPPRESS 560*/
2842             if (rsfp && (!in_eval || tokenbuf[2] == 'D')) {
2843                 char *pname = "main";
2844                 if (tokenbuf[2] == 'D')
2845                     pname = HvNAME(curstash ? curstash : defstash);
2846                 gv = gv_fetchpv(form("%s::DATA", pname), TRUE, SVt_PVIO);
2847                 GvMULTI_on(gv);
2848                 if (!GvIO(gv))
2849                     GvIOp(gv) = newIO();
2850                 IoIFP(GvIOp(gv)) = rsfp;
2851 #if defined(HAS_FCNTL) && defined(F_SETFD)
2852                 {
2853                     int fd = PerlIO_fileno(rsfp);
2854                     fcntl(fd,F_SETFD,fd >= 3);
2855                 }
2856 #endif
2857                 /* Mark this internal pseudo-handle as clean */
2858                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
2859                 if (preprocess)
2860                     IoTYPE(GvIOp(gv)) = '|';
2861                 else if ((PerlIO*)rsfp == PerlIO_stdin())
2862                     IoTYPE(GvIOp(gv)) = '-';
2863                 else
2864                     IoTYPE(GvIOp(gv)) = '<';
2865                 rsfp = Nullfp;
2866             }
2867             goto fake_eof;
2868         }
2869
2870         case KEY_AUTOLOAD:
2871         case KEY_DESTROY:
2872         case KEY_BEGIN:
2873         case KEY_END:
2874         case KEY_INIT:
2875             if (expect == XSTATE) {
2876                 s = bufptr;
2877                 goto really_sub;
2878             }
2879             goto just_a_word;
2880
2881         case KEY_CORE:
2882             if (*s == ':' && s[1] == ':') {
2883                 s += 2;
2884                 d = s;
2885                 s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2886                 tmp = keyword(tokenbuf, len);
2887                 if (tmp < 0)
2888                     tmp = -tmp;
2889                 goto reserved_word;
2890             }
2891             goto just_a_word;
2892
2893         case KEY_abs:
2894             UNI(OP_ABS);
2895
2896         case KEY_alarm:
2897             UNI(OP_ALARM);
2898
2899         case KEY_accept:
2900             LOP(OP_ACCEPT,XTERM);
2901
2902         case KEY_and:
2903             OPERATOR(ANDOP);
2904
2905         case KEY_atan2:
2906             LOP(OP_ATAN2,XTERM);
2907
2908         case KEY_bind:
2909             LOP(OP_BIND,XTERM);
2910
2911         case KEY_binmode:
2912             UNI(OP_BINMODE);
2913
2914         case KEY_bless:
2915             LOP(OP_BLESS,XTERM);
2916
2917         case KEY_chop:
2918             UNI(OP_CHOP);
2919
2920         case KEY_continue:
2921             PREBLOCK(CONTINUE);
2922
2923         case KEY_chdir:
2924             (void)gv_fetchpv("ENV",TRUE, SVt_PVHV);     /* may use HOME */
2925             UNI(OP_CHDIR);
2926
2927         case KEY_close:
2928             UNI(OP_CLOSE);
2929
2930         case KEY_closedir:
2931             UNI(OP_CLOSEDIR);
2932
2933         case KEY_cmp:
2934             Eop(OP_SCMP);
2935
2936         case KEY_caller:
2937             UNI(OP_CALLER);
2938
2939         case KEY_crypt:
2940 #ifdef FCRYPT
2941             if (!cryptseen++)
2942                 init_des();
2943 #endif
2944             LOP(OP_CRYPT,XTERM);
2945
2946         case KEY_chmod:
2947             if (dowarn) {
2948                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
2949                 if (*d != '0' && isDIGIT(*d))
2950                     yywarn("chmod: mode argument is missing initial 0");
2951             }
2952             LOP(OP_CHMOD,XTERM);
2953
2954         case KEY_chown:
2955             LOP(OP_CHOWN,XTERM);
2956
2957         case KEY_connect:
2958             LOP(OP_CONNECT,XTERM);
2959
2960         case KEY_chr:
2961             UNI(OP_CHR);
2962
2963         case KEY_cos:
2964             UNI(OP_COS);
2965
2966         case KEY_chroot:
2967             UNI(OP_CHROOT);
2968
2969         case KEY_do:
2970             s = skipspace(s);
2971             if (*s == '{')
2972                 PRETERMBLOCK(DO);
2973             if (*s != '\'')
2974                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
2975             OPERATOR(DO);
2976
2977         case KEY_die:
2978             hints |= HINT_BLOCK_SCOPE;
2979             LOP(OP_DIE,XTERM);
2980
2981         case KEY_defined:
2982             UNI(OP_DEFINED);
2983
2984         case KEY_delete:
2985             UNI(OP_DELETE);
2986
2987         case KEY_dbmopen:
2988             gv_fetchpv("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
2989             LOP(OP_DBMOPEN,XTERM);
2990
2991         case KEY_dbmclose:
2992             UNI(OP_DBMCLOSE);
2993
2994         case KEY_dump:
2995             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2996             LOOPX(OP_DUMP);
2997
2998         case KEY_else:
2999             PREBLOCK(ELSE);
3000
3001         case KEY_elsif:
3002             yylval.ival = curcop->cop_line;
3003             OPERATOR(ELSIF);
3004
3005         case KEY_eq:
3006             Eop(OP_SEQ);
3007
3008         case KEY_exists:
3009             UNI(OP_EXISTS);
3010
3011         case KEY_exit:
3012             UNI(OP_EXIT);
3013
3014         case KEY_eval:
3015             s = skipspace(s);
3016             expect = (*s == '{') ? XTERMBLOCK : XTERM;
3017             UNIBRACK(OP_ENTEREVAL);
3018
3019         case KEY_eof:
3020             UNI(OP_EOF);
3021
3022         case KEY_exp:
3023             UNI(OP_EXP);
3024
3025         case KEY_each:
3026             UNI(OP_EACH);
3027
3028         case KEY_exec:
3029             set_csh();
3030             LOP(OP_EXEC,XREF);
3031
3032         case KEY_endhostent:
3033             FUN0(OP_EHOSTENT);
3034
3035         case KEY_endnetent:
3036             FUN0(OP_ENETENT);
3037
3038         case KEY_endservent:
3039             FUN0(OP_ESERVENT);
3040
3041         case KEY_endprotoent:
3042             FUN0(OP_EPROTOENT);
3043
3044         case KEY_endpwent:
3045             FUN0(OP_EPWENT);
3046
3047         case KEY_endgrent:
3048             FUN0(OP_EGRENT);
3049
3050         case KEY_for:
3051         case KEY_foreach:
3052             yylval.ival = curcop->cop_line;
3053             s = skipspace(s);
3054             if (isIDFIRST(*s)) {
3055                 char *p = s;
3056                 if ((bufend - p) >= 3 &&
3057                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
3058                     p += 2;
3059                 p = skipspace(p);
3060                 if (isIDFIRST(*p))
3061                     croak("Missing $ on loop variable");
3062             }
3063             OPERATOR(FOR);
3064
3065         case KEY_formline:
3066             LOP(OP_FORMLINE,XTERM);
3067
3068         case KEY_fork:
3069             FUN0(OP_FORK);
3070
3071         case KEY_fcntl:
3072             LOP(OP_FCNTL,XTERM);
3073
3074         case KEY_fileno:
3075             UNI(OP_FILENO);
3076
3077         case KEY_flock:
3078             LOP(OP_FLOCK,XTERM);
3079
3080         case KEY_gt:
3081             Rop(OP_SGT);
3082
3083         case KEY_ge:
3084             Rop(OP_SGE);
3085
3086         case KEY_grep:
3087             LOP(OP_GREPSTART, *s == '(' ? XTERM : XREF);
3088
3089         case KEY_goto:
3090             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3091             LOOPX(OP_GOTO);
3092
3093         case KEY_gmtime:
3094             UNI(OP_GMTIME);
3095
3096         case KEY_getc:
3097             UNI(OP_GETC);
3098
3099         case KEY_getppid:
3100             FUN0(OP_GETPPID);
3101
3102         case KEY_getpgrp:
3103             UNI(OP_GETPGRP);
3104
3105         case KEY_getpriority:
3106             LOP(OP_GETPRIORITY,XTERM);
3107
3108         case KEY_getprotobyname:
3109             UNI(OP_GPBYNAME);
3110
3111         case KEY_getprotobynumber:
3112             LOP(OP_GPBYNUMBER,XTERM);
3113
3114         case KEY_getprotoent:
3115             FUN0(OP_GPROTOENT);
3116
3117         case KEY_getpwent:
3118             FUN0(OP_GPWENT);
3119
3120         case KEY_getpwnam:
3121             UNI(OP_GPWNAM);
3122
3123         case KEY_getpwuid:
3124             UNI(OP_GPWUID);
3125
3126         case KEY_getpeername:
3127             UNI(OP_GETPEERNAME);
3128
3129         case KEY_gethostbyname:
3130             UNI(OP_GHBYNAME);
3131
3132         case KEY_gethostbyaddr:
3133             LOP(OP_GHBYADDR,XTERM);
3134
3135         case KEY_gethostent:
3136             FUN0(OP_GHOSTENT);
3137
3138         case KEY_getnetbyname:
3139             UNI(OP_GNBYNAME);
3140
3141         case KEY_getnetbyaddr:
3142             LOP(OP_GNBYADDR,XTERM);
3143
3144         case KEY_getnetent:
3145             FUN0(OP_GNETENT);
3146
3147         case KEY_getservbyname:
3148             LOP(OP_GSBYNAME,XTERM);
3149
3150         case KEY_getservbyport:
3151             LOP(OP_GSBYPORT,XTERM);
3152
3153         case KEY_getservent:
3154             FUN0(OP_GSERVENT);
3155
3156         case KEY_getsockname:
3157             UNI(OP_GETSOCKNAME);
3158
3159         case KEY_getsockopt:
3160             LOP(OP_GSOCKOPT,XTERM);
3161
3162         case KEY_getgrent:
3163             FUN0(OP_GGRENT);
3164
3165         case KEY_getgrnam:
3166             UNI(OP_GGRNAM);
3167
3168         case KEY_getgrgid:
3169             UNI(OP_GGRGID);
3170
3171         case KEY_getlogin:
3172             FUN0(OP_GETLOGIN);
3173
3174         case KEY_glob:
3175             set_csh();
3176             LOP(OP_GLOB,XTERM);
3177
3178         case KEY_hex:
3179             UNI(OP_HEX);
3180
3181         case KEY_if:
3182             yylval.ival = curcop->cop_line;
3183             OPERATOR(IF);
3184
3185         case KEY_index:
3186             LOP(OP_INDEX,XTERM);
3187
3188         case KEY_int:
3189             UNI(OP_INT);
3190
3191         case KEY_ioctl:
3192             LOP(OP_IOCTL,XTERM);
3193
3194         case KEY_join:
3195             LOP(OP_JOIN,XTERM);
3196
3197         case KEY_keys:
3198             UNI(OP_KEYS);
3199
3200         case KEY_kill:
3201             LOP(OP_KILL,XTERM);
3202
3203         case KEY_last:
3204             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3205             LOOPX(OP_LAST);
3206
3207         case KEY_lc:
3208             UNI(OP_LC);
3209
3210         case KEY_lcfirst:
3211             UNI(OP_LCFIRST);
3212
3213         case KEY_local:
3214             OPERATOR(LOCAL);
3215
3216         case KEY_length:
3217             UNI(OP_LENGTH);
3218
3219         case KEY_lt:
3220             Rop(OP_SLT);
3221
3222         case KEY_le:
3223             Rop(OP_SLE);
3224
3225         case KEY_localtime:
3226             UNI(OP_LOCALTIME);
3227
3228         case KEY_log:
3229             UNI(OP_LOG);
3230
3231         case KEY_link:
3232             LOP(OP_LINK,XTERM);
3233
3234         case KEY_listen:
3235             LOP(OP_LISTEN,XTERM);
3236
3237         case KEY_lock:
3238             UNI(OP_LOCK);
3239
3240         case KEY_lstat:
3241             UNI(OP_LSTAT);
3242
3243         case KEY_m:
3244             s = scan_pat(s);
3245             TERM(sublex_start());
3246
3247         case KEY_map:
3248             LOP(OP_MAPSTART,XREF);
3249
3250         case KEY_mkdir:
3251             LOP(OP_MKDIR,XTERM);
3252
3253         case KEY_msgctl:
3254             LOP(OP_MSGCTL,XTERM);
3255
3256         case KEY_msgget:
3257             LOP(OP_MSGGET,XTERM);
3258
3259         case KEY_msgrcv:
3260             LOP(OP_MSGRCV,XTERM);
3261
3262         case KEY_msgsnd:
3263             LOP(OP_MSGSND,XTERM);
3264
3265         case KEY_my:
3266             in_my = TRUE;
3267             s = skipspace(s);
3268             if (isIDFIRST(*s)) {
3269                 s = scan_word(s, tokenbuf, sizeof tokenbuf, TRUE, &len);
3270                 in_my_stash = gv_stashpv(tokenbuf, FALSE);
3271                 if (!in_my_stash) {
3272                     char tmpbuf[1024];
3273                     bufptr = s;
3274                     sprintf(tmpbuf, "No such class %.1000s", tokenbuf);
3275                     yyerror(tmpbuf);
3276                 }
3277             }
3278             OPERATOR(MY);
3279
3280         case KEY_next:
3281             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3282             LOOPX(OP_NEXT);
3283
3284         case KEY_ne:
3285             Eop(OP_SNE);
3286
3287         case KEY_no:
3288             if (expect != XSTATE)
3289                 yyerror("\"no\" not allowed in expression");
3290             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3291             s = force_version(s);
3292             yylval.ival = 0;
3293             OPERATOR(USE);
3294
3295         case KEY_not:
3296             OPERATOR(NOTOP);
3297
3298         case KEY_open:
3299             s = skipspace(s);
3300             if (isIDFIRST(*s)) {
3301                 char *t;
3302                 for (d = s; isALNUM(*d); d++) ;
3303                 t = skipspace(d);
3304                 if (strchr("|&*+-=!?:.", *t))
3305                     warn("Precedence problem: open %.*s should be open(%.*s)",
3306                         d-s,s, d-s,s);
3307             }
3308             LOP(OP_OPEN,XTERM);
3309
3310         case KEY_or:
3311             yylval.ival = OP_OR;
3312             OPERATOR(OROP);
3313
3314         case KEY_ord:
3315             UNI(OP_ORD);
3316
3317         case KEY_oct:
3318             UNI(OP_OCT);
3319
3320         case KEY_opendir:
3321             LOP(OP_OPEN_DIR,XTERM);
3322
3323         case KEY_print:
3324             checkcomma(s,tokenbuf,"filehandle");
3325             LOP(OP_PRINT,XREF);
3326
3327         case KEY_printf:
3328             checkcomma(s,tokenbuf,"filehandle");
3329             LOP(OP_PRTF,XREF);
3330
3331         case KEY_prototype:
3332             UNI(OP_PROTOTYPE);
3333
3334         case KEY_push:
3335             LOP(OP_PUSH,XTERM);
3336
3337         case KEY_pop:
3338             UNI(OP_POP);
3339
3340         case KEY_pos:
3341             UNI(OP_POS);
3342
3343         case KEY_pack:
3344             LOP(OP_PACK,XTERM);
3345
3346         case KEY_package:
3347             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3348             OPERATOR(PACKAGE);
3349
3350         case KEY_pipe:
3351             LOP(OP_PIPE_OP,XTERM);
3352
3353         case KEY_q:
3354             s = scan_str(s);
3355             if (!s)
3356                 missingterm((char*)0);
3357             yylval.ival = OP_CONST;
3358             TERM(sublex_start());
3359
3360         case KEY_quotemeta:
3361             UNI(OP_QUOTEMETA);
3362
3363         case KEY_qw:
3364             s = scan_str(s);
3365             if (!s)
3366                 missingterm((char*)0);
3367             if (dowarn && SvLEN(lex_stuff)) {
3368                 d = SvPV_force(lex_stuff, len);
3369                 for (; len; --len, ++d) {
3370                     if (*d == ',') {
3371                         warn("Possible attempt to separate words with commas");
3372                         break;
3373                     }
3374                     if (*d == '#') {
3375                         warn("Possible attempt to put comments in qw() list");
3376                         break;
3377                     }
3378                 }
3379             }
3380             force_next(')');
3381             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, q(lex_stuff));
3382             lex_stuff = Nullsv;
3383             force_next(THING);
3384             force_next(',');
3385             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(" ",1));
3386             force_next(THING);
3387             force_next('(');
3388             yylval.ival = OP_SPLIT;
3389             CLINE;
3390             expect = XTERM;
3391             bufptr = s;
3392             last_lop = oldbufptr;
3393             last_lop_op = OP_SPLIT;
3394             return FUNC;
3395
3396         case KEY_qq:
3397             s = scan_str(s);
3398             if (!s)
3399                 missingterm((char*)0);
3400             yylval.ival = OP_STRINGIFY;
3401             if (SvIVX(lex_stuff) == '\'')
3402                 SvIVX(lex_stuff) = 0;   /* qq'$foo' should intepolate */
3403             TERM(sublex_start());
3404
3405         case KEY_qx:
3406             s = scan_str(s);
3407             if (!s)
3408                 missingterm((char*)0);
3409             yylval.ival = OP_BACKTICK;
3410             set_csh();
3411             TERM(sublex_start());
3412
3413         case KEY_return:
3414             OLDLOP(OP_RETURN);
3415
3416         case KEY_require:
3417             *tokenbuf = '\0';
3418             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3419             if (isIDFIRST(*tokenbuf))
3420                 gv_stashpvn(tokenbuf, strlen(tokenbuf), TRUE);
3421             else if (*s == '<')
3422                 yyerror("<> should be quotes");
3423             UNI(OP_REQUIRE);
3424
3425         case KEY_reset:
3426             UNI(OP_RESET);
3427
3428         case KEY_redo:
3429             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3430             LOOPX(OP_REDO);
3431
3432         case KEY_rename:
3433             LOP(OP_RENAME,XTERM);
3434
3435         case KEY_rand:
3436             UNI(OP_RAND);
3437
3438         case KEY_rmdir:
3439             UNI(OP_RMDIR);
3440
3441         case KEY_rindex:
3442             LOP(OP_RINDEX,XTERM);
3443
3444         case KEY_read:
3445             LOP(OP_READ,XTERM);
3446
3447         case KEY_readdir:
3448             UNI(OP_READDIR);
3449
3450         case KEY_readline:
3451             set_csh();
3452             UNI(OP_READLINE);
3453
3454         case KEY_readpipe:
3455             set_csh();
3456             UNI(OP_BACKTICK);
3457
3458         case KEY_rewinddir:
3459             UNI(OP_REWINDDIR);
3460
3461         case KEY_recv:
3462             LOP(OP_RECV,XTERM);
3463
3464         case KEY_reverse:
3465             LOP(OP_REVERSE,XTERM);
3466
3467         case KEY_readlink:
3468             UNI(OP_READLINK);
3469
3470         case KEY_ref:
3471             UNI(OP_REF);
3472
3473         case KEY_s:
3474             s = scan_subst(s);
3475             if (yylval.opval)
3476                 TERM(sublex_start());
3477             else
3478                 TOKEN(1);       /* force error */
3479
3480         case KEY_chomp:
3481             UNI(OP_CHOMP);
3482
3483         case KEY_scalar:
3484             UNI(OP_SCALAR);
3485
3486         case KEY_select:
3487             LOP(OP_SELECT,XTERM);
3488
3489         case KEY_seek:
3490             LOP(OP_SEEK,XTERM);
3491
3492         case KEY_semctl:
3493             LOP(OP_SEMCTL,XTERM);
3494
3495         case KEY_semget:
3496             LOP(OP_SEMGET,XTERM);
3497
3498         case KEY_semop:
3499             LOP(OP_SEMOP,XTERM);
3500
3501         case KEY_send:
3502             LOP(OP_SEND,XTERM);
3503
3504         case KEY_setpgrp:
3505             LOP(OP_SETPGRP,XTERM);
3506
3507         case KEY_setpriority:
3508             LOP(OP_SETPRIORITY,XTERM);
3509
3510         case KEY_sethostent:
3511             UNI(OP_SHOSTENT);
3512
3513         case KEY_setnetent:
3514             UNI(OP_SNETENT);
3515
3516         case KEY_setservent:
3517             UNI(OP_SSERVENT);
3518
3519         case KEY_setprotoent:
3520             UNI(OP_SPROTOENT);
3521
3522         case KEY_setpwent:
3523             FUN0(OP_SPWENT);
3524
3525         case KEY_setgrent:
3526             FUN0(OP_SGRENT);
3527
3528         case KEY_seekdir:
3529             LOP(OP_SEEKDIR,XTERM);
3530
3531         case KEY_setsockopt:
3532             LOP(OP_SSOCKOPT,XTERM);
3533
3534         case KEY_shift:
3535             UNI(OP_SHIFT);
3536
3537         case KEY_shmctl:
3538             LOP(OP_SHMCTL,XTERM);
3539
3540         case KEY_shmget:
3541             LOP(OP_SHMGET,XTERM);
3542
3543         case KEY_shmread:
3544             LOP(OP_SHMREAD,XTERM);
3545
3546         case KEY_shmwrite:
3547             LOP(OP_SHMWRITE,XTERM);
3548
3549         case KEY_shutdown:
3550             LOP(OP_SHUTDOWN,XTERM);
3551
3552         case KEY_sin:
3553             UNI(OP_SIN);
3554
3555         case KEY_sleep:
3556             UNI(OP_SLEEP);
3557
3558         case KEY_socket:
3559             LOP(OP_SOCKET,XTERM);
3560
3561         case KEY_socketpair:
3562             LOP(OP_SOCKPAIR,XTERM);
3563
3564         case KEY_sort:
3565             checkcomma(s,tokenbuf,"subroutine name");
3566             s = skipspace(s);
3567             if (*s == ';' || *s == ')')         /* probably a close */
3568                 croak("sort is now a reserved word");
3569             expect = XTERM;
3570             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3571             LOP(OP_SORT,XREF);
3572
3573         case KEY_split:
3574             LOP(OP_SPLIT,XTERM);
3575
3576         case KEY_sprintf:
3577             LOP(OP_SPRINTF,XTERM);
3578
3579         case KEY_splice:
3580             LOP(OP_SPLICE,XTERM);
3581
3582         case KEY_sqrt:
3583             UNI(OP_SQRT);
3584
3585         case KEY_srand:
3586             UNI(OP_SRAND);
3587
3588         case KEY_stat:
3589             UNI(OP_STAT);
3590
3591         case KEY_study:
3592             sawstudy++;
3593             UNI(OP_STUDY);
3594
3595         case KEY_substr:
3596             LOP(OP_SUBSTR,XTERM);
3597
3598         case KEY_format:
3599         case KEY_sub:
3600           really_sub:
3601             s = skipspace(s);
3602
3603             if (isIDFIRST(*s) || *s == '\'' || *s == ':') {
3604                 char tmpbuf[sizeof tokenbuf];
3605                 expect = XBLOCK;
3606                 d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
3607                 if (strchr(tmpbuf, ':'))
3608                     sv_setpv(subname, tmpbuf);
3609                 else {
3610                     sv_setsv(subname,curstname);
3611                     sv_catpvn(subname,"::",2);
3612                     sv_catpvn(subname,tmpbuf,len);
3613                 }
3614                 s = force_word(s,WORD,FALSE,TRUE,TRUE);
3615                 s = skipspace(s);
3616             }
3617             else {
3618                 expect = XTERMBLOCK;
3619                 sv_setpv(subname,"?");
3620             }
3621
3622             if (tmp == KEY_format) {
3623                 s = skipspace(s);
3624                 if (*s == '=')
3625                     lex_formbrack = lex_brackets + 1;
3626                 OPERATOR(FORMAT);
3627             }
3628
3629             /* Look for a prototype */
3630             if (*s == '(') {
3631                 char *p;
3632
3633                 s = scan_str(s);
3634                 if (!s) {
3635                     if (lex_stuff)
3636                         SvREFCNT_dec(lex_stuff);
3637                     lex_stuff = Nullsv;
3638                     croak("Prototype not terminated");
3639                 }
3640                 /* strip spaces */
3641                 d = SvPVX(lex_stuff);
3642                 tmp = 0;
3643                 for (p = d; *p; ++p) {
3644                     if (!isSPACE(*p))
3645                         d[tmp++] = *p;
3646                 }
3647                 d[tmp] = '\0';
3648                 SvCUR(lex_stuff) = tmp;
3649
3650                 nexttoke++;
3651                 nextval[1] = nextval[0];
3652                 nexttype[1] = nexttype[0];
3653                 nextval[0].opval = (OP*)newSVOP(OP_CONST, 0, lex_stuff);
3654                 nexttype[0] = THING;
3655                 if (nexttoke == 1) {
3656                     lex_defer = lex_state;
3657                     lex_expect = expect;
3658                     lex_state = LEX_KNOWNEXT;
3659                 }
3660                 lex_stuff = Nullsv;
3661             }
3662
3663             if (*SvPV(subname,na) == '?') {
3664                 sv_setpv(subname,"__ANON__");
3665                 TOKEN(ANONSUB);
3666             }
3667             PREBLOCK(SUB);
3668
3669         case KEY_system:
3670             set_csh();
3671             LOP(OP_SYSTEM,XREF);
3672
3673         case KEY_symlink:
3674             LOP(OP_SYMLINK,XTERM);
3675
3676         case KEY_syscall:
3677             LOP(OP_SYSCALL,XTERM);
3678
3679         case KEY_sysopen:
3680             LOP(OP_SYSOPEN,XTERM);
3681
3682         case KEY_sysseek:
3683             LOP(OP_SYSSEEK,XTERM);
3684
3685         case KEY_sysread:
3686             LOP(OP_SYSREAD,XTERM);
3687
3688         case KEY_syswrite:
3689             LOP(OP_SYSWRITE,XTERM);
3690
3691         case KEY_tr:
3692             s = scan_trans(s);
3693             TERM(sublex_start());
3694
3695         case KEY_tell:
3696             UNI(OP_TELL);
3697
3698         case KEY_telldir:
3699             UNI(OP_TELLDIR);
3700
3701         case KEY_tie:
3702             LOP(OP_TIE,XTERM);
3703
3704         case KEY_tied:
3705             UNI(OP_TIED);
3706
3707         case KEY_time:
3708             FUN0(OP_TIME);
3709
3710         case KEY_times:
3711             FUN0(OP_TMS);
3712
3713         case KEY_truncate:
3714             LOP(OP_TRUNCATE,XTERM);
3715
3716         case KEY_uc:
3717             UNI(OP_UC);
3718
3719         case KEY_ucfirst:
3720             UNI(OP_UCFIRST);
3721
3722         case KEY_untie:
3723             UNI(OP_UNTIE);
3724
3725         case KEY_until:
3726             yylval.ival = curcop->cop_line;
3727             OPERATOR(UNTIL);
3728
3729         case KEY_unless:
3730             yylval.ival = curcop->cop_line;
3731             OPERATOR(UNLESS);
3732
3733         case KEY_unlink:
3734             LOP(OP_UNLINK,XTERM);
3735
3736         case KEY_undef:
3737             UNI(OP_UNDEF);
3738
3739         case KEY_unpack:
3740             LOP(OP_UNPACK,XTERM);
3741
3742         case KEY_utime:
3743             LOP(OP_UTIME,XTERM);
3744
3745         case KEY_umask:
3746             if (dowarn) {
3747                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
3748                 if (*d != '0' && isDIGIT(*d))
3749                     yywarn("umask: argument is missing initial 0");
3750             }
3751             UNI(OP_UMASK);
3752
3753         case KEY_unshift:
3754             LOP(OP_UNSHIFT,XTERM);
3755
3756         case KEY_use:
3757             if (expect != XSTATE)
3758                 yyerror("\"use\" not allowed in expression");
3759             s = skipspace(s);
3760             if(isDIGIT(*s)) {
3761                 s = force_version(s);
3762                 if(*s == ';' || (s = skipspace(s), *s == ';')) {
3763                     nextval[nexttoke].opval = Nullop;
3764                     force_next(WORD);
3765                 }
3766             }
3767             else {
3768                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
3769                 s = force_version(s);
3770             }
3771             yylval.ival = 1;
3772             OPERATOR(USE);
3773
3774         case KEY_values:
3775             UNI(OP_VALUES);
3776
3777         case KEY_vec:
3778             sawvec = TRUE;
3779             LOP(OP_VEC,XTERM);
3780
3781         case KEY_while:
3782             yylval.ival = curcop->cop_line;
3783             OPERATOR(WHILE);
3784
3785         case KEY_warn:
3786             hints |= HINT_BLOCK_SCOPE;
3787             LOP(OP_WARN,XTERM);
3788
3789         case KEY_wait:
3790             FUN0(OP_WAIT);
3791
3792         case KEY_waitpid:
3793             LOP(OP_WAITPID,XTERM);
3794
3795         case KEY_wantarray:
3796             FUN0(OP_WANTARRAY);
3797
3798         case KEY_write:
3799             gv_fetchpv("\f",TRUE, SVt_PV);      /* Make sure $^L is defined */
3800             UNI(OP_ENTERWRITE);
3801
3802         case KEY_x:
3803             if (expect == XOPERATOR)
3804                 Mop(OP_REPEAT);
3805             check_uni();
3806             goto just_a_word;
3807
3808         case KEY_xor:
3809             yylval.ival = OP_XOR;
3810             OPERATOR(OROP);
3811
3812         case KEY_y:
3813             s = scan_trans(s);
3814             TERM(sublex_start());
3815         }
3816     }}
3817 }
3818
3819 I32
3820 keyword(register char *d, I32 len)
3821 {
3822     switch (*d) {
3823     case '_':
3824         if (d[1] == '_') {
3825             if (strEQ(d,"__FILE__"))            return -KEY___FILE__;
3826             if (strEQ(d,"__LINE__"))            return -KEY___LINE__;
3827             if (strEQ(d,"__PACKAGE__"))         return -KEY___PACKAGE__;
3828             if (strEQ(d,"__DATA__"))            return KEY___DATA__;
3829             if (strEQ(d,"__END__"))             return KEY___END__;
3830         }
3831         break;
3832     case 'A':
3833         if (strEQ(d,"AUTOLOAD"))                return KEY_AUTOLOAD;
3834         break;
3835     case 'a':
3836         switch (len) {
3837         case 3:
3838             if (strEQ(d,"and"))                 return -KEY_and;
3839             if (strEQ(d,"abs"))                 return -KEY_abs;
3840             break;
3841         case 5:
3842             if (strEQ(d,"alarm"))               return -KEY_alarm;
3843             if (strEQ(d,"atan2"))               return -KEY_atan2;
3844             break;
3845         case 6:
3846             if (strEQ(d,"accept"))              return -KEY_accept;
3847             break;
3848         }
3849         break;
3850     case 'B':
3851         if (strEQ(d,"BEGIN"))                   return KEY_BEGIN;
3852         break;
3853     case 'b':
3854         if (strEQ(d,"bless"))                   return -KEY_bless;
3855         if (strEQ(d,"bind"))                    return -KEY_bind;
3856         if (strEQ(d,"binmode"))                 return -KEY_binmode;
3857         break;
3858     case 'C':
3859         if (strEQ(d,"CORE"))                    return -KEY_CORE;
3860         break;
3861     case 'c':
3862         switch (len) {
3863         case 3:
3864             if (strEQ(d,"cmp"))                 return -KEY_cmp;
3865             if (strEQ(d,"chr"))                 return -KEY_chr;
3866             if (strEQ(d,"cos"))                 return -KEY_cos;
3867             break;
3868         case 4:
3869             if (strEQ(d,"chop"))                return KEY_chop;
3870             break;
3871         case 5:
3872             if (strEQ(d,"close"))               return -KEY_close;
3873             if (strEQ(d,"chdir"))               return -KEY_chdir;
3874             if (strEQ(d,"chomp"))               return KEY_chomp;
3875             if (strEQ(d,"chmod"))               return -KEY_chmod;
3876             if (strEQ(d,"chown"))               return -KEY_chown;
3877             if (strEQ(d,"crypt"))               return -KEY_crypt;
3878             break;
3879         case 6:
3880             if (strEQ(d,"chroot"))              return -KEY_chroot;
3881             if (strEQ(d,"caller"))              return -KEY_caller;
3882             break;
3883         case 7:
3884             if (strEQ(d,"connect"))             return -KEY_connect;
3885             break;
3886         case 8:
3887             if (strEQ(d,"closedir"))            return -KEY_closedir;
3888             if (strEQ(d,"continue"))            return -KEY_continue;
3889             break;
3890         }
3891         break;
3892     case 'D':
3893         if (strEQ(d,"DESTROY"))                 return KEY_DESTROY;
3894         break;
3895     case 'd':
3896         switch (len) {
3897         case 2:
3898             if (strEQ(d,"do"))                  return KEY_do;
3899             break;
3900         case 3:
3901             if (strEQ(d,"die"))                 return -KEY_die;
3902             break;
3903         case 4:
3904             if (strEQ(d,"dump"))                return -KEY_dump;
3905             break;
3906         case 6:
3907             if (strEQ(d,"delete"))              return KEY_delete;
3908             break;
3909         case 7:
3910             if (strEQ(d,"defined"))             return KEY_defined;
3911             if (strEQ(d,"dbmopen"))             return -KEY_dbmopen;
3912             break;
3913         case 8:
3914             if (strEQ(d,"dbmclose"))            return -KEY_dbmclose;
3915             break;
3916         }
3917         break;
3918     case 'E':
3919         if (strEQ(d,"EQ")) { deprecate(d);      return -KEY_eq;}
3920         if (strEQ(d,"END"))                     return KEY_END;
3921         break;
3922     case 'e':
3923         switch (len) {
3924         case 2:
3925             if (strEQ(d,"eq"))                  return -KEY_eq;
3926             break;
3927         case 3:
3928             if (strEQ(d,"eof"))                 return -KEY_eof;
3929             if (strEQ(d,"exp"))                 return -KEY_exp;
3930             break;
3931         case 4:
3932             if (strEQ(d,"else"))                return KEY_else;
3933             if (strEQ(d,"exit"))                return -KEY_exit;
3934             if (strEQ(d,"eval"))                return KEY_eval;
3935             if (strEQ(d,"exec"))                return -KEY_exec;
3936             if (strEQ(d,"each"))                return KEY_each;
3937             break;
3938         case 5:
3939             if (strEQ(d,"elsif"))               return KEY_elsif;
3940             break;
3941         case 6:
3942             if (strEQ(d,"exists"))              return KEY_exists;
3943             if (strEQ(d,"elseif")) warn("elseif should be elsif");
3944             break;
3945         case 8:
3946             if (strEQ(d,"endgrent"))            return -KEY_endgrent;
3947             if (strEQ(d,"endpwent"))            return -KEY_endpwent;
3948             break;
3949         case 9:
3950             if (strEQ(d,"endnetent"))           return -KEY_endnetent;
3951             break;
3952         case 10:
3953             if (strEQ(d,"endhostent"))          return -KEY_endhostent;
3954             if (strEQ(d,"endservent"))          return -KEY_endservent;
3955             break;
3956         case 11:
3957             if (strEQ(d,"endprotoent"))         return -KEY_endprotoent;
3958             break;
3959         }
3960         break;
3961     case 'f':
3962         switch (len) {
3963         case 3:
3964             if (strEQ(d,"for"))                 return KEY_for;
3965             break;
3966         case 4:
3967             if (strEQ(d,"fork"))                return -KEY_fork;
3968             break;
3969         case 5:
3970             if (strEQ(d,"fcntl"))               return -KEY_fcntl;
3971             if (strEQ(d,"flock"))               return -KEY_flock;
3972             break;
3973         case 6:
3974             if (strEQ(d,"format"))              return KEY_format;
3975             if (strEQ(d,"fileno"))              return -KEY_fileno;
3976             break;
3977         case 7:
3978             if (strEQ(d,"foreach"))             return KEY_foreach;
3979             break;
3980         case 8:
3981             if (strEQ(d,"formline"))            return -KEY_formline;
3982             break;
3983         }
3984         break;
3985     case 'G':
3986         if (len == 2) {
3987             if (strEQ(d,"GT")) { deprecate(d);  return -KEY_gt;}
3988             if (strEQ(d,"GE")) { deprecate(d);  return -KEY_ge;}
3989         }
3990         break;
3991     case 'g':
3992         if (strnEQ(d,"get",3)) {
3993             d += 3;
3994             if (*d == 'p') {
3995                 switch (len) {
3996                 case 7:
3997                     if (strEQ(d,"ppid"))        return -KEY_getppid;
3998                     if (strEQ(d,"pgrp"))        return -KEY_getpgrp;
3999                     break;
4000                 case 8:
4001                     if (strEQ(d,"pwent"))       return -KEY_getpwent;
4002                     if (strEQ(d,"pwnam"))       return -KEY_getpwnam;
4003                     if (strEQ(d,"pwuid"))       return -KEY_getpwuid;
4004                     break;
4005                 case 11:
4006                     if (strEQ(d,"peername"))    return -KEY_getpeername;
4007                     if (strEQ(d,"protoent"))    return -KEY_getprotoent;
4008                     if (strEQ(d,"priority"))    return -KEY_getpriority;
4009                     break;
4010                 case 14:
4011                     if (strEQ(d,"protobyname")) return -KEY_getprotobyname;
4012                     break;
4013                 case 16:
4014                     if (strEQ(d,"protobynumber"))return -KEY_getprotobynumber;
4015                     break;
4016                 }
4017             }
4018             else if (*d == 'h') {
4019                 if (strEQ(d,"hostbyname"))      return -KEY_gethostbyname;
4020                 if (strEQ(d,"hostbyaddr"))      return -KEY_gethostbyaddr;
4021                 if (strEQ(d,"hostent"))         return -KEY_gethostent;
4022             }
4023             else if (*d == 'n') {
4024                 if (strEQ(d,"netbyname"))       return -KEY_getnetbyname;
4025                 if (strEQ(d,"netbyaddr"))       return -KEY_getnetbyaddr;
4026                 if (strEQ(d,"netent"))          return -KEY_getnetent;
4027             }
4028             else if (*d == 's') {
4029                 if (strEQ(d,"servbyname"))      return -KEY_getservbyname;
4030                 if (strEQ(d,"servbyport"))      return -KEY_getservbyport;
4031                 if (strEQ(d,"servent"))         return -KEY_getservent;
4032                 if (strEQ(d,"sockname"))        return -KEY_getsockname;
4033                 if (strEQ(d,"sockopt"))         return -KEY_getsockopt;
4034             }
4035             else if (*d == 'g') {
4036                 if (strEQ(d,"grent"))           return -KEY_getgrent;
4037                 if (strEQ(d,"grnam"))           return -KEY_getgrnam;
4038                 if (strEQ(d,"grgid"))           return -KEY_getgrgid;
4039             }
4040             else if (*d == 'l') {
4041                 if (strEQ(d,"login"))           return -KEY_getlogin;
4042             }
4043             else if (strEQ(d,"c"))              return -KEY_getc;
4044             break;
4045         }
4046         switch (len) {
4047         case 2:
4048             if (strEQ(d,"gt"))                  return -KEY_gt;
4049             if (strEQ(d,"ge"))                  return -KEY_ge;
4050             break;
4051         case 4:
4052             if (strEQ(d,"grep"))                return KEY_grep;
4053             if (strEQ(d,"goto"))                return KEY_goto;
4054             if (strEQ(d,"glob"))                return KEY_glob;
4055             break;
4056         case 6:
4057             if (strEQ(d,"gmtime"))              return -KEY_gmtime;
4058             break;
4059         }
4060         break;
4061     case 'h':
4062         if (strEQ(d,"hex"))                     return -KEY_hex;
4063         break;
4064     case 'I':
4065         if (strEQ(d,"INIT"))                    return KEY_INIT;
4066         break;
4067     case 'i':
4068         switch (len) {
4069         case 2:
4070             if (strEQ(d,"if"))                  return KEY_if;
4071             break;
4072         case 3:
4073             if (strEQ(d,"int"))                 return -KEY_int;
4074             break;
4075         case 5:
4076             if (strEQ(d,"index"))               return -KEY_index;
4077             if (strEQ(d,"ioctl"))               return -KEY_ioctl;
4078             break;
4079         }
4080         break;
4081     case 'j':
4082         if (strEQ(d,"join"))                    return -KEY_join;
4083         break;
4084     case 'k':
4085         if (len == 4) {
4086             if (strEQ(d,"keys"))                return KEY_keys;
4087             if (strEQ(d,"kill"))                return -KEY_kill;
4088         }
4089         break;
4090     case 'L':
4091         if (len == 2) {
4092             if (strEQ(d,"LT")) { deprecate(d);  return -KEY_lt;}
4093             if (strEQ(d,"LE")) { deprecate(d);  return -KEY_le;}
4094         }
4095         break;
4096     case 'l':
4097         switch (len) {
4098         case 2:
4099             if (strEQ(d,"lt"))                  return -KEY_lt;
4100             if (strEQ(d,"le"))                  return -KEY_le;
4101             if (strEQ(d,"lc"))                  return -KEY_lc;
4102             break;
4103         case 3:
4104             if (strEQ(d,"log"))                 return -KEY_log;
4105             break;
4106         case 4:
4107             if (strEQ(d,"last"))                return KEY_last;
4108             if (strEQ(d,"link"))                return -KEY_link;
4109             if (strEQ(d,"lock"))                return -KEY_lock;
4110             break;
4111         case 5:
4112             if (strEQ(d,"local"))               return KEY_local;
4113             if (strEQ(d,"lstat"))               return -KEY_lstat;
4114             break;
4115         case 6:
4116             if (strEQ(d,"length"))              return -KEY_length;
4117             if (strEQ(d,"listen"))              return -KEY_listen;
4118             break;
4119         case 7:
4120             if (strEQ(d,"lcfirst"))             return -KEY_lcfirst;
4121             break;
4122         case 9:
4123             if (strEQ(d,"localtime"))           return -KEY_localtime;
4124             break;
4125         }
4126         break;
4127     case 'm':
4128         switch (len) {
4129         case 1:                                 return KEY_m;
4130         case 2:
4131             if (strEQ(d,"my"))                  return KEY_my;
4132             break;
4133         case 3:
4134             if (strEQ(d,"map"))                 return KEY_map;
4135             break;
4136         case 5:
4137             if (strEQ(d,"mkdir"))               return -KEY_mkdir;
4138             break;
4139         case 6:
4140             if (strEQ(d,"msgctl"))              return -KEY_msgctl;
4141             if (strEQ(d,"msgget"))              return -KEY_msgget;
4142             if (strEQ(d,"msgrcv"))              return -KEY_msgrcv;
4143             if (strEQ(d,"msgsnd"))              return -KEY_msgsnd;
4144             break;
4145         }
4146         break;
4147     case 'N':
4148         if (strEQ(d,"NE")) { deprecate(d);      return -KEY_ne;}
4149         break;
4150     case 'n':
4151         if (strEQ(d,"next"))                    return KEY_next;
4152         if (strEQ(d,"ne"))                      return -KEY_ne;
4153         if (strEQ(d,"not"))                     return -KEY_not;
4154         if (strEQ(d,"no"))                      return KEY_no;
4155         break;
4156     case 'o':
4157         switch (len) {
4158         case 2:
4159             if (strEQ(d,"or"))                  return -KEY_or;
4160             break;
4161         case 3:
4162             if (strEQ(d,"ord"))                 return -KEY_ord;
4163             if (strEQ(d,"oct"))                 return -KEY_oct;
4164             break;
4165         case 4:
4166             if (strEQ(d,"open"))                return -KEY_open;
4167             break;
4168         case 7:
4169             if (strEQ(d,"opendir"))             return -KEY_opendir;
4170             break;
4171         }
4172         break;
4173     case 'p':
4174         switch (len) {
4175         case 3:
4176             if (strEQ(d,"pop"))                 return KEY_pop;
4177             if (strEQ(d,"pos"))                 return KEY_pos;
4178             break;
4179         case 4:
4180             if (strEQ(d,"push"))                return KEY_push;
4181             if (strEQ(d,"pack"))                return -KEY_pack;
4182             if (strEQ(d,"pipe"))                return -KEY_pipe;
4183             break;
4184         case 5:
4185             if (strEQ(d,"print"))               return KEY_print;
4186             break;
4187         case 6:
4188             if (strEQ(d,"printf"))              return KEY_printf;
4189             break;
4190         case 7:
4191             if (strEQ(d,"package"))             return KEY_package;
4192             break;
4193         case 9:
4194             if (strEQ(d,"prototype"))           return KEY_prototype;
4195         }
4196         break;
4197     case 'q':
4198         if (len <= 2) {
4199             if (strEQ(d,"q"))                   return KEY_q;
4200             if (strEQ(d,"qq"))                  return KEY_qq;
4201             if (strEQ(d,"qw"))                  return KEY_qw;
4202             if (strEQ(d,"qx"))                  return KEY_qx;
4203         }
4204         else if (strEQ(d,"quotemeta"))          return -KEY_quotemeta;
4205         break;
4206     case 'r':
4207         switch (len) {
4208         case 3:
4209             if (strEQ(d,"ref"))                 return -KEY_ref;
4210             break;
4211         case 4:
4212             if (strEQ(d,"read"))                return -KEY_read;
4213             if (strEQ(d,"rand"))                return -KEY_rand;
4214             if (strEQ(d,"recv"))                return -KEY_recv;
4215             if (strEQ(d,"redo"))                return KEY_redo;
4216             break;
4217         case 5:
4218             if (strEQ(d,"rmdir"))               return -KEY_rmdir;
4219             if (strEQ(d,"reset"))               return -KEY_reset;
4220             break;
4221         case 6:
4222             if (strEQ(d,"return"))              return KEY_return;
4223             if (strEQ(d,"rename"))              return -KEY_rename;
4224             if (strEQ(d,"rindex"))              return -KEY_rindex;
4225             break;
4226         case 7:
4227             if (strEQ(d,"require"))             return -KEY_require;
4228             if (strEQ(d,"reverse"))             return -KEY_reverse;
4229             if (strEQ(d,"readdir"))             return -KEY_readdir;
4230             break;
4231         case 8:
4232             if (strEQ(d,"readlink"))            return -KEY_readlink;
4233             if (strEQ(d,"readline"))            return -KEY_readline;
4234             if (strEQ(d,"readpipe"))            return -KEY_readpipe;
4235             break;
4236         case 9:
4237             if (strEQ(d,"rewinddir"))           return -KEY_rewinddir;
4238             break;
4239         }
4240         break;
4241     case 's':
4242         switch (d[1]) {
4243         case 0:                                 return KEY_s;
4244         case 'c':
4245             if (strEQ(d,"scalar"))              return KEY_scalar;
4246             break;
4247         case 'e':
4248             switch (len) {
4249             case 4:
4250                 if (strEQ(d,"seek"))            return -KEY_seek;
4251                 if (strEQ(d,"send"))            return -KEY_send;
4252                 break;
4253             case 5:
4254                 if (strEQ(d,"semop"))           return -KEY_semop;
4255                 break;
4256             case 6:
4257                 if (strEQ(d,"select"))          return -KEY_select;
4258                 if (strEQ(d,"semctl"))          return -KEY_semctl;
4259                 if (strEQ(d,"semget"))          return -KEY_semget;
4260                 break;
4261             case 7:
4262                 if (strEQ(d,"setpgrp"))         return -KEY_setpgrp;
4263                 if (strEQ(d,"seekdir"))         return -KEY_seekdir;
4264                 break;
4265             case 8:
4266                 if (strEQ(d,"setpwent"))        return -KEY_setpwent;
4267                 if (strEQ(d,"setgrent"))        return -KEY_setgrent;
4268                 break;
4269             case 9:
4270                 if (strEQ(d,"setnetent"))       return -KEY_setnetent;
4271                 break;
4272             case 10:
4273                 if (strEQ(d,"setsockopt"))      return -KEY_setsockopt;
4274                 if (strEQ(d,"sethostent"))      return -KEY_sethostent;
4275                 if (strEQ(d,"setservent"))      return -KEY_setservent;
4276                 break;
4277             case 11:
4278                 if (strEQ(d,"setpriority"))     return -KEY_setpriority;
4279                 if (strEQ(d,"setprotoent"))     return -KEY_setprotoent;
4280                 break;
4281             }
4282             break;
4283         case 'h':
4284             switch (len) {
4285             case 5:
4286                 if (strEQ(d,"shift"))           return KEY_shift;
4287                 break;
4288             case 6:
4289                 if (strEQ(d,"shmctl"))          return -KEY_shmctl;
4290                 if (strEQ(d,"shmget"))          return -KEY_shmget;
4291                 break;
4292             case 7:
4293                 if (strEQ(d,"shmread"))         return -KEY_shmread;
4294                 break;
4295             case 8:
4296                 if (strEQ(d,"shmwrite"))        return -KEY_shmwrite;
4297                 if (strEQ(d,"shutdown"))        return -KEY_shutdown;
4298                 break;
4299             }
4300             break;
4301         case 'i':
4302             if (strEQ(d,"sin"))                 return -KEY_sin;
4303             break;
4304         case 'l':
4305             if (strEQ(d,"sleep"))               return -KEY_sleep;
4306             break;
4307         case 'o':
4308             if (strEQ(d,"sort"))                return KEY_sort;
4309             if (strEQ(d,"socket"))              return -KEY_socket;
4310             if (strEQ(d,"socketpair"))          return -KEY_socketpair;
4311             break;
4312         case 'p':
4313             if (strEQ(d,"split"))               return KEY_split;
4314             if (strEQ(d,"sprintf"))             return -KEY_sprintf;
4315             if (strEQ(d,"splice"))              return KEY_splice;
4316             break;
4317         case 'q':
4318             if (strEQ(d,"sqrt"))                return -KEY_sqrt;
4319             break;
4320         case 'r':
4321             if (strEQ(d,"srand"))               return -KEY_srand;
4322             break;
4323         case 't':
4324             if (strEQ(d,"stat"))                return -KEY_stat;
4325             if (strEQ(d,"study"))               return KEY_study;
4326             break;
4327         case 'u':
4328             if (strEQ(d,"substr"))              return -KEY_substr;
4329             if (strEQ(d,"sub"))                 return KEY_sub;
4330             break;
4331         case 'y':
4332             switch (len) {
4333             case 6:
4334                 if (strEQ(d,"system"))          return -KEY_system;
4335                 break;
4336             case 7:
4337                 if (strEQ(d,"symlink"))         return -KEY_symlink;
4338                 if (strEQ(d,"syscall"))         return -KEY_syscall;
4339                 if (strEQ(d,"sysopen"))         return -KEY_sysopen;
4340                 if (strEQ(d,"sysread"))         return -KEY_sysread;
4341                 if (strEQ(d,"sysseek"))         return -KEY_sysseek;
4342                 break;
4343             case 8:
4344                 if (strEQ(d,"syswrite"))        return -KEY_syswrite;
4345                 break;
4346             }
4347             break;
4348         }
4349         break;
4350     case 't':
4351         switch (len) {
4352         case 2:
4353             if (strEQ(d,"tr"))                  return KEY_tr;
4354             break;
4355         case 3:
4356             if (strEQ(d,"tie"))                 return KEY_tie;
4357             break;
4358         case 4:
4359             if (strEQ(d,"tell"))                return -KEY_tell;
4360             if (strEQ(d,"tied"))                return KEY_tied;
4361             if (strEQ(d,"time"))                return -KEY_time;
4362             break;
4363         case 5:
4364             if (strEQ(d,"times"))               return -KEY_times;
4365             break;
4366         case 7:
4367             if (strEQ(d,"telldir"))             return -KEY_telldir;
4368             break;
4369         case 8:
4370             if (strEQ(d,"truncate"))            return -KEY_truncate;
4371             break;
4372         }
4373         break;
4374     case 'u':
4375         switch (len) {
4376         case 2:
4377             if (strEQ(d,"uc"))                  return -KEY_uc;
4378             break;
4379         case 3:
4380             if (strEQ(d,"use"))                 return KEY_use;
4381             break;
4382         case 5:
4383             if (strEQ(d,"undef"))               return KEY_undef;
4384             if (strEQ(d,"until"))               return KEY_until;
4385             if (strEQ(d,"untie"))               return KEY_untie;
4386             if (strEQ(d,"utime"))               return -KEY_utime;
4387             if (strEQ(d,"umask"))               return -KEY_umask;
4388             break;
4389         case 6:
4390             if (strEQ(d,"unless"))              return KEY_unless;
4391             if (strEQ(d,"unpack"))              return -KEY_unpack;
4392             if (strEQ(d,"unlink"))              return -KEY_unlink;
4393             break;
4394         case 7:
4395             if (strEQ(d,"unshift"))             return KEY_unshift;
4396             if (strEQ(d,"ucfirst"))             return -KEY_ucfirst;
4397             break;
4398         }
4399         break;
4400     case 'v':
4401         if (strEQ(d,"values"))                  return -KEY_values;
4402         if (strEQ(d,"vec"))                     return -KEY_vec;
4403         break;
4404     case 'w':
4405         switch (len) {
4406         case 4:
4407             if (strEQ(d,"warn"))                return -KEY_warn;
4408             if (strEQ(d,"wait"))                return -KEY_wait;
4409             break;
4410         case 5:
4411             if (strEQ(d,"while"))               return KEY_while;
4412             if (strEQ(d,"write"))               return -KEY_write;
4413             break;
4414         case 7:
4415             if (strEQ(d,"waitpid"))             return -KEY_waitpid;
4416             break;
4417         case 9:
4418             if (strEQ(d,"wantarray"))           return -KEY_wantarray;
4419             break;
4420         }
4421         break;
4422     case 'x':
4423         if (len == 1)                           return -KEY_x;
4424         if (strEQ(d,"xor"))                     return -KEY_xor;
4425         break;
4426     case 'y':
4427         if (len == 1)                           return KEY_y;
4428         break;
4429     case 'z':
4430         break;
4431     }
4432     return 0;
4433 }
4434
4435 static void
4436 checkcomma(register char *s, char *name, char *what)
4437 {
4438     char *w;
4439
4440     if (dowarn && *s == ' ' && s[1] == '(') {   /* XXX gotta be a better way */
4441         int level = 1;
4442         for (w = s+2; *w && level; w++) {
4443             if (*w == '(')
4444                 ++level;
4445             else if (*w == ')')
4446                 --level;
4447         }
4448         if (*w)
4449             for (; *w && isSPACE(*w); w++) ;
4450         if (!*w || !strchr(";|})]oaiuw!=", *w)) /* an advisory hack only... */
4451             warn("%s (...) interpreted as function",name);
4452     }
4453     while (s < bufend && isSPACE(*s))
4454         s++;
4455     if (*s == '(')
4456         s++;
4457     while (s < bufend && isSPACE(*s))
4458         s++;
4459     if (isIDFIRST(*s)) {
4460         w = s++;
4461         while (isALNUM(*s))
4462             s++;
4463         while (s < bufend && isSPACE(*s))
4464             s++;
4465         if (*s == ',') {
4466             int kw;
4467             *s = '\0';
4468             kw = keyword(w, s - w) || perl_get_cv(w, FALSE) != 0;
4469             *s = ',';
4470             if (kw)
4471                 return;
4472             croak("No comma allowed after %s", what);
4473         }
4474     }
4475 }
4476
4477 static char *
4478 scan_word(register char *s, char *dest, STRLEN destlen, int allow_package, STRLEN *slp)
4479 {
4480     register char *d = dest;
4481     register char *e = d + destlen - 3;  /* two-character token, ending NUL */
4482     for (;;) {
4483         if (d >= e)
4484             croak(ident_too_long);
4485         if (isALNUM(*s))
4486             *d++ = *s++;
4487         else if (*s == '\'' && allow_package && isIDFIRST(s[1])) {
4488             *d++ = ':';
4489             *d++ = ':';
4490             s++;
4491         }
4492         else if (*s == ':' && s[1] == ':' && allow_package && isIDFIRST(s[2])) {
4493             *d++ = *s++;
4494             *d++ = *s++;
4495         }
4496         else {
4497             *d = '\0';
4498             *slp = d - dest;
4499             return s;
4500         }
4501     }
4502 }
4503
4504 static char *
4505 scan_ident(register char *s, register char *send, char *dest, STRLEN destlen, I32 ck_uni)
4506 {
4507     register char *d;
4508     register char *e;
4509     char *bracket = 0;
4510     char funny = *s++;
4511
4512     if (lex_brackets == 0)
4513         lex_fakebrack = 0;
4514     if (isSPACE(*s))
4515         s = skipspace(s);
4516     d = dest;
4517     e = d + destlen - 3;        /* two-character token, ending NUL */
4518     if (isDIGIT(*s)) {
4519         while (isDIGIT(*s)) {
4520             if (d >= e)
4521                 croak(ident_too_long);
4522             *d++ = *s++;
4523         }
4524     }
4525     else {
4526         for (;;) {
4527             if (d >= e)
4528                 croak(ident_too_long);
4529             if (isALNUM(*s))
4530                 *d++ = *s++;
4531             else if (*s == '\'' && isIDFIRST(s[1])) {
4532                 *d++ = ':';
4533                 *d++ = ':';
4534                 s++;
4535             }
4536             else if (*s == ':' && s[1] == ':') {
4537                 *d++ = *s++;
4538                 *d++ = *s++;
4539             }
4540             else
4541                 break;
4542         }
4543     }
4544     *d = '\0';
4545     d = dest;
4546     if (*d) {
4547         if (lex_state != LEX_NORMAL)
4548             lex_state = LEX_INTERPENDMAYBE;
4549         return s;
4550     }
4551     if (*s == '$' && s[1] &&
4552       (isALNUM(s[1]) || strchr("${", s[1]) || strnEQ(s+1,"::",2)) )
4553     {
4554         if (isDIGIT(s[1]) && lex_state == LEX_INTERPNORMAL)
4555             deprecate("\"$$<digit>\" to mean \"${$}<digit>\"");
4556         else
4557             return s;
4558     }
4559     if (*s == '{') {
4560         bracket = s;
4561         s++;
4562     }
4563     else if (ck_uni)
4564         check_uni();
4565     if (s < send)
4566         *d = *s++;
4567     d[1] = '\0';
4568     if (*d == '^' && *s && (isUPPER(*s) || strchr("[\\]^_?", *s))) {
4569         *d = toCTRL(*s);
4570         s++;
4571     }
4572     if (bracket) {
4573         if (isSPACE(s[-1])) {
4574             while (s < send) {
4575                 char ch = *s++;
4576                 if (ch != ' ' && ch != '\t') {
4577                     *d = ch;
4578                     break;
4579                 }
4580             }
4581         }
4582         if (isIDFIRST(*d)) {
4583             d++;
4584             while (isALNUM(*s) || *s == ':')
4585                 *d++ = *s++;
4586             *d = '\0';
4587             while (s < send && (*s == ' ' || *s == '\t')) s++;
4588             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
4589                 if (dowarn && keyword(dest, d - dest)) {
4590                     char *brack = *s == '[' ? "[...]" : "{...}";
4591                     warn("Ambiguous use of %c{%s%s} resolved to %c%s%s",
4592                         funny, dest, brack, funny, dest, brack);
4593                 }
4594                 lex_fakebrack = lex_brackets+1;
4595                 bracket++;
4596                 lex_brackstack[lex_brackets++] = XOPERATOR;
4597                 return s;
4598             }
4599         }
4600         if (*s == '}') {
4601             s++;
4602             if (lex_state == LEX_INTERPNORMAL && !lex_brackets)
4603                 lex_state = LEX_INTERPEND;
4604             if (funny == '#')
4605                 funny = '@';
4606             if (dowarn && lex_state == LEX_NORMAL &&
4607               (keyword(dest, d - dest) || perl_get_cv(dest, FALSE)))
4608                 warn("Ambiguous use of %c{%s} resolved to %c%s",
4609                     funny, dest, funny, dest);
4610         }
4611         else {
4612             s = bracket;                /* let the parser handle it */
4613             *dest = '\0';
4614         }
4615     }
4616     else if (lex_state == LEX_INTERPNORMAL && !lex_brackets && !intuit_more(s))
4617         lex_state = LEX_INTERPEND;
4618     return s;
4619 }
4620
4621 void pmflag(U16 *pmfl, int ch)
4622 {
4623     if (ch == 'i')
4624         *pmfl |= PMf_FOLD;
4625     else if (ch == 'g')
4626         *pmfl |= PMf_GLOBAL;
4627     else if (ch == 'c')
4628         *pmfl |= PMf_CONTINUE;
4629     else if (ch == 'o')
4630         *pmfl |= PMf_KEEP;
4631     else if (ch == 'm')
4632         *pmfl |= PMf_MULTILINE;
4633     else if (ch == 's')
4634         *pmfl |= PMf_SINGLELINE;
4635     else if (ch == 'x')
4636         *pmfl |= PMf_EXTENDED;
4637 }
4638
4639 static char *
4640 scan_pat(char *start)
4641 {
4642     PMOP *pm;
4643     char *s;
4644
4645     s = scan_str(start);
4646     if (!s) {
4647         if (lex_stuff)
4648             SvREFCNT_dec(lex_stuff);
4649         lex_stuff = Nullsv;
4650         croak("Search pattern not terminated");
4651     }
4652
4653     pm = (PMOP*)newPMOP(OP_MATCH, 0);
4654     if (multi_open == '?')
4655         pm->op_pmflags |= PMf_ONCE;
4656     while (*s && strchr("iogcmsx", *s))
4657         pmflag(&pm->op_pmflags,*s++);
4658     pm->op_pmpermflags = pm->op_pmflags;
4659
4660     lex_op = (OP*)pm;
4661     yylval.ival = OP_MATCH;
4662     return s;
4663 }
4664
4665 static char *
4666 scan_subst(char *start)
4667 {
4668     register char *s;
4669     register PMOP *pm;
4670     I32 first_start;
4671     I32 es = 0;
4672
4673     yylval.ival = OP_NULL;
4674
4675     s = scan_str(start);
4676
4677     if (!s) {
4678         if (lex_stuff)
4679             SvREFCNT_dec(lex_stuff);
4680         lex_stuff = Nullsv;
4681         croak("Substitution pattern not terminated");
4682     }
4683
4684     if (s[-1] == multi_open)
4685         s--;
4686
4687     first_start = multi_start;
4688     s = scan_str(s);
4689     if (!s) {
4690         if (lex_stuff)
4691             SvREFCNT_dec(lex_stuff);
4692         lex_stuff = Nullsv;
4693         if (lex_repl)
4694             SvREFCNT_dec(lex_repl);
4695         lex_repl = Nullsv;
4696         croak("Substitution replacement not terminated");
4697     }
4698     multi_start = first_start;  /* so whole substitution is taken together */
4699
4700     pm = (PMOP*)newPMOP(OP_SUBST, 0);
4701     while (*s && strchr("iogcmsex", *s)) {
4702         if (*s == 'e') {
4703             s++;
4704             es++;
4705         }
4706         else
4707             pmflag(&pm->op_pmflags,*s++);
4708     }
4709
4710     if (es) {
4711         SV *repl;
4712         pm->op_pmflags |= PMf_EVAL;
4713         repl = newSVpv("",0);
4714         while (es-- > 0)
4715             sv_catpv(repl, es ? "eval " : "do ");
4716         sv_catpvn(repl, "{ ", 2);
4717         sv_catsv(repl, lex_repl);
4718         sv_catpvn(repl, " };", 2);
4719         SvCOMPILED_on(repl);
4720         SvREFCNT_dec(lex_repl);
4721         lex_repl = repl;
4722     }
4723
4724     pm->op_pmpermflags = pm->op_pmflags;
4725     lex_op = (OP*)pm;
4726     yylval.ival = OP_SUBST;
4727     return s;
4728 }
4729
4730 static char *
4731 scan_trans(char *start)
4732 {
4733     register char* s;
4734     OP *o;
4735     short *tbl;
4736     I32 squash;
4737     I32 Delete;
4738     I32 complement;
4739
4740     yylval.ival = OP_NULL;
4741
4742     s = scan_str(start);
4743     if (!s) {
4744         if (lex_stuff)
4745             SvREFCNT_dec(lex_stuff);
4746         lex_stuff = Nullsv;
4747         croak("Translation pattern not terminated");
4748     }
4749     if (s[-1] == multi_open)
4750         s--;
4751
4752     s = scan_str(s);
4753     if (!s) {
4754         if (lex_stuff)
4755             SvREFCNT_dec(lex_stuff);
4756         lex_stuff = Nullsv;
4757         if (lex_repl)
4758             SvREFCNT_dec(lex_repl);
4759         lex_repl = Nullsv;
4760         croak("Translation replacement not terminated");
4761     }
4762
4763     New(803,tbl,256,short);
4764     o = newPVOP(OP_TRANS, 0, (char*)tbl);
4765
4766     complement = Delete = squash = 0;
4767     while (*s == 'c' || *s == 'd' || *s == 's') {
4768         if (*s == 'c')
4769             complement = OPpTRANS_COMPLEMENT;
4770         else if (*s == 'd')
4771             Delete = OPpTRANS_DELETE;
4772         else
4773             squash = OPpTRANS_SQUASH;
4774         s++;
4775     }
4776     o->op_private = Delete|squash|complement;
4777
4778     lex_op = o;
4779     yylval.ival = OP_TRANS;
4780     return s;
4781 }
4782
4783 static char *
4784 scan_heredoc(register char *s)
4785 {
4786     dTHR;
4787     SV *herewas;
4788     I32 op_type = OP_SCALAR;
4789     I32 len;
4790     SV *tmpstr;
4791     char term;
4792     register char *d;
4793     register char *e;
4794     char *peek;
4795     int outer = (rsfp && !lex_inwhat);
4796
4797     s += 2;
4798     d = tokenbuf;
4799     e = tokenbuf + sizeof tokenbuf - 1;
4800     if (!outer)
4801         *d++ = '\n';
4802     for (peek = s; *peek == ' ' || *peek == '\t'; peek++) ;
4803     if (*peek && strchr("`'\"",*peek)) {
4804         s = peek;
4805         term = *s++;
4806         s = delimcpy(d, e, s, bufend, term, &len);
4807         d += len;
4808         if (s < bufend)
4809             s++;
4810     }
4811     else {
4812         if (*s == '\\')
4813             s++, term = '\'';
4814         else
4815             term = '"';
4816         if (!isALNUM(*s))
4817             deprecate("bare << to mean <<\"\"");
4818         for (; isALNUM(*s); s++) {
4819             if (d < e)
4820                 *d++ = *s;
4821         }
4822     }
4823     if (d >= tokenbuf + sizeof tokenbuf - 1)
4824         croak("Delimiter for here document is too long");
4825     *d++ = '\n';
4826     *d = '\0';
4827     len = d - tokenbuf;
4828     d = "\n";
4829     if (outer || !(d=ninstr(s,bufend,d,d+1)))
4830         herewas = newSVpv(s,bufend-s);
4831     else
4832         s--, herewas = newSVpv(s,d-s);
4833     s += SvCUR(herewas);
4834
4835     tmpstr = NEWSV(87,80);
4836     sv_upgrade(tmpstr, SVt_PVIV);
4837     if (term == '\'') {
4838         op_type = OP_CONST;
4839         SvIVX(tmpstr) = -1;
4840     }
4841     else if (term == '`') {
4842         op_type = OP_BACKTICK;
4843         SvIVX(tmpstr) = '\\';
4844     }
4845
4846     CLINE;
4847     multi_start = curcop->cop_line;
4848     multi_open = multi_close = '<';
4849     term = *tokenbuf;
4850     if (!outer) {
4851         d = s;
4852         while (s < bufend &&
4853           (*s != term || memNE(s,tokenbuf,len)) ) {
4854             if (*s++ == '\n')
4855                 curcop->cop_line++;
4856         }
4857         if (s >= bufend) {
4858             curcop->cop_line = multi_start;
4859             missingterm(tokenbuf);
4860         }
4861         sv_setpvn(tmpstr,d+1,s-d);
4862         s += len - 1;
4863         curcop->cop_line++;     /* the preceding stmt passes a newline */
4864
4865         sv_catpvn(herewas,s,bufend-s);
4866         sv_setsv(linestr,herewas);
4867         oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
4868         bufend = SvPVX(linestr) + SvCUR(linestr);
4869     }
4870     else
4871         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
4872     while (s >= bufend) {       /* multiple line string? */
4873         if (!outer ||
4874          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4875             curcop->cop_line = multi_start;
4876             missingterm(tokenbuf);
4877         }
4878         curcop->cop_line++;
4879         if (PERLDB_LINE && curstash != debstash) {
4880             SV *sv = NEWSV(88,0);
4881
4882             sv_upgrade(sv, SVt_PVMG);
4883             sv_setsv(sv,linestr);
4884             av_store(GvAV(curcop->cop_filegv),
4885               (I32)curcop->cop_line,sv);
4886         }
4887         bufend = SvPVX(linestr) + SvCUR(linestr);
4888         if (*s == term && memEQ(s,tokenbuf,len)) {
4889             s = bufend - 1;
4890             *s = ' ';
4891             sv_catsv(linestr,herewas);
4892             bufend = SvPVX(linestr) + SvCUR(linestr);
4893         }
4894         else {
4895             s = bufend;
4896             sv_catsv(tmpstr,linestr);
4897         }
4898     }
4899     multi_end = curcop->cop_line;
4900     s++;
4901     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
4902         SvLEN_set(tmpstr, SvCUR(tmpstr) + 1);
4903         Renew(SvPVX(tmpstr), SvLEN(tmpstr), char);
4904     }
4905     SvREFCNT_dec(herewas);
4906     lex_stuff = tmpstr;
4907     yylval.ival = op_type;
4908     return s;
4909 }
4910
4911 static char *
4912 scan_inputsymbol(char *start)
4913 {
4914     register char *s = start;
4915     register char *d;
4916     register char *e;
4917     I32 len;
4918
4919     d = tokenbuf;
4920     e = tokenbuf + sizeof tokenbuf;
4921     s = delimcpy(d, e, s + 1, bufend, '>', &len);
4922     if (len >= sizeof tokenbuf)
4923         croak("Excessively long <> operator");
4924     if (s >= bufend)
4925         croak("Unterminated <> operator");
4926     s++;
4927     if (*d == '$' && d[1]) d++;
4928     while (*d && (isALNUM(*d) || *d == '\'' || *d == ':'))
4929         d++;
4930     if (d - tokenbuf != len) {
4931         yylval.ival = OP_GLOB;
4932         set_csh();
4933         s = scan_str(start);
4934         if (!s)
4935             croak("Glob not terminated");
4936         return s;
4937     }
4938     else {
4939         d = tokenbuf;
4940         if (!len)
4941             (void)strcpy(d,"ARGV");
4942         if (*d == '$') {
4943             I32 tmp;
4944             if ((tmp = pad_findmy(d)) != NOT_IN_PAD) {
4945                 OP *o = newOP(OP_PADSV, 0);
4946                 o->op_targ = tmp;
4947                 lex_op = (OP*)newUNOP(OP_READLINE, 0, newUNOP(OP_RV2GV, 0, o));
4948             }
4949             else {
4950                 GV *gv = gv_fetchpv(d+1,TRUE, SVt_PV);
4951                 lex_op = (OP*)newUNOP(OP_READLINE, 0,
4952                                         newUNOP(OP_RV2GV, 0,
4953                                             newUNOP(OP_RV2SV, 0,
4954                                                 newGVOP(OP_GV, 0, gv))));
4955             }
4956             yylval.ival = OP_NULL;
4957         }
4958         else {
4959             GV *gv = gv_fetchpv(d,TRUE, SVt_PVIO);
4960             lex_op = (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
4961             yylval.ival = OP_NULL;
4962         }
4963     }
4964     return s;
4965 }
4966
4967 static char *
4968 scan_str(char *start)
4969 {
4970     dTHR;
4971     SV *sv;
4972     char *tmps;
4973     register char *s = start;
4974     register char term;
4975     register char *to;
4976     I32 brackets = 1;
4977
4978     if (isSPACE(*s))
4979         s = skipspace(s);
4980     CLINE;
4981     term = *s;
4982     multi_start = curcop->cop_line;
4983     multi_open = term;
4984     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4985         term = tmps[5];
4986     multi_close = term;
4987
4988     sv = NEWSV(87,80);
4989     sv_upgrade(sv, SVt_PVIV);
4990     SvIVX(sv) = term;
4991     (void)SvPOK_only(sv);               /* validate pointer */
4992     s++;
4993     for (;;) {
4994         SvGROW(sv, SvCUR(sv) + (bufend - s) + 1);
4995         to = SvPVX(sv)+SvCUR(sv);
4996         if (multi_open == multi_close) {
4997             for (; s < bufend; s++,to++) {
4998                 if (*s == '\n' && !rsfp)
4999                     curcop->cop_line++;
5000                 if (*s == '\\' && s+1 < bufend && term != '\\') {
5001                     if (s[1] == term)
5002                         s++;
5003                     else
5004                         *to++ = *s++;
5005                 }
5006                 else if (*s == term)
5007                     break;
5008                 *to = *s;
5009             }
5010         }
5011         else {
5012             for (; s < bufend; s++,to++) {
5013                 if (*s == '\n' && !rsfp)
5014                     curcop->cop_line++;
5015                 if (*s == '\\' && s+1 < bufend) {
5016                     if ((s[1] == multi_open) || (s[1] == multi_close))
5017                         s++;
5018                     else
5019                         *to++ = *s++;
5020                 }
5021                 else if (*s == multi_close && --brackets <= 0)
5022                     break;
5023                 else if (*s == multi_open)
5024                     brackets++;
5025                 *to = *s;
5026             }
5027         }
5028         *to = '\0';
5029         SvCUR_set(sv, to - SvPVX(sv));
5030
5031     if (s < bufend) break;      /* string ends on this line? */
5032
5033         if (!rsfp ||
5034          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
5035             sv_free(sv);
5036             curcop->cop_line = multi_start;
5037             return Nullch;
5038         }
5039         curcop->cop_line++;
5040         if (PERLDB_LINE && curstash != debstash) {
5041             SV *sv = NEWSV(88,0);
5042
5043             sv_upgrade(sv, SVt_PVMG);
5044             sv_setsv(sv,linestr);
5045             av_store(GvAV(curcop->cop_filegv),
5046               (I32)curcop->cop_line, sv);
5047         }
5048         bufend = SvPVX(linestr) + SvCUR(linestr);
5049     }
5050     multi_end = curcop->cop_line;
5051     s++;
5052     if (SvCUR(sv) + 5 < SvLEN(sv)) {
5053         SvLEN_set(sv, SvCUR(sv) + 1);
5054         Renew(SvPVX(sv), SvLEN(sv), char);
5055     }
5056     if (lex_stuff)
5057         lex_repl = sv;
5058     else
5059         lex_stuff = sv;
5060     return s;
5061 }
5062
5063 char *
5064 scan_num(char *start)
5065 {
5066     register char *s = start;
5067     register char *d;
5068     register char *e;
5069     I32 tryiv;
5070     double value;
5071     SV *sv;
5072     I32 floatit;
5073     char *lastub = 0;
5074     static char number_too_long[] = "Number too long";
5075
5076     switch (*s) {
5077     default:
5078         croak("panic: scan_num");
5079     case '0':
5080         {
5081             UV u;
5082             I32 shift;
5083             bool overflowed = FALSE;
5084
5085             if (s[1] == 'x') {
5086                 shift = 4;
5087                 s += 2;
5088             }
5089             else if (s[1] == '.')
5090                 goto decimal;
5091             else
5092                 shift = 3;
5093             u = 0;
5094             for (;;) {
5095                 UV n, b;
5096
5097                 switch (*s) {
5098                 default:
5099                     goto out;
5100                 case '_':
5101                     s++;
5102                     break;
5103                 case '8': case '9':
5104                     if (shift != 4)
5105                         yyerror("Illegal octal digit");
5106                     /* FALL THROUGH */
5107                 case '0': case '1': case '2': case '3': case '4':
5108                 case '5': case '6': case '7':
5109                     b = *s++ & 15;
5110                     goto digit;
5111                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
5112                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
5113                     if (shift != 4)
5114                         goto out;
5115                     b = (*s++ & 7) + 9;
5116                   digit:
5117                     n = u << shift;
5118                     if (!overflowed && (n >> shift) != u) {
5119                         warn("Integer overflow in %s number",
5120                              (shift == 4) ? "hex" : "octal");
5121                         overflowed = TRUE;
5122                     }
5123                     u = n | b;
5124                     break;
5125                 }
5126             }
5127           out:
5128             sv = NEWSV(92,0);
5129             sv_setuv(sv, u);
5130         }
5131         break;
5132     case '1': case '2': case '3': case '4': case '5':
5133     case '6': case '7': case '8': case '9': case '.':
5134       decimal:
5135         d = tokenbuf;
5136         e = tokenbuf + sizeof tokenbuf - 6; /* room for various punctuation */
5137         floatit = FALSE;
5138         while (isDIGIT(*s) || *s == '_') {
5139             if (*s == '_') {
5140                 if (dowarn && lastub && s - lastub != 3)
5141                     warn("Misplaced _ in number");
5142                 lastub = ++s;
5143             }
5144             else {
5145                 if (d >= e)
5146                     croak(number_too_long);
5147                 *d++ = *s++;
5148             }
5149         }
5150         if (dowarn && lastub && s - lastub != 3)
5151             warn("Misplaced _ in number");
5152         if (*s == '.' && s[1] != '.') {
5153             floatit = TRUE;
5154             *d++ = *s++;
5155             for (; isDIGIT(*s) || *s == '_'; s++) {
5156                 if (d >= e)
5157                     croak(number_too_long);
5158                 if (*s != '_')
5159                     *d++ = *s;
5160             }
5161         }
5162         if (*s && strchr("eE",*s) && strchr("+-0123456789",s[1])) {
5163             floatit = TRUE;
5164             s++;
5165             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
5166             if (*s == '+' || *s == '-')
5167                 *d++ = *s++;
5168             while (isDIGIT(*s)) {
5169                 if (d >= e)
5170                     croak(number_too_long);
5171                 *d++ = *s++;
5172             }
5173         }
5174         *d = '\0';
5175         sv = NEWSV(92,0);
5176         SET_NUMERIC_STANDARD();
5177         value = atof(tokenbuf);
5178         tryiv = I_V(value);
5179         if (!floatit && (double)tryiv == value)
5180             sv_setiv(sv, tryiv);
5181         else
5182             sv_setnv(sv, value);
5183         break;
5184     }
5185
5186     yylval.opval = newSVOP(OP_CONST, 0, sv);
5187
5188     return s;
5189 }
5190
5191 static char *
5192 scan_formline(register char *s)
5193 {
5194     dTHR;
5195     register char *eol;
5196     register char *t;
5197     SV *stuff = newSVpv("",0);
5198     bool needargs = FALSE;
5199
5200     while (!needargs) {
5201         if (*s == '.' || *s == '}') {
5202             /*SUPPRESS 530*/
5203             for (t = s+1; *t == ' ' || *t == '\t'; t++) ;
5204             if (*t == '\n')
5205                 break;
5206         }
5207         if (in_eval && !rsfp) {
5208             eol = strchr(s,'\n');
5209             if (!eol++)
5210                 eol = bufend;
5211         }
5212         else
5213             eol = bufend = SvPVX(linestr) + SvCUR(linestr);
5214         if (*s != '#') {
5215             for (t = s; t < eol; t++) {
5216                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
5217                     needargs = FALSE;
5218                     goto enough;        /* ~~ must be first line in formline */
5219                 }
5220                 if (*t == '@' || *t == '^')
5221                     needargs = TRUE;
5222             }
5223             sv_catpvn(stuff, s, eol-s);
5224         }
5225         s = eol;
5226         if (rsfp) {
5227             s = filter_gets(linestr, rsfp, 0);
5228             oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
5229             bufend = bufptr + SvCUR(linestr);
5230             if (!s) {
5231                 s = bufptr;
5232                 yyerror("Format not terminated");
5233                 break;
5234             }
5235         }
5236         incline(s);
5237     }
5238   enough:
5239     if (SvCUR(stuff)) {
5240         expect = XTERM;
5241         if (needargs) {
5242             lex_state = LEX_NORMAL;
5243             nextval[nexttoke].ival = 0;
5244             force_next(',');
5245         }
5246         else
5247             lex_state = LEX_FORMLINE;
5248         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, stuff);
5249         force_next(THING);
5250         nextval[nexttoke].ival = OP_FORMLINE;
5251         force_next(LSTOP);
5252     }
5253     else {
5254         SvREFCNT_dec(stuff);
5255         lex_formbrack = 0;
5256         bufptr = s;
5257     }
5258     return s;
5259 }
5260
5261 static void
5262 set_csh(void)
5263 {
5264 #ifdef CSH
5265     if (!cshlen)
5266         cshlen = strlen(cshname);
5267 #endif
5268 }
5269
5270 I32
5271 start_subparse(I32 is_format, U32 flags)
5272 {
5273     dTHR;
5274     I32 oldsavestack_ix = savestack_ix;
5275     CV* outsidecv = compcv;
5276     AV* comppadlist;
5277
5278     if (compcv) {
5279         assert(SvTYPE(compcv) == SVt_PVCV);
5280     }
5281     save_I32(&subline);
5282     save_item(subname);
5283     SAVEI32(padix);
5284     SAVESPTR(curpad);
5285     SAVESPTR(comppad);
5286     SAVESPTR(comppad_name);
5287     SAVESPTR(compcv);
5288     SAVEI32(comppad_name_fill);
5289     SAVEI32(min_intro_pending);
5290     SAVEI32(max_intro_pending);
5291     SAVEI32(pad_reset_pending);
5292
5293     compcv = (CV*)NEWSV(1104,0);
5294     sv_upgrade((SV *)compcv, is_format ? SVt_PVFM : SVt_PVCV);
5295     CvFLAGS(compcv) |= flags;
5296
5297     comppad = newAV();
5298     av_push(comppad, Nullsv);
5299     curpad = AvARRAY(comppad);
5300     comppad_name = newAV();
5301     comppad_name_fill = 0;
5302     min_intro_pending = 0;
5303     padix = 0;
5304     subline = curcop->cop_line;
5305 #ifdef USE_THREADS
5306     av_store(comppad_name, 0, newSVpv("@_", 2));
5307     curpad[0] = (SV*)newAV();
5308     SvPADMY_on(curpad[0]);      /* XXX Needed? */
5309     CvOWNER(compcv) = 0;
5310     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5311     MUTEX_INIT(CvMUTEXP(compcv));
5312 #endif /* USE_THREADS */
5313
5314     comppadlist = newAV();
5315     AvREAL_off(comppadlist);
5316     av_store(comppadlist, 0, (SV*)comppad_name);
5317     av_store(comppadlist, 1, (SV*)comppad);
5318
5319     CvPADLIST(compcv) = comppadlist;
5320     CvOUTSIDE(compcv) = (CV*)SvREFCNT_inc(outsidecv);
5321 #ifdef USE_THREADS
5322     CvOWNER(compcv) = 0;
5323     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5324     MUTEX_INIT(CvMUTEXP(compcv));
5325 #endif /* USE_THREADS */
5326
5327     return oldsavestack_ix;
5328 }
5329
5330 int
5331 yywarn(char *s)
5332 {
5333     dTHR;
5334     --error_count;
5335     in_eval |= 2;
5336     yyerror(s);
5337     in_eval &= ~2;
5338     return 0;
5339 }
5340
5341 int
5342 yyerror(char *s)
5343 {
5344     dTHR;
5345     char *where = NULL;
5346     char *context = NULL;
5347     int contlen = -1;
5348     SV *msg;
5349
5350     if (!yychar || (yychar == ';' && !rsfp))
5351         where = "at EOF";
5352     else if (bufptr > oldoldbufptr && bufptr - oldoldbufptr < 200 &&
5353       oldoldbufptr != oldbufptr && oldbufptr != bufptr) {
5354         while (isSPACE(*oldoldbufptr))
5355             oldoldbufptr++;
5356         context = oldoldbufptr;
5357         contlen = bufptr - oldoldbufptr;
5358     }
5359     else if (bufptr > oldbufptr && bufptr - oldbufptr < 200 &&
5360       oldbufptr != bufptr) {
5361         while (isSPACE(*oldbufptr))
5362             oldbufptr++;
5363         context = oldbufptr;
5364         contlen = bufptr - oldbufptr;
5365     }
5366     else if (yychar > 255)
5367         where = "next token ???";
5368     else if ((yychar & 127) == 127) {
5369         if (lex_state == LEX_NORMAL ||
5370            (lex_state == LEX_KNOWNEXT && lex_defer == LEX_NORMAL))
5371             where = "at end of line";
5372         else if (lex_inpat)
5373             where = "within pattern";
5374         else
5375             where = "within string";
5376     }
5377     else {
5378         SV *where_sv = sv_2mortal(newSVpv("next char ", 0));
5379         if (yychar < 32)
5380             sv_catpvf(where_sv, "^%c", toCTRL(yychar));
5381         else if (isPRINT_LC(yychar))
5382             sv_catpvf(where_sv, "%c", yychar);
5383         else
5384             sv_catpvf(where_sv, "\\%03o", yychar & 255);
5385         where = SvPVX(where_sv);
5386     }
5387     msg = sv_2mortal(newSVpv(s, 0));
5388     sv_catpvf(msg, " at %_ line %ld, ",
5389               GvSV(curcop->cop_filegv), (long)curcop->cop_line);
5390     if (context)
5391         sv_catpvf(msg, "near \"%.*s\"\n", contlen, context);
5392     else
5393         sv_catpvf(msg, "%s\n", where);
5394     if (multi_start < multi_end && (U32)(curcop->cop_line - multi_end) <= 1) {
5395         sv_catpvf(msg,
5396         "  (Might be a runaway multi-line %c%c string starting on line %ld)\n",
5397                 (int)multi_open,(int)multi_close,(long)multi_start);
5398         multi_end = 0;
5399     }
5400     if (in_eval & 2)
5401         warn("%_", msg);
5402     else if (in_eval)
5403         sv_catsv(ERRSV, msg);
5404     else
5405         PerlIO_write(PerlIO_stderr(), SvPVX(msg), SvCUR(msg));
5406     if (++error_count >= 10)
5407         croak("%_ has too many errors.\n", GvSV(curcop->cop_filegv));
5408     in_my = 0;
5409     in_my_stash = Nullhv;
5410     return 0;
5411 }
5412
5413