toke.c

   1 /*    toke.c
   2  *
   3  *    Copyright (c) 1991-1997, Larry Wall
   4  *
   5  *    You may distribute under the terms of either the GNU General Public
   6  *    License or the Artistic License, as specified in the README file.
   7  *
   8  */
   9
  10 /*
  11  *   "It all comes from here, the stench and the peril."  --Frodo
  12  */
  13
  14 #include "EXTERN.h"
  15 #include "perl.h"
  16
  17 static void check_uni _((void));
  18 static void  force_next _((I32 type));
  19 static char *force_version _((char *start));
  20 static char *force_word _((char *start, int token, int check_keyword, int allow_pack, int allow_tick));
  21 static SV *q _((SV *sv));
  22 static char *scan_const _((char *start));
  23 static char *scan_formline _((char *s));
  24 static char *scan_heredoc _((char *s));
  25 static char *scan_ident _((char *s, char *send, char *dest, STRLEN destlen,
  26                            I32 ck_uni));
  27 static char *scan_inputsymbol _((char *start));
  28 static char *scan_pat _((char *start));
  29 static char *scan_str _((char *start));
  30 static char *scan_subst _((char *start));
  31 static char *scan_trans _((char *start));
  32 static char *scan_word _((char *s, char *dest, STRLEN destlen,
  33                           int allow_package, STRLEN *slp));
  34 static char *skipspace _((char *s));
  35 static void checkcomma _((char *s, char *name, char *what));
  36 static void force_ident _((char *s, int kind));
  37 static void incline _((char *s));
  38 static int intuit_method _((char *s, GV *gv));
  39 static int intuit_more _((char *s));
  40 static I32 lop _((I32 f, expectation x, char *s));
  41 static void missingterm _((char *s));
  42 static void no_op _((char *what, char *s));
  43 static void set_csh _((void));
  44 static I32 sublex_done _((void));
  45 static I32 sublex_push _((void));
  46 static I32 sublex_start _((void));
  47 #ifdef CRIPPLED_CC
  48 static int uni _((I32 f, char *s));
  49 #endif
  50 static char * filter_gets _((SV *sv, PerlIO *fp, STRLEN append));
  51 static void restore_rsfp _((void *f));
  52
  53 static char ident_too_long[] = "Identifier too long";
  54
  55 static char *linestart;         /* beg. of most recently read line */
  56
  57 static char pending_ident;      /* pending identifier lookup */
  58
  59 static struct {
  60     I32 super_state;    /* lexer state to save */
  61     I32 sub_inwhat;     /* "lex_inwhat" to use */
  62     OP *sub_op;         /* "lex_op" to use */
  63 } sublex_info;
  64
  65 /* The following are arranged oddly so that the guard on the switch statement
  66  * can get by with a single comparison (if the compiler is smart enough).
  67  */
  68
  69 /* #define LEX_NOTPARSING               11 is done in perl.h. */
  70
  71 #define LEX_NORMAL              10
  72 #define LEX_INTERPNORMAL         9
  73 #define LEX_INTERPCASEMOD        8
  74 #define LEX_INTERPPUSH           7
  75 #define LEX_INTERPSTART          6
  76 #define LEX_INTERPEND            5
  77 #define LEX_INTERPENDMAYBE       4
  78 #define LEX_INTERPCONCAT         3
  79 #define LEX_INTERPCONST          2
  80 #define LEX_FORMLINE             1
  81 #define LEX_KNOWNEXT             0
  82
  83 #ifdef I_FCNTL
  84 #include <fcntl.h>
  85 #endif
  86 #ifdef I_SYS_FILE
  87 #include <sys/file.h>
  88 #endif
  89
  90 /* XXX If this causes problems, set i_unistd=undef in the hint file.  */
  91 #ifdef I_UNISTD
  92 #  include <unistd.h> /* Needed for execv() */
  93 #endif
  94
  95
  96 #ifdef ff_next
  97 #undef ff_next
  98 #endif
  99
 100 #include "keywords.h"
 101
 102 #ifdef CLINE
 103 #undef CLINE
 104 #endif
 105 #define CLINE (copline = (curcop->cop_line < copline ? curcop->cop_line : copline))
 106
 107 #define TOKEN(retval) return (bufptr = s,(int)retval)
 108 #define OPERATOR(retval) return (expect = XTERM,bufptr = s,(int)retval)
 109 #define AOPERATOR(retval) return ao((expect = XTERM,bufptr = s,(int)retval))
 110 #define PREBLOCK(retval) return (expect = XBLOCK,bufptr = s,(int)retval)
 111 #define PRETERMBLOCK(retval) return (expect = XTERMBLOCK,bufptr = s,(int)retval)
 112 #define PREREF(retval) return (expect = XREF,bufptr = s,(int)retval)
 113 #define TERM(retval) return (CLINE, expect = XOPERATOR,bufptr = s,(int)retval)
 114 #define LOOPX(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LOOPEX)
 115 #define FTST(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)UNIOP)
 116 #define FUN0(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC0)
 117 #define FUN1(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC1)
 118 #define BOop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITOROP))
 119 #define BAop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITANDOP))
 120 #define SHop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)SHIFTOP))
 121 #define PWop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)POWOP))
 122 #define PMop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)MATCHOP)
 123 #define Aop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)ADDOP))
 124 #define Mop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)MULOP))
 125 #define Eop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)EQOP)
 126 #define Rop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)RELOP)
 127
 128 /* This bit of chicanery makes a unary function followed by
 129  * a parenthesis into a function with one argument, highest precedence.
 130  */
 131 #define UNI(f) return(yylval.ival = f, \
 132         expect = XTERM, \
 133         bufptr = s, \
 134         last_uni = oldbufptr, \
 135         last_lop_op = f, \
 136         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 137
 138 #define UNIBRACK(f) return(yylval.ival = f, \
 139         bufptr = s, \
 140         last_uni = oldbufptr, \
 141         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 142
 143 /* grandfather return to old style */
 144 #define OLDLOP(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LSTOP)
 145
 146 static int
 147 ao(int toketype)
 148 {
 149     if (*bufptr == '=') {
 150         bufptr++;
 151         if (toketype == ANDAND)
 152             yylval.ival = OP_ANDASSIGN;
 153         else if (toketype == OROR)
 154             yylval.ival = OP_ORASSIGN;
 155         toketype = ASSIGNOP;
 156     }
 157     return toketype;
 158 }
 159
 160 static void
 161 no_op(char *what, char *s)
 162 {
 163     char *oldbp = bufptr;
 164     bool is_first = (oldbufptr == linestart);
 165
 166     bufptr = s;
 167     yywarn(form("%s found where operator expected", what));
 168     if (is_first)
 169         warn("\t(Missing semicolon on previous line?)\n");
 170     else if (oldoldbufptr && isIDFIRST(*oldoldbufptr)) {
 171         char *t;
 172         for (t = oldoldbufptr; *t && (isALNUM(*t) || *t == ':'); t++) ;
 173         if (t < bufptr && isSPACE(*t))
 174             warn("\t(Do you need to predeclare %.*s?)\n",
 175                 t - oldoldbufptr, oldoldbufptr);
 176
 177     }
 178     else
 179         warn("\t(Missing operator before %.*s?)\n", s - oldbp, oldbp);
 180     bufptr = oldbp;
 181 }
 182
 183 static void
 184 missingterm(char *s)
 185 {
 186     char tmpbuf[3];
 187     char q;
 188     if (s) {
 189         char *nl = strrchr(s,'\n');
 190         if (nl)
 191             *nl = '\0';
 192     }
 193     else if (multi_close < 32 || multi_close == 127) {
 194         *tmpbuf = '^';
 195         tmpbuf[1] = toCTRL(multi_close);
 196         s = "\\n";
 197         tmpbuf[2] = '\0';
 198         s = tmpbuf;
 199     }
 200     else {
 201         *tmpbuf = multi_close;
 202         tmpbuf[1] = '\0';
 203         s = tmpbuf;
 204     }
 205     q = strchr(s,'"') ? '\'' : '"';
 206     croak("Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
 207 }
 208
 209 void
 210 deprecate(char *s)
 211 {
 212     if (dowarn)
 213         warn("Use of %s is deprecated", s);
 214 }
 215
 216 static void
 217 depcom(void)
 218 {
 219     deprecate("comma-less variable list");
 220 }
 221
 222 void
 223 lex_start(SV *line)
 224 {
 225     dTHR;
 226     char *s;
 227     STRLEN len;
 228
 229     SAVEI32(lex_dojoin);
 230     SAVEI32(lex_brackets);
 231     SAVEI32(lex_fakebrack);
 232     SAVEI32(lex_casemods);
 233     SAVEI32(lex_starts);
 234     SAVEI32(lex_state);
 235     SAVESPTR(lex_inpat);
 236     SAVEI32(lex_inwhat);
 237     SAVEI16(curcop->cop_line);
 238     SAVEPPTR(bufptr);
 239     SAVEPPTR(bufend);
 240     SAVEPPTR(oldbufptr);
 241     SAVEPPTR(oldoldbufptr);
 242     SAVEPPTR(linestart);
 243     SAVESPTR(linestr);
 244     SAVEPPTR(lex_brackstack);
 245     SAVEPPTR(lex_casestack);
 246     SAVEDESTRUCTOR(restore_rsfp, rsfp);
 247
 248     lex_state = LEX_NORMAL;
 249     lex_defer = 0;
 250     expect = XSTATE;
 251     lex_brackets = 0;
 252     lex_fakebrack = 0;
 253     New(899, lex_brackstack, 120, char);
 254     New(899, lex_casestack, 12, char);
 255     SAVEFREEPV(lex_brackstack);
 256     SAVEFREEPV(lex_casestack);
 257     lex_casemods = 0;
 258     *lex_casestack = '\0';
 259     lex_dojoin = 0;
 260     lex_starts = 0;
 261     if (lex_stuff)
 262         SvREFCNT_dec(lex_stuff);
 263     lex_stuff = Nullsv;
 264     if (lex_repl)
 265         SvREFCNT_dec(lex_repl);
 266     lex_repl = Nullsv;
 267     lex_inpat = 0;
 268     lex_inwhat = 0;
 269     linestr = line;
 270     if (SvREADONLY(linestr))
 271         linestr = sv_2mortal(newSVsv(linestr));
 272     s = SvPV(linestr, len);
 273     if (len && s[len-1] != ';') {
 274         if (!(SvFLAGS(linestr) & SVs_TEMP))
 275             linestr = sv_2mortal(newSVsv(linestr));
 276         sv_catpvn(linestr, "\n;", 2);
 277     }
 278     SvTEMP_off(linestr);
 279     oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
 280     bufend = bufptr + SvCUR(linestr);
 281     SvREFCNT_dec(rs);
 282     rs = newSVpv("\n", 1);
 283     rsfp = 0;
 284 }
 285
 286 void
 287 lex_end(void)
 288 {
 289     doextract = FALSE;
 290 }
 291
 292 static void
 293 restore_rsfp(void *f)
 294 {
 295     PerlIO *fp = (PerlIO*)f;
 296
 297     if (rsfp == PerlIO_stdin())
 298         PerlIO_clearerr(rsfp);
 299     else if (rsfp && (rsfp != fp))
 300         PerlIO_close(rsfp);
 301     rsfp = fp;
 302 }
 303
 304 static void
 305 incline(char *s)
 306 {
 307     dTHR;
 308     char *t;
 309     char *n;
 310     char ch;
 311     int sawline = 0;
 312
 313     curcop->cop_line++;
 314     if (*s++ != '#')
 315         return;
 316     while (*s == ' ' || *s == '\t') s++;
 317     if (strnEQ(s, "line ", 5)) {
 318         s += 5;
 319         sawline = 1;
 320     }
 321     if (!isDIGIT(*s))
 322         return;
 323     n = s;
 324     while (isDIGIT(*s))
 325         s++;
 326     while (*s == ' ' || *s == '\t')
 327         s++;
 328     if (*s == '"' && (t = strchr(s+1, '"')))
 329         s++;
 330     else {
 331         if (!sawline)
 332             return;             /* false alarm */
 333         for (t = s; !isSPACE(*t); t++) ;
 334     }
 335     ch = *t;
 336     *t = '\0';
 337     if (t - s > 0)
 338         curcop->cop_filegv = gv_fetchfile(s);
 339     else
 340         curcop->cop_filegv = gv_fetchfile(origfilename);
 341     *t = ch;
 342     curcop->cop_line = atoi(n)-1;
 343 }
 344
 345 static char *
 346 skipspace(register char *s)
 347 {
 348     dTHR;
 349     if (lex_formbrack && lex_brackets <= lex_formbrack) {
 350         while (s < bufend && (*s == ' ' || *s == '\t'))
 351             s++;
 352         return s;
 353     }
 354     for (;;) {
 355         STRLEN prevlen;
 356         while (s < bufend && isSPACE(*s))
 357             s++;
 358         if (s < bufend && *s == '#') {
 359             while (s < bufend && *s != '\n')
 360                 s++;
 361             if (s < bufend)
 362                 s++;
 363         }
 364         if (s < bufend || !rsfp || lex_state != LEX_NORMAL)
 365             return s;
 366         if ((s = filter_gets(linestr, rsfp, (prevlen = SvCUR(linestr)))) == Nullch) {
 367             if (minus_n || minus_p) {
 368                 sv_setpv(linestr,minus_p ?
 369                          ";}continue{print or die qq(-p destination: $!\\n)" :
 370                          "");
 371                 sv_catpv(linestr,";}");
 372                 minus_n = minus_p = 0;
 373             }
 374             else
 375                 sv_setpv(linestr,";");
 376             oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
 377             bufend = SvPVX(linestr) + SvCUR(linestr);
 378             if (preprocess && !in_eval)
 379                 (void)my_pclose(rsfp);
 380             else if ((PerlIO*)rsfp == PerlIO_stdin())
 381                 PerlIO_clearerr(rsfp);
 382             else
 383                 (void)PerlIO_close(rsfp);
 384             if (e_fp == rsfp)
 385                 e_fp = Nullfp;
 386             rsfp = Nullfp;
 387             return s;
 388         }
 389         linestart = bufptr = s + prevlen;
 390         bufend = s + SvCUR(linestr);
 391         s = bufptr;
 392         incline(s);
 393         if (PERLDB_LINE && curstash != debstash) {
 394             SV *sv = NEWSV(85,0);
 395
 396             sv_upgrade(sv, SVt_PVMG);
 397             sv_setpvn(sv,bufptr,bufend-bufptr);
 398             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
 399         }
 400     }
 401 }
 402
 403 static void
 404 check_uni(void) {
 405     char *s;
 406     char ch;
 407     char *t;
 408
 409     if (oldoldbufptr != last_uni)
 410         return;
 411     while (isSPACE(*last_uni))
 412         last_uni++;
 413     for (s = last_uni; isALNUM(*s) || *s == '-'; s++) ;
 414     if ((t = strchr(s, '(')) && t < bufptr)
 415         return;
 416     ch = *s;
 417     *s = '\0';
 418     warn("Warning: Use of \"%s\" without parens is ambiguous", last_uni);
 419     *s = ch;
 420 }
 421
 422 #ifdef CRIPPLED_CC
 423
 424 #undef UNI
 425 #define UNI(f) return uni(f,s)
 426
 427 static int
 428 uni(I32 f, char *s)
 429 {
 430     yylval.ival = f;
 431     expect = XTERM;
 432     bufptr = s;
 433     last_uni = oldbufptr;
 434     last_lop_op = f;
 435     if (*s == '(')
 436         return FUNC1;
 437     s = skipspace(s);
 438     if (*s == '(')
 439         return FUNC1;
 440     else
 441         return UNIOP;
 442 }
 443
 444 #endif /* CRIPPLED_CC */
 445
 446 #define LOP(f,x) return lop(f,x,s)
 447
 448 static I32
 449 lop
 450 #ifdef CAN_PROTOTYPE
 451    (I32 f, expectation x, char *s)
 452 #else
 453    (f,x,s)
 454 I32 f;
 455 expectation x;
 456 char *s;
 457 #endif /* CAN_PROTOTYPE */
 458 {
 459     dTHR;
 460     yylval.ival = f;
 461     CLINE;
 462     expect = x;
 463     bufptr = s;
 464     last_lop = oldbufptr;
 465     last_lop_op = f;
 466     if (nexttoke)
 467         return LSTOP;
 468     if (*s == '(')
 469         return FUNC;
 470     s = skipspace(s);
 471     if (*s == '(')
 472         return FUNC;
 473     else
 474         return LSTOP;
 475 }
 476
 477 static void
 478 force_next(I32 type)
 479 {
 480     nexttype[nexttoke] = type;
 481     nexttoke++;
 482     if (lex_state != LEX_KNOWNEXT) {
 483         lex_defer = lex_state;
 484         lex_expect = expect;
 485         lex_state = LEX_KNOWNEXT;
 486     }
 487 }
 488
 489 static char *
 490 force_word(register char *start, int token, int check_keyword, int allow_pack, int allow_tick)
 491 {
 492     register char *s;
 493     STRLEN len;
 494
 495     start = skipspace(start);
 496     s = start;
 497     if (isIDFIRST(*s) ||
 498         (allow_pack && *s == ':') ||
 499         (allow_tick && *s == '\'') )
 500     {
 501         s = scan_word(s, tokenbuf, sizeof tokenbuf, allow_pack, &len);
 502         if (check_keyword && keyword(tokenbuf, len))
 503             return start;
 504         if (token == METHOD) {
 505             s = skipspace(s);
 506             if (*s == '(')
 507                 expect = XTERM;
 508             else {
 509                 expect = XOPERATOR;
 510                 force_next(')');
 511                 force_next('(');
 512             }
 513         }
 514         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST,0, newSVpv(tokenbuf,0));
 515         nextval[nexttoke].opval->op_private |= OPpCONST_BARE;
 516         force_next(token);
 517     }
 518     return s;
 519 }
 520
 521 static void
 522 force_ident(register char *s, int kind)
 523 {
 524     if (s && *s) {
 525         OP* o = (OP*)newSVOP(OP_CONST, 0, newSVpv(s,0));
 526         nextval[nexttoke].opval = o;
 527         force_next(WORD);
 528         if (kind) {
 529             dTHR;               /* just for in_eval */
 530             o->op_private = OPpCONST_ENTERED;
 531             /* XXX see note in pp_entereval() for why we forgo typo
 532                warnings if the symbol must be introduced in an eval.
 533                GSAR 96-10-12 */
 534             gv_fetchpv(s, in_eval ? GV_ADDMULTI : TRUE,
 535                 kind == '$' ? SVt_PV :
 536                 kind == '@' ? SVt_PVAV :
 537                 kind == '%' ? SVt_PVHV :
 538                               SVt_PVGV
 539                 );
 540         }
 541     }
 542 }
 543
 544 static char *
 545 force_version(char *s)
 546 {
 547     OP *version = Nullop;
 548
 549     s = skipspace(s);
 550
 551     /* default VERSION number -- GBARR */
 552
 553     if(isDIGIT(*s)) {
 554         char *d;
 555         int c;
 556         for( d=s, c = 1; isDIGIT(*d) || *d == '_' || (*d == '.' && c--); d++);
 557         if((*d == ';' || isSPACE(*d)) && *(skipspace(d)) != ',') {
 558             s = scan_num(s);
 559             /* real VERSION number -- GBARR */
 560             version = yylval.opval;
 561         }
 562     }
 563
 564     /* NOTE: The parser sees the package name and the VERSION swapped */
 565     nextval[nexttoke].opval = version;
 566     force_next(WORD);
 567
 568     return (s);
 569 }
 570
 571 static SV *
 572 q(SV *sv)
 573 {
 574     register char *s;
 575     register char *send;
 576     register char *d;
 577     STRLEN len;
 578
 579     if (!SvLEN(sv))
 580         return sv;
 581
 582     s = SvPV_force(sv, len);
 583     if (SvIVX(sv) == -1)
 584         return sv;
 585     send = s + len;
 586     while (s < send && *s != '\\')
 587         s++;
 588     if (s == send)
 589         return sv;
 590     d = s;
 591     while (s < send) {
 592         if (*s == '\\') {
 593             if (s + 1 < send && (s[1] == '\\'))
 594                 s++;            /* all that, just for this */
 595         }
 596         *d++ = *s++;
 597     }
 598     *d = '\0';
 599     SvCUR_set(sv, d - SvPVX(sv));
 600
 601     return sv;
 602 }
 603
 604 static I32
 605 sublex_start(void)
 606 {
 607     register I32 op_type = yylval.ival;
 608
 609     if (op_type == OP_NULL) {
 610         yylval.opval = lex_op;
 611         lex_op = Nullop;
 612         return THING;
 613     }
 614     if (op_type == OP_CONST || op_type == OP_READLINE) {
 615         SV *sv = q(lex_stuff);
 616         STRLEN len;
 617         char *p = SvPV(sv, len);
 618         yylval.opval = (OP*)newSVOP(op_type, 0, newSVpv(p, len));
 619         SvREFCNT_dec(sv);
 620         lex_stuff = Nullsv;
 621         return THING;
 622     }
 623
 624     sublex_info.super_state = lex_state;
 625     sublex_info.sub_inwhat = op_type;
 626     sublex_info.sub_op = lex_op;
 627     lex_state = LEX_INTERPPUSH;
 628
 629     expect = XTERM;
 630     if (lex_op) {
 631         yylval.opval = lex_op;
 632         lex_op = Nullop;
 633         return PMFUNC;
 634     }
 635     else
 636         return FUNC;
 637 }
 638
 639 static I32
 640 sublex_push(void)
 641 {
 642     dTHR;
 643     push_scope();
 644
 645     lex_state = sublex_info.super_state;
 646     SAVEI32(lex_dojoin);
 647     SAVEI32(lex_brackets);
 648     SAVEI32(lex_fakebrack);
 649     SAVEI32(lex_casemods);
 650     SAVEI32(lex_starts);
 651     SAVEI32(lex_state);
 652     SAVESPTR(lex_inpat);
 653     SAVEI32(lex_inwhat);
 654     SAVEI16(curcop->cop_line);
 655     SAVEPPTR(bufptr);
 656     SAVEPPTR(oldbufptr);
 657     SAVEPPTR(oldoldbufptr);
 658     SAVEPPTR(linestart);
 659     SAVESPTR(linestr);
 660     SAVEPPTR(lex_brackstack);
 661     SAVEPPTR(lex_casestack);
 662
 663     linestr = lex_stuff;
 664     lex_stuff = Nullsv;
 665
 666     bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 667     bufend += SvCUR(linestr);
 668     SAVEFREESV(linestr);
 669
 670     lex_dojoin = FALSE;
 671     lex_brackets = 0;
 672     lex_fakebrack = 0;
 673     New(899, lex_brackstack, 120, char);
 674     New(899, lex_casestack, 12, char);
 675     SAVEFREEPV(lex_brackstack);
 676     SAVEFREEPV(lex_casestack);
 677     lex_casemods = 0;
 678     *lex_casestack = '\0';
 679     lex_starts = 0;
 680     lex_state = LEX_INTERPCONCAT;
 681     curcop->cop_line = multi_start;
 682
 683     lex_inwhat = sublex_info.sub_inwhat;
 684     if (lex_inwhat == OP_MATCH || lex_inwhat == OP_SUBST)
 685         lex_inpat = sublex_info.sub_op;
 686     else
 687         lex_inpat = Nullop;
 688
 689     return '(';
 690 }
 691
 692 static I32
 693 sublex_done(void)
 694 {
 695     if (!lex_starts++) {
 696         expect = XOPERATOR;
 697         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv("",0));
 698         return THING;
 699     }
 700
 701     if (lex_casemods) {         /* oops, we've got some unbalanced parens */
 702         lex_state = LEX_INTERPCASEMOD;
 703         return yylex();
 704     }
 705
 706     /* Is there a right-hand side to take care of? */
 707     if (lex_repl && (lex_inwhat == OP_SUBST || lex_inwhat == OP_TRANS)) {
 708         linestr = lex_repl;
 709         lex_inpat = 0;
 710         bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 711         bufend += SvCUR(linestr);
 712         SAVEFREESV(linestr);
 713         lex_dojoin = FALSE;
 714         lex_brackets = 0;
 715         lex_fakebrack = 0;
 716         lex_casemods = 0;
 717         *lex_casestack = '\0';
 718         lex_starts = 0;
 719         if (SvCOMPILED(lex_repl)) {
 720             lex_state = LEX_INTERPNORMAL;
 721             lex_starts++;
 722         }
 723         else
 724             lex_state = LEX_INTERPCONCAT;
 725         lex_repl = Nullsv;
 726         return ',';
 727     }
 728     else {
 729         pop_scope();
 730         bufend = SvPVX(linestr);
 731         bufend += SvCUR(linestr);
 732         expect = XOPERATOR;
 733         return ')';
 734     }
 735 }
 736
 737 static char *
 738 scan_const(char *start)
 739 {
 740     register char *send = bufend;
 741     SV *sv = NEWSV(93, send - start);
 742     register char *s = start;
 743     register char *d = SvPVX(sv);
 744     bool dorange = FALSE;
 745     I32 len;
 746     char *leaveit =
 747         lex_inpat
 748             ? "\\.^$@AGZdDwWsSbB+*?|()-nrtfeaxc0123456789[{]} \t\n\r\f\v#"
 749             : (lex_inwhat & OP_TRANS)
 750                 ? ""
 751                 : "";
 752
 753     while (s < send || dorange) {
 754         if (lex_inwhat == OP_TRANS) {
 755             if (dorange) {
 756                 I32 i;
 757                 I32 max;
 758                 i = d - SvPVX(sv);
 759                 SvGROW(sv, SvLEN(sv) + 256);
 760                 d = SvPVX(sv) + i;
 761                 d -= 2;
 762                 max = (U8)d[1];
 763                 for (i = (U8)*d; i <= max; i++)
 764                     *d++ = i;
 765                 dorange = FALSE;
 766                 continue;
 767             }
 768             else if (*s == '-' && s+1 < send  && s != start) {
 769                 dorange = TRUE;
 770                 s++;
 771             }
 772         }
 773         else if (*s == '(' && lex_inpat && s[1] == '?' && s[2] == '#') {
 774             while (s < send && *s != ')')
 775                 *d++ = *s++;
 776         }
 777         else if (*s == '#' && lex_inpat &&
 778           ((PMOP*)lex_inpat)->op_pmflags & PMf_EXTENDED) {
 779             while (s+1 < send && *s != '\n')
 780                 *d++ = *s++;
 781         }
 782         else if (*s == '@' && s[1] && (isALNUM(s[1]) || strchr(":'{$", s[1])))
 783             break;
 784         else if (*s == '$') {
 785             if (!lex_inpat)     /* not a regexp, so $ must be var */
 786                 break;
 787             if (s + 1 < send && !strchr(")| \n\t", s[1]))
 788                 break;          /* in regexp, $ might be tail anchor */
 789         }
 790         if (*s == '\\' && s+1 < send) {
 791             s++;
 792             if (*s && strchr(leaveit, *s)) {
 793                 *d++ = '\\';
 794                 *d++ = *s++;
 795                 continue;
 796             }
 797             if (lex_inwhat == OP_SUBST && !lex_inpat &&
 798                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
 799             {
 800                 if (dowarn)
 801                     warn("\\%c better written as $%c", *s, *s);
 802                 *--s = '$';
 803                 break;
 804             }
 805             if (lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
 806                 --s;
 807                 break;
 808             }
 809             switch (*s) {
 810             case '-':
 811                 if (lex_inwhat == OP_TRANS) {
 812                     *d++ = *s++;
 813                     continue;
 814                 }
 815                 /* FALL THROUGH */
 816             default:
 817                 *d++ = *s++;
 818                 continue;
 819             case '0': case '1': case '2': case '3':
 820             case '4': case '5': case '6': case '7':
 821                 *d++ = scan_oct(s, 3, &len);
 822                 s += len;
 823                 continue;
 824             case 'x':
 825                 *d++ = scan_hex(++s, 2, &len);
 826                 s += len;
 827                 continue;
 828             case 'c':
 829                 s++;
 830                 len = *s++;
 831                 *d++ = toCTRL(len);
 832                 continue;
 833             case 'b':
 834                 *d++ = '\b';
 835                 break;
 836             case 'n':
 837                 *d++ = '\n';
 838                 break;
 839             case 'r':
 840                 *d++ = '\r';
 841                 break;
 842             case 'f':
 843                 *d++ = '\f';
 844                 break;
 845             case 't':
 846                 *d++ = '\t';
 847                 break;
 848             case 'e':
 849                 *d++ = '\033';
 850                 break;
 851             case 'a':
 852                 *d++ = '\007';
 853                 break;
 854             }
 855             s++;
 856             continue;
 857         }
 858         *d++ = *s++;
 859     }
 860     *d = '\0';
 861     SvCUR_set(sv, d - SvPVX(sv));
 862     SvPOK_on(sv);
 863
 864     if (SvCUR(sv) + 5 < SvLEN(sv)) {
 865         SvLEN_set(sv, SvCUR(sv) + 1);
 866         Renew(SvPVX(sv), SvLEN(sv), char);
 867     }
 868     if (s > bufptr)
 869         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
 870     else
 871         SvREFCNT_dec(sv);
 872     return s;
 873 }
 874
 875 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
 876 static int
 877 intuit_more(register char *s)
 878 {
 879     if (lex_brackets)
 880         return TRUE;
 881     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
 882         return TRUE;
 883     if (*s != '{' && *s != '[')
 884         return FALSE;
 885     if (!lex_inpat)
 886         return TRUE;
 887
 888     /* In a pattern, so maybe we have {n,m}. */
 889     if (*s == '{') {
 890         s++;
 891         if (!isDIGIT(*s))
 892             return TRUE;
 893         while (isDIGIT(*s))
 894             s++;
 895         if (*s == ',')
 896             s++;
 897         while (isDIGIT(*s))
 898             s++;
 899         if (*s == '}')
 900             return FALSE;
 901         return TRUE;
 902
 903     }
 904
 905     /* On the other hand, maybe we have a character class */
 906
 907     s++;
 908     if (*s == ']' || *s == '^')
 909         return FALSE;
 910     else {
 911         int weight = 2;         /* let's weigh the evidence */
 912         char seen[256];
 913         unsigned char un_char = 0, last_un_char;
 914         char *send = strchr(s,']');
 915         char tmpbuf[sizeof tokenbuf * 4];
 916
 917         if (!send)              /* has to be an expression */
 918             return TRUE;
 919
 920         Zero(seen,256,char);
 921         if (*s == '$')
 922             weight -= 3;
 923         else if (isDIGIT(*s)) {
 924             if (s[1] != ']') {
 925                 if (isDIGIT(s[1]) && s[2] == ']')
 926                     weight -= 10;
 927             }
 928             else
 929                 weight -= 100;
 930         }
 931         for (; s < send; s++) {
 932             last_un_char = un_char;
 933             un_char = (unsigned char)*s;
 934             switch (*s) {
 935             case '@':
 936             case '&':
 937             case '$':
 938                 weight -= seen[un_char] * 10;
 939                 if (isALNUM(s[1])) {
 940                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
 941                     if ((int)strlen(tmpbuf) > 1 && gv_fetchpv(tmpbuf,FALSE, SVt_PV))
 942                         weight -= 100;
 943                     else
 944                         weight -= 10;
 945                 }
 946                 else if (*s == '$' && s[1] &&
 947                   strchr("[#!%*<>()-=",s[1])) {
 948                     if (/*{*/ strchr("])} =",s[2]))
 949                         weight -= 10;
 950                     else
 951                         weight -= 1;
 952                 }
 953                 break;
 954             case '\\':
 955                 un_char = 254;
 956                 if (s[1]) {
 957                     if (strchr("wds]",s[1]))
 958                         weight += 100;
 959                     else if (seen['\''] || seen['"'])
 960                         weight += 1;
 961                     else if (strchr("rnftbxcav",s[1]))
 962                         weight += 40;
 963                     else if (isDIGIT(s[1])) {
 964                         weight += 40;
 965                         while (s[1] && isDIGIT(s[1]))
 966                             s++;
 967                     }
 968                 }
 969                 else
 970                     weight += 100;
 971                 break;
 972             case '-':
 973                 if (s[1] == '\\')
 974                     weight += 50;
 975                 if (strchr("aA01! ",last_un_char))
 976                     weight += 30;
 977                 if (strchr("zZ79~",s[1]))
 978                     weight += 30;
 979                 break;
 980             default:
 981                 if (!isALNUM(last_un_char) && !strchr("$@&",last_un_char) &&
 982                         isALPHA(*s) && s[1] && isALPHA(s[1])) {
 983                     char *d = tmpbuf;
 984                     while (isALPHA(*s))
 985                         *d++ = *s++;
 986                     *d = '\0';
 987                     if (keyword(tmpbuf, d - tmpbuf))
 988                         weight -= 150;
 989                 }
 990                 if (un_char == last_un_char + 1)
 991                     weight += 5;
 992                 weight -= seen[un_char];
 993                 break;
 994             }
 995             seen[un_char]++;
 996         }
 997         if (weight >= 0)        /* probably a character class */
 998             return FALSE;
 999     }
1000
1001     return TRUE;
1002 }
1003
1004 static int
1005 intuit_method(char *start, GV *gv)
1006 {
1007     char *s = start + (*start == '$');
1008     char tmpbuf[sizeof tokenbuf];
1009     STRLEN len;
1010     GV* indirgv;
1011
1012     if (gv) {
1013         if (GvIO(gv))
1014             return 0;
1015         if (!GvCVu(gv))
1016             gv = 0;
1017     }
1018     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
1019     if (*start == '$') {
1020         if (gv || last_lop_op == OP_PRINT || isUPPER(*tokenbuf))
1021             return 0;
1022         s = skipspace(s);
1023         bufptr = start;
1024         expect = XREF;
1025         return *s == '(' ? FUNCMETH : METHOD;
1026     }
1027     if (!keyword(tmpbuf, len)) {
1028         indirgv = gv_fetchpv(tmpbuf,FALSE, SVt_PVCV);
1029         if (indirgv && GvCVu(indirgv))
1030             return 0;
1031         /* filehandle or package name makes it a method */
1032         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
1033             s = skipspace(s);
1034             if ((bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
1035                 return 0;       /* no assumptions -- "=>" quotes bearword */
1036             nextval[nexttoke].opval =
1037                 (OP*)newSVOP(OP_CONST, 0,
1038                             newSVpv(tmpbuf,0));
1039             nextval[nexttoke].opval->op_private =
1040                 OPpCONST_BARE;
1041             expect = XTERM;
1042             force_next(WORD);
1043             bufptr = s;
1044             return *s == '(' ? FUNCMETH : METHOD;
1045         }
1046     }
1047     return 0;
1048 }
1049
1050 static char*
1051 incl_perldb(void)
1052 {
1053     if (perldb) {
1054         char *pdb = getenv("PERL5DB");
1055
1056         if (pdb)
1057             return pdb;
1058         return "BEGIN { require 'perl5db.pl' }";
1059     }
1060     return "";
1061 }
1062
1063
1064 /* Encoded script support. filter_add() effectively inserts a
1065  * 'pre-processing' function into the current source input stream.
1066  * Note that the filter function only applies to the current source file
1067  * (e.g., it will not affect files 'require'd or 'use'd by this one).
1068  *
1069  * The datasv parameter (which may be NULL) can be used to pass
1070  * private data to this instance of the filter. The filter function
1071  * can recover the SV using the FILTER_DATA macro and use it to
1072  * store private buffers and state information.
1073  *
1074  * The supplied datasv parameter is upgraded to a PVIO type
1075  * and the IoDIRP field is used to store the function pointer.
1076  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
1077  * private use must be set using malloc'd pointers.
1078  */
1079 static int filter_debug = 0;
1080
1081 SV *
1082 filter_add(filter_t funcp, SV *datasv)
1083 {
1084     if (!funcp){ /* temporary handy debugging hack to be deleted */
1085         filter_debug = atoi((char*)datasv);
1086         return NULL;
1087     }
1088     if (!rsfp_filters)
1089         rsfp_filters = newAV();
1090     if (!datasv)
1091         datasv = newSV(0);
1092     if (!SvUPGRADE(datasv, SVt_PVIO))
1093         die("Can't upgrade filter_add data to SVt_PVIO");
1094     IoDIRP(datasv) = (DIR*)funcp; /* stash funcp into spare field */
1095     if (filter_debug)
1096         warn("filter_add func %p (%s)", funcp, SvPV(datasv,na));
1097     av_unshift(rsfp_filters, 1);
1098     av_store(rsfp_filters, 0, datasv) ;
1099     return(datasv);
1100 }
1101
1102
1103 /* Delete most recently added instance of this filter function. */
1104 void
1105 filter_del(filter_t funcp)
1106 {
1107     if (filter_debug)
1108         warn("filter_del func %p", funcp);
1109     if (!rsfp_filters || AvFILL(rsfp_filters)<0)
1110         return;
1111     /* if filter is on top of stack (usual case) just pop it off */
1112     if (IoDIRP(FILTER_DATA(0)) == (void*)funcp){
1113         /* sv_free(av_pop(rsfp_filters)); */
1114         sv_free(av_shift(rsfp_filters));
1115
1116         return;
1117     }
1118     /* we need to search for the correct entry and clear it     */
1119     die("filter_del can only delete in reverse order (currently)");
1120 }
1121
1122
1123 /* Invoke the n'th filter function for the current rsfp.         */
1124 I32
1125 filter_read(int idx, SV *buf_sv, int maxlen)
1126
1127
1128                         /* 0 = read one text line */
1129 {
1130     filter_t funcp;
1131     SV *datasv = NULL;
1132
1133     if (!rsfp_filters)
1134         return -1;
1135     if (idx > AvFILL(rsfp_filters)){       /* Any more filters? */
1136         /* Provide a default input filter to make life easy.    */
1137         /* Note that we append to the line. This is handy.      */
1138         if (filter_debug)
1139             warn("filter_read %d: from rsfp\n", idx);
1140         if (maxlen) {
1141             /* Want a block */
1142             int len ;
1143             int old_len = SvCUR(buf_sv) ;
1144
1145             /* ensure buf_sv is large enough */
1146             SvGROW(buf_sv, old_len + maxlen) ;
1147             if ((len = PerlIO_read(rsfp, SvPVX(buf_sv) + old_len, maxlen)) <= 0){
1148                 if (PerlIO_error(rsfp))
1149                     return -1;          /* error */
1150                 else
1151                     return 0 ;          /* end of file */
1152             }
1153             SvCUR_set(buf_sv, old_len + len) ;
1154         } else {
1155             /* Want a line */
1156             if (sv_gets(buf_sv, rsfp, SvCUR(buf_sv)) == NULL) {
1157                 if (PerlIO_error(rsfp))
1158                     return -1;          /* error */
1159                 else
1160                     return 0 ;          /* end of file */
1161             }
1162         }
1163         return SvCUR(buf_sv);
1164     }
1165     /* Skip this filter slot if filter has been deleted */
1166     if ( (datasv = FILTER_DATA(idx)) == &sv_undef){
1167         if (filter_debug)
1168             warn("filter_read %d: skipped (filter deleted)\n", idx);
1169         return FILTER_READ(idx+1, buf_sv, maxlen); /* recurse */
1170     }
1171     /* Get function pointer hidden within datasv        */
1172     funcp = (filter_t)IoDIRP(datasv);
1173     if (filter_debug)
1174         warn("filter_read %d: via function %p (%s)\n",
1175                 idx, funcp, SvPV(datasv,na));
1176     /* Call function. The function is expected to       */
1177     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
1178     /* Return: <0:error, =0:eof, >0:not eof             */
1179     return (*funcp)(idx, buf_sv, maxlen);
1180 }
1181
1182 static char *
1183 filter_gets(register SV *sv, register FILE *fp, STRLEN append)
1184 {
1185     if (rsfp_filters) {
1186
1187         if (!append)
1188             SvCUR_set(sv, 0);   /* start with empty line        */
1189         if (FILTER_READ(0, sv, 0) > 0)
1190             return ( SvPVX(sv) ) ;
1191         else
1192             return Nullch ;
1193     }
1194     else
1195         return (sv_gets(sv, fp, append));
1196
1197 }
1198
1199
1200 #ifdef DEBUGGING
1201     static char* exp_name[] =
1202         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "TERMBLOCK" };
1203 #endif
1204
1205 EXT int yychar;         /* last token */
1206
1207 int
1208 yylex(void)
1209 {
1210     dTHR;
1211     register char *s;
1212     register char *d;
1213     register I32 tmp;
1214     STRLEN len;
1215
1216     if (pending_ident) {
1217         char pit = pending_ident;
1218         pending_ident = 0;
1219
1220         if (in_my) {
1221             if (strchr(tokenbuf,':'))
1222                 croak(no_myglob,tokenbuf);
1223             yylval.opval = newOP(OP_PADANY, 0);
1224             yylval.opval->op_targ = pad_allocmy(tokenbuf);
1225             return PRIVATEREF;
1226         }
1227
1228         if (!strchr(tokenbuf,':')) {
1229 #ifdef USE_THREADS
1230             /* Check for single character per-thread magicals */
1231             if (tokenbuf[0] == '$' && tokenbuf[2] == '\0'
1232                 && !isALPHA(tokenbuf[1]) /* Rule out obvious non-magicals */
1233                 && (tmp = find_thread_magical(&tokenbuf[1])) != NOT_IN_PAD)
1234             {
1235                 yylval.opval = newOP(OP_SPECIFIC, 0);
1236                 yylval.opval->op_targ = tmp;
1237                 return PRIVATEREF;
1238             }
1239 #endif /* USE_THREADS */
1240             if ((tmp = pad_findmy(tokenbuf)) != NOT_IN_PAD) {
1241                 if (last_lop_op == OP_SORT &&
1242                     tokenbuf[0] == '$' &&
1243                     (tokenbuf[1] == 'a' || tokenbuf[1] == 'b')
1244                     && !tokenbuf[2])
1245                 {
1246                     for (d = in_eval ? oldoldbufptr : linestart;
1247                          d < bufend && *d != '\n';
1248                          d++)
1249                     {
1250                         if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
1251                             croak("Can't use \"my %s\" in sort comparison",
1252                                   tokenbuf);
1253                         }
1254                     }
1255                 }
1256
1257                 yylval.opval = newOP(OP_PADANY, 0);
1258                 yylval.opval->op_targ = tmp;
1259                 return PRIVATEREF;
1260             }
1261         }
1262
1263         /* Force them to make up their mind on "@foo". */
1264         if (pit == '@' && lex_state != LEX_NORMAL && !lex_brackets) {
1265             GV *gv = gv_fetchpv(tokenbuf+1, FALSE, SVt_PVAV);
1266             if (!gv || ((tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
1267                 yyerror(form("In string, %s now must be written as \\%s",
1268                              tokenbuf, tokenbuf));
1269         }
1270
1271         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf+1, 0));
1272         yylval.opval->op_private = OPpCONST_ENTERED;
1273         gv_fetchpv(tokenbuf+1, in_eval ? GV_ADDMULTI : TRUE,
1274                    ((tokenbuf[0] == '$') ? SVt_PV
1275                     : (tokenbuf[0] == '@') ? SVt_PVAV
1276                     : SVt_PVHV));
1277         return WORD;
1278     }
1279
1280     switch (lex_state) {
1281 #ifdef COMMENTARY
1282     case LEX_NORMAL:            /* Some compilers will produce faster */
1283     case LEX_INTERPNORMAL:      /* code if we comment these out. */
1284         break;
1285 #endif
1286
1287     case LEX_KNOWNEXT:
1288         nexttoke--;
1289         yylval = nextval[nexttoke];
1290         if (!nexttoke) {
1291             lex_state = lex_defer;
1292             expect = lex_expect;
1293             lex_defer = LEX_NORMAL;
1294         }
1295         return(nexttype[nexttoke]);
1296
1297     case LEX_INTERPCASEMOD:
1298 #ifdef DEBUGGING
1299         if (bufptr != bufend && *bufptr != '\\')
1300             croak("panic: INTERPCASEMOD");
1301 #endif
1302         if (bufptr == bufend || bufptr[1] == 'E') {
1303             char oldmod;
1304             if (lex_casemods) {
1305                 oldmod = lex_casestack[--lex_casemods];
1306                 lex_casestack[lex_casemods] = '\0';
1307                 if (bufptr != bufend && strchr("LUQ", oldmod)) {
1308                     bufptr += 2;
1309                     lex_state = LEX_INTERPCONCAT;
1310                 }
1311                 return ')';
1312             }
1313             if (bufptr != bufend)
1314                 bufptr += 2;
1315             lex_state = LEX_INTERPCONCAT;
1316             return yylex();
1317         }
1318         else {
1319             s = bufptr + 1;
1320             if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
1321                 tmp = *s, *s = s[2], s[2] = tmp;        /* misordered... */
1322             if (strchr("LU", *s) &&
1323                 (strchr(lex_casestack, 'L') || strchr(lex_casestack, 'U')))
1324             {
1325                 lex_casestack[--lex_casemods] = '\0';
1326                 return ')';
1327             }
1328             if (lex_casemods > 10) {
1329                 char* newlb = Renew(lex_casestack, lex_casemods + 2, char);
1330                 if (newlb != lex_casestack) {
1331                     SAVEFREEPV(newlb);
1332                     lex_casestack = newlb;
1333                 }
1334             }
1335             lex_casestack[lex_casemods++] = *s;
1336             lex_casestack[lex_casemods] = '\0';
1337             lex_state = LEX_INTERPCONCAT;
1338             nextval[nexttoke].ival = 0;
1339             force_next('(');
1340             if (*s == 'l')
1341                 nextval[nexttoke].ival = OP_LCFIRST;
1342             else if (*s == 'u')
1343                 nextval[nexttoke].ival = OP_UCFIRST;
1344             else if (*s == 'L')
1345                 nextval[nexttoke].ival = OP_LC;
1346             else if (*s == 'U')
1347                 nextval[nexttoke].ival = OP_UC;
1348             else if (*s == 'Q')
1349                 nextval[nexttoke].ival = OP_QUOTEMETA;
1350             else
1351                 croak("panic: yylex");
1352             bufptr = s + 1;
1353             force_next(FUNC);
1354             if (lex_starts) {
1355                 s = bufptr;
1356                 lex_starts = 0;
1357                 Aop(OP_CONCAT);
1358             }
1359             else
1360                 return yylex();
1361         }
1362
1363     case LEX_INTERPPUSH:
1364         return sublex_push();
1365
1366     case LEX_INTERPSTART:
1367         if (bufptr == bufend)
1368             return sublex_done();
1369         expect = XTERM;
1370         lex_dojoin = (*bufptr == '@');
1371         lex_state = LEX_INTERPNORMAL;
1372         if (lex_dojoin) {
1373             nextval[nexttoke].ival = 0;
1374             force_next(',');
1375 #ifdef USE_THREADS
1376             nextval[nexttoke].opval = newOP(OP_SPECIFIC, 0);
1377             nextval[nexttoke].opval->op_targ = find_thread_magical("\"");
1378             force_next(PRIVATEREF);
1379 #else
1380             force_ident("\"", '$');
1381 #endif /* USE_THREADS */
1382             nextval[nexttoke].ival = 0;
1383             force_next('$');
1384             nextval[nexttoke].ival = 0;
1385             force_next('(');
1386             nextval[nexttoke].ival = OP_JOIN;   /* emulate join($", ...) */
1387             force_next(FUNC);
1388         }
1389         if (lex_starts++) {
1390             s = bufptr;
1391             Aop(OP_CONCAT);
1392         }
1393         return yylex();
1394
1395     case LEX_INTERPENDMAYBE:
1396         if (intuit_more(bufptr)) {
1397             lex_state = LEX_INTERPNORMAL;       /* false alarm, more expr */
1398             break;
1399         }
1400         /* FALL THROUGH */
1401
1402     case LEX_INTERPEND:
1403         if (lex_dojoin) {
1404             lex_dojoin = FALSE;
1405             lex_state = LEX_INTERPCONCAT;
1406             return ')';
1407         }
1408         /* FALLTHROUGH */
1409     case LEX_INTERPCONCAT:
1410 #ifdef DEBUGGING
1411         if (lex_brackets)
1412             croak("panic: INTERPCONCAT");
1413 #endif
1414         if (bufptr == bufend)
1415             return sublex_done();
1416
1417         if (SvIVX(linestr) == '\'') {
1418             SV *sv = newSVsv(linestr);
1419             if (!lex_inpat)
1420                 sv = q(sv);
1421             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1422             s = bufend;
1423         }
1424         else {
1425             s = scan_const(bufptr);
1426             if (*s == '\\')
1427                 lex_state = LEX_INTERPCASEMOD;
1428             else
1429                 lex_state = LEX_INTERPSTART;
1430         }
1431
1432         if (s != bufptr) {
1433             nextval[nexttoke] = yylval;
1434             expect = XTERM;
1435             force_next(THING);
1436             if (lex_starts++)
1437                 Aop(OP_CONCAT);
1438             else {
1439                 bufptr = s;
1440                 return yylex();
1441             }
1442         }
1443
1444         return yylex();
1445     case LEX_FORMLINE:
1446         lex_state = LEX_NORMAL;
1447         s = scan_formline(bufptr);
1448         if (!lex_formbrack)
1449             goto rightbracket;
1450         OPERATOR(';');
1451     }
1452
1453     s = bufptr;
1454     oldoldbufptr = oldbufptr;
1455     oldbufptr = s;
1456     DEBUG_p( {
1457         PerlIO_printf(PerlIO_stderr(), "### Tokener expecting %s at %s\n", exp_name[expect], s);
1458     } )
1459
1460   retry:
1461     switch (*s) {
1462     default:
1463         croak("Unrecognized character \\%03o", *s & 255);
1464     case 4:
1465     case 26:
1466         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
1467     case 0:
1468         if (!rsfp) {
1469             last_uni = 0;
1470             last_lop = 0;
1471             if (lex_brackets)
1472                 yyerror("Missing right bracket");
1473             TOKEN(0);
1474         }
1475         if (s++ < bufend)
1476             goto retry;                 /* ignore stray nulls */
1477         last_uni = 0;
1478         last_lop = 0;
1479         if (!in_eval && !preambled) {
1480             preambled = TRUE;
1481             sv_setpv(linestr,incl_perldb());
1482             if (SvCUR(linestr))
1483                 sv_catpv(linestr,";");
1484             if (preambleav){
1485                 while(AvFILL(preambleav) >= 0) {
1486                     SV *tmpsv = av_shift(preambleav);
1487                     sv_catsv(linestr, tmpsv);
1488                     sv_catpv(linestr, ";");
1489                     sv_free(tmpsv);
1490                 }
1491                 sv_free((SV*)preambleav);
1492                 preambleav = NULL;
1493             }
1494             if (minus_n || minus_p) {
1495                 sv_catpv(linestr, "LINE: while (<>) {");
1496                 if (minus_l)
1497                     sv_catpv(linestr,"chomp;");
1498                 if (minus_a) {
1499                     GV* gv = gv_fetchpv("::F", TRUE, SVt_PVAV);
1500                     if (gv)
1501                         GvIMPORTED_AV_on(gv);
1502                     if (minus_F) {
1503                         if (strchr("/'\"", *splitstr)
1504                               && strchr(splitstr + 1, *splitstr))
1505                             sv_catpvf(linestr, "@F=split(%s);", splitstr);
1506                         else {
1507                             char delim;
1508                             s = "'~#\200\1'"; /* surely one char is unused...*/
1509                             while (s[1] && strchr(splitstr, *s))  s++;
1510                             delim = *s;
1511                             sv_catpvf(linestr, "@F=split(%s%c",
1512                                       "q" + (delim == '\''), delim);
1513                             for (s = splitstr; *s; s++) {
1514                                 if (*s == '\\')
1515                                     sv_catpvn(linestr, "\\", 1);
1516                                 sv_catpvn(linestr, s, 1);
1517                             }
1518                             sv_catpvf(linestr, "%c);", delim);
1519                         }
1520                     }
1521                     else
1522                         sv_catpv(linestr,"@F=split(' ');");
1523                 }
1524             }
1525             sv_catpv(linestr, "\n");
1526             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1527             bufend = SvPVX(linestr) + SvCUR(linestr);
1528             if (PERLDB_LINE && curstash != debstash) {
1529                 SV *sv = NEWSV(85,0);
1530
1531                 sv_upgrade(sv, SVt_PVMG);
1532                 sv_setsv(sv,linestr);
1533                 av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1534             }
1535             goto retry;
1536         }
1537         do {
1538             if ((s = filter_gets(linestr, rsfp, 0)) == Nullch) {
1539               fake_eof:
1540                 if (rsfp) {
1541                     if (preprocess && !in_eval)
1542                         (void)my_pclose(rsfp);
1543                     else if ((PerlIO *)rsfp == PerlIO_stdin())
1544                         PerlIO_clearerr(rsfp);
1545                     else
1546                         (void)PerlIO_close(rsfp);
1547                     if (e_fp == rsfp)
1548                         e_fp = Nullfp;
1549                     rsfp = Nullfp;
1550                 }
1551                 if (!in_eval && (minus_n || minus_p)) {
1552                     sv_setpv(linestr,minus_p ? ";}continue{print" : "");
1553                     sv_catpv(linestr,";}");
1554                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1555                     bufend = SvPVX(linestr) + SvCUR(linestr);
1556                     minus_n = minus_p = 0;
1557                     goto retry;
1558                 }
1559                 oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1560                 sv_setpv(linestr,"");
1561                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
1562             }
1563             if (doextract) {
1564                 if (*s == '#' && s[1] == '!' && instr(s,"perl"))
1565                     doextract = FALSE;
1566
1567                 /* Incest with pod. */
1568                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
1569                     sv_setpv(linestr, "");
1570                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1571                     bufend = SvPVX(linestr) + SvCUR(linestr);
1572                     doextract = FALSE;
1573                 }
1574             }
1575             incline(s);
1576         } while (doextract);
1577         oldoldbufptr = oldbufptr = bufptr = linestart = s;
1578         if (PERLDB_LINE && curstash != debstash) {
1579             SV *sv = NEWSV(85,0);
1580
1581             sv_upgrade(sv, SVt_PVMG);
1582             sv_setsv(sv,linestr);
1583             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1584         }
1585         bufend = SvPVX(linestr) + SvCUR(linestr);
1586         if (curcop->cop_line == 1) {
1587             while (s < bufend && isSPACE(*s))
1588                 s++;
1589             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
1590                 s++;
1591             d = Nullch;
1592             if (!in_eval) {
1593                 if (*s == '#' && *(s+1) == '!')
1594                     d = s + 2;
1595 #ifdef ALTERNATE_SHEBANG
1596                 else {
1597                     static char as[] = ALTERNATE_SHEBANG;
1598                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
1599                         d = s + (sizeof(as) - 1);
1600                 }
1601 #endif /* ALTERNATE_SHEBANG */
1602             }
1603             if (d) {
1604                 char *ipath;
1605                 char *ipathend;
1606
1607                 while (isSPACE(*d))
1608                     d++;
1609                 ipath = d;
1610                 while (*d && !isSPACE(*d))
1611                     d++;
1612                 ipathend = d;
1613
1614 #ifdef ARG_ZERO_IS_SCRIPT
1615                 if (ipathend > ipath) {
1616                     /*
1617                      * HP-UX (at least) sets argv[0] to the script name,
1618                      * which makes $^X incorrect.  And Digital UNIX and Linux,
1619                      * at least, set argv[0] to the basename of the Perl
1620                      * interpreter. So, having found "#!", we'll set it right.
1621                      */
1622                     SV *x = GvSV(gv_fetchpv("\030", TRUE, SVt_PV));
1623                     assert(SvPOK(x) || SvGMAGICAL(x));
1624                     if (sv_eq(x, GvSV(curcop->cop_filegv))) {
1625                         sv_setpvn(x, ipath, ipathend - ipath);
1626                         SvSETMAGIC(x);
1627                     }
1628                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
1629                 }
1630 #endif /* ARG_ZERO_IS_SCRIPT */
1631
1632                 /*
1633                  * Look for options.
1634                  */
1635                 d = instr(s,"perl -");
1636                 if (!d)
1637                     d = instr(s,"perl");
1638 #ifdef ALTERNATE_SHEBANG
1639                 /*
1640                  * If the ALTERNATE_SHEBANG on this system starts with a
1641                  * character that can be part of a Perl expression, then if
1642                  * we see it but not "perl", we're probably looking at the
1643                  * start of Perl code, not a request to hand off to some
1644                  * other interpreter.  Similarly, if "perl" is there, but
1645                  * not in the first 'word' of the line, we assume the line
1646                  * contains the start of the Perl program.
1647                  */
1648                 if (d && *s != '#') {
1649                     char *c = ipath;
1650                     while (*c && !strchr("; \t\r\n\f\v#", *c))
1651                         c++;
1652                     if (c < d)
1653                         d = Nullch;     /* "perl" not in first word; ignore */
1654                     else
1655                         *s = '#';       /* Don't try to parse shebang line */
1656                 }
1657 #endif /* ALTERNATE_SHEBANG */
1658                 if (!d &&
1659                     *s == '#' &&
1660                     ipathend > ipath &&
1661                     !minus_c &&
1662                     !instr(s,"indir") &&
1663                     instr(origargv[0],"perl"))
1664                 {
1665                     char **newargv;
1666
1667                     *ipathend = '\0';
1668                     s = ipathend + 1;
1669                     while (s < bufend && isSPACE(*s))
1670                         s++;
1671                     if (s < bufend) {
1672                         Newz(899,newargv,origargc+3,char*);
1673                         newargv[1] = s;
1674                         while (s < bufend && !isSPACE(*s))
1675                             s++;
1676                         *s = '\0';
1677                         Copy(origargv+1, newargv+2, origargc+1, char*);
1678                     }
1679                     else
1680                         newargv = origargv;
1681                     newargv[0] = ipath;
1682                     execv(ipath, newargv);
1683                     croak("Can't exec %s", ipath);
1684                 }
1685                 if (d) {
1686                     U32 oldpdb = perldb;
1687                     bool oldn = minus_n;
1688                     bool oldp = minus_p;
1689
1690                     while (*d && !isSPACE(*d)) d++;
1691                     while (*d == ' ' || *d == '\t') d++;
1692
1693                     if (*d++ == '-') {
1694                         do {
1695                             if (*d == 'M' || *d == 'm') {
1696                                 char *m = d;
1697                                 while (*d && !isSPACE(*d)) d++;
1698                                 croak("Too late for \"-%.*s\" option",
1699                                       (int)(d - m), m);
1700                             }
1701                             d = moreswitches(d);
1702                         } while (d);
1703                         if (PERLDB_LINE && !oldpdb ||
1704                             ( minus_n || minus_p ) && !(oldn || oldp) )
1705                               /* if we have already added "LINE: while (<>) {",
1706                                  we must not do it again */
1707                         {
1708                             sv_setpv(linestr, "");
1709                             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1710                             bufend = SvPVX(linestr) + SvCUR(linestr);
1711                             preambled = FALSE;
1712                             if (PERLDB_LINE)
1713                                 (void)gv_fetchfile(origfilename);
1714                             goto retry;
1715                         }
1716                     }
1717                 }
1718             }
1719         }
1720         if (lex_formbrack && lex_brackets <= lex_formbrack) {
1721             bufptr = s;
1722             lex_state = LEX_FORMLINE;
1723             return yylex();
1724         }
1725         goto retry;
1726     case '\r':
1727         warn("Illegal character \\%03o (carriage return)", '\r');
1728         croak(
1729       "(Maybe you didn't strip carriage returns after a network transfer?)\n");
1730     case ' ': case '\t': case '\f': case 013:
1731         s++;
1732         goto retry;
1733     case '#':
1734     case '\n':
1735         if (lex_state != LEX_NORMAL || (in_eval && !rsfp)) {
1736             d = bufend;
1737             while (s < d && *s != '\n')
1738                 s++;
1739             if (s < d)
1740                 s++;
1741             incline(s);
1742             if (lex_formbrack && lex_brackets <= lex_formbrack) {
1743                 bufptr = s;
1744                 lex_state = LEX_FORMLINE;
1745                 return yylex();
1746             }
1747         }
1748         else {
1749             *s = '\0';
1750             bufend = s;
1751         }
1752         goto retry;
1753     case '-':
1754         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
1755             s++;
1756             bufptr = s;
1757             tmp = *s++;
1758
1759             while (s < bufend && (*s == ' ' || *s == '\t'))
1760                 s++;
1761
1762             if (strnEQ(s,"=>",2)) {
1763                 if (dowarn)
1764                     warn("Ambiguous use of -%c => resolved to \"-%c\" =>",
1765                         (int)tmp, (int)tmp);
1766                 s = force_word(bufptr,WORD,FALSE,FALSE,FALSE);
1767                 OPERATOR('-');          /* unary minus */
1768             }
1769             last_uni = oldbufptr;
1770             last_lop_op = OP_FTEREAD;   /* good enough */
1771             switch (tmp) {
1772             case 'r': FTST(OP_FTEREAD);
1773             case 'w': FTST(OP_FTEWRITE);
1774             case 'x': FTST(OP_FTEEXEC);
1775             case 'o': FTST(OP_FTEOWNED);
1776             case 'R': FTST(OP_FTRREAD);
1777             case 'W': FTST(OP_FTRWRITE);
1778             case 'X': FTST(OP_FTREXEC);
1779             case 'O': FTST(OP_FTROWNED);
1780             case 'e': FTST(OP_FTIS);
1781             case 'z': FTST(OP_FTZERO);
1782             case 's': FTST(OP_FTSIZE);
1783             case 'f': FTST(OP_FTFILE);
1784             case 'd': FTST(OP_FTDIR);
1785             case 'l': FTST(OP_FTLINK);
1786             case 'p': FTST(OP_FTPIPE);
1787             case 'S': FTST(OP_FTSOCK);
1788             case 'u': FTST(OP_FTSUID);
1789             case 'g': FTST(OP_FTSGID);
1790             case 'k': FTST(OP_FTSVTX);
1791             case 'b': FTST(OP_FTBLK);
1792             case 'c': FTST(OP_FTCHR);
1793             case 't': FTST(OP_FTTTY);
1794             case 'T': FTST(OP_FTTEXT);
1795             case 'B': FTST(OP_FTBINARY);
1796             case 'M': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTMTIME);
1797             case 'A': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTATIME);
1798             case 'C': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTCTIME);
1799             default:
1800                 croak("Unrecognized file test: -%c", (int)tmp);
1801                 break;
1802             }
1803         }
1804         tmp = *s++;
1805         if (*s == tmp) {
1806             s++;
1807             if (expect == XOPERATOR)
1808                 TERM(POSTDEC);
1809             else
1810                 OPERATOR(PREDEC);
1811         }
1812         else if (*s == '>') {
1813             s++;
1814             s = skipspace(s);
1815             if (isIDFIRST(*s)) {
1816                 s = force_word(s,METHOD,FALSE,TRUE,FALSE);
1817                 TOKEN(ARROW);
1818             }
1819             else if (*s == '$')
1820                 OPERATOR(ARROW);
1821             else
1822                 TERM(ARROW);
1823         }
1824         if (expect == XOPERATOR)
1825             Aop(OP_SUBTRACT);
1826         else {
1827             if (isSPACE(*s) || !isSPACE(*bufptr))
1828                 check_uni();
1829             OPERATOR('-');              /* unary minus */
1830         }
1831
1832     case '+':
1833         tmp = *s++;
1834         if (*s == tmp) {
1835             s++;
1836             if (expect == XOPERATOR)
1837                 TERM(POSTINC);
1838             else
1839                 OPERATOR(PREINC);
1840         }
1841         if (expect == XOPERATOR)
1842             Aop(OP_ADD);
1843         else {
1844             if (isSPACE(*s) || !isSPACE(*bufptr))
1845                 check_uni();
1846             OPERATOR('+');
1847         }
1848
1849     case '*':
1850         if (expect != XOPERATOR) {
1851             s = scan_ident(s, bufend, tokenbuf, sizeof tokenbuf, TRUE);
1852             expect = XOPERATOR;
1853             force_ident(tokenbuf, '*');
1854             if (!*tokenbuf)
1855                 PREREF('*');
1856             TERM('*');
1857         }
1858         s++;
1859         if (*s == '*') {
1860             s++;
1861             PWop(OP_POW);
1862         }
1863         Mop(OP_MULTIPLY);
1864
1865     case '%':
1866         if (expect == XOPERATOR) {
1867             ++s;
1868             Mop(OP_MODULO);
1869         }
1870         tokenbuf[0] = '%';
1871         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, TRUE);
1872         if (!tokenbuf[1]) {
1873             if (s == bufend)
1874                 yyerror("Final % should be \\% or %name");
1875             PREREF('%');
1876         }
1877         pending_ident = '%';
1878         TERM('%');
1879
1880     case '^':
1881         s++;
1882         BOop(OP_BIT_XOR);
1883     case '[':
1884         lex_brackets++;
1885         /* FALL THROUGH */
1886     case '~':
1887     case ',':
1888         tmp = *s++;
1889         OPERATOR(tmp);
1890     case ':':
1891         if (s[1] == ':') {
1892             len = 0;
1893             goto just_a_word;
1894         }
1895         s++;
1896         OPERATOR(':');
1897     case '(':
1898         s++;
1899         if (last_lop == oldoldbufptr || last_uni == oldoldbufptr)
1900             oldbufptr = oldoldbufptr;           /* allow print(STDOUT 123) */
1901         else
1902             expect = XTERM;
1903         TOKEN('(');
1904     case ';':
1905         if (curcop->cop_line < copline)
1906             copline = curcop->cop_line;
1907         tmp = *s++;
1908         OPERATOR(tmp);
1909     case ')':
1910         tmp = *s++;
1911         s = skipspace(s);
1912         if (*s == '{')
1913             PREBLOCK(tmp);
1914         TERM(tmp);
1915     case ']':
1916         s++;
1917         if (lex_brackets <= 0)
1918             yyerror("Unmatched right bracket");
1919         else
1920             --lex_brackets;
1921         if (lex_state == LEX_INTERPNORMAL) {
1922             if (lex_brackets == 0) {
1923                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
1924                     lex_state = LEX_INTERPEND;
1925             }
1926         }
1927         TERM(']');
1928     case '{':
1929       leftbracket:
1930         s++;
1931         if (lex_brackets > 100) {
1932             char* newlb = Renew(lex_brackstack, lex_brackets + 1, char);
1933             if (newlb != lex_brackstack) {
1934                 SAVEFREEPV(newlb);
1935                 lex_brackstack = newlb;
1936             }
1937         }
1938         switch (expect) {
1939         case XTERM:
1940             if (lex_formbrack) {
1941                 s--;
1942                 PRETERMBLOCK(DO);
1943             }
1944             if (oldoldbufptr == last_lop)
1945                 lex_brackstack[lex_brackets++] = XTERM;
1946             else
1947                 lex_brackstack[lex_brackets++] = XOPERATOR;
1948             OPERATOR(HASHBRACK);
1949         case XOPERATOR:
1950             while (s < bufend && (*s == ' ' || *s == '\t'))
1951                 s++;
1952             d = s;
1953             tokenbuf[0] = '\0';
1954             if (d < bufend && *d == '-') {
1955                 tokenbuf[0] = '-';
1956                 d++;
1957                 while (d < bufend && (*d == ' ' || *d == '\t'))
1958                     d++;
1959             }
1960             if (d < bufend && isIDFIRST(*d)) {
1961                 d = scan_word(d, tokenbuf + 1, sizeof tokenbuf - 1,
1962                               FALSE, &len);
1963                 while (d < bufend && (*d == ' ' || *d == '\t'))
1964                     d++;
1965                 if (*d == '}') {
1966                     char minus = (tokenbuf[0] == '-');
1967                     if (dowarn &&
1968                         (keyword(tokenbuf + 1, len) ||
1969                          (minus && len == 1 && isALPHA(tokenbuf[1])) ||
1970                          perl_get_cv(tokenbuf + 1, FALSE) ))
1971                         warn("Ambiguous use of {%s} resolved to {\"%s\"}",
1972                              tokenbuf + !minus, tokenbuf + !minus);
1973                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
1974                     if (minus)
1975                         force_next('-');
1976                 }
1977             }
1978             /* FALL THROUGH */
1979         case XBLOCK:
1980             lex_brackstack[lex_brackets++] = XSTATE;
1981             expect = XSTATE;
1982             break;
1983         case XTERMBLOCK:
1984             lex_brackstack[lex_brackets++] = XOPERATOR;
1985             expect = XSTATE;
1986             break;
1987         default: {
1988                 char *t;
1989                 if (oldoldbufptr == last_lop)
1990                     lex_brackstack[lex_brackets++] = XTERM;
1991                 else
1992                     lex_brackstack[lex_brackets++] = XOPERATOR;
1993                 s = skipspace(s);
1994                 if (*s == '}')
1995                     OPERATOR(HASHBRACK);
1996                 /* This hack serves to disambiguate a pair of curlies
1997                  * as being a block or an anon hash.  Normally, expectation
1998                  * determines that, but in cases where we're not in a
1999                  * position to expect anything in particular (like inside
2000                  * eval"") we have to resolve the ambiguity.  This code
2001                  * covers the case where the first term in the curlies is a
2002                  * quoted string.  Most other cases need to be explicitly
2003                  * disambiguated by prepending a `+' before the opening
2004                  * curly in order to force resolution as an anon hash.
2005                  *
2006                  * XXX should probably propagate the outer expectation
2007                  * into eval"" to rely less on this hack, but that could
2008                  * potentially break current behavior of eval"".
2009                  * GSAR 97-07-21
2010                  */
2011                 t = s;
2012                 if (*s == '\'' || *s == '"' || *s == '`') {
2013                     /* common case: get past first string, handling escapes */
2014                     for (t++; t < bufend && *t != *s;)
2015                         if (*t++ == '\\' && (*t == '\\' || *t == *s))
2016                             t++;
2017                     t++;
2018                 }
2019                 else if (*s == 'q') {
2020                     if (++t < bufend
2021                         && (!isALNUM(*t)
2022                             || ((*t == 'q' || *t == 'x') && ++t < bufend
2023                                 && !isALNUM(*t)))) {
2024                         char *tmps;
2025                         char open, close, term;
2026                         I32 brackets = 1;
2027
2028                         while (t < bufend && isSPACE(*t))
2029                             t++;
2030                         term = *t;
2031                         open = term;
2032                         if (term && (tmps = strchr("([{< )]}> )]}>",term)))
2033                             term = tmps[5];
2034                         close = term;
2035                         if (open == close)
2036                             for (t++; t < bufend; t++) {
2037                                 if (*t == '\\' && t+1 < bufend && open != '\\')
2038                                     t++;
2039                                 else if (*t == open)
2040                                     break;
2041                             }
2042                         else
2043                             for (t++; t < bufend; t++) {
2044                                 if (*t == '\\' && t+1 < bufend)
2045                                     t++;
2046                                 else if (*t == close && --brackets <= 0)
2047                                     break;
2048                                 else if (*t == open)
2049                                     brackets++;
2050                             }
2051                     }
2052                     t++;
2053                 }
2054                 else if (isALPHA(*s)) {
2055                     for (t++; t < bufend && isALNUM(*t); t++) ;
2056                 }
2057                 while (t < bufend && isSPACE(*t))
2058                     t++;
2059                 /* if comma follows first term, call it an anon hash */
2060                 /* XXX it could be a comma expression with loop modifiers */
2061                 if (t < bufend && ((*t == ',' && (*s == 'q' || !isLOWER(*s)))
2062                                    || (*t == '=' && t[1] == '>')))
2063                     OPERATOR(HASHBRACK);
2064                 if (expect == XREF)
2065                     expect = XTERM;
2066                 else {
2067                     lex_brackstack[lex_brackets-1] = XSTATE;
2068                     expect = XSTATE;
2069                 }
2070             }
2071             break;
2072         }
2073         yylval.ival = curcop->cop_line;
2074         if (isSPACE(*s) || *s == '#')
2075             copline = NOLINE;   /* invalidate current command line number */
2076         TOKEN('{');
2077     case '}':
2078       rightbracket:
2079         s++;
2080         if (lex_brackets <= 0)
2081             yyerror("Unmatched right bracket");
2082         else
2083             expect = (expectation)lex_brackstack[--lex_brackets];
2084         if (lex_brackets < lex_formbrack)
2085             lex_formbrack = 0;
2086         if (lex_state == LEX_INTERPNORMAL) {
2087             if (lex_brackets == 0) {
2088                 if (lex_fakebrack) {
2089                     lex_state = LEX_INTERPEND;
2090                     bufptr = s;
2091                     return yylex();             /* ignore fake brackets */
2092                 }
2093                 if (*s == '-' && s[1] == '>')
2094                     lex_state = LEX_INTERPENDMAYBE;
2095                 else if (*s != '[' && *s != '{')
2096                     lex_state = LEX_INTERPEND;
2097             }
2098         }
2099         if (lex_brackets < lex_fakebrack) {
2100             bufptr = s;
2101             lex_fakebrack = 0;
2102             return yylex();             /* ignore fake brackets */
2103         }
2104         force_next('}');
2105         TOKEN(';');
2106     case '&':
2107         s++;
2108         tmp = *s++;
2109         if (tmp == '&')
2110             AOPERATOR(ANDAND);
2111         s--;
2112         if (expect == XOPERATOR) {
2113             if (dowarn && isALPHA(*s) && bufptr == linestart) {
2114                 curcop->cop_line--;
2115                 warn(warn_nosemi);
2116                 curcop->cop_line++;
2117             }
2118             BAop(OP_BIT_AND);
2119         }
2120
2121         s = scan_ident(s - 1, bufend, tokenbuf, sizeof tokenbuf, TRUE);
2122         if (*tokenbuf) {
2123             expect = XOPERATOR;
2124             force_ident(tokenbuf, '&');
2125         }
2126         else
2127             PREREF('&');
2128         yylval.ival = (OPpENTERSUB_AMPER<<8);
2129         TERM('&');
2130
2131     case '|':
2132         s++;
2133         tmp = *s++;
2134         if (tmp == '|')
2135             AOPERATOR(OROR);
2136         s--;
2137         BOop(OP_BIT_OR);
2138     case '=':
2139         s++;
2140         tmp = *s++;
2141         if (tmp == '=')
2142             Eop(OP_EQ);
2143         if (tmp == '>')
2144             OPERATOR(',');
2145         if (tmp == '~')
2146             PMop(OP_MATCH);
2147         if (dowarn && tmp && isSPACE(*s) && strchr("+-*/%.^&|<",tmp))
2148             warn("Reversed %c= operator",(int)tmp);
2149         s--;
2150         if (expect == XSTATE && isALPHA(tmp) &&
2151                 (s == linestart+1 || s[-2] == '\n') )
2152         {
2153             if (in_eval && !rsfp) {
2154                 d = bufend;
2155                 while (s < d) {
2156                     if (*s++ == '\n') {
2157                         incline(s);
2158                         if (strnEQ(s,"=cut",4)) {
2159                             s = strchr(s,'\n');
2160                             if (s)
2161                                 s++;
2162                             else
2163                                 s = d;
2164                             incline(s);
2165                             goto retry;
2166                         }
2167                     }
2168                 }
2169                 goto retry;
2170             }
2171             s = bufend;
2172             doextract = TRUE;
2173             goto retry;
2174         }
2175         if (lex_brackets < lex_formbrack) {
2176             char *t;
2177             for (t = s; *t == ' ' || *t == '\t'; t++) ;
2178             if (*t == '\n' || *t == '#') {
2179                 s--;
2180                 expect = XBLOCK;
2181                 goto leftbracket;
2182             }
2183         }
2184         yylval.ival = 0;
2185         OPERATOR(ASSIGNOP);
2186     case '!':
2187         s++;
2188         tmp = *s++;
2189         if (tmp == '=')
2190             Eop(OP_NE);
2191         if (tmp == '~')
2192             PMop(OP_NOT);
2193         s--;
2194         OPERATOR('!');
2195     case '<':
2196         if (expect != XOPERATOR) {
2197             if (s[1] != '<' && !strchr(s,'>'))
2198                 check_uni();
2199             if (s[1] == '<')
2200                 s = scan_heredoc(s);
2201             else
2202                 s = scan_inputsymbol(s);
2203             TERM(sublex_start());
2204         }
2205         s++;
2206         tmp = *s++;
2207         if (tmp == '<')
2208             SHop(OP_LEFT_SHIFT);
2209         if (tmp == '=') {
2210             tmp = *s++;
2211             if (tmp == '>')
2212                 Eop(OP_NCMP);
2213             s--;
2214             Rop(OP_LE);
2215         }
2216         s--;
2217         Rop(OP_LT);
2218     case '>':
2219         s++;
2220         tmp = *s++;
2221         if (tmp == '>')
2222             SHop(OP_RIGHT_SHIFT);
2223         if (tmp == '=')
2224             Rop(OP_GE);
2225         s--;
2226         Rop(OP_GT);
2227
2228     case '$':
2229         CLINE;
2230
2231         if (expect == XOPERATOR) {
2232             if (lex_formbrack && lex_brackets == lex_formbrack) {
2233                 expect = XTERM;
2234                 depcom();
2235                 return ','; /* grandfather non-comma-format format */
2236             }
2237         }
2238
2239         if (s[1] == '#' && (isALPHA(s[2]) || strchr("_{$:", s[2]))) {
2240             if (expect == XOPERATOR)
2241                 no_op("Array length", bufptr);
2242             tokenbuf[0] = '@';
2243             s = scan_ident(s + 1, bufend, tokenbuf + 1, sizeof tokenbuf - 1,
2244                            FALSE);
2245             if (!tokenbuf[1])
2246                 PREREF(DOLSHARP);
2247             expect = XOPERATOR;
2248             pending_ident = '#';
2249             TOKEN(DOLSHARP);
2250         }
2251
2252         if (expect == XOPERATOR)
2253             no_op("Scalar", bufptr);
2254         tokenbuf[0] = '$';
2255         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2256         if (!tokenbuf[1]) {
2257             if (s == bufend)
2258                 yyerror("Final $ should be \\$ or $name");
2259             PREREF('$');
2260         }
2261
2262         /* This kludge not intended to be bulletproof. */
2263         if (tokenbuf[1] == '[' && !tokenbuf[2]) {
2264             yylval.opval = newSVOP(OP_CONST, 0,
2265                                    newSViv((IV)compiling.cop_arybase));
2266             yylval.opval->op_private = OPpCONST_ARYBASE;
2267             TERM(THING);
2268         }
2269
2270         d = s;
2271         if (lex_state == LEX_NORMAL)
2272             s = skipspace(s);
2273
2274         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2275             char *t;
2276             if (*s == '[') {
2277                 tokenbuf[0] = '@';
2278                 if (dowarn) {
2279                     for(t = s + 1;
2280                         isSPACE(*t) || isALNUM(*t) || *t == '$';
2281                         t++) ;
2282                     if (*t++ == ',') {
2283                         bufptr = skipspace(bufptr);
2284                         while (t < bufend && *t != ']')
2285                             t++;
2286                         warn("Multidimensional syntax %.*s not supported",
2287                              (t - bufptr) + 1, bufptr);
2288                     }
2289                 }
2290             }
2291             else if (*s == '{') {
2292                 tokenbuf[0] = '%';
2293                 if (dowarn && strEQ(tokenbuf+1, "SIG") &&
2294                     (t = strchr(s, '}')) && (t = strchr(t, '=')))
2295                 {
2296                     char tmpbuf[sizeof tokenbuf];
2297                     STRLEN len;
2298                     for (t++; isSPACE(*t); t++) ;
2299                     if (isIDFIRST(*t)) {
2300                         t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE, &len);
2301                         if (*t != '(' && perl_get_cv(tmpbuf, FALSE))
2302                             warn("You need to quote \"%s\"", tmpbuf);
2303                     }
2304                 }
2305             }
2306         }
2307
2308         expect = XOPERATOR;
2309         if (lex_state == LEX_NORMAL && isSPACE(*d)) {
2310             bool islop = (last_lop == oldoldbufptr);
2311             if (!islop || last_lop_op == OP_GREPSTART)
2312                 expect = XOPERATOR;
2313             else if (strchr("$@\"'`q", *s))
2314                 expect = XTERM;         /* e.g. print $fh "foo" */
2315             else if (strchr("&*<%", *s) && isIDFIRST(s[1]))
2316                 expect = XTERM;         /* e.g. print $fh &sub */
2317             else if (isIDFIRST(*s)) {
2318                 char tmpbuf[sizeof tokenbuf];
2319                 scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2320                 if (tmp = keyword(tmpbuf, len)) {
2321                     /* binary operators exclude handle interpretations */
2322                     switch (tmp) {
2323                     case -KEY_x:
2324                     case -KEY_eq:
2325                     case -KEY_ne:
2326                     case -KEY_gt:
2327                     case -KEY_lt:
2328                     case -KEY_ge:
2329                     case -KEY_le:
2330                     case -KEY_cmp:
2331                         break;
2332                     default:
2333                         expect = XTERM; /* e.g. print $fh length() */
2334                         break;
2335                     }
2336                 }
2337                 else {
2338                     GV *gv = gv_fetchpv(tmpbuf, FALSE, SVt_PVCV);
2339                     if (gv && GvCVu(gv))
2340                         expect = XTERM; /* e.g. print $fh subr() */
2341                 }
2342             }
2343             else if (isDIGIT(*s))
2344                 expect = XTERM;         /* e.g. print $fh 3 */
2345             else if (*s == '.' && isDIGIT(s[1]))
2346                 expect = XTERM;         /* e.g. print $fh .3 */
2347             else if (strchr("/?-+", *s) && !isSPACE(s[1]))
2348                 expect = XTERM;         /* e.g. print $fh -1 */
2349             else if (*s == '<' && s[1] == '<' && !isSPACE(s[2]))
2350                 expect = XTERM;         /* print $fh <<"EOF" */
2351         }
2352         pending_ident = '$';
2353         TOKEN('$');
2354
2355     case '@':
2356         if (expect == XOPERATOR)
2357             no_op("Array", s);
2358         tokenbuf[0] = '@';
2359         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2360         if (!tokenbuf[1]) {
2361             if (s == bufend)
2362                 yyerror("Final @ should be \\@ or @name");
2363             PREREF('@');
2364         }
2365         if (lex_state == LEX_NORMAL)
2366             s = skipspace(s);
2367         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2368             if (*s == '{')
2369                 tokenbuf[0] = '%';
2370
2371             /* Warn about @ where they meant $. */
2372             if (dowarn) {
2373                 if (*s == '[' || *s == '{') {
2374                     char *t = s + 1;
2375                     while (*t && (isALNUM(*t) || strchr(" \t$#+-'\"", *t)))
2376                         t++;
2377                     if (*t == '}' || *t == ']') {
2378                         t++;
2379                         bufptr = skipspace(bufptr);
2380                         warn("Scalar value %.*s better written as $%.*s",
2381                             t-bufptr, bufptr, t-bufptr-1, bufptr+1);
2382                     }
2383                 }
2384             }
2385         }
2386         pending_ident = '@';
2387         TERM('@');
2388
2389     case '/':                   /* may either be division or pattern */
2390     case '?':                   /* may either be conditional or pattern */
2391         if (expect != XOPERATOR) {
2392             check_uni();
2393             s = scan_pat(s);
2394             TERM(sublex_start());
2395         }
2396         tmp = *s++;
2397         if (tmp == '/')
2398             Mop(OP_DIVIDE);
2399         OPERATOR(tmp);
2400
2401     case '.':
2402         if (lex_formbrack && lex_brackets == lex_formbrack && s[1] == '\n' &&
2403                 (s == linestart || s[-1] == '\n') ) {
2404             lex_formbrack = 0;
2405             expect = XSTATE;
2406             goto rightbracket;
2407         }
2408         if (expect == XOPERATOR || !isDIGIT(s[1])) {
2409             tmp = *s++;
2410             if (*s == tmp) {
2411                 s++;
2412                 if (*s == tmp) {
2413                     s++;
2414                     yylval.ival = OPf_SPECIAL;
2415                 }
2416                 else
2417                     yylval.ival = 0;
2418                 OPERATOR(DOTDOT);
2419             }
2420             if (expect != XOPERATOR)
2421                 check_uni();
2422             Aop(OP_CONCAT);
2423         }
2424         /* FALL THROUGH */
2425     case '0': case '1': case '2': case '3': case '4':
2426     case '5': case '6': case '7': case '8': case '9':
2427         s = scan_num(s);
2428         if (expect == XOPERATOR)
2429             no_op("Number",s);
2430         TERM(THING);
2431
2432     case '\'':
2433         s = scan_str(s);
2434         if (expect == XOPERATOR) {
2435             if (lex_formbrack && lex_brackets == lex_formbrack) {
2436                 expect = XTERM;
2437                 depcom();
2438                 return ',';     /* grandfather non-comma-format format */
2439             }
2440             else
2441                 no_op("String",s);
2442         }
2443         if (!s)
2444             missingterm((char*)0);
2445         yylval.ival = OP_CONST;
2446         TERM(sublex_start());
2447
2448     case '"':
2449         s = scan_str(s);
2450         if (expect == XOPERATOR) {
2451             if (lex_formbrack && lex_brackets == lex_formbrack) {
2452                 expect = XTERM;
2453                 depcom();
2454                 return ',';     /* grandfather non-comma-format format */
2455             }
2456             else
2457                 no_op("String",s);
2458         }
2459         if (!s)
2460             missingterm((char*)0);
2461         yylval.ival = OP_CONST;
2462         for (d = SvPV(lex_stuff, len); len; len--, d++) {
2463             if (*d == '$' || *d == '@' || *d == '\\') {
2464                 yylval.ival = OP_STRINGIFY;
2465                 break;
2466             }
2467         }
2468         TERM(sublex_start());
2469
2470     case '`':
2471         s = scan_str(s);
2472         if (expect == XOPERATOR)
2473             no_op("Backticks",s);
2474         if (!s)
2475             missingterm((char*)0);
2476         yylval.ival = OP_BACKTICK;
2477         set_csh();
2478         TERM(sublex_start());
2479
2480     case '\\':
2481         s++;
2482         if (dowarn && lex_inwhat && isDIGIT(*s))
2483             warn("Can't use \\%c to mean $%c in expression", *s, *s);
2484         if (expect == XOPERATOR)
2485             no_op("Backslash",s);
2486         OPERATOR(REFGEN);
2487
2488     case 'x':
2489         if (isDIGIT(s[1]) && expect == XOPERATOR) {
2490             s++;
2491             Mop(OP_REPEAT);
2492         }
2493         goto keylookup;
2494
2495     case '_':
2496     case 'a': case 'A':
2497     case 'b': case 'B':
2498     case 'c': case 'C':
2499     case 'd': case 'D':
2500     case 'e': case 'E':
2501     case 'f': case 'F':
2502     case 'g': case 'G':
2503     case 'h': case 'H':
2504     case 'i': case 'I':
2505     case 'j': case 'J':
2506     case 'k': case 'K':
2507     case 'l': case 'L':
2508     case 'm': case 'M':
2509     case 'n': case 'N':
2510     case 'o': case 'O':
2511     case 'p': case 'P':
2512     case 'q': case 'Q':
2513     case 'r': case 'R':
2514     case 's': case 'S':
2515     case 't': case 'T':
2516     case 'u': case 'U':
2517     case 'v': case 'V':
2518     case 'w': case 'W':
2519               case 'X':
2520     case 'y': case 'Y':
2521     case 'z': case 'Z':
2522
2523       keylookup:
2524         bufptr = s;
2525         s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2526
2527         /* Some keywords can be followed by any delimiter, including ':' */
2528         tmp = (len == 1 && strchr("msyq", tokenbuf[0]) ||
2529                len == 2 && ((tokenbuf[0] == 't' && tokenbuf[1] == 'r') ||
2530                             (tokenbuf[0] == 'q' &&
2531                              strchr("qwx", tokenbuf[1]))));
2532
2533         /* x::* is just a word, unless x is "CORE" */
2534         if (!tmp && *s == ':' && s[1] == ':' && strNE(tokenbuf, "CORE"))
2535             goto just_a_word;
2536
2537         d = s;
2538         while (d < bufend && isSPACE(*d))
2539                 d++;    /* no comments skipped here, or s### is misparsed */
2540
2541         /* Is this a label? */
2542         if (!tmp && expect == XSTATE
2543               && d < bufend && *d == ':' && *(d + 1) != ':') {
2544             s = d + 1;
2545             yylval.pval = savepv(tokenbuf);
2546             CLINE;
2547             TOKEN(LABEL);
2548         }
2549
2550         /* Check for keywords */
2551         tmp = keyword(tokenbuf, len);
2552
2553         /* Is this a word before a => operator? */
2554         if (strnEQ(d,"=>",2)) {
2555             CLINE;
2556             if (dowarn && (tmp || perl_get_cv(tokenbuf, FALSE)))
2557                 warn("Ambiguous use of %s => resolved to \"%s\" =>",
2558                         tokenbuf, tokenbuf);
2559             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2560             yylval.opval->op_private = OPpCONST_BARE;
2561             TERM(WORD);
2562         }
2563
2564         if (tmp < 0) {                  /* second-class keyword? */
2565             GV* gv;
2566             if (expect != XOPERATOR &&
2567                 (*s != ':' || s[1] != ':') &&
2568                 (gv = gv_fetchpv(tokenbuf, FALSE, SVt_PVCV)) &&
2569                 GvIMPORTED_CV(gv))
2570             {
2571                 tmp = 0;
2572             }
2573             else
2574                 tmp = -tmp;
2575         }
2576
2577       reserved_word:
2578         switch (tmp) {
2579
2580         default:                        /* not a keyword */
2581           just_a_word: {
2582                 GV *gv;
2583                 SV *sv;
2584                 char lastchar = (bufptr == oldoldbufptr ? 0 : bufptr[-1]);
2585
2586                 /* Get the rest if it looks like a package qualifier */
2587
2588                 if (*s == '\'' || *s == ':' && s[1] == ':') {
2589                     s = scan_word(s, tokenbuf + len, sizeof tokenbuf - len,
2590                                   TRUE, &len);
2591                     if (!len)
2592                         croak("Bad name after %s::", tokenbuf);
2593                 }
2594
2595                 if (expect == XOPERATOR) {
2596                     if (bufptr == linestart) {
2597                         curcop->cop_line--;
2598                         warn(warn_nosemi);
2599                         curcop->cop_line++;
2600                     }
2601                     else
2602                         no_op("Bareword",s);
2603                 }
2604
2605                 /* Look for a subroutine with this name in current package. */
2606
2607                 gv = gv_fetchpv(tokenbuf,FALSE, SVt_PVCV);
2608
2609                 /* Presume this is going to be a bareword of some sort. */
2610
2611                 CLINE;
2612                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2613                 yylval.opval->op_private = OPpCONST_BARE;
2614
2615                 /* See if it's the indirect object for a list operator. */
2616
2617                 if (oldoldbufptr &&
2618                     oldoldbufptr < bufptr &&
2619                     (oldoldbufptr == last_lop || oldoldbufptr == last_uni) &&
2620                     /* NO SKIPSPACE BEFORE HERE! */
2621                     (expect == XREF ||
2622                      ((opargs[last_lop_op] >> OASHIFT)& 7) == OA_FILEREF) )
2623                 {
2624                     bool immediate_paren = *s == '(';
2625
2626                     /* (Now we can afford to cross potential line boundary.) */
2627                     s = skipspace(s);
2628
2629                     /* Two barewords in a row may indicate method call. */
2630
2631                     if ((isALPHA(*s) || *s == '$') && (tmp=intuit_method(s,gv)))
2632                         return tmp;
2633
2634                     /* If not a declared subroutine, it's an indirect object. */
2635                     /* (But it's an indir obj regardless for sort.) */
2636
2637                     if ((last_lop_op == OP_SORT ||
2638                          (!immediate_paren && (!gv || !GvCVu(gv))) ) &&
2639                         (last_lop_op != OP_MAPSTART && last_lop_op != OP_GREPSTART)){
2640                         expect = (last_lop == oldoldbufptr) ? XTERM : XOPERATOR;
2641                         goto bareword;
2642                     }
2643                 }
2644
2645                 /* If followed by a paren, it's certainly a subroutine. */
2646
2647                 expect = XOPERATOR;
2648                 s = skipspace(s);
2649                 if (*s == '(') {
2650                     CLINE;
2651                     if (gv && GvCVu(gv)) {
2652                         for (d = s + 1; *d == ' ' || *d == '\t'; d++) ;
2653                         if (*d == ')' && (sv = cv_const_sv(GvCV(gv)))) {
2654                             s = d + 1;
2655                             goto its_constant;
2656                         }
2657                     }
2658                     nextval[nexttoke].opval = yylval.opval;
2659                     expect = XOPERATOR;
2660                     force_next(WORD);
2661                     yylval.ival = 0;
2662                     TOKEN('&');
2663                 }
2664
2665                 /* If followed by var or block, call it a method (unless sub) */
2666
2667                 if ((*s == '$' || *s == '{') && (!gv || !GvCVu(gv))) {
2668                     last_lop = oldbufptr;
2669                     last_lop_op = OP_METHOD;
2670                     PREBLOCK(METHOD);
2671                 }
2672
2673                 /* If followed by a bareword, see if it looks like indir obj. */
2674
2675                 if ((isALPHA(*s) || *s == '$') && (tmp = intuit_method(s,gv)))
2676                     return tmp;
2677
2678                 /* Not a method, so call it a subroutine (if defined) */
2679
2680                 if (gv && GvCVu(gv)) {
2681                     CV* cv;
2682                     if (lastchar == '-')
2683                         warn("Ambiguous use of -%s resolved as -&%s()",
2684                                 tokenbuf, tokenbuf);
2685                     last_lop = oldbufptr;
2686                     last_lop_op = OP_ENTERSUB;
2687                     /* Check for a constant sub */
2688                     cv = GvCV(gv);
2689                     if ((sv = cv_const_sv(cv))) {
2690                   its_constant:
2691                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
2692                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc(sv);
2693                         yylval.opval->op_private = 0;
2694                         TOKEN(WORD);
2695                     }
2696
2697                     /* Resolve to GV now. */
2698                     op_free(yylval.opval);
2699                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
2700                     /* Is there a prototype? */
2701                     if (SvPOK(cv)) {
2702                         STRLEN len;
2703                         char *proto = SvPV((SV*)cv, len);
2704                         if (!len)
2705                             TERM(FUNC0SUB);
2706                         if (strEQ(proto, "$"))
2707                             OPERATOR(UNIOPSUB);
2708                         if (*proto == '&' && *s == '{') {
2709                             sv_setpv(subname,"__ANON__");
2710                             PREBLOCK(LSTOPSUB);
2711                         }
2712                     }
2713                     nextval[nexttoke].opval = yylval.opval;
2714                     expect = XTERM;
2715                     force_next(WORD);
2716                     TOKEN(NOAMP);
2717                 }
2718
2719                 if (hints & HINT_STRICT_SUBS &&
2720                     lastchar != '-' &&
2721                     strnNE(s,"->",2) &&
2722                     last_lop_op != OP_TRUNCATE &&  /* S/F prototype in opcode.pl */
2723                     last_lop_op != OP_ACCEPT &&
2724                     last_lop_op != OP_PIPE_OP &&
2725                     last_lop_op != OP_SOCKPAIR)
2726                 {
2727                     warn(
2728                      "Bareword \"%s\" not allowed while \"strict subs\" in use",
2729                         tokenbuf);
2730                     ++error_count;
2731                 }
2732
2733                 /* Call it a bare word */
2734
2735             bareword:
2736                 if (dowarn) {
2737                     if (lastchar != '-') {
2738                         for (d = tokenbuf; *d && isLOWER(*d); d++) ;
2739                         if (!*d)
2740                             warn(warn_reserved, tokenbuf);
2741                     }
2742                 }
2743                 if (lastchar && strchr("*%&", lastchar)) {
2744                     warn("Operator or semicolon missing before %c%s",
2745                         lastchar, tokenbuf);
2746                     warn("Ambiguous use of %c resolved as operator %c",
2747                         lastchar, lastchar);
2748                 }
2749                 TOKEN(WORD);
2750             }
2751
2752         case KEY___FILE__:
2753             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2754                                         newSVsv(GvSV(curcop->cop_filegv)));
2755             TERM(THING);
2756
2757         case KEY___LINE__:
2758             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2759                                     newSVpvf("%ld", (long)curcop->cop_line));
2760             TERM(THING);
2761
2762         case KEY___PACKAGE__:
2763             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2764                                         (curstash
2765                                          ? newSVsv(curstname)
2766                                          : &sv_undef));
2767             TERM(THING);
2768
2769         case KEY___DATA__:
2770         case KEY___END__: {
2771             GV *gv;
2772
2773             /*SUPPRESS 560*/
2774             if (rsfp && (!in_eval || tokenbuf[2] == 'D')) {
2775                 char *pname = "main";
2776                 if (tokenbuf[2] == 'D')
2777                     pname = HvNAME(curstash ? curstash : defstash);
2778                 gv = gv_fetchpv(form("%s::DATA", pname), TRUE, SVt_PVIO);
2779                 GvMULTI_on(gv);
2780                 if (!GvIO(gv))
2781                     GvIOp(gv) = newIO();
2782                 IoIFP(GvIOp(gv)) = rsfp;
2783 #if defined(HAS_FCNTL) && defined(F_SETFD)
2784                 {
2785                     int fd = PerlIO_fileno(rsfp);
2786                     fcntl(fd,F_SETFD,fd >= 3);
2787                 }
2788 #endif
2789                 /* Mark this internal pseudo-handle as clean */
2790                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
2791                 if (preprocess)
2792                     IoTYPE(GvIOp(gv)) = '|';
2793                 else if ((PerlIO*)rsfp == PerlIO_stdin())
2794                     IoTYPE(GvIOp(gv)) = '-';
2795                 else
2796                     IoTYPE(GvIOp(gv)) = '<';
2797                 rsfp = Nullfp;
2798             }
2799             goto fake_eof;
2800         }
2801
2802         case KEY_AUTOLOAD:
2803         case KEY_DESTROY:
2804         case KEY_BEGIN:
2805         case KEY_END:
2806         case KEY_INIT:
2807             if (expect == XSTATE) {
2808                 s = bufptr;
2809                 goto really_sub;
2810             }
2811             goto just_a_word;
2812
2813         case KEY_CORE:
2814             if (*s == ':' && s[1] == ':') {
2815                 s += 2;
2816                 d = s;
2817                 s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2818                 tmp = keyword(tokenbuf, len);
2819                 if (tmp < 0)
2820                     tmp = -tmp;
2821                 goto reserved_word;
2822             }
2823             goto just_a_word;
2824
2825         case KEY_abs:
2826             UNI(OP_ABS);
2827
2828         case KEY_alarm:
2829             UNI(OP_ALARM);
2830
2831         case KEY_accept:
2832             LOP(OP_ACCEPT,XTERM);
2833
2834         case KEY_and:
2835             OPERATOR(ANDOP);
2836
2837         case KEY_atan2:
2838             LOP(OP_ATAN2,XTERM);
2839
2840         case KEY_bind:
2841             LOP(OP_BIND,XTERM);
2842
2843         case KEY_binmode:
2844             UNI(OP_BINMODE);
2845
2846         case KEY_bless:
2847             LOP(OP_BLESS,XTERM);
2848
2849         case KEY_chop:
2850             UNI(OP_CHOP);
2851
2852         case KEY_continue:
2853             PREBLOCK(CONTINUE);
2854
2855         case KEY_chdir:
2856             (void)gv_fetchpv("ENV",TRUE, SVt_PVHV);     /* may use HOME */
2857             UNI(OP_CHDIR);
2858
2859         case KEY_close:
2860             UNI(OP_CLOSE);
2861
2862         case KEY_closedir:
2863             UNI(OP_CLOSEDIR);
2864
2865         case KEY_cmp:
2866             Eop(OP_SCMP);
2867
2868         case KEY_caller:
2869             UNI(OP_CALLER);
2870
2871         case KEY_crypt:
2872 #ifdef FCRYPT
2873             if (!cryptseen++)
2874                 init_des();
2875 #endif
2876             LOP(OP_CRYPT,XTERM);
2877
2878         case KEY_chmod:
2879             if (dowarn) {
2880                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
2881                 if (*d != '0' && isDIGIT(*d))
2882                     yywarn("chmod: mode argument is missing initial 0");
2883             }
2884             LOP(OP_CHMOD,XTERM);
2885
2886         case KEY_chown:
2887             LOP(OP_CHOWN,XTERM);
2888
2889         case KEY_connect:
2890             LOP(OP_CONNECT,XTERM);
2891
2892         case KEY_chr:
2893             UNI(OP_CHR);
2894
2895         case KEY_cos:
2896             UNI(OP_COS);
2897
2898         case KEY_chroot:
2899             UNI(OP_CHROOT);
2900
2901         case KEY_do:
2902             s = skipspace(s);
2903             if (*s == '{')
2904                 PRETERMBLOCK(DO);
2905             if (*s != '\'')
2906                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
2907             OPERATOR(DO);
2908
2909         case KEY_die:
2910             hints |= HINT_BLOCK_SCOPE;
2911             LOP(OP_DIE,XTERM);
2912
2913         case KEY_defined:
2914             UNI(OP_DEFINED);
2915
2916         case KEY_delete:
2917             UNI(OP_DELETE);
2918
2919         case KEY_dbmopen:
2920             gv_fetchpv("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
2921             LOP(OP_DBMOPEN,XTERM);
2922
2923         case KEY_dbmclose:
2924             UNI(OP_DBMCLOSE);
2925
2926         case KEY_dump:
2927             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2928             LOOPX(OP_DUMP);
2929
2930         case KEY_else:
2931             PREBLOCK(ELSE);
2932
2933         case KEY_elsif:
2934             yylval.ival = curcop->cop_line;
2935             OPERATOR(ELSIF);
2936
2937         case KEY_eq:
2938             Eop(OP_SEQ);
2939
2940         case KEY_exists:
2941             UNI(OP_EXISTS);
2942
2943         case KEY_exit:
2944             UNI(OP_EXIT);
2945
2946         case KEY_eval:
2947             s = skipspace(s);
2948             expect = (*s == '{') ? XTERMBLOCK : XTERM;
2949             UNIBRACK(OP_ENTEREVAL);
2950
2951         case KEY_eof:
2952             UNI(OP_EOF);
2953
2954         case KEY_exp:
2955             UNI(OP_EXP);
2956
2957         case KEY_each:
2958             UNI(OP_EACH);
2959
2960         case KEY_exec:
2961             set_csh();
2962             LOP(OP_EXEC,XREF);
2963
2964         case KEY_endhostent:
2965             FUN0(OP_EHOSTENT);
2966
2967         case KEY_endnetent:
2968             FUN0(OP_ENETENT);
2969
2970         case KEY_endservent:
2971             FUN0(OP_ESERVENT);
2972
2973         case KEY_endprotoent:
2974             FUN0(OP_EPROTOENT);
2975
2976         case KEY_endpwent:
2977             FUN0(OP_EPWENT);
2978
2979         case KEY_endgrent:
2980             FUN0(OP_EGRENT);
2981
2982         case KEY_for:
2983         case KEY_foreach:
2984             yylval.ival = curcop->cop_line;
2985             s = skipspace(s);
2986             if (isIDFIRST(*s)) {
2987                 char *p = s;
2988                 if ((bufend - p) >= 3 &&
2989                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
2990                     p += 2;
2991                 p = skipspace(p);
2992                 if (isIDFIRST(*p))
2993                     croak("Missing $ on loop variable");
2994             }
2995             OPERATOR(FOR);
2996
2997         case KEY_formline:
2998             LOP(OP_FORMLINE,XTERM);
2999
3000         case KEY_fork:
3001             FUN0(OP_FORK);
3002
3003         case KEY_fcntl:
3004             LOP(OP_FCNTL,XTERM);
3005
3006         case KEY_fileno:
3007             UNI(OP_FILENO);
3008
3009         case KEY_flock:
3010             LOP(OP_FLOCK,XTERM);
3011
3012         case KEY_gt:
3013             Rop(OP_SGT);
3014
3015         case KEY_ge:
3016             Rop(OP_SGE);
3017
3018         case KEY_grep:
3019             LOP(OP_GREPSTART, *s == '(' ? XTERM : XREF);
3020
3021         case KEY_goto:
3022             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3023             LOOPX(OP_GOTO);
3024
3025         case KEY_gmtime:
3026             UNI(OP_GMTIME);
3027
3028         case KEY_getc:
3029             UNI(OP_GETC);
3030
3031         case KEY_getppid:
3032             FUN0(OP_GETPPID);
3033
3034         case KEY_getpgrp:
3035             UNI(OP_GETPGRP);
3036
3037         case KEY_getpriority:
3038             LOP(OP_GETPRIORITY,XTERM);
3039
3040         case KEY_getprotobyname:
3041             UNI(OP_GPBYNAME);
3042
3043         case KEY_getprotobynumber:
3044             LOP(OP_GPBYNUMBER,XTERM);
3045
3046         case KEY_getprotoent:
3047             FUN0(OP_GPROTOENT);
3048
3049         case KEY_getpwent:
3050             FUN0(OP_GPWENT);
3051
3052         case KEY_getpwnam:
3053             UNI(OP_GPWNAM);
3054
3055         case KEY_getpwuid:
3056             UNI(OP_GPWUID);
3057
3058         case KEY_getpeername:
3059             UNI(OP_GETPEERNAME);
3060
3061         case KEY_gethostbyname:
3062             UNI(OP_GHBYNAME);
3063
3064         case KEY_gethostbyaddr:
3065             LOP(OP_GHBYADDR,XTERM);
3066
3067         case KEY_gethostent:
3068             FUN0(OP_GHOSTENT);
3069
3070         case KEY_getnetbyname:
3071             UNI(OP_GNBYNAME);
3072
3073         case KEY_getnetbyaddr:
3074             LOP(OP_GNBYADDR,XTERM);
3075
3076         case KEY_getnetent:
3077             FUN0(OP_GNETENT);
3078
3079         case KEY_getservbyname:
3080             LOP(OP_GSBYNAME,XTERM);
3081
3082         case KEY_getservbyport:
3083             LOP(OP_GSBYPORT,XTERM);
3084
3085         case KEY_getservent:
3086             FUN0(OP_GSERVENT);
3087
3088         case KEY_getsockname:
3089             UNI(OP_GETSOCKNAME);
3090
3091         case KEY_getsockopt:
3092             LOP(OP_GSOCKOPT,XTERM);
3093
3094         case KEY_getgrent:
3095             FUN0(OP_GGRENT);
3096
3097         case KEY_getgrnam:
3098             UNI(OP_GGRNAM);
3099
3100         case KEY_getgrgid:
3101             UNI(OP_GGRGID);
3102
3103         case KEY_getlogin:
3104             FUN0(OP_GETLOGIN);
3105
3106         case KEY_glob:
3107             set_csh();
3108             LOP(OP_GLOB,XTERM);
3109
3110         case KEY_hex:
3111             UNI(OP_HEX);
3112
3113         case KEY_if:
3114             yylval.ival = curcop->cop_line;
3115             OPERATOR(IF);
3116
3117         case KEY_index:
3118             LOP(OP_INDEX,XTERM);
3119
3120         case KEY_int:
3121             UNI(OP_INT);
3122
3123         case KEY_ioctl:
3124             LOP(OP_IOCTL,XTERM);
3125
3126         case KEY_join:
3127             LOP(OP_JOIN,XTERM);
3128
3129         case KEY_keys:
3130             UNI(OP_KEYS);
3131
3132         case KEY_kill:
3133             LOP(OP_KILL,XTERM);
3134
3135         case KEY_last:
3136             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3137             LOOPX(OP_LAST);
3138
3139         case KEY_lc:
3140             UNI(OP_LC);
3141
3142         case KEY_lcfirst:
3143             UNI(OP_LCFIRST);
3144
3145         case KEY_local:
3146             OPERATOR(LOCAL);
3147
3148         case KEY_length:
3149             UNI(OP_LENGTH);
3150
3151         case KEY_lt:
3152             Rop(OP_SLT);
3153
3154         case KEY_le:
3155             Rop(OP_SLE);
3156
3157         case KEY_localtime:
3158             UNI(OP_LOCALTIME);
3159
3160         case KEY_log:
3161             UNI(OP_LOG);
3162
3163         case KEY_link:
3164             LOP(OP_LINK,XTERM);
3165
3166         case KEY_listen:
3167             LOP(OP_LISTEN,XTERM);
3168
3169         case KEY_lock:
3170             UNI(OP_LOCK);
3171
3172         case KEY_lstat:
3173             UNI(OP_LSTAT);
3174
3175         case KEY_m:
3176             s = scan_pat(s);
3177             TERM(sublex_start());
3178
3179         case KEY_map:
3180             LOP(OP_MAPSTART,XREF);
3181
3182         case KEY_mkdir:
3183             LOP(OP_MKDIR,XTERM);
3184
3185         case KEY_msgctl:
3186             LOP(OP_MSGCTL,XTERM);
3187
3188         case KEY_msgget:
3189             LOP(OP_MSGGET,XTERM);
3190
3191         case KEY_msgrcv:
3192             LOP(OP_MSGRCV,XTERM);
3193
3194         case KEY_msgsnd:
3195             LOP(OP_MSGSND,XTERM);
3196
3197         case KEY_my:
3198             in_my = TRUE;
3199             s = skipspace(s);
3200             if (isIDFIRST(*s)) {
3201                 s = scan_word(s, tokenbuf, sizeof tokenbuf, TRUE, &len);
3202                 in_my_stash = gv_stashpv(tokenbuf, FALSE);
3203                 if (!in_my_stash) {
3204                     char tmpbuf[1024];
3205                     bufptr = s;
3206                     sprintf(tmpbuf, "No such class %.1000s", tokenbuf);
3207                     yyerror(tmpbuf);
3208                 }
3209             }
3210             OPERATOR(MY);
3211
3212         case KEY_next:
3213             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3214             LOOPX(OP_NEXT);
3215
3216         case KEY_ne:
3217             Eop(OP_SNE);
3218
3219         case KEY_no:
3220             if (expect != XSTATE)
3221                 yyerror("\"no\" not allowed in expression");
3222             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3223             s = force_version(s);
3224             yylval.ival = 0;
3225             OPERATOR(USE);
3226
3227         case KEY_not:
3228             OPERATOR(NOTOP);
3229
3230         case KEY_open:
3231             s = skipspace(s);
3232             if (isIDFIRST(*s)) {
3233                 char *t;
3234                 for (d = s; isALNUM(*d); d++) ;
3235                 t = skipspace(d);
3236                 if (strchr("|&*+-=!?:.", *t))
3237                     warn("Precedence problem: open %.*s should be open(%.*s)",
3238                         d-s,s, d-s,s);
3239             }
3240             LOP(OP_OPEN,XTERM);
3241
3242         case KEY_or:
3243             yylval.ival = OP_OR;
3244             OPERATOR(OROP);
3245
3246         case KEY_ord:
3247             UNI(OP_ORD);
3248
3249         case KEY_oct:
3250             UNI(OP_OCT);
3251
3252         case KEY_opendir:
3253             LOP(OP_OPEN_DIR,XTERM);
3254
3255         case KEY_print:
3256             checkcomma(s,tokenbuf,"filehandle");
3257             LOP(OP_PRINT,XREF);
3258
3259         case KEY_printf:
3260             checkcomma(s,tokenbuf,"filehandle");
3261             LOP(OP_PRTF,XREF);
3262
3263         case KEY_prototype:
3264             UNI(OP_PROTOTYPE);
3265
3266         case KEY_push:
3267             LOP(OP_PUSH,XTERM);
3268
3269         case KEY_pop:
3270             UNI(OP_POP);
3271
3272         case KEY_pos:
3273             UNI(OP_POS);
3274
3275         case KEY_pack:
3276             LOP(OP_PACK,XTERM);
3277
3278         case KEY_package:
3279             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3280             OPERATOR(PACKAGE);
3281
3282         case KEY_pipe:
3283             LOP(OP_PIPE_OP,XTERM);
3284
3285         case KEY_q:
3286             s = scan_str(s);
3287             if (!s)
3288                 missingterm((char*)0);
3289             yylval.ival = OP_CONST;
3290             TERM(sublex_start());
3291
3292         case KEY_quotemeta:
3293             UNI(OP_QUOTEMETA);
3294
3295         case KEY_qw:
3296             s = scan_str(s);
3297             if (!s)
3298                 missingterm((char*)0);
3299             if (dowarn && SvLEN(lex_stuff)) {
3300                 d = SvPV_force(lex_stuff, len);
3301                 for (; len; --len, ++d) {
3302                     if (*d == ',') {
3303                         warn("Possible attempt to separate words with commas");
3304                         break;
3305                     }
3306                     if (*d == '#') {
3307                         warn("Possible attempt to put comments in qw() list");
3308                         break;
3309                     }
3310                 }
3311             }
3312             force_next(')');
3313             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, q(lex_stuff));
3314             lex_stuff = Nullsv;
3315             force_next(THING);
3316             force_next(',');
3317             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(" ",1));
3318             force_next(THING);
3319             force_next('(');
3320             yylval.ival = OP_SPLIT;
3321             CLINE;
3322             expect = XTERM;
3323             bufptr = s;
3324             last_lop = oldbufptr;
3325             last_lop_op = OP_SPLIT;
3326             return FUNC;
3327
3328         case KEY_qq:
3329             s = scan_str(s);
3330             if (!s)
3331                 missingterm((char*)0);
3332             yylval.ival = OP_STRINGIFY;
3333             if (SvIVX(lex_stuff) == '\'')
3334                 SvIVX(lex_stuff) = 0;   /* qq'$foo' should intepolate */
3335             TERM(sublex_start());
3336
3337         case KEY_qx:
3338             s = scan_str(s);
3339             if (!s)
3340                 missingterm((char*)0);
3341             yylval.ival = OP_BACKTICK;
3342             set_csh();
3343             TERM(sublex_start());
3344
3345         case KEY_return:
3346             OLDLOP(OP_RETURN);
3347
3348         case KEY_require:
3349             *tokenbuf = '\0';
3350             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3351             if (isIDFIRST(*tokenbuf))
3352                 gv_stashpvn(tokenbuf, strlen(tokenbuf), TRUE);
3353             else if (*s == '<')
3354                 yyerror("<> should be quotes");
3355             UNI(OP_REQUIRE);
3356
3357         case KEY_reset:
3358             UNI(OP_RESET);
3359
3360         case KEY_redo:
3361             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3362             LOOPX(OP_REDO);
3363
3364         case KEY_rename:
3365             LOP(OP_RENAME,XTERM);
3366
3367         case KEY_rand:
3368             UNI(OP_RAND);
3369
3370         case KEY_rmdir:
3371             UNI(OP_RMDIR);
3372
3373         case KEY_rindex:
3374             LOP(OP_RINDEX,XTERM);
3375
3376         case KEY_read:
3377             LOP(OP_READ,XTERM);
3378
3379         case KEY_readdir:
3380             UNI(OP_READDIR);
3381
3382         case KEY_readline:
3383             set_csh();
3384             UNI(OP_READLINE);
3385
3386         case KEY_readpipe:
3387             set_csh();
3388             UNI(OP_BACKTICK);
3389
3390         case KEY_rewinddir:
3391             UNI(OP_REWINDDIR);
3392
3393         case KEY_recv:
3394             LOP(OP_RECV,XTERM);
3395
3396         case KEY_reverse:
3397             LOP(OP_REVERSE,XTERM);
3398
3399         case KEY_readlink:
3400             UNI(OP_READLINK);
3401
3402         case KEY_ref:
3403             UNI(OP_REF);
3404
3405         case KEY_s:
3406             s = scan_subst(s);
3407             if (yylval.opval)
3408                 TERM(sublex_start());
3409             else
3410                 TOKEN(1);       /* force error */
3411
3412         case KEY_chomp:
3413             UNI(OP_CHOMP);
3414
3415         case KEY_scalar:
3416             UNI(OP_SCALAR);
3417
3418         case KEY_select:
3419             LOP(OP_SELECT,XTERM);
3420
3421         case KEY_seek:
3422             LOP(OP_SEEK,XTERM);
3423
3424         case KEY_semctl:
3425             LOP(OP_SEMCTL,XTERM);
3426
3427         case KEY_semget:
3428             LOP(OP_SEMGET,XTERM);
3429
3430         case KEY_semop:
3431             LOP(OP_SEMOP,XTERM);
3432
3433         case KEY_send:
3434             LOP(OP_SEND,XTERM);
3435
3436         case KEY_setpgrp:
3437             LOP(OP_SETPGRP,XTERM);
3438
3439         case KEY_setpriority:
3440             LOP(OP_SETPRIORITY,XTERM);
3441
3442         case KEY_sethostent:
3443             UNI(OP_SHOSTENT);
3444
3445         case KEY_setnetent:
3446             UNI(OP_SNETENT);
3447
3448         case KEY_setservent:
3449             UNI(OP_SSERVENT);
3450
3451         case KEY_setprotoent:
3452             UNI(OP_SPROTOENT);
3453
3454         case KEY_setpwent:
3455             FUN0(OP_SPWENT);
3456
3457         case KEY_setgrent:
3458             FUN0(OP_SGRENT);
3459
3460         case KEY_seekdir:
3461             LOP(OP_SEEKDIR,XTERM);
3462
3463         case KEY_setsockopt:
3464             LOP(OP_SSOCKOPT,XTERM);
3465
3466         case KEY_shift:
3467             UNI(OP_SHIFT);
3468
3469         case KEY_shmctl:
3470             LOP(OP_SHMCTL,XTERM);
3471
3472         case KEY_shmget:
3473             LOP(OP_SHMGET,XTERM);
3474
3475         case KEY_shmread:
3476             LOP(OP_SHMREAD,XTERM);
3477
3478         case KEY_shmwrite:
3479             LOP(OP_SHMWRITE,XTERM);
3480
3481         case KEY_shutdown:
3482             LOP(OP_SHUTDOWN,XTERM);
3483
3484         case KEY_sin:
3485             UNI(OP_SIN);
3486
3487         case KEY_sleep:
3488             UNI(OP_SLEEP);
3489
3490         case KEY_socket:
3491             LOP(OP_SOCKET,XTERM);
3492
3493         case KEY_socketpair:
3494             LOP(OP_SOCKPAIR,XTERM);
3495
3496         case KEY_sort:
3497             checkcomma(s,tokenbuf,"subroutine name");
3498             s = skipspace(s);
3499             if (*s == ';' || *s == ')')         /* probably a close */
3500                 croak("sort is now a reserved word");
3501             expect = XTERM;
3502             s = force_word(s,WORD,TRUE,TRUE,TRUE);
3503             LOP(OP_SORT,XREF);
3504
3505         case KEY_split:
3506             LOP(OP_SPLIT,XTERM);
3507
3508         case KEY_sprintf:
3509             LOP(OP_SPRINTF,XTERM);
3510
3511         case KEY_splice:
3512             LOP(OP_SPLICE,XTERM);
3513
3514         case KEY_sqrt:
3515             UNI(OP_SQRT);
3516
3517         case KEY_srand:
3518             UNI(OP_SRAND);
3519
3520         case KEY_stat:
3521             UNI(OP_STAT);
3522
3523         case KEY_study:
3524             sawstudy++;
3525             UNI(OP_STUDY);
3526
3527         case KEY_substr:
3528             LOP(OP_SUBSTR,XTERM);
3529
3530         case KEY_format:
3531         case KEY_sub:
3532           really_sub:
3533             s = skipspace(s);
3534
3535             if (isIDFIRST(*s) || *s == '\'' || *s == ':') {
3536                 char tmpbuf[sizeof tokenbuf];
3537                 expect = XBLOCK;
3538                 d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
3539                 if (strchr(tmpbuf, ':'))
3540                     sv_setpv(subname, tmpbuf);
3541                 else {
3542                     sv_setsv(subname,curstname);
3543                     sv_catpvn(subname,"::",2);
3544                     sv_catpvn(subname,tmpbuf,len);
3545                 }
3546                 s = force_word(s,WORD,FALSE,TRUE,TRUE);
3547                 s = skipspace(s);
3548             }
3549             else {
3550                 expect = XTERMBLOCK;
3551                 sv_setpv(subname,"?");
3552             }
3553
3554             if (tmp == KEY_format) {
3555                 s = skipspace(s);
3556                 if (*s == '=')
3557                     lex_formbrack = lex_brackets + 1;
3558                 OPERATOR(FORMAT);
3559             }
3560
3561             /* Look for a prototype */
3562             if (*s == '(') {
3563                 char *p;
3564
3565                 s = scan_str(s);
3566                 if (!s) {
3567                     if (lex_stuff)
3568                         SvREFCNT_dec(lex_stuff);
3569                     lex_stuff = Nullsv;
3570                     croak("Prototype not terminated");
3571                 }
3572                 /* strip spaces */
3573                 d = SvPVX(lex_stuff);
3574                 tmp = 0;
3575                 for (p = d; *p; ++p) {
3576                     if (!isSPACE(*p))
3577                         d[tmp++] = *p;
3578                 }
3579                 d[tmp] = '\0';
3580                 SvCUR(lex_stuff) = tmp;
3581
3582                 nexttoke++;
3583                 nextval[1] = nextval[0];
3584                 nexttype[1] = nexttype[0];
3585                 nextval[0].opval = (OP*)newSVOP(OP_CONST, 0, lex_stuff);
3586                 nexttype[0] = THING;
3587                 if (nexttoke == 1) {
3588                     lex_defer = lex_state;
3589                     lex_expect = expect;
3590                     lex_state = LEX_KNOWNEXT;
3591                 }
3592                 lex_stuff = Nullsv;
3593             }
3594
3595             if (*SvPV(subname,na) == '?') {
3596                 sv_setpv(subname,"__ANON__");
3597                 TOKEN(ANONSUB);
3598             }
3599             PREBLOCK(SUB);
3600
3601         case KEY_system:
3602             set_csh();
3603             LOP(OP_SYSTEM,XREF);
3604
3605         case KEY_symlink:
3606             LOP(OP_SYMLINK,XTERM);
3607
3608         case KEY_syscall:
3609             LOP(OP_SYSCALL,XTERM);
3610
3611         case KEY_sysopen:
3612             LOP(OP_SYSOPEN,XTERM);
3613
3614         case KEY_sysseek:
3615             LOP(OP_SYSSEEK,XTERM);
3616
3617         case KEY_sysread:
3618             LOP(OP_SYSREAD,XTERM);
3619
3620         case KEY_syswrite:
3621             LOP(OP_SYSWRITE,XTERM);
3622
3623         case KEY_tr:
3624             s = scan_trans(s);
3625             TERM(sublex_start());
3626
3627         case KEY_tell:
3628             UNI(OP_TELL);
3629
3630         case KEY_telldir:
3631             UNI(OP_TELLDIR);
3632
3633         case KEY_tie:
3634             LOP(OP_TIE,XTERM);
3635
3636         case KEY_tied:
3637             UNI(OP_TIED);
3638
3639         case KEY_time:
3640             FUN0(OP_TIME);
3641
3642         case KEY_times:
3643             FUN0(OP_TMS);
3644
3645         case KEY_truncate:
3646             LOP(OP_TRUNCATE,XTERM);
3647
3648         case KEY_uc:
3649             UNI(OP_UC);
3650
3651         case KEY_ucfirst:
3652             UNI(OP_UCFIRST);
3653
3654         case KEY_untie:
3655             UNI(OP_UNTIE);
3656
3657         case KEY_until:
3658             yylval.ival = curcop->cop_line;
3659             OPERATOR(UNTIL);
3660
3661         case KEY_unless:
3662             yylval.ival = curcop->cop_line;
3663             OPERATOR(UNLESS);
3664
3665         case KEY_unlink:
3666             LOP(OP_UNLINK,XTERM);
3667
3668         case KEY_undef:
3669             UNI(OP_UNDEF);
3670
3671         case KEY_unpack:
3672             LOP(OP_UNPACK,XTERM);
3673
3674         case KEY_utime:
3675             LOP(OP_UTIME,XTERM);
3676
3677         case KEY_umask:
3678             if (dowarn) {
3679                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
3680                 if (*d != '0' && isDIGIT(*d))
3681                     yywarn("umask: argument is missing initial 0");
3682             }
3683             UNI(OP_UMASK);
3684
3685         case KEY_unshift:
3686             LOP(OP_UNSHIFT,XTERM);
3687
3688         case KEY_use:
3689             if (expect != XSTATE)
3690                 yyerror("\"use\" not allowed in expression");
3691             s = skipspace(s);
3692             if(isDIGIT(*s)) {
3693                 s = force_version(s);
3694                 if(*s == ';' || (s = skipspace(s), *s == ';')) {
3695                     nextval[nexttoke].opval = Nullop;
3696                     force_next(WORD);
3697                 }
3698             }
3699             else {
3700                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
3701                 s = force_version(s);
3702             }
3703             yylval.ival = 1;
3704             OPERATOR(USE);
3705
3706         case KEY_values:
3707             UNI(OP_VALUES);
3708
3709         case KEY_vec:
3710             sawvec = TRUE;
3711             LOP(OP_VEC,XTERM);
3712
3713         case KEY_while:
3714             yylval.ival = curcop->cop_line;
3715             OPERATOR(WHILE);
3716
3717         case KEY_warn:
3718             hints |= HINT_BLOCK_SCOPE;
3719             LOP(OP_WARN,XTERM);
3720
3721         case KEY_wait:
3722             FUN0(OP_WAIT);
3723
3724         case KEY_waitpid:
3725             LOP(OP_WAITPID,XTERM);
3726
3727         case KEY_wantarray:
3728             FUN0(OP_WANTARRAY);
3729
3730         case KEY_write:
3731             gv_fetchpv("\f",TRUE, SVt_PV);      /* Make sure $^L is defined */
3732             UNI(OP_ENTERWRITE);
3733
3734         case KEY_x:
3735             if (expect == XOPERATOR)
3736                 Mop(OP_REPEAT);
3737             check_uni();
3738             goto just_a_word;
3739
3740         case KEY_xor:
3741             yylval.ival = OP_XOR;
3742             OPERATOR(OROP);
3743
3744         case KEY_y:
3745             s = scan_trans(s);
3746             TERM(sublex_start());
3747         }
3748     }
3749 }
3750
3751 I32
3752 keyword(register char *d, I32 len)
3753 {
3754     switch (*d) {
3755     case '_':
3756         if (d[1] == '_') {
3757             if (strEQ(d,"__FILE__"))            return -KEY___FILE__;
3758             if (strEQ(d,"__LINE__"))            return -KEY___LINE__;
3759             if (strEQ(d,"__PACKAGE__"))         return -KEY___PACKAGE__;
3760             if (strEQ(d,"__DATA__"))            return KEY___DATA__;
3761             if (strEQ(d,"__END__"))             return KEY___END__;
3762         }
3763         break;
3764     case 'A':
3765         if (strEQ(d,"AUTOLOAD"))                return KEY_AUTOLOAD;
3766         break;
3767     case 'a':
3768         switch (len) {
3769         case 3:
3770             if (strEQ(d,"and"))                 return -KEY_and;
3771             if (strEQ(d,"abs"))                 return -KEY_abs;
3772             break;
3773         case 5:
3774             if (strEQ(d,"alarm"))               return -KEY_alarm;
3775             if (strEQ(d,"atan2"))               return -KEY_atan2;
3776             break;
3777         case 6:
3778             if (strEQ(d,"accept"))              return -KEY_accept;
3779             break;
3780         }
3781         break;
3782     case 'B':
3783         if (strEQ(d,"BEGIN"))                   return KEY_BEGIN;
3784         break;
3785     case 'b':
3786         if (strEQ(d,"bless"))                   return -KEY_bless;
3787         if (strEQ(d,"bind"))                    return -KEY_bind;
3788         if (strEQ(d,"binmode"))                 return -KEY_binmode;
3789         break;
3790     case 'C':
3791         if (strEQ(d,"CORE"))                    return -KEY_CORE;
3792         break;
3793     case 'c':
3794         switch (len) {
3795         case 3:
3796             if (strEQ(d,"cmp"))                 return -KEY_cmp;
3797             if (strEQ(d,"chr"))                 return -KEY_chr;
3798             if (strEQ(d,"cos"))                 return -KEY_cos;
3799             break;
3800         case 4:
3801             if (strEQ(d,"chop"))                return KEY_chop;
3802             break;
3803         case 5:
3804             if (strEQ(d,"close"))               return -KEY_close;
3805             if (strEQ(d,"chdir"))               return -KEY_chdir;
3806             if (strEQ(d,"chomp"))               return KEY_chomp;
3807             if (strEQ(d,"chmod"))               return -KEY_chmod;
3808             if (strEQ(d,"chown"))               return -KEY_chown;
3809             if (strEQ(d,"crypt"))               return -KEY_crypt;
3810             break;
3811         case 6:
3812             if (strEQ(d,"chroot"))              return -KEY_chroot;
3813             if (strEQ(d,"caller"))              return -KEY_caller;
3814             break;
3815         case 7:
3816             if (strEQ(d,"connect"))             return -KEY_connect;
3817             break;
3818         case 8:
3819             if (strEQ(d,"closedir"))            return -KEY_closedir;
3820             if (strEQ(d,"continue"))            return -KEY_continue;
3821             break;
3822         }
3823         break;
3824     case 'D':
3825         if (strEQ(d,"DESTROY"))                 return KEY_DESTROY;
3826         break;
3827     case 'd':
3828         switch (len) {
3829         case 2:
3830             if (strEQ(d,"do"))                  return KEY_do;
3831             break;
3832         case 3:
3833             if (strEQ(d,"die"))                 return -KEY_die;
3834             break;
3835         case 4:
3836             if (strEQ(d,"dump"))                return -KEY_dump;
3837             break;
3838         case 6:
3839             if (strEQ(d,"delete"))              return KEY_delete;
3840             break;
3841         case 7:
3842             if (strEQ(d,"defined"))             return KEY_defined;
3843             if (strEQ(d,"dbmopen"))             return -KEY_dbmopen;
3844             break;
3845         case 8:
3846             if (strEQ(d,"dbmclose"))            return -KEY_dbmclose;
3847             break;
3848         }
3849         break;
3850     case 'E':
3851         if (strEQ(d,"EQ")) { deprecate(d);      return -KEY_eq;}
3852         if (strEQ(d,"END"))                     return KEY_END;
3853         break;
3854     case 'e':
3855         switch (len) {
3856         case 2:
3857             if (strEQ(d,"eq"))                  return -KEY_eq;
3858             break;
3859         case 3:
3860             if (strEQ(d,"eof"))                 return -KEY_eof;
3861             if (strEQ(d,"exp"))                 return -KEY_exp;
3862             break;
3863         case 4:
3864             if (strEQ(d,"else"))                return KEY_else;
3865             if (strEQ(d,"exit"))                return -KEY_exit;
3866             if (strEQ(d,"eval"))                return KEY_eval;
3867             if (strEQ(d,"exec"))                return -KEY_exec;
3868             if (strEQ(d,"each"))                return KEY_each;
3869             break;
3870         case 5:
3871             if (strEQ(d,"elsif"))               return KEY_elsif;
3872             break;
3873         case 6:
3874             if (strEQ(d,"exists"))              return KEY_exists;
3875             if (strEQ(d,"elseif")) warn("elseif should be elsif");
3876             break;
3877         case 8:
3878             if (strEQ(d,"endgrent"))            return -KEY_endgrent;
3879             if (strEQ(d,"endpwent"))            return -KEY_endpwent;
3880             break;
3881         case 9:
3882             if (strEQ(d,"endnetent"))           return -KEY_endnetent;
3883             break;
3884         case 10:
3885             if (strEQ(d,"endhostent"))          return -KEY_endhostent;
3886             if (strEQ(d,"endservent"))          return -KEY_endservent;
3887             break;
3888         case 11:
3889             if (strEQ(d,"endprotoent"))         return -KEY_endprotoent;
3890             break;
3891         }
3892         break;
3893     case 'f':
3894         switch (len) {
3895         case 3:
3896             if (strEQ(d,"for"))                 return KEY_for;
3897             break;
3898         case 4:
3899             if (strEQ(d,"fork"))                return -KEY_fork;
3900             break;
3901         case 5:
3902             if (strEQ(d,"fcntl"))               return -KEY_fcntl;
3903             if (strEQ(d,"flock"))               return -KEY_flock;
3904             break;
3905         case 6:
3906             if (strEQ(d,"format"))              return KEY_format;
3907             if (strEQ(d,"fileno"))              return -KEY_fileno;
3908             break;
3909         case 7:
3910             if (strEQ(d,"foreach"))             return KEY_foreach;
3911             break;
3912         case 8:
3913             if (strEQ(d,"formline"))            return -KEY_formline;
3914             break;
3915         }
3916         break;
3917     case 'G':
3918         if (len == 2) {
3919             if (strEQ(d,"GT")) { deprecate(d);  return -KEY_gt;}
3920             if (strEQ(d,"GE")) { deprecate(d);  return -KEY_ge;}
3921         }
3922         break;
3923     case 'g':
3924         if (strnEQ(d,"get",3)) {
3925             d += 3;
3926             if (*d == 'p') {
3927                 switch (len) {
3928                 case 7:
3929                     if (strEQ(d,"ppid"))        return -KEY_getppid;
3930                     if (strEQ(d,"pgrp"))        return -KEY_getpgrp;
3931                     break;
3932                 case 8:
3933                     if (strEQ(d,"pwent"))       return -KEY_getpwent;
3934                     if (strEQ(d,"pwnam"))       return -KEY_getpwnam;
3935                     if (strEQ(d,"pwuid"))       return -KEY_getpwuid;
3936                     break;
3937                 case 11:
3938                     if (strEQ(d,"peername"))    return -KEY_getpeername;
3939                     if (strEQ(d,"protoent"))    return -KEY_getprotoent;
3940                     if (strEQ(d,"priority"))    return -KEY_getpriority;
3941                     break;
3942                 case 14:
3943                     if (strEQ(d,"protobyname")) return -KEY_getprotobyname;
3944                     break;
3945                 case 16:
3946                     if (strEQ(d,"protobynumber"))return -KEY_getprotobynumber;
3947                     break;
3948                 }
3949             }
3950             else if (*d == 'h') {
3951                 if (strEQ(d,"hostbyname"))      return -KEY_gethostbyname;
3952                 if (strEQ(d,"hostbyaddr"))      return -KEY_gethostbyaddr;
3953                 if (strEQ(d,"hostent"))         return -KEY_gethostent;
3954             }
3955             else if (*d == 'n') {
3956                 if (strEQ(d,"netbyname"))       return -KEY_getnetbyname;
3957                 if (strEQ(d,"netbyaddr"))       return -KEY_getnetbyaddr;
3958                 if (strEQ(d,"netent"))          return -KEY_getnetent;
3959             }
3960             else if (*d == 's') {
3961                 if (strEQ(d,"servbyname"))      return -KEY_getservbyname;
3962                 if (strEQ(d,"servbyport"))      return -KEY_getservbyport;
3963                 if (strEQ(d,"servent"))         return -KEY_getservent;
3964                 if (strEQ(d,"sockname"))        return -KEY_getsockname;
3965                 if (strEQ(d,"sockopt"))         return -KEY_getsockopt;
3966             }
3967             else if (*d == 'g') {
3968                 if (strEQ(d,"grent"))           return -KEY_getgrent;
3969                 if (strEQ(d,"grnam"))           return -KEY_getgrnam;
3970                 if (strEQ(d,"grgid"))           return -KEY_getgrgid;
3971             }
3972             else if (*d == 'l') {
3973                 if (strEQ(d,"login"))           return -KEY_getlogin;
3974             }
3975             else if (strEQ(d,"c"))              return -KEY_getc;
3976             break;
3977         }
3978         switch (len) {
3979         case 2:
3980             if (strEQ(d,"gt"))                  return -KEY_gt;
3981             if (strEQ(d,"ge"))                  return -KEY_ge;
3982             break;
3983         case 4:
3984             if (strEQ(d,"grep"))                return KEY_grep;
3985             if (strEQ(d,"goto"))                return KEY_goto;
3986             if (strEQ(d,"glob"))                return KEY_glob;
3987             break;
3988         case 6:
3989             if (strEQ(d,"gmtime"))              return -KEY_gmtime;
3990             break;
3991         }
3992         break;
3993     case 'h':
3994         if (strEQ(d,"hex"))                     return -KEY_hex;
3995         break;
3996     case 'I':
3997         if (strEQ(d,"INIT"))                    return KEY_INIT;
3998         break;
3999     case 'i':
4000         switch (len) {
4001         case 2:
4002             if (strEQ(d,"if"))                  return KEY_if;
4003             break;
4004         case 3:
4005             if (strEQ(d,"int"))                 return -KEY_int;
4006             break;
4007         case 5:
4008             if (strEQ(d,"index"))               return -KEY_index;
4009             if (strEQ(d,"ioctl"))               return -KEY_ioctl;
4010             break;
4011         }
4012         break;
4013     case 'j':
4014         if (strEQ(d,"join"))                    return -KEY_join;
4015         break;
4016     case 'k':
4017         if (len == 4) {
4018             if (strEQ(d,"keys"))                return KEY_keys;
4019             if (strEQ(d,"kill"))                return -KEY_kill;
4020         }
4021         break;
4022     case 'L':
4023         if (len == 2) {
4024             if (strEQ(d,"LT")) { deprecate(d);  return -KEY_lt;}
4025             if (strEQ(d,"LE")) { deprecate(d);  return -KEY_le;}
4026         }
4027         break;
4028     case 'l':
4029         switch (len) {
4030         case 2:
4031             if (strEQ(d,"lt"))                  return -KEY_lt;
4032             if (strEQ(d,"le"))                  return -KEY_le;
4033             if (strEQ(d,"lc"))                  return -KEY_lc;
4034             break;
4035         case 3:
4036             if (strEQ(d,"log"))                 return -KEY_log;
4037             break;
4038         case 4:
4039             if (strEQ(d,"last"))                return KEY_last;
4040             if (strEQ(d,"link"))                return -KEY_link;
4041             if (strEQ(d,"lock"))                return -KEY_lock;
4042             break;
4043         case 5:
4044             if (strEQ(d,"local"))               return KEY_local;
4045             if (strEQ(d,"lstat"))               return -KEY_lstat;
4046             break;
4047         case 6:
4048             if (strEQ(d,"length"))              return -KEY_length;
4049             if (strEQ(d,"listen"))              return -KEY_listen;
4050             break;
4051         case 7:
4052             if (strEQ(d,"lcfirst"))             return -KEY_lcfirst;
4053             break;
4054         case 9:
4055             if (strEQ(d,"localtime"))           return -KEY_localtime;
4056             break;
4057         }
4058         break;
4059     case 'm':
4060         switch (len) {
4061         case 1:                                 return KEY_m;
4062         case 2:
4063             if (strEQ(d,"my"))                  return KEY_my;
4064             break;
4065         case 3:
4066             if (strEQ(d,"map"))                 return KEY_map;
4067             break;
4068         case 5:
4069             if (strEQ(d,"mkdir"))               return -KEY_mkdir;
4070             break;
4071         case 6:
4072             if (strEQ(d,"msgctl"))              return -KEY_msgctl;
4073             if (strEQ(d,"msgget"))              return -KEY_msgget;
4074             if (strEQ(d,"msgrcv"))              return -KEY_msgrcv;
4075             if (strEQ(d,"msgsnd"))              return -KEY_msgsnd;
4076             break;
4077         }
4078         break;
4079     case 'N':
4080         if (strEQ(d,"NE")) { deprecate(d);      return -KEY_ne;}
4081         break;
4082     case 'n':
4083         if (strEQ(d,"next"))                    return KEY_next;
4084         if (strEQ(d,"ne"))                      return -KEY_ne;
4085         if (strEQ(d,"not"))                     return -KEY_not;
4086         if (strEQ(d,"no"))                      return KEY_no;
4087         break;
4088     case 'o':
4089         switch (len) {
4090         case 2:
4091             if (strEQ(d,"or"))                  return -KEY_or;
4092             break;
4093         case 3:
4094             if (strEQ(d,"ord"))                 return -KEY_ord;
4095             if (strEQ(d,"oct"))                 return -KEY_oct;
4096             break;
4097         case 4:
4098             if (strEQ(d,"open"))                return -KEY_open;
4099             break;
4100         case 7:
4101             if (strEQ(d,"opendir"))             return -KEY_opendir;
4102             break;
4103         }
4104         break;
4105     case 'p':
4106         switch (len) {
4107         case 3:
4108             if (strEQ(d,"pop"))                 return KEY_pop;
4109             if (strEQ(d,"pos"))                 return KEY_pos;
4110             break;
4111         case 4:
4112             if (strEQ(d,"push"))                return KEY_push;
4113             if (strEQ(d,"pack"))                return -KEY_pack;
4114             if (strEQ(d,"pipe"))                return -KEY_pipe;
4115             break;
4116         case 5:
4117             if (strEQ(d,"print"))               return KEY_print;
4118             break;
4119         case 6:
4120             if (strEQ(d,"printf"))              return KEY_printf;
4121             break;
4122         case 7:
4123             if (strEQ(d,"package"))             return KEY_package;
4124             break;
4125         case 9:
4126             if (strEQ(d,"prototype"))           return KEY_prototype;
4127         }
4128         break;
4129     case 'q':
4130         if (len <= 2) {
4131             if (strEQ(d,"q"))                   return KEY_q;
4132             if (strEQ(d,"qq"))                  return KEY_qq;
4133             if (strEQ(d,"qw"))                  return KEY_qw;
4134             if (strEQ(d,"qx"))                  return KEY_qx;
4135         }
4136         else if (strEQ(d,"quotemeta"))          return -KEY_quotemeta;
4137         break;
4138     case 'r':
4139         switch (len) {
4140         case 3:
4141             if (strEQ(d,"ref"))                 return -KEY_ref;
4142             break;
4143         case 4:
4144             if (strEQ(d,"read"))                return -KEY_read;
4145             if (strEQ(d,"rand"))                return -KEY_rand;
4146             if (strEQ(d,"recv"))                return -KEY_recv;
4147             if (strEQ(d,"redo"))                return KEY_redo;
4148             break;
4149         case 5:
4150             if (strEQ(d,"rmdir"))               return -KEY_rmdir;
4151             if (strEQ(d,"reset"))               return -KEY_reset;
4152             break;
4153         case 6:
4154             if (strEQ(d,"return"))              return KEY_return;
4155             if (strEQ(d,"rename"))              return -KEY_rename;
4156             if (strEQ(d,"rindex"))              return -KEY_rindex;
4157             break;
4158         case 7:
4159             if (strEQ(d,"require"))             return -KEY_require;
4160             if (strEQ(d,"reverse"))             return -KEY_reverse;
4161             if (strEQ(d,"readdir"))             return -KEY_readdir;
4162             break;
4163         case 8:
4164             if (strEQ(d,"readlink"))            return -KEY_readlink;
4165             if (strEQ(d,"readline"))            return -KEY_readline;
4166             if (strEQ(d,"readpipe"))            return -KEY_readpipe;
4167             break;
4168         case 9:
4169             if (strEQ(d,"rewinddir"))           return -KEY_rewinddir;
4170             break;
4171         }
4172         break;
4173     case 's':
4174         switch (d[1]) {
4175         case 0:                                 return KEY_s;
4176         case 'c':
4177             if (strEQ(d,"scalar"))              return KEY_scalar;
4178             break;
4179         case 'e':
4180             switch (len) {
4181             case 4:
4182                 if (strEQ(d,"seek"))            return -KEY_seek;
4183                 if (strEQ(d,"send"))            return -KEY_send;
4184                 break;
4185             case 5:
4186                 if (strEQ(d,"semop"))           return -KEY_semop;
4187                 break;
4188             case 6:
4189                 if (strEQ(d,"select"))          return -KEY_select;
4190                 if (strEQ(d,"semctl"))          return -KEY_semctl;
4191                 if (strEQ(d,"semget"))          return -KEY_semget;
4192                 break;
4193             case 7:
4194                 if (strEQ(d,"setpgrp"))         return -KEY_setpgrp;
4195                 if (strEQ(d,"seekdir"))         return -KEY_seekdir;
4196                 break;
4197             case 8:
4198                 if (strEQ(d,"setpwent"))        return -KEY_setpwent;
4199                 if (strEQ(d,"setgrent"))        return -KEY_setgrent;
4200                 break;
4201             case 9:
4202                 if (strEQ(d,"setnetent"))       return -KEY_setnetent;
4203                 break;
4204             case 10:
4205                 if (strEQ(d,"setsockopt"))      return -KEY_setsockopt;
4206                 if (strEQ(d,"sethostent"))      return -KEY_sethostent;
4207                 if (strEQ(d,"setservent"))      return -KEY_setservent;
4208                 break;
4209             case 11:
4210                 if (strEQ(d,"setpriority"))     return -KEY_setpriority;
4211                 if (strEQ(d,"setprotoent"))     return -KEY_setprotoent;
4212                 break;
4213             }
4214             break;
4215         case 'h':
4216             switch (len) {
4217             case 5:
4218                 if (strEQ(d,"shift"))           return KEY_shift;
4219                 break;
4220             case 6:
4221                 if (strEQ(d,"shmctl"))          return -KEY_shmctl;
4222                 if (strEQ(d,"shmget"))          return -KEY_shmget;
4223                 break;
4224             case 7:
4225                 if (strEQ(d,"shmread"))         return -KEY_shmread;
4226                 break;
4227             case 8:
4228                 if (strEQ(d,"shmwrite"))        return -KEY_shmwrite;
4229                 if (strEQ(d,"shutdown"))        return -KEY_shutdown;
4230                 break;
4231             }
4232             break;
4233         case 'i':
4234             if (strEQ(d,"sin"))                 return -KEY_sin;
4235             break;
4236         case 'l':
4237             if (strEQ(d,"sleep"))               return -KEY_sleep;
4238             break;
4239         case 'o':
4240             if (strEQ(d,"sort"))                return KEY_sort;
4241             if (strEQ(d,"socket"))              return -KEY_socket;
4242             if (strEQ(d,"socketpair"))          return -KEY_socketpair;
4243             break;
4244         case 'p':
4245             if (strEQ(d,"split"))               return KEY_split;
4246             if (strEQ(d,"sprintf"))             return -KEY_sprintf;
4247             if (strEQ(d,"splice"))              return KEY_splice;
4248             break;
4249         case 'q':
4250             if (strEQ(d,"sqrt"))                return -KEY_sqrt;
4251             break;
4252         case 'r':
4253             if (strEQ(d,"srand"))               return -KEY_srand;
4254             break;
4255         case 't':
4256             if (strEQ(d,"stat"))                return -KEY_stat;
4257             if (strEQ(d,"study"))               return KEY_study;
4258             break;
4259         case 'u':
4260             if (strEQ(d,"substr"))              return -KEY_substr;
4261             if (strEQ(d,"sub"))                 return KEY_sub;
4262             break;
4263         case 'y':
4264             switch (len) {
4265             case 6:
4266                 if (strEQ(d,"system"))          return -KEY_system;
4267                 break;
4268             case 7:
4269                 if (strEQ(d,"symlink"))         return -KEY_symlink;
4270                 if (strEQ(d,"syscall"))         return -KEY_syscall;
4271                 if (strEQ(d,"sysopen"))         return -KEY_sysopen;
4272                 if (strEQ(d,"sysread"))         return -KEY_sysread;
4273                 if (strEQ(d,"sysseek"))         return -KEY_sysseek;
4274                 break;
4275             case 8:
4276                 if (strEQ(d,"syswrite"))        return -KEY_syswrite;
4277                 break;
4278             }
4279             break;
4280         }
4281         break;
4282     case 't':
4283         switch (len) {
4284         case 2:
4285             if (strEQ(d,"tr"))                  return KEY_tr;
4286             break;
4287         case 3:
4288             if (strEQ(d,"tie"))                 return KEY_tie;
4289             break;
4290         case 4:
4291             if (strEQ(d,"tell"))                return -KEY_tell;
4292             if (strEQ(d,"tied"))                return KEY_tied;
4293             if (strEQ(d,"time"))                return -KEY_time;
4294             break;
4295         case 5:
4296             if (strEQ(d,"times"))               return -KEY_times;
4297             break;
4298         case 7:
4299             if (strEQ(d,"telldir"))             return -KEY_telldir;
4300             break;
4301         case 8:
4302             if (strEQ(d,"truncate"))            return -KEY_truncate;
4303             break;
4304         }
4305         break;
4306     case 'u':
4307         switch (len) {
4308         case 2:
4309             if (strEQ(d,"uc"))                  return -KEY_uc;
4310             break;
4311         case 3:
4312             if (strEQ(d,"use"))                 return KEY_use;
4313             break;
4314         case 5:
4315             if (strEQ(d,"undef"))               return KEY_undef;
4316             if (strEQ(d,"until"))               return KEY_until;
4317             if (strEQ(d,"untie"))               return KEY_untie;
4318             if (strEQ(d,"utime"))               return -KEY_utime;
4319             if (strEQ(d,"umask"))               return -KEY_umask;
4320             break;
4321         case 6:
4322             if (strEQ(d,"unless"))              return KEY_unless;
4323             if (strEQ(d,"unpack"))              return -KEY_unpack;
4324             if (strEQ(d,"unlink"))              return -KEY_unlink;
4325             break;
4326         case 7:
4327             if (strEQ(d,"unshift"))             return KEY_unshift;
4328             if (strEQ(d,"ucfirst"))             return -KEY_ucfirst;
4329             break;
4330         }
4331         break;
4332     case 'v':
4333         if (strEQ(d,"values"))                  return -KEY_values;
4334         if (strEQ(d,"vec"))                     return -KEY_vec;
4335         break;
4336     case 'w':
4337         switch (len) {
4338         case 4:
4339             if (strEQ(d,"warn"))                return -KEY_warn;
4340             if (strEQ(d,"wait"))                return -KEY_wait;
4341             break;
4342         case 5:
4343             if (strEQ(d,"while"))               return KEY_while;
4344             if (strEQ(d,"write"))               return -KEY_write;
4345             break;
4346         case 7:
4347             if (strEQ(d,"waitpid"))             return -KEY_waitpid;
4348             break;
4349         case 9:
4350             if (strEQ(d,"wantarray"))           return -KEY_wantarray;
4351             break;
4352         }
4353         break;
4354     case 'x':
4355         if (len == 1)                           return -KEY_x;
4356         if (strEQ(d,"xor"))                     return -KEY_xor;
4357         break;
4358     case 'y':
4359         if (len == 1)                           return KEY_y;
4360         break;
4361     case 'z':
4362         break;
4363     }
4364     return 0;
4365 }
4366
4367 static void
4368 checkcomma(register char *s, char *name, char *what)
4369 {
4370     char *w;
4371
4372     if (dowarn && *s == ' ' && s[1] == '(') {   /* XXX gotta be a better way */
4373         int level = 1;
4374         for (w = s+2; *w && level; w++) {
4375             if (*w == '(')
4376                 ++level;
4377             else if (*w == ')')
4378                 --level;
4379         }
4380         if (*w)
4381             for (; *w && isSPACE(*w); w++) ;
4382         if (!*w || !strchr(";|})]oaiuw!=", *w)) /* an advisory hack only... */
4383             warn("%s (...) interpreted as function",name);
4384     }
4385     while (s < bufend && isSPACE(*s))
4386         s++;
4387     if (*s == '(')
4388         s++;
4389     while (s < bufend && isSPACE(*s))
4390         s++;
4391     if (isIDFIRST(*s)) {
4392         w = s++;
4393         while (isALNUM(*s))
4394             s++;
4395         while (s < bufend && isSPACE(*s))
4396             s++;
4397         if (*s == ',') {
4398             int kw;
4399             *s = '\0';
4400             kw = keyword(w, s - w) || perl_get_cv(w, FALSE) != 0;
4401             *s = ',';
4402             if (kw)
4403                 return;
4404             croak("No comma allowed after %s", what);
4405         }
4406     }
4407 }
4408
4409 static char *
4410 scan_word(register char *s, char *dest, STRLEN destlen, int allow_package, STRLEN *slp)
4411 {
4412     register char *d = dest;
4413     register char *e = d + destlen - 3;  /* two-character token, ending NUL */
4414     for (;;) {
4415         if (d >= e)
4416             croak(ident_too_long);
4417         if (isALNUM(*s))
4418             *d++ = *s++;
4419         else if (*s == '\'' && allow_package && isIDFIRST(s[1])) {
4420             *d++ = ':';
4421             *d++ = ':';
4422             s++;
4423         }
4424         else if (*s == ':' && s[1] == ':' && allow_package && isIDFIRST(s[2])) {
4425             *d++ = *s++;
4426             *d++ = *s++;
4427         }
4428         else {
4429             *d = '\0';
4430             *slp = d - dest;
4431             return s;
4432         }
4433     }
4434 }
4435
4436 static char *
4437 scan_ident(register char *s, register char *send, char *dest, STRLEN destlen, I32 ck_uni)
4438 {
4439     register char *d;
4440     register char *e;
4441     char *bracket = 0;
4442     char funny = *s++;
4443
4444     if (lex_brackets == 0)
4445         lex_fakebrack = 0;
4446     if (isSPACE(*s))
4447         s = skipspace(s);
4448     d = dest;
4449     e = d + destlen - 3;        /* two-character token, ending NUL */
4450     if (isDIGIT(*s)) {
4451         while (isDIGIT(*s)) {
4452             if (d >= e)
4453                 croak(ident_too_long);
4454             *d++ = *s++;
4455         }
4456     }
4457     else {
4458         for (;;) {
4459             if (d >= e)
4460                 croak(ident_too_long);
4461             if (isALNUM(*s))
4462                 *d++ = *s++;
4463             else if (*s == '\'' && isIDFIRST(s[1])) {
4464                 *d++ = ':';
4465                 *d++ = ':';
4466                 s++;
4467             }
4468             else if (*s == ':' && s[1] == ':') {
4469                 *d++ = *s++;
4470                 *d++ = *s++;
4471             }
4472             else
4473                 break;
4474         }
4475     }
4476     *d = '\0';
4477     d = dest;
4478     if (*d) {
4479         if (lex_state != LEX_NORMAL)
4480             lex_state = LEX_INTERPENDMAYBE;
4481         return s;
4482     }
4483     if (*s == '$' && s[1] &&
4484       (isALNUM(s[1]) || strchr("${", s[1]) || strnEQ(s+1,"::",2)) )
4485     {
4486         if (isDIGIT(s[1]) && lex_state == LEX_INTERPNORMAL)
4487             deprecate("\"$$<digit>\" to mean \"${$}<digit>\"");
4488         else
4489             return s;
4490     }
4491     if (*s == '{') {
4492         bracket = s;
4493         s++;
4494     }
4495     else if (ck_uni)
4496         check_uni();
4497     if (s < send)
4498         *d = *s++;
4499     d[1] = '\0';
4500     if (*d == '^' && *s && (isUPPER(*s) || strchr("[\\]^_?", *s))) {
4501         *d = toCTRL(*s);
4502         s++;
4503     }
4504     if (bracket) {
4505         if (isSPACE(s[-1])) {
4506             while (s < send) {
4507                 char ch = *s++;
4508                 if (ch != ' ' && ch != '\t') {
4509                     *d = ch;
4510                     break;
4511                 }
4512             }
4513         }
4514         if (isIDFIRST(*d)) {
4515             d++;
4516             while (isALNUM(*s) || *s == ':')
4517                 *d++ = *s++;
4518             *d = '\0';
4519             while (s < send && (*s == ' ' || *s == '\t')) s++;
4520             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
4521                 if (dowarn && keyword(dest, d - dest)) {
4522                     char *brack = *s == '[' ? "[...]" : "{...}";
4523                     warn("Ambiguous use of %c{%s%s} resolved to %c%s%s",
4524                         funny, dest, brack, funny, dest, brack);
4525                 }
4526                 lex_fakebrack = lex_brackets+1;
4527                 bracket++;
4528                 lex_brackstack[lex_brackets++] = XOPERATOR;
4529                 return s;
4530             }
4531         }
4532         if (*s == '}') {
4533             s++;
4534             if (lex_state == LEX_INTERPNORMAL && !lex_brackets)
4535                 lex_state = LEX_INTERPEND;
4536             if (funny == '#')
4537                 funny = '@';
4538             if (dowarn && lex_state == LEX_NORMAL &&
4539               (keyword(dest, d - dest) || perl_get_cv(dest, FALSE)))
4540                 warn("Ambiguous use of %c{%s} resolved to %c%s",
4541                     funny, dest, funny, dest);
4542         }
4543         else {
4544             s = bracket;                /* let the parser handle it */
4545             *dest = '\0';
4546         }
4547     }
4548     else if (lex_state == LEX_INTERPNORMAL && !lex_brackets && !intuit_more(s))
4549         lex_state = LEX_INTERPEND;
4550     return s;
4551 }
4552
4553 void pmflag(U16 *pmfl, int ch)
4554 {
4555     if (ch == 'i')
4556         *pmfl |= PMf_FOLD;
4557     else if (ch == 'g')
4558         *pmfl |= PMf_GLOBAL;
4559     else if (ch == 'c')
4560         *pmfl |= PMf_CONTINUE;
4561     else if (ch == 'o')
4562         *pmfl |= PMf_KEEP;
4563     else if (ch == 'm')
4564         *pmfl |= PMf_MULTILINE;
4565     else if (ch == 's')
4566         *pmfl |= PMf_SINGLELINE;
4567     else if (ch == 'x')
4568         *pmfl |= PMf_EXTENDED;
4569 }
4570
4571 static char *
4572 scan_pat(char *start)
4573 {
4574     PMOP *pm;
4575     char *s;
4576
4577     s = scan_str(start);
4578     if (!s) {
4579         if (lex_stuff)
4580             SvREFCNT_dec(lex_stuff);
4581         lex_stuff = Nullsv;
4582         croak("Search pattern not terminated");
4583     }
4584
4585     pm = (PMOP*)newPMOP(OP_MATCH, 0);
4586     if (multi_open == '?')
4587         pm->op_pmflags |= PMf_ONCE;
4588     while (*s && strchr("iogcmsx", *s))
4589         pmflag(&pm->op_pmflags,*s++);
4590     pm->op_pmpermflags = pm->op_pmflags;
4591
4592     lex_op = (OP*)pm;
4593     yylval.ival = OP_MATCH;
4594     return s;
4595 }
4596
4597 static char *
4598 scan_subst(char *start)
4599 {
4600     register char *s;
4601     register PMOP *pm;
4602     I32 first_start;
4603     I32 es = 0;
4604
4605     yylval.ival = OP_NULL;
4606
4607     s = scan_str(start);
4608
4609     if (!s) {
4610         if (lex_stuff)
4611             SvREFCNT_dec(lex_stuff);
4612         lex_stuff = Nullsv;
4613         croak("Substitution pattern not terminated");
4614     }
4615
4616     if (s[-1] == multi_open)
4617         s--;
4618
4619     first_start = multi_start;
4620     s = scan_str(s);
4621     if (!s) {
4622         if (lex_stuff)
4623             SvREFCNT_dec(lex_stuff);
4624         lex_stuff = Nullsv;
4625         if (lex_repl)
4626             SvREFCNT_dec(lex_repl);
4627         lex_repl = Nullsv;
4628         croak("Substitution replacement not terminated");
4629     }
4630     multi_start = first_start;  /* so whole substitution is taken together */
4631
4632     pm = (PMOP*)newPMOP(OP_SUBST, 0);
4633     while (*s && strchr("iogcmsex", *s)) {
4634         if (*s == 'e') {
4635             s++;
4636             es++;
4637         }
4638         else
4639             pmflag(&pm->op_pmflags,*s++);
4640     }
4641
4642     if (es) {
4643         SV *repl;
4644         pm->op_pmflags |= PMf_EVAL;
4645         repl = newSVpv("",0);
4646         while (es-- > 0)
4647             sv_catpv(repl, es ? "eval " : "do ");
4648         sv_catpvn(repl, "{ ", 2);
4649         sv_catsv(repl, lex_repl);
4650         sv_catpvn(repl, " };", 2);
4651         SvCOMPILED_on(repl);
4652         SvREFCNT_dec(lex_repl);
4653         lex_repl = repl;
4654     }
4655
4656     pm->op_pmpermflags = pm->op_pmflags;
4657     lex_op = (OP*)pm;
4658     yylval.ival = OP_SUBST;
4659     return s;
4660 }
4661
4662 void
4663 hoistmust(register PMOP *pm)
4664 {
4665     dTHR;
4666     if (!pm->op_pmshort && pm->op_pmregexp->regstart &&
4667         (!pm->op_pmregexp->regmust || pm->op_pmregexp->reganch & ROPT_ANCH)
4668        ) {
4669         if (!(pm->op_pmregexp->reganch & ROPT_ANCH))
4670             pm->op_pmflags |= PMf_SCANFIRST;
4671         pm->op_pmshort = SvREFCNT_inc(pm->op_pmregexp->regstart);
4672         pm->op_pmslen = SvCUR(pm->op_pmshort);
4673     }
4674     else if (pm->op_pmregexp->regmust) {/* is there a better short-circuit? */
4675         if (pm->op_pmshort &&
4676           sv_eq(pm->op_pmshort,pm->op_pmregexp->regmust))
4677         {
4678             if (pm->op_pmflags & PMf_SCANFIRST) {
4679                 SvREFCNT_dec(pm->op_pmshort);
4680                 pm->op_pmshort = Nullsv;
4681             }
4682             else {
4683                 SvREFCNT_dec(pm->op_pmregexp->regmust);
4684                 pm->op_pmregexp->regmust = Nullsv;
4685                 return;
4686             }
4687         }
4688         /* promote the better string */
4689         if ((!pm->op_pmshort &&
4690              !(pm->op_pmregexp->reganch & ROPT_ANCH_GPOS)) ||
4691             ((pm->op_pmflags & PMf_SCANFIRST) &&
4692              (SvCUR(pm->op_pmshort) < SvCUR(pm->op_pmregexp->regmust)))) {
4693             SvREFCNT_dec(pm->op_pmshort);               /* ok if null */
4694             pm->op_pmshort = pm->op_pmregexp->regmust;
4695             pm->op_pmslen = SvCUR(pm->op_pmshort);
4696             pm->op_pmregexp->regmust = Nullsv;
4697             pm->op_pmflags |= PMf_SCANFIRST;
4698         }
4699     }
4700 }
4701
4702 static char *
4703 scan_trans(char *start)
4704 {
4705     register char* s;
4706     OP *o;
4707     short *tbl;
4708     I32 squash;
4709     I32 Delete;
4710     I32 complement;
4711
4712     yylval.ival = OP_NULL;
4713
4714     s = scan_str(start);
4715     if (!s) {
4716         if (lex_stuff)
4717             SvREFCNT_dec(lex_stuff);
4718         lex_stuff = Nullsv;
4719         croak("Translation pattern not terminated");
4720     }
4721     if (s[-1] == multi_open)
4722         s--;
4723
4724     s = scan_str(s);
4725     if (!s) {
4726         if (lex_stuff)
4727             SvREFCNT_dec(lex_stuff);
4728         lex_stuff = Nullsv;
4729         if (lex_repl)
4730             SvREFCNT_dec(lex_repl);
4731         lex_repl = Nullsv;
4732         croak("Translation replacement not terminated");
4733     }
4734
4735     New(803,tbl,256,short);
4736     o = newPVOP(OP_TRANS, 0, (char*)tbl);
4737
4738     complement = Delete = squash = 0;
4739     while (*s == 'c' || *s == 'd' || *s == 's') {
4740         if (*s == 'c')
4741             complement = OPpTRANS_COMPLEMENT;
4742         else if (*s == 'd')
4743             Delete = OPpTRANS_DELETE;
4744         else
4745             squash = OPpTRANS_SQUASH;
4746         s++;
4747     }
4748     o->op_private = Delete|squash|complement;
4749
4750     lex_op = o;
4751     yylval.ival = OP_TRANS;
4752     return s;
4753 }
4754
4755 static char *
4756 scan_heredoc(register char *s)
4757 {
4758     dTHR;
4759     SV *herewas;
4760     I32 op_type = OP_SCALAR;
4761     I32 len;
4762     SV *tmpstr;
4763     char term;
4764     register char *d;
4765     register char *e;
4766     char *peek;
4767     int outer = (rsfp && !lex_inwhat);
4768
4769     s += 2;
4770     d = tokenbuf;
4771     e = tokenbuf + sizeof tokenbuf - 1;
4772     if (!outer)
4773         *d++ = '\n';
4774     for (peek = s; *peek == ' ' || *peek == '\t'; peek++) ;
4775     if (*peek && strchr("`'\"",*peek)) {
4776         s = peek;
4777         term = *s++;
4778         s = delimcpy(d, e, s, bufend, term, &len);
4779         d += len;
4780         if (s < bufend)
4781             s++;
4782     }
4783     else {
4784         if (*s == '\\')
4785             s++, term = '\'';
4786         else
4787             term = '"';
4788         if (!isALNUM(*s))
4789             deprecate("bare << to mean <<\"\"");
4790         for (; isALNUM(*s); s++) {
4791             if (d < e)
4792                 *d++ = *s;
4793         }
4794     }
4795     if (d >= tokenbuf + sizeof tokenbuf - 1)
4796         croak("Delimiter for here document is too long");
4797     *d++ = '\n';
4798     *d = '\0';
4799     len = d - tokenbuf;
4800     d = "\n";
4801     if (outer || !(d=ninstr(s,bufend,d,d+1)))
4802         herewas = newSVpv(s,bufend-s);
4803     else
4804         s--, herewas = newSVpv(s,d-s);
4805     s += SvCUR(herewas);
4806
4807     tmpstr = NEWSV(87,80);
4808     sv_upgrade(tmpstr, SVt_PVIV);
4809     if (term == '\'') {
4810         op_type = OP_CONST;
4811         SvIVX(tmpstr) = -1;
4812     }
4813     else if (term == '`') {
4814         op_type = OP_BACKTICK;
4815         SvIVX(tmpstr) = '\\';
4816     }
4817
4818     CLINE;
4819     multi_start = curcop->cop_line;
4820     multi_open = multi_close = '<';
4821     term = *tokenbuf;
4822     if (!outer) {
4823         d = s;
4824         while (s < bufend &&
4825           (*s != term || memNE(s,tokenbuf,len)) ) {
4826             if (*s++ == '\n')
4827                 curcop->cop_line++;
4828         }
4829         if (s >= bufend) {
4830             curcop->cop_line = multi_start;
4831             missingterm(tokenbuf);
4832         }
4833         sv_setpvn(tmpstr,d+1,s-d);
4834         s += len - 1;
4835         sv_catpvn(herewas,s,bufend-s);
4836         sv_setsv(linestr,herewas);
4837         oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
4838         bufend = SvPVX(linestr) + SvCUR(linestr);
4839     }
4840     else
4841         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
4842     while (s >= bufend) {       /* multiple line string? */
4843         if (!outer ||
4844          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4845             curcop->cop_line = multi_start;
4846             missingterm(tokenbuf);
4847         }
4848         curcop->cop_line++;
4849         if (PERLDB_LINE && curstash != debstash) {
4850             SV *sv = NEWSV(88,0);
4851
4852             sv_upgrade(sv, SVt_PVMG);
4853             sv_setsv(sv,linestr);
4854             av_store(GvAV(curcop->cop_filegv),
4855               (I32)curcop->cop_line,sv);
4856         }
4857         bufend = SvPVX(linestr) + SvCUR(linestr);
4858         if (*s == term && memEQ(s,tokenbuf,len)) {
4859             s = bufend - 1;
4860             *s = ' ';
4861             sv_catsv(linestr,herewas);
4862             bufend = SvPVX(linestr) + SvCUR(linestr);
4863         }
4864         else {
4865             s = bufend;
4866             sv_catsv(tmpstr,linestr);
4867         }
4868     }
4869     multi_end = curcop->cop_line;
4870     s++;
4871     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
4872         SvLEN_set(tmpstr, SvCUR(tmpstr) + 1);
4873         Renew(SvPVX(tmpstr), SvLEN(tmpstr), char);
4874     }
4875     SvREFCNT_dec(herewas);
4876     lex_stuff = tmpstr;
4877     yylval.ival = op_type;
4878     return s;
4879 }
4880
4881 static char *
4882 scan_inputsymbol(char *start)
4883 {
4884     register char *s = start;
4885     register char *d;
4886     register char *e;
4887     I32 len;
4888
4889     d = tokenbuf;
4890     e = tokenbuf + sizeof tokenbuf;
4891     s = delimcpy(d, e, s + 1, bufend, '>', &len);
4892     if (len >= sizeof tokenbuf)
4893         croak("Excessively long <> operator");
4894     if (s >= bufend)
4895         croak("Unterminated <> operator");
4896     s++;
4897     if (*d == '$' && d[1]) d++;
4898     while (*d && (isALNUM(*d) || *d == '\'' || *d == ':'))
4899         d++;
4900     if (d - tokenbuf != len) {
4901         yylval.ival = OP_GLOB;
4902         set_csh();
4903         s = scan_str(start);
4904         if (!s)
4905             croak("Glob not terminated");
4906         return s;
4907     }
4908     else {
4909         d = tokenbuf;
4910         if (!len)
4911             (void)strcpy(d,"ARGV");
4912         if (*d == '$') {
4913             I32 tmp;
4914             if ((tmp = pad_findmy(d)) != NOT_IN_PAD) {
4915                 OP *o = newOP(OP_PADSV, 0);
4916                 o->op_targ = tmp;
4917                 lex_op = (OP*)newUNOP(OP_READLINE, 0, newUNOP(OP_RV2GV, 0, o));
4918             }
4919             else {
4920                 GV *gv = gv_fetchpv(d+1,TRUE, SVt_PV);
4921                 lex_op = (OP*)newUNOP(OP_READLINE, 0,
4922                                         newUNOP(OP_RV2GV, 0,
4923                                             newUNOP(OP_RV2SV, 0,
4924                                                 newGVOP(OP_GV, 0, gv))));
4925             }
4926             yylval.ival = OP_NULL;
4927         }
4928         else {
4929             GV *gv = gv_fetchpv(d,TRUE, SVt_PVIO);
4930             lex_op = (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
4931             yylval.ival = OP_NULL;
4932         }
4933     }
4934     return s;
4935 }
4936
4937 static char *
4938 scan_str(char *start)
4939 {
4940     dTHR;
4941     SV *sv;
4942     char *tmps;
4943     register char *s = start;
4944     register char term;
4945     register char *to;
4946     I32 brackets = 1;
4947
4948     if (isSPACE(*s))
4949         s = skipspace(s);
4950     CLINE;
4951     term = *s;
4952     multi_start = curcop->cop_line;
4953     multi_open = term;
4954     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4955         term = tmps[5];
4956     multi_close = term;
4957
4958     sv = NEWSV(87,80);
4959     sv_upgrade(sv, SVt_PVIV);
4960     SvIVX(sv) = term;
4961     (void)SvPOK_only(sv);               /* validate pointer */
4962     s++;
4963     for (;;) {
4964         SvGROW(sv, SvCUR(sv) + (bufend - s) + 1);
4965         to = SvPVX(sv)+SvCUR(sv);
4966         if (multi_open == multi_close) {
4967             for (; s < bufend; s++,to++) {
4968                 if (*s == '\n' && !rsfp)
4969                     curcop->cop_line++;
4970                 if (*s == '\\' && s+1 < bufend && term != '\\') {
4971                     if (s[1] == term)
4972                         s++;
4973                     else
4974                         *to++ = *s++;
4975                 }
4976                 else if (*s == term)
4977                     break;
4978                 *to = *s;
4979             }
4980         }
4981         else {
4982             for (; s < bufend; s++,to++) {
4983                 if (*s == '\n' && !rsfp)
4984                     curcop->cop_line++;
4985                 if (*s == '\\' && s+1 < bufend) {
4986                     if ((s[1] == multi_open) || (s[1] == multi_close))
4987                         s++;
4988                     else
4989                         *to++ = *s++;
4990                 }
4991                 else if (*s == multi_close && --brackets <= 0)
4992                     break;
4993                 else if (*s == multi_open)
4994                     brackets++;
4995                 *to = *s;
4996             }
4997         }
4998         *to = '\0';
4999         SvCUR_set(sv, to - SvPVX(sv));
5000
5001     if (s < bufend) break;      /* string ends on this line? */
5002
5003         if (!rsfp ||
5004          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
5005             sv_free(sv);
5006             curcop->cop_line = multi_start;
5007             return Nullch;
5008         }
5009         curcop->cop_line++;
5010         if (PERLDB_LINE && curstash != debstash) {
5011             SV *sv = NEWSV(88,0);
5012
5013             sv_upgrade(sv, SVt_PVMG);
5014             sv_setsv(sv,linestr);
5015             av_store(GvAV(curcop->cop_filegv),
5016               (I32)curcop->cop_line, sv);
5017         }
5018         bufend = SvPVX(linestr) + SvCUR(linestr);
5019     }
5020     multi_end = curcop->cop_line;
5021     s++;
5022     if (SvCUR(sv) + 5 < SvLEN(sv)) {
5023         SvLEN_set(sv, SvCUR(sv) + 1);
5024         Renew(SvPVX(sv), SvLEN(sv), char);
5025     }
5026     if (lex_stuff)
5027         lex_repl = sv;
5028     else
5029         lex_stuff = sv;
5030     return s;
5031 }
5032
5033 char *
5034 scan_num(char *start)
5035 {
5036     register char *s = start;
5037     register char *d;
5038     register char *e;
5039     I32 tryiv;
5040     double value;
5041     SV *sv;
5042     I32 floatit;
5043     char *lastub = 0;
5044     static char number_too_long[] = "Number too long";
5045
5046     switch (*s) {
5047     default:
5048         croak("panic: scan_num");
5049     case '0':
5050         {
5051             UV u;
5052             I32 shift;
5053             bool overflowed = FALSE;
5054
5055             if (s[1] == 'x') {
5056                 shift = 4;
5057                 s += 2;
5058             }
5059             else if (s[1] == '.')
5060                 goto decimal;
5061             else
5062                 shift = 3;
5063             u = 0;
5064             for (;;) {
5065                 UV n, b;
5066
5067                 switch (*s) {
5068                 default:
5069                     goto out;
5070                 case '_':
5071                     s++;
5072                     break;
5073                 case '8': case '9':
5074                     if (shift != 4)
5075                         yyerror("Illegal octal digit");
5076                     /* FALL THROUGH */
5077                 case '0': case '1': case '2': case '3': case '4':
5078                 case '5': case '6': case '7':
5079                     b = *s++ & 15;
5080                     goto digit;
5081                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
5082                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
5083                     if (shift != 4)
5084                         goto out;
5085                     b = (*s++ & 7) + 9;
5086                   digit:
5087                     n = u << shift;
5088                     if (!overflowed && (n >> shift) != u) {
5089                         warn("Integer overflow in %s number",
5090                              (shift == 4) ? "hex" : "octal");
5091                         overflowed = TRUE;
5092                     }
5093                     u = n | b;
5094                     break;
5095                 }
5096             }
5097           out:
5098             sv = NEWSV(92,0);
5099             sv_setuv(sv, u);
5100         }
5101         break;
5102     case '1': case '2': case '3': case '4': case '5':
5103     case '6': case '7': case '8': case '9': case '.':
5104       decimal:
5105         d = tokenbuf;
5106         e = tokenbuf + sizeof tokenbuf - 6; /* room for various punctuation */
5107         floatit = FALSE;
5108         while (isDIGIT(*s) || *s == '_') {
5109             if (*s == '_') {
5110                 if (dowarn && lastub && s - lastub != 3)
5111                     warn("Misplaced _ in number");
5112                 lastub = ++s;
5113             }
5114             else {
5115                 if (d >= e)
5116                     croak(number_too_long);
5117                 *d++ = *s++;
5118             }
5119         }
5120         if (dowarn && lastub && s - lastub != 3)
5121             warn("Misplaced _ in number");
5122         if (*s == '.' && s[1] != '.') {
5123             floatit = TRUE;
5124             *d++ = *s++;
5125             for (; isDIGIT(*s) || *s == '_'; s++) {
5126                 if (d >= e)
5127                     croak(number_too_long);
5128                 if (*s != '_')
5129                     *d++ = *s;
5130             }
5131         }
5132         if (*s && strchr("eE",*s) && strchr("+-0123456789",s[1])) {
5133             floatit = TRUE;
5134             s++;
5135             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
5136             if (*s == '+' || *s == '-')
5137                 *d++ = *s++;
5138             while (isDIGIT(*s)) {
5139                 if (d >= e)
5140                     croak(number_too_long);
5141                 *d++ = *s++;
5142             }
5143         }
5144         *d = '\0';
5145         sv = NEWSV(92,0);
5146         SET_NUMERIC_STANDARD();
5147         value = atof(tokenbuf);
5148         tryiv = I_V(value);
5149         if (!floatit && (double)tryiv == value)
5150             sv_setiv(sv, tryiv);
5151         else
5152             sv_setnv(sv, value);
5153         break;
5154     }
5155
5156     yylval.opval = newSVOP(OP_CONST, 0, sv);
5157
5158     return s;
5159 }
5160
5161 static char *
5162 scan_formline(register char *s)
5163 {
5164     dTHR;
5165     register char *eol;
5166     register char *t;
5167     SV *stuff = newSVpv("",0);
5168     bool needargs = FALSE;
5169
5170     while (!needargs) {
5171         if (*s == '.' || *s == '}') {
5172             /*SUPPRESS 530*/
5173             for (t = s+1; *t == ' ' || *t == '\t'; t++) ;
5174             if (*t == '\n')
5175                 break;
5176         }
5177         if (in_eval && !rsfp) {
5178             eol = strchr(s,'\n');
5179             if (!eol++)
5180                 eol = bufend;
5181         }
5182         else
5183             eol = bufend = SvPVX(linestr) + SvCUR(linestr);
5184         if (*s != '#') {
5185             for (t = s; t < eol; t++) {
5186                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
5187                     needargs = FALSE;
5188                     goto enough;        /* ~~ must be first line in formline */
5189                 }
5190                 if (*t == '@' || *t == '^')
5191                     needargs = TRUE;
5192             }
5193             sv_catpvn(stuff, s, eol-s);
5194         }
5195         s = eol;
5196         if (rsfp) {
5197             s = filter_gets(linestr, rsfp, 0);
5198             oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
5199             bufend = bufptr + SvCUR(linestr);
5200             if (!s) {
5201                 s = bufptr;
5202                 yyerror("Format not terminated");
5203                 break;
5204             }
5205         }
5206         incline(s);
5207     }
5208   enough:
5209     if (SvCUR(stuff)) {
5210         expect = XTERM;
5211         if (needargs) {
5212             lex_state = LEX_NORMAL;
5213             nextval[nexttoke].ival = 0;
5214             force_next(',');
5215         }
5216         else
5217             lex_state = LEX_FORMLINE;
5218         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, stuff);
5219         force_next(THING);
5220         nextval[nexttoke].ival = OP_FORMLINE;
5221         force_next(LSTOP);
5222     }
5223     else {
5224         SvREFCNT_dec(stuff);
5225         lex_formbrack = 0;
5226         bufptr = s;
5227     }
5228     return s;
5229 }
5230
5231 static void
5232 set_csh(void)
5233 {
5234 #ifdef CSH
5235     if (!cshlen)
5236         cshlen = strlen(cshname);
5237 #endif
5238 }
5239
5240 I32
5241 start_subparse(I32 is_format, U32 flags)
5242 {
5243     dTHR;
5244     I32 oldsavestack_ix = savestack_ix;
5245     CV* outsidecv = compcv;
5246     AV* comppadlist;
5247
5248     if (compcv) {
5249         assert(SvTYPE(compcv) == SVt_PVCV);
5250     }
5251     save_I32(&subline);
5252     save_item(subname);
5253     SAVEI32(padix);
5254     SAVESPTR(curpad);
5255     SAVESPTR(comppad);
5256     SAVESPTR(comppad_name);
5257     SAVESPTR(compcv);
5258     SAVEI32(comppad_name_fill);
5259     SAVEI32(min_intro_pending);
5260     SAVEI32(max_intro_pending);
5261     SAVEI32(pad_reset_pending);
5262
5263     compcv = (CV*)NEWSV(1104,0);
5264     sv_upgrade((SV *)compcv, is_format ? SVt_PVFM : SVt_PVCV);
5265     CvFLAGS(compcv) |= flags;
5266
5267     comppad = newAV();
5268     av_push(comppad, Nullsv);
5269     curpad = AvARRAY(comppad);
5270     comppad_name = newAV();
5271     comppad_name_fill = 0;
5272     min_intro_pending = 0;
5273     padix = 0;
5274     subline = curcop->cop_line;
5275 #ifdef USE_THREADS
5276     av_store(comppad_name, 0, newSVpv("@_", 2));
5277     curpad[0] = (SV*)newAV();
5278     SvPADMY_on(curpad[0]);      /* XXX Needed? */
5279     CvOWNER(compcv) = 0;
5280     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5281     MUTEX_INIT(CvMUTEXP(compcv));
5282 #endif /* USE_THREADS */
5283
5284     comppadlist = newAV();
5285     AvREAL_off(comppadlist);
5286     av_store(comppadlist, 0, (SV*)comppad_name);
5287     av_store(comppadlist, 1, (SV*)comppad);
5288
5289     CvPADLIST(compcv) = comppadlist;
5290     CvOUTSIDE(compcv) = (CV*)SvREFCNT_inc(outsidecv);
5291 #ifdef USE_THREADS
5292     CvOWNER(compcv) = 0;
5293     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5294     MUTEX_INIT(CvMUTEXP(compcv));
5295 #endif /* USE_THREADS */
5296
5297     return oldsavestack_ix;
5298 }
5299
5300 int
5301 yywarn(char *s)
5302 {
5303     dTHR;
5304     --error_count;
5305     in_eval |= 2;
5306     yyerror(s);
5307     in_eval &= ~2;
5308     return 0;
5309 }
5310
5311 int
5312 yyerror(char *s)
5313 {
5314     dTHR;
5315     char *where = NULL;
5316     char *context = NULL;
5317     int contlen = -1;
5318     SV *msg;
5319
5320     if (!yychar || (yychar == ';' && !rsfp))
5321         where = "at EOF";
5322     else if (bufptr > oldoldbufptr && bufptr - oldoldbufptr < 200 &&
5323       oldoldbufptr != oldbufptr && oldbufptr != bufptr) {
5324         while (isSPACE(*oldoldbufptr))
5325             oldoldbufptr++;
5326         context = oldoldbufptr;
5327         contlen = bufptr - oldoldbufptr;
5328     }
5329     else if (bufptr > oldbufptr && bufptr - oldbufptr < 200 &&
5330       oldbufptr != bufptr) {
5331         while (isSPACE(*oldbufptr))
5332             oldbufptr++;
5333         context = oldbufptr;
5334         contlen = bufptr - oldbufptr;
5335     }
5336     else if (yychar > 255)
5337         where = "next token ???";
5338     else if ((yychar & 127) == 127) {
5339         if (lex_state == LEX_NORMAL ||
5340            (lex_state == LEX_KNOWNEXT && lex_defer == LEX_NORMAL))
5341             where = "at end of line";
5342         else if (lex_inpat)
5343             where = "within pattern";
5344         else
5345             where = "within string";
5346     }
5347     else {
5348         SV *where_sv = sv_2mortal(newSVpv("next char ", 0));
5349         if (yychar < 32)
5350             sv_catpvf(where_sv, "^%c", toCTRL(yychar));
5351         else if (isPRINT_LC(yychar))
5352             sv_catpvf(where_sv, "%c", yychar);
5353         else
5354             sv_catpvf(where_sv, "\\%03o", yychar & 255);
5355         where = SvPVX(where_sv);
5356     }
5357     msg = sv_2mortal(newSVpv(s, 0));
5358     sv_catpvf(msg, " at %_ line %ld, ",
5359               GvSV(curcop->cop_filegv), (long)curcop->cop_line);
5360     if (context)
5361         sv_catpvf(msg, "near \"%.*s\"\n", contlen, context);
5362     else
5363         sv_catpvf(msg, "%s\n", where);
5364     if (multi_start < multi_end && (U32)(curcop->cop_line - multi_end) <= 1) {
5365         sv_catpvf(msg,
5366         "  (Might be a runaway multi-line %c%c string starting on line %ld)\n",
5367                 (int)multi_open,(int)multi_close,(long)multi_start);
5368         multi_end = 0;
5369     }
5370     if (in_eval & 2)
5371         warn("%_", msg);
5372     else if (in_eval)
5373         sv_catsv(errsv, msg);
5374     else
5375         PerlIO_write(PerlIO_stderr(), SvPVX(msg), SvCUR(msg));
5376     if (++error_count >= 10)
5377         croak("%_ has too many errors.\n", GvSV(curcop->cop_filegv));
5378     in_my = 0;
5379     in_my_stash = Nullhv;
5380     return 0;
5381 }
5382