toke.c

   1 /*    toke.c
   2  *
   3  *    Copyright (c) 1991-1997, Larry Wall
   4  *
   5  *    You may distribute under the terms of either the GNU General Public
   6  *    License or the Artistic License, as specified in the README file.
   7  *
   8  */
   9
  10 /*
  11  *   "It all comes from here, the stench and the peril."  --Frodo
  12  */
  13
  14 #include "EXTERN.h"
  15 #include "perl.h"
  16
  17 #ifndef PERL_OBJECT
  18 static void check_uni _((void));
  19 static void  force_next _((I32 type));
  20 static char *force_version _((char *start));
  21 static char *force_word _((char *start, int token, int check_keyword, int allow_pack, int allow_tick));
  22 static SV *tokeq _((SV *sv));
  23 static char *scan_const _((char *start));
  24 static char *scan_formline _((char *s));
  25 static char *scan_heredoc _((char *s));
  26 static char *scan_ident _((char *s, char *send, char *dest, STRLEN destlen,
  27                            I32 ck_uni));
  28 static char *scan_inputsymbol _((char *start));
  29 static char *scan_pat _((char *start));
  30 static char *scan_str _((char *start));
  31 static char *scan_subst _((char *start));
  32 static char *scan_trans _((char *start));
  33 static char *scan_word _((char *s, char *dest, STRLEN destlen,
  34                           int allow_package, STRLEN *slp));
  35 static char *skipspace _((char *s));
  36 static void checkcomma _((char *s, char *name, char *what));
  37 static void force_ident _((char *s, int kind));
  38 static void incline _((char *s));
  39 static int intuit_method _((char *s, GV *gv));
  40 static int intuit_more _((char *s));
  41 static I32 lop _((I32 f, expectation x, char *s));
  42 static void missingterm _((char *s));
  43 static void no_op _((char *what, char *s));
  44 static void set_csh _((void));
  45 static I32 sublex_done _((void));
  46 static I32 sublex_push _((void));
  47 static I32 sublex_start _((void));
  48 #ifdef CRIPPLED_CC
  49 static int uni _((I32 f, char *s));
  50 #endif
  51 static char * filter_gets _((SV *sv, PerlIO *fp, STRLEN append));
  52 static void restore_rsfp _((void *f));
  53 #endif /* PERL_OBJECT */
  54
  55 static char ident_too_long[] = "Identifier too long";
  56
  57 static char *linestart;         /* beg. of most recently read line */
  58
  59 static char pending_ident;      /* pending identifier lookup */
  60
  61 static struct {
  62     I32 super_state;    /* lexer state to save */
  63     I32 sub_inwhat;     /* "lex_inwhat" to use */
  64     OP *sub_op;         /* "lex_op" to use */
  65 } sublex_info;
  66
  67 /* The following are arranged oddly so that the guard on the switch statement
  68  * can get by with a single comparison (if the compiler is smart enough).
  69  */
  70
  71 /* #define LEX_NOTPARSING               11 is done in perl.h. */
  72
  73 #define LEX_NORMAL              10
  74 #define LEX_INTERPNORMAL         9
  75 #define LEX_INTERPCASEMOD        8
  76 #define LEX_INTERPPUSH           7
  77 #define LEX_INTERPSTART          6
  78 #define LEX_INTERPEND            5
  79 #define LEX_INTERPENDMAYBE       4
  80 #define LEX_INTERPCONCAT         3
  81 #define LEX_INTERPCONST          2
  82 #define LEX_FORMLINE             1
  83 #define LEX_KNOWNEXT             0
  84
  85 #ifdef I_FCNTL
  86 #include <fcntl.h>
  87 #endif
  88 #ifdef I_SYS_FILE
  89 #include <sys/file.h>
  90 #endif
  91
  92 /* XXX If this causes problems, set i_unistd=undef in the hint file.  */
  93 #ifdef I_UNISTD
  94 #  include <unistd.h> /* Needed for execv() */
  95 #endif
  96
  97
  98 #ifdef ff_next
  99 #undef ff_next
 100 #endif
 101
 102 #include "keywords.h"
 103
 104 #ifdef CLINE
 105 #undef CLINE
 106 #endif
 107 #define CLINE (copline = (curcop->cop_line < copline ? curcop->cop_line : copline))
 108
 109 #define TOKEN(retval) return (bufptr = s,(int)retval)
 110 #define OPERATOR(retval) return (expect = XTERM,bufptr = s,(int)retval)
 111 #define AOPERATOR(retval) return ao((expect = XTERM,bufptr = s,(int)retval))
 112 #define PREBLOCK(retval) return (expect = XBLOCK,bufptr = s,(int)retval)
 113 #define PRETERMBLOCK(retval) return (expect = XTERMBLOCK,bufptr = s,(int)retval)
 114 #define PREREF(retval) return (expect = XREF,bufptr = s,(int)retval)
 115 #define TERM(retval) return (CLINE, expect = XOPERATOR,bufptr = s,(int)retval)
 116 #define LOOPX(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LOOPEX)
 117 #define FTST(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)UNIOP)
 118 #define FUN0(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC0)
 119 #define FUN1(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC1)
 120 #define BOop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITOROP))
 121 #define BAop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITANDOP))
 122 #define SHop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)SHIFTOP))
 123 #define PWop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)POWOP))
 124 #define PMop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)MATCHOP)
 125 #define Aop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)ADDOP))
 126 #define Mop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)MULOP))
 127 #define Eop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)EQOP)
 128 #define Rop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)RELOP)
 129
 130 /* This bit of chicanery makes a unary function followed by
 131  * a parenthesis into a function with one argument, highest precedence.
 132  */
 133 #define UNI(f) return(yylval.ival = f, \
 134         expect = XTERM, \
 135         bufptr = s, \
 136         last_uni = oldbufptr, \
 137         last_lop_op = f, \
 138         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 139
 140 #define UNIBRACK(f) return(yylval.ival = f, \
 141         bufptr = s, \
 142         last_uni = oldbufptr, \
 143         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 144
 145 /* grandfather return to old style */
 146 #define OLDLOP(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LSTOP)
 147
 148 #ifdef PERL_OBJECT
 149 static void RestoreRsfp(void *pPerl, void *ptr)
 150 {
 151     ((CPerlObj*)pPerl)->restore_rsfp(ptr);
 152 }
 153 #define RESTORERSFP RestoreRsfp
 154 #else
 155 #define RESTORERSFP restore_rsfp
 156 #endif
 157
 158 STATIC int
 159 ao(int toketype)
 160 {
 161     if (*bufptr == '=') {
 162         bufptr++;
 163         if (toketype == ANDAND)
 164             yylval.ival = OP_ANDASSIGN;
 165         else if (toketype == OROR)
 166             yylval.ival = OP_ORASSIGN;
 167         toketype = ASSIGNOP;
 168     }
 169     return toketype;
 170 }
 171
 172 STATIC void
 173 no_op(char *what, char *s)
 174 {
 175     char *oldbp = bufptr;
 176     bool is_first = (oldbufptr == linestart);
 177
 178     bufptr = s;
 179     yywarn(form("%s found where operator expected", what));
 180     if (is_first)
 181         warn("\t(Missing semicolon on previous line?)\n");
 182     else if (oldoldbufptr && isIDFIRST(*oldoldbufptr)) {
 183         char *t;
 184         for (t = oldoldbufptr; *t && (isALNUM(*t) || *t == ':'); t++) ;
 185         if (t < bufptr && isSPACE(*t))
 186             warn("\t(Do you need to predeclare %.*s?)\n",
 187                 t - oldoldbufptr, oldoldbufptr);
 188
 189     }
 190     else
 191         warn("\t(Missing operator before %.*s?)\n", s - oldbp, oldbp);
 192     bufptr = oldbp;
 193 }
 194
 195 STATIC void
 196 missingterm(char *s)
 197 {
 198     char tmpbuf[3];
 199     char q;
 200     if (s) {
 201         char *nl = strrchr(s,'\n');
 202         if (nl)
 203             *nl = '\0';
 204     }
 205     else if (multi_close < 32 || multi_close == 127) {
 206         *tmpbuf = '^';
 207         tmpbuf[1] = toCTRL(multi_close);
 208         s = "\\n";
 209         tmpbuf[2] = '\0';
 210         s = tmpbuf;
 211     }
 212     else {
 213         *tmpbuf = multi_close;
 214         tmpbuf[1] = '\0';
 215         s = tmpbuf;
 216     }
 217     q = strchr(s,'"') ? '\'' : '"';
 218     croak("Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
 219 }
 220
 221 void
 222 deprecate(char *s)
 223 {
 224     if (dowarn)
 225         warn("Use of %s is deprecated", s);
 226 }
 227
 228 STATIC void
 229 depcom(void)
 230 {
 231     deprecate("comma-less variable list");
 232 }
 233
 234 #ifdef WIN32
 235
 236 STATIC I32
 237 win32_textfilter(int idx, SV *sv, int maxlen)
 238 {
 239  I32 count = FILTER_READ(idx+1, sv, maxlen);
 240  if (count > 0 && !maxlen)
 241   win32_strip_return(sv);
 242  return count;
 243 }
 244 #endif
 245
 246
 247 void
 248 lex_start(SV *line)
 249 {
 250     dTHR;
 251     char *s;
 252     STRLEN len;
 253
 254     SAVEI32(lex_dojoin);
 255     SAVEI32(lex_brackets);
 256     SAVEI32(lex_fakebrack);
 257     SAVEI32(lex_casemods);
 258     SAVEI32(lex_starts);
 259     SAVEI32(lex_state);
 260     SAVESPTR(lex_inpat);
 261     SAVEI32(lex_inwhat);
 262     SAVEI16(curcop->cop_line);
 263     SAVEPPTR(bufptr);
 264     SAVEPPTR(bufend);
 265     SAVEPPTR(oldbufptr);
 266     SAVEPPTR(oldoldbufptr);
 267     SAVEPPTR(linestart);
 268     SAVESPTR(linestr);
 269     SAVEPPTR(lex_brackstack);
 270     SAVEPPTR(lex_casestack);
 271     SAVEDESTRUCTOR(RESTORERSFP, rsfp);
 272
 273     lex_state = LEX_NORMAL;
 274     lex_defer = 0;
 275     expect = XSTATE;
 276     lex_brackets = 0;
 277     lex_fakebrack = 0;
 278     New(899, lex_brackstack, 120, char);
 279     New(899, lex_casestack, 12, char);
 280     SAVEFREEPV(lex_brackstack);
 281     SAVEFREEPV(lex_casestack);
 282     lex_casemods = 0;
 283     *lex_casestack = '\0';
 284     lex_dojoin = 0;
 285     lex_starts = 0;
 286     if (lex_stuff)
 287         SvREFCNT_dec(lex_stuff);
 288     lex_stuff = Nullsv;
 289     if (lex_repl)
 290         SvREFCNT_dec(lex_repl);
 291     lex_repl = Nullsv;
 292     lex_inpat = 0;
 293     lex_inwhat = 0;
 294     linestr = line;
 295     if (SvREADONLY(linestr))
 296         linestr = sv_2mortal(newSVsv(linestr));
 297     s = SvPV(linestr, len);
 298     if (len && s[len-1] != ';') {
 299         if (!(SvFLAGS(linestr) & SVs_TEMP))
 300             linestr = sv_2mortal(newSVsv(linestr));
 301         sv_catpvn(linestr, "\n;", 2);
 302     }
 303     SvTEMP_off(linestr);
 304     oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
 305     bufend = bufptr + SvCUR(linestr);
 306     SvREFCNT_dec(rs);
 307     rs = newSVpv("\n", 1);
 308     rsfp = 0;
 309 }
 310
 311 void
 312 lex_end(void)
 313 {
 314     doextract = FALSE;
 315 }
 316
 317 STATIC void
 318 restore_rsfp(void *f)
 319 {
 320     PerlIO *fp = (PerlIO*)f;
 321
 322     if (rsfp == PerlIO_stdin())
 323         PerlIO_clearerr(rsfp);
 324     else if (rsfp && (rsfp != fp))
 325         PerlIO_close(rsfp);
 326     rsfp = fp;
 327 }
 328
 329 STATIC void
 330 incline(char *s)
 331 {
 332     dTHR;
 333     char *t;
 334     char *n;
 335     char ch;
 336     int sawline = 0;
 337
 338     curcop->cop_line++;
 339     if (*s++ != '#')
 340         return;
 341     while (*s == ' ' || *s == '\t') s++;
 342     if (strnEQ(s, "line ", 5)) {
 343         s += 5;
 344         sawline = 1;
 345     }
 346     if (!isDIGIT(*s))
 347         return;
 348     n = s;
 349     while (isDIGIT(*s))
 350         s++;
 351     while (*s == ' ' || *s == '\t')
 352         s++;
 353     if (*s == '"' && (t = strchr(s+1, '"')))
 354         s++;
 355     else {
 356         if (!sawline)
 357             return;             /* false alarm */
 358         for (t = s; !isSPACE(*t); t++) ;
 359     }
 360     ch = *t;
 361     *t = '\0';
 362     if (t - s > 0)
 363         curcop->cop_filegv = gv_fetchfile(s);
 364     else
 365         curcop->cop_filegv = gv_fetchfile(origfilename);
 366     *t = ch;
 367     curcop->cop_line = atoi(n)-1;
 368 }
 369
 370 STATIC char *
 371 skipspace(register char *s)
 372 {
 373     dTHR;
 374     if (lex_formbrack && lex_brackets <= lex_formbrack) {
 375         while (s < bufend && (*s == ' ' || *s == '\t'))
 376             s++;
 377         return s;
 378     }
 379     for (;;) {
 380         STRLEN prevlen;
 381         while (s < bufend && isSPACE(*s))
 382             s++;
 383         if (s < bufend && *s == '#') {
 384             while (s < bufend && *s != '\n')
 385                 s++;
 386             if (s < bufend)
 387                 s++;
 388         }
 389         if (s < bufend || !rsfp || lex_state != LEX_NORMAL)
 390             return s;
 391         if ((s = filter_gets(linestr, rsfp, (prevlen = SvCUR(linestr)))) == Nullch) {
 392             if (minus_n || minus_p) {
 393                 sv_setpv(linestr,minus_p ?
 394                          ";}continue{print or die qq(-p destination: $!\\n)" :
 395                          "");
 396                 sv_catpv(linestr,";}");
 397                 minus_n = minus_p = 0;
 398             }
 399             else
 400                 sv_setpv(linestr,";");
 401             oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
 402             bufend = SvPVX(linestr) + SvCUR(linestr);
 403             if (preprocess && !in_eval)
 404                 (void)PerlProc_pclose(rsfp);
 405             else if ((PerlIO*)rsfp == PerlIO_stdin())
 406                 PerlIO_clearerr(rsfp);
 407             else
 408                 (void)PerlIO_close(rsfp);
 409             if (e_fp == rsfp)
 410                 e_fp = Nullfp;
 411             rsfp = Nullfp;
 412             return s;
 413         }
 414         linestart = bufptr = s + prevlen;
 415         bufend = s + SvCUR(linestr);
 416         s = bufptr;
 417         incline(s);
 418         if (PERLDB_LINE && curstash != debstash) {
 419             SV *sv = NEWSV(85,0);
 420
 421             sv_upgrade(sv, SVt_PVMG);
 422             sv_setpvn(sv,bufptr,bufend-bufptr);
 423             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
 424         }
 425     }
 426 }
 427
 428 STATIC void
 429 check_uni(void) {
 430     char *s;
 431     char ch;
 432     char *t;
 433
 434     if (oldoldbufptr != last_uni)
 435         return;
 436     while (isSPACE(*last_uni))
 437         last_uni++;
 438     for (s = last_uni; isALNUM(*s) || *s == '-'; s++) ;
 439     if ((t = strchr(s, '(')) && t < bufptr)
 440         return;
 441     ch = *s;
 442     *s = '\0';
 443     warn("Warning: Use of \"%s\" without parens is ambiguous", last_uni);
 444     *s = ch;
 445 }
 446
 447 #ifdef CRIPPLED_CC
 448
 449 #undef UNI
 450 #define UNI(f) return uni(f,s)
 451
 452 STATIC int
 453 uni(I32 f, char *s)
 454 {
 455     yylval.ival = f;
 456     expect = XTERM;
 457     bufptr = s;
 458     last_uni = oldbufptr;
 459     last_lop_op = f;
 460     if (*s == '(')
 461         return FUNC1;
 462     s = skipspace(s);
 463     if (*s == '(')
 464         return FUNC1;
 465     else
 466         return UNIOP;
 467 }
 468
 469 #endif /* CRIPPLED_CC */
 470
 471 #define LOP(f,x) return lop(f,x,s)
 472
 473 STATIC I32
 474 lop
 475 #ifdef CAN_PROTOTYPE
 476    (I32 f, expectation x, char *s)
 477 #else
 478    (f,x,s)
 479 I32 f;
 480 expectation x;
 481 char *s;
 482 #endif /* CAN_PROTOTYPE */
 483 {
 484     dTHR;
 485     yylval.ival = f;
 486     CLINE;
 487     expect = x;
 488     bufptr = s;
 489     last_lop = oldbufptr;
 490     last_lop_op = f;
 491     if (nexttoke)
 492         return LSTOP;
 493     if (*s == '(')
 494         return FUNC;
 495     s = skipspace(s);
 496     if (*s == '(')
 497         return FUNC;
 498     else
 499         return LSTOP;
 500 }
 501
 502 STATIC void
 503 force_next(I32 type)
 504 {
 505     nexttype[nexttoke] = type;
 506     nexttoke++;
 507     if (lex_state != LEX_KNOWNEXT) {
 508         lex_defer = lex_state;
 509         lex_expect = expect;
 510         lex_state = LEX_KNOWNEXT;
 511     }
 512 }
 513
 514 STATIC char *
 515 force_word(register char *start, int token, int check_keyword, int allow_pack, int allow_initial_tick)
 516 {
 517     register char *s;
 518     STRLEN len;
 519
 520     start = skipspace(start);
 521     s = start;
 522     if (isIDFIRST(*s) ||
 523         (allow_pack && *s == ':') ||
 524         (allow_initial_tick && *s == '\'') )
 525     {
 526         s = scan_word(s, tokenbuf, sizeof tokenbuf, allow_pack, &len);
 527         if (check_keyword && keyword(tokenbuf, len))
 528             return start;
 529         if (token == METHOD) {
 530             s = skipspace(s);
 531             if (*s == '(')
 532                 expect = XTERM;
 533             else {
 534                 expect = XOPERATOR;
 535                 force_next(')');
 536                 force_next('(');
 537             }
 538         }
 539         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST,0, newSVpv(tokenbuf,0));
 540         nextval[nexttoke].opval->op_private |= OPpCONST_BARE;
 541         force_next(token);
 542     }
 543     return s;
 544 }
 545
 546 STATIC void
 547 force_ident(register char *s, int kind)
 548 {
 549     if (s && *s) {
 550         OP* o = (OP*)newSVOP(OP_CONST, 0, newSVpv(s,0));
 551         nextval[nexttoke].opval = o;
 552         force_next(WORD);
 553         if (kind) {
 554             dTHR;               /* just for in_eval */
 555             o->op_private = OPpCONST_ENTERED;
 556             /* XXX see note in pp_entereval() for why we forgo typo
 557                warnings if the symbol must be introduced in an eval.
 558                GSAR 96-10-12 */
 559             gv_fetchpv(s, in_eval ? GV_ADDMULTI : TRUE,
 560                 kind == '$' ? SVt_PV :
 561                 kind == '@' ? SVt_PVAV :
 562                 kind == '%' ? SVt_PVHV :
 563                               SVt_PVGV
 564                 );
 565         }
 566     }
 567 }
 568
 569 STATIC char *
 570 force_version(char *s)
 571 {
 572     OP *version = Nullop;
 573
 574     s = skipspace(s);
 575
 576     /* default VERSION number -- GBARR */
 577
 578     if(isDIGIT(*s)) {
 579         char *d;
 580         int c;
 581         for( d=s, c = 1; isDIGIT(*d) || *d == '_' || (*d == '.' && c--); d++);
 582         if((*d == ';' || isSPACE(*d)) && *(skipspace(d)) != ',') {
 583             s = scan_num(s);
 584             /* real VERSION number -- GBARR */
 585             version = yylval.opval;
 586         }
 587     }
 588
 589     /* NOTE: The parser sees the package name and the VERSION swapped */
 590     nextval[nexttoke].opval = version;
 591     force_next(WORD);
 592
 593     return (s);
 594 }
 595
 596 STATIC SV *
 597 tokeq(SV *sv)
 598 {
 599     register char *s;
 600     register char *send;
 601     register char *d;
 602     STRLEN len;
 603
 604     if (!SvLEN(sv))
 605         return sv;
 606
 607     s = SvPV_force(sv, len);
 608     if (SvIVX(sv) == -1)
 609         return sv;
 610     send = s + len;
 611     while (s < send && *s != '\\')
 612         s++;
 613     if (s == send)
 614         return sv;
 615     d = s;
 616     while (s < send) {
 617         if (*s == '\\') {
 618             if (s + 1 < send && (s[1] == '\\'))
 619                 s++;            /* all that, just for this */
 620         }
 621         *d++ = *s++;
 622     }
 623     *d = '\0';
 624     SvCUR_set(sv, d - SvPVX(sv));
 625
 626     return sv;
 627 }
 628
 629 STATIC I32
 630 sublex_start(void)
 631 {
 632     register I32 op_type = yylval.ival;
 633
 634     if (op_type == OP_NULL) {
 635         yylval.opval = lex_op;
 636         lex_op = Nullop;
 637         return THING;
 638     }
 639     if (op_type == OP_CONST || op_type == OP_READLINE) {
 640         SV *sv = tokeq(lex_stuff);
 641         STRLEN len;
 642         char *p = SvPV(sv, len);
 643         yylval.opval = (OP*)newSVOP(op_type, 0, newSVpv(p, len));
 644         SvREFCNT_dec(sv);
 645         lex_stuff = Nullsv;
 646         return THING;
 647     }
 648
 649     sublex_info.super_state = lex_state;
 650     sublex_info.sub_inwhat = op_type;
 651     sublex_info.sub_op = lex_op;
 652     lex_state = LEX_INTERPPUSH;
 653
 654     expect = XTERM;
 655     if (lex_op) {
 656         yylval.opval = lex_op;
 657         lex_op = Nullop;
 658         return PMFUNC;
 659     }
 660     else
 661         return FUNC;
 662 }
 663
 664 STATIC I32
 665 sublex_push(void)
 666 {
 667     dTHR;
 668     push_scope();
 669
 670     lex_state = sublex_info.super_state;
 671     SAVEI32(lex_dojoin);
 672     SAVEI32(lex_brackets);
 673     SAVEI32(lex_fakebrack);
 674     SAVEI32(lex_casemods);
 675     SAVEI32(lex_starts);
 676     SAVEI32(lex_state);
 677     SAVESPTR(lex_inpat);
 678     SAVEI32(lex_inwhat);
 679     SAVEI16(curcop->cop_line);
 680     SAVEPPTR(bufptr);
 681     SAVEPPTR(oldbufptr);
 682     SAVEPPTR(oldoldbufptr);
 683     SAVEPPTR(linestart);
 684     SAVESPTR(linestr);
 685     SAVEPPTR(lex_brackstack);
 686     SAVEPPTR(lex_casestack);
 687
 688     linestr = lex_stuff;
 689     lex_stuff = Nullsv;
 690
 691     bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 692     bufend += SvCUR(linestr);
 693     SAVEFREESV(linestr);
 694
 695     lex_dojoin = FALSE;
 696     lex_brackets = 0;
 697     lex_fakebrack = 0;
 698     New(899, lex_brackstack, 120, char);
 699     New(899, lex_casestack, 12, char);
 700     SAVEFREEPV(lex_brackstack);
 701     SAVEFREEPV(lex_casestack);
 702     lex_casemods = 0;
 703     *lex_casestack = '\0';
 704     lex_starts = 0;
 705     lex_state = LEX_INTERPCONCAT;
 706     curcop->cop_line = multi_start;
 707
 708     lex_inwhat = sublex_info.sub_inwhat;
 709     if (lex_inwhat == OP_MATCH || lex_inwhat == OP_SUBST)
 710         lex_inpat = sublex_info.sub_op;
 711     else
 712         lex_inpat = Nullop;
 713
 714     return '(';
 715 }
 716
 717 STATIC I32
 718 sublex_done(void)
 719 {
 720     if (!lex_starts++) {
 721         expect = XOPERATOR;
 722         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv("",0));
 723         return THING;
 724     }
 725
 726     if (lex_casemods) {         /* oops, we've got some unbalanced parens */
 727         lex_state = LEX_INTERPCASEMOD;
 728         return yylex();
 729     }
 730
 731     /* Is there a right-hand side to take care of? */
 732     if (lex_repl && (lex_inwhat == OP_SUBST || lex_inwhat == OP_TRANS)) {
 733         linestr = lex_repl;
 734         lex_inpat = 0;
 735         bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 736         bufend += SvCUR(linestr);
 737         SAVEFREESV(linestr);
 738         lex_dojoin = FALSE;
 739         lex_brackets = 0;
 740         lex_fakebrack = 0;
 741         lex_casemods = 0;
 742         *lex_casestack = '\0';
 743         lex_starts = 0;
 744         if (SvCOMPILED(lex_repl)) {
 745             lex_state = LEX_INTERPNORMAL;
 746             lex_starts++;
 747         }
 748         else
 749             lex_state = LEX_INTERPCONCAT;
 750         lex_repl = Nullsv;
 751         return ',';
 752     }
 753     else {
 754         pop_scope();
 755         bufend = SvPVX(linestr);
 756         bufend += SvCUR(linestr);
 757         expect = XOPERATOR;
 758         return ')';
 759     }
 760 }
 761
 762 STATIC char *
 763 scan_const(char *start)
 764 {
 765     register char *send = bufend;
 766     SV *sv = NEWSV(93, send - start);
 767     register char *s = start;
 768     register char *d = SvPVX(sv);
 769     bool dorange = FALSE;
 770     I32 len;
 771     char *leaveit =
 772         lex_inpat
 773             ? "\\.^$@AGZdDwWsSbB+*?|()-nrtfeaxc0123456789[{]} \t\n\r\f\v#"
 774             : (lex_inwhat & OP_TRANS)
 775                 ? ""
 776                 : "";
 777
 778     while (s < send || dorange) {
 779         if (lex_inwhat == OP_TRANS) {
 780             if (dorange) {
 781                 I32 i;
 782                 I32 max;
 783                 i = d - SvPVX(sv);
 784                 SvGROW(sv, SvLEN(sv) + 256);
 785                 d = SvPVX(sv) + i;
 786                 d -= 2;
 787                 max = (U8)d[1];
 788                 for (i = (U8)*d; i <= max; i++)
 789                     *d++ = i;
 790                 dorange = FALSE;
 791                 continue;
 792             }
 793             else if (*s == '-' && s+1 < send  && s != start) {
 794                 dorange = TRUE;
 795                 s++;
 796             }
 797         }
 798         else if (*s == '(' && lex_inpat && s[1] == '?' && s[2] == '#') {
 799             while (s < send && *s != ')')
 800                 *d++ = *s++;
 801         }
 802         else if (*s == '#' && lex_inpat &&
 803           ((PMOP*)lex_inpat)->op_pmflags & PMf_EXTENDED) {
 804             while (s+1 < send && *s != '\n')
 805                 *d++ = *s++;
 806         }
 807         else if (*s == '@' && s[1] && (isALNUM(s[1]) || strchr(":'{$", s[1])))
 808             break;
 809         else if (*s == '$') {
 810             if (!lex_inpat)     /* not a regexp, so $ must be var */
 811                 break;
 812             if (s + 1 < send && !strchr("()| \n\t", s[1]))
 813                 break;          /* in regexp, $ might be tail anchor */
 814         }
 815         if (*s == '\\' && s+1 < send) {
 816             s++;
 817             if (*s && strchr(leaveit, *s)) {
 818                 *d++ = '\\';
 819                 *d++ = *s++;
 820                 continue;
 821             }
 822             if (lex_inwhat == OP_SUBST && !lex_inpat &&
 823                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
 824             {
 825                 if (dowarn)
 826                     warn("\\%c better written as $%c", *s, *s);
 827                 *--s = '$';
 828                 break;
 829             }
 830             if (lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
 831                 --s;
 832                 break;
 833             }
 834             switch (*s) {
 835             case '-':
 836                 if (lex_inwhat == OP_TRANS) {
 837                     *d++ = *s++;
 838                     continue;
 839                 }
 840                 /* FALL THROUGH */
 841             default:
 842                 *d++ = *s++;
 843                 continue;
 844             case '0': case '1': case '2': case '3':
 845             case '4': case '5': case '6': case '7':
 846                 *d++ = scan_oct(s, 3, &len);
 847                 s += len;
 848                 continue;
 849             case 'x':
 850                 *d++ = scan_hex(++s, 2, &len);
 851                 s += len;
 852                 continue;
 853             case 'c':
 854                 s++;
 855                 len = *s++;
 856                 *d++ = toCTRL(len);
 857                 continue;
 858             case 'b':
 859                 *d++ = '\b';
 860                 break;
 861             case 'n':
 862                 *d++ = '\n';
 863                 break;
 864             case 'r':
 865                 *d++ = '\r';
 866                 break;
 867             case 'f':
 868                 *d++ = '\f';
 869                 break;
 870             case 't':
 871                 *d++ = '\t';
 872                 break;
 873             case 'e':
 874                 *d++ = '\033';
 875                 break;
 876             case 'a':
 877                 *d++ = '\007';
 878                 break;
 879             }
 880             s++;
 881             continue;
 882         }
 883         *d++ = *s++;
 884     }
 885     *d = '\0';
 886     SvCUR_set(sv, d - SvPVX(sv));
 887     SvPOK_on(sv);
 888
 889     if (SvCUR(sv) + 5 < SvLEN(sv)) {
 890         SvLEN_set(sv, SvCUR(sv) + 1);
 891         Renew(SvPVX(sv), SvLEN(sv), char);
 892     }
 893     if (s > bufptr)
 894         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
 895     else
 896         SvREFCNT_dec(sv);
 897     return s;
 898 }
 899
 900 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
 901 STATIC int
 902 intuit_more(register char *s)
 903 {
 904     if (lex_brackets)
 905         return TRUE;
 906     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
 907         return TRUE;
 908     if (*s != '{' && *s != '[')
 909         return FALSE;
 910     if (!lex_inpat)
 911         return TRUE;
 912
 913     /* In a pattern, so maybe we have {n,m}. */
 914     if (*s == '{') {
 915         s++;
 916         if (!isDIGIT(*s))
 917             return TRUE;
 918         while (isDIGIT(*s))
 919             s++;
 920         if (*s == ',')
 921             s++;
 922         while (isDIGIT(*s))
 923             s++;
 924         if (*s == '}')
 925             return FALSE;
 926         return TRUE;
 927
 928     }
 929
 930     /* On the other hand, maybe we have a character class */
 931
 932     s++;
 933     if (*s == ']' || *s == '^')
 934         return FALSE;
 935     else {
 936         int weight = 2;         /* let's weigh the evidence */
 937         char seen[256];
 938         unsigned char un_char = 0, last_un_char;
 939         char *send = strchr(s,']');
 940         char tmpbuf[sizeof tokenbuf * 4];
 941
 942         if (!send)              /* has to be an expression */
 943             return TRUE;
 944
 945         Zero(seen,256,char);
 946         if (*s == '$')
 947             weight -= 3;
 948         else if (isDIGIT(*s)) {
 949             if (s[1] != ']') {
 950                 if (isDIGIT(s[1]) && s[2] == ']')
 951                     weight -= 10;
 952             }
 953             else
 954                 weight -= 100;
 955         }
 956         for (; s < send; s++) {
 957             last_un_char = un_char;
 958             un_char = (unsigned char)*s;
 959             switch (*s) {
 960             case '@':
 961             case '&':
 962             case '$':
 963                 weight -= seen[un_char] * 10;
 964                 if (isALNUM(s[1])) {
 965                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
 966                     if ((int)strlen(tmpbuf) > 1 && gv_fetchpv(tmpbuf,FALSE, SVt_PV))
 967                         weight -= 100;
 968                     else
 969                         weight -= 10;
 970                 }
 971                 else if (*s == '$' && s[1] &&
 972                   strchr("[#!%*<>()-=",s[1])) {
 973                     if (/*{*/ strchr("])} =",s[2]))
 974                         weight -= 10;
 975                     else
 976                         weight -= 1;
 977                 }
 978                 break;
 979             case '\\':
 980                 un_char = 254;
 981                 if (s[1]) {
 982                     if (strchr("wds]",s[1]))
 983                         weight += 100;
 984                     else if (seen['\''] || seen['"'])
 985                         weight += 1;
 986                     else if (strchr("rnftbxcav",s[1]))
 987                         weight += 40;
 988                     else if (isDIGIT(s[1])) {
 989                         weight += 40;
 990                         while (s[1] && isDIGIT(s[1]))
 991                             s++;
 992                     }
 993                 }
 994                 else
 995                     weight += 100;
 996                 break;
 997             case '-':
 998                 if (s[1] == '\\')
 999                     weight += 50;
1000                 if (strchr("aA01! ",last_un_char))
1001                     weight += 30;
1002                 if (strchr("zZ79~",s[1]))
1003                     weight += 30;
1004                 break;
1005             default:
1006                 if (!isALNUM(last_un_char) && !strchr("$@&",last_un_char) &&
1007                         isALPHA(*s) && s[1] && isALPHA(s[1])) {
1008                     char *d = tmpbuf;
1009                     while (isALPHA(*s))
1010                         *d++ = *s++;
1011                     *d = '\0';
1012                     if (keyword(tmpbuf, d - tmpbuf))
1013                         weight -= 150;
1014                 }
1015                 if (un_char == last_un_char + 1)
1016                     weight += 5;
1017                 weight -= seen[un_char];
1018                 break;
1019             }
1020             seen[un_char]++;
1021         }
1022         if (weight >= 0)        /* probably a character class */
1023             return FALSE;
1024     }
1025
1026     return TRUE;
1027 }
1028
1029 STATIC int
1030 intuit_method(char *start, GV *gv)
1031 {
1032     char *s = start + (*start == '$');
1033     char tmpbuf[sizeof tokenbuf];
1034     STRLEN len;
1035     GV* indirgv;
1036
1037     if (gv) {
1038         if (GvIO(gv))
1039             return 0;
1040         if (!GvCVu(gv))
1041             gv = 0;
1042     }
1043     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
1044     if (*start == '$') {
1045         if (gv || last_lop_op == OP_PRINT || isUPPER(*tokenbuf))
1046             return 0;
1047         s = skipspace(s);
1048         bufptr = start;
1049         expect = XREF;
1050         return *s == '(' ? FUNCMETH : METHOD;
1051     }
1052     if (!keyword(tmpbuf, len)) {
1053         indirgv = gv_fetchpv(tmpbuf,FALSE, SVt_PVCV);
1054         if (indirgv && GvCVu(indirgv))
1055             return 0;
1056         /* filehandle or package name makes it a method */
1057         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
1058             s = skipspace(s);
1059             if ((bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
1060                 return 0;       /* no assumptions -- "=>" quotes bearword */
1061             nextval[nexttoke].opval =
1062                 (OP*)newSVOP(OP_CONST, 0,
1063                             newSVpv(tmpbuf,0));
1064             nextval[nexttoke].opval->op_private =
1065                 OPpCONST_BARE;
1066             expect = XTERM;
1067             force_next(WORD);
1068             bufptr = s;
1069             return *s == '(' ? FUNCMETH : METHOD;
1070         }
1071     }
1072     return 0;
1073 }
1074
1075 STATIC char*
1076 incl_perldb(void)
1077 {
1078     if (perldb) {
1079         char *pdb = PerlEnv_getenv("PERL5DB");
1080
1081         if (pdb)
1082             return pdb;
1083         SETERRNO(0,SS$_NORMAL);
1084         return "BEGIN { require 'perl5db.pl' }";
1085     }
1086     return "";
1087 }
1088
1089
1090 /* Encoded script support. filter_add() effectively inserts a
1091  * 'pre-processing' function into the current source input stream.
1092  * Note that the filter function only applies to the current source file
1093  * (e.g., it will not affect files 'require'd or 'use'd by this one).
1094  *
1095  * The datasv parameter (which may be NULL) can be used to pass
1096  * private data to this instance of the filter. The filter function
1097  * can recover the SV using the FILTER_DATA macro and use it to
1098  * store private buffers and state information.
1099  *
1100  * The supplied datasv parameter is upgraded to a PVIO type
1101  * and the IoDIRP field is used to store the function pointer.
1102  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
1103  * private use must be set using malloc'd pointers.
1104  */
1105 static int filter_debug = 0;
1106
1107 SV *
1108 filter_add(filter_t funcp, SV *datasv)
1109 {
1110     if (!funcp){ /* temporary handy debugging hack to be deleted */
1111         filter_debug = atoi((char*)datasv);
1112         return NULL;
1113     }
1114     if (!rsfp_filters)
1115         rsfp_filters = newAV();
1116     if (!datasv)
1117         datasv = newSV(0);
1118     if (!SvUPGRADE(datasv, SVt_PVIO))
1119         die("Can't upgrade filter_add data to SVt_PVIO");
1120     IoDIRP(datasv) = (DIR*)funcp; /* stash funcp into spare field */
1121     if (filter_debug)
1122         warn("filter_add func %p (%s)", funcp, SvPV(datasv,na));
1123     av_unshift(rsfp_filters, 1);
1124     av_store(rsfp_filters, 0, datasv) ;
1125     return(datasv);
1126 }
1127
1128
1129 /* Delete most recently added instance of this filter function. */
1130 void
1131 filter_del(filter_t funcp)
1132 {
1133     if (filter_debug)
1134         warn("filter_del func %p", funcp);
1135     if (!rsfp_filters || AvFILL(rsfp_filters)<0)
1136         return;
1137     /* if filter is on top of stack (usual case) just pop it off */
1138     if (IoDIRP(FILTER_DATA(AvFILL(rsfp_filters))) == (void*)funcp){
1139         sv_free(av_pop(rsfp_filters));
1140
1141         return;
1142     }
1143     /* we need to search for the correct entry and clear it     */
1144     die("filter_del can only delete in reverse order (currently)");
1145 }
1146
1147
1148 /* Invoke the n'th filter function for the current rsfp.         */
1149 I32
1150 filter_read(int idx, SV *buf_sv, int maxlen)
1151
1152
1153                         /* 0 = read one text line */
1154 {
1155     filter_t funcp;
1156     SV *datasv = NULL;
1157
1158     if (!rsfp_filters)
1159         return -1;
1160     if (idx > AvFILL(rsfp_filters)){       /* Any more filters? */
1161         /* Provide a default input filter to make life easy.    */
1162         /* Note that we append to the line. This is handy.      */
1163         if (filter_debug)
1164             warn("filter_read %d: from rsfp\n", idx);
1165         if (maxlen) {
1166             /* Want a block */
1167             int len ;
1168             int old_len = SvCUR(buf_sv) ;
1169
1170             /* ensure buf_sv is large enough */
1171             SvGROW(buf_sv, old_len + maxlen) ;
1172             if ((len = PerlIO_read(rsfp, SvPVX(buf_sv) + old_len, maxlen)) <= 0){
1173                 if (PerlIO_error(rsfp))
1174                     return -1;          /* error */
1175                 else
1176                     return 0 ;          /* end of file */
1177             }
1178             SvCUR_set(buf_sv, old_len + len) ;
1179         } else {
1180             /* Want a line */
1181             if (sv_gets(buf_sv, rsfp, SvCUR(buf_sv)) == NULL) {
1182                 if (PerlIO_error(rsfp))
1183                     return -1;          /* error */
1184                 else
1185                     return 0 ;          /* end of file */
1186             }
1187
1188         }
1189         return SvCUR(buf_sv);
1190     }
1191     /* Skip this filter slot if filter has been deleted */
1192     if ( (datasv = FILTER_DATA(idx)) == &sv_undef){
1193         if (filter_debug)
1194             warn("filter_read %d: skipped (filter deleted)\n", idx);
1195         return FILTER_READ(idx+1, buf_sv, maxlen); /* recurse */
1196     }
1197     /* Get function pointer hidden within datasv        */
1198     funcp = (filter_t)IoDIRP(datasv);
1199     if (filter_debug)
1200         warn("filter_read %d: via function %p (%s)\n",
1201                 idx, funcp, SvPV(datasv,na));
1202     /* Call function. The function is expected to       */
1203     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
1204     /* Return: <0:error, =0:eof, >0:not eof             */
1205     return (*funcp)(idx, buf_sv, maxlen);
1206 }
1207
1208
1209 STATIC char *
1210 filter_gets(register SV *sv, register PerlIO *fp, STRLEN append)
1211 {
1212 #ifdef WIN32FILTER
1213     if (!rsfp_filters) {
1214         filter_add(win32_textfilter,NULL);
1215     }
1216 #endif
1217     if (rsfp_filters) {
1218
1219         if (!append)
1220             SvCUR_set(sv, 0);   /* start with empty line        */
1221         if (FILTER_READ(0, sv, 0) > 0)
1222             return ( SvPVX(sv) ) ;
1223         else
1224             return Nullch ;
1225     }
1226     else
1227         return (sv_gets(sv, fp, append));
1228 }
1229
1230
1231 #ifdef DEBUGGING
1232     static char* exp_name[] =
1233         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "TERMBLOCK" };
1234 #endif
1235
1236 EXT int yychar;         /* last token */
1237
1238 int
1239 yylex(void)
1240 {
1241     dTHR;
1242     register char *s;
1243     register char *d;
1244     register I32 tmp;
1245     STRLEN len;
1246     GV *gv = Nullgv;
1247     GV **gvp = 0;
1248
1249     if (pending_ident) {
1250         char pit = pending_ident;
1251         pending_ident = 0;
1252
1253         if (in_my) {
1254             if (strchr(tokenbuf,':'))
1255                 croak(no_myglob,tokenbuf);
1256             yylval.opval = newOP(OP_PADANY, 0);
1257             yylval.opval->op_targ = pad_allocmy(tokenbuf);
1258             return PRIVATEREF;
1259         }
1260
1261         if (!strchr(tokenbuf,':')) {
1262 #ifdef USE_THREADS
1263             /* Check for single character per-thread SVs */
1264             if (tokenbuf[0] == '$' && tokenbuf[2] == '\0'
1265                 && !isALPHA(tokenbuf[1]) /* Rule out obvious non-threadsvs */
1266                 && (tmp = find_threadsv(&tokenbuf[1])) != NOT_IN_PAD)
1267             {
1268                 yylval.opval = newOP(OP_THREADSV, 0);
1269                 yylval.opval->op_targ = tmp;
1270                 return PRIVATEREF;
1271             }
1272 #endif /* USE_THREADS */
1273             if ((tmp = pad_findmy(tokenbuf)) != NOT_IN_PAD) {
1274                 if (last_lop_op == OP_SORT &&
1275                     tokenbuf[0] == '$' &&
1276                     (tokenbuf[1] == 'a' || tokenbuf[1] == 'b')
1277                     && !tokenbuf[2])
1278                 {
1279                     for (d = in_eval ? oldoldbufptr : linestart;
1280                          d < bufend && *d != '\n';
1281                          d++)
1282                     {
1283                         if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
1284                             croak("Can't use \"my %s\" in sort comparison",
1285                                   tokenbuf);
1286                         }
1287                     }
1288                 }
1289
1290                 yylval.opval = newOP(OP_PADANY, 0);
1291                 yylval.opval->op_targ = tmp;
1292                 return PRIVATEREF;
1293             }
1294         }
1295
1296         /* Force them to make up their mind on "@foo". */
1297         if (pit == '@' && lex_state != LEX_NORMAL && !lex_brackets) {
1298             GV *gv = gv_fetchpv(tokenbuf+1, FALSE, SVt_PVAV);
1299             if (!gv || ((tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
1300                 yyerror(form("In string, %s now must be written as \\%s",
1301                              tokenbuf, tokenbuf));
1302         }
1303
1304         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf+1, 0));
1305         yylval.opval->op_private = OPpCONST_ENTERED;
1306         gv_fetchpv(tokenbuf+1, in_eval ? GV_ADDMULTI : TRUE,
1307                    ((tokenbuf[0] == '$') ? SVt_PV
1308                     : (tokenbuf[0] == '@') ? SVt_PVAV
1309                     : SVt_PVHV));
1310         return WORD;
1311     }
1312
1313     switch (lex_state) {
1314 #ifdef COMMENTARY
1315     case LEX_NORMAL:            /* Some compilers will produce faster */
1316     case LEX_INTERPNORMAL:      /* code if we comment these out. */
1317         break;
1318 #endif
1319
1320     case LEX_KNOWNEXT:
1321         nexttoke--;
1322         yylval = nextval[nexttoke];
1323         if (!nexttoke) {
1324             lex_state = lex_defer;
1325             expect = lex_expect;
1326             lex_defer = LEX_NORMAL;
1327         }
1328         return(nexttype[nexttoke]);
1329
1330     case LEX_INTERPCASEMOD:
1331 #ifdef DEBUGGING
1332         if (bufptr != bufend && *bufptr != '\\')
1333             croak("panic: INTERPCASEMOD");
1334 #endif
1335         if (bufptr == bufend || bufptr[1] == 'E') {
1336             char oldmod;
1337             if (lex_casemods) {
1338                 oldmod = lex_casestack[--lex_casemods];
1339                 lex_casestack[lex_casemods] = '\0';
1340                 if (bufptr != bufend && strchr("LUQ", oldmod)) {
1341                     bufptr += 2;
1342                     lex_state = LEX_INTERPCONCAT;
1343                 }
1344                 return ')';
1345             }
1346             if (bufptr != bufend)
1347                 bufptr += 2;
1348             lex_state = LEX_INTERPCONCAT;
1349             return yylex();
1350         }
1351         else {
1352             s = bufptr + 1;
1353             if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
1354                 tmp = *s, *s = s[2], s[2] = tmp;        /* misordered... */
1355             if (strchr("LU", *s) &&
1356                 (strchr(lex_casestack, 'L') || strchr(lex_casestack, 'U')))
1357             {
1358                 lex_casestack[--lex_casemods] = '\0';
1359                 return ')';
1360             }
1361             if (lex_casemods > 10) {
1362                 char* newlb = Renew(lex_casestack, lex_casemods + 2, char);
1363                 if (newlb != lex_casestack) {
1364                     SAVEFREEPV(newlb);
1365                     lex_casestack = newlb;
1366                 }
1367             }
1368             lex_casestack[lex_casemods++] = *s;
1369             lex_casestack[lex_casemods] = '\0';
1370             lex_state = LEX_INTERPCONCAT;
1371             nextval[nexttoke].ival = 0;
1372             force_next('(');
1373             if (*s == 'l')
1374                 nextval[nexttoke].ival = OP_LCFIRST;
1375             else if (*s == 'u')
1376                 nextval[nexttoke].ival = OP_UCFIRST;
1377             else if (*s == 'L')
1378                 nextval[nexttoke].ival = OP_LC;
1379             else if (*s == 'U')
1380                 nextval[nexttoke].ival = OP_UC;
1381             else if (*s == 'Q')
1382                 nextval[nexttoke].ival = OP_QUOTEMETA;
1383             else
1384                 croak("panic: yylex");
1385             bufptr = s + 1;
1386             force_next(FUNC);
1387             if (lex_starts) {
1388                 s = bufptr;
1389                 lex_starts = 0;
1390                 Aop(OP_CONCAT);
1391             }
1392             else
1393                 return yylex();
1394         }
1395
1396     case LEX_INTERPPUSH:
1397         return sublex_push();
1398
1399     case LEX_INTERPSTART:
1400         if (bufptr == bufend)
1401             return sublex_done();
1402         expect = XTERM;
1403         lex_dojoin = (*bufptr == '@');
1404         lex_state = LEX_INTERPNORMAL;
1405         if (lex_dojoin) {
1406             nextval[nexttoke].ival = 0;
1407             force_next(',');
1408 #ifdef USE_THREADS
1409             nextval[nexttoke].opval = newOP(OP_THREADSV, 0);
1410             nextval[nexttoke].opval->op_targ = find_threadsv("\"");
1411             force_next(PRIVATEREF);
1412 #else
1413             force_ident("\"", '$');
1414 #endif /* USE_THREADS */
1415             nextval[nexttoke].ival = 0;
1416             force_next('$');
1417             nextval[nexttoke].ival = 0;
1418             force_next('(');
1419             nextval[nexttoke].ival = OP_JOIN;   /* emulate join($", ...) */
1420             force_next(FUNC);
1421         }
1422         if (lex_starts++) {
1423             s = bufptr;
1424             Aop(OP_CONCAT);
1425         }
1426         return yylex();
1427
1428     case LEX_INTERPENDMAYBE:
1429         if (intuit_more(bufptr)) {
1430             lex_state = LEX_INTERPNORMAL;       /* false alarm, more expr */
1431             break;
1432         }
1433         /* FALL THROUGH */
1434
1435     case LEX_INTERPEND:
1436         if (lex_dojoin) {
1437             lex_dojoin = FALSE;
1438             lex_state = LEX_INTERPCONCAT;
1439             return ')';
1440         }
1441         /* FALLTHROUGH */
1442     case LEX_INTERPCONCAT:
1443 #ifdef DEBUGGING
1444         if (lex_brackets)
1445             croak("panic: INTERPCONCAT");
1446 #endif
1447         if (bufptr == bufend)
1448             return sublex_done();
1449
1450         if (SvIVX(linestr) == '\'') {
1451             SV *sv = newSVsv(linestr);
1452             if (!lex_inpat)
1453                 sv = tokeq(sv);
1454             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1455             s = bufend;
1456         }
1457         else {
1458             s = scan_const(bufptr);
1459             if (*s == '\\')
1460                 lex_state = LEX_INTERPCASEMOD;
1461             else
1462                 lex_state = LEX_INTERPSTART;
1463         }
1464
1465         if (s != bufptr) {
1466             nextval[nexttoke] = yylval;
1467             expect = XTERM;
1468             force_next(THING);
1469             if (lex_starts++)
1470                 Aop(OP_CONCAT);
1471             else {
1472                 bufptr = s;
1473                 return yylex();
1474             }
1475         }
1476
1477         return yylex();
1478     case LEX_FORMLINE:
1479         lex_state = LEX_NORMAL;
1480         s = scan_formline(bufptr);
1481         if (!lex_formbrack)
1482             goto rightbracket;
1483         OPERATOR(';');
1484     }
1485
1486     s = bufptr;
1487     oldoldbufptr = oldbufptr;
1488     oldbufptr = s;
1489     DEBUG_p( {
1490         PerlIO_printf(PerlIO_stderr(), "### Tokener expecting %s at %s\n", exp_name[expect], s);
1491     } )
1492
1493   retry:
1494     switch (*s) {
1495     default:
1496         croak("Unrecognized character \\%03o", *s & 255);
1497     case 4:
1498     case 26:
1499         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
1500     case 0:
1501         if (!rsfp) {
1502             last_uni = 0;
1503             last_lop = 0;
1504             if (lex_brackets)
1505                 yyerror("Missing right bracket");
1506             TOKEN(0);
1507         }
1508         if (s++ < bufend)
1509             goto retry;                 /* ignore stray nulls */
1510         last_uni = 0;
1511         last_lop = 0;
1512         if (!in_eval && !preambled) {
1513             preambled = TRUE;
1514             sv_setpv(linestr,incl_perldb());
1515             if (SvCUR(linestr))
1516                 sv_catpv(linestr,";");
1517             if (preambleav){
1518                 while(AvFILL(preambleav) >= 0) {
1519                     SV *tmpsv = av_shift(preambleav);
1520                     sv_catsv(linestr, tmpsv);
1521                     sv_catpv(linestr, ";");
1522                     sv_free(tmpsv);
1523                 }
1524                 sv_free((SV*)preambleav);
1525                 preambleav = NULL;
1526             }
1527             if (minus_n || minus_p) {
1528                 sv_catpv(linestr, "LINE: while (<>) {");
1529                 if (minus_l)
1530                     sv_catpv(linestr,"chomp;");
1531                 if (minus_a) {
1532                     GV* gv = gv_fetchpv("::F", TRUE, SVt_PVAV);
1533                     if (gv)
1534                         GvIMPORTED_AV_on(gv);
1535                     if (minus_F) {
1536                         if (strchr("/'\"", *splitstr)
1537                               && strchr(splitstr + 1, *splitstr))
1538                             sv_catpvf(linestr, "@F=split(%s);", splitstr);
1539                         else {
1540                             char delim;
1541                             s = "'~#\200\1'"; /* surely one char is unused...*/
1542                             while (s[1] && strchr(splitstr, *s))  s++;
1543                             delim = *s;
1544                             sv_catpvf(linestr, "@F=split(%s%c",
1545                                       "q" + (delim == '\''), delim);
1546                             for (s = splitstr; *s; s++) {
1547                                 if (*s == '\\')
1548                                     sv_catpvn(linestr, "\\", 1);
1549                                 sv_catpvn(linestr, s, 1);
1550                             }
1551                             sv_catpvf(linestr, "%c);", delim);
1552                         }
1553                     }
1554                     else
1555                         sv_catpv(linestr,"@F=split(' ');");
1556                 }
1557             }
1558             sv_catpv(linestr, "\n");
1559             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1560             bufend = SvPVX(linestr) + SvCUR(linestr);
1561             if (PERLDB_LINE && curstash != debstash) {
1562                 SV *sv = NEWSV(85,0);
1563
1564                 sv_upgrade(sv, SVt_PVMG);
1565                 sv_setsv(sv,linestr);
1566                 av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1567             }
1568             goto retry;
1569         }
1570         do {
1571             if ((s = filter_gets(linestr, rsfp, 0)) == Nullch) {
1572               fake_eof:
1573                 if (rsfp) {
1574                     if (preprocess && !in_eval)
1575                         (void)PerlProc_pclose(rsfp);
1576                     else if ((PerlIO *)rsfp == PerlIO_stdin())
1577                         PerlIO_clearerr(rsfp);
1578                     else
1579                         (void)PerlIO_close(rsfp);
1580                     if (e_fp == rsfp)
1581                         e_fp = Nullfp;
1582                     rsfp = Nullfp;
1583                 }
1584                 if (!in_eval && (minus_n || minus_p)) {
1585                     sv_setpv(linestr,minus_p ? ";}continue{print" : "");
1586                     sv_catpv(linestr,";}");
1587                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1588                     bufend = SvPVX(linestr) + SvCUR(linestr);
1589                     minus_n = minus_p = 0;
1590                     goto retry;
1591                 }
1592                 oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1593                 sv_setpv(linestr,"");
1594                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
1595             }
1596             if (doextract) {
1597                 if (*s == '#' && s[1] == '!' && instr(s,"perl"))
1598                     doextract = FALSE;
1599
1600                 /* Incest with pod. */
1601                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
1602                     sv_setpv(linestr, "");
1603                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1604                     bufend = SvPVX(linestr) + SvCUR(linestr);
1605                     doextract = FALSE;
1606                 }
1607             }
1608             incline(s);
1609         } while (doextract);
1610         oldoldbufptr = oldbufptr = bufptr = linestart = s;
1611         if (PERLDB_LINE && curstash != debstash) {
1612             SV *sv = NEWSV(85,0);
1613
1614             sv_upgrade(sv, SVt_PVMG);
1615             sv_setsv(sv,linestr);
1616             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1617         }
1618         bufend = SvPVX(linestr) + SvCUR(linestr);
1619         if (curcop->cop_line == 1) {
1620             while (s < bufend && isSPACE(*s))
1621                 s++;
1622             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
1623                 s++;
1624             d = Nullch;
1625             if (!in_eval) {
1626                 if (*s == '#' && *(s+1) == '!')
1627                     d = s + 2;
1628 #ifdef ALTERNATE_SHEBANG
1629                 else {
1630                     static char as[] = ALTERNATE_SHEBANG;
1631                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
1632                         d = s + (sizeof(as) - 1);
1633                 }
1634 #endif /* ALTERNATE_SHEBANG */
1635             }
1636             if (d) {
1637                 char *ipath;
1638                 char *ipathend;
1639
1640                 while (isSPACE(*d))
1641                     d++;
1642                 ipath = d;
1643                 while (*d && !isSPACE(*d))
1644                     d++;
1645                 ipathend = d;
1646
1647 #ifdef ARG_ZERO_IS_SCRIPT
1648                 if (ipathend > ipath) {
1649                     /*
1650                      * HP-UX (at least) sets argv[0] to the script name,
1651                      * which makes $^X incorrect.  And Digital UNIX and Linux,
1652                      * at least, set argv[0] to the basename of the Perl
1653                      * interpreter. So, having found "#!", we'll set it right.
1654                      */
1655                     SV *x = GvSV(gv_fetchpv("\030", TRUE, SVt_PV));
1656                     assert(SvPOK(x) || SvGMAGICAL(x));
1657                     if (sv_eq(x, GvSV(curcop->cop_filegv))) {
1658                         sv_setpvn(x, ipath, ipathend - ipath);
1659                         SvSETMAGIC(x);
1660                     }
1661                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
1662                 }
1663 #endif /* ARG_ZERO_IS_SCRIPT */
1664
1665                 /*
1666                  * Look for options.
1667                  */
1668                 d = instr(s,"perl -");
1669                 if (!d)
1670                     d = instr(s,"perl");
1671 #ifdef ALTERNATE_SHEBANG
1672                 /*
1673                  * If the ALTERNATE_SHEBANG on this system starts with a
1674                  * character that can be part of a Perl expression, then if
1675                  * we see it but not "perl", we're probably looking at the
1676                  * start of Perl code, not a request to hand off to some
1677                  * other interpreter.  Similarly, if "perl" is there, but
1678                  * not in the first 'word' of the line, we assume the line
1679                  * contains the start of the Perl program.
1680                  */
1681                 if (d && *s != '#') {
1682                     char *c = ipath;
1683                     while (*c && !strchr("; \t\r\n\f\v#", *c))
1684                         c++;
1685                     if (c < d)
1686                         d = Nullch;     /* "perl" not in first word; ignore */
1687                     else
1688                         *s = '#';       /* Don't try to parse shebang line */
1689                 }
1690 #endif /* ALTERNATE_SHEBANG */
1691                 if (!d &&
1692                     *s == '#' &&
1693                     ipathend > ipath &&
1694                     !minus_c &&
1695                     !instr(s,"indir") &&
1696                     instr(origargv[0],"perl"))
1697                 {
1698                     char **newargv;
1699
1700                     *ipathend = '\0';
1701                     s = ipathend + 1;
1702                     while (s < bufend && isSPACE(*s))
1703                         s++;
1704                     if (s < bufend) {
1705                         Newz(899,newargv,origargc+3,char*);
1706                         newargv[1] = s;
1707                         while (s < bufend && !isSPACE(*s))
1708                             s++;
1709                         *s = '\0';
1710                         Copy(origargv+1, newargv+2, origargc+1, char*);
1711                     }
1712                     else
1713                         newargv = origargv;
1714                     newargv[0] = ipath;
1715                     execv(ipath, newargv);
1716                     croak("Can't exec %s", ipath);
1717                 }
1718                 if (d) {
1719                     U32 oldpdb = perldb;
1720                     bool oldn = minus_n;
1721                     bool oldp = minus_p;
1722
1723                     while (*d && !isSPACE(*d)) d++;
1724                     while (*d == ' ' || *d == '\t') d++;
1725
1726                     if (*d++ == '-') {
1727                         do {
1728                             if (*d == 'M' || *d == 'm') {
1729                                 char *m = d;
1730                                 while (*d && !isSPACE(*d)) d++;
1731                                 croak("Too late for \"-%.*s\" option",
1732                                       (int)(d - m), m);
1733                             }
1734                             d = moreswitches(d);
1735                         } while (d);
1736                         if (PERLDB_LINE && !oldpdb ||
1737                             ( minus_n || minus_p ) && !(oldn || oldp) )
1738                               /* if we have already added "LINE: while (<>) {",
1739                                  we must not do it again */
1740                         {
1741                             sv_setpv(linestr, "");
1742                             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1743                             bufend = SvPVX(linestr) + SvCUR(linestr);
1744                             preambled = FALSE;
1745                             if (PERLDB_LINE)
1746                                 (void)gv_fetchfile(origfilename);
1747                             goto retry;
1748                         }
1749                     }
1750                 }
1751             }
1752         }
1753         if (lex_formbrack && lex_brackets <= lex_formbrack) {
1754             bufptr = s;
1755             lex_state = LEX_FORMLINE;
1756             return yylex();
1757         }
1758         goto retry;
1759     case '\r':
1760 #ifndef WIN32CHEAT
1761         warn("Illegal character \\%03o (carriage return)", '\r');
1762         croak(
1763       "(Maybe you didn't strip carriage returns after a network transfer?)\n");
1764 #endif
1765     case ' ': case '\t': case '\f': case 013:
1766         s++;
1767         goto retry;
1768     case '#':
1769     case '\n':
1770         if (lex_state != LEX_NORMAL || (in_eval && !rsfp)) {
1771             d = bufend;
1772             while (s < d && *s != '\n')
1773                 s++;
1774             if (s < d)
1775                 s++;
1776             incline(s);
1777             if (lex_formbrack && lex_brackets <= lex_formbrack) {
1778                 bufptr = s;
1779                 lex_state = LEX_FORMLINE;
1780                 return yylex();
1781             }
1782         }
1783         else {
1784             *s = '\0';
1785             bufend = s;
1786         }
1787         goto retry;
1788     case '-':
1789         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
1790             s++;
1791             bufptr = s;
1792             tmp = *s++;
1793
1794             while (s < bufend && (*s == ' ' || *s == '\t'))
1795                 s++;
1796
1797             if (strnEQ(s,"=>",2)) {
1798                 if (dowarn)
1799                     warn("Ambiguous use of -%c => resolved to \"-%c\" =>",
1800                         (int)tmp, (int)tmp);
1801                 s = force_word(bufptr,WORD,FALSE,FALSE,FALSE);
1802                 OPERATOR('-');          /* unary minus */
1803             }
1804             last_uni = oldbufptr;
1805             last_lop_op = OP_FTEREAD;   /* good enough */
1806             switch (tmp) {
1807             case 'r': FTST(OP_FTEREAD);
1808             case 'w': FTST(OP_FTEWRITE);
1809             case 'x': FTST(OP_FTEEXEC);
1810             case 'o': FTST(OP_FTEOWNED);
1811             case 'R': FTST(OP_FTRREAD);
1812             case 'W': FTST(OP_FTRWRITE);
1813             case 'X': FTST(OP_FTREXEC);
1814             case 'O': FTST(OP_FTROWNED);
1815             case 'e': FTST(OP_FTIS);
1816             case 'z': FTST(OP_FTZERO);
1817             case 's': FTST(OP_FTSIZE);
1818             case 'f': FTST(OP_FTFILE);
1819             case 'd': FTST(OP_FTDIR);
1820             case 'l': FTST(OP_FTLINK);
1821             case 'p': FTST(OP_FTPIPE);
1822             case 'S': FTST(OP_FTSOCK);
1823             case 'u': FTST(OP_FTSUID);
1824             case 'g': FTST(OP_FTSGID);
1825             case 'k': FTST(OP_FTSVTX);
1826             case 'b': FTST(OP_FTBLK);
1827             case 'c': FTST(OP_FTCHR);
1828             case 't': FTST(OP_FTTTY);
1829             case 'T': FTST(OP_FTTEXT);
1830             case 'B': FTST(OP_FTBINARY);
1831             case 'M': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTMTIME);
1832             case 'A': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTATIME);
1833             case 'C': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTCTIME);
1834             default:
1835                 croak("Unrecognized file test: -%c", (int)tmp);
1836                 break;
1837             }
1838         }
1839         tmp = *s++;
1840         if (*s == tmp) {
1841             s++;
1842             if (expect == XOPERATOR)
1843                 TERM(POSTDEC);
1844             else
1845                 OPERATOR(PREDEC);
1846         }
1847         else if (*s == '>') {
1848             s++;
1849             s = skipspace(s);
1850             if (isIDFIRST(*s)) {
1851                 s = force_word(s,METHOD,FALSE,TRUE,FALSE);
1852                 TOKEN(ARROW);
1853             }
1854             else if (*s == '$')
1855                 OPERATOR(ARROW);
1856             else
1857                 TERM(ARROW);
1858         }
1859         if (expect == XOPERATOR)
1860             Aop(OP_SUBTRACT);
1861         else {
1862             if (isSPACE(*s) || !isSPACE(*bufptr))
1863                 check_uni();
1864             OPERATOR('-');              /* unary minus */
1865         }
1866
1867     case '+':
1868         tmp = *s++;
1869         if (*s == tmp) {
1870             s++;
1871             if (expect == XOPERATOR)
1872                 TERM(POSTINC);
1873             else
1874                 OPERATOR(PREINC);
1875         }
1876         if (expect == XOPERATOR)
1877             Aop(OP_ADD);
1878         else {
1879             if (isSPACE(*s) || !isSPACE(*bufptr))
1880                 check_uni();
1881             OPERATOR('+');
1882         }
1883
1884     case '*':
1885         if (expect != XOPERATOR) {
1886             s = scan_ident(s, bufend, tokenbuf, sizeof tokenbuf, TRUE);
1887             expect = XOPERATOR;
1888             force_ident(tokenbuf, '*');
1889             if (!*tokenbuf)
1890                 PREREF('*');
1891             TERM('*');
1892         }
1893         s++;
1894         if (*s == '*') {
1895             s++;
1896             PWop(OP_POW);
1897         }
1898         Mop(OP_MULTIPLY);
1899
1900     case '%':
1901         if (expect == XOPERATOR) {
1902             ++s;
1903             Mop(OP_MODULO);
1904         }
1905         tokenbuf[0] = '%';
1906         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, TRUE);
1907         if (!tokenbuf[1]) {
1908             if (s == bufend)
1909                 yyerror("Final % should be \\% or %name");
1910             PREREF('%');
1911         }
1912         pending_ident = '%';
1913         TERM('%');
1914
1915     case '^':
1916         s++;
1917         BOop(OP_BIT_XOR);
1918     case '[':
1919         lex_brackets++;
1920         /* FALL THROUGH */
1921     case '~':
1922     case ',':
1923         tmp = *s++;
1924         OPERATOR(tmp);
1925     case ':':
1926         if (s[1] == ':') {
1927             len = 0;
1928             goto just_a_word;
1929         }
1930         s++;
1931         OPERATOR(':');
1932     case '(':
1933         s++;
1934         if (last_lop == oldoldbufptr || last_uni == oldoldbufptr)
1935             oldbufptr = oldoldbufptr;           /* allow print(STDOUT 123) */
1936         else
1937             expect = XTERM;
1938         TOKEN('(');
1939     case ';':
1940         if (curcop->cop_line < copline)
1941             copline = curcop->cop_line;
1942         tmp = *s++;
1943         OPERATOR(tmp);
1944     case ')':
1945         tmp = *s++;
1946         s = skipspace(s);
1947         if (*s == '{')
1948             PREBLOCK(tmp);
1949         TERM(tmp);
1950     case ']':
1951         s++;
1952         if (lex_brackets <= 0)
1953             yyerror("Unmatched right bracket");
1954         else
1955             --lex_brackets;
1956         if (lex_state == LEX_INTERPNORMAL) {
1957             if (lex_brackets == 0) {
1958                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
1959                     lex_state = LEX_INTERPEND;
1960             }
1961         }
1962         TERM(']');
1963     case '{':
1964       leftbracket:
1965         s++;
1966         if (lex_brackets > 100) {
1967             char* newlb = Renew(lex_brackstack, lex_brackets + 1, char);
1968             if (newlb != lex_brackstack) {
1969                 SAVEFREEPV(newlb);
1970                 lex_brackstack = newlb;
1971             }
1972         }
1973         switch (expect) {
1974         case XTERM:
1975             if (lex_formbrack) {
1976                 s--;
1977                 PRETERMBLOCK(DO);
1978             }
1979             if (oldoldbufptr == last_lop)
1980                 lex_brackstack[lex_brackets++] = XTERM;
1981             else
1982                 lex_brackstack[lex_brackets++] = XOPERATOR;
1983             OPERATOR(HASHBRACK);
1984         case XOPERATOR:
1985             while (s < bufend && (*s == ' ' || *s == '\t'))
1986                 s++;
1987             d = s;
1988             tokenbuf[0] = '\0';
1989             if (d < bufend && *d == '-') {
1990                 tokenbuf[0] = '-';
1991                 d++;
1992                 while (d < bufend && (*d == ' ' || *d == '\t'))
1993                     d++;
1994             }
1995             if (d < bufend && isIDFIRST(*d)) {
1996                 d = scan_word(d, tokenbuf + 1, sizeof tokenbuf - 1,
1997                               FALSE, &len);
1998                 while (d < bufend && (*d == ' ' || *d == '\t'))
1999                     d++;
2000                 if (*d == '}') {
2001                     char minus = (tokenbuf[0] == '-');
2002                     if (dowarn &&
2003                         (keyword(tokenbuf + 1, len) ||
2004                          (minus && len == 1 && isALPHA(tokenbuf[1])) ||
2005                          perl_get_cv(tokenbuf + 1, FALSE) ))
2006                         warn("Ambiguous use of {%s} resolved to {\"%s\"}",
2007                              tokenbuf + !minus, tokenbuf + !minus);
2008                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
2009                     if (minus)
2010                         force_next('-');
2011                 }
2012             }
2013             /* FALL THROUGH */
2014         case XBLOCK:
2015             lex_brackstack[lex_brackets++] = XSTATE;
2016             expect = XSTATE;
2017             break;
2018         case XTERMBLOCK:
2019             lex_brackstack[lex_brackets++] = XOPERATOR;
2020             expect = XSTATE;
2021             break;
2022         default: {
2023                 char *t;
2024                 if (oldoldbufptr == last_lop)
2025                     lex_brackstack[lex_brackets++] = XTERM;
2026                 else
2027                     lex_brackstack[lex_brackets++] = XOPERATOR;
2028                 s = skipspace(s);
2029                 if (*s == '}')
2030                     OPERATOR(HASHBRACK);
2031                 /* This hack serves to disambiguate a pair of curlies
2032                  * as being a block or an anon hash.  Normally, expectation
2033                  * determines that, but in cases where we're not in a
2034                  * position to expect anything in particular (like inside
2035                  * eval"") we have to resolve the ambiguity.  This code
2036                  * covers the case where the first term in the curlies is a
2037                  * quoted string.  Most other cases need to be explicitly
2038                  * disambiguated by prepending a `+' before the opening
2039                  * curly in order to force resolution as an anon hash.
2040                  *
2041                  * XXX should probably propagate the outer expectation
2042                  * into eval"" to rely less on this hack, but that could
2043                  * potentially break current behavior of eval"".
2044                  * GSAR 97-07-21
2045                  */
2046                 t = s;
2047                 if (*s == '\'' || *s == '"' || *s == '`') {
2048                     /* common case: get past first string, handling escapes */
2049                     for (t++; t < bufend && *t != *s;)
2050                         if (*t++ == '\\' && (*t == '\\' || *t == *s))
2051                             t++;
2052                     t++;
2053                 }
2054                 else if (*s == 'q') {
2055                     if (++t < bufend
2056                         && (!isALNUM(*t)
2057                             || ((*t == 'q' || *t == 'x') && ++t < bufend
2058                                 && !isALNUM(*t)))) {
2059                         char *tmps;
2060                         char open, close, term;
2061                         I32 brackets = 1;
2062
2063                         while (t < bufend && isSPACE(*t))
2064                             t++;
2065                         term = *t;
2066                         open = term;
2067                         if (term && (tmps = strchr("([{< )]}> )]}>",term)))
2068                             term = tmps[5];
2069                         close = term;
2070                         if (open == close)
2071                             for (t++; t < bufend; t++) {
2072                                 if (*t == '\\' && t+1 < bufend && open != '\\')
2073                                     t++;
2074                                 else if (*t == open)
2075                                     break;
2076                             }
2077                         else
2078                             for (t++; t < bufend; t++) {
2079                                 if (*t == '\\' && t+1 < bufend)
2080                                     t++;
2081                                 else if (*t == close && --brackets <= 0)
2082                                     break;
2083                                 else if (*t == open)
2084                                     brackets++;
2085                             }
2086                     }
2087                     t++;
2088                 }
2089                 else if (isALPHA(*s)) {
2090                     for (t++; t < bufend && isALNUM(*t); t++) ;
2091                 }
2092                 while (t < bufend && isSPACE(*t))
2093                     t++;
2094                 /* if comma follows first term, call it an anon hash */
2095                 /* XXX it could be a comma expression with loop modifiers */
2096                 if (t < bufend && ((*t == ',' && (*s == 'q' || !isLOWER(*s)))
2097                                    || (*t == '=' && t[1] == '>')))
2098                     OPERATOR(HASHBRACK);
2099                 if (expect == XREF)
2100                     expect = XTERM;
2101                 else {
2102                     lex_brackstack[lex_brackets-1] = XSTATE;
2103                     expect = XSTATE;
2104                 }
2105             }
2106             break;
2107         }
2108         yylval.ival = curcop->cop_line;
2109         if (isSPACE(*s) || *s == '#')
2110             copline = NOLINE;   /* invalidate current command line number */
2111         TOKEN('{');
2112     case '}':
2113       rightbracket:
2114         s++;
2115         if (lex_brackets <= 0)
2116             yyerror("Unmatched right bracket");
2117         else
2118             expect = (expectation)lex_brackstack[--lex_brackets];
2119         if (lex_brackets < lex_formbrack)
2120             lex_formbrack = 0;
2121         if (lex_state == LEX_INTERPNORMAL) {
2122             if (lex_brackets == 0) {
2123                 if (lex_fakebrack) {
2124                     lex_state = LEX_INTERPEND;
2125                     bufptr = s;
2126                     return yylex();             /* ignore fake brackets */
2127                 }
2128                 if (*s == '-' && s[1] == '>')
2129                     lex_state = LEX_INTERPENDMAYBE;
2130                 else if (*s != '[' && *s != '{')
2131                     lex_state = LEX_INTERPEND;
2132             }
2133         }
2134         if (lex_brackets < lex_fakebrack) {
2135             bufptr = s;
2136             lex_fakebrack = 0;
2137             return yylex();             /* ignore fake brackets */
2138         }
2139         force_next('}');
2140         TOKEN(';');
2141     case '&':
2142         s++;
2143         tmp = *s++;
2144         if (tmp == '&')
2145             AOPERATOR(ANDAND);
2146         s--;
2147         if (expect == XOPERATOR) {
2148             if (dowarn && isALPHA(*s) && bufptr == linestart) {
2149                 curcop->cop_line--;
2150                 warn(warn_nosemi);
2151                 curcop->cop_line++;
2152             }
2153             BAop(OP_BIT_AND);
2154         }
2155
2156         s = scan_ident(s - 1, bufend, tokenbuf, sizeof tokenbuf, TRUE);
2157         if (*tokenbuf) {
2158             expect = XOPERATOR;
2159             force_ident(tokenbuf, '&');
2160         }
2161         else
2162             PREREF('&');
2163         yylval.ival = (OPpENTERSUB_AMPER<<8);
2164         TERM('&');
2165
2166     case '|':
2167         s++;
2168         tmp = *s++;
2169         if (tmp == '|')
2170             AOPERATOR(OROR);
2171         s--;
2172         BOop(OP_BIT_OR);
2173     case '=':
2174         s++;
2175         tmp = *s++;
2176         if (tmp == '=')
2177             Eop(OP_EQ);
2178         if (tmp == '>')
2179             OPERATOR(',');
2180         if (tmp == '~')
2181             PMop(OP_MATCH);
2182         if (dowarn && tmp && isSPACE(*s) && strchr("+-*/%.^&|<",tmp))
2183             warn("Reversed %c= operator",(int)tmp);
2184         s--;
2185         if (expect == XSTATE && isALPHA(tmp) &&
2186                 (s == linestart+1 || s[-2] == '\n') )
2187         {
2188             if (in_eval && !rsfp) {
2189                 d = bufend;
2190                 while (s < d) {
2191                     if (*s++ == '\n') {
2192                         incline(s);
2193                         if (strnEQ(s,"=cut",4)) {
2194                             s = strchr(s,'\n');
2195                             if (s)
2196                                 s++;
2197                             else
2198                                 s = d;
2199                             incline(s);
2200                             goto retry;
2201                         }
2202                     }
2203                 }
2204                 goto retry;
2205             }
2206             s = bufend;
2207             doextract = TRUE;
2208             goto retry;
2209         }
2210         if (lex_brackets < lex_formbrack) {
2211             char *t;
2212             for (t = s; *t == ' ' || *t == '\t'; t++) ;
2213             if (*t == '\n' || *t == '#') {
2214                 s--;
2215                 expect = XBLOCK;
2216                 goto leftbracket;
2217             }
2218         }
2219         yylval.ival = 0;
2220         OPERATOR(ASSIGNOP);
2221     case '!':
2222         s++;
2223         tmp = *s++;
2224         if (tmp == '=')
2225             Eop(OP_NE);
2226         if (tmp == '~')
2227             PMop(OP_NOT);
2228         s--;
2229         OPERATOR('!');
2230     case '<':
2231         if (expect != XOPERATOR) {
2232             if (s[1] != '<' && !strchr(s,'>'))
2233                 check_uni();
2234             if (s[1] == '<')
2235                 s = scan_heredoc(s);
2236             else
2237                 s = scan_inputsymbol(s);
2238             TERM(sublex_start());
2239         }
2240         s++;
2241         tmp = *s++;
2242         if (tmp == '<')
2243             SHop(OP_LEFT_SHIFT);
2244         if (tmp == '=') {
2245             tmp = *s++;
2246             if (tmp == '>')
2247                 Eop(OP_NCMP);
2248             s--;
2249             Rop(OP_LE);
2250         }
2251         s--;
2252         Rop(OP_LT);
2253     case '>':
2254         s++;
2255         tmp = *s++;
2256         if (tmp == '>')
2257             SHop(OP_RIGHT_SHIFT);
2258         if (tmp == '=')
2259             Rop(OP_GE);
2260         s--;
2261         Rop(OP_GT);
2262
2263     case '$':
2264         CLINE;
2265
2266         if (expect == XOPERATOR) {
2267             if (lex_formbrack && lex_brackets == lex_formbrack) {
2268                 expect = XTERM;
2269                 depcom();
2270                 return ','; /* grandfather non-comma-format format */
2271             }
2272         }
2273
2274         if (s[1] == '#' && (isALPHA(s[2]) || strchr("_{$:", s[2]))) {
2275             if (expect == XOPERATOR)
2276                 no_op("Array length", bufptr);
2277             tokenbuf[0] = '@';
2278             s = scan_ident(s + 1, bufend, tokenbuf + 1, sizeof tokenbuf - 1,
2279                            FALSE);
2280             if (!tokenbuf[1])
2281                 PREREF(DOLSHARP);
2282             expect = XOPERATOR;
2283             pending_ident = '#';
2284             TOKEN(DOLSHARP);
2285         }
2286
2287         if (expect == XOPERATOR)
2288             no_op("Scalar", bufptr);
2289         tokenbuf[0] = '$';
2290         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2291         if (!tokenbuf[1]) {
2292             if (s == bufend)
2293                 yyerror("Final $ should be \\$ or $name");
2294             PREREF('$');
2295         }
2296
2297         /* This kludge not intended to be bulletproof. */
2298         if (tokenbuf[1] == '[' && !tokenbuf[2]) {
2299             yylval.opval = newSVOP(OP_CONST, 0,
2300                                    newSViv((IV)compiling.cop_arybase));
2301             yylval.opval->op_private = OPpCONST_ARYBASE;
2302             TERM(THING);
2303         }
2304
2305         d = s;
2306         if (lex_state == LEX_NORMAL)
2307             s = skipspace(s);
2308
2309         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2310             char *t;
2311             if (*s == '[') {
2312                 tokenbuf[0] = '@';
2313                 if (dowarn) {
2314                     for(t = s + 1;
2315                         isSPACE(*t) || isALNUM(*t) || *t == '$';
2316                         t++) ;
2317                     if (*t++ == ',') {
2318                         bufptr = skipspace(bufptr);
2319                         while (t < bufend && *t != ']')
2320                             t++;
2321                         warn("Multidimensional syntax %.*s not supported",
2322                              (t - bufptr) + 1, bufptr);
2323                     }
2324                 }
2325             }
2326             else if (*s == '{') {
2327                 tokenbuf[0] = '%';
2328                 if (dowarn && strEQ(tokenbuf+1, "SIG") &&
2329                     (t = strchr(s, '}')) && (t = strchr(t, '=')))
2330                 {
2331                     char tmpbuf[sizeof tokenbuf];
2332                     STRLEN len;
2333                     for (t++; isSPACE(*t); t++) ;
2334                     if (isIDFIRST(*t)) {
2335                         t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE, &len);
2336                         if (*t != '(' && perl_get_cv(tmpbuf, FALSE))
2337                             warn("You need to quote \"%s\"", tmpbuf);
2338                     }
2339                 }
2340             }
2341         }
2342
2343         expect = XOPERATOR;
2344         if (lex_state == LEX_NORMAL && isSPACE(*d)) {
2345             bool islop = (last_lop == oldoldbufptr);
2346             if (!islop || last_lop_op == OP_GREPSTART)
2347                 expect = XOPERATOR;
2348             else if (strchr("$@\"'`q", *s))
2349                 expect = XTERM;         /* e.g. print $fh "foo" */
2350             else if (strchr("&*<%", *s) && isIDFIRST(s[1]))
2351                 expect = XTERM;         /* e.g. print $fh &sub */
2352             else if (isIDFIRST(*s)) {
2353                 char tmpbuf[sizeof tokenbuf];
2354                 scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2355                 if (tmp = keyword(tmpbuf, len)) {
2356                     /* binary operators exclude handle interpretations */
2357                     switch (tmp) {
2358                     case -KEY_x:
2359                     case -KEY_eq:
2360                     case -KEY_ne:
2361                     case -KEY_gt:
2362                     case -KEY_lt:
2363                     case -KEY_ge:
2364                     case -KEY_le:
2365                     case -KEY_cmp:
2366                         break;
2367                     default:
2368                         expect = XTERM; /* e.g. print $fh length() */
2369                         break;
2370                     }
2371                 }
2372                 else {
2373                     GV *gv = gv_fetchpv(tmpbuf, FALSE, SVt_PVCV);
2374                     if (gv && GvCVu(gv))
2375                         expect = XTERM; /* e.g. print $fh subr() */
2376                 }
2377             }
2378             else if (isDIGIT(*s))
2379                 expect = XTERM;         /* e.g. print $fh 3 */
2380             else if (*s == '.' && isDIGIT(s[1]))
2381                 expect = XTERM;         /* e.g. print $fh .3 */
2382             else if (strchr("/?-+", *s) && !isSPACE(s[1]))
2383                 expect = XTERM;         /* e.g. print $fh -1 */
2384             else if (*s == '<' && s[1] == '<' && !isSPACE(s[2]))
2385                 expect = XTERM;         /* print $fh <<"EOF" */
2386         }
2387         pending_ident = '$';
2388         TOKEN('$');
2389
2390     case '@':
2391         if (expect == XOPERATOR)
2392             no_op("Array", s);
2393         tokenbuf[0] = '@';
2394         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2395         if (!tokenbuf[1]) {
2396             if (s == bufend)
2397                 yyerror("Final @ should be \\@ or @name");
2398             PREREF('@');
2399         }
2400         if (lex_state == LEX_NORMAL)
2401             s = skipspace(s);
2402         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2403             if (*s == '{')
2404                 tokenbuf[0] = '%';
2405
2406             /* Warn about @ where they meant $. */
2407             if (dowarn) {
2408                 if (*s == '[' || *s == '{') {
2409                     char *t = s + 1;
2410                     while (*t && (isALNUM(*t) || strchr(" \t$#+-'\"", *t)))
2411                         t++;
2412                     if (*t == '}' || *t == ']') {
2413                         t++;
2414                         bufptr = skipspace(bufptr);
2415                         warn("Scalar value %.*s better written as $%.*s",
2416                             t-bufptr, bufptr, t-bufptr-1, bufptr+1);
2417                     }
2418                 }
2419             }
2420         }
2421         pending_ident = '@';
2422         TERM('@');
2423
2424     case '/':                   /* may either be division or pattern */
2425     case '?':                   /* may either be conditional or pattern */
2426         if (expect != XOPERATOR) {
2427             /* Disable warning on "study /blah/" */
2428             if (oldoldbufptr == last_uni
2429                 && (*last_uni != 's' || s - last_uni < 5
2430                     || memNE(last_uni, "study", 5) || isALNUM(last_uni[5])))
2431                 check_uni();
2432             s = scan_pat(s);
2433             TERM(sublex_start());
2434         }
2435         tmp = *s++;
2436         if (tmp == '/')
2437             Mop(OP_DIVIDE);
2438         OPERATOR(tmp);
2439
2440     case '.':
2441         if (lex_formbrack && lex_brackets == lex_formbrack && s[1] == '\n' &&
2442                 (s == linestart || s[-1] == '\n') ) {
2443             lex_formbrack = 0;
2444             expect = XSTATE;
2445             goto rightbracket;
2446         }
2447         if (expect == XOPERATOR || !isDIGIT(s[1])) {
2448             tmp = *s++;
2449             if (*s == tmp) {
2450                 s++;
2451                 if (*s == tmp) {
2452                     s++;
2453                     yylval.ival = OPf_SPECIAL;
2454                 }
2455                 else
2456                     yylval.ival = 0;
2457                 OPERATOR(DOTDOT);
2458             }
2459             if (expect != XOPERATOR)
2460                 check_uni();
2461             Aop(OP_CONCAT);
2462         }
2463         /* FALL THROUGH */
2464     case '0': case '1': case '2': case '3': case '4':
2465     case '5': case '6': case '7': case '8': case '9':
2466         s = scan_num(s);
2467         if (expect == XOPERATOR)
2468             no_op("Number",s);
2469         TERM(THING);
2470
2471     case '\'':
2472         s = scan_str(s);
2473         if (expect == XOPERATOR) {
2474             if (lex_formbrack && lex_brackets == lex_formbrack) {
2475                 expect = XTERM;
2476                 depcom();
2477                 return ',';     /* grandfather non-comma-format format */
2478             }
2479             else
2480                 no_op("String",s);
2481         }
2482         if (!s)
2483             missingterm((char*)0);
2484         yylval.ival = OP_CONST;
2485         TERM(sublex_start());
2486
2487     case '"':
2488         s = scan_str(s);
2489         if (expect == XOPERATOR) {
2490             if (lex_formbrack && lex_brackets == lex_formbrack) {
2491                 expect = XTERM;
2492                 depcom();
2493                 return ',';     /* grandfather non-comma-format format */
2494             }
2495             else
2496                 no_op("String",s);
2497         }
2498         if (!s)
2499             missingterm((char*)0);
2500         yylval.ival = OP_CONST;
2501         for (d = SvPV(lex_stuff, len); len; len--, d++) {
2502             if (*d == '$' || *d == '@' || *d == '\\') {
2503                 yylval.ival = OP_STRINGIFY;
2504                 break;
2505             }
2506         }
2507         TERM(sublex_start());
2508
2509     case '`':
2510         s = scan_str(s);
2511         if (expect == XOPERATOR)
2512             no_op("Backticks",s);
2513         if (!s)
2514             missingterm((char*)0);
2515         yylval.ival = OP_BACKTICK;
2516         set_csh();
2517         TERM(sublex_start());
2518
2519     case '\\':
2520         s++;
2521         if (dowarn && lex_inwhat && isDIGIT(*s))
2522             warn("Can't use \\%c to mean $%c in expression", *s, *s);
2523         if (expect == XOPERATOR)
2524             no_op("Backslash",s);
2525         OPERATOR(REFGEN);
2526
2527     case 'x':
2528         if (isDIGIT(s[1]) && expect == XOPERATOR) {
2529             s++;
2530             Mop(OP_REPEAT);
2531         }
2532         goto keylookup;
2533
2534     case '_':
2535     case 'a': case 'A':
2536     case 'b': case 'B':
2537     case 'c': case 'C':
2538     case 'd': case 'D':
2539     case 'e': case 'E':
2540     case 'f': case 'F':
2541     case 'g': case 'G':
2542     case 'h': case 'H':
2543     case 'i': case 'I':
2544     case 'j': case 'J':
2545     case 'k': case 'K':
2546     case 'l': case 'L':
2547     case 'm': case 'M':
2548     case 'n': case 'N':
2549     case 'o': case 'O':
2550     case 'p': case 'P':
2551     case 'q': case 'Q':
2552     case 'r': case 'R':
2553     case 's': case 'S':
2554     case 't': case 'T':
2555     case 'u': case 'U':
2556     case 'v': case 'V':
2557     case 'w': case 'W':
2558               case 'X':
2559     case 'y': case 'Y':
2560     case 'z': case 'Z':
2561
2562       keylookup: {
2563         gv = Nullgv;
2564         gvp = 0;
2565
2566         bufptr = s;
2567         s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2568
2569         /* Some keywords can be followed by any delimiter, including ':' */
2570         tmp = (len == 1 && strchr("msyq", tokenbuf[0]) ||
2571                len == 2 && ((tokenbuf[0] == 't' && tokenbuf[1] == 'r') ||
2572                             (tokenbuf[0] == 'q' &&
2573                              strchr("qwx", tokenbuf[1]))));
2574
2575         /* x::* is just a word, unless x is "CORE" */
2576         if (!tmp && *s == ':' && s[1] == ':' && strNE(tokenbuf, "CORE"))
2577             goto just_a_word;
2578
2579         d = s;
2580         while (d < bufend && isSPACE(*d))
2581                 d++;    /* no comments skipped here, or s### is misparsed */
2582
2583         /* Is this a label? */
2584         if (!tmp && expect == XSTATE
2585               && d < bufend && *d == ':' && *(d + 1) != ':') {
2586             s = d + 1;
2587             yylval.pval = savepv(tokenbuf);
2588             CLINE;
2589             TOKEN(LABEL);
2590         }
2591
2592         /* Check for keywords */
2593         tmp = keyword(tokenbuf, len);
2594
2595         /* Is this a word before a => operator? */
2596         if (strnEQ(d,"=>",2)) {
2597             CLINE;
2598             if (dowarn && (tmp || perl_get_cv(tokenbuf, FALSE)))
2599                 warn("Ambiguous use of %s => resolved to \"%s\" =>",
2600                         tokenbuf, tokenbuf);
2601             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2602             yylval.opval->op_private = OPpCONST_BARE;
2603             TERM(WORD);
2604         }
2605
2606         if (tmp < 0) {                  /* second-class keyword? */
2607             if (expect != XOPERATOR && (*s != ':' || s[1] != ':') &&
2608                 (((gv = gv_fetchpv(tokenbuf, FALSE, SVt_PVCV)) &&
2609                   GvCVu(gv) && GvIMPORTED_CV(gv)) ||
2610                  ((gvp = (GV**)hv_fetch(globalstash,tokenbuf,len,FALSE)) &&
2611                   (gv = *gvp) != (GV*)&sv_undef &&
2612                   GvCVu(gv) && GvIMPORTED_CV(gv))))
2613             {
2614                 tmp = 0;                /* overridden by importation */
2615             }
2616             else if (gv && !gvp
2617                      && -tmp==KEY_lock  /* XXX generalizable kludge */
2618                      && !hv_fetch(GvHVn(incgv), "Thread.pm", 9, FALSE))
2619             {
2620                 tmp = 0;                /* any sub overrides "weak" keyword */
2621             }
2622             else {
2623                 tmp = -tmp; gv = Nullgv; gvp = 0;
2624             }
2625         }
2626
2627       reserved_word:
2628         switch (tmp) {
2629
2630         default:                        /* not a keyword */
2631           just_a_word: {
2632                 SV *sv;
2633                 char lastchar = (bufptr == oldoldbufptr ? 0 : bufptr[-1]);
2634
2635                 /* Get the rest if it looks like a package qualifier */
2636
2637                 if (*s == '\'' || *s == ':' && s[1] == ':') {
2638                     s = scan_word(s, tokenbuf + len, sizeof tokenbuf - len,
2639                                   TRUE, &len);
2640                     if (!len)
2641                         croak("Bad name after %s::", tokenbuf);
2642                 }
2643
2644                 if (expect == XOPERATOR) {
2645                     if (bufptr == linestart) {
2646                         curcop->cop_line--;
2647                         warn(warn_nosemi);
2648                         curcop->cop_line++;
2649                     }
2650                     else
2651                         no_op("Bareword",s);
2652                 }
2653
2654                 /* Look for a subroutine with this name in current package. */
2655
2656                 if (gvp) {
2657                     sv = newSVpv("CORE::GLOBAL::",14);
2658                     sv_catpv(sv,tokenbuf);
2659                 }
2660                 else
2661                     sv = newSVpv(tokenbuf,0);
2662                 if (!gv)
2663                     gv = gv_fetchpv(tokenbuf,FALSE, SVt_PVCV);
2664
2665                 /* Presume this is going to be a bareword of some sort. */
2666
2667                 CLINE;
2668                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
2669                 yylval.opval->op_private = OPpCONST_BARE;
2670
2671                 /* See if it's the indirect object for a list operator. */
2672
2673                 if (oldoldbufptr &&
2674                     oldoldbufptr < bufptr &&
2675                     (oldoldbufptr == last_lop || oldoldbufptr == last_uni) &&
2676                     /* NO SKIPSPACE BEFORE HERE! */
2677                     (expect == XREF ||
2678                      ((opargs[last_lop_op] >> OASHIFT)& 7) == OA_FILEREF) )
2679                 {
2680                     bool immediate_paren = *s == '(';
2681
2682                     /* (Now we can afford to cross potential line boundary.) */
2683                     s = skipspace(s);
2684
2685                     /* Two barewords in a row may indicate method call. */
2686
2687                     if ((isALPHA(*s) || *s == '$') && (tmp=intuit_method(s,gv)))
2688                         return tmp;
2689
2690                     /* If not a declared subroutine, it's an indirect object. */
2691                     /* (But it's an indir obj regardless for sort.) */
2692
2693                     if ((last_lop_op == OP_SORT ||
2694                          (!immediate_paren && (!gv || !GvCVu(gv))) ) &&
2695                         (last_lop_op != OP_MAPSTART && last_lop_op != OP_GREPSTART)){
2696                         expect = (last_lop == oldoldbufptr) ? XTERM : XOPERATOR;
2697                         goto bareword;
2698                     }
2699                 }
2700
2701                 /* If followed by a paren, it's certainly a subroutine. */
2702
2703                 expect = XOPERATOR;
2704                 s = skipspace(s);
2705                 if (*s == '(') {
2706                     CLINE;
2707                     if (gv && GvCVu(gv)) {
2708                         for (d = s + 1; *d == ' ' || *d == '\t'; d++) ;
2709                         if (*d == ')' && (sv = cv_const_sv(GvCV(gv)))) {
2710                             s = d + 1;
2711                             goto its_constant;
2712                         }
2713                     }
2714                     nextval[nexttoke].opval = yylval.opval;
2715                     expect = XOPERATOR;
2716                     force_next(WORD);
2717                     yylval.ival = 0;
2718                     TOKEN('&');
2719                 }
2720
2721                 /* If followed by var or block, call it a method (unless sub) */
2722
2723                 if ((*s == '$' || *s == '{') && (!gv || !GvCVu(gv))) {
2724                     last_lop = oldbufptr;
2725                     last_lop_op = OP_METHOD;
2726                     PREBLOCK(METHOD);
2727                 }
2728
2729                 /* If followed by a bareword, see if it looks like indir obj. */
2730
2731                 if ((isALPHA(*s) || *s == '$') && (tmp = intuit_method(s,gv)))
2732                     return tmp;
2733
2734                 /* Not a method, so call it a subroutine (if defined) */
2735
2736                 if (gv && GvCVu(gv)) {
2737                     CV* cv;
2738                     if (lastchar == '-')
2739                         warn("Ambiguous use of -%s resolved as -&%s()",
2740                                 tokenbuf, tokenbuf);
2741                     last_lop = oldbufptr;
2742                     last_lop_op = OP_ENTERSUB;
2743                     /* Check for a constant sub */
2744                     cv = GvCV(gv);
2745                     if ((sv = cv_const_sv(cv))) {
2746                   its_constant:
2747                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
2748                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc(sv);
2749                         yylval.opval->op_private = 0;
2750                         TOKEN(WORD);
2751                     }
2752
2753                     /* Resolve to GV now. */
2754                     op_free(yylval.opval);
2755                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
2756                     /* Is there a prototype? */
2757                     if (SvPOK(cv)) {
2758                         STRLEN len;
2759                         char *proto = SvPV((SV*)cv, len);
2760                         if (!len)
2761                             TERM(FUNC0SUB);
2762                         if (strEQ(proto, "$"))
2763                             OPERATOR(UNIOPSUB);
2764                         if (*proto == '&' && *s == '{') {
2765                             sv_setpv(subname,"__ANON__");
2766                             PREBLOCK(LSTOPSUB);
2767                         }
2768                     }
2769                     nextval[nexttoke].opval = yylval.opval;
2770                     expect = XTERM;
2771                     force_next(WORD);
2772                     TOKEN(NOAMP);
2773                 }
2774
2775                 if (hints & HINT_STRICT_SUBS &&
2776                     lastchar != '-' &&
2777                     strnNE(s,"->",2) &&
2778                     last_lop_op != OP_TRUNCATE &&  /* S/F prototype in opcode.pl */
2779                     last_lop_op != OP_ACCEPT &&
2780                     last_lop_op != OP_PIPE_OP &&
2781                     last_lop_op != OP_SOCKPAIR)
2782                 {
2783                     warn(
2784                      "Bareword \"%s\" not allowed while \"strict subs\" in use",
2785                         tokenbuf);
2786                     ++error_count;
2787                 }
2788
2789                 /* Call it a bare word */
2790
2791             bareword:
2792                 if (dowarn) {
2793                     if (lastchar != '-') {
2794                         for (d = tokenbuf; *d && isLOWER(*d); d++) ;
2795                         if (!*d)
2796                             warn(warn_reserved, tokenbuf);
2797                     }
2798                 }
2799                 if (lastchar && strchr("*%&", lastchar)) {
2800                     warn("Operator or semicolon missing before %c%s",
2801                         lastchar, tokenbuf);
2802                     warn("Ambiguous use of %c resolved as operator %c",
2803                         lastchar, lastchar);
2804                 }
2805                 TOKEN(WORD);
2806             }
2807
2808         case KEY___FILE__:
2809             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2810                                         newSVsv(GvSV(curcop->cop_filegv)));
2811             TERM(THING);
2812
2813         case KEY___LINE__:
2814             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2815                                     newSVpvf("%ld", (long)curcop->cop_line));
2816             TERM(THING);
2817
2818         case KEY___PACKAGE__:
2819             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2820                                         (curstash
2821                                          ? newSVsv(curstname)
2822                                          : &sv_undef));
2823             TERM(THING);
2824
2825         case KEY___DATA__:
2826         case KEY___END__: {
2827             GV *gv;
2828
2829             /*SUPPRESS 560*/
2830             if (rsfp && (!in_eval || tokenbuf[2] == 'D')) {
2831                 char *pname = "main";
2832                 if (tokenbuf[2] == 'D')
2833                     pname = HvNAME(curstash ? curstash : defstash);
2834                 gv = gv_fetchpv(form("%s::DATA", pname), TRUE, SVt_PVIO);
2835                 GvMULTI_on(gv);
2836                 if (!GvIO(gv))
2837                     GvIOp(gv) = newIO();
2838                 IoIFP(GvIOp(gv)) = rsfp;
2839 #if defined(HAS_FCNTL) && defined(F_SETFD)
2840                 {
2841                     int fd = PerlIO_fileno(rsfp);
2842                     fcntl(fd,F_SETFD,fd >= 3);
2843                 }
2844 #endif
2845                 /* Mark this internal pseudo-handle as clean */
2846                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
2847                 if (preprocess)
2848                     IoTYPE(GvIOp(gv)) = '|';
2849                 else if ((PerlIO*)rsfp == PerlIO_stdin())
2850                     IoTYPE(GvIOp(gv)) = '-';
2851                 else
2852                     IoTYPE(GvIOp(gv)) = '<';
2853                 rsfp = Nullfp;
2854             }
2855             goto fake_eof;
2856         }
2857
2858         case KEY_AUTOLOAD:
2859         case KEY_DESTROY:
2860         case KEY_BEGIN:
2861         case KEY_END:
2862         case KEY_INIT:
2863             if (expect == XSTATE) {
2864                 s = bufptr;
2865                 goto really_sub;
2866             }
2867             goto just_a_word;
2868
2869         case KEY_CORE:
2870             if (*s == ':' && s[1] == ':') {
2871                 s += 2;
2872                 d = s;
2873                 s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2874                 tmp = keyword(tokenbuf, len);
2875                 if (tmp < 0)
2876                     tmp = -tmp;
2877                 goto reserved_word;
2878             }
2879             goto just_a_word;
2880
2881         case KEY_abs:
2882             UNI(OP_ABS);
2883
2884         case KEY_alarm:
2885             UNI(OP_ALARM);
2886
2887         case KEY_accept:
2888             LOP(OP_ACCEPT,XTERM);
2889
2890         case KEY_and:
2891             OPERATOR(ANDOP);
2892
2893         case KEY_atan2:
2894             LOP(OP_ATAN2,XTERM);
2895
2896         case KEY_bind:
2897             LOP(OP_BIND,XTERM);
2898
2899         case KEY_binmode:
2900             UNI(OP_BINMODE);
2901
2902         case KEY_bless:
2903             LOP(OP_BLESS,XTERM);
2904
2905         case KEY_chop:
2906             UNI(OP_CHOP);
2907
2908         case KEY_continue:
2909             PREBLOCK(CONTINUE);
2910
2911         case KEY_chdir:
2912             (void)gv_fetchpv("ENV",TRUE, SVt_PVHV);     /* may use HOME */
2913             UNI(OP_CHDIR);
2914
2915         case KEY_close:
2916             UNI(OP_CLOSE);
2917
2918         case KEY_closedir:
2919             UNI(OP_CLOSEDIR);
2920
2921         case KEY_cmp:
2922             Eop(OP_SCMP);
2923
2924         case KEY_caller:
2925             UNI(OP_CALLER);
2926
2927         case KEY_crypt:
2928 #ifdef FCRYPT
2929             if (!cryptseen++)
2930                 init_des();
2931 #endif
2932             LOP(OP_CRYPT,XTERM);
2933
2934         case KEY_chmod:
2935             if (dowarn) {
2936                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
2937                 if (*d != '0' && isDIGIT(*d))
2938                     yywarn("chmod: mode argument is missing initial 0");
2939             }
2940             LOP(OP_CHMOD,XTERM);
2941
2942         case KEY_chown:
2943             LOP(OP_CHOWN,XTERM);
2944
2945         case KEY_connect:
2946             LOP(OP_CONNECT,XTERM);
2947
2948         case KEY_chr:
2949             UNI(OP_CHR);
2950
2951         case KEY_cos:
2952             UNI(OP_COS);
2953
2954         case KEY_chroot:
2955             UNI(OP_CHROOT);
2956
2957         case KEY_do:
2958             s = skipspace(s);
2959             if (*s == '{')
2960                 PRETERMBLOCK(DO);
2961             if (*s != '\'')
2962                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
2963             OPERATOR(DO);
2964
2965         case KEY_die:
2966             hints |= HINT_BLOCK_SCOPE;
2967             LOP(OP_DIE,XTERM);
2968
2969         case KEY_defined:
2970             UNI(OP_DEFINED);
2971
2972         case KEY_delete:
2973             UNI(OP_DELETE);
2974
2975         case KEY_dbmopen:
2976             gv_fetchpv("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
2977             LOP(OP_DBMOPEN,XTERM);
2978
2979         case KEY_dbmclose:
2980             UNI(OP_DBMCLOSE);
2981
2982         case KEY_dump:
2983             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2984             LOOPX(OP_DUMP);
2985
2986         case KEY_else:
2987             PREBLOCK(ELSE);
2988
2989         case KEY_elsif:
2990             yylval.ival = curcop->cop_line;
2991             OPERATOR(ELSIF);
2992
2993         case KEY_eq:
2994             Eop(OP_SEQ);
2995
2996         case KEY_exists:
2997             UNI(OP_EXISTS);
2998
2999         case KEY_exit:
3000             UNI(OP_EXIT);
3001
3002         case KEY_eval:
3003             s = skipspace(s);
3004             expect = (*s == '{') ? XTERMBLOCK : XTERM;
3005             UNIBRACK(OP_ENTEREVAL);
3006
3007         case KEY_eof:
3008             UNI(OP_EOF);
3009
3010         case KEY_exp:
3011             UNI(OP_EXP);
3012
3013         case KEY_each:
3014             UNI(OP_EACH);
3015
3016         case KEY_exec:
3017             set_csh();
3018             LOP(OP_EXEC,XREF);
3019
3020         case KEY_endhostent:
3021             FUN0(OP_EHOSTENT);
3022
3023         case KEY_endnetent:
3024             FUN0(OP_ENETENT);
3025
3026         case KEY_endservent:
3027             FUN0(OP_ESERVENT);
3028
3029         case KEY_endprotoent:
3030             FUN0(OP_EPROTOENT);
3031
3032         case KEY_endpwent:
3033             FUN0(OP_EPWENT);
3034
3035         case KEY_endgrent:
3036             FUN0(OP_EGRENT);
3037
3038         case KEY_for:
3039         case KEY_foreach:
3040             yylval.ival = curcop->cop_line;
3041             s = skipspace(s);
3042             if (isIDFIRST(*s)) {
3043                 char *p = s;
3044                 if ((bufend - p) >= 3 &&
3045                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
3046                     p += 2;
3047                 p = skipspace(p);
3048                 if (isIDFIRST(*p))
3049                     croak("Missing $ on loop variable");
3050             }
3051             OPERATOR(FOR);
3052
3053         case KEY_formline:
3054             LOP(OP_FORMLINE,XTERM);
3055
3056         case KEY_fork:
3057             FUN0(OP_FORK);
3058
3059         case KEY_fcntl:
3060             LOP(OP_FCNTL,XTERM);
3061
3062         case KEY_fileno:
3063             UNI(OP_FILENO);
3064
3065         case KEY_flock:
3066             LOP(OP_FLOCK,XTERM);
3067
3068         case KEY_gt:
3069             Rop(OP_SGT);
3070
3071         case KEY_ge:
3072             Rop(OP_SGE);
3073
3074         case KEY_grep:
3075             LOP(OP_GREPSTART, *s == '(' ? XTERM : XREF);
3076
3077         case KEY_goto:
3078             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3079             LOOPX(OP_GOTO);
3080
3081         case KEY_gmtime:
3082             UNI(OP_GMTIME);
3083
3084         case KEY_getc:
3085             UNI(OP_GETC);
3086
3087         case KEY_getppid:
3088             FUN0(OP_GETPPID);
3089
3090         case KEY_getpgrp:
3091             UNI(OP_GETPGRP);
3092
3093         case KEY_getpriority:
3094             LOP(OP_GETPRIORITY,XTERM);
3095
3096         case KEY_getprotobyname:
3097             UNI(OP_GPBYNAME);
3098
3099         case KEY_getprotobynumber:
3100             LOP(OP_GPBYNUMBER,XTERM);
3101
3102         case KEY_getprotoent:
3103             FUN0(OP_GPROTOENT);
3104
3105         case KEY_getpwent:
3106             FUN0(OP_GPWENT);
3107
3108         case KEY_getpwnam:
3109             UNI(OP_GPWNAM);
3110
3111         case KEY_getpwuid:
3112             UNI(OP_GPWUID);
3113
3114         case KEY_getpeername:
3115             UNI(OP_GETPEERNAME);
3116
3117         case KEY_gethostbyname:
3118             UNI(OP_GHBYNAME);
3119
3120         case KEY_gethostbyaddr:
3121             LOP(OP_GHBYADDR,XTERM);
3122
3123         case KEY_gethostent:
3124             FUN0(OP_GHOSTENT);
3125
3126         case KEY_getnetbyname:
3127             UNI(OP_GNBYNAME);
3128
3129         case KEY_getnetbyaddr:
3130             LOP(OP_GNBYADDR,XTERM);
3131
3132         case KEY_getnetent:
3133             FUN0(OP_GNETENT);
3134
3135         case KEY_getservbyname:
3136             LOP(OP_GSBYNAME,XTERM);
3137
3138         case KEY_getservbyport:
3139             LOP(OP_GSBYPORT,XTERM);
3140
3141         case KEY_getservent:
3142             FUN0(OP_GSERVENT);
3143
3144         case KEY_getsockname:
3145             UNI(OP_GETSOCKNAME);
3146
3147         case KEY_getsockopt:
3148             LOP(OP_GSOCKOPT,XTERM);
3149
3150         case KEY_getgrent:
3151             FUN0(OP_GGRENT);
3152
3153         case KEY_getgrnam:
3154             UNI(OP_GGRNAM);
3155
3156         case KEY_getgrgid:
3157             UNI(OP_GGRGID);
3158
3159         case KEY_getlogin:
3160             FUN0(OP_GETLOGIN);
3161
3162         case KEY_glob:
3163             set_csh();
3164             LOP(OP_GLOB,XTERM);
3165
3166         case KEY_hex:
3167             UNI(OP_HEX);
3168
3169         case KEY_if:
3170             yylval.ival = curcop->cop_line;
3171             OPERATOR(IF);
3172
3173         case KEY_index:
3174             LOP(OP_INDEX,XTERM);
3175
3176         case KEY_int:
3177             UNI(OP_INT);
3178
3179         case KEY_ioctl:
3180             LOP(OP_IOCTL,XTERM);
3181
3182         case KEY_join:
3183             LOP(OP_JOIN,XTERM);
3184
3185         case KEY_keys:
3186             UNI(OP_KEYS);
3187
3188         case KEY_kill:
3189             LOP(OP_KILL,XTERM);
3190
3191         case KEY_last:
3192             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3193             LOOPX(OP_LAST);
3194
3195         case KEY_lc:
3196             UNI(OP_LC);
3197
3198         case KEY_lcfirst:
3199             UNI(OP_LCFIRST);
3200
3201         case KEY_local:
3202             OPERATOR(LOCAL);
3203
3204         case KEY_length:
3205             UNI(OP_LENGTH);
3206
3207         case KEY_lt:
3208             Rop(OP_SLT);
3209
3210         case KEY_le:
3211             Rop(OP_SLE);
3212
3213         case KEY_localtime:
3214             UNI(OP_LOCALTIME);
3215
3216         case KEY_log:
3217             UNI(OP_LOG);
3218
3219         case KEY_link:
3220             LOP(OP_LINK,XTERM);
3221
3222         case KEY_listen:
3223             LOP(OP_LISTEN,XTERM);
3224
3225         case KEY_lock:
3226             UNI(OP_LOCK);
3227
3228         case KEY_lstat:
3229             UNI(OP_LSTAT);
3230
3231         case KEY_m:
3232             s = scan_pat(s);
3233             TERM(sublex_start());
3234
3235         case KEY_map:
3236             LOP(OP_MAPSTART,XREF);
3237
3238         case KEY_mkdir:
3239             LOP(OP_MKDIR,XTERM);
3240
3241         case KEY_msgctl:
3242             LOP(OP_MSGCTL,XTERM);
3243
3244         case KEY_msgget:
3245             LOP(OP_MSGGET,XTERM);
3246
3247         case KEY_msgrcv:
3248             LOP(OP_MSGRCV,XTERM);
3249
3250         case KEY_msgsnd:
3251             LOP(OP_MSGSND,XTERM);
3252
3253         case KEY_my:
3254             in_my = TRUE;
3255             s = skipspace(s);
3256             if (isIDFIRST(*s)) {
3257                 s = scan_word(s, tokenbuf, sizeof tokenbuf, TRUE, &len);
3258                 in_my_stash = gv_stashpv(tokenbuf, FALSE);
3259                 if (!in_my_stash) {
3260                     char tmpbuf[1024];
3261                     bufptr = s;
3262                     sprintf(tmpbuf, "No such class %.1000s", tokenbuf);
3263                     yyerror(tmpbuf);
3264                 }
3265             }
3266             OPERATOR(MY);
3267
3268         case KEY_next:
3269             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3270             LOOPX(OP_NEXT);
3271
3272         case KEY_ne:
3273             Eop(OP_SNE);
3274
3275         case KEY_no:
3276             if (expect != XSTATE)
3277                 yyerror("\"no\" not allowed in expression");
3278             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3279             s = force_version(s);
3280             yylval.ival = 0;
3281             OPERATOR(USE);
3282
3283         case KEY_not:
3284             OPERATOR(NOTOP);
3285
3286         case KEY_open:
3287             s = skipspace(s);
3288             if (isIDFIRST(*s)) {
3289                 char *t;
3290                 for (d = s; isALNUM(*d); d++) ;
3291                 t = skipspace(d);
3292                 if (strchr("|&*+-=!?:.", *t))
3293                     warn("Precedence problem: open %.*s should be open(%.*s)",
3294                         d-s,s, d-s,s);
3295             }
3296             LOP(OP_OPEN,XTERM);
3297
3298         case KEY_or:
3299             yylval.ival = OP_OR;
3300             OPERATOR(OROP);
3301
3302         case KEY_ord:
3303             UNI(OP_ORD);
3304
3305         case KEY_oct:
3306             UNI(OP_OCT);
3307
3308         case KEY_opendir:
3309             LOP(OP_OPEN_DIR,XTERM);
3310
3311         case KEY_print:
3312             checkcomma(s,tokenbuf,"filehandle");
3313             LOP(OP_PRINT,XREF);
3314
3315         case KEY_printf:
3316             checkcomma(s,tokenbuf,"filehandle");
3317             LOP(OP_PRTF,XREF);
3318
3319         case KEY_prototype:
3320             UNI(OP_PROTOTYPE);
3321
3322         case KEY_push:
3323             LOP(OP_PUSH,XTERM);
3324
3325         case KEY_pop:
3326             UNI(OP_POP);
3327
3328         case KEY_pos:
3329             UNI(OP_POS);
3330
3331         case KEY_pack:
3332             LOP(OP_PACK,XTERM);
3333
3334         case KEY_package:
3335             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3336             OPERATOR(PACKAGE);
3337
3338         case KEY_pipe:
3339             LOP(OP_PIPE_OP,XTERM);
3340
3341         case KEY_q:
3342             s = scan_str(s);
3343             if (!s)
3344                 missingterm((char*)0);
3345             yylval.ival = OP_CONST;
3346             TERM(sublex_start());
3347
3348         case KEY_quotemeta:
3349             UNI(OP_QUOTEMETA);
3350
3351         case KEY_qw:
3352             s = scan_str(s);
3353             if (!s)
3354                 missingterm((char*)0);
3355             if (dowarn && SvLEN(lex_stuff)) {
3356                 d = SvPV_force(lex_stuff, len);
3357                 for (; len; --len, ++d) {
3358                     if (*d == ',') {
3359                         warn("Possible attempt to separate words with commas");
3360                         break;
3361                     }
3362                     if (*d == '#') {
3363                         warn("Possible attempt to put comments in qw() list");
3364                         break;
3365                     }
3366                 }
3367             }
3368             force_next(')');
3369             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, tokeq(lex_stuff));
3370             lex_stuff = Nullsv;
3371             force_next(THING);
3372             force_next(',');
3373             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(" ",1));
3374             force_next(THING);
3375             force_next('(');
3376             yylval.ival = OP_SPLIT;
3377             CLINE;
3378             expect = XTERM;
3379             bufptr = s;
3380             last_lop = oldbufptr;
3381             last_lop_op = OP_SPLIT;
3382             return FUNC;
3383
3384         case KEY_qq:
3385             s = scan_str(s);
3386             if (!s)
3387                 missingterm((char*)0);
3388             yylval.ival = OP_STRINGIFY;
3389             if (SvIVX(lex_stuff) == '\'')
3390                 SvIVX(lex_stuff) = 0;   /* qq'$foo' should intepolate */
3391             TERM(sublex_start());
3392
3393         case KEY_qx:
3394             s = scan_str(s);
3395             if (!s)
3396                 missingterm((char*)0);
3397             yylval.ival = OP_BACKTICK;
3398             set_csh();
3399             TERM(sublex_start());
3400
3401         case KEY_return:
3402             OLDLOP(OP_RETURN);
3403
3404         case KEY_require:
3405             *tokenbuf = '\0';
3406             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3407             if (isIDFIRST(*tokenbuf))
3408                 gv_stashpvn(tokenbuf, strlen(tokenbuf), TRUE);
3409             else if (*s == '<')
3410                 yyerror("<> should be quotes");
3411             UNI(OP_REQUIRE);
3412
3413         case KEY_reset:
3414             UNI(OP_RESET);
3415
3416         case KEY_redo:
3417             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3418             LOOPX(OP_REDO);
3419
3420         case KEY_rename:
3421             LOP(OP_RENAME,XTERM);
3422
3423         case KEY_rand:
3424             UNI(OP_RAND);
3425
3426         case KEY_rmdir:
3427             UNI(OP_RMDIR);
3428
3429         case KEY_rindex:
3430             LOP(OP_RINDEX,XTERM);
3431
3432         case KEY_read:
3433             LOP(OP_READ,XTERM);
3434
3435         case KEY_readdir:
3436             UNI(OP_READDIR);
3437
3438         case KEY_readline:
3439             set_csh();
3440             UNI(OP_READLINE);
3441
3442         case KEY_readpipe:
3443             set_csh();
3444             UNI(OP_BACKTICK);
3445
3446         case KEY_rewinddir:
3447             UNI(OP_REWINDDIR);
3448
3449         case KEY_recv:
3450             LOP(OP_RECV,XTERM);
3451
3452         case KEY_reverse:
3453             LOP(OP_REVERSE,XTERM);
3454
3455         case KEY_readlink:
3456             UNI(OP_READLINK);
3457
3458         case KEY_ref:
3459             UNI(OP_REF);
3460
3461         case KEY_s:
3462             s = scan_subst(s);
3463             if (yylval.opval)
3464                 TERM(sublex_start());
3465             else
3466                 TOKEN(1);       /* force error */
3467
3468         case KEY_chomp:
3469             UNI(OP_CHOMP);
3470
3471         case KEY_scalar:
3472             UNI(OP_SCALAR);
3473
3474         case KEY_select:
3475             LOP(OP_SELECT,XTERM);
3476
3477         case KEY_seek:
3478             LOP(OP_SEEK,XTERM);
3479
3480         case KEY_semctl:
3481             LOP(OP_SEMCTL,XTERM);
3482
3483         case KEY_semget:
3484             LOP(OP_SEMGET,XTERM);
3485
3486         case KEY_semop:
3487             LOP(OP_SEMOP,XTERM);
3488
3489         case KEY_send:
3490             LOP(OP_SEND,XTERM);
3491
3492         case KEY_setpgrp:
3493             LOP(OP_SETPGRP,XTERM);
3494
3495         case KEY_setpriority:
3496             LOP(OP_SETPRIORITY,XTERM);
3497
3498         case KEY_sethostent:
3499             UNI(OP_SHOSTENT);
3500
3501         case KEY_setnetent:
3502             UNI(OP_SNETENT);
3503
3504         case KEY_setservent:
3505             UNI(OP_SSERVENT);
3506
3507         case KEY_setprotoent:
3508             UNI(OP_SPROTOENT);
3509
3510         case KEY_setpwent:
3511             FUN0(OP_SPWENT);
3512
3513         case KEY_setgrent:
3514             FUN0(OP_SGRENT);
3515
3516         case KEY_seekdir:
3517             LOP(OP_SEEKDIR,XTERM);
3518
3519         case KEY_setsockopt:
3520             LOP(OP_SSOCKOPT,XTERM);
3521
3522         case KEY_shift:
3523             UNI(OP_SHIFT);
3524
3525         case KEY_shmctl:
3526             LOP(OP_SHMCTL,XTERM);
3527
3528         case KEY_shmget:
3529             LOP(OP_SHMGET,XTERM);
3530
3531         case KEY_shmread:
3532             LOP(OP_SHMREAD,XTERM);
3533
3534         case KEY_shmwrite:
3535             LOP(OP_SHMWRITE,XTERM);
3536
3537         case KEY_shutdown:
3538             LOP(OP_SHUTDOWN,XTERM);
3539
3540         case KEY_sin:
3541             UNI(OP_SIN);
3542
3543         case KEY_sleep:
3544             UNI(OP_SLEEP);
3545
3546         case KEY_socket:
3547             LOP(OP_SOCKET,XTERM);
3548
3549         case KEY_socketpair:
3550             LOP(OP_SOCKPAIR,XTERM);
3551
3552         case KEY_sort:
3553             checkcomma(s,tokenbuf,"subroutine name");
3554             s = skipspace(s);
3555             if (*s == ';' || *s == ')')         /* probably a close */
3556                 croak("sort is now a reserved word");
3557             expect = XTERM;
3558             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3559             LOP(OP_SORT,XREF);
3560
3561         case KEY_split:
3562             LOP(OP_SPLIT,XTERM);
3563
3564         case KEY_sprintf:
3565             LOP(OP_SPRINTF,XTERM);
3566
3567         case KEY_splice:
3568             LOP(OP_SPLICE,XTERM);
3569
3570         case KEY_sqrt:
3571             UNI(OP_SQRT);
3572
3573         case KEY_srand:
3574             UNI(OP_SRAND);
3575
3576         case KEY_stat:
3577             UNI(OP_STAT);
3578
3579         case KEY_study:
3580             sawstudy++;
3581             UNI(OP_STUDY);
3582
3583         case KEY_substr:
3584             LOP(OP_SUBSTR,XTERM);
3585
3586         case KEY_format:
3587         case KEY_sub:
3588           really_sub:
3589             s = skipspace(s);
3590
3591             if (isIDFIRST(*s) || *s == '\'' || *s == ':') {
3592                 char tmpbuf[sizeof tokenbuf];
3593                 expect = XBLOCK;
3594                 d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
3595                 if (strchr(tmpbuf, ':'))
3596                     sv_setpv(subname, tmpbuf);
3597                 else {
3598                     sv_setsv(subname,curstname);
3599                     sv_catpvn(subname,"::",2);
3600                     sv_catpvn(subname,tmpbuf,len);
3601                 }
3602                 s = force_word(s,WORD,FALSE,TRUE,TRUE);
3603                 s = skipspace(s);
3604             }
3605             else {
3606                 expect = XTERMBLOCK;
3607                 sv_setpv(subname,"?");
3608             }
3609
3610             if (tmp == KEY_format) {
3611                 s = skipspace(s);
3612                 if (*s == '=')
3613                     lex_formbrack = lex_brackets + 1;
3614                 OPERATOR(FORMAT);
3615             }
3616
3617             /* Look for a prototype */
3618             if (*s == '(') {
3619                 char *p;
3620
3621                 s = scan_str(s);
3622                 if (!s) {
3623                     if (lex_stuff)
3624                         SvREFCNT_dec(lex_stuff);
3625                     lex_stuff = Nullsv;
3626                     croak("Prototype not terminated");
3627                 }
3628                 /* strip spaces */
3629                 d = SvPVX(lex_stuff);
3630                 tmp = 0;
3631                 for (p = d; *p; ++p) {
3632                     if (!isSPACE(*p))
3633                         d[tmp++] = *p;
3634                 }
3635                 d[tmp] = '\0';
3636                 SvCUR(lex_stuff) = tmp;
3637
3638                 nexttoke++;
3639                 nextval[1] = nextval[0];
3640                 nexttype[1] = nexttype[0];
3641                 nextval[0].opval = (OP*)newSVOP(OP_CONST, 0, lex_stuff);
3642                 nexttype[0] = THING;
3643                 if (nexttoke == 1) {
3644                     lex_defer = lex_state;
3645                     lex_expect = expect;
3646                     lex_state = LEX_KNOWNEXT;
3647                 }
3648                 lex_stuff = Nullsv;
3649             }
3650
3651             if (*SvPV(subname,na) == '?') {
3652                 sv_setpv(subname,"__ANON__");
3653                 TOKEN(ANONSUB);
3654             }
3655             PREBLOCK(SUB);
3656
3657         case KEY_system:
3658             set_csh();
3659             LOP(OP_SYSTEM,XREF);
3660
3661         case KEY_symlink:
3662             LOP(OP_SYMLINK,XTERM);
3663
3664         case KEY_syscall:
3665             LOP(OP_SYSCALL,XTERM);
3666
3667         case KEY_sysopen:
3668             LOP(OP_SYSOPEN,XTERM);
3669
3670         case KEY_sysseek:
3671             LOP(OP_SYSSEEK,XTERM);
3672
3673         case KEY_sysread:
3674             LOP(OP_SYSREAD,XTERM);
3675
3676         case KEY_syswrite:
3677             LOP(OP_SYSWRITE,XTERM);
3678
3679         case KEY_tr:
3680             s = scan_trans(s);
3681             TERM(sublex_start());
3682
3683         case KEY_tell:
3684             UNI(OP_TELL);
3685
3686         case KEY_telldir:
3687             UNI(OP_TELLDIR);
3688
3689         case KEY_tie:
3690             LOP(OP_TIE,XTERM);
3691
3692         case KEY_tied:
3693             UNI(OP_TIED);
3694
3695         case KEY_time:
3696             FUN0(OP_TIME);
3697
3698         case KEY_times:
3699             FUN0(OP_TMS);
3700
3701         case KEY_truncate:
3702             LOP(OP_TRUNCATE,XTERM);
3703
3704         case KEY_uc:
3705             UNI(OP_UC);
3706
3707         case KEY_ucfirst:
3708             UNI(OP_UCFIRST);
3709
3710         case KEY_untie:
3711             UNI(OP_UNTIE);
3712
3713         case KEY_until:
3714             yylval.ival = curcop->cop_line;
3715             OPERATOR(UNTIL);
3716
3717         case KEY_unless:
3718             yylval.ival = curcop->cop_line;
3719             OPERATOR(UNLESS);
3720
3721         case KEY_unlink:
3722             LOP(OP_UNLINK,XTERM);
3723
3724         case KEY_undef:
3725             UNI(OP_UNDEF);
3726
3727         case KEY_unpack:
3728             LOP(OP_UNPACK,XTERM);
3729
3730         case KEY_utime:
3731             LOP(OP_UTIME,XTERM);
3732
3733         case KEY_umask:
3734             if (dowarn) {
3735                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
3736                 if (*d != '0' && isDIGIT(*d))
3737                     yywarn("umask: argument is missing initial 0");
3738             }
3739             UNI(OP_UMASK);
3740
3741         case KEY_unshift:
3742             LOP(OP_UNSHIFT,XTERM);
3743
3744         case KEY_use:
3745             if (expect != XSTATE)
3746                 yyerror("\"use\" not allowed in expression");
3747             s = skipspace(s);
3748             if(isDIGIT(*s)) {
3749                 s = force_version(s);
3750                 if(*s == ';' || (s = skipspace(s), *s == ';')) {
3751                     nextval[nexttoke].opval = Nullop;
3752                     force_next(WORD);
3753                 }
3754             }
3755             else {
3756                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
3757                 s = force_version(s);
3758             }
3759             yylval.ival = 1;
3760             OPERATOR(USE);
3761
3762         case KEY_values:
3763             UNI(OP_VALUES);
3764
3765         case KEY_vec:
3766             sawvec = TRUE;
3767             LOP(OP_VEC,XTERM);
3768
3769         case KEY_while:
3770             yylval.ival = curcop->cop_line;
3771             OPERATOR(WHILE);
3772
3773         case KEY_warn:
3774             hints |= HINT_BLOCK_SCOPE;
3775             LOP(OP_WARN,XTERM);
3776
3777         case KEY_wait:
3778             FUN0(OP_WAIT);
3779
3780         case KEY_waitpid:
3781             LOP(OP_WAITPID,XTERM);
3782
3783         case KEY_wantarray:
3784             FUN0(OP_WANTARRAY);
3785
3786         case KEY_write:
3787             gv_fetchpv("\f",TRUE, SVt_PV);      /* Make sure $^L is defined */
3788             UNI(OP_ENTERWRITE);
3789
3790         case KEY_x:
3791             if (expect == XOPERATOR)
3792                 Mop(OP_REPEAT);
3793             check_uni();
3794             goto just_a_word;
3795
3796         case KEY_xor:
3797             yylval.ival = OP_XOR;
3798             OPERATOR(OROP);
3799
3800         case KEY_y:
3801             s = scan_trans(s);
3802             TERM(sublex_start());
3803         }
3804     }}
3805 }
3806
3807 I32
3808 keyword(register char *d, I32 len)
3809 {
3810     switch (*d) {
3811     case '_':
3812         if (d[1] == '_') {
3813             if (strEQ(d,"__FILE__"))            return -KEY___FILE__;
3814             if (strEQ(d,"__LINE__"))            return -KEY___LINE__;
3815             if (strEQ(d,"__PACKAGE__"))         return -KEY___PACKAGE__;
3816             if (strEQ(d,"__DATA__"))            return KEY___DATA__;
3817             if (strEQ(d,"__END__"))             return KEY___END__;
3818         }
3819         break;
3820     case 'A':
3821         if (strEQ(d,"AUTOLOAD"))                return KEY_AUTOLOAD;
3822         break;
3823     case 'a':
3824         switch (len) {
3825         case 3:
3826             if (strEQ(d,"and"))                 return -KEY_and;
3827             if (strEQ(d,"abs"))                 return -KEY_abs;
3828             break;
3829         case 5:
3830             if (strEQ(d,"alarm"))               return -KEY_alarm;
3831             if (strEQ(d,"atan2"))               return -KEY_atan2;
3832             break;
3833         case 6:
3834             if (strEQ(d,"accept"))              return -KEY_accept;
3835             break;
3836         }
3837         break;
3838     case 'B':
3839         if (strEQ(d,"BEGIN"))                   return KEY_BEGIN;
3840         break;
3841     case 'b':
3842         if (strEQ(d,"bless"))                   return -KEY_bless;
3843         if (strEQ(d,"bind"))                    return -KEY_bind;
3844         if (strEQ(d,"binmode"))                 return -KEY_binmode;
3845         break;
3846     case 'C':
3847         if (strEQ(d,"CORE"))                    return -KEY_CORE;
3848         break;
3849     case 'c':
3850         switch (len) {
3851         case 3:
3852             if (strEQ(d,"cmp"))                 return -KEY_cmp;
3853             if (strEQ(d,"chr"))                 return -KEY_chr;
3854             if (strEQ(d,"cos"))                 return -KEY_cos;
3855             break;
3856         case 4:
3857             if (strEQ(d,"chop"))                return KEY_chop;
3858             break;
3859         case 5:
3860             if (strEQ(d,"close"))               return -KEY_close;
3861             if (strEQ(d,"chdir"))               return -KEY_chdir;
3862             if (strEQ(d,"chomp"))               return KEY_chomp;
3863             if (strEQ(d,"chmod"))               return -KEY_chmod;
3864             if (strEQ(d,"chown"))               return -KEY_chown;
3865             if (strEQ(d,"crypt"))               return -KEY_crypt;
3866             break;
3867         case 6:
3868             if (strEQ(d,"chroot"))              return -KEY_chroot;
3869             if (strEQ(d,"caller"))              return -KEY_caller;
3870             break;
3871         case 7:
3872             if (strEQ(d,"connect"))             return -KEY_connect;
3873             break;
3874         case 8:
3875             if (strEQ(d,"closedir"))            return -KEY_closedir;
3876             if (strEQ(d,"continue"))            return -KEY_continue;
3877             break;
3878         }
3879         break;
3880     case 'D':
3881         if (strEQ(d,"DESTROY"))                 return KEY_DESTROY;
3882         break;
3883     case 'd':
3884         switch (len) {
3885         case 2:
3886             if (strEQ(d,"do"))                  return KEY_do;
3887             break;
3888         case 3:
3889             if (strEQ(d,"die"))                 return -KEY_die;
3890             break;
3891         case 4:
3892             if (strEQ(d,"dump"))                return -KEY_dump;
3893             break;
3894         case 6:
3895             if (strEQ(d,"delete"))              return KEY_delete;
3896             break;
3897         case 7:
3898             if (strEQ(d,"defined"))             return KEY_defined;
3899             if (strEQ(d,"dbmopen"))             return -KEY_dbmopen;
3900             break;
3901         case 8:
3902             if (strEQ(d,"dbmclose"))            return -KEY_dbmclose;
3903             break;
3904         }
3905         break;
3906     case 'E':
3907         if (strEQ(d,"EQ")) { deprecate(d);      return -KEY_eq;}
3908         if (strEQ(d,"END"))                     return KEY_END;
3909         break;
3910     case 'e':
3911         switch (len) {
3912         case 2:
3913             if (strEQ(d,"eq"))                  return -KEY_eq;
3914             break;
3915         case 3:
3916             if (strEQ(d,"eof"))                 return -KEY_eof;
3917             if (strEQ(d,"exp"))                 return -KEY_exp;
3918             break;
3919         case 4:
3920             if (strEQ(d,"else"))                return KEY_else;
3921             if (strEQ(d,"exit"))                return -KEY_exit;
3922             if (strEQ(d,"eval"))                return KEY_eval;
3923             if (strEQ(d,"exec"))                return -KEY_exec;
3924             if (strEQ(d,"each"))                return KEY_each;
3925             break;
3926         case 5:
3927             if (strEQ(d,"elsif"))               return KEY_elsif;
3928             break;
3929         case 6:
3930             if (strEQ(d,"exists"))              return KEY_exists;
3931             if (strEQ(d,"elseif")) warn("elseif should be elsif");
3932             break;
3933         case 8:
3934             if (strEQ(d,"endgrent"))            return -KEY_endgrent;
3935             if (strEQ(d,"endpwent"))            return -KEY_endpwent;
3936             break;
3937         case 9:
3938             if (strEQ(d,"endnetent"))           return -KEY_endnetent;
3939             break;
3940         case 10:
3941             if (strEQ(d,"endhostent"))          return -KEY_endhostent;
3942             if (strEQ(d,"endservent"))          return -KEY_endservent;
3943             break;
3944         case 11:
3945             if (strEQ(d,"endprotoent"))         return -KEY_endprotoent;
3946             break;
3947         }
3948         break;
3949     case 'f':
3950         switch (len) {
3951         case 3:
3952             if (strEQ(d,"for"))                 return KEY_for;
3953             break;
3954         case 4:
3955             if (strEQ(d,"fork"))                return -KEY_fork;
3956             break;
3957         case 5:
3958             if (strEQ(d,"fcntl"))               return -KEY_fcntl;
3959             if (strEQ(d,"flock"))               return -KEY_flock;
3960             break;
3961         case 6:
3962             if (strEQ(d,"format"))              return KEY_format;
3963             if (strEQ(d,"fileno"))              return -KEY_fileno;
3964             break;
3965         case 7:
3966             if (strEQ(d,"foreach"))             return KEY_foreach;
3967             break;
3968         case 8:
3969             if (strEQ(d,"formline"))            return -KEY_formline;
3970             break;
3971         }
3972         break;
3973     case 'G':
3974         if (len == 2) {
3975             if (strEQ(d,"GT")) { deprecate(d);  return -KEY_gt;}
3976             if (strEQ(d,"GE")) { deprecate(d);  return -KEY_ge;}
3977         }
3978         break;
3979     case 'g':
3980         if (strnEQ(d,"get",3)) {
3981             d += 3;
3982             if (*d == 'p') {
3983                 switch (len) {
3984                 case 7:
3985                     if (strEQ(d,"ppid"))        return -KEY_getppid;
3986                     if (strEQ(d,"pgrp"))        return -KEY_getpgrp;
3987                     break;
3988                 case 8:
3989                     if (strEQ(d,"pwent"))       return -KEY_getpwent;
3990                     if (strEQ(d,"pwnam"))       return -KEY_getpwnam;
3991                     if (strEQ(d,"pwuid"))       return -KEY_getpwuid;
3992                     break;
3993                 case 11:
3994                     if (strEQ(d,"peername"))    return -KEY_getpeername;
3995                     if (strEQ(d,"protoent"))    return -KEY_getprotoent;
3996                     if (strEQ(d,"priority"))    return -KEY_getpriority;
3997                     break;
3998                 case 14:
3999                     if (strEQ(d,"protobyname")) return -KEY_getprotobyname;
4000                     break;
4001                 case 16:
4002                     if (strEQ(d,"protobynumber"))return -KEY_getprotobynumber;
4003                     break;
4004                 }
4005             }
4006             else if (*d == 'h') {
4007                 if (strEQ(d,"hostbyname"))      return -KEY_gethostbyname;
4008                 if (strEQ(d,"hostbyaddr"))      return -KEY_gethostbyaddr;
4009                 if (strEQ(d,"hostent"))         return -KEY_gethostent;
4010             }
4011             else if (*d == 'n') {
4012                 if (strEQ(d,"netbyname"))       return -KEY_getnetbyname;
4013                 if (strEQ(d,"netbyaddr"))       return -KEY_getnetbyaddr;
4014                 if (strEQ(d,"netent"))          return -KEY_getnetent;
4015             }
4016             else if (*d == 's') {
4017                 if (strEQ(d,"servbyname"))      return -KEY_getservbyname;
4018                 if (strEQ(d,"servbyport"))      return -KEY_getservbyport;
4019                 if (strEQ(d,"servent"))         return -KEY_getservent;
4020                 if (strEQ(d,"sockname"))        return -KEY_getsockname;
4021                 if (strEQ(d,"sockopt"))         return -KEY_getsockopt;
4022             }
4023             else if (*d == 'g') {
4024                 if (strEQ(d,"grent"))           return -KEY_getgrent;
4025                 if (strEQ(d,"grnam"))           return -KEY_getgrnam;
4026                 if (strEQ(d,"grgid"))           return -KEY_getgrgid;
4027             }
4028             else if (*d == 'l') {
4029                 if (strEQ(d,"login"))           return -KEY_getlogin;
4030             }
4031             else if (strEQ(d,"c"))              return -KEY_getc;
4032             break;
4033         }
4034         switch (len) {
4035         case 2:
4036             if (strEQ(d,"gt"))                  return -KEY_gt;
4037             if (strEQ(d,"ge"))                  return -KEY_ge;
4038             break;
4039         case 4:
4040             if (strEQ(d,"grep"))                return KEY_grep;
4041             if (strEQ(d,"goto"))                return KEY_goto;
4042             if (strEQ(d,"glob"))                return KEY_glob;
4043             break;
4044         case 6:
4045             if (strEQ(d,"gmtime"))              return -KEY_gmtime;
4046             break;
4047         }
4048         break;
4049     case 'h':
4050         if (strEQ(d,"hex"))                     return -KEY_hex;
4051         break;
4052     case 'I':
4053         if (strEQ(d,"INIT"))                    return KEY_INIT;
4054         break;
4055     case 'i':
4056         switch (len) {
4057         case 2:
4058             if (strEQ(d,"if"))                  return KEY_if;
4059             break;
4060         case 3:
4061             if (strEQ(d,"int"))                 return -KEY_int;
4062             break;
4063         case 5:
4064             if (strEQ(d,"index"))               return -KEY_index;
4065             if (strEQ(d,"ioctl"))               return -KEY_ioctl;
4066             break;
4067         }
4068         break;
4069     case 'j':
4070         if (strEQ(d,"join"))                    return -KEY_join;
4071         break;
4072     case 'k':
4073         if (len == 4) {
4074             if (strEQ(d,"keys"))                return KEY_keys;
4075             if (strEQ(d,"kill"))                return -KEY_kill;
4076         }
4077         break;
4078     case 'L':
4079         if (len == 2) {
4080             if (strEQ(d,"LT")) { deprecate(d);  return -KEY_lt;}
4081             if (strEQ(d,"LE")) { deprecate(d);  return -KEY_le;}
4082         }
4083         break;
4084     case 'l':
4085         switch (len) {
4086         case 2:
4087             if (strEQ(d,"lt"))                  return -KEY_lt;
4088             if (strEQ(d,"le"))                  return -KEY_le;
4089             if (strEQ(d,"lc"))                  return -KEY_lc;
4090             break;
4091         case 3:
4092             if (strEQ(d,"log"))                 return -KEY_log;
4093             break;
4094         case 4:
4095             if (strEQ(d,"last"))                return KEY_last;
4096             if (strEQ(d,"link"))                return -KEY_link;
4097             if (strEQ(d,"lock"))                return -KEY_lock;
4098             break;
4099         case 5:
4100             if (strEQ(d,"local"))               return KEY_local;
4101             if (strEQ(d,"lstat"))               return -KEY_lstat;
4102             break;
4103         case 6:
4104             if (strEQ(d,"length"))              return -KEY_length;
4105             if (strEQ(d,"listen"))              return -KEY_listen;
4106             break;
4107         case 7:
4108             if (strEQ(d,"lcfirst"))             return -KEY_lcfirst;
4109             break;
4110         case 9:
4111             if (strEQ(d,"localtime"))           return -KEY_localtime;
4112             break;
4113         }
4114         break;
4115     case 'm':
4116         switch (len) {
4117         case 1:                                 return KEY_m;
4118         case 2:
4119             if (strEQ(d,"my"))                  return KEY_my;
4120             break;
4121         case 3:
4122             if (strEQ(d,"map"))                 return KEY_map;
4123             break;
4124         case 5:
4125             if (strEQ(d,"mkdir"))               return -KEY_mkdir;
4126             break;
4127         case 6:
4128             if (strEQ(d,"msgctl"))              return -KEY_msgctl;
4129             if (strEQ(d,"msgget"))              return -KEY_msgget;
4130             if (strEQ(d,"msgrcv"))              return -KEY_msgrcv;
4131             if (strEQ(d,"msgsnd"))              return -KEY_msgsnd;
4132             break;
4133         }
4134         break;
4135     case 'N':
4136         if (strEQ(d,"NE")) { deprecate(d);      return -KEY_ne;}
4137         break;
4138     case 'n':
4139         if (strEQ(d,"next"))                    return KEY_next;
4140         if (strEQ(d,"ne"))                      return -KEY_ne;
4141         if (strEQ(d,"not"))                     return -KEY_not;
4142         if (strEQ(d,"no"))                      return KEY_no;
4143         break;
4144     case 'o':
4145         switch (len) {
4146         case 2:
4147             if (strEQ(d,"or"))                  return -KEY_or;
4148             break;
4149         case 3:
4150             if (strEQ(d,"ord"))                 return -KEY_ord;
4151             if (strEQ(d,"oct"))                 return -KEY_oct;
4152             break;
4153         case 4:
4154             if (strEQ(d,"open"))                return -KEY_open;
4155             break;
4156         case 7:
4157             if (strEQ(d,"opendir"))             return -KEY_opendir;
4158             break;
4159         }
4160         break;
4161     case 'p':
4162         switch (len) {
4163         case 3:
4164             if (strEQ(d,"pop"))                 return KEY_pop;
4165             if (strEQ(d,"pos"))                 return KEY_pos;
4166             break;
4167         case 4:
4168             if (strEQ(d,"push"))                return KEY_push;
4169             if (strEQ(d,"pack"))                return -KEY_pack;
4170             if (strEQ(d,"pipe"))                return -KEY_pipe;
4171             break;
4172         case 5:
4173             if (strEQ(d,"print"))               return KEY_print;
4174             break;
4175         case 6:
4176             if (strEQ(d,"printf"))              return KEY_printf;
4177             break;
4178         case 7:
4179             if (strEQ(d,"package"))             return KEY_package;
4180             break;
4181         case 9:
4182             if (strEQ(d,"prototype"))           return KEY_prototype;
4183         }
4184         break;
4185     case 'q':
4186         if (len <= 2) {
4187             if (strEQ(d,"q"))                   return KEY_q;
4188             if (strEQ(d,"qq"))                  return KEY_qq;
4189             if (strEQ(d,"qw"))                  return KEY_qw;
4190             if (strEQ(d,"qx"))                  return KEY_qx;
4191         }
4192         else if (strEQ(d,"quotemeta"))          return -KEY_quotemeta;
4193         break;
4194     case 'r':
4195         switch (len) {
4196         case 3:
4197             if (strEQ(d,"ref"))                 return -KEY_ref;
4198             break;
4199         case 4:
4200             if (strEQ(d,"read"))                return -KEY_read;
4201             if (strEQ(d,"rand"))                return -KEY_rand;
4202             if (strEQ(d,"recv"))                return -KEY_recv;
4203             if (strEQ(d,"redo"))                return KEY_redo;
4204             break;
4205         case 5:
4206             if (strEQ(d,"rmdir"))               return -KEY_rmdir;
4207             if (strEQ(d,"reset"))               return -KEY_reset;
4208             break;
4209         case 6:
4210             if (strEQ(d,"return"))              return KEY_return;
4211             if (strEQ(d,"rename"))              return -KEY_rename;
4212             if (strEQ(d,"rindex"))              return -KEY_rindex;
4213             break;
4214         case 7:
4215             if (strEQ(d,"require"))             return -KEY_require;
4216             if (strEQ(d,"reverse"))             return -KEY_reverse;
4217             if (strEQ(d,"readdir"))             return -KEY_readdir;
4218             break;
4219         case 8:
4220             if (strEQ(d,"readlink"))            return -KEY_readlink;
4221             if (strEQ(d,"readline"))            return -KEY_readline;
4222             if (strEQ(d,"readpipe"))            return -KEY_readpipe;
4223             break;
4224         case 9:
4225             if (strEQ(d,"rewinddir"))           return -KEY_rewinddir;
4226             break;
4227         }
4228         break;
4229     case 's':
4230         switch (d[1]) {
4231         case 0:                                 return KEY_s;
4232         case 'c':
4233             if (strEQ(d,"scalar"))              return KEY_scalar;
4234             break;
4235         case 'e':
4236             switch (len) {
4237             case 4:
4238                 if (strEQ(d,"seek"))            return -KEY_seek;
4239                 if (strEQ(d,"send"))            return -KEY_send;
4240                 break;
4241             case 5:
4242                 if (strEQ(d,"semop"))           return -KEY_semop;
4243                 break;
4244             case 6:
4245                 if (strEQ(d,"select"))          return -KEY_select;
4246                 if (strEQ(d,"semctl"))          return -KEY_semctl;
4247                 if (strEQ(d,"semget"))          return -KEY_semget;
4248                 break;
4249             case 7:
4250                 if (strEQ(d,"setpgrp"))         return -KEY_setpgrp;
4251                 if (strEQ(d,"seekdir"))         return -KEY_seekdir;
4252                 break;
4253             case 8:
4254                 if (strEQ(d,"setpwent"))        return -KEY_setpwent;
4255                 if (strEQ(d,"setgrent"))        return -KEY_setgrent;
4256                 break;
4257             case 9:
4258                 if (strEQ(d,"setnetent"))       return -KEY_setnetent;
4259                 break;
4260             case 10:
4261                 if (strEQ(d,"setsockopt"))      return -KEY_setsockopt;
4262                 if (strEQ(d,"sethostent"))      return -KEY_sethostent;
4263                 if (strEQ(d,"setservent"))      return -KEY_setservent;
4264                 break;
4265             case 11:
4266                 if (strEQ(d,"setpriority"))     return -KEY_setpriority;
4267                 if (strEQ(d,"setprotoent"))     return -KEY_setprotoent;
4268                 break;
4269             }
4270             break;
4271         case 'h':
4272             switch (len) {
4273             case 5:
4274                 if (strEQ(d,"shift"))           return KEY_shift;
4275                 break;
4276             case 6:
4277                 if (strEQ(d,"shmctl"))          return -KEY_shmctl;
4278                 if (strEQ(d,"shmget"))          return -KEY_shmget;
4279                 break;
4280             case 7:
4281                 if (strEQ(d,"shmread"))         return -KEY_shmread;
4282                 break;
4283             case 8:
4284                 if (strEQ(d,"shmwrite"))        return -KEY_shmwrite;
4285                 if (strEQ(d,"shutdown"))        return -KEY_shutdown;
4286                 break;
4287             }
4288             break;
4289         case 'i':
4290             if (strEQ(d,"sin"))                 return -KEY_sin;
4291             break;
4292         case 'l':
4293             if (strEQ(d,"sleep"))               return -KEY_sleep;
4294             break;
4295         case 'o':
4296             if (strEQ(d,"sort"))                return KEY_sort;
4297             if (strEQ(d,"socket"))              return -KEY_socket;
4298             if (strEQ(d,"socketpair"))          return -KEY_socketpair;
4299             break;
4300         case 'p':
4301             if (strEQ(d,"split"))               return KEY_split;
4302             if (strEQ(d,"sprintf"))             return -KEY_sprintf;
4303             if (strEQ(d,"splice"))              return KEY_splice;
4304             break;
4305         case 'q':
4306             if (strEQ(d,"sqrt"))                return -KEY_sqrt;
4307             break;
4308         case 'r':
4309             if (strEQ(d,"srand"))               return -KEY_srand;
4310             break;
4311         case 't':
4312             if (strEQ(d,"stat"))                return -KEY_stat;
4313             if (strEQ(d,"study"))               return KEY_study;
4314             break;
4315         case 'u':
4316             if (strEQ(d,"substr"))              return -KEY_substr;
4317             if (strEQ(d,"sub"))                 return KEY_sub;
4318             break;
4319         case 'y':
4320             switch (len) {
4321             case 6:
4322                 if (strEQ(d,"system"))          return -KEY_system;
4323                 break;
4324             case 7:
4325                 if (strEQ(d,"symlink"))         return -KEY_symlink;
4326                 if (strEQ(d,"syscall"))         return -KEY_syscall;
4327                 if (strEQ(d,"sysopen"))         return -KEY_sysopen;
4328                 if (strEQ(d,"sysread"))         return -KEY_sysread;
4329                 if (strEQ(d,"sysseek"))         return -KEY_sysseek;
4330                 break;
4331             case 8:
4332                 if (strEQ(d,"syswrite"))        return -KEY_syswrite;
4333                 break;
4334             }
4335             break;
4336         }
4337         break;
4338     case 't':
4339         switch (len) {
4340         case 2:
4341             if (strEQ(d,"tr"))                  return KEY_tr;
4342             break;
4343         case 3:
4344             if (strEQ(d,"tie"))                 return KEY_tie;
4345             break;
4346         case 4:
4347             if (strEQ(d,"tell"))                return -KEY_tell;
4348             if (strEQ(d,"tied"))                return KEY_tied;
4349             if (strEQ(d,"time"))                return -KEY_time;
4350             break;
4351         case 5:
4352             if (strEQ(d,"times"))               return -KEY_times;
4353             break;
4354         case 7:
4355             if (strEQ(d,"telldir"))             return -KEY_telldir;
4356             break;
4357         case 8:
4358             if (strEQ(d,"truncate"))            return -KEY_truncate;
4359             break;
4360         }
4361         break;
4362     case 'u':
4363         switch (len) {
4364         case 2:
4365             if (strEQ(d,"uc"))                  return -KEY_uc;
4366             break;
4367         case 3:
4368             if (strEQ(d,"use"))                 return KEY_use;
4369             break;
4370         case 5:
4371             if (strEQ(d,"undef"))               return KEY_undef;
4372             if (strEQ(d,"until"))               return KEY_until;
4373             if (strEQ(d,"untie"))               return KEY_untie;
4374             if (strEQ(d,"utime"))               return -KEY_utime;
4375             if (strEQ(d,"umask"))               return -KEY_umask;
4376             break;
4377         case 6:
4378             if (strEQ(d,"unless"))              return KEY_unless;
4379             if (strEQ(d,"unpack"))              return -KEY_unpack;
4380             if (strEQ(d,"unlink"))              return -KEY_unlink;
4381             break;
4382         case 7:
4383             if (strEQ(d,"unshift"))             return KEY_unshift;
4384             if (strEQ(d,"ucfirst"))             return -KEY_ucfirst;
4385             break;
4386         }
4387         break;
4388     case 'v':
4389         if (strEQ(d,"values"))                  return -KEY_values;
4390         if (strEQ(d,"vec"))                     return -KEY_vec;
4391         break;
4392     case 'w':
4393         switch (len) {
4394         case 4:
4395             if (strEQ(d,"warn"))                return -KEY_warn;
4396             if (strEQ(d,"wait"))                return -KEY_wait;
4397             break;
4398         case 5:
4399             if (strEQ(d,"while"))               return KEY_while;
4400             if (strEQ(d,"write"))               return -KEY_write;
4401             break;
4402         case 7:
4403             if (strEQ(d,"waitpid"))             return -KEY_waitpid;
4404             break;
4405         case 9:
4406             if (strEQ(d,"wantarray"))           return -KEY_wantarray;
4407             break;
4408         }
4409         break;
4410     case 'x':
4411         if (len == 1)                           return -KEY_x;
4412         if (strEQ(d,"xor"))                     return -KEY_xor;
4413         break;
4414     case 'y':
4415         if (len == 1)                           return KEY_y;
4416         break;
4417     case 'z':
4418         break;
4419     }
4420     return 0;
4421 }
4422
4423 STATIC void
4424 checkcomma(register char *s, char *name, char *what)
4425 {
4426     char *w;
4427
4428     if (dowarn && *s == ' ' && s[1] == '(') {   /* XXX gotta be a better way */
4429         int level = 1;
4430         for (w = s+2; *w && level; w++) {
4431             if (*w == '(')
4432                 ++level;
4433             else if (*w == ')')
4434                 --level;
4435         }
4436         if (*w)
4437             for (; *w && isSPACE(*w); w++) ;
4438         if (!*w || !strchr(";|})]oaiuw!=", *w)) /* an advisory hack only... */
4439             warn("%s (...) interpreted as function",name);
4440     }
4441     while (s < bufend && isSPACE(*s))
4442         s++;
4443     if (*s == '(')
4444         s++;
4445     while (s < bufend && isSPACE(*s))
4446         s++;
4447     if (isIDFIRST(*s)) {
4448         w = s++;
4449         while (isALNUM(*s))
4450             s++;
4451         while (s < bufend && isSPACE(*s))
4452             s++;
4453         if (*s == ',') {
4454             int kw;
4455             *s = '\0';
4456             kw = keyword(w, s - w) || perl_get_cv(w, FALSE) != 0;
4457             *s = ',';
4458             if (kw)
4459                 return;
4460             croak("No comma allowed after %s", what);
4461         }
4462     }
4463 }
4464
4465 STATIC char *
4466 scan_word(register char *s, char *dest, STRLEN destlen, int allow_package, STRLEN *slp)
4467 {
4468     register char *d = dest;
4469     register char *e = d + destlen - 3;  /* two-character token, ending NUL */
4470     for (;;) {
4471         if (d >= e)
4472             croak(ident_too_long);
4473         if (isALNUM(*s))
4474             *d++ = *s++;
4475         else if (*s == '\'' && allow_package && isIDFIRST(s[1])) {
4476             *d++ = ':';
4477             *d++ = ':';
4478             s++;
4479         }
4480         else if (*s == ':' && s[1] == ':' && allow_package && isIDFIRST(s[2])) {
4481             *d++ = *s++;
4482             *d++ = *s++;
4483         }
4484         else {
4485             *d = '\0';
4486             *slp = d - dest;
4487             return s;
4488         }
4489     }
4490 }
4491
4492 STATIC char *
4493 scan_ident(register char *s, register char *send, char *dest, STRLEN destlen, I32 ck_uni)
4494 {
4495     register char *d;
4496     register char *e;
4497     char *bracket = 0;
4498     char funny = *s++;
4499
4500     if (lex_brackets == 0)
4501         lex_fakebrack = 0;
4502     if (isSPACE(*s))
4503         s = skipspace(s);
4504     d = dest;
4505     e = d + destlen - 3;        /* two-character token, ending NUL */
4506     if (isDIGIT(*s)) {
4507         while (isDIGIT(*s)) {
4508             if (d >= e)
4509                 croak(ident_too_long);
4510             *d++ = *s++;
4511         }
4512     }
4513     else {
4514         for (;;) {
4515             if (d >= e)
4516                 croak(ident_too_long);
4517             if (isALNUM(*s))
4518                 *d++ = *s++;
4519             else if (*s == '\'' && isIDFIRST(s[1])) {
4520                 *d++ = ':';
4521                 *d++ = ':';
4522                 s++;
4523             }
4524             else if (*s == ':' && s[1] == ':') {
4525                 *d++ = *s++;
4526                 *d++ = *s++;
4527             }
4528             else
4529                 break;
4530         }
4531     }
4532     *d = '\0';
4533     d = dest;
4534     if (*d) {
4535         if (lex_state != LEX_NORMAL)
4536             lex_state = LEX_INTERPENDMAYBE;
4537         return s;
4538     }
4539     if (*s == '$' && s[1] &&
4540       (isALNUM(s[1]) || strchr("${", s[1]) || strnEQ(s+1,"::",2)) )
4541     {
4542         if (isDIGIT(s[1]) && lex_state == LEX_INTERPNORMAL)
4543             deprecate("\"$$<digit>\" to mean \"${$}<digit>\"");
4544         else
4545             return s;
4546     }
4547     if (*s == '{') {
4548         bracket = s;
4549         s++;
4550     }
4551     else if (ck_uni)
4552         check_uni();
4553     if (s < send)
4554         *d = *s++;
4555     d[1] = '\0';
4556     if (*d == '^' && *s && (isUPPER(*s) || strchr("[\\]^_?", *s))) {
4557         *d = toCTRL(*s);
4558         s++;
4559     }
4560     if (bracket) {
4561         if (isSPACE(s[-1])) {
4562             while (s < send) {
4563                 char ch = *s++;
4564                 if (ch != ' ' && ch != '\t') {
4565                     *d = ch;
4566                     break;
4567                 }
4568             }
4569         }
4570         if (isIDFIRST(*d)) {
4571             d++;
4572             while (isALNUM(*s) || *s == ':')
4573                 *d++ = *s++;
4574             *d = '\0';
4575             while (s < send && (*s == ' ' || *s == '\t')) s++;
4576             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
4577                 if (dowarn && keyword(dest, d - dest)) {
4578                     char *brack = *s == '[' ? "[...]" : "{...}";
4579                     warn("Ambiguous use of %c{%s%s} resolved to %c%s%s",
4580                         funny, dest, brack, funny, dest, brack);
4581                 }
4582                 lex_fakebrack = lex_brackets+1;
4583                 bracket++;
4584                 lex_brackstack[lex_brackets++] = XOPERATOR;
4585                 return s;
4586             }
4587         }
4588         if (*s == '}') {
4589             s++;
4590             if (lex_state == LEX_INTERPNORMAL && !lex_brackets)
4591                 lex_state = LEX_INTERPEND;
4592             if (funny == '#')
4593                 funny = '@';
4594             if (dowarn && lex_state == LEX_NORMAL &&
4595               (keyword(dest, d - dest) || perl_get_cv(dest, FALSE)))
4596                 warn("Ambiguous use of %c{%s} resolved to %c%s",
4597                     funny, dest, funny, dest);
4598         }
4599         else {
4600             s = bracket;                /* let the parser handle it */
4601             *dest = '\0';
4602         }
4603     }
4604     else if (lex_state == LEX_INTERPNORMAL && !lex_brackets && !intuit_more(s))
4605         lex_state = LEX_INTERPEND;
4606     return s;
4607 }
4608
4609 void pmflag(U16 *pmfl, int ch)
4610 {
4611     if (ch == 'i')
4612         *pmfl |= PMf_FOLD;
4613     else if (ch == 'g')
4614         *pmfl |= PMf_GLOBAL;
4615     else if (ch == 'c')
4616         *pmfl |= PMf_CONTINUE;
4617     else if (ch == 'o')
4618         *pmfl |= PMf_KEEP;
4619     else if (ch == 'm')
4620         *pmfl |= PMf_MULTILINE;
4621     else if (ch == 's')
4622         *pmfl |= PMf_SINGLELINE;
4623     else if (ch == 'x')
4624         *pmfl |= PMf_EXTENDED;
4625 }
4626
4627 STATIC char *
4628 scan_pat(char *start)
4629 {
4630     PMOP *pm;
4631     char *s;
4632
4633     s = scan_str(start);
4634     if (!s) {
4635         if (lex_stuff)
4636             SvREFCNT_dec(lex_stuff);
4637         lex_stuff = Nullsv;
4638         croak("Search pattern not terminated");
4639     }
4640
4641     pm = (PMOP*)newPMOP(OP_MATCH, 0);
4642     if (multi_open == '?')
4643         pm->op_pmflags |= PMf_ONCE;
4644     while (*s && strchr("iogcmsx", *s))
4645         pmflag(&pm->op_pmflags,*s++);
4646     pm->op_pmpermflags = pm->op_pmflags;
4647
4648     lex_op = (OP*)pm;
4649     yylval.ival = OP_MATCH;
4650     return s;
4651 }
4652
4653 STATIC char *
4654 scan_subst(char *start)
4655 {
4656     register char *s;
4657     register PMOP *pm;
4658     I32 first_start;
4659     I32 es = 0;
4660
4661     yylval.ival = OP_NULL;
4662
4663     s = scan_str(start);
4664
4665     if (!s) {
4666         if (lex_stuff)
4667             SvREFCNT_dec(lex_stuff);
4668         lex_stuff = Nullsv;
4669         croak("Substitution pattern not terminated");
4670     }
4671
4672     if (s[-1] == multi_open)
4673         s--;
4674
4675     first_start = multi_start;
4676     s = scan_str(s);
4677     if (!s) {
4678         if (lex_stuff)
4679             SvREFCNT_dec(lex_stuff);
4680         lex_stuff = Nullsv;
4681         if (lex_repl)
4682             SvREFCNT_dec(lex_repl);
4683         lex_repl = Nullsv;
4684         croak("Substitution replacement not terminated");
4685     }
4686     multi_start = first_start;  /* so whole substitution is taken together */
4687
4688     pm = (PMOP*)newPMOP(OP_SUBST, 0);
4689     while (*s && strchr("iogcmsex", *s)) {
4690         if (*s == 'e') {
4691             s++;
4692             es++;
4693         }
4694         else
4695             pmflag(&pm->op_pmflags,*s++);
4696     }
4697
4698     if (es) {
4699         SV *repl;
4700         pm->op_pmflags |= PMf_EVAL;
4701         repl = newSVpv("",0);
4702         while (es-- > 0)
4703             sv_catpv(repl, es ? "eval " : "do ");
4704         sv_catpvn(repl, "{ ", 2);
4705         sv_catsv(repl, lex_repl);
4706         sv_catpvn(repl, " };", 2);
4707         SvCOMPILED_on(repl);
4708         SvREFCNT_dec(lex_repl);
4709         lex_repl = repl;
4710     }
4711
4712     pm->op_pmpermflags = pm->op_pmflags;
4713     lex_op = (OP*)pm;
4714     yylval.ival = OP_SUBST;
4715     return s;
4716 }
4717
4718 STATIC char *
4719 scan_trans(char *start)
4720 {
4721     register char* s;
4722     OP *o;
4723     short *tbl;
4724     I32 squash;
4725     I32 Delete;
4726     I32 complement;
4727
4728     yylval.ival = OP_NULL;
4729
4730     s = scan_str(start);
4731     if (!s) {
4732         if (lex_stuff)
4733             SvREFCNT_dec(lex_stuff);
4734         lex_stuff = Nullsv;
4735         croak("Translation pattern not terminated");
4736     }
4737     if (s[-1] == multi_open)
4738         s--;
4739
4740     s = scan_str(s);
4741     if (!s) {
4742         if (lex_stuff)
4743             SvREFCNT_dec(lex_stuff);
4744         lex_stuff = Nullsv;
4745         if (lex_repl)
4746             SvREFCNT_dec(lex_repl);
4747         lex_repl = Nullsv;
4748         croak("Translation replacement not terminated");
4749     }
4750
4751     New(803,tbl,256,short);
4752     o = newPVOP(OP_TRANS, 0, (char*)tbl);
4753
4754     complement = Delete = squash = 0;
4755     while (*s == 'c' || *s == 'd' || *s == 's') {
4756         if (*s == 'c')
4757             complement = OPpTRANS_COMPLEMENT;
4758         else if (*s == 'd')
4759             Delete = OPpTRANS_DELETE;
4760         else
4761             squash = OPpTRANS_SQUASH;
4762         s++;
4763     }
4764     o->op_private = Delete|squash|complement;
4765
4766     lex_op = o;
4767     yylval.ival = OP_TRANS;
4768     return s;
4769 }
4770
4771 STATIC char *
4772 scan_heredoc(register char *s)
4773 {
4774     dTHR;
4775     SV *herewas;
4776     I32 op_type = OP_SCALAR;
4777     I32 len;
4778     SV *tmpstr;
4779     char term;
4780     register char *d;
4781     register char *e;
4782     char *peek;
4783     int outer = (rsfp && !lex_inwhat);
4784
4785     s += 2;
4786     d = tokenbuf;
4787     e = tokenbuf + sizeof tokenbuf - 1;
4788     if (!outer)
4789         *d++ = '\n';
4790     for (peek = s; *peek == ' ' || *peek == '\t'; peek++) ;
4791     if (*peek && strchr("`'\"",*peek)) {
4792         s = peek;
4793         term = *s++;
4794         s = delimcpy(d, e, s, bufend, term, &len);
4795         d += len;
4796         if (s < bufend)
4797             s++;
4798     }
4799     else {
4800         if (*s == '\\')
4801             s++, term = '\'';
4802         else
4803             term = '"';
4804         if (!isALNUM(*s))
4805             deprecate("bare << to mean <<\"\"");
4806         for (; isALNUM(*s); s++) {
4807             if (d < e)
4808                 *d++ = *s;
4809         }
4810     }
4811     if (d >= tokenbuf + sizeof tokenbuf - 1)
4812         croak("Delimiter for here document is too long");
4813     *d++ = '\n';
4814     *d = '\0';
4815     len = d - tokenbuf;
4816     d = "\n";
4817     if (outer || !(d=ninstr(s,bufend,d,d+1)))
4818         herewas = newSVpv(s,bufend-s);
4819     else
4820         s--, herewas = newSVpv(s,d-s);
4821     s += SvCUR(herewas);
4822
4823     tmpstr = NEWSV(87,80);
4824     sv_upgrade(tmpstr, SVt_PVIV);
4825     if (term == '\'') {
4826         op_type = OP_CONST;
4827         SvIVX(tmpstr) = -1;
4828     }
4829     else if (term == '`') {
4830         op_type = OP_BACKTICK;
4831         SvIVX(tmpstr) = '\\';
4832     }
4833
4834     CLINE;
4835     multi_start = curcop->cop_line;
4836     multi_open = multi_close = '<';
4837     term = *tokenbuf;
4838     if (!outer) {
4839         d = s;
4840         while (s < bufend &&
4841           (*s != term || memNE(s,tokenbuf,len)) ) {
4842             if (*s++ == '\n')
4843                 curcop->cop_line++;
4844         }
4845         if (s >= bufend) {
4846             curcop->cop_line = multi_start;
4847             missingterm(tokenbuf);
4848         }
4849         sv_setpvn(tmpstr,d+1,s-d);
4850         s += len - 1;
4851         sv_catpvn(herewas,s,bufend-s);
4852         sv_setsv(linestr,herewas);
4853         oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
4854         bufend = SvPVX(linestr) + SvCUR(linestr);
4855     }
4856     else
4857         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
4858     while (s >= bufend) {       /* multiple line string? */
4859         if (!outer ||
4860          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4861             curcop->cop_line = multi_start;
4862             missingterm(tokenbuf);
4863         }
4864         curcop->cop_line++;
4865         if (PERLDB_LINE && curstash != debstash) {
4866             SV *sv = NEWSV(88,0);
4867
4868             sv_upgrade(sv, SVt_PVMG);
4869             sv_setsv(sv,linestr);
4870             av_store(GvAV(curcop->cop_filegv),
4871               (I32)curcop->cop_line,sv);
4872         }
4873         bufend = SvPVX(linestr) + SvCUR(linestr);
4874         if (*s == term && memEQ(s,tokenbuf,len)) {
4875             s = bufend - 1;
4876             *s = ' ';
4877             sv_catsv(linestr,herewas);
4878             bufend = SvPVX(linestr) + SvCUR(linestr);
4879         }
4880         else {
4881             s = bufend;
4882             sv_catsv(tmpstr,linestr);
4883         }
4884     }
4885     multi_end = curcop->cop_line;
4886     s++;
4887     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
4888         SvLEN_set(tmpstr, SvCUR(tmpstr) + 1);
4889         Renew(SvPVX(tmpstr), SvLEN(tmpstr), char);
4890     }
4891     SvREFCNT_dec(herewas);
4892     lex_stuff = tmpstr;
4893     yylval.ival = op_type;
4894     return s;
4895 }
4896
4897 STATIC char *
4898 scan_inputsymbol(char *start)
4899 {
4900     register char *s = start;
4901     register char *d;
4902     register char *e;
4903     I32 len;
4904
4905     d = tokenbuf;
4906     e = tokenbuf + sizeof tokenbuf;
4907     s = delimcpy(d, e, s + 1, bufend, '>', &len);
4908     if (len >= sizeof tokenbuf)
4909         croak("Excessively long <> operator");
4910     if (s >= bufend)
4911         croak("Unterminated <> operator");
4912     s++;
4913     if (*d == '$' && d[1]) d++;
4914     while (*d && (isALNUM(*d) || *d == '\'' || *d == ':'))
4915         d++;
4916     if (d - tokenbuf != len) {
4917         yylval.ival = OP_GLOB;
4918         set_csh();
4919         s = scan_str(start);
4920         if (!s)
4921             croak("Glob not terminated");
4922         return s;
4923     }
4924     else {
4925         d = tokenbuf;
4926         if (!len)
4927             (void)strcpy(d,"ARGV");
4928         if (*d == '$') {
4929             I32 tmp;
4930             if ((tmp = pad_findmy(d)) != NOT_IN_PAD) {
4931                 OP *o = newOP(OP_PADSV, 0);
4932                 o->op_targ = tmp;
4933                 lex_op = (OP*)newUNOP(OP_READLINE, 0, newUNOP(OP_RV2GV, 0, o));
4934             }
4935             else {
4936                 GV *gv = gv_fetchpv(d+1,TRUE, SVt_PV);
4937                 lex_op = (OP*)newUNOP(OP_READLINE, 0,
4938                                         newUNOP(OP_RV2GV, 0,
4939                                             newUNOP(OP_RV2SV, 0,
4940                                                 newGVOP(OP_GV, 0, gv))));
4941             }
4942             yylval.ival = OP_NULL;
4943         }
4944         else {
4945             GV *gv = gv_fetchpv(d,TRUE, SVt_PVIO);
4946             lex_op = (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
4947             yylval.ival = OP_NULL;
4948         }
4949     }
4950     return s;
4951 }
4952
4953 STATIC char *
4954 scan_str(char *start)
4955 {
4956     dTHR;
4957     SV *sv;
4958     char *tmps;
4959     register char *s = start;
4960     register char term;
4961     register char *to;
4962     I32 brackets = 1;
4963
4964     if (isSPACE(*s))
4965         s = skipspace(s);
4966     CLINE;
4967     term = *s;
4968     multi_start = curcop->cop_line;
4969     multi_open = term;
4970     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4971         term = tmps[5];
4972     multi_close = term;
4973
4974     sv = NEWSV(87,80);
4975     sv_upgrade(sv, SVt_PVIV);
4976     SvIVX(sv) = term;
4977     (void)SvPOK_only(sv);               /* validate pointer */
4978     s++;
4979     for (;;) {
4980         SvGROW(sv, SvCUR(sv) + (bufend - s) + 1);
4981         to = SvPVX(sv)+SvCUR(sv);
4982         if (multi_open == multi_close) {
4983             for (; s < bufend; s++,to++) {
4984                 if (*s == '\n' && !rsfp)
4985                     curcop->cop_line++;
4986                 if (*s == '\\' && s+1 < bufend && term != '\\') {
4987                     if (s[1] == term)
4988                         s++;
4989                     else
4990                         *to++ = *s++;
4991                 }
4992                 else if (*s == term)
4993                     break;
4994                 *to = *s;
4995             }
4996         }
4997         else {
4998             for (; s < bufend; s++,to++) {
4999                 if (*s == '\n' && !rsfp)
5000                     curcop->cop_line++;
5001                 if (*s == '\\' && s+1 < bufend) {
5002                     if ((s[1] == multi_open) || (s[1] == multi_close))
5003                         s++;
5004                     else
5005                         *to++ = *s++;
5006                 }
5007                 else if (*s == multi_close && --brackets <= 0)
5008                     break;
5009                 else if (*s == multi_open)
5010                     brackets++;
5011                 *to = *s;
5012             }
5013         }
5014         *to = '\0';
5015         SvCUR_set(sv, to - SvPVX(sv));
5016
5017     if (s < bufend) break;      /* string ends on this line? */
5018
5019         if (!rsfp ||
5020          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
5021             sv_free(sv);
5022             curcop->cop_line = multi_start;
5023             return Nullch;
5024         }
5025         curcop->cop_line++;
5026         if (PERLDB_LINE && curstash != debstash) {
5027             SV *sv = NEWSV(88,0);
5028
5029             sv_upgrade(sv, SVt_PVMG);
5030             sv_setsv(sv,linestr);
5031             av_store(GvAV(curcop->cop_filegv),
5032               (I32)curcop->cop_line, sv);
5033         }
5034         bufend = SvPVX(linestr) + SvCUR(linestr);
5035     }
5036     multi_end = curcop->cop_line;
5037     s++;
5038     if (SvCUR(sv) + 5 < SvLEN(sv)) {
5039         SvLEN_set(sv, SvCUR(sv) + 1);
5040         Renew(SvPVX(sv), SvLEN(sv), char);
5041     }
5042     if (lex_stuff)
5043         lex_repl = sv;
5044     else
5045         lex_stuff = sv;
5046     return s;
5047 }
5048
5049 char *
5050 scan_num(char *start)
5051 {
5052     register char *s = start;
5053     register char *d;
5054     register char *e;
5055     I32 tryiv;
5056     double value;
5057     SV *sv;
5058     I32 floatit;
5059     char *lastub = 0;
5060     static char number_too_long[] = "Number too long";
5061
5062     switch (*s) {
5063     default:
5064         croak("panic: scan_num");
5065     case '0':
5066         {
5067             UV u;
5068             I32 shift;
5069             bool overflowed = FALSE;
5070
5071             if (s[1] == 'x') {
5072                 shift = 4;
5073                 s += 2;
5074             }
5075             else if (s[1] == '.')
5076                 goto decimal;
5077             else
5078                 shift = 3;
5079             u = 0;
5080             for (;;) {
5081                 UV n, b;
5082
5083                 switch (*s) {
5084                 default:
5085                     goto out;
5086                 case '_':
5087                     s++;
5088                     break;
5089                 case '8': case '9':
5090                     if (shift != 4)
5091                         yyerror("Illegal octal digit");
5092                     /* FALL THROUGH */
5093                 case '0': case '1': case '2': case '3': case '4':
5094                 case '5': case '6': case '7':
5095                     b = *s++ & 15;
5096                     goto digit;
5097                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
5098                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
5099                     if (shift != 4)
5100                         goto out;
5101                     b = (*s++ & 7) + 9;
5102                   digit:
5103                     n = u << shift;
5104                     if (!overflowed && (n >> shift) != u) {
5105                         warn("Integer overflow in %s number",
5106                              (shift == 4) ? "hex" : "octal");
5107                         overflowed = TRUE;
5108                     }
5109                     u = n | b;
5110                     break;
5111                 }
5112             }
5113           out:
5114             sv = NEWSV(92,0);
5115             sv_setuv(sv, u);
5116         }
5117         break;
5118     case '1': case '2': case '3': case '4': case '5':
5119     case '6': case '7': case '8': case '9': case '.':
5120       decimal:
5121         d = tokenbuf;
5122         e = tokenbuf + sizeof tokenbuf - 6; /* room for various punctuation */
5123         floatit = FALSE;
5124         while (isDIGIT(*s) || *s == '_') {
5125             if (*s == '_') {
5126                 if (dowarn && lastub && s - lastub != 3)
5127                     warn("Misplaced _ in number");
5128                 lastub = ++s;
5129             }
5130             else {
5131                 if (d >= e)
5132                     croak(number_too_long);
5133                 *d++ = *s++;
5134             }
5135         }
5136         if (dowarn && lastub && s - lastub != 3)
5137             warn("Misplaced _ in number");
5138         if (*s == '.' && s[1] != '.') {
5139             floatit = TRUE;
5140             *d++ = *s++;
5141             for (; isDIGIT(*s) || *s == '_'; s++) {
5142                 if (d >= e)
5143                     croak(number_too_long);
5144                 if (*s != '_')
5145                     *d++ = *s;
5146             }
5147         }
5148         if (*s && strchr("eE",*s) && strchr("+-0123456789",s[1])) {
5149             floatit = TRUE;
5150             s++;
5151             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
5152             if (*s == '+' || *s == '-')
5153                 *d++ = *s++;
5154             while (isDIGIT(*s)) {
5155                 if (d >= e)
5156                     croak(number_too_long);
5157                 *d++ = *s++;
5158             }
5159         }
5160         *d = '\0';
5161         sv = NEWSV(92,0);
5162         SET_NUMERIC_STANDARD();
5163         value = atof(tokenbuf);
5164         tryiv = I_V(value);
5165         if (!floatit && (double)tryiv == value)
5166             sv_setiv(sv, tryiv);
5167         else
5168             sv_setnv(sv, value);
5169         break;
5170     }
5171
5172     yylval.opval = newSVOP(OP_CONST, 0, sv);
5173
5174     return s;
5175 }
5176
5177 STATIC char *
5178 scan_formline(register char *s)
5179 {
5180     dTHR;
5181     register char *eol;
5182     register char *t;
5183     SV *stuff = newSVpv("",0);
5184     bool needargs = FALSE;
5185
5186     while (!needargs) {
5187         if (*s == '.' || *s == '}') {
5188             /*SUPPRESS 530*/
5189             for (t = s+1; *t == ' ' || *t == '\t'; t++) ;
5190             if (*t == '\n')
5191                 break;
5192         }
5193         if (in_eval && !rsfp) {
5194             eol = strchr(s,'\n');
5195             if (!eol++)
5196                 eol = bufend;
5197         }
5198         else
5199             eol = bufend = SvPVX(linestr) + SvCUR(linestr);
5200         if (*s != '#') {
5201             for (t = s; t < eol; t++) {
5202                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
5203                     needargs = FALSE;
5204                     goto enough;        /* ~~ must be first line in formline */
5205                 }
5206                 if (*t == '@' || *t == '^')
5207                     needargs = TRUE;
5208             }
5209             sv_catpvn(stuff, s, eol-s);
5210         }
5211         s = eol;
5212         if (rsfp) {
5213             s = filter_gets(linestr, rsfp, 0);
5214             oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
5215             bufend = bufptr + SvCUR(linestr);
5216             if (!s) {
5217                 s = bufptr;
5218                 yyerror("Format not terminated");
5219                 break;
5220             }
5221         }
5222         incline(s);
5223     }
5224   enough:
5225     if (SvCUR(stuff)) {
5226         expect = XTERM;
5227         if (needargs) {
5228             lex_state = LEX_NORMAL;
5229             nextval[nexttoke].ival = 0;
5230             force_next(',');
5231         }
5232         else
5233             lex_state = LEX_FORMLINE;
5234         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, stuff);
5235         force_next(THING);
5236         nextval[nexttoke].ival = OP_FORMLINE;
5237         force_next(LSTOP);
5238     }
5239     else {
5240         SvREFCNT_dec(stuff);
5241         lex_formbrack = 0;
5242         bufptr = s;
5243     }
5244     return s;
5245 }
5246
5247 STATIC void
5248 set_csh(void)
5249 {
5250 #ifdef CSH
5251     if (!cshlen)
5252         cshlen = strlen(cshname);
5253 #endif
5254 }
5255
5256 I32
5257 start_subparse(I32 is_format, U32 flags)
5258 {
5259     dTHR;
5260     I32 oldsavestack_ix = savestack_ix;
5261     CV* outsidecv = compcv;
5262     AV* comppadlist;
5263
5264     if (compcv) {
5265         assert(SvTYPE(compcv) == SVt_PVCV);
5266     }
5267     save_I32(&subline);
5268     save_item(subname);
5269     SAVEI32(padix);
5270     SAVESPTR(curpad);
5271     SAVESPTR(comppad);
5272     SAVESPTR(comppad_name);
5273     SAVESPTR(compcv);
5274     SAVEI32(comppad_name_fill);
5275     SAVEI32(min_intro_pending);
5276     SAVEI32(max_intro_pending);
5277     SAVEI32(pad_reset_pending);
5278
5279     compcv = (CV*)NEWSV(1104,0);
5280     sv_upgrade((SV *)compcv, is_format ? SVt_PVFM : SVt_PVCV);
5281     CvFLAGS(compcv) |= flags;
5282
5283     comppad = newAV();
5284     av_push(comppad, Nullsv);
5285     curpad = AvARRAY(comppad);
5286     comppad_name = newAV();
5287     comppad_name_fill = 0;
5288     min_intro_pending = 0;
5289     padix = 0;
5290     subline = curcop->cop_line;
5291 #ifdef USE_THREADS
5292     av_store(comppad_name, 0, newSVpv("@_", 2));
5293     curpad[0] = (SV*)newAV();
5294     SvPADMY_on(curpad[0]);      /* XXX Needed? */
5295     CvOWNER(compcv) = 0;
5296     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5297     MUTEX_INIT(CvMUTEXP(compcv));
5298 #endif /* USE_THREADS */
5299
5300     comppadlist = newAV();
5301     AvREAL_off(comppadlist);
5302     av_store(comppadlist, 0, (SV*)comppad_name);
5303     av_store(comppadlist, 1, (SV*)comppad);
5304
5305     CvPADLIST(compcv) = comppadlist;
5306     CvOUTSIDE(compcv) = (CV*)SvREFCNT_inc(outsidecv);
5307 #ifdef USE_THREADS
5308     CvOWNER(compcv) = 0;
5309     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5310     MUTEX_INIT(CvMUTEXP(compcv));
5311 #endif /* USE_THREADS */
5312
5313     return oldsavestack_ix;
5314 }
5315
5316 int
5317 yywarn(char *s)
5318 {
5319     dTHR;
5320     --error_count;
5321     in_eval |= 2;
5322     yyerror(s);
5323     in_eval &= ~2;
5324     return 0;
5325 }
5326
5327 int
5328 yyerror(char *s)
5329 {
5330     dTHR;
5331     char *where = NULL;
5332     char *context = NULL;
5333     int contlen = -1;
5334     SV *msg;
5335
5336     if (!yychar || (yychar == ';' && !rsfp))
5337         where = "at EOF";
5338     else if (bufptr > oldoldbufptr && bufptr - oldoldbufptr < 200 &&
5339       oldoldbufptr != oldbufptr && oldbufptr != bufptr) {
5340         while (isSPACE(*oldoldbufptr))
5341             oldoldbufptr++;
5342         context = oldoldbufptr;
5343         contlen = bufptr - oldoldbufptr;
5344     }
5345     else if (bufptr > oldbufptr && bufptr - oldbufptr < 200 &&
5346       oldbufptr != bufptr) {
5347         while (isSPACE(*oldbufptr))
5348             oldbufptr++;
5349         context = oldbufptr;
5350         contlen = bufptr - oldbufptr;
5351     }
5352     else if (yychar > 255)
5353         where = "next token ???";
5354     else if ((yychar & 127) == 127) {
5355         if (lex_state == LEX_NORMAL ||
5356            (lex_state == LEX_KNOWNEXT && lex_defer == LEX_NORMAL))
5357             where = "at end of line";
5358         else if (lex_inpat)
5359             where = "within pattern";
5360         else
5361             where = "within string";
5362     }
5363     else {
5364         SV *where_sv = sv_2mortal(newSVpv("next char ", 0));
5365         if (yychar < 32)
5366             sv_catpvf(where_sv, "^%c", toCTRL(yychar));
5367         else if (isPRINT_LC(yychar))
5368             sv_catpvf(where_sv, "%c", yychar);
5369         else
5370             sv_catpvf(where_sv, "\\%03o", yychar & 255);
5371         where = SvPVX(where_sv);
5372     }
5373     msg = sv_2mortal(newSVpv(s, 0));
5374     sv_catpvf(msg, " at %_ line %ld, ",
5375               GvSV(curcop->cop_filegv), (long)curcop->cop_line);
5376     if (context)
5377         sv_catpvf(msg, "near \"%.*s\"\n", contlen, context);
5378     else
5379         sv_catpvf(msg, "%s\n", where);
5380     if (multi_start < multi_end && (U32)(curcop->cop_line - multi_end) <= 1) {
5381         sv_catpvf(msg,
5382         "  (Might be a runaway multi-line %c%c string starting on line %ld)\n",
5383                 (int)multi_open,(int)multi_close,(long)multi_start);
5384         multi_end = 0;
5385     }
5386     if (in_eval & 2)
5387         warn("%_", msg);
5388     else if (in_eval)
5389         sv_catsv(ERRSV, msg);
5390     else
5391         PerlIO_write(PerlIO_stderr(), SvPVX(msg), SvCUR(msg));
5392     if (++error_count >= 10)
5393         croak("%_ has too many errors.\n", GvSV(curcop->cop_filegv));
5394     in_my = 0;
5395     in_my_stash = Nullhv;
5396     return 0;
5397 }
5398
5399