toke.c

   1 /*    toke.c
   2  *
   3  *    Copyright (c) 1991-1997, Larry Wall
   4  *
   5  *    You may distribute under the terms of either the GNU General Public
   6  *    License or the Artistic License, as specified in the README file.
   7  *
   8  */
   9
  10 /*
  11  *   "It all comes from here, the stench and the peril."  --Frodo
  12  */
  13
  14 #include "EXTERN.h"
  15 #include "perl.h"
  16
  17 #ifndef PERL_OBJECT
  18 static void check_uni _((void));
  19 static void  force_next _((I32 type));
  20 static char *force_version _((char *start));
  21 static char *force_word _((char *start, int token, int check_keyword, int allow_pack, int allow_tick));
  22 static SV *tokeq _((SV *sv));
  23 static char *scan_const _((char *start));
  24 static char *scan_formline _((char *s));
  25 static char *scan_heredoc _((char *s));
  26 static char *scan_ident _((char *s, char *send, char *dest, STRLEN destlen,
  27                            I32 ck_uni));
  28 static char *scan_inputsymbol _((char *start));
  29 static char *scan_pat _((char *start));
  30 static char *scan_str _((char *start));
  31 static char *scan_subst _((char *start));
  32 static char *scan_trans _((char *start));
  33 static char *scan_word _((char *s, char *dest, STRLEN destlen,
  34                           int allow_package, STRLEN *slp));
  35 static char *skipspace _((char *s));
  36 static void checkcomma _((char *s, char *name, char *what));
  37 static void force_ident _((char *s, int kind));
  38 static void incline _((char *s));
  39 static int intuit_method _((char *s, GV *gv));
  40 static int intuit_more _((char *s));
  41 static I32 lop _((I32 f, expectation x, char *s));
  42 static void missingterm _((char *s));
  43 static void no_op _((char *what, char *s));
  44 static void set_csh _((void));
  45 static I32 sublex_done _((void));
  46 static I32 sublex_push _((void));
  47 static I32 sublex_start _((void));
  48 #ifdef CRIPPLED_CC
  49 static int uni _((I32 f, char *s));
  50 #endif
  51 static char * filter_gets _((SV *sv, PerlIO *fp, STRLEN append));
  52 static void restore_rsfp _((void *f));
  53 #endif /* PERL_OBJECT */
  54
  55 static char ident_too_long[] = "Identifier too long";
  56
  57 static char *linestart;         /* beg. of most recently read line */
  58
  59 static char pending_ident;      /* pending identifier lookup */
  60
  61 static struct {
  62     I32 super_state;    /* lexer state to save */
  63     I32 sub_inwhat;     /* "lex_inwhat" to use */
  64     OP *sub_op;         /* "lex_op" to use */
  65 } sublex_info;
  66
  67 /* The following are arranged oddly so that the guard on the switch statement
  68  * can get by with a single comparison (if the compiler is smart enough).
  69  */
  70
  71 /* #define LEX_NOTPARSING               11 is done in perl.h. */
  72
  73 #define LEX_NORMAL              10
  74 #define LEX_INTERPNORMAL         9
  75 #define LEX_INTERPCASEMOD        8
  76 #define LEX_INTERPPUSH           7
  77 #define LEX_INTERPSTART          6
  78 #define LEX_INTERPEND            5
  79 #define LEX_INTERPENDMAYBE       4
  80 #define LEX_INTERPCONCAT         3
  81 #define LEX_INTERPCONST          2
  82 #define LEX_FORMLINE             1
  83 #define LEX_KNOWNEXT             0
  84
  85 #ifdef I_FCNTL
  86 #include <fcntl.h>
  87 #endif
  88 #ifdef I_SYS_FILE
  89 #include <sys/file.h>
  90 #endif
  91
  92 /* XXX If this causes problems, set i_unistd=undef in the hint file.  */
  93 #ifdef I_UNISTD
  94 #  include <unistd.h> /* Needed for execv() */
  95 #endif
  96
  97
  98 #ifdef ff_next
  99 #undef ff_next
 100 #endif
 101
 102 #include "keywords.h"
 103
 104 #ifdef CLINE
 105 #undef CLINE
 106 #endif
 107 #define CLINE (copline = (curcop->cop_line < copline ? curcop->cop_line : copline))
 108
 109 #define TOKEN(retval) return (bufptr = s,(int)retval)
 110 #define OPERATOR(retval) return (expect = XTERM,bufptr = s,(int)retval)
 111 #define AOPERATOR(retval) return ao((expect = XTERM,bufptr = s,(int)retval))
 112 #define PREBLOCK(retval) return (expect = XBLOCK,bufptr = s,(int)retval)
 113 #define PRETERMBLOCK(retval) return (expect = XTERMBLOCK,bufptr = s,(int)retval)
 114 #define PREREF(retval) return (expect = XREF,bufptr = s,(int)retval)
 115 #define TERM(retval) return (CLINE, expect = XOPERATOR,bufptr = s,(int)retval)
 116 #define LOOPX(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LOOPEX)
 117 #define FTST(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)UNIOP)
 118 #define FUN0(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC0)
 119 #define FUN1(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC1)
 120 #define BOop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITOROP))
 121 #define BAop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITANDOP))
 122 #define SHop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)SHIFTOP))
 123 #define PWop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)POWOP))
 124 #define PMop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)MATCHOP)
 125 #define Aop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)ADDOP))
 126 #define Mop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)MULOP))
 127 #define Eop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)EQOP)
 128 #define Rop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)RELOP)
 129
 130 /* This bit of chicanery makes a unary function followed by
 131  * a parenthesis into a function with one argument, highest precedence.
 132  */
 133 #define UNI(f) return(yylval.ival = f, \
 134         expect = XTERM, \
 135         bufptr = s, \
 136         last_uni = oldbufptr, \
 137         last_lop_op = f, \
 138         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 139
 140 #define UNIBRACK(f) return(yylval.ival = f, \
 141         bufptr = s, \
 142         last_uni = oldbufptr, \
 143         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 144
 145 /* grandfather return to old style */
 146 #define OLDLOP(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LSTOP)
 147
 148 STATIC int
 149 ao(int toketype)
 150 {
 151     if (*bufptr == '=') {
 152         bufptr++;
 153         if (toketype == ANDAND)
 154             yylval.ival = OP_ANDASSIGN;
 155         else if (toketype == OROR)
 156             yylval.ival = OP_ORASSIGN;
 157         toketype = ASSIGNOP;
 158     }
 159     return toketype;
 160 }
 161
 162 STATIC void
 163 no_op(char *what, char *s)
 164 {
 165     char *oldbp = bufptr;
 166     bool is_first = (oldbufptr == linestart);
 167
 168     bufptr = s;
 169     yywarn(form("%s found where operator expected", what));
 170     if (is_first)
 171         warn("\t(Missing semicolon on previous line?)\n");
 172     else if (oldoldbufptr && isIDFIRST(*oldoldbufptr)) {
 173         char *t;
 174         for (t = oldoldbufptr; *t && (isALNUM(*t) || *t == ':'); t++) ;
 175         if (t < bufptr && isSPACE(*t))
 176             warn("\t(Do you need to predeclare %.*s?)\n",
 177                 t - oldoldbufptr, oldoldbufptr);
 178
 179     }
 180     else
 181         warn("\t(Missing operator before %.*s?)\n", s - oldbp, oldbp);
 182     bufptr = oldbp;
 183 }
 184
 185 STATIC void
 186 missingterm(char *s)
 187 {
 188     char tmpbuf[3];
 189     char q;
 190     if (s) {
 191         char *nl = strrchr(s,'\n');
 192         if (nl)
 193             *nl = '\0';
 194     }
 195     else if (multi_close < 32 || multi_close == 127) {
 196         *tmpbuf = '^';
 197         tmpbuf[1] = toCTRL(multi_close);
 198         s = "\\n";
 199         tmpbuf[2] = '\0';
 200         s = tmpbuf;
 201     }
 202     else {
 203         *tmpbuf = multi_close;
 204         tmpbuf[1] = '\0';
 205         s = tmpbuf;
 206     }
 207     q = strchr(s,'"') ? '\'' : '"';
 208     croak("Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
 209 }
 210
 211 void
 212 deprecate(char *s)
 213 {
 214     if (dowarn)
 215         warn("Use of %s is deprecated", s);
 216 }
 217
 218 STATIC void
 219 depcom(void)
 220 {
 221     deprecate("comma-less variable list");
 222 }
 223
 224 #ifdef WIN32
 225
 226 STATIC I32
 227 win32_textfilter(int idx, SV *sv, int maxlen)
 228 {
 229  I32 count = FILTER_READ(idx+1, sv, maxlen);
 230  if (count > 0 && !maxlen)
 231   win32_strip_return(sv);
 232  return count;
 233 }
 234 #endif
 235
 236
 237 void
 238 lex_start(SV *line)
 239 {
 240     dTHR;
 241     char *s;
 242     STRLEN len;
 243
 244     SAVEI32(lex_dojoin);
 245     SAVEI32(lex_brackets);
 246     SAVEI32(lex_fakebrack);
 247     SAVEI32(lex_casemods);
 248     SAVEI32(lex_starts);
 249     SAVEI32(lex_state);
 250     SAVESPTR(lex_inpat);
 251     SAVEI32(lex_inwhat);
 252     SAVEI16(curcop->cop_line);
 253     SAVEPPTR(bufptr);
 254     SAVEPPTR(bufend);
 255     SAVEPPTR(oldbufptr);
 256     SAVEPPTR(oldoldbufptr);
 257     SAVEPPTR(linestart);
 258     SAVESPTR(linestr);
 259     SAVEPPTR(lex_brackstack);
 260     SAVEPPTR(lex_casestack);
 261     SAVEDESTRUCTOR(restore_rsfp, rsfp);
 262
 263     lex_state = LEX_NORMAL;
 264     lex_defer = 0;
 265     expect = XSTATE;
 266     lex_brackets = 0;
 267     lex_fakebrack = 0;
 268     New(899, lex_brackstack, 120, char);
 269     New(899, lex_casestack, 12, char);
 270     SAVEFREEPV(lex_brackstack);
 271     SAVEFREEPV(lex_casestack);
 272     lex_casemods = 0;
 273     *lex_casestack = '\0';
 274     lex_dojoin = 0;
 275     lex_starts = 0;
 276     if (lex_stuff)
 277         SvREFCNT_dec(lex_stuff);
 278     lex_stuff = Nullsv;
 279     if (lex_repl)
 280         SvREFCNT_dec(lex_repl);
 281     lex_repl = Nullsv;
 282     lex_inpat = 0;
 283     lex_inwhat = 0;
 284     linestr = line;
 285     if (SvREADONLY(linestr))
 286         linestr = sv_2mortal(newSVsv(linestr));
 287     s = SvPV(linestr, len);
 288     if (len && s[len-1] != ';') {
 289         if (!(SvFLAGS(linestr) & SVs_TEMP))
 290             linestr = sv_2mortal(newSVsv(linestr));
 291         sv_catpvn(linestr, "\n;", 2);
 292     }
 293     SvTEMP_off(linestr);
 294     oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
 295     bufend = bufptr + SvCUR(linestr);
 296     SvREFCNT_dec(rs);
 297     rs = newSVpv("\n", 1);
 298     rsfp = 0;
 299 }
 300
 301 void
 302 lex_end(void)
 303 {
 304     doextract = FALSE;
 305 }
 306
 307 STATIC void
 308 restore_rsfp(void *f)
 309 {
 310     PerlIO *fp = (PerlIO*)f;
 311
 312     if (rsfp == PerlIO_stdin())
 313         PerlIO_clearerr(rsfp);
 314     else if (rsfp && (rsfp != fp))
 315         PerlIO_close(rsfp);
 316     rsfp = fp;
 317 }
 318
 319 STATIC void
 320 incline(char *s)
 321 {
 322     dTHR;
 323     char *t;
 324     char *n;
 325     char ch;
 326     int sawline = 0;
 327
 328     curcop->cop_line++;
 329     if (*s++ != '#')
 330         return;
 331     while (*s == ' ' || *s == '\t') s++;
 332     if (strnEQ(s, "line ", 5)) {
 333         s += 5;
 334         sawline = 1;
 335     }
 336     if (!isDIGIT(*s))
 337         return;
 338     n = s;
 339     while (isDIGIT(*s))
 340         s++;
 341     while (*s == ' ' || *s == '\t')
 342         s++;
 343     if (*s == '"' && (t = strchr(s+1, '"')))
 344         s++;
 345     else {
 346         if (!sawline)
 347             return;             /* false alarm */
 348         for (t = s; !isSPACE(*t); t++) ;
 349     }
 350     ch = *t;
 351     *t = '\0';
 352     if (t - s > 0)
 353         curcop->cop_filegv = gv_fetchfile(s);
 354     else
 355         curcop->cop_filegv = gv_fetchfile(origfilename);
 356     *t = ch;
 357     curcop->cop_line = atoi(n)-1;
 358 }
 359
 360 STATIC char *
 361 skipspace(register char *s)
 362 {
 363     dTHR;
 364     if (lex_formbrack && lex_brackets <= lex_formbrack) {
 365         while (s < bufend && (*s == ' ' || *s == '\t'))
 366             s++;
 367         return s;
 368     }
 369     for (;;) {
 370         STRLEN prevlen;
 371         while (s < bufend && isSPACE(*s))
 372             s++;
 373         if (s < bufend && *s == '#') {
 374             while (s < bufend && *s != '\n')
 375                 s++;
 376             if (s < bufend)
 377                 s++;
 378         }
 379         if (s < bufend || !rsfp || lex_state != LEX_NORMAL)
 380             return s;
 381         if ((s = filter_gets(linestr, rsfp, (prevlen = SvCUR(linestr)))) == Nullch) {
 382             if (minus_n || minus_p) {
 383                 sv_setpv(linestr,minus_p ?
 384                          ";}continue{print or die qq(-p destination: $!\\n)" :
 385                          "");
 386                 sv_catpv(linestr,";}");
 387                 minus_n = minus_p = 0;
 388             }
 389             else
 390                 sv_setpv(linestr,";");
 391             oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
 392             bufend = SvPVX(linestr) + SvCUR(linestr);
 393             if (preprocess && !in_eval)
 394                 (void)PerlProc_pclose(rsfp);
 395             else if ((PerlIO*)rsfp == PerlIO_stdin())
 396                 PerlIO_clearerr(rsfp);
 397             else
 398                 (void)PerlIO_close(rsfp);
 399             if (e_fp == rsfp)
 400                 e_fp = Nullfp;
 401             rsfp = Nullfp;
 402             return s;
 403         }
 404         linestart = bufptr = s + prevlen;
 405         bufend = s + SvCUR(linestr);
 406         s = bufptr;
 407         incline(s);
 408         if (PERLDB_LINE && curstash != debstash) {
 409             SV *sv = NEWSV(85,0);
 410
 411             sv_upgrade(sv, SVt_PVMG);
 412             sv_setpvn(sv,bufptr,bufend-bufptr);
 413             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
 414         }
 415     }
 416 }
 417
 418 STATIC void
 419 check_uni(void) {
 420     char *s;
 421     char ch;
 422     char *t;
 423
 424     if (oldoldbufptr != last_uni)
 425         return;
 426     while (isSPACE(*last_uni))
 427         last_uni++;
 428     for (s = last_uni; isALNUM(*s) || *s == '-'; s++) ;
 429     if ((t = strchr(s, '(')) && t < bufptr)
 430         return;
 431     ch = *s;
 432     *s = '\0';
 433     warn("Warning: Use of \"%s\" without parens is ambiguous", last_uni);
 434     *s = ch;
 435 }
 436
 437 #ifdef CRIPPLED_CC
 438
 439 #undef UNI
 440 #define UNI(f) return uni(f,s)
 441
 442 STATIC int
 443 uni(I32 f, char *s)
 444 {
 445     yylval.ival = f;
 446     expect = XTERM;
 447     bufptr = s;
 448     last_uni = oldbufptr;
 449     last_lop_op = f;
 450     if (*s == '(')
 451         return FUNC1;
 452     s = skipspace(s);
 453     if (*s == '(')
 454         return FUNC1;
 455     else
 456         return UNIOP;
 457 }
 458
 459 #endif /* CRIPPLED_CC */
 460
 461 #define LOP(f,x) return lop(f,x,s)
 462
 463 STATIC I32
 464 lop
 465 #ifdef CAN_PROTOTYPE
 466    (I32 f, expectation x, char *s)
 467 #else
 468    (f,x,s)
 469 I32 f;
 470 expectation x;
 471 char *s;
 472 #endif /* CAN_PROTOTYPE */
 473 {
 474     dTHR;
 475     yylval.ival = f;
 476     CLINE;
 477     expect = x;
 478     bufptr = s;
 479     last_lop = oldbufptr;
 480     last_lop_op = f;
 481     if (nexttoke)
 482         return LSTOP;
 483     if (*s == '(')
 484         return FUNC;
 485     s = skipspace(s);
 486     if (*s == '(')
 487         return FUNC;
 488     else
 489         return LSTOP;
 490 }
 491
 492 STATIC void
 493 force_next(I32 type)
 494 {
 495     nexttype[nexttoke] = type;
 496     nexttoke++;
 497     if (lex_state != LEX_KNOWNEXT) {
 498         lex_defer = lex_state;
 499         lex_expect = expect;
 500         lex_state = LEX_KNOWNEXT;
 501     }
 502 }
 503
 504 STATIC char *
 505 force_word(register char *start, int token, int check_keyword, int allow_pack, int allow_initial_tick)
 506 {
 507     register char *s;
 508     STRLEN len;
 509
 510     start = skipspace(start);
 511     s = start;
 512     if (isIDFIRST(*s) ||
 513         (allow_pack && *s == ':') ||
 514         (allow_initial_tick && *s == '\'') )
 515     {
 516         s = scan_word(s, tokenbuf, sizeof tokenbuf, allow_pack, &len);
 517         if (check_keyword && keyword(tokenbuf, len))
 518             return start;
 519         if (token == METHOD) {
 520             s = skipspace(s);
 521             if (*s == '(')
 522                 expect = XTERM;
 523             else {
 524                 expect = XOPERATOR;
 525                 force_next(')');
 526                 force_next('(');
 527             }
 528         }
 529         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST,0, newSVpv(tokenbuf,0));
 530         nextval[nexttoke].opval->op_private |= OPpCONST_BARE;
 531         force_next(token);
 532     }
 533     return s;
 534 }
 535
 536 STATIC void
 537 force_ident(register char *s, int kind)
 538 {
 539     if (s && *s) {
 540         OP* o = (OP*)newSVOP(OP_CONST, 0, newSVpv(s,0));
 541         nextval[nexttoke].opval = o;
 542         force_next(WORD);
 543         if (kind) {
 544             dTHR;               /* just for in_eval */
 545             o->op_private = OPpCONST_ENTERED;
 546             /* XXX see note in pp_entereval() for why we forgo typo
 547                warnings if the symbol must be introduced in an eval.
 548                GSAR 96-10-12 */
 549             gv_fetchpv(s, in_eval ? GV_ADDMULTI : TRUE,
 550                 kind == '$' ? SVt_PV :
 551                 kind == '@' ? SVt_PVAV :
 552                 kind == '%' ? SVt_PVHV :
 553                               SVt_PVGV
 554                 );
 555         }
 556     }
 557 }
 558
 559 STATIC char *
 560 force_version(char *s)
 561 {
 562     OP *version = Nullop;
 563
 564     s = skipspace(s);
 565
 566     /* default VERSION number -- GBARR */
 567
 568     if(isDIGIT(*s)) {
 569         char *d;
 570         int c;
 571         for( d=s, c = 1; isDIGIT(*d) || *d == '_' || (*d == '.' && c--); d++);
 572         if((*d == ';' || isSPACE(*d)) && *(skipspace(d)) != ',') {
 573             s = scan_num(s);
 574             /* real VERSION number -- GBARR */
 575             version = yylval.opval;
 576         }
 577     }
 578
 579     /* NOTE: The parser sees the package name and the VERSION swapped */
 580     nextval[nexttoke].opval = version;
 581     force_next(WORD);
 582
 583     return (s);
 584 }
 585
 586 STATIC SV *
 587 tokeq(SV *sv)
 588 {
 589     register char *s;
 590     register char *send;
 591     register char *d;
 592     STRLEN len;
 593
 594     if (!SvLEN(sv))
 595         return sv;
 596
 597     s = SvPV_force(sv, len);
 598     if (SvIVX(sv) == -1)
 599         return sv;
 600     send = s + len;
 601     while (s < send && *s != '\\')
 602         s++;
 603     if (s == send)
 604         return sv;
 605     d = s;
 606     while (s < send) {
 607         if (*s == '\\') {
 608             if (s + 1 < send && (s[1] == '\\'))
 609                 s++;            /* all that, just for this */
 610         }
 611         *d++ = *s++;
 612     }
 613     *d = '\0';
 614     SvCUR_set(sv, d - SvPVX(sv));
 615
 616     return sv;
 617 }
 618
 619 STATIC I32
 620 sublex_start(void)
 621 {
 622     register I32 op_type = yylval.ival;
 623
 624     if (op_type == OP_NULL) {
 625         yylval.opval = lex_op;
 626         lex_op = Nullop;
 627         return THING;
 628     }
 629     if (op_type == OP_CONST || op_type == OP_READLINE) {
 630         SV *sv = tokeq(lex_stuff);
 631         STRLEN len;
 632         char *p = SvPV(sv, len);
 633         yylval.opval = (OP*)newSVOP(op_type, 0, newSVpv(p, len));
 634         SvREFCNT_dec(sv);
 635         lex_stuff = Nullsv;
 636         return THING;
 637     }
 638
 639     sublex_info.super_state = lex_state;
 640     sublex_info.sub_inwhat = op_type;
 641     sublex_info.sub_op = lex_op;
 642     lex_state = LEX_INTERPPUSH;
 643
 644     expect = XTERM;
 645     if (lex_op) {
 646         yylval.opval = lex_op;
 647         lex_op = Nullop;
 648         return PMFUNC;
 649     }
 650     else
 651         return FUNC;
 652 }
 653
 654 STATIC I32
 655 sublex_push(void)
 656 {
 657     dTHR;
 658     push_scope();
 659
 660     lex_state = sublex_info.super_state;
 661     SAVEI32(lex_dojoin);
 662     SAVEI32(lex_brackets);
 663     SAVEI32(lex_fakebrack);
 664     SAVEI32(lex_casemods);
 665     SAVEI32(lex_starts);
 666     SAVEI32(lex_state);
 667     SAVESPTR(lex_inpat);
 668     SAVEI32(lex_inwhat);
 669     SAVEI16(curcop->cop_line);
 670     SAVEPPTR(bufptr);
 671     SAVEPPTR(oldbufptr);
 672     SAVEPPTR(oldoldbufptr);
 673     SAVEPPTR(linestart);
 674     SAVESPTR(linestr);
 675     SAVEPPTR(lex_brackstack);
 676     SAVEPPTR(lex_casestack);
 677
 678     linestr = lex_stuff;
 679     lex_stuff = Nullsv;
 680
 681     bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 682     bufend += SvCUR(linestr);
 683     SAVEFREESV(linestr);
 684
 685     lex_dojoin = FALSE;
 686     lex_brackets = 0;
 687     lex_fakebrack = 0;
 688     New(899, lex_brackstack, 120, char);
 689     New(899, lex_casestack, 12, char);
 690     SAVEFREEPV(lex_brackstack);
 691     SAVEFREEPV(lex_casestack);
 692     lex_casemods = 0;
 693     *lex_casestack = '\0';
 694     lex_starts = 0;
 695     lex_state = LEX_INTERPCONCAT;
 696     curcop->cop_line = multi_start;
 697
 698     lex_inwhat = sublex_info.sub_inwhat;
 699     if (lex_inwhat == OP_MATCH || lex_inwhat == OP_SUBST)
 700         lex_inpat = sublex_info.sub_op;
 701     else
 702         lex_inpat = Nullop;
 703
 704     return '(';
 705 }
 706
 707 STATIC I32
 708 sublex_done(void)
 709 {
 710     if (!lex_starts++) {
 711         expect = XOPERATOR;
 712         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv("",0));
 713         return THING;
 714     }
 715
 716     if (lex_casemods) {         /* oops, we've got some unbalanced parens */
 717         lex_state = LEX_INTERPCASEMOD;
 718         return yylex();
 719     }
 720
 721     /* Is there a right-hand side to take care of? */
 722     if (lex_repl && (lex_inwhat == OP_SUBST || lex_inwhat == OP_TRANS)) {
 723         linestr = lex_repl;
 724         lex_inpat = 0;
 725         bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 726         bufend += SvCUR(linestr);
 727         SAVEFREESV(linestr);
 728         lex_dojoin = FALSE;
 729         lex_brackets = 0;
 730         lex_fakebrack = 0;
 731         lex_casemods = 0;
 732         *lex_casestack = '\0';
 733         lex_starts = 0;
 734         if (SvCOMPILED(lex_repl)) {
 735             lex_state = LEX_INTERPNORMAL;
 736             lex_starts++;
 737         }
 738         else
 739             lex_state = LEX_INTERPCONCAT;
 740         lex_repl = Nullsv;
 741         return ',';
 742     }
 743     else {
 744         pop_scope();
 745         bufend = SvPVX(linestr);
 746         bufend += SvCUR(linestr);
 747         expect = XOPERATOR;
 748         return ')';
 749     }
 750 }
 751
 752 STATIC char *
 753 scan_const(char *start)
 754 {
 755     register char *send = bufend;
 756     SV *sv = NEWSV(93, send - start);
 757     register char *s = start;
 758     register char *d = SvPVX(sv);
 759     bool dorange = FALSE;
 760     I32 len;
 761     char *leaveit =
 762         lex_inpat
 763             ? "\\.^$@AGZdDwWsSbB+*?|()-nrtfeaxc0123456789[{]} \t\n\r\f\v#"
 764             : (lex_inwhat & OP_TRANS)
 765                 ? ""
 766                 : "";
 767
 768     while (s < send || dorange) {
 769         if (lex_inwhat == OP_TRANS) {
 770             if (dorange) {
 771                 I32 i;
 772                 I32 max;
 773                 i = d - SvPVX(sv);
 774                 SvGROW(sv, SvLEN(sv) + 256);
 775                 d = SvPVX(sv) + i;
 776                 d -= 2;
 777                 max = (U8)d[1];
 778                 for (i = (U8)*d; i <= max; i++)
 779                     *d++ = i;
 780                 dorange = FALSE;
 781                 continue;
 782             }
 783             else if (*s == '-' && s+1 < send  && s != start) {
 784                 dorange = TRUE;
 785                 s++;
 786             }
 787         }
 788         else if (*s == '(' && lex_inpat && s[1] == '?' && s[2] == '#') {
 789             while (s < send && *s != ')')
 790                 *d++ = *s++;
 791         }
 792         else if (*s == '#' && lex_inpat &&
 793           ((PMOP*)lex_inpat)->op_pmflags & PMf_EXTENDED) {
 794             while (s+1 < send && *s != '\n')
 795                 *d++ = *s++;
 796         }
 797         else if (*s == '@' && s[1] && (isALNUM(s[1]) || strchr(":'{$", s[1])))
 798             break;
 799         else if (*s == '$') {
 800             if (!lex_inpat)     /* not a regexp, so $ must be var */
 801                 break;
 802             if (s + 1 < send && !strchr("()| \n\t", s[1]))
 803                 break;          /* in regexp, $ might be tail anchor */
 804         }
 805         if (*s == '\\' && s+1 < send) {
 806             s++;
 807             if (*s && strchr(leaveit, *s)) {
 808                 *d++ = '\\';
 809                 *d++ = *s++;
 810                 continue;
 811             }
 812             if (lex_inwhat == OP_SUBST && !lex_inpat &&
 813                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
 814             {
 815                 if (dowarn)
 816                     warn("\\%c better written as $%c", *s, *s);
 817                 *--s = '$';
 818                 break;
 819             }
 820             if (lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
 821                 --s;
 822                 break;
 823             }
 824             switch (*s) {
 825             case '-':
 826                 if (lex_inwhat == OP_TRANS) {
 827                     *d++ = *s++;
 828                     continue;
 829                 }
 830                 /* FALL THROUGH */
 831             default:
 832                 *d++ = *s++;
 833                 continue;
 834             case '0': case '1': case '2': case '3':
 835             case '4': case '5': case '6': case '7':
 836                 *d++ = scan_oct(s, 3, &len);
 837                 s += len;
 838                 continue;
 839             case 'x':
 840                 *d++ = scan_hex(++s, 2, &len);
 841                 s += len;
 842                 continue;
 843             case 'c':
 844                 s++;
 845                 len = *s++;
 846                 *d++ = toCTRL(len);
 847                 continue;
 848             case 'b':
 849                 *d++ = '\b';
 850                 break;
 851             case 'n':
 852                 *d++ = '\n';
 853                 break;
 854             case 'r':
 855                 *d++ = '\r';
 856                 break;
 857             case 'f':
 858                 *d++ = '\f';
 859                 break;
 860             case 't':
 861                 *d++ = '\t';
 862                 break;
 863             case 'e':
 864                 *d++ = '\033';
 865                 break;
 866             case 'a':
 867                 *d++ = '\007';
 868                 break;
 869             }
 870             s++;
 871             continue;
 872         }
 873         *d++ = *s++;
 874     }
 875     *d = '\0';
 876     SvCUR_set(sv, d - SvPVX(sv));
 877     SvPOK_on(sv);
 878
 879     if (SvCUR(sv) + 5 < SvLEN(sv)) {
 880         SvLEN_set(sv, SvCUR(sv) + 1);
 881         Renew(SvPVX(sv), SvLEN(sv), char);
 882     }
 883     if (s > bufptr)
 884         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
 885     else
 886         SvREFCNT_dec(sv);
 887     return s;
 888 }
 889
 890 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
 891 STATIC int
 892 intuit_more(register char *s)
 893 {
 894     if (lex_brackets)
 895         return TRUE;
 896     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
 897         return TRUE;
 898     if (*s != '{' && *s != '[')
 899         return FALSE;
 900     if (!lex_inpat)
 901         return TRUE;
 902
 903     /* In a pattern, so maybe we have {n,m}. */
 904     if (*s == '{') {
 905         s++;
 906         if (!isDIGIT(*s))
 907             return TRUE;
 908         while (isDIGIT(*s))
 909             s++;
 910         if (*s == ',')
 911             s++;
 912         while (isDIGIT(*s))
 913             s++;
 914         if (*s == '}')
 915             return FALSE;
 916         return TRUE;
 917
 918     }
 919
 920     /* On the other hand, maybe we have a character class */
 921
 922     s++;
 923     if (*s == ']' || *s == '^')
 924         return FALSE;
 925     else {
 926         int weight = 2;         /* let's weigh the evidence */
 927         char seen[256];
 928         unsigned char un_char = 0, last_un_char;
 929         char *send = strchr(s,']');
 930         char tmpbuf[sizeof tokenbuf * 4];
 931
 932         if (!send)              /* has to be an expression */
 933             return TRUE;
 934
 935         Zero(seen,256,char);
 936         if (*s == '$')
 937             weight -= 3;
 938         else if (isDIGIT(*s)) {
 939             if (s[1] != ']') {
 940                 if (isDIGIT(s[1]) && s[2] == ']')
 941                     weight -= 10;
 942             }
 943             else
 944                 weight -= 100;
 945         }
 946         for (; s < send; s++) {
 947             last_un_char = un_char;
 948             un_char = (unsigned char)*s;
 949             switch (*s) {
 950             case '@':
 951             case '&':
 952             case '$':
 953                 weight -= seen[un_char] * 10;
 954                 if (isALNUM(s[1])) {
 955                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
 956                     if ((int)strlen(tmpbuf) > 1 && gv_fetchpv(tmpbuf,FALSE, SVt_PV))
 957                         weight -= 100;
 958                     else
 959                         weight -= 10;
 960                 }
 961                 else if (*s == '$' && s[1] &&
 962                   strchr("[#!%*<>()-=",s[1])) {
 963                     if (/*{*/ strchr("])} =",s[2]))
 964                         weight -= 10;
 965                     else
 966                         weight -= 1;
 967                 }
 968                 break;
 969             case '\\':
 970                 un_char = 254;
 971                 if (s[1]) {
 972                     if (strchr("wds]",s[1]))
 973                         weight += 100;
 974                     else if (seen['\''] || seen['"'])
 975                         weight += 1;
 976                     else if (strchr("rnftbxcav",s[1]))
 977                         weight += 40;
 978                     else if (isDIGIT(s[1])) {
 979                         weight += 40;
 980                         while (s[1] && isDIGIT(s[1]))
 981                             s++;
 982                     }
 983                 }
 984                 else
 985                     weight += 100;
 986                 break;
 987             case '-':
 988                 if (s[1] == '\\')
 989                     weight += 50;
 990                 if (strchr("aA01! ",last_un_char))
 991                     weight += 30;
 992                 if (strchr("zZ79~",s[1]))
 993                     weight += 30;
 994                 break;
 995             default:
 996                 if (!isALNUM(last_un_char) && !strchr("$@&",last_un_char) &&
 997                         isALPHA(*s) && s[1] && isALPHA(s[1])) {
 998                     char *d = tmpbuf;
 999                     while (isALPHA(*s))
1000                         *d++ = *s++;
1001                     *d = '\0';
1002                     if (keyword(tmpbuf, d - tmpbuf))
1003                         weight -= 150;
1004                 }
1005                 if (un_char == last_un_char + 1)
1006                     weight += 5;
1007                 weight -= seen[un_char];
1008                 break;
1009             }
1010             seen[un_char]++;
1011         }
1012         if (weight >= 0)        /* probably a character class */
1013             return FALSE;
1014     }
1015
1016     return TRUE;
1017 }
1018
1019 STATIC int
1020 intuit_method(char *start, GV *gv)
1021 {
1022     char *s = start + (*start == '$');
1023     char tmpbuf[sizeof tokenbuf];
1024     STRLEN len;
1025     GV* indirgv;
1026
1027     if (gv) {
1028         if (GvIO(gv))
1029             return 0;
1030         if (!GvCVu(gv))
1031             gv = 0;
1032     }
1033     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
1034     if (*start == '$') {
1035         if (gv || last_lop_op == OP_PRINT || isUPPER(*tokenbuf))
1036             return 0;
1037         s = skipspace(s);
1038         bufptr = start;
1039         expect = XREF;
1040         return *s == '(' ? FUNCMETH : METHOD;
1041     }
1042     if (!keyword(tmpbuf, len)) {
1043         indirgv = gv_fetchpv(tmpbuf,FALSE, SVt_PVCV);
1044         if (indirgv && GvCVu(indirgv))
1045             return 0;
1046         /* filehandle or package name makes it a method */
1047         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
1048             s = skipspace(s);
1049             if ((bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
1050                 return 0;       /* no assumptions -- "=>" quotes bearword */
1051             nextval[nexttoke].opval =
1052                 (OP*)newSVOP(OP_CONST, 0,
1053                             newSVpv(tmpbuf,0));
1054             nextval[nexttoke].opval->op_private =
1055                 OPpCONST_BARE;
1056             expect = XTERM;
1057             force_next(WORD);
1058             bufptr = s;
1059             return *s == '(' ? FUNCMETH : METHOD;
1060         }
1061     }
1062     return 0;
1063 }
1064
1065 STATIC char*
1066 incl_perldb(void)
1067 {
1068     if (perldb) {
1069         char *pdb = PerlEnv_getenv("PERL5DB");
1070
1071         if (pdb)
1072             return pdb;
1073         SETERRNO(0,SS$_NORMAL);
1074         return "BEGIN { require 'perl5db.pl' }";
1075     }
1076     return "";
1077 }
1078
1079
1080 /* Encoded script support. filter_add() effectively inserts a
1081  * 'pre-processing' function into the current source input stream.
1082  * Note that the filter function only applies to the current source file
1083  * (e.g., it will not affect files 'require'd or 'use'd by this one).
1084  *
1085  * The datasv parameter (which may be NULL) can be used to pass
1086  * private data to this instance of the filter. The filter function
1087  * can recover the SV using the FILTER_DATA macro and use it to
1088  * store private buffers and state information.
1089  *
1090  * The supplied datasv parameter is upgraded to a PVIO type
1091  * and the IoDIRP field is used to store the function pointer.
1092  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
1093  * private use must be set using malloc'd pointers.
1094  */
1095 static int filter_debug = 0;
1096
1097 SV *
1098 filter_add(filter_t funcp, SV *datasv)
1099 {
1100     if (!funcp){ /* temporary handy debugging hack to be deleted */
1101         filter_debug = atoi((char*)datasv);
1102         return NULL;
1103     }
1104     if (!rsfp_filters)
1105         rsfp_filters = newAV();
1106     if (!datasv)
1107         datasv = newSV(0);
1108     if (!SvUPGRADE(datasv, SVt_PVIO))
1109         die("Can't upgrade filter_add data to SVt_PVIO");
1110     IoDIRP(datasv) = (DIR*)funcp; /* stash funcp into spare field */
1111     if (filter_debug)
1112         warn("filter_add func %p (%s)", funcp, SvPV(datasv,na));
1113     av_unshift(rsfp_filters, 1);
1114     av_store(rsfp_filters, 0, datasv) ;
1115     return(datasv);
1116 }
1117
1118
1119 /* Delete most recently added instance of this filter function. */
1120 void
1121 filter_del(filter_t funcp)
1122 {
1123     if (filter_debug)
1124         warn("filter_del func %p", funcp);
1125     if (!rsfp_filters || AvFILLp(rsfp_filters)<0)
1126         return;
1127     /* if filter is on top of stack (usual case) just pop it off */
1128     if (IoDIRP(FILTER_DATA(AvFILLp(rsfp_filters))) == (void*)funcp){
1129         sv_free(av_pop(rsfp_filters));
1130
1131         return;
1132     }
1133     /* we need to search for the correct entry and clear it     */
1134     die("filter_del can only delete in reverse order (currently)");
1135 }
1136
1137
1138 /* Invoke the n'th filter function for the current rsfp.         */
1139 I32
1140 filter_read(int idx, SV *buf_sv, int maxlen)
1141
1142
1143                         /* 0 = read one text line */
1144 {
1145     filter_t funcp;
1146     SV *datasv = NULL;
1147
1148     if (!rsfp_filters)
1149         return -1;
1150     if (idx > AvFILLp(rsfp_filters)){       /* Any more filters?        */
1151         /* Provide a default input filter to make life easy.    */
1152         /* Note that we append to the line. This is handy.      */
1153         if (filter_debug)
1154             warn("filter_read %d: from rsfp\n", idx);
1155         if (maxlen) {
1156             /* Want a block */
1157             int len ;
1158             int old_len = SvCUR(buf_sv) ;
1159
1160             /* ensure buf_sv is large enough */
1161             SvGROW(buf_sv, old_len + maxlen) ;
1162             if ((len = PerlIO_read(rsfp, SvPVX(buf_sv) + old_len, maxlen)) <= 0){
1163                 if (PerlIO_error(rsfp))
1164                     return -1;          /* error */
1165                 else
1166                     return 0 ;          /* end of file */
1167             }
1168             SvCUR_set(buf_sv, old_len + len) ;
1169         } else {
1170             /* Want a line */
1171             if (sv_gets(buf_sv, rsfp, SvCUR(buf_sv)) == NULL) {
1172                 if (PerlIO_error(rsfp))
1173                     return -1;          /* error */
1174                 else
1175                     return 0 ;          /* end of file */
1176             }
1177
1178         }
1179         return SvCUR(buf_sv);
1180     }
1181     /* Skip this filter slot if filter has been deleted */
1182     if ( (datasv = FILTER_DATA(idx)) == &sv_undef){
1183         if (filter_debug)
1184             warn("filter_read %d: skipped (filter deleted)\n", idx);
1185         return FILTER_READ(idx+1, buf_sv, maxlen); /* recurse */
1186     }
1187     /* Get function pointer hidden within datasv        */
1188     funcp = (filter_t)IoDIRP(datasv);
1189     if (filter_debug)
1190         warn("filter_read %d: via function %p (%s)\n",
1191                 idx, funcp, SvPV(datasv,na));
1192     /* Call function. The function is expected to       */
1193     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
1194     /* Return: <0:error, =0:eof, >0:not eof             */
1195     return (*funcp)(idx, buf_sv, maxlen);
1196 }
1197
1198
1199 STATIC char *
1200 filter_gets(register SV *sv, register PerlIO *fp, STRLEN append)
1201 {
1202 #ifdef WIN32FILTER
1203     if (!rsfp_filters) {
1204         filter_add(win32_textfilter,NULL);
1205     }
1206 #endif
1207     if (rsfp_filters) {
1208
1209         if (!append)
1210             SvCUR_set(sv, 0);   /* start with empty line        */
1211         if (FILTER_READ(0, sv, 0) > 0)
1212             return ( SvPVX(sv) ) ;
1213         else
1214             return Nullch ;
1215     }
1216     else
1217         return (sv_gets(sv, fp, append));
1218 }
1219
1220
1221 #ifdef DEBUGGING
1222     static char* exp_name[] =
1223         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "TERMBLOCK" };
1224 #endif
1225
1226 EXT int yychar;         /* last token */
1227
1228 int
1229 yylex(void)
1230 {
1231     dTHR;
1232     register char *s;
1233     register char *d;
1234     register I32 tmp;
1235     STRLEN len;
1236     GV *gv = Nullgv;
1237     GV **gvp = 0;
1238
1239     if (pending_ident) {
1240         char pit = pending_ident;
1241         pending_ident = 0;
1242
1243         if (in_my) {
1244             if (strchr(tokenbuf,':'))
1245                 croak(no_myglob,tokenbuf);
1246             yylval.opval = newOP(OP_PADANY, 0);
1247             yylval.opval->op_targ = pad_allocmy(tokenbuf);
1248             return PRIVATEREF;
1249         }
1250
1251         if (!strchr(tokenbuf,':')) {
1252 #ifdef USE_THREADS
1253             /* Check for single character per-thread SVs */
1254             if (tokenbuf[0] == '$' && tokenbuf[2] == '\0'
1255                 && !isALPHA(tokenbuf[1]) /* Rule out obvious non-threadsvs */
1256                 && (tmp = find_threadsv(&tokenbuf[1])) != NOT_IN_PAD)
1257             {
1258                 yylval.opval = newOP(OP_THREADSV, 0);
1259                 yylval.opval->op_targ = tmp;
1260                 return PRIVATEREF;
1261             }
1262 #endif /* USE_THREADS */
1263             if ((tmp = pad_findmy(tokenbuf)) != NOT_IN_PAD) {
1264                 if (last_lop_op == OP_SORT &&
1265                     tokenbuf[0] == '$' &&
1266                     (tokenbuf[1] == 'a' || tokenbuf[1] == 'b')
1267                     && !tokenbuf[2])
1268                 {
1269                     for (d = in_eval ? oldoldbufptr : linestart;
1270                          d < bufend && *d != '\n';
1271                          d++)
1272                     {
1273                         if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
1274                             croak("Can't use \"my %s\" in sort comparison",
1275                                   tokenbuf);
1276                         }
1277                     }
1278                 }
1279
1280                 yylval.opval = newOP(OP_PADANY, 0);
1281                 yylval.opval->op_targ = tmp;
1282                 return PRIVATEREF;
1283             }
1284         }
1285
1286         /* Force them to make up their mind on "@foo". */
1287         if (pit == '@' && lex_state != LEX_NORMAL && !lex_brackets) {
1288             GV *gv = gv_fetchpv(tokenbuf+1, FALSE, SVt_PVAV);
1289             if (!gv || ((tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
1290                 yyerror(form("In string, %s now must be written as \\%s",
1291                              tokenbuf, tokenbuf));
1292         }
1293
1294         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf+1, 0));
1295         yylval.opval->op_private = OPpCONST_ENTERED;
1296         gv_fetchpv(tokenbuf+1, in_eval ? GV_ADDMULTI : TRUE,
1297                    ((tokenbuf[0] == '$') ? SVt_PV
1298                     : (tokenbuf[0] == '@') ? SVt_PVAV
1299                     : SVt_PVHV));
1300         return WORD;
1301     }
1302
1303     switch (lex_state) {
1304 #ifdef COMMENTARY
1305     case LEX_NORMAL:            /* Some compilers will produce faster */
1306     case LEX_INTERPNORMAL:      /* code if we comment these out. */
1307         break;
1308 #endif
1309
1310     case LEX_KNOWNEXT:
1311         nexttoke--;
1312         yylval = nextval[nexttoke];
1313         if (!nexttoke) {
1314             lex_state = lex_defer;
1315             expect = lex_expect;
1316             lex_defer = LEX_NORMAL;
1317         }
1318         return(nexttype[nexttoke]);
1319
1320     case LEX_INTERPCASEMOD:
1321 #ifdef DEBUGGING
1322         if (bufptr != bufend && *bufptr != '\\')
1323             croak("panic: INTERPCASEMOD");
1324 #endif
1325         if (bufptr == bufend || bufptr[1] == 'E') {
1326             char oldmod;
1327             if (lex_casemods) {
1328                 oldmod = lex_casestack[--lex_casemods];
1329                 lex_casestack[lex_casemods] = '\0';
1330                 if (bufptr != bufend && strchr("LUQ", oldmod)) {
1331                     bufptr += 2;
1332                     lex_state = LEX_INTERPCONCAT;
1333                 }
1334                 return ')';
1335             }
1336             if (bufptr != bufend)
1337                 bufptr += 2;
1338             lex_state = LEX_INTERPCONCAT;
1339             return yylex();
1340         }
1341         else {
1342             s = bufptr + 1;
1343             if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
1344                 tmp = *s, *s = s[2], s[2] = tmp;        /* misordered... */
1345             if (strchr("LU", *s) &&
1346                 (strchr(lex_casestack, 'L') || strchr(lex_casestack, 'U')))
1347             {
1348                 lex_casestack[--lex_casemods] = '\0';
1349                 return ')';
1350             }
1351             if (lex_casemods > 10) {
1352                 char* newlb = Renew(lex_casestack, lex_casemods + 2, char);
1353                 if (newlb != lex_casestack) {
1354                     SAVEFREEPV(newlb);
1355                     lex_casestack = newlb;
1356                 }
1357             }
1358             lex_casestack[lex_casemods++] = *s;
1359             lex_casestack[lex_casemods] = '\0';
1360             lex_state = LEX_INTERPCONCAT;
1361             nextval[nexttoke].ival = 0;
1362             force_next('(');
1363             if (*s == 'l')
1364                 nextval[nexttoke].ival = OP_LCFIRST;
1365             else if (*s == 'u')
1366                 nextval[nexttoke].ival = OP_UCFIRST;
1367             else if (*s == 'L')
1368                 nextval[nexttoke].ival = OP_LC;
1369             else if (*s == 'U')
1370                 nextval[nexttoke].ival = OP_UC;
1371             else if (*s == 'Q')
1372                 nextval[nexttoke].ival = OP_QUOTEMETA;
1373             else
1374                 croak("panic: yylex");
1375             bufptr = s + 1;
1376             force_next(FUNC);
1377             if (lex_starts) {
1378                 s = bufptr;
1379                 lex_starts = 0;
1380                 Aop(OP_CONCAT);
1381             }
1382             else
1383                 return yylex();
1384         }
1385
1386     case LEX_INTERPPUSH:
1387         return sublex_push();
1388
1389     case LEX_INTERPSTART:
1390         if (bufptr == bufend)
1391             return sublex_done();
1392         expect = XTERM;
1393         lex_dojoin = (*bufptr == '@');
1394         lex_state = LEX_INTERPNORMAL;
1395         if (lex_dojoin) {
1396             nextval[nexttoke].ival = 0;
1397             force_next(',');
1398 #ifdef USE_THREADS
1399             nextval[nexttoke].opval = newOP(OP_THREADSV, 0);
1400             nextval[nexttoke].opval->op_targ = find_threadsv("\"");
1401             force_next(PRIVATEREF);
1402 #else
1403             force_ident("\"", '$');
1404 #endif /* USE_THREADS */
1405             nextval[nexttoke].ival = 0;
1406             force_next('$');
1407             nextval[nexttoke].ival = 0;
1408             force_next('(');
1409             nextval[nexttoke].ival = OP_JOIN;   /* emulate join($", ...) */
1410             force_next(FUNC);
1411         }
1412         if (lex_starts++) {
1413             s = bufptr;
1414             Aop(OP_CONCAT);
1415         }
1416         return yylex();
1417
1418     case LEX_INTERPENDMAYBE:
1419         if (intuit_more(bufptr)) {
1420             lex_state = LEX_INTERPNORMAL;       /* false alarm, more expr */
1421             break;
1422         }
1423         /* FALL THROUGH */
1424
1425     case LEX_INTERPEND:
1426         if (lex_dojoin) {
1427             lex_dojoin = FALSE;
1428             lex_state = LEX_INTERPCONCAT;
1429             return ')';
1430         }
1431         /* FALLTHROUGH */
1432     case LEX_INTERPCONCAT:
1433 #ifdef DEBUGGING
1434         if (lex_brackets)
1435             croak("panic: INTERPCONCAT");
1436 #endif
1437         if (bufptr == bufend)
1438             return sublex_done();
1439
1440         if (SvIVX(linestr) == '\'') {
1441             SV *sv = newSVsv(linestr);
1442             if (!lex_inpat)
1443                 sv = tokeq(sv);
1444             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1445             s = bufend;
1446         }
1447         else {
1448             s = scan_const(bufptr);
1449             if (*s == '\\')
1450                 lex_state = LEX_INTERPCASEMOD;
1451             else
1452                 lex_state = LEX_INTERPSTART;
1453         }
1454
1455         if (s != bufptr) {
1456             nextval[nexttoke] = yylval;
1457             expect = XTERM;
1458             force_next(THING);
1459             if (lex_starts++)
1460                 Aop(OP_CONCAT);
1461             else {
1462                 bufptr = s;
1463                 return yylex();
1464             }
1465         }
1466
1467         return yylex();
1468     case LEX_FORMLINE:
1469         lex_state = LEX_NORMAL;
1470         s = scan_formline(bufptr);
1471         if (!lex_formbrack)
1472             goto rightbracket;
1473         OPERATOR(';');
1474     }
1475
1476     s = bufptr;
1477     oldoldbufptr = oldbufptr;
1478     oldbufptr = s;
1479     DEBUG_p( {
1480         PerlIO_printf(PerlIO_stderr(), "### Tokener expecting %s at %s\n", exp_name[expect], s);
1481     } )
1482
1483   retry:
1484     switch (*s) {
1485     default:
1486         croak("Unrecognized character \\%03o", *s & 255);
1487     case 4:
1488     case 26:
1489         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
1490     case 0:
1491         if (!rsfp) {
1492             last_uni = 0;
1493             last_lop = 0;
1494             if (lex_brackets)
1495                 yyerror("Missing right bracket");
1496             TOKEN(0);
1497         }
1498         if (s++ < bufend)
1499             goto retry;                 /* ignore stray nulls */
1500         last_uni = 0;
1501         last_lop = 0;
1502         if (!in_eval && !preambled) {
1503             preambled = TRUE;
1504             sv_setpv(linestr,incl_perldb());
1505             if (SvCUR(linestr))
1506                 sv_catpv(linestr,";");
1507             if (preambleav){
1508                 while(AvFILLp(preambleav) >= 0) {
1509                     SV *tmpsv = av_shift(preambleav);
1510                     sv_catsv(linestr, tmpsv);
1511                     sv_catpv(linestr, ";");
1512                     sv_free(tmpsv);
1513                 }
1514                 sv_free((SV*)preambleav);
1515                 preambleav = NULL;
1516             }
1517             if (minus_n || minus_p) {
1518                 sv_catpv(linestr, "LINE: while (<>) {");
1519                 if (minus_l)
1520                     sv_catpv(linestr,"chomp;");
1521                 if (minus_a) {
1522                     GV* gv = gv_fetchpv("::F", TRUE, SVt_PVAV);
1523                     if (gv)
1524                         GvIMPORTED_AV_on(gv);
1525                     if (minus_F) {
1526                         if (strchr("/'\"", *splitstr)
1527                               && strchr(splitstr + 1, *splitstr))
1528                             sv_catpvf(linestr, "@F=split(%s);", splitstr);
1529                         else {
1530                             char delim;
1531                             s = "'~#\200\1'"; /* surely one char is unused...*/
1532                             while (s[1] && strchr(splitstr, *s))  s++;
1533                             delim = *s;
1534                             sv_catpvf(linestr, "@F=split(%s%c",
1535                                       "q" + (delim == '\''), delim);
1536                             for (s = splitstr; *s; s++) {
1537                                 if (*s == '\\')
1538                                     sv_catpvn(linestr, "\\", 1);
1539                                 sv_catpvn(linestr, s, 1);
1540                             }
1541                             sv_catpvf(linestr, "%c);", delim);
1542                         }
1543                     }
1544                     else
1545                         sv_catpv(linestr,"@F=split(' ');");
1546                 }
1547             }
1548             sv_catpv(linestr, "\n");
1549             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1550             bufend = SvPVX(linestr) + SvCUR(linestr);
1551             if (PERLDB_LINE && curstash != debstash) {
1552                 SV *sv = NEWSV(85,0);
1553
1554                 sv_upgrade(sv, SVt_PVMG);
1555                 sv_setsv(sv,linestr);
1556                 av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1557             }
1558             goto retry;
1559         }
1560         do {
1561             if ((s = filter_gets(linestr, rsfp, 0)) == Nullch) {
1562               fake_eof:
1563                 if (rsfp) {
1564                     if (preprocess && !in_eval)
1565                         (void)PerlProc_pclose(rsfp);
1566                     else if ((PerlIO *)rsfp == PerlIO_stdin())
1567                         PerlIO_clearerr(rsfp);
1568                     else
1569                         (void)PerlIO_close(rsfp);
1570                     if (e_fp == rsfp)
1571                         e_fp = Nullfp;
1572                     rsfp = Nullfp;
1573                 }
1574                 if (!in_eval && (minus_n || minus_p)) {
1575                     sv_setpv(linestr,minus_p ? ";}continue{print" : "");
1576                     sv_catpv(linestr,";}");
1577                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1578                     bufend = SvPVX(linestr) + SvCUR(linestr);
1579                     minus_n = minus_p = 0;
1580                     goto retry;
1581                 }
1582                 oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1583                 sv_setpv(linestr,"");
1584                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
1585             }
1586             if (doextract) {
1587                 if (*s == '#' && s[1] == '!' && instr(s,"perl"))
1588                     doextract = FALSE;
1589
1590                 /* Incest with pod. */
1591                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
1592                     sv_setpv(linestr, "");
1593                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1594                     bufend = SvPVX(linestr) + SvCUR(linestr);
1595                     doextract = FALSE;
1596                 }
1597             }
1598             incline(s);
1599         } while (doextract);
1600         oldoldbufptr = oldbufptr = bufptr = linestart = s;
1601         if (PERLDB_LINE && curstash != debstash) {
1602             SV *sv = NEWSV(85,0);
1603
1604             sv_upgrade(sv, SVt_PVMG);
1605             sv_setsv(sv,linestr);
1606             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1607         }
1608         bufend = SvPVX(linestr) + SvCUR(linestr);
1609         if (curcop->cop_line == 1) {
1610             while (s < bufend && isSPACE(*s))
1611                 s++;
1612             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
1613                 s++;
1614             d = Nullch;
1615             if (!in_eval) {
1616                 if (*s == '#' && *(s+1) == '!')
1617                     d = s + 2;
1618 #ifdef ALTERNATE_SHEBANG
1619                 else {
1620                     static char as[] = ALTERNATE_SHEBANG;
1621                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
1622                         d = s + (sizeof(as) - 1);
1623                 }
1624 #endif /* ALTERNATE_SHEBANG */
1625             }
1626             if (d) {
1627                 char *ipath;
1628                 char *ipathend;
1629
1630                 while (isSPACE(*d))
1631                     d++;
1632                 ipath = d;
1633                 while (*d && !isSPACE(*d))
1634                     d++;
1635                 ipathend = d;
1636
1637 #ifdef ARG_ZERO_IS_SCRIPT
1638                 if (ipathend > ipath) {
1639                     /*
1640                      * HP-UX (at least) sets argv[0] to the script name,
1641                      * which makes $^X incorrect.  And Digital UNIX and Linux,
1642                      * at least, set argv[0] to the basename of the Perl
1643                      * interpreter. So, having found "#!", we'll set it right.
1644                      */
1645                     SV *x = GvSV(gv_fetchpv("\030", TRUE, SVt_PV));
1646                     assert(SvPOK(x) || SvGMAGICAL(x));
1647                     if (sv_eq(x, GvSV(curcop->cop_filegv))) {
1648                         sv_setpvn(x, ipath, ipathend - ipath);
1649                         SvSETMAGIC(x);
1650                     }
1651                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
1652                 }
1653 #endif /* ARG_ZERO_IS_SCRIPT */
1654
1655                 /*
1656                  * Look for options.
1657                  */
1658                 d = instr(s,"perl -");
1659                 if (!d)
1660                     d = instr(s,"perl");
1661 #ifdef ALTERNATE_SHEBANG
1662                 /*
1663                  * If the ALTERNATE_SHEBANG on this system starts with a
1664                  * character that can be part of a Perl expression, then if
1665                  * we see it but not "perl", we're probably looking at the
1666                  * start of Perl code, not a request to hand off to some
1667                  * other interpreter.  Similarly, if "perl" is there, but
1668                  * not in the first 'word' of the line, we assume the line
1669                  * contains the start of the Perl program.
1670                  */
1671                 if (d && *s != '#') {
1672                     char *c = ipath;
1673                     while (*c && !strchr("; \t\r\n\f\v#", *c))
1674                         c++;
1675                     if (c < d)
1676                         d = Nullch;     /* "perl" not in first word; ignore */
1677                     else
1678                         *s = '#';       /* Don't try to parse shebang line */
1679                 }
1680 #endif /* ALTERNATE_SHEBANG */
1681                 if (!d &&
1682                     *s == '#' &&
1683                     ipathend > ipath &&
1684                     !minus_c &&
1685                     !instr(s,"indir") &&
1686                     instr(origargv[0],"perl"))
1687                 {
1688                     char **newargv;
1689
1690                     *ipathend = '\0';
1691                     s = ipathend + 1;
1692                     while (s < bufend && isSPACE(*s))
1693                         s++;
1694                     if (s < bufend) {
1695                         Newz(899,newargv,origargc+3,char*);
1696                         newargv[1] = s;
1697                         while (s < bufend && !isSPACE(*s))
1698                             s++;
1699                         *s = '\0';
1700                         Copy(origargv+1, newargv+2, origargc+1, char*);
1701                     }
1702                     else
1703                         newargv = origargv;
1704                     newargv[0] = ipath;
1705                     execv(ipath, newargv);
1706                     croak("Can't exec %s", ipath);
1707                 }
1708                 if (d) {
1709                     U32 oldpdb = perldb;
1710                     bool oldn = minus_n;
1711                     bool oldp = minus_p;
1712
1713                     while (*d && !isSPACE(*d)) d++;
1714                     while (*d == ' ' || *d == '\t') d++;
1715
1716                     if (*d++ == '-') {
1717                         do {
1718                             if (*d == 'M' || *d == 'm') {
1719                                 char *m = d;
1720                                 while (*d && !isSPACE(*d)) d++;
1721                                 croak("Too late for \"-%.*s\" option",
1722                                       (int)(d - m), m);
1723                             }
1724                             d = moreswitches(d);
1725                         } while (d);
1726                         if (PERLDB_LINE && !oldpdb ||
1727                             ( minus_n || minus_p ) && !(oldn || oldp) )
1728                               /* if we have already added "LINE: while (<>) {",
1729                                  we must not do it again */
1730                         {
1731                             sv_setpv(linestr, "");
1732                             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1733                             bufend = SvPVX(linestr) + SvCUR(linestr);
1734                             preambled = FALSE;
1735                             if (PERLDB_LINE)
1736                                 (void)gv_fetchfile(origfilename);
1737                             goto retry;
1738                         }
1739                     }
1740                 }
1741             }
1742         }
1743         if (lex_formbrack && lex_brackets <= lex_formbrack) {
1744             bufptr = s;
1745             lex_state = LEX_FORMLINE;
1746             return yylex();
1747         }
1748         goto retry;
1749     case '\r':
1750 #ifndef WIN32CHEAT
1751         warn("Illegal character \\%03o (carriage return)", '\r');
1752         croak(
1753       "(Maybe you didn't strip carriage returns after a network transfer?)\n");
1754 #endif
1755     case ' ': case '\t': case '\f': case 013:
1756         s++;
1757         goto retry;
1758     case '#':
1759     case '\n':
1760         if (lex_state != LEX_NORMAL || (in_eval && !rsfp)) {
1761             d = bufend;
1762             while (s < d && *s != '\n')
1763                 s++;
1764             if (s < d)
1765                 s++;
1766             incline(s);
1767             if (lex_formbrack && lex_brackets <= lex_formbrack) {
1768                 bufptr = s;
1769                 lex_state = LEX_FORMLINE;
1770                 return yylex();
1771             }
1772         }
1773         else {
1774             *s = '\0';
1775             bufend = s;
1776         }
1777         goto retry;
1778     case '-':
1779         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
1780             s++;
1781             bufptr = s;
1782             tmp = *s++;
1783
1784             while (s < bufend && (*s == ' ' || *s == '\t'))
1785                 s++;
1786
1787             if (strnEQ(s,"=>",2)) {
1788                 if (dowarn)
1789                     warn("Ambiguous use of -%c => resolved to \"-%c\" =>",
1790                         (int)tmp, (int)tmp);
1791                 s = force_word(bufptr,WORD,FALSE,FALSE,FALSE);
1792                 OPERATOR('-');          /* unary minus */
1793             }
1794             last_uni = oldbufptr;
1795             last_lop_op = OP_FTEREAD;   /* good enough */
1796             switch (tmp) {
1797             case 'r': FTST(OP_FTEREAD);
1798             case 'w': FTST(OP_FTEWRITE);
1799             case 'x': FTST(OP_FTEEXEC);
1800             case 'o': FTST(OP_FTEOWNED);
1801             case 'R': FTST(OP_FTRREAD);
1802             case 'W': FTST(OP_FTRWRITE);
1803             case 'X': FTST(OP_FTREXEC);
1804             case 'O': FTST(OP_FTROWNED);
1805             case 'e': FTST(OP_FTIS);
1806             case 'z': FTST(OP_FTZERO);
1807             case 's': FTST(OP_FTSIZE);
1808             case 'f': FTST(OP_FTFILE);
1809             case 'd': FTST(OP_FTDIR);
1810             case 'l': FTST(OP_FTLINK);
1811             case 'p': FTST(OP_FTPIPE);
1812             case 'S': FTST(OP_FTSOCK);
1813             case 'u': FTST(OP_FTSUID);
1814             case 'g': FTST(OP_FTSGID);
1815             case 'k': FTST(OP_FTSVTX);
1816             case 'b': FTST(OP_FTBLK);
1817             case 'c': FTST(OP_FTCHR);
1818             case 't': FTST(OP_FTTTY);
1819             case 'T': FTST(OP_FTTEXT);
1820             case 'B': FTST(OP_FTBINARY);
1821             case 'M': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTMTIME);
1822             case 'A': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTATIME);
1823             case 'C': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTCTIME);
1824             default:
1825                 croak("Unrecognized file test: -%c", (int)tmp);
1826                 break;
1827             }
1828         }
1829         tmp = *s++;
1830         if (*s == tmp) {
1831             s++;
1832             if (expect == XOPERATOR)
1833                 TERM(POSTDEC);
1834             else
1835                 OPERATOR(PREDEC);
1836         }
1837         else if (*s == '>') {
1838             s++;
1839             s = skipspace(s);
1840             if (isIDFIRST(*s)) {
1841                 s = force_word(s,METHOD,FALSE,TRUE,FALSE);
1842                 TOKEN(ARROW);
1843             }
1844             else if (*s == '$')
1845                 OPERATOR(ARROW);
1846             else
1847                 TERM(ARROW);
1848         }
1849         if (expect == XOPERATOR)
1850             Aop(OP_SUBTRACT);
1851         else {
1852             if (isSPACE(*s) || !isSPACE(*bufptr))
1853                 check_uni();
1854             OPERATOR('-');              /* unary minus */
1855         }
1856
1857     case '+':
1858         tmp = *s++;
1859         if (*s == tmp) {
1860             s++;
1861             if (expect == XOPERATOR)
1862                 TERM(POSTINC);
1863             else
1864                 OPERATOR(PREINC);
1865         }
1866         if (expect == XOPERATOR)
1867             Aop(OP_ADD);
1868         else {
1869             if (isSPACE(*s) || !isSPACE(*bufptr))
1870                 check_uni();
1871             OPERATOR('+');
1872         }
1873
1874     case '*':
1875         if (expect != XOPERATOR) {
1876             s = scan_ident(s, bufend, tokenbuf, sizeof tokenbuf, TRUE);
1877             expect = XOPERATOR;
1878             force_ident(tokenbuf, '*');
1879             if (!*tokenbuf)
1880                 PREREF('*');
1881             TERM('*');
1882         }
1883         s++;
1884         if (*s == '*') {
1885             s++;
1886             PWop(OP_POW);
1887         }
1888         Mop(OP_MULTIPLY);
1889
1890     case '%':
1891         if (expect == XOPERATOR) {
1892             ++s;
1893             Mop(OP_MODULO);
1894         }
1895         tokenbuf[0] = '%';
1896         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, TRUE);
1897         if (!tokenbuf[1]) {
1898             if (s == bufend)
1899                 yyerror("Final % should be \\% or %name");
1900             PREREF('%');
1901         }
1902         pending_ident = '%';
1903         TERM('%');
1904
1905     case '^':
1906         s++;
1907         BOop(OP_BIT_XOR);
1908     case '[':
1909         lex_brackets++;
1910         /* FALL THROUGH */
1911     case '~':
1912     case ',':
1913         tmp = *s++;
1914         OPERATOR(tmp);
1915     case ':':
1916         if (s[1] == ':') {
1917             len = 0;
1918             goto just_a_word;
1919         }
1920         s++;
1921         OPERATOR(':');
1922     case '(':
1923         s++;
1924         if (last_lop == oldoldbufptr || last_uni == oldoldbufptr)
1925             oldbufptr = oldoldbufptr;           /* allow print(STDOUT 123) */
1926         else
1927             expect = XTERM;
1928         TOKEN('(');
1929     case ';':
1930         if (curcop->cop_line < copline)
1931             copline = curcop->cop_line;
1932         tmp = *s++;
1933         OPERATOR(tmp);
1934     case ')':
1935         tmp = *s++;
1936         s = skipspace(s);
1937         if (*s == '{')
1938             PREBLOCK(tmp);
1939         TERM(tmp);
1940     case ']':
1941         s++;
1942         if (lex_brackets <= 0)
1943             yyerror("Unmatched right bracket");
1944         else
1945             --lex_brackets;
1946         if (lex_state == LEX_INTERPNORMAL) {
1947             if (lex_brackets == 0) {
1948                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
1949                     lex_state = LEX_INTERPEND;
1950             }
1951         }
1952         TERM(']');
1953     case '{':
1954       leftbracket:
1955         s++;
1956         if (lex_brackets > 100) {
1957             char* newlb = Renew(lex_brackstack, lex_brackets + 1, char);
1958             if (newlb != lex_brackstack) {
1959                 SAVEFREEPV(newlb);
1960                 lex_brackstack = newlb;
1961             }
1962         }
1963         switch (expect) {
1964         case XTERM:
1965             if (lex_formbrack) {
1966                 s--;
1967                 PRETERMBLOCK(DO);
1968             }
1969             if (oldoldbufptr == last_lop)
1970                 lex_brackstack[lex_brackets++] = XTERM;
1971             else
1972                 lex_brackstack[lex_brackets++] = XOPERATOR;
1973             OPERATOR(HASHBRACK);
1974         case XOPERATOR:
1975             while (s < bufend && (*s == ' ' || *s == '\t'))
1976                 s++;
1977             d = s;
1978             tokenbuf[0] = '\0';
1979             if (d < bufend && *d == '-') {
1980                 tokenbuf[0] = '-';
1981                 d++;
1982                 while (d < bufend && (*d == ' ' || *d == '\t'))
1983                     d++;
1984             }
1985             if (d < bufend && isIDFIRST(*d)) {
1986                 d = scan_word(d, tokenbuf + 1, sizeof tokenbuf - 1,
1987                               FALSE, &len);
1988                 while (d < bufend && (*d == ' ' || *d == '\t'))
1989                     d++;
1990                 if (*d == '}') {
1991                     char minus = (tokenbuf[0] == '-');
1992                     if (dowarn &&
1993                         (keyword(tokenbuf + 1, len) ||
1994                          (minus && len == 1 && isALPHA(tokenbuf[1])) ||
1995                          perl_get_cv(tokenbuf + 1, FALSE) ))
1996                         warn("Ambiguous use of {%s} resolved to {\"%s\"}",
1997                              tokenbuf + !minus, tokenbuf + !minus);
1998                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
1999                     if (minus)
2000                         force_next('-');
2001                 }
2002             }
2003             /* FALL THROUGH */
2004         case XBLOCK:
2005             lex_brackstack[lex_brackets++] = XSTATE;
2006             expect = XSTATE;
2007             break;
2008         case XTERMBLOCK:
2009             lex_brackstack[lex_brackets++] = XOPERATOR;
2010             expect = XSTATE;
2011             break;
2012         default: {
2013                 char *t;
2014                 if (oldoldbufptr == last_lop)
2015                     lex_brackstack[lex_brackets++] = XTERM;
2016                 else
2017                     lex_brackstack[lex_brackets++] = XOPERATOR;
2018                 s = skipspace(s);
2019                 if (*s == '}')
2020                     OPERATOR(HASHBRACK);
2021                 /* This hack serves to disambiguate a pair of curlies
2022                  * as being a block or an anon hash.  Normally, expectation
2023                  * determines that, but in cases where we're not in a
2024                  * position to expect anything in particular (like inside
2025                  * eval"") we have to resolve the ambiguity.  This code
2026                  * covers the case where the first term in the curlies is a
2027                  * quoted string.  Most other cases need to be explicitly
2028                  * disambiguated by prepending a `+' before the opening
2029                  * curly in order to force resolution as an anon hash.
2030                  *
2031                  * XXX should probably propagate the outer expectation
2032                  * into eval"" to rely less on this hack, but that could
2033                  * potentially break current behavior of eval"".
2034                  * GSAR 97-07-21
2035                  */
2036                 t = s;
2037                 if (*s == '\'' || *s == '"' || *s == '`') {
2038                     /* common case: get past first string, handling escapes */
2039                     for (t++; t < bufend && *t != *s;)
2040                         if (*t++ == '\\' && (*t == '\\' || *t == *s))
2041                             t++;
2042                     t++;
2043                 }
2044                 else if (*s == 'q') {
2045                     if (++t < bufend
2046                         && (!isALNUM(*t)
2047                             || ((*t == 'q' || *t == 'x') && ++t < bufend
2048                                 && !isALNUM(*t)))) {
2049                         char *tmps;
2050                         char open, close, term;
2051                         I32 brackets = 1;
2052
2053                         while (t < bufend && isSPACE(*t))
2054                             t++;
2055                         term = *t;
2056                         open = term;
2057                         if (term && (tmps = strchr("([{< )]}> )]}>",term)))
2058                             term = tmps[5];
2059                         close = term;
2060                         if (open == close)
2061                             for (t++; t < bufend; t++) {
2062                                 if (*t == '\\' && t+1 < bufend && open != '\\')
2063                                     t++;
2064                                 else if (*t == open)
2065                                     break;
2066                             }
2067                         else
2068                             for (t++; t < bufend; t++) {
2069                                 if (*t == '\\' && t+1 < bufend)
2070                                     t++;
2071                                 else if (*t == close && --brackets <= 0)
2072                                     break;
2073                                 else if (*t == open)
2074                                     brackets++;
2075                             }
2076                     }
2077                     t++;
2078                 }
2079                 else if (isALPHA(*s)) {
2080                     for (t++; t < bufend && isALNUM(*t); t++) ;
2081                 }
2082                 while (t < bufend && isSPACE(*t))
2083                     t++;
2084                 /* if comma follows first term, call it an anon hash */
2085                 /* XXX it could be a comma expression with loop modifiers */
2086                 if (t < bufend && ((*t == ',' && (*s == 'q' || !isLOWER(*s)))
2087                                    || (*t == '=' && t[1] == '>')))
2088                     OPERATOR(HASHBRACK);
2089                 if (expect == XREF)
2090                     expect = XTERM;
2091                 else {
2092                     lex_brackstack[lex_brackets-1] = XSTATE;
2093                     expect = XSTATE;
2094                 }
2095             }
2096             break;
2097         }
2098         yylval.ival = curcop->cop_line;
2099         if (isSPACE(*s) || *s == '#')
2100             copline = NOLINE;   /* invalidate current command line number */
2101         TOKEN('{');
2102     case '}':
2103       rightbracket:
2104         s++;
2105         if (lex_brackets <= 0)
2106             yyerror("Unmatched right bracket");
2107         else
2108             expect = (expectation)lex_brackstack[--lex_brackets];
2109         if (lex_brackets < lex_formbrack)
2110             lex_formbrack = 0;
2111         if (lex_state == LEX_INTERPNORMAL) {
2112             if (lex_brackets == 0) {
2113                 if (lex_fakebrack) {
2114                     lex_state = LEX_INTERPEND;
2115                     bufptr = s;
2116                     return yylex();             /* ignore fake brackets */
2117                 }
2118                 if (*s == '-' && s[1] == '>')
2119                     lex_state = LEX_INTERPENDMAYBE;
2120                 else if (*s != '[' && *s != '{')
2121                     lex_state = LEX_INTERPEND;
2122             }
2123         }
2124         if (lex_brackets < lex_fakebrack) {
2125             bufptr = s;
2126             lex_fakebrack = 0;
2127             return yylex();             /* ignore fake brackets */
2128         }
2129         force_next('}');
2130         TOKEN(';');
2131     case '&':
2132         s++;
2133         tmp = *s++;
2134         if (tmp == '&')
2135             AOPERATOR(ANDAND);
2136         s--;
2137         if (expect == XOPERATOR) {
2138             if (dowarn && isALPHA(*s) && bufptr == linestart) {
2139                 curcop->cop_line--;
2140                 warn(warn_nosemi);
2141                 curcop->cop_line++;
2142             }
2143             BAop(OP_BIT_AND);
2144         }
2145
2146         s = scan_ident(s - 1, bufend, tokenbuf, sizeof tokenbuf, TRUE);
2147         if (*tokenbuf) {
2148             expect = XOPERATOR;
2149             force_ident(tokenbuf, '&');
2150         }
2151         else
2152             PREREF('&');
2153         yylval.ival = (OPpENTERSUB_AMPER<<8);
2154         TERM('&');
2155
2156     case '|':
2157         s++;
2158         tmp = *s++;
2159         if (tmp == '|')
2160             AOPERATOR(OROR);
2161         s--;
2162         BOop(OP_BIT_OR);
2163     case '=':
2164         s++;
2165         tmp = *s++;
2166         if (tmp == '=')
2167             Eop(OP_EQ);
2168         if (tmp == '>')
2169             OPERATOR(',');
2170         if (tmp == '~')
2171             PMop(OP_MATCH);
2172         if (dowarn && tmp && isSPACE(*s) && strchr("+-*/%.^&|<",tmp))
2173             warn("Reversed %c= operator",(int)tmp);
2174         s--;
2175         if (expect == XSTATE && isALPHA(tmp) &&
2176                 (s == linestart+1 || s[-2] == '\n') )
2177         {
2178             if (in_eval && !rsfp) {
2179                 d = bufend;
2180                 while (s < d) {
2181                     if (*s++ == '\n') {
2182                         incline(s);
2183                         if (strnEQ(s,"=cut",4)) {
2184                             s = strchr(s,'\n');
2185                             if (s)
2186                                 s++;
2187                             else
2188                                 s = d;
2189                             incline(s);
2190                             goto retry;
2191                         }
2192                     }
2193                 }
2194                 goto retry;
2195             }
2196             s = bufend;
2197             doextract = TRUE;
2198             goto retry;
2199         }
2200         if (lex_brackets < lex_formbrack) {
2201             char *t;
2202             for (t = s; *t == ' ' || *t == '\t'; t++) ;
2203             if (*t == '\n' || *t == '#') {
2204                 s--;
2205                 expect = XBLOCK;
2206                 goto leftbracket;
2207             }
2208         }
2209         yylval.ival = 0;
2210         OPERATOR(ASSIGNOP);
2211     case '!':
2212         s++;
2213         tmp = *s++;
2214         if (tmp == '=')
2215             Eop(OP_NE);
2216         if (tmp == '~')
2217             PMop(OP_NOT);
2218         s--;
2219         OPERATOR('!');
2220     case '<':
2221         if (expect != XOPERATOR) {
2222             if (s[1] != '<' && !strchr(s,'>'))
2223                 check_uni();
2224             if (s[1] == '<')
2225                 s = scan_heredoc(s);
2226             else
2227                 s = scan_inputsymbol(s);
2228             TERM(sublex_start());
2229         }
2230         s++;
2231         tmp = *s++;
2232         if (tmp == '<')
2233             SHop(OP_LEFT_SHIFT);
2234         if (tmp == '=') {
2235             tmp = *s++;
2236             if (tmp == '>')
2237                 Eop(OP_NCMP);
2238             s--;
2239             Rop(OP_LE);
2240         }
2241         s--;
2242         Rop(OP_LT);
2243     case '>':
2244         s++;
2245         tmp = *s++;
2246         if (tmp == '>')
2247             SHop(OP_RIGHT_SHIFT);
2248         if (tmp == '=')
2249             Rop(OP_GE);
2250         s--;
2251         Rop(OP_GT);
2252
2253     case '$':
2254         CLINE;
2255
2256         if (expect == XOPERATOR) {
2257             if (lex_formbrack && lex_brackets == lex_formbrack) {
2258                 expect = XTERM;
2259                 depcom();
2260                 return ','; /* grandfather non-comma-format format */
2261             }
2262         }
2263
2264         if (s[1] == '#' && (isALPHA(s[2]) || strchr("_{$:", s[2]))) {
2265             if (expect == XOPERATOR)
2266                 no_op("Array length", bufptr);
2267             tokenbuf[0] = '@';
2268             s = scan_ident(s + 1, bufend, tokenbuf + 1, sizeof tokenbuf - 1,
2269                            FALSE);
2270             if (!tokenbuf[1])
2271                 PREREF(DOLSHARP);
2272             expect = XOPERATOR;
2273             pending_ident = '#';
2274             TOKEN(DOLSHARP);
2275         }
2276
2277         if (expect == XOPERATOR)
2278             no_op("Scalar", bufptr);
2279         tokenbuf[0] = '$';
2280         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2281         if (!tokenbuf[1]) {
2282             if (s == bufend)
2283                 yyerror("Final $ should be \\$ or $name");
2284             PREREF('$');
2285         }
2286
2287         /* This kludge not intended to be bulletproof. */
2288         if (tokenbuf[1] == '[' && !tokenbuf[2]) {
2289             yylval.opval = newSVOP(OP_CONST, 0,
2290                                    newSViv((IV)compiling.cop_arybase));
2291             yylval.opval->op_private = OPpCONST_ARYBASE;
2292             TERM(THING);
2293         }
2294
2295         d = s;
2296         if (lex_state == LEX_NORMAL)
2297             s = skipspace(s);
2298
2299         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2300             char *t;
2301             if (*s == '[') {
2302                 tokenbuf[0] = '@';
2303                 if (dowarn) {
2304                     for(t = s + 1;
2305                         isSPACE(*t) || isALNUM(*t) || *t == '$';
2306                         t++) ;
2307                     if (*t++ == ',') {
2308                         bufptr = skipspace(bufptr);
2309                         while (t < bufend && *t != ']')
2310                             t++;
2311                         warn("Multidimensional syntax %.*s not supported",
2312                              (t - bufptr) + 1, bufptr);
2313                     }
2314                 }
2315             }
2316             else if (*s == '{') {
2317                 tokenbuf[0] = '%';
2318                 if (dowarn && strEQ(tokenbuf+1, "SIG") &&
2319                     (t = strchr(s, '}')) && (t = strchr(t, '=')))
2320                 {
2321                     char tmpbuf[sizeof tokenbuf];
2322                     STRLEN len;
2323                     for (t++; isSPACE(*t); t++) ;
2324                     if (isIDFIRST(*t)) {
2325                         t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE, &len);
2326                         if (*t != '(' && perl_get_cv(tmpbuf, FALSE))
2327                             warn("You need to quote \"%s\"", tmpbuf);
2328                     }
2329                 }
2330             }
2331         }
2332
2333         expect = XOPERATOR;
2334         if (lex_state == LEX_NORMAL && isSPACE(*d)) {
2335             bool islop = (last_lop == oldoldbufptr);
2336             if (!islop || last_lop_op == OP_GREPSTART)
2337                 expect = XOPERATOR;
2338             else if (strchr("$@\"'`q", *s))
2339                 expect = XTERM;         /* e.g. print $fh "foo" */
2340             else if (strchr("&*<%", *s) && isIDFIRST(s[1]))
2341                 expect = XTERM;         /* e.g. print $fh &sub */
2342             else if (isIDFIRST(*s)) {
2343                 char tmpbuf[sizeof tokenbuf];
2344                 scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2345                 if (tmp = keyword(tmpbuf, len)) {
2346                     /* binary operators exclude handle interpretations */
2347                     switch (tmp) {
2348                     case -KEY_x:
2349                     case -KEY_eq:
2350                     case -KEY_ne:
2351                     case -KEY_gt:
2352                     case -KEY_lt:
2353                     case -KEY_ge:
2354                     case -KEY_le:
2355                     case -KEY_cmp:
2356                         break;
2357                     default:
2358                         expect = XTERM; /* e.g. print $fh length() */
2359                         break;
2360                     }
2361                 }
2362                 else {
2363                     GV *gv = gv_fetchpv(tmpbuf, FALSE, SVt_PVCV);
2364                     if (gv && GvCVu(gv))
2365                         expect = XTERM; /* e.g. print $fh subr() */
2366                 }
2367             }
2368             else if (isDIGIT(*s))
2369                 expect = XTERM;         /* e.g. print $fh 3 */
2370             else if (*s == '.' && isDIGIT(s[1]))
2371                 expect = XTERM;         /* e.g. print $fh .3 */
2372             else if (strchr("/?-+", *s) && !isSPACE(s[1]))
2373                 expect = XTERM;         /* e.g. print $fh -1 */
2374             else if (*s == '<' && s[1] == '<' && !isSPACE(s[2]))
2375                 expect = XTERM;         /* print $fh <<"EOF" */
2376         }
2377         pending_ident = '$';
2378         TOKEN('$');
2379
2380     case '@':
2381         if (expect == XOPERATOR)
2382             no_op("Array", s);
2383         tokenbuf[0] = '@';
2384         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2385         if (!tokenbuf[1]) {
2386             if (s == bufend)
2387                 yyerror("Final @ should be \\@ or @name");
2388             PREREF('@');
2389         }
2390         if (lex_state == LEX_NORMAL)
2391             s = skipspace(s);
2392         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2393             if (*s == '{')
2394                 tokenbuf[0] = '%';
2395
2396             /* Warn about @ where they meant $. */
2397             if (dowarn) {
2398                 if (*s == '[' || *s == '{') {
2399                     char *t = s + 1;
2400                     while (*t && (isALNUM(*t) || strchr(" \t$#+-'\"", *t)))
2401                         t++;
2402                     if (*t == '}' || *t == ']') {
2403                         t++;
2404                         bufptr = skipspace(bufptr);
2405                         warn("Scalar value %.*s better written as $%.*s",
2406                             t-bufptr, bufptr, t-bufptr-1, bufptr+1);
2407                     }
2408                 }
2409             }
2410         }
2411         pending_ident = '@';
2412         TERM('@');
2413
2414     case '/':                   /* may either be division or pattern */
2415     case '?':                   /* may either be conditional or pattern */
2416         if (expect != XOPERATOR) {
2417             /* Disable warning on "study /blah/" */
2418             if (oldoldbufptr == last_uni
2419                 && (*last_uni != 's' || s - last_uni < 5
2420                     || memNE(last_uni, "study", 5) || isALNUM(last_uni[5])))
2421                 check_uni();
2422             s = scan_pat(s);
2423             TERM(sublex_start());
2424         }
2425         tmp = *s++;
2426         if (tmp == '/')
2427             Mop(OP_DIVIDE);
2428         OPERATOR(tmp);
2429
2430     case '.':
2431         if (lex_formbrack && lex_brackets == lex_formbrack && s[1] == '\n' &&
2432                 (s == linestart || s[-1] == '\n') ) {
2433             lex_formbrack = 0;
2434             expect = XSTATE;
2435             goto rightbracket;
2436         }
2437         if (expect == XOPERATOR || !isDIGIT(s[1])) {
2438             tmp = *s++;
2439             if (*s == tmp) {
2440                 s++;
2441                 if (*s == tmp) {
2442                     s++;
2443                     yylval.ival = OPf_SPECIAL;
2444                 }
2445                 else
2446                     yylval.ival = 0;
2447                 OPERATOR(DOTDOT);
2448             }
2449             if (expect != XOPERATOR)
2450                 check_uni();
2451             Aop(OP_CONCAT);
2452         }
2453         /* FALL THROUGH */
2454     case '0': case '1': case '2': case '3': case '4':
2455     case '5': case '6': case '7': case '8': case '9':
2456         s = scan_num(s);
2457         if (expect == XOPERATOR)
2458             no_op("Number",s);
2459         TERM(THING);
2460
2461     case '\'':
2462         s = scan_str(s);
2463         if (expect == XOPERATOR) {
2464             if (lex_formbrack && lex_brackets == lex_formbrack) {
2465                 expect = XTERM;
2466                 depcom();
2467                 return ',';     /* grandfather non-comma-format format */
2468             }
2469             else
2470                 no_op("String",s);
2471         }
2472         if (!s)
2473             missingterm((char*)0);
2474         yylval.ival = OP_CONST;
2475         TERM(sublex_start());
2476
2477     case '"':
2478         s = scan_str(s);
2479         if (expect == XOPERATOR) {
2480             if (lex_formbrack && lex_brackets == lex_formbrack) {
2481                 expect = XTERM;
2482                 depcom();
2483                 return ',';     /* grandfather non-comma-format format */
2484             }
2485             else
2486                 no_op("String",s);
2487         }
2488         if (!s)
2489             missingterm((char*)0);
2490         yylval.ival = OP_CONST;
2491         for (d = SvPV(lex_stuff, len); len; len--, d++) {
2492             if (*d == '$' || *d == '@' || *d == '\\') {
2493                 yylval.ival = OP_STRINGIFY;
2494                 break;
2495             }
2496         }
2497         TERM(sublex_start());
2498
2499     case '`':
2500         s = scan_str(s);
2501         if (expect == XOPERATOR)
2502             no_op("Backticks",s);
2503         if (!s)
2504             missingterm((char*)0);
2505         yylval.ival = OP_BACKTICK;
2506         set_csh();
2507         TERM(sublex_start());
2508
2509     case '\\':
2510         s++;
2511         if (dowarn && lex_inwhat && isDIGIT(*s))
2512             warn("Can't use \\%c to mean $%c in expression", *s, *s);
2513         if (expect == XOPERATOR)
2514             no_op("Backslash",s);
2515         OPERATOR(REFGEN);
2516
2517     case 'x':
2518         if (isDIGIT(s[1]) && expect == XOPERATOR) {
2519             s++;
2520             Mop(OP_REPEAT);
2521         }
2522         goto keylookup;
2523
2524     case '_':
2525     case 'a': case 'A':
2526     case 'b': case 'B':
2527     case 'c': case 'C':
2528     case 'd': case 'D':
2529     case 'e': case 'E':
2530     case 'f': case 'F':
2531     case 'g': case 'G':
2532     case 'h': case 'H':
2533     case 'i': case 'I':
2534     case 'j': case 'J':
2535     case 'k': case 'K':
2536     case 'l': case 'L':
2537     case 'm': case 'M':
2538     case 'n': case 'N':
2539     case 'o': case 'O':
2540     case 'p': case 'P':
2541     case 'q': case 'Q':
2542     case 'r': case 'R':
2543     case 's': case 'S':
2544     case 't': case 'T':
2545     case 'u': case 'U':
2546     case 'v': case 'V':
2547     case 'w': case 'W':
2548               case 'X':
2549     case 'y': case 'Y':
2550     case 'z': case 'Z':
2551
2552       keylookup: {
2553         gv = Nullgv;
2554         gvp = 0;
2555
2556         bufptr = s;
2557         s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2558
2559         /* Some keywords can be followed by any delimiter, including ':' */
2560         tmp = (len == 1 && strchr("msyq", tokenbuf[0]) ||
2561                len == 2 && ((tokenbuf[0] == 't' && tokenbuf[1] == 'r') ||
2562                             (tokenbuf[0] == 'q' &&
2563                              strchr("qwx", tokenbuf[1]))));
2564
2565         /* x::* is just a word, unless x is "CORE" */
2566         if (!tmp && *s == ':' && s[1] == ':' && strNE(tokenbuf, "CORE"))
2567             goto just_a_word;
2568
2569         d = s;
2570         while (d < bufend && isSPACE(*d))
2571                 d++;    /* no comments skipped here, or s### is misparsed */
2572
2573         /* Is this a label? */
2574         if (!tmp && expect == XSTATE
2575               && d < bufend && *d == ':' && *(d + 1) != ':') {
2576             s = d + 1;
2577             yylval.pval = savepv(tokenbuf);
2578             CLINE;
2579             TOKEN(LABEL);
2580         }
2581
2582         /* Check for keywords */
2583         tmp = keyword(tokenbuf, len);
2584
2585         /* Is this a word before a => operator? */
2586         if (strnEQ(d,"=>",2)) {
2587             CLINE;
2588             if (dowarn && (tmp || perl_get_cv(tokenbuf, FALSE)))
2589                 warn("Ambiguous use of %s => resolved to \"%s\" =>",
2590                         tokenbuf, tokenbuf);
2591             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2592             yylval.opval->op_private = OPpCONST_BARE;
2593             TERM(WORD);
2594         }
2595
2596         if (tmp < 0) {                  /* second-class keyword? */
2597             if (expect != XOPERATOR && (*s != ':' || s[1] != ':') &&
2598                 (((gv = gv_fetchpv(tokenbuf, FALSE, SVt_PVCV)) &&
2599                   GvCVu(gv) && GvIMPORTED_CV(gv)) ||
2600                  ((gvp = (GV**)hv_fetch(globalstash,tokenbuf,len,FALSE)) &&
2601                   (gv = *gvp) != (GV*)&sv_undef &&
2602                   GvCVu(gv) && GvIMPORTED_CV(gv))))
2603             {
2604                 tmp = 0;                /* overridden by importation */
2605             }
2606             else if (gv && !gvp
2607                      && -tmp==KEY_lock  /* XXX generalizable kludge */
2608                      && !hv_fetch(GvHVn(incgv), "Thread.pm", 9, FALSE))
2609             {
2610                 tmp = 0;                /* any sub overrides "weak" keyword */
2611             }
2612             else {
2613                 tmp = -tmp; gv = Nullgv; gvp = 0;
2614             }
2615         }
2616
2617       reserved_word:
2618         switch (tmp) {
2619
2620         default:                        /* not a keyword */
2621           just_a_word: {
2622                 SV *sv;
2623                 char lastchar = (bufptr == oldoldbufptr ? 0 : bufptr[-1]);
2624
2625                 /* Get the rest if it looks like a package qualifier */
2626
2627                 if (*s == '\'' || *s == ':' && s[1] == ':') {
2628                     s = scan_word(s, tokenbuf + len, sizeof tokenbuf - len,
2629                                   TRUE, &len);
2630                     if (!len)
2631                         croak("Bad name after %s::", tokenbuf);
2632                 }
2633
2634                 if (expect == XOPERATOR) {
2635                     if (bufptr == linestart) {
2636                         curcop->cop_line--;
2637                         warn(warn_nosemi);
2638                         curcop->cop_line++;
2639                     }
2640                     else
2641                         no_op("Bareword",s);
2642                 }
2643
2644                 /* Look for a subroutine with this name in current package. */
2645
2646                 if (gvp) {
2647                     sv = newSVpv("CORE::GLOBAL::",14);
2648                     sv_catpv(sv,tokenbuf);
2649                 }
2650                 else
2651                     sv = newSVpv(tokenbuf,0);
2652                 if (!gv)
2653                     gv = gv_fetchpv(tokenbuf,FALSE, SVt_PVCV);
2654
2655                 /* Presume this is going to be a bareword of some sort. */
2656
2657                 CLINE;
2658                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
2659                 yylval.opval->op_private = OPpCONST_BARE;
2660
2661                 /* See if it's the indirect object for a list operator. */
2662
2663                 if (oldoldbufptr &&
2664                     oldoldbufptr < bufptr &&
2665                     (oldoldbufptr == last_lop || oldoldbufptr == last_uni) &&
2666                     /* NO SKIPSPACE BEFORE HERE! */
2667                     (expect == XREF ||
2668                      ((opargs[last_lop_op] >> OASHIFT)& 7) == OA_FILEREF) )
2669                 {
2670                     bool immediate_paren = *s == '(';
2671
2672                     /* (Now we can afford to cross potential line boundary.) */
2673                     s = skipspace(s);
2674
2675                     /* Two barewords in a row may indicate method call. */
2676
2677                     if ((isALPHA(*s) || *s == '$') && (tmp=intuit_method(s,gv)))
2678                         return tmp;
2679
2680                     /* If not a declared subroutine, it's an indirect object. */
2681                     /* (But it's an indir obj regardless for sort.) */
2682
2683                     if ((last_lop_op == OP_SORT ||
2684                          (!immediate_paren && (!gv || !GvCVu(gv))) ) &&
2685                         (last_lop_op != OP_MAPSTART && last_lop_op != OP_GREPSTART)){
2686                         expect = (last_lop == oldoldbufptr) ? XTERM : XOPERATOR;
2687                         goto bareword;
2688                     }
2689                 }
2690
2691                 /* If followed by a paren, it's certainly a subroutine. */
2692
2693                 expect = XOPERATOR;
2694                 s = skipspace(s);
2695                 if (*s == '(') {
2696                     CLINE;
2697                     if (gv && GvCVu(gv)) {
2698                         for (d = s + 1; *d == ' ' || *d == '\t'; d++) ;
2699                         if (*d == ')' && (sv = cv_const_sv(GvCV(gv)))) {
2700                             s = d + 1;
2701                             goto its_constant;
2702                         }
2703                     }
2704                     nextval[nexttoke].opval = yylval.opval;
2705                     expect = XOPERATOR;
2706                     force_next(WORD);
2707                     yylval.ival = 0;
2708                     TOKEN('&');
2709                 }
2710
2711                 /* If followed by var or block, call it a method (unless sub) */
2712
2713                 if ((*s == '$' || *s == '{') && (!gv || !GvCVu(gv))) {
2714                     last_lop = oldbufptr;
2715                     last_lop_op = OP_METHOD;
2716                     PREBLOCK(METHOD);
2717                 }
2718
2719                 /* If followed by a bareword, see if it looks like indir obj. */
2720
2721                 if ((isALPHA(*s) || *s == '$') && (tmp = intuit_method(s,gv)))
2722                     return tmp;
2723
2724                 /* Not a method, so call it a subroutine (if defined) */
2725
2726                 if (gv && GvCVu(gv)) {
2727                     CV* cv;
2728                     if (lastchar == '-')
2729                         warn("Ambiguous use of -%s resolved as -&%s()",
2730                                 tokenbuf, tokenbuf);
2731                     last_lop = oldbufptr;
2732                     last_lop_op = OP_ENTERSUB;
2733                     /* Check for a constant sub */
2734                     cv = GvCV(gv);
2735                     if ((sv = cv_const_sv(cv))) {
2736                   its_constant:
2737                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
2738                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc(sv);
2739                         yylval.opval->op_private = 0;
2740                         TOKEN(WORD);
2741                     }
2742
2743                     /* Resolve to GV now. */
2744                     op_free(yylval.opval);
2745                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
2746                     /* Is there a prototype? */
2747                     if (SvPOK(cv)) {
2748                         STRLEN len;
2749                         char *proto = SvPV((SV*)cv, len);
2750                         if (!len)
2751                             TERM(FUNC0SUB);
2752                         if (strEQ(proto, "$"))
2753                             OPERATOR(UNIOPSUB);
2754                         if (*proto == '&' && *s == '{') {
2755                             sv_setpv(subname,"__ANON__");
2756                             PREBLOCK(LSTOPSUB);
2757                         }
2758                     }
2759                     nextval[nexttoke].opval = yylval.opval;
2760                     expect = XTERM;
2761                     force_next(WORD);
2762                     TOKEN(NOAMP);
2763                 }
2764
2765                 if (hints & HINT_STRICT_SUBS &&
2766                     lastchar != '-' &&
2767                     strnNE(s,"->",2) &&
2768                     last_lop_op != OP_TRUNCATE &&  /* S/F prototype in opcode.pl */
2769                     last_lop_op != OP_ACCEPT &&
2770                     last_lop_op != OP_PIPE_OP &&
2771                     last_lop_op != OP_SOCKPAIR)
2772                 {
2773                     warn(
2774                      "Bareword \"%s\" not allowed while \"strict subs\" in use",
2775                         tokenbuf);
2776                     ++error_count;
2777                 }
2778
2779                 /* Call it a bare word */
2780
2781             bareword:
2782                 if (dowarn) {
2783                     if (lastchar != '-') {
2784                         for (d = tokenbuf; *d && isLOWER(*d); d++) ;
2785                         if (!*d)
2786                             warn(warn_reserved, tokenbuf);
2787                     }
2788                 }
2789                 if (lastchar && strchr("*%&", lastchar)) {
2790                     warn("Operator or semicolon missing before %c%s",
2791                         lastchar, tokenbuf);
2792                     warn("Ambiguous use of %c resolved as operator %c",
2793                         lastchar, lastchar);
2794                 }
2795                 TOKEN(WORD);
2796             }
2797
2798         case KEY___FILE__:
2799             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2800                                         newSVsv(GvSV(curcop->cop_filegv)));
2801             TERM(THING);
2802
2803         case KEY___LINE__:
2804             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2805                                     newSVpvf("%ld", (long)curcop->cop_line));
2806             TERM(THING);
2807
2808         case KEY___PACKAGE__:
2809             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2810                                         (curstash
2811                                          ? newSVsv(curstname)
2812                                          : &sv_undef));
2813             TERM(THING);
2814
2815         case KEY___DATA__:
2816         case KEY___END__: {
2817             GV *gv;
2818
2819             /*SUPPRESS 560*/
2820             if (rsfp && (!in_eval || tokenbuf[2] == 'D')) {
2821                 char *pname = "main";
2822                 if (tokenbuf[2] == 'D')
2823                     pname = HvNAME(curstash ? curstash : defstash);
2824                 gv = gv_fetchpv(form("%s::DATA", pname), TRUE, SVt_PVIO);
2825                 GvMULTI_on(gv);
2826                 if (!GvIO(gv))
2827                     GvIOp(gv) = newIO();
2828                 IoIFP(GvIOp(gv)) = rsfp;
2829 #if defined(HAS_FCNTL) && defined(F_SETFD)
2830                 {
2831                     int fd = PerlIO_fileno(rsfp);
2832                     fcntl(fd,F_SETFD,fd >= 3);
2833                 }
2834 #endif
2835                 /* Mark this internal pseudo-handle as clean */
2836                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
2837                 if (preprocess)
2838                     IoTYPE(GvIOp(gv)) = '|';
2839                 else if ((PerlIO*)rsfp == PerlIO_stdin())
2840                     IoTYPE(GvIOp(gv)) = '-';
2841                 else
2842                     IoTYPE(GvIOp(gv)) = '<';
2843                 rsfp = Nullfp;
2844             }
2845             goto fake_eof;
2846         }
2847
2848         case KEY_AUTOLOAD:
2849         case KEY_DESTROY:
2850         case KEY_BEGIN:
2851         case KEY_END:
2852         case KEY_INIT:
2853             if (expect == XSTATE) {
2854                 s = bufptr;
2855                 goto really_sub;
2856             }
2857             goto just_a_word;
2858
2859         case KEY_CORE:
2860             if (*s == ':' && s[1] == ':') {
2861                 s += 2;
2862                 d = s;
2863                 s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2864                 tmp = keyword(tokenbuf, len);
2865                 if (tmp < 0)
2866                     tmp = -tmp;
2867                 goto reserved_word;
2868             }
2869             goto just_a_word;
2870
2871         case KEY_abs:
2872             UNI(OP_ABS);
2873
2874         case KEY_alarm:
2875             UNI(OP_ALARM);
2876
2877         case KEY_accept:
2878             LOP(OP_ACCEPT,XTERM);
2879
2880         case KEY_and:
2881             OPERATOR(ANDOP);
2882
2883         case KEY_atan2:
2884             LOP(OP_ATAN2,XTERM);
2885
2886         case KEY_bind:
2887             LOP(OP_BIND,XTERM);
2888
2889         case KEY_binmode:
2890             UNI(OP_BINMODE);
2891
2892         case KEY_bless:
2893             LOP(OP_BLESS,XTERM);
2894
2895         case KEY_chop:
2896             UNI(OP_CHOP);
2897
2898         case KEY_continue:
2899             PREBLOCK(CONTINUE);
2900
2901         case KEY_chdir:
2902             (void)gv_fetchpv("ENV",TRUE, SVt_PVHV);     /* may use HOME */
2903             UNI(OP_CHDIR);
2904
2905         case KEY_close:
2906             UNI(OP_CLOSE);
2907
2908         case KEY_closedir:
2909             UNI(OP_CLOSEDIR);
2910
2911         case KEY_cmp:
2912             Eop(OP_SCMP);
2913
2914         case KEY_caller:
2915             UNI(OP_CALLER);
2916
2917         case KEY_crypt:
2918 #ifdef FCRYPT
2919             if (!cryptseen++)
2920                 init_des();
2921 #endif
2922             LOP(OP_CRYPT,XTERM);
2923
2924         case KEY_chmod:
2925             if (dowarn) {
2926                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
2927                 if (*d != '0' && isDIGIT(*d))
2928                     yywarn("chmod: mode argument is missing initial 0");
2929             }
2930             LOP(OP_CHMOD,XTERM);
2931
2932         case KEY_chown:
2933             LOP(OP_CHOWN,XTERM);
2934
2935         case KEY_connect:
2936             LOP(OP_CONNECT,XTERM);
2937
2938         case KEY_chr:
2939             UNI(OP_CHR);
2940
2941         case KEY_cos:
2942             UNI(OP_COS);
2943
2944         case KEY_chroot:
2945             UNI(OP_CHROOT);
2946
2947         case KEY_do:
2948             s = skipspace(s);
2949             if (*s == '{')
2950                 PRETERMBLOCK(DO);
2951             if (*s != '\'')
2952                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
2953             OPERATOR(DO);
2954
2955         case KEY_die:
2956             hints |= HINT_BLOCK_SCOPE;
2957             LOP(OP_DIE,XTERM);
2958
2959         case KEY_defined:
2960             UNI(OP_DEFINED);
2961
2962         case KEY_delete:
2963             UNI(OP_DELETE);
2964
2965         case KEY_dbmopen:
2966             gv_fetchpv("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
2967             LOP(OP_DBMOPEN,XTERM);
2968
2969         case KEY_dbmclose:
2970             UNI(OP_DBMCLOSE);
2971
2972         case KEY_dump:
2973             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2974             LOOPX(OP_DUMP);
2975
2976         case KEY_else:
2977             PREBLOCK(ELSE);
2978
2979         case KEY_elsif:
2980             yylval.ival = curcop->cop_line;
2981             OPERATOR(ELSIF);
2982
2983         case KEY_eq:
2984             Eop(OP_SEQ);
2985
2986         case KEY_exists:
2987             UNI(OP_EXISTS);
2988
2989         case KEY_exit:
2990             UNI(OP_EXIT);
2991
2992         case KEY_eval:
2993             s = skipspace(s);
2994             expect = (*s == '{') ? XTERMBLOCK : XTERM;
2995             UNIBRACK(OP_ENTEREVAL);
2996
2997         case KEY_eof:
2998             UNI(OP_EOF);
2999
3000         case KEY_exp:
3001             UNI(OP_EXP);
3002
3003         case KEY_each:
3004             UNI(OP_EACH);
3005
3006         case KEY_exec:
3007             set_csh();
3008             LOP(OP_EXEC,XREF);
3009
3010         case KEY_endhostent:
3011             FUN0(OP_EHOSTENT);
3012
3013         case KEY_endnetent:
3014             FUN0(OP_ENETENT);
3015
3016         case KEY_endservent:
3017             FUN0(OP_ESERVENT);
3018
3019         case KEY_endprotoent:
3020             FUN0(OP_EPROTOENT);
3021
3022         case KEY_endpwent:
3023             FUN0(OP_EPWENT);
3024
3025         case KEY_endgrent:
3026             FUN0(OP_EGRENT);
3027
3028         case KEY_for:
3029         case KEY_foreach:
3030             yylval.ival = curcop->cop_line;
3031             s = skipspace(s);
3032             if (isIDFIRST(*s)) {
3033                 char *p = s;
3034                 if ((bufend - p) >= 3 &&
3035                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
3036                     p += 2;
3037                 p = skipspace(p);
3038                 if (isIDFIRST(*p))
3039                     croak("Missing $ on loop variable");
3040             }
3041             OPERATOR(FOR);
3042
3043         case KEY_formline:
3044             LOP(OP_FORMLINE,XTERM);
3045
3046         case KEY_fork:
3047             FUN0(OP_FORK);
3048
3049         case KEY_fcntl:
3050             LOP(OP_FCNTL,XTERM);
3051
3052         case KEY_fileno:
3053             UNI(OP_FILENO);
3054
3055         case KEY_flock:
3056             LOP(OP_FLOCK,XTERM);
3057
3058         case KEY_gt:
3059             Rop(OP_SGT);
3060
3061         case KEY_ge:
3062             Rop(OP_SGE);
3063
3064         case KEY_grep:
3065             LOP(OP_GREPSTART, *s == '(' ? XTERM : XREF);
3066
3067         case KEY_goto:
3068             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3069             LOOPX(OP_GOTO);
3070
3071         case KEY_gmtime:
3072             UNI(OP_GMTIME);
3073
3074         case KEY_getc:
3075             UNI(OP_GETC);
3076
3077         case KEY_getppid:
3078             FUN0(OP_GETPPID);
3079
3080         case KEY_getpgrp:
3081             UNI(OP_GETPGRP);
3082
3083         case KEY_getpriority:
3084             LOP(OP_GETPRIORITY,XTERM);
3085
3086         case KEY_getprotobyname:
3087             UNI(OP_GPBYNAME);
3088
3089         case KEY_getprotobynumber:
3090             LOP(OP_GPBYNUMBER,XTERM);
3091
3092         case KEY_getprotoent:
3093             FUN0(OP_GPROTOENT);
3094
3095         case KEY_getpwent:
3096             FUN0(OP_GPWENT);
3097
3098         case KEY_getpwnam:
3099             UNI(OP_GPWNAM);
3100
3101         case KEY_getpwuid:
3102             UNI(OP_GPWUID);
3103
3104         case KEY_getpeername:
3105             UNI(OP_GETPEERNAME);
3106
3107         case KEY_gethostbyname:
3108             UNI(OP_GHBYNAME);
3109
3110         case KEY_gethostbyaddr:
3111             LOP(OP_GHBYADDR,XTERM);
3112
3113         case KEY_gethostent:
3114             FUN0(OP_GHOSTENT);
3115
3116         case KEY_getnetbyname:
3117             UNI(OP_GNBYNAME);
3118
3119         case KEY_getnetbyaddr:
3120             LOP(OP_GNBYADDR,XTERM);
3121
3122         case KEY_getnetent:
3123             FUN0(OP_GNETENT);
3124
3125         case KEY_getservbyname:
3126             LOP(OP_GSBYNAME,XTERM);
3127
3128         case KEY_getservbyport:
3129             LOP(OP_GSBYPORT,XTERM);
3130
3131         case KEY_getservent:
3132             FUN0(OP_GSERVENT);
3133
3134         case KEY_getsockname:
3135             UNI(OP_GETSOCKNAME);
3136
3137         case KEY_getsockopt:
3138             LOP(OP_GSOCKOPT,XTERM);
3139
3140         case KEY_getgrent:
3141             FUN0(OP_GGRENT);
3142
3143         case KEY_getgrnam:
3144             UNI(OP_GGRNAM);
3145
3146         case KEY_getgrgid:
3147             UNI(OP_GGRGID);
3148
3149         case KEY_getlogin:
3150             FUN0(OP_GETLOGIN);
3151
3152         case KEY_glob:
3153             set_csh();
3154             LOP(OP_GLOB,XTERM);
3155
3156         case KEY_hex:
3157             UNI(OP_HEX);
3158
3159         case KEY_if:
3160             yylval.ival = curcop->cop_line;
3161             OPERATOR(IF);
3162
3163         case KEY_index:
3164             LOP(OP_INDEX,XTERM);
3165
3166         case KEY_int:
3167             UNI(OP_INT);
3168
3169         case KEY_ioctl:
3170             LOP(OP_IOCTL,XTERM);
3171
3172         case KEY_join:
3173             LOP(OP_JOIN,XTERM);
3174
3175         case KEY_keys:
3176             UNI(OP_KEYS);
3177
3178         case KEY_kill:
3179             LOP(OP_KILL,XTERM);
3180
3181         case KEY_last:
3182             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3183             LOOPX(OP_LAST);
3184
3185         case KEY_lc:
3186             UNI(OP_LC);
3187
3188         case KEY_lcfirst:
3189             UNI(OP_LCFIRST);
3190
3191         case KEY_local:
3192             OPERATOR(LOCAL);
3193
3194         case KEY_length:
3195             UNI(OP_LENGTH);
3196
3197         case KEY_lt:
3198             Rop(OP_SLT);
3199
3200         case KEY_le:
3201             Rop(OP_SLE);
3202
3203         case KEY_localtime:
3204             UNI(OP_LOCALTIME);
3205
3206         case KEY_log:
3207             UNI(OP_LOG);
3208
3209         case KEY_link:
3210             LOP(OP_LINK,XTERM);
3211
3212         case KEY_listen:
3213             LOP(OP_LISTEN,XTERM);
3214
3215         case KEY_lock:
3216             UNI(OP_LOCK);
3217
3218         case KEY_lstat:
3219             UNI(OP_LSTAT);
3220
3221         case KEY_m:
3222             s = scan_pat(s);
3223             TERM(sublex_start());
3224
3225         case KEY_map:
3226             LOP(OP_MAPSTART,XREF);
3227
3228         case KEY_mkdir:
3229             LOP(OP_MKDIR,XTERM);
3230
3231         case KEY_msgctl:
3232             LOP(OP_MSGCTL,XTERM);
3233
3234         case KEY_msgget:
3235             LOP(OP_MSGGET,XTERM);
3236
3237         case KEY_msgrcv:
3238             LOP(OP_MSGRCV,XTERM);
3239
3240         case KEY_msgsnd:
3241             LOP(OP_MSGSND,XTERM);
3242
3243         case KEY_my:
3244             in_my = TRUE;
3245             s = skipspace(s);
3246             if (isIDFIRST(*s)) {
3247                 s = scan_word(s, tokenbuf, sizeof tokenbuf, TRUE, &len);
3248                 in_my_stash = gv_stashpv(tokenbuf, FALSE);
3249                 if (!in_my_stash) {
3250                     char tmpbuf[1024];
3251                     bufptr = s;
3252                     sprintf(tmpbuf, "No such class %.1000s", tokenbuf);
3253                     yyerror(tmpbuf);
3254                 }
3255             }
3256             OPERATOR(MY);
3257
3258         case KEY_next:
3259             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3260             LOOPX(OP_NEXT);
3261
3262         case KEY_ne:
3263             Eop(OP_SNE);
3264
3265         case KEY_no:
3266             if (expect != XSTATE)
3267                 yyerror("\"no\" not allowed in expression");
3268             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3269             s = force_version(s);
3270             yylval.ival = 0;
3271             OPERATOR(USE);
3272
3273         case KEY_not:
3274             OPERATOR(NOTOP);
3275
3276         case KEY_open:
3277             s = skipspace(s);
3278             if (isIDFIRST(*s)) {
3279                 char *t;
3280                 for (d = s; isALNUM(*d); d++) ;
3281                 t = skipspace(d);
3282                 if (strchr("|&*+-=!?:.", *t))
3283                     warn("Precedence problem: open %.*s should be open(%.*s)",
3284                         d-s,s, d-s,s);
3285             }
3286             LOP(OP_OPEN,XTERM);
3287
3288         case KEY_or:
3289             yylval.ival = OP_OR;
3290             OPERATOR(OROP);
3291
3292         case KEY_ord:
3293             UNI(OP_ORD);
3294
3295         case KEY_oct:
3296             UNI(OP_OCT);
3297
3298         case KEY_opendir:
3299             LOP(OP_OPEN_DIR,XTERM);
3300
3301         case KEY_print:
3302             checkcomma(s,tokenbuf,"filehandle");
3303             LOP(OP_PRINT,XREF);
3304
3305         case KEY_printf:
3306             checkcomma(s,tokenbuf,"filehandle");
3307             LOP(OP_PRTF,XREF);
3308
3309         case KEY_prototype:
3310             UNI(OP_PROTOTYPE);
3311
3312         case KEY_push:
3313             LOP(OP_PUSH,XTERM);
3314
3315         case KEY_pop:
3316             UNI(OP_POP);
3317
3318         case KEY_pos:
3319             UNI(OP_POS);
3320
3321         case KEY_pack:
3322             LOP(OP_PACK,XTERM);
3323
3324         case KEY_package:
3325             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3326             OPERATOR(PACKAGE);
3327
3328         case KEY_pipe:
3329             LOP(OP_PIPE_OP,XTERM);
3330
3331         case KEY_q:
3332             s = scan_str(s);
3333             if (!s)
3334                 missingterm((char*)0);
3335             yylval.ival = OP_CONST;
3336             TERM(sublex_start());
3337
3338         case KEY_quotemeta:
3339             UNI(OP_QUOTEMETA);
3340
3341         case KEY_qw:
3342             s = scan_str(s);
3343             if (!s)
3344                 missingterm((char*)0);
3345             if (dowarn && SvLEN(lex_stuff)) {
3346                 d = SvPV_force(lex_stuff, len);
3347                 for (; len; --len, ++d) {
3348                     if (*d == ',') {
3349                         warn("Possible attempt to separate words with commas");
3350                         break;
3351                     }
3352                     if (*d == '#') {
3353                         warn("Possible attempt to put comments in qw() list");
3354                         break;
3355                     }
3356                 }
3357             }
3358             force_next(')');
3359             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, tokeq(lex_stuff));
3360             lex_stuff = Nullsv;
3361             force_next(THING);
3362             force_next(',');
3363             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(" ",1));
3364             force_next(THING);
3365             force_next('(');
3366             yylval.ival = OP_SPLIT;
3367             CLINE;
3368             expect = XTERM;
3369             bufptr = s;
3370             last_lop = oldbufptr;
3371             last_lop_op = OP_SPLIT;
3372             return FUNC;
3373
3374         case KEY_qq:
3375             s = scan_str(s);
3376             if (!s)
3377                 missingterm((char*)0);
3378             yylval.ival = OP_STRINGIFY;
3379             if (SvIVX(lex_stuff) == '\'')
3380                 SvIVX(lex_stuff) = 0;   /* qq'$foo' should intepolate */
3381             TERM(sublex_start());
3382
3383         case KEY_qx:
3384             s = scan_str(s);
3385             if (!s)
3386                 missingterm((char*)0);
3387             yylval.ival = OP_BACKTICK;
3388             set_csh();
3389             TERM(sublex_start());
3390
3391         case KEY_return:
3392             OLDLOP(OP_RETURN);
3393
3394         case KEY_require:
3395             *tokenbuf = '\0';
3396             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3397             if (isIDFIRST(*tokenbuf))
3398                 gv_stashpvn(tokenbuf, strlen(tokenbuf), TRUE);
3399             else if (*s == '<')
3400                 yyerror("<> should be quotes");
3401             UNI(OP_REQUIRE);
3402
3403         case KEY_reset:
3404             UNI(OP_RESET);
3405
3406         case KEY_redo:
3407             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3408             LOOPX(OP_REDO);
3409
3410         case KEY_rename:
3411             LOP(OP_RENAME,XTERM);
3412
3413         case KEY_rand:
3414             UNI(OP_RAND);
3415
3416         case KEY_rmdir:
3417             UNI(OP_RMDIR);
3418
3419         case KEY_rindex:
3420             LOP(OP_RINDEX,XTERM);
3421
3422         case KEY_read:
3423             LOP(OP_READ,XTERM);
3424
3425         case KEY_readdir:
3426             UNI(OP_READDIR);
3427
3428         case KEY_readline:
3429             set_csh();
3430             UNI(OP_READLINE);
3431
3432         case KEY_readpipe:
3433             set_csh();
3434             UNI(OP_BACKTICK);
3435
3436         case KEY_rewinddir:
3437             UNI(OP_REWINDDIR);
3438
3439         case KEY_recv:
3440             LOP(OP_RECV,XTERM);
3441
3442         case KEY_reverse:
3443             LOP(OP_REVERSE,XTERM);
3444
3445         case KEY_readlink:
3446             UNI(OP_READLINK);
3447
3448         case KEY_ref:
3449             UNI(OP_REF);
3450
3451         case KEY_s:
3452             s = scan_subst(s);
3453             if (yylval.opval)
3454                 TERM(sublex_start());
3455             else
3456                 TOKEN(1);       /* force error */
3457
3458         case KEY_chomp:
3459             UNI(OP_CHOMP);
3460
3461         case KEY_scalar:
3462             UNI(OP_SCALAR);
3463
3464         case KEY_select:
3465             LOP(OP_SELECT,XTERM);
3466
3467         case KEY_seek:
3468             LOP(OP_SEEK,XTERM);
3469
3470         case KEY_semctl:
3471             LOP(OP_SEMCTL,XTERM);
3472
3473         case KEY_semget:
3474             LOP(OP_SEMGET,XTERM);
3475
3476         case KEY_semop:
3477             LOP(OP_SEMOP,XTERM);
3478
3479         case KEY_send:
3480             LOP(OP_SEND,XTERM);
3481
3482         case KEY_setpgrp:
3483             LOP(OP_SETPGRP,XTERM);
3484
3485         case KEY_setpriority:
3486             LOP(OP_SETPRIORITY,XTERM);
3487
3488         case KEY_sethostent:
3489             UNI(OP_SHOSTENT);
3490
3491         case KEY_setnetent:
3492             UNI(OP_SNETENT);
3493
3494         case KEY_setservent:
3495             UNI(OP_SSERVENT);
3496
3497         case KEY_setprotoent:
3498             UNI(OP_SPROTOENT);
3499
3500         case KEY_setpwent:
3501             FUN0(OP_SPWENT);
3502
3503         case KEY_setgrent:
3504             FUN0(OP_SGRENT);
3505
3506         case KEY_seekdir:
3507             LOP(OP_SEEKDIR,XTERM);
3508
3509         case KEY_setsockopt:
3510             LOP(OP_SSOCKOPT,XTERM);
3511
3512         case KEY_shift:
3513             UNI(OP_SHIFT);
3514
3515         case KEY_shmctl:
3516             LOP(OP_SHMCTL,XTERM);
3517
3518         case KEY_shmget:
3519             LOP(OP_SHMGET,XTERM);
3520
3521         case KEY_shmread:
3522             LOP(OP_SHMREAD,XTERM);
3523
3524         case KEY_shmwrite:
3525             LOP(OP_SHMWRITE,XTERM);
3526
3527         case KEY_shutdown:
3528             LOP(OP_SHUTDOWN,XTERM);
3529
3530         case KEY_sin:
3531             UNI(OP_SIN);
3532
3533         case KEY_sleep:
3534             UNI(OP_SLEEP);
3535
3536         case KEY_socket:
3537             LOP(OP_SOCKET,XTERM);
3538
3539         case KEY_socketpair:
3540             LOP(OP_SOCKPAIR,XTERM);
3541
3542         case KEY_sort:
3543             checkcomma(s,tokenbuf,"subroutine name");
3544             s = skipspace(s);
3545             if (*s == ';' || *s == ')')         /* probably a close */
3546                 croak("sort is now a reserved word");
3547             expect = XTERM;
3548             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3549             LOP(OP_SORT,XREF);
3550
3551         case KEY_split:
3552             LOP(OP_SPLIT,XTERM);
3553
3554         case KEY_sprintf:
3555             LOP(OP_SPRINTF,XTERM);
3556
3557         case KEY_splice:
3558             LOP(OP_SPLICE,XTERM);
3559
3560         case KEY_sqrt:
3561             UNI(OP_SQRT);
3562
3563         case KEY_srand:
3564             UNI(OP_SRAND);
3565
3566         case KEY_stat:
3567             UNI(OP_STAT);
3568
3569         case KEY_study:
3570             sawstudy++;
3571             UNI(OP_STUDY);
3572
3573         case KEY_substr:
3574             LOP(OP_SUBSTR,XTERM);
3575
3576         case KEY_format:
3577         case KEY_sub:
3578           really_sub:
3579             s = skipspace(s);
3580
3581             if (isIDFIRST(*s) || *s == '\'' || *s == ':') {
3582                 char tmpbuf[sizeof tokenbuf];
3583                 expect = XBLOCK;
3584                 d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
3585                 if (strchr(tmpbuf, ':'))
3586                     sv_setpv(subname, tmpbuf);
3587                 else {
3588                     sv_setsv(subname,curstname);
3589                     sv_catpvn(subname,"::",2);
3590                     sv_catpvn(subname,tmpbuf,len);
3591                 }
3592                 s = force_word(s,WORD,FALSE,TRUE,TRUE);
3593                 s = skipspace(s);
3594             }
3595             else {
3596                 expect = XTERMBLOCK;
3597                 sv_setpv(subname,"?");
3598             }
3599
3600             if (tmp == KEY_format) {
3601                 s = skipspace(s);
3602                 if (*s == '=')
3603                     lex_formbrack = lex_brackets + 1;
3604                 OPERATOR(FORMAT);
3605             }
3606
3607             /* Look for a prototype */
3608             if (*s == '(') {
3609                 char *p;
3610
3611                 s = scan_str(s);
3612                 if (!s) {
3613                     if (lex_stuff)
3614                         SvREFCNT_dec(lex_stuff);
3615                     lex_stuff = Nullsv;
3616                     croak("Prototype not terminated");
3617                 }
3618                 /* strip spaces */
3619                 d = SvPVX(lex_stuff);
3620                 tmp = 0;
3621                 for (p = d; *p; ++p) {
3622                     if (!isSPACE(*p))
3623                         d[tmp++] = *p;
3624                 }
3625                 d[tmp] = '\0';
3626                 SvCUR(lex_stuff) = tmp;
3627
3628                 nexttoke++;
3629                 nextval[1] = nextval[0];
3630                 nexttype[1] = nexttype[0];
3631                 nextval[0].opval = (OP*)newSVOP(OP_CONST, 0, lex_stuff);
3632                 nexttype[0] = THING;
3633                 if (nexttoke == 1) {
3634                     lex_defer = lex_state;
3635                     lex_expect = expect;
3636                     lex_state = LEX_KNOWNEXT;
3637                 }
3638                 lex_stuff = Nullsv;
3639             }
3640
3641             if (*SvPV(subname,na) == '?') {
3642                 sv_setpv(subname,"__ANON__");
3643                 TOKEN(ANONSUB);
3644             }
3645             PREBLOCK(SUB);
3646
3647         case KEY_system:
3648             set_csh();
3649             LOP(OP_SYSTEM,XREF);
3650
3651         case KEY_symlink:
3652             LOP(OP_SYMLINK,XTERM);
3653
3654         case KEY_syscall:
3655             LOP(OP_SYSCALL,XTERM);
3656
3657         case KEY_sysopen:
3658             LOP(OP_SYSOPEN,XTERM);
3659
3660         case KEY_sysseek:
3661             LOP(OP_SYSSEEK,XTERM);
3662
3663         case KEY_sysread:
3664             LOP(OP_SYSREAD,XTERM);
3665
3666         case KEY_syswrite:
3667             LOP(OP_SYSWRITE,XTERM);
3668
3669         case KEY_tr:
3670             s = scan_trans(s);
3671             TERM(sublex_start());
3672
3673         case KEY_tell:
3674             UNI(OP_TELL);
3675
3676         case KEY_telldir:
3677             UNI(OP_TELLDIR);
3678
3679         case KEY_tie:
3680             LOP(OP_TIE,XTERM);
3681
3682         case KEY_tied:
3683             UNI(OP_TIED);
3684
3685         case KEY_time:
3686             FUN0(OP_TIME);
3687
3688         case KEY_times:
3689             FUN0(OP_TMS);
3690
3691         case KEY_truncate:
3692             LOP(OP_TRUNCATE,XTERM);
3693
3694         case KEY_uc:
3695             UNI(OP_UC);
3696
3697         case KEY_ucfirst:
3698             UNI(OP_UCFIRST);
3699
3700         case KEY_untie:
3701             UNI(OP_UNTIE);
3702
3703         case KEY_until:
3704             yylval.ival = curcop->cop_line;
3705             OPERATOR(UNTIL);
3706
3707         case KEY_unless:
3708             yylval.ival = curcop->cop_line;
3709             OPERATOR(UNLESS);
3710
3711         case KEY_unlink:
3712             LOP(OP_UNLINK,XTERM);
3713
3714         case KEY_undef:
3715             UNI(OP_UNDEF);
3716
3717         case KEY_unpack:
3718             LOP(OP_UNPACK,XTERM);
3719
3720         case KEY_utime:
3721             LOP(OP_UTIME,XTERM);
3722
3723         case KEY_umask:
3724             if (dowarn) {
3725                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
3726                 if (*d != '0' && isDIGIT(*d))
3727                     yywarn("umask: argument is missing initial 0");
3728             }
3729             UNI(OP_UMASK);
3730
3731         case KEY_unshift:
3732             LOP(OP_UNSHIFT,XTERM);
3733
3734         case KEY_use:
3735             if (expect != XSTATE)
3736                 yyerror("\"use\" not allowed in expression");
3737             s = skipspace(s);
3738             if(isDIGIT(*s)) {
3739                 s = force_version(s);
3740                 if(*s == ';' || (s = skipspace(s), *s == ';')) {
3741                     nextval[nexttoke].opval = Nullop;
3742                     force_next(WORD);
3743                 }
3744             }
3745             else {
3746                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
3747                 s = force_version(s);
3748             }
3749             yylval.ival = 1;
3750             OPERATOR(USE);
3751
3752         case KEY_values:
3753             UNI(OP_VALUES);
3754
3755         case KEY_vec:
3756             sawvec = TRUE;
3757             LOP(OP_VEC,XTERM);
3758
3759         case KEY_while:
3760             yylval.ival = curcop->cop_line;
3761             OPERATOR(WHILE);
3762
3763         case KEY_warn:
3764             hints |= HINT_BLOCK_SCOPE;
3765             LOP(OP_WARN,XTERM);
3766
3767         case KEY_wait:
3768             FUN0(OP_WAIT);
3769
3770         case KEY_waitpid:
3771             LOP(OP_WAITPID,XTERM);
3772
3773         case KEY_wantarray:
3774             FUN0(OP_WANTARRAY);
3775
3776         case KEY_write:
3777             gv_fetchpv("\f",TRUE, SVt_PV);      /* Make sure $^L is defined */
3778             UNI(OP_ENTERWRITE);
3779
3780         case KEY_x:
3781             if (expect == XOPERATOR)
3782                 Mop(OP_REPEAT);
3783             check_uni();
3784             goto just_a_word;
3785
3786         case KEY_xor:
3787             yylval.ival = OP_XOR;
3788             OPERATOR(OROP);
3789
3790         case KEY_y:
3791             s = scan_trans(s);
3792             TERM(sublex_start());
3793         }
3794     }}
3795 }
3796
3797 I32
3798 keyword(register char *d, I32 len)
3799 {
3800     switch (*d) {
3801     case '_':
3802         if (d[1] == '_') {
3803             if (strEQ(d,"__FILE__"))            return -KEY___FILE__;
3804             if (strEQ(d,"__LINE__"))            return -KEY___LINE__;
3805             if (strEQ(d,"__PACKAGE__"))         return -KEY___PACKAGE__;
3806             if (strEQ(d,"__DATA__"))            return KEY___DATA__;
3807             if (strEQ(d,"__END__"))             return KEY___END__;
3808         }
3809         break;
3810     case 'A':
3811         if (strEQ(d,"AUTOLOAD"))                return KEY_AUTOLOAD;
3812         break;
3813     case 'a':
3814         switch (len) {
3815         case 3:
3816             if (strEQ(d,"and"))                 return -KEY_and;
3817             if (strEQ(d,"abs"))                 return -KEY_abs;
3818             break;
3819         case 5:
3820             if (strEQ(d,"alarm"))               return -KEY_alarm;
3821             if (strEQ(d,"atan2"))               return -KEY_atan2;
3822             break;
3823         case 6:
3824             if (strEQ(d,"accept"))              return -KEY_accept;
3825             break;
3826         }
3827         break;
3828     case 'B':
3829         if (strEQ(d,"BEGIN"))                   return KEY_BEGIN;
3830         break;
3831     case 'b':
3832         if (strEQ(d,"bless"))                   return -KEY_bless;
3833         if (strEQ(d,"bind"))                    return -KEY_bind;
3834         if (strEQ(d,"binmode"))                 return -KEY_binmode;
3835         break;
3836     case 'C':
3837         if (strEQ(d,"CORE"))                    return -KEY_CORE;
3838         break;
3839     case 'c':
3840         switch (len) {
3841         case 3:
3842             if (strEQ(d,"cmp"))                 return -KEY_cmp;
3843             if (strEQ(d,"chr"))                 return -KEY_chr;
3844             if (strEQ(d,"cos"))                 return -KEY_cos;
3845             break;
3846         case 4:
3847             if (strEQ(d,"chop"))                return KEY_chop;
3848             break;
3849         case 5:
3850             if (strEQ(d,"close"))               return -KEY_close;
3851             if (strEQ(d,"chdir"))               return -KEY_chdir;
3852             if (strEQ(d,"chomp"))               return KEY_chomp;
3853             if (strEQ(d,"chmod"))               return -KEY_chmod;
3854             if (strEQ(d,"chown"))               return -KEY_chown;
3855             if (strEQ(d,"crypt"))               return -KEY_crypt;
3856             break;
3857         case 6:
3858             if (strEQ(d,"chroot"))              return -KEY_chroot;
3859             if (strEQ(d,"caller"))              return -KEY_caller;
3860             break;
3861         case 7:
3862             if (strEQ(d,"connect"))             return -KEY_connect;
3863             break;
3864         case 8:
3865             if (strEQ(d,"closedir"))            return -KEY_closedir;
3866             if (strEQ(d,"continue"))            return -KEY_continue;
3867             break;
3868         }
3869         break;
3870     case 'D':
3871         if (strEQ(d,"DESTROY"))                 return KEY_DESTROY;
3872         break;
3873     case 'd':
3874         switch (len) {
3875         case 2:
3876             if (strEQ(d,"do"))                  return KEY_do;
3877             break;
3878         case 3:
3879             if (strEQ(d,"die"))                 return -KEY_die;
3880             break;
3881         case 4:
3882             if (strEQ(d,"dump"))                return -KEY_dump;
3883             break;
3884         case 6:
3885             if (strEQ(d,"delete"))              return KEY_delete;
3886             break;
3887         case 7:
3888             if (strEQ(d,"defined"))             return KEY_defined;
3889             if (strEQ(d,"dbmopen"))             return -KEY_dbmopen;
3890             break;
3891         case 8:
3892             if (strEQ(d,"dbmclose"))            return -KEY_dbmclose;
3893             break;
3894         }
3895         break;
3896     case 'E':
3897         if (strEQ(d,"EQ")) { deprecate(d);      return -KEY_eq;}
3898         if (strEQ(d,"END"))                     return KEY_END;
3899         break;
3900     case 'e':
3901         switch (len) {
3902         case 2:
3903             if (strEQ(d,"eq"))                  return -KEY_eq;
3904             break;
3905         case 3:
3906             if (strEQ(d,"eof"))                 return -KEY_eof;
3907             if (strEQ(d,"exp"))                 return -KEY_exp;
3908             break;
3909         case 4:
3910             if (strEQ(d,"else"))                return KEY_else;
3911             if (strEQ(d,"exit"))                return -KEY_exit;
3912             if (strEQ(d,"eval"))                return KEY_eval;
3913             if (strEQ(d,"exec"))                return -KEY_exec;
3914             if (strEQ(d,"each"))                return KEY_each;
3915             break;
3916         case 5:
3917             if (strEQ(d,"elsif"))               return KEY_elsif;
3918             break;
3919         case 6:
3920             if (strEQ(d,"exists"))              return KEY_exists;
3921             if (strEQ(d,"elseif")) warn("elseif should be elsif");
3922             break;
3923         case 8:
3924             if (strEQ(d,"endgrent"))            return -KEY_endgrent;
3925             if (strEQ(d,"endpwent"))            return -KEY_endpwent;
3926             break;
3927         case 9:
3928             if (strEQ(d,"endnetent"))           return -KEY_endnetent;
3929             break;
3930         case 10:
3931             if (strEQ(d,"endhostent"))          return -KEY_endhostent;
3932             if (strEQ(d,"endservent"))          return -KEY_endservent;
3933             break;
3934         case 11:
3935             if (strEQ(d,"endprotoent"))         return -KEY_endprotoent;
3936             break;
3937         }
3938         break;
3939     case 'f':
3940         switch (len) {
3941         case 3:
3942             if (strEQ(d,"for"))                 return KEY_for;
3943             break;
3944         case 4:
3945             if (strEQ(d,"fork"))                return -KEY_fork;
3946             break;
3947         case 5:
3948             if (strEQ(d,"fcntl"))               return -KEY_fcntl;
3949             if (strEQ(d,"flock"))               return -KEY_flock;
3950             break;
3951         case 6:
3952             if (strEQ(d,"format"))              return KEY_format;
3953             if (strEQ(d,"fileno"))              return -KEY_fileno;
3954             break;
3955         case 7:
3956             if (strEQ(d,"foreach"))             return KEY_foreach;
3957             break;
3958         case 8:
3959             if (strEQ(d,"formline"))            return -KEY_formline;
3960             break;
3961         }
3962         break;
3963     case 'G':
3964         if (len == 2) {
3965             if (strEQ(d,"GT")) { deprecate(d);  return -KEY_gt;}
3966             if (strEQ(d,"GE")) { deprecate(d);  return -KEY_ge;}
3967         }
3968         break;
3969     case 'g':
3970         if (strnEQ(d,"get",3)) {
3971             d += 3;
3972             if (*d == 'p') {
3973                 switch (len) {
3974                 case 7:
3975                     if (strEQ(d,"ppid"))        return -KEY_getppid;
3976                     if (strEQ(d,"pgrp"))        return -KEY_getpgrp;
3977                     break;
3978                 case 8:
3979                     if (strEQ(d,"pwent"))       return -KEY_getpwent;
3980                     if (strEQ(d,"pwnam"))       return -KEY_getpwnam;
3981                     if (strEQ(d,"pwuid"))       return -KEY_getpwuid;
3982                     break;
3983                 case 11:
3984                     if (strEQ(d,"peername"))    return -KEY_getpeername;
3985                     if (strEQ(d,"protoent"))    return -KEY_getprotoent;
3986                     if (strEQ(d,"priority"))    return -KEY_getpriority;
3987                     break;
3988                 case 14:
3989                     if (strEQ(d,"protobyname")) return -KEY_getprotobyname;
3990                     break;
3991                 case 16:
3992                     if (strEQ(d,"protobynumber"))return -KEY_getprotobynumber;
3993                     break;
3994                 }
3995             }
3996             else if (*d == 'h') {
3997                 if (strEQ(d,"hostbyname"))      return -KEY_gethostbyname;
3998                 if (strEQ(d,"hostbyaddr"))      return -KEY_gethostbyaddr;
3999                 if (strEQ(d,"hostent"))         return -KEY_gethostent;
4000             }
4001             else if (*d == 'n') {
4002                 if (strEQ(d,"netbyname"))       return -KEY_getnetbyname;
4003                 if (strEQ(d,"netbyaddr"))       return -KEY_getnetbyaddr;
4004                 if (strEQ(d,"netent"))          return -KEY_getnetent;
4005             }
4006             else if (*d == 's') {
4007                 if (strEQ(d,"servbyname"))      return -KEY_getservbyname;
4008                 if (strEQ(d,"servbyport"))      return -KEY_getservbyport;
4009                 if (strEQ(d,"servent"))         return -KEY_getservent;
4010                 if (strEQ(d,"sockname"))        return -KEY_getsockname;
4011                 if (strEQ(d,"sockopt"))         return -KEY_getsockopt;
4012             }
4013             else if (*d == 'g') {
4014                 if (strEQ(d,"grent"))           return -KEY_getgrent;
4015                 if (strEQ(d,"grnam"))           return -KEY_getgrnam;
4016                 if (strEQ(d,"grgid"))           return -KEY_getgrgid;
4017             }
4018             else if (*d == 'l') {
4019                 if (strEQ(d,"login"))           return -KEY_getlogin;
4020             }
4021             else if (strEQ(d,"c"))              return -KEY_getc;
4022             break;
4023         }
4024         switch (len) {
4025         case 2:
4026             if (strEQ(d,"gt"))                  return -KEY_gt;
4027             if (strEQ(d,"ge"))                  return -KEY_ge;
4028             break;
4029         case 4:
4030             if (strEQ(d,"grep"))                return KEY_grep;
4031             if (strEQ(d,"goto"))                return KEY_goto;
4032             if (strEQ(d,"glob"))                return KEY_glob;
4033             break;
4034         case 6:
4035             if (strEQ(d,"gmtime"))              return -KEY_gmtime;
4036             break;
4037         }
4038         break;
4039     case 'h':
4040         if (strEQ(d,"hex"))                     return -KEY_hex;
4041         break;
4042     case 'I':
4043         if (strEQ(d,"INIT"))                    return KEY_INIT;
4044         break;
4045     case 'i':
4046         switch (len) {
4047         case 2:
4048             if (strEQ(d,"if"))                  return KEY_if;
4049             break;
4050         case 3:
4051             if (strEQ(d,"int"))                 return -KEY_int;
4052             break;
4053         case 5:
4054             if (strEQ(d,"index"))               return -KEY_index;
4055             if (strEQ(d,"ioctl"))               return -KEY_ioctl;
4056             break;
4057         }
4058         break;
4059     case 'j':
4060         if (strEQ(d,"join"))                    return -KEY_join;
4061         break;
4062     case 'k':
4063         if (len == 4) {
4064             if (strEQ(d,"keys"))                return KEY_keys;
4065             if (strEQ(d,"kill"))                return -KEY_kill;
4066         }
4067         break;
4068     case 'L':
4069         if (len == 2) {
4070             if (strEQ(d,"LT")) { deprecate(d);  return -KEY_lt;}
4071             if (strEQ(d,"LE")) { deprecate(d);  return -KEY_le;}
4072         }
4073         break;
4074     case 'l':
4075         switch (len) {
4076         case 2:
4077             if (strEQ(d,"lt"))                  return -KEY_lt;
4078             if (strEQ(d,"le"))                  return -KEY_le;
4079             if (strEQ(d,"lc"))                  return -KEY_lc;
4080             break;
4081         case 3:
4082             if (strEQ(d,"log"))                 return -KEY_log;
4083             break;
4084         case 4:
4085             if (strEQ(d,"last"))                return KEY_last;
4086             if (strEQ(d,"link"))                return -KEY_link;
4087             if (strEQ(d,"lock"))                return -KEY_lock;
4088             break;
4089         case 5:
4090             if (strEQ(d,"local"))               return KEY_local;
4091             if (strEQ(d,"lstat"))               return -KEY_lstat;
4092             break;
4093         case 6:
4094             if (strEQ(d,"length"))              return -KEY_length;
4095             if (strEQ(d,"listen"))              return -KEY_listen;
4096             break;
4097         case 7:
4098             if (strEQ(d,"lcfirst"))             return -KEY_lcfirst;
4099             break;
4100         case 9:
4101             if (strEQ(d,"localtime"))           return -KEY_localtime;
4102             break;
4103         }
4104         break;
4105     case 'm':
4106         switch (len) {
4107         case 1:                                 return KEY_m;
4108         case 2:
4109             if (strEQ(d,"my"))                  return KEY_my;
4110             break;
4111         case 3:
4112             if (strEQ(d,"map"))                 return KEY_map;
4113             break;
4114         case 5:
4115             if (strEQ(d,"mkdir"))               return -KEY_mkdir;
4116             break;
4117         case 6:
4118             if (strEQ(d,"msgctl"))              return -KEY_msgctl;
4119             if (strEQ(d,"msgget"))              return -KEY_msgget;
4120             if (strEQ(d,"msgrcv"))              return -KEY_msgrcv;
4121             if (strEQ(d,"msgsnd"))              return -KEY_msgsnd;
4122             break;
4123         }
4124         break;
4125     case 'N':
4126         if (strEQ(d,"NE")) { deprecate(d);      return -KEY_ne;}
4127         break;
4128     case 'n':
4129         if (strEQ(d,"next"))                    return KEY_next;
4130         if (strEQ(d,"ne"))                      return -KEY_ne;
4131         if (strEQ(d,"not"))                     return -KEY_not;
4132         if (strEQ(d,"no"))                      return KEY_no;
4133         break;
4134     case 'o':
4135         switch (len) {
4136         case 2:
4137             if (strEQ(d,"or"))                  return -KEY_or;
4138             break;
4139         case 3:
4140             if (strEQ(d,"ord"))                 return -KEY_ord;
4141             if (strEQ(d,"oct"))                 return -KEY_oct;
4142             break;
4143         case 4:
4144             if (strEQ(d,"open"))                return -KEY_open;
4145             break;
4146         case 7:
4147             if (strEQ(d,"opendir"))             return -KEY_opendir;
4148             break;
4149         }
4150         break;
4151     case 'p':
4152         switch (len) {
4153         case 3:
4154             if (strEQ(d,"pop"))                 return KEY_pop;
4155             if (strEQ(d,"pos"))                 return KEY_pos;
4156             break;
4157         case 4:
4158             if (strEQ(d,"push"))                return KEY_push;
4159             if (strEQ(d,"pack"))                return -KEY_pack;
4160             if (strEQ(d,"pipe"))                return -KEY_pipe;
4161             break;
4162         case 5:
4163             if (strEQ(d,"print"))               return KEY_print;
4164             break;
4165         case 6:
4166             if (strEQ(d,"printf"))              return KEY_printf;
4167             break;
4168         case 7:
4169             if (strEQ(d,"package"))             return KEY_package;
4170             break;
4171         case 9:
4172             if (strEQ(d,"prototype"))           return KEY_prototype;
4173         }
4174         break;
4175     case 'q':
4176         if (len <= 2) {
4177             if (strEQ(d,"q"))                   return KEY_q;
4178             if (strEQ(d,"qq"))                  return KEY_qq;
4179             if (strEQ(d,"qw"))                  return KEY_qw;
4180             if (strEQ(d,"qx"))                  return KEY_qx;
4181         }
4182         else if (strEQ(d,"quotemeta"))          return -KEY_quotemeta;
4183         break;
4184     case 'r':
4185         switch (len) {
4186         case 3:
4187             if (strEQ(d,"ref"))                 return -KEY_ref;
4188             break;
4189         case 4:
4190             if (strEQ(d,"read"))                return -KEY_read;
4191             if (strEQ(d,"rand"))                return -KEY_rand;
4192             if (strEQ(d,"recv"))                return -KEY_recv;
4193             if (strEQ(d,"redo"))                return KEY_redo;
4194             break;
4195         case 5:
4196             if (strEQ(d,"rmdir"))               return -KEY_rmdir;
4197             if (strEQ(d,"reset"))               return -KEY_reset;
4198             break;
4199         case 6:
4200             if (strEQ(d,"return"))              return KEY_return;
4201             if (strEQ(d,"rename"))              return -KEY_rename;
4202             if (strEQ(d,"rindex"))              return -KEY_rindex;
4203             break;
4204         case 7:
4205             if (strEQ(d,"require"))             return -KEY_require;
4206             if (strEQ(d,"reverse"))             return -KEY_reverse;
4207             if (strEQ(d,"readdir"))             return -KEY_readdir;
4208             break;
4209         case 8:
4210             if (strEQ(d,"readlink"))            return -KEY_readlink;
4211             if (strEQ(d,"readline"))            return -KEY_readline;
4212             if (strEQ(d,"readpipe"))            return -KEY_readpipe;
4213             break;
4214         case 9:
4215             if (strEQ(d,"rewinddir"))           return -KEY_rewinddir;
4216             break;
4217         }
4218         break;
4219     case 's':
4220         switch (d[1]) {
4221         case 0:                                 return KEY_s;
4222         case 'c':
4223             if (strEQ(d,"scalar"))              return KEY_scalar;
4224             break;
4225         case 'e':
4226             switch (len) {
4227             case 4:
4228                 if (strEQ(d,"seek"))            return -KEY_seek;
4229                 if (strEQ(d,"send"))            return -KEY_send;
4230                 break;
4231             case 5:
4232                 if (strEQ(d,"semop"))           return -KEY_semop;
4233                 break;
4234             case 6:
4235                 if (strEQ(d,"select"))          return -KEY_select;
4236                 if (strEQ(d,"semctl"))          return -KEY_semctl;
4237                 if (strEQ(d,"semget"))          return -KEY_semget;
4238                 break;
4239             case 7:
4240                 if (strEQ(d,"setpgrp"))         return -KEY_setpgrp;
4241                 if (strEQ(d,"seekdir"))         return -KEY_seekdir;
4242                 break;
4243             case 8:
4244                 if (strEQ(d,"setpwent"))        return -KEY_setpwent;
4245                 if (strEQ(d,"setgrent"))        return -KEY_setgrent;
4246                 break;
4247             case 9:
4248                 if (strEQ(d,"setnetent"))       return -KEY_setnetent;
4249                 break;
4250             case 10:
4251                 if (strEQ(d,"setsockopt"))      return -KEY_setsockopt;
4252                 if (strEQ(d,"sethostent"))      return -KEY_sethostent;
4253                 if (strEQ(d,"setservent"))      return -KEY_setservent;
4254                 break;
4255             case 11:
4256                 if (strEQ(d,"setpriority"))     return -KEY_setpriority;
4257                 if (strEQ(d,"setprotoent"))     return -KEY_setprotoent;
4258                 break;
4259             }
4260             break;
4261         case 'h':
4262             switch (len) {
4263             case 5:
4264                 if (strEQ(d,"shift"))           return KEY_shift;
4265                 break;
4266             case 6:
4267                 if (strEQ(d,"shmctl"))          return -KEY_shmctl;
4268                 if (strEQ(d,"shmget"))          return -KEY_shmget;
4269                 break;
4270             case 7:
4271                 if (strEQ(d,"shmread"))         return -KEY_shmread;
4272                 break;
4273             case 8:
4274                 if (strEQ(d,"shmwrite"))        return -KEY_shmwrite;
4275                 if (strEQ(d,"shutdown"))        return -KEY_shutdown;
4276                 break;
4277             }
4278             break;
4279         case 'i':
4280             if (strEQ(d,"sin"))                 return -KEY_sin;
4281             break;
4282         case 'l':
4283             if (strEQ(d,"sleep"))               return -KEY_sleep;
4284             break;
4285         case 'o':
4286             if (strEQ(d,"sort"))                return KEY_sort;
4287             if (strEQ(d,"socket"))              return -KEY_socket;
4288             if (strEQ(d,"socketpair"))          return -KEY_socketpair;
4289             break;
4290         case 'p':
4291             if (strEQ(d,"split"))               return KEY_split;
4292             if (strEQ(d,"sprintf"))             return -KEY_sprintf;
4293             if (strEQ(d,"splice"))              return KEY_splice;
4294             break;
4295         case 'q':
4296             if (strEQ(d,"sqrt"))                return -KEY_sqrt;
4297             break;
4298         case 'r':
4299             if (strEQ(d,"srand"))               return -KEY_srand;
4300             break;
4301         case 't':
4302             if (strEQ(d,"stat"))                return -KEY_stat;
4303             if (strEQ(d,"study"))               return KEY_study;
4304             break;
4305         case 'u':
4306             if (strEQ(d,"substr"))              return -KEY_substr;
4307             if (strEQ(d,"sub"))                 return KEY_sub;
4308             break;
4309         case 'y':
4310             switch (len) {
4311             case 6:
4312                 if (strEQ(d,"system"))          return -KEY_system;
4313                 break;
4314             case 7:
4315                 if (strEQ(d,"symlink"))         return -KEY_symlink;
4316                 if (strEQ(d,"syscall"))         return -KEY_syscall;
4317                 if (strEQ(d,"sysopen"))         return -KEY_sysopen;
4318                 if (strEQ(d,"sysread"))         return -KEY_sysread;
4319                 if (strEQ(d,"sysseek"))         return -KEY_sysseek;
4320                 break;
4321             case 8:
4322                 if (strEQ(d,"syswrite"))        return -KEY_syswrite;
4323                 break;
4324             }
4325             break;
4326         }
4327         break;
4328     case 't':
4329         switch (len) {
4330         case 2:
4331             if (strEQ(d,"tr"))                  return KEY_tr;
4332             break;
4333         case 3:
4334             if (strEQ(d,"tie"))                 return KEY_tie;
4335             break;
4336         case 4:
4337             if (strEQ(d,"tell"))                return -KEY_tell;
4338             if (strEQ(d,"tied"))                return KEY_tied;
4339             if (strEQ(d,"time"))                return -KEY_time;
4340             break;
4341         case 5:
4342             if (strEQ(d,"times"))               return -KEY_times;
4343             break;
4344         case 7:
4345             if (strEQ(d,"telldir"))             return -KEY_telldir;
4346             break;
4347         case 8:
4348             if (strEQ(d,"truncate"))            return -KEY_truncate;
4349             break;
4350         }
4351         break;
4352     case 'u':
4353         switch (len) {
4354         case 2:
4355             if (strEQ(d,"uc"))                  return -KEY_uc;
4356             break;
4357         case 3:
4358             if (strEQ(d,"use"))                 return KEY_use;
4359             break;
4360         case 5:
4361             if (strEQ(d,"undef"))               return KEY_undef;
4362             if (strEQ(d,"until"))               return KEY_until;
4363             if (strEQ(d,"untie"))               return KEY_untie;
4364             if (strEQ(d,"utime"))               return -KEY_utime;
4365             if (strEQ(d,"umask"))               return -KEY_umask;
4366             break;
4367         case 6:
4368             if (strEQ(d,"unless"))              return KEY_unless;
4369             if (strEQ(d,"unpack"))              return -KEY_unpack;
4370             if (strEQ(d,"unlink"))              return -KEY_unlink;
4371             break;
4372         case 7:
4373             if (strEQ(d,"unshift"))             return KEY_unshift;
4374             if (strEQ(d,"ucfirst"))             return -KEY_ucfirst;
4375             break;
4376         }
4377         break;
4378     case 'v':
4379         if (strEQ(d,"values"))                  return -KEY_values;
4380         if (strEQ(d,"vec"))                     return -KEY_vec;
4381         break;
4382     case 'w':
4383         switch (len) {
4384         case 4:
4385             if (strEQ(d,"warn"))                return -KEY_warn;
4386             if (strEQ(d,"wait"))                return -KEY_wait;
4387             break;
4388         case 5:
4389             if (strEQ(d,"while"))               return KEY_while;
4390             if (strEQ(d,"write"))               return -KEY_write;
4391             break;
4392         case 7:
4393             if (strEQ(d,"waitpid"))             return -KEY_waitpid;
4394             break;
4395         case 9:
4396             if (strEQ(d,"wantarray"))           return -KEY_wantarray;
4397             break;
4398         }
4399         break;
4400     case 'x':
4401         if (len == 1)                           return -KEY_x;
4402         if (strEQ(d,"xor"))                     return -KEY_xor;
4403         break;
4404     case 'y':
4405         if (len == 1)                           return KEY_y;
4406         break;
4407     case 'z':
4408         break;
4409     }
4410     return 0;
4411 }
4412
4413 STATIC void
4414 checkcomma(register char *s, char *name, char *what)
4415 {
4416     char *w;
4417
4418     if (dowarn && *s == ' ' && s[1] == '(') {   /* XXX gotta be a better way */
4419         int level = 1;
4420         for (w = s+2; *w && level; w++) {
4421             if (*w == '(')
4422                 ++level;
4423             else if (*w == ')')
4424                 --level;
4425         }
4426         if (*w)
4427             for (; *w && isSPACE(*w); w++) ;
4428         if (!*w || !strchr(";|})]oaiuw!=", *w)) /* an advisory hack only... */
4429             warn("%s (...) interpreted as function",name);
4430     }
4431     while (s < bufend && isSPACE(*s))
4432         s++;
4433     if (*s == '(')
4434         s++;
4435     while (s < bufend && isSPACE(*s))
4436         s++;
4437     if (isIDFIRST(*s)) {
4438         w = s++;
4439         while (isALNUM(*s))
4440             s++;
4441         while (s < bufend && isSPACE(*s))
4442             s++;
4443         if (*s == ',') {
4444             int kw;
4445             *s = '\0';
4446             kw = keyword(w, s - w) || perl_get_cv(w, FALSE) != 0;
4447             *s = ',';
4448             if (kw)
4449                 return;
4450             croak("No comma allowed after %s", what);
4451         }
4452     }
4453 }
4454
4455 STATIC char *
4456 scan_word(register char *s, char *dest, STRLEN destlen, int allow_package, STRLEN *slp)
4457 {
4458     register char *d = dest;
4459     register char *e = d + destlen - 3;  /* two-character token, ending NUL */
4460     for (;;) {
4461         if (d >= e)
4462             croak(ident_too_long);
4463         if (isALNUM(*s))
4464             *d++ = *s++;
4465         else if (*s == '\'' && allow_package && isIDFIRST(s[1])) {
4466             *d++ = ':';
4467             *d++ = ':';
4468             s++;
4469         }
4470         else if (*s == ':' && s[1] == ':' && allow_package && isIDFIRST(s[2])) {
4471             *d++ = *s++;
4472             *d++ = *s++;
4473         }
4474         else {
4475             *d = '\0';
4476             *slp = d - dest;
4477             return s;
4478         }
4479     }
4480 }
4481
4482 STATIC char *
4483 scan_ident(register char *s, register char *send, char *dest, STRLEN destlen, I32 ck_uni)
4484 {
4485     register char *d;
4486     register char *e;
4487     char *bracket = 0;
4488     char funny = *s++;
4489
4490     if (lex_brackets == 0)
4491         lex_fakebrack = 0;
4492     if (isSPACE(*s))
4493         s = skipspace(s);
4494     d = dest;
4495     e = d + destlen - 3;        /* two-character token, ending NUL */
4496     if (isDIGIT(*s)) {
4497         while (isDIGIT(*s)) {
4498             if (d >= e)
4499                 croak(ident_too_long);
4500             *d++ = *s++;
4501         }
4502     }
4503     else {
4504         for (;;) {
4505             if (d >= e)
4506                 croak(ident_too_long);
4507             if (isALNUM(*s))
4508                 *d++ = *s++;
4509             else if (*s == '\'' && isIDFIRST(s[1])) {
4510                 *d++ = ':';
4511                 *d++ = ':';
4512                 s++;
4513             }
4514             else if (*s == ':' && s[1] == ':') {
4515                 *d++ = *s++;
4516                 *d++ = *s++;
4517             }
4518             else
4519                 break;
4520         }
4521     }
4522     *d = '\0';
4523     d = dest;
4524     if (*d) {
4525         if (lex_state != LEX_NORMAL)
4526             lex_state = LEX_INTERPENDMAYBE;
4527         return s;
4528     }
4529     if (*s == '$' && s[1] &&
4530       (isALNUM(s[1]) || strchr("${", s[1]) || strnEQ(s+1,"::",2)) )
4531     {
4532         if (isDIGIT(s[1]) && lex_state == LEX_INTERPNORMAL)
4533             deprecate("\"$$<digit>\" to mean \"${$}<digit>\"");
4534         else
4535             return s;
4536     }
4537     if (*s == '{') {
4538         bracket = s;
4539         s++;
4540     }
4541     else if (ck_uni)
4542         check_uni();
4543     if (s < send)
4544         *d = *s++;
4545     d[1] = '\0';
4546     if (*d == '^' && *s && (isUPPER(*s) || strchr("[\\]^_?", *s))) {
4547         *d = toCTRL(*s);
4548         s++;
4549     }
4550     if (bracket) {
4551         if (isSPACE(s[-1])) {
4552             while (s < send) {
4553                 char ch = *s++;
4554                 if (ch != ' ' && ch != '\t') {
4555                     *d = ch;
4556                     break;
4557                 }
4558             }
4559         }
4560         if (isIDFIRST(*d)) {
4561             d++;
4562             while (isALNUM(*s) || *s == ':')
4563                 *d++ = *s++;
4564             *d = '\0';
4565             while (s < send && (*s == ' ' || *s == '\t')) s++;
4566             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
4567                 if (dowarn && keyword(dest, d - dest)) {
4568                     char *brack = *s == '[' ? "[...]" : "{...}";
4569                     warn("Ambiguous use of %c{%s%s} resolved to %c%s%s",
4570                         funny, dest, brack, funny, dest, brack);
4571                 }
4572                 lex_fakebrack = lex_brackets+1;
4573                 bracket++;
4574                 lex_brackstack[lex_brackets++] = XOPERATOR;
4575                 return s;
4576             }
4577         }
4578         if (*s == '}') {
4579             s++;
4580             if (lex_state == LEX_INTERPNORMAL && !lex_brackets)
4581                 lex_state = LEX_INTERPEND;
4582             if (funny == '#')
4583                 funny = '@';
4584             if (dowarn && lex_state == LEX_NORMAL &&
4585               (keyword(dest, d - dest) || perl_get_cv(dest, FALSE)))
4586                 warn("Ambiguous use of %c{%s} resolved to %c%s",
4587                     funny, dest, funny, dest);
4588         }
4589         else {
4590             s = bracket;                /* let the parser handle it */
4591             *dest = '\0';
4592         }
4593     }
4594     else if (lex_state == LEX_INTERPNORMAL && !lex_brackets && !intuit_more(s))
4595         lex_state = LEX_INTERPEND;
4596     return s;
4597 }
4598
4599 void pmflag(U16 *pmfl, int ch)
4600 {
4601     if (ch == 'i')
4602         *pmfl |= PMf_FOLD;
4603     else if (ch == 'g')
4604         *pmfl |= PMf_GLOBAL;
4605     else if (ch == 'c')
4606         *pmfl |= PMf_CONTINUE;
4607     else if (ch == 'o')
4608         *pmfl |= PMf_KEEP;
4609     else if (ch == 'm')
4610         *pmfl |= PMf_MULTILINE;
4611     else if (ch == 's')
4612         *pmfl |= PMf_SINGLELINE;
4613     else if (ch == 'x')
4614         *pmfl |= PMf_EXTENDED;
4615 }
4616
4617 STATIC char *
4618 scan_pat(char *start)
4619 {
4620     PMOP *pm;
4621     char *s;
4622
4623     s = scan_str(start);
4624     if (!s) {
4625         if (lex_stuff)
4626             SvREFCNT_dec(lex_stuff);
4627         lex_stuff = Nullsv;
4628         croak("Search pattern not terminated");
4629     }
4630
4631     pm = (PMOP*)newPMOP(OP_MATCH, 0);
4632     if (multi_open == '?')
4633         pm->op_pmflags |= PMf_ONCE;
4634     while (*s && strchr("iogcmsx", *s))
4635         pmflag(&pm->op_pmflags,*s++);
4636     pm->op_pmpermflags = pm->op_pmflags;
4637
4638     lex_op = (OP*)pm;
4639     yylval.ival = OP_MATCH;
4640     return s;
4641 }
4642
4643 STATIC char *
4644 scan_subst(char *start)
4645 {
4646     register char *s;
4647     register PMOP *pm;
4648     I32 first_start;
4649     I32 es = 0;
4650
4651     yylval.ival = OP_NULL;
4652
4653     s = scan_str(start);
4654
4655     if (!s) {
4656         if (lex_stuff)
4657             SvREFCNT_dec(lex_stuff);
4658         lex_stuff = Nullsv;
4659         croak("Substitution pattern not terminated");
4660     }
4661
4662     if (s[-1] == multi_open)
4663         s--;
4664
4665     first_start = multi_start;
4666     s = scan_str(s);
4667     if (!s) {
4668         if (lex_stuff)
4669             SvREFCNT_dec(lex_stuff);
4670         lex_stuff = Nullsv;
4671         if (lex_repl)
4672             SvREFCNT_dec(lex_repl);
4673         lex_repl = Nullsv;
4674         croak("Substitution replacement not terminated");
4675     }
4676     multi_start = first_start;  /* so whole substitution is taken together */
4677
4678     pm = (PMOP*)newPMOP(OP_SUBST, 0);
4679     while (*s && strchr("iogcmsex", *s)) {
4680         if (*s == 'e') {
4681             s++;
4682             es++;
4683         }
4684         else
4685             pmflag(&pm->op_pmflags,*s++);
4686     }
4687
4688     if (es) {
4689         SV *repl;
4690         pm->op_pmflags |= PMf_EVAL;
4691         repl = newSVpv("",0);
4692         while (es-- > 0)
4693             sv_catpv(repl, es ? "eval " : "do ");
4694         sv_catpvn(repl, "{ ", 2);
4695         sv_catsv(repl, lex_repl);
4696         sv_catpvn(repl, " };", 2);
4697         SvCOMPILED_on(repl);
4698         SvREFCNT_dec(lex_repl);
4699         lex_repl = repl;
4700     }
4701
4702     pm->op_pmpermflags = pm->op_pmflags;
4703     lex_op = (OP*)pm;
4704     yylval.ival = OP_SUBST;
4705     return s;
4706 }
4707
4708 STATIC char *
4709 scan_trans(char *start)
4710 {
4711     register char* s;
4712     OP *o;
4713     short *tbl;
4714     I32 squash;
4715     I32 Delete;
4716     I32 complement;
4717
4718     yylval.ival = OP_NULL;
4719
4720     s = scan_str(start);
4721     if (!s) {
4722         if (lex_stuff)
4723             SvREFCNT_dec(lex_stuff);
4724         lex_stuff = Nullsv;
4725         croak("Translation pattern not terminated");
4726     }
4727     if (s[-1] == multi_open)
4728         s--;
4729
4730     s = scan_str(s);
4731     if (!s) {
4732         if (lex_stuff)
4733             SvREFCNT_dec(lex_stuff);
4734         lex_stuff = Nullsv;
4735         if (lex_repl)
4736             SvREFCNT_dec(lex_repl);
4737         lex_repl = Nullsv;
4738         croak("Translation replacement not terminated");
4739     }
4740
4741     New(803,tbl,256,short);
4742     o = newPVOP(OP_TRANS, 0, (char*)tbl);
4743
4744     complement = Delete = squash = 0;
4745     while (*s == 'c' || *s == 'd' || *s == 's') {
4746         if (*s == 'c')
4747             complement = OPpTRANS_COMPLEMENT;
4748         else if (*s == 'd')
4749             Delete = OPpTRANS_DELETE;
4750         else
4751             squash = OPpTRANS_SQUASH;
4752         s++;
4753     }
4754     o->op_private = Delete|squash|complement;
4755
4756     lex_op = o;
4757     yylval.ival = OP_TRANS;
4758     return s;
4759 }
4760
4761 STATIC char *
4762 scan_heredoc(register char *s)
4763 {
4764     dTHR;
4765     SV *herewas;
4766     I32 op_type = OP_SCALAR;
4767     I32 len;
4768     SV *tmpstr;
4769     char term;
4770     register char *d;
4771     register char *e;
4772     char *peek;
4773     int outer = (rsfp && !lex_inwhat);
4774
4775     s += 2;
4776     d = tokenbuf;
4777     e = tokenbuf + sizeof tokenbuf - 1;
4778     if (!outer)
4779         *d++ = '\n';
4780     for (peek = s; *peek == ' ' || *peek == '\t'; peek++) ;
4781     if (*peek && strchr("`'\"",*peek)) {
4782         s = peek;
4783         term = *s++;
4784         s = delimcpy(d, e, s, bufend, term, &len);
4785         d += len;
4786         if (s < bufend)
4787             s++;
4788     }
4789     else {
4790         if (*s == '\\')
4791             s++, term = '\'';
4792         else
4793             term = '"';
4794         if (!isALNUM(*s))
4795             deprecate("bare << to mean <<\"\"");
4796         for (; isALNUM(*s); s++) {
4797             if (d < e)
4798                 *d++ = *s;
4799         }
4800     }
4801     if (d >= tokenbuf + sizeof tokenbuf - 1)
4802         croak("Delimiter for here document is too long");
4803     *d++ = '\n';
4804     *d = '\0';
4805     len = d - tokenbuf;
4806     d = "\n";
4807     if (outer || !(d=ninstr(s,bufend,d,d+1)))
4808         herewas = newSVpv(s,bufend-s);
4809     else
4810         s--, herewas = newSVpv(s,d-s);
4811     s += SvCUR(herewas);
4812
4813     tmpstr = NEWSV(87,80);
4814     sv_upgrade(tmpstr, SVt_PVIV);
4815     if (term == '\'') {
4816         op_type = OP_CONST;
4817         SvIVX(tmpstr) = -1;
4818     }
4819     else if (term == '`') {
4820         op_type = OP_BACKTICK;
4821         SvIVX(tmpstr) = '\\';
4822     }
4823
4824     CLINE;
4825     multi_start = curcop->cop_line;
4826     multi_open = multi_close = '<';
4827     term = *tokenbuf;
4828     if (!outer) {
4829         d = s;
4830         while (s < bufend &&
4831           (*s != term || memNE(s,tokenbuf,len)) ) {
4832             if (*s++ == '\n')
4833                 curcop->cop_line++;
4834         }
4835         if (s >= bufend) {
4836             curcop->cop_line = multi_start;
4837             missingterm(tokenbuf);
4838         }
4839         sv_setpvn(tmpstr,d+1,s-d);
4840         s += len - 1;
4841         sv_catpvn(herewas,s,bufend-s);
4842         sv_setsv(linestr,herewas);
4843         oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
4844         bufend = SvPVX(linestr) + SvCUR(linestr);
4845     }
4846     else
4847         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
4848     while (s >= bufend) {       /* multiple line string? */
4849         if (!outer ||
4850          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4851             curcop->cop_line = multi_start;
4852             missingterm(tokenbuf);
4853         }
4854         curcop->cop_line++;
4855         if (PERLDB_LINE && curstash != debstash) {
4856             SV *sv = NEWSV(88,0);
4857
4858             sv_upgrade(sv, SVt_PVMG);
4859             sv_setsv(sv,linestr);
4860             av_store(GvAV(curcop->cop_filegv),
4861               (I32)curcop->cop_line,sv);
4862         }
4863         bufend = SvPVX(linestr) + SvCUR(linestr);
4864         if (*s == term && memEQ(s,tokenbuf,len)) {
4865             s = bufend - 1;
4866             *s = ' ';
4867             sv_catsv(linestr,herewas);
4868             bufend = SvPVX(linestr) + SvCUR(linestr);
4869         }
4870         else {
4871             s = bufend;
4872             sv_catsv(tmpstr,linestr);
4873         }
4874     }
4875     multi_end = curcop->cop_line;
4876     s++;
4877     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
4878         SvLEN_set(tmpstr, SvCUR(tmpstr) + 1);
4879         Renew(SvPVX(tmpstr), SvLEN(tmpstr), char);
4880     }
4881     SvREFCNT_dec(herewas);
4882     lex_stuff = tmpstr;
4883     yylval.ival = op_type;
4884     return s;
4885 }
4886
4887 STATIC char *
4888 scan_inputsymbol(char *start)
4889 {
4890     register char *s = start;
4891     register char *d;
4892     register char *e;
4893     I32 len;
4894
4895     d = tokenbuf;
4896     e = tokenbuf + sizeof tokenbuf;
4897     s = delimcpy(d, e, s + 1, bufend, '>', &len);
4898     if (len >= sizeof tokenbuf)
4899         croak("Excessively long <> operator");
4900     if (s >= bufend)
4901         croak("Unterminated <> operator");
4902     s++;
4903     if (*d == '$' && d[1]) d++;
4904     while (*d && (isALNUM(*d) || *d == '\'' || *d == ':'))
4905         d++;
4906     if (d - tokenbuf != len) {
4907         yylval.ival = OP_GLOB;
4908         set_csh();
4909         s = scan_str(start);
4910         if (!s)
4911             croak("Glob not terminated");
4912         return s;
4913     }
4914     else {
4915         d = tokenbuf;
4916         if (!len)
4917             (void)strcpy(d,"ARGV");
4918         if (*d == '$') {
4919             I32 tmp;
4920             if ((tmp = pad_findmy(d)) != NOT_IN_PAD) {
4921                 OP *o = newOP(OP_PADSV, 0);
4922                 o->op_targ = tmp;
4923                 lex_op = (OP*)newUNOP(OP_READLINE, 0, newUNOP(OP_RV2GV, 0, o));
4924             }
4925             else {
4926                 GV *gv = gv_fetchpv(d+1,TRUE, SVt_PV);
4927                 lex_op = (OP*)newUNOP(OP_READLINE, 0,
4928                                         newUNOP(OP_RV2GV, 0,
4929                                             newUNOP(OP_RV2SV, 0,
4930                                                 newGVOP(OP_GV, 0, gv))));
4931             }
4932             yylval.ival = OP_NULL;
4933         }
4934         else {
4935             GV *gv = gv_fetchpv(d,TRUE, SVt_PVIO);
4936             lex_op = (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
4937             yylval.ival = OP_NULL;
4938         }
4939     }
4940     return s;
4941 }
4942
4943 STATIC char *
4944 scan_str(char *start)
4945 {
4946     dTHR;
4947     SV *sv;
4948     char *tmps;
4949     register char *s = start;
4950     register char term;
4951     register char *to;
4952     I32 brackets = 1;
4953
4954     if (isSPACE(*s))
4955         s = skipspace(s);
4956     CLINE;
4957     term = *s;
4958     multi_start = curcop->cop_line;
4959     multi_open = term;
4960     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4961         term = tmps[5];
4962     multi_close = term;
4963
4964     sv = NEWSV(87,80);
4965     sv_upgrade(sv, SVt_PVIV);
4966     SvIVX(sv) = term;
4967     (void)SvPOK_only(sv);               /* validate pointer */
4968     s++;
4969     for (;;) {
4970         SvGROW(sv, SvCUR(sv) + (bufend - s) + 1);
4971         to = SvPVX(sv)+SvCUR(sv);
4972         if (multi_open == multi_close) {
4973             for (; s < bufend; s++,to++) {
4974                 if (*s == '\n' && !rsfp)
4975                     curcop->cop_line++;
4976                 if (*s == '\\' && s+1 < bufend && term != '\\') {
4977                     if (s[1] == term)
4978                         s++;
4979                     else
4980                         *to++ = *s++;
4981                 }
4982                 else if (*s == term)
4983                     break;
4984                 *to = *s;
4985             }
4986         }
4987         else {
4988             for (; s < bufend; s++,to++) {
4989                 if (*s == '\n' && !rsfp)
4990                     curcop->cop_line++;
4991                 if (*s == '\\' && s+1 < bufend) {
4992                     if ((s[1] == multi_open) || (s[1] == multi_close))
4993                         s++;
4994                     else
4995                         *to++ = *s++;
4996                 }
4997                 else if (*s == multi_close && --brackets <= 0)
4998                     break;
4999                 else if (*s == multi_open)
5000                     brackets++;
5001                 *to = *s;
5002             }
5003         }
5004         *to = '\0';
5005         SvCUR_set(sv, to - SvPVX(sv));
5006
5007     if (s < bufend) break;      /* string ends on this line? */
5008
5009         if (!rsfp ||
5010          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
5011             sv_free(sv);
5012             curcop->cop_line = multi_start;
5013             return Nullch;
5014         }
5015         curcop->cop_line++;
5016         if (PERLDB_LINE && curstash != debstash) {
5017             SV *sv = NEWSV(88,0);
5018
5019             sv_upgrade(sv, SVt_PVMG);
5020             sv_setsv(sv,linestr);
5021             av_store(GvAV(curcop->cop_filegv),
5022               (I32)curcop->cop_line, sv);
5023         }
5024         bufend = SvPVX(linestr) + SvCUR(linestr);
5025     }
5026     multi_end = curcop->cop_line;
5027     s++;
5028     if (SvCUR(sv) + 5 < SvLEN(sv)) {
5029         SvLEN_set(sv, SvCUR(sv) + 1);
5030         Renew(SvPVX(sv), SvLEN(sv), char);
5031     }
5032     if (lex_stuff)
5033         lex_repl = sv;
5034     else
5035         lex_stuff = sv;
5036     return s;
5037 }
5038
5039 char *
5040 scan_num(char *start)
5041 {
5042     register char *s = start;
5043     register char *d;
5044     register char *e;
5045     I32 tryiv;
5046     double value;
5047     SV *sv;
5048     I32 floatit;
5049     char *lastub = 0;
5050     static char number_too_long[] = "Number too long";
5051
5052     switch (*s) {
5053     default:
5054         croak("panic: scan_num");
5055     case '0':
5056         {
5057             UV u;
5058             I32 shift;
5059             bool overflowed = FALSE;
5060
5061             if (s[1] == 'x') {
5062                 shift = 4;
5063                 s += 2;
5064             }
5065             else if (s[1] == '.')
5066                 goto decimal;
5067             else
5068                 shift = 3;
5069             u = 0;
5070             for (;;) {
5071                 UV n, b;
5072
5073                 switch (*s) {
5074                 default:
5075                     goto out;
5076                 case '_':
5077                     s++;
5078                     break;
5079                 case '8': case '9':
5080                     if (shift != 4)
5081                         yyerror("Illegal octal digit");
5082                     /* FALL THROUGH */
5083                 case '0': case '1': case '2': case '3': case '4':
5084                 case '5': case '6': case '7':
5085                     b = *s++ & 15;
5086                     goto digit;
5087                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
5088                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
5089                     if (shift != 4)
5090                         goto out;
5091                     b = (*s++ & 7) + 9;
5092                   digit:
5093                     n = u << shift;
5094                     if (!overflowed && (n >> shift) != u) {
5095                         warn("Integer overflow in %s number",
5096                              (shift == 4) ? "hex" : "octal");
5097                         overflowed = TRUE;
5098                     }
5099                     u = n | b;
5100                     break;
5101                 }
5102             }
5103           out:
5104             sv = NEWSV(92,0);
5105             sv_setuv(sv, u);
5106         }
5107         break;
5108     case '1': case '2': case '3': case '4': case '5':
5109     case '6': case '7': case '8': case '9': case '.':
5110       decimal:
5111         d = tokenbuf;
5112         e = tokenbuf + sizeof tokenbuf - 6; /* room for various punctuation */
5113         floatit = FALSE;
5114         while (isDIGIT(*s) || *s == '_') {
5115             if (*s == '_') {
5116                 if (dowarn && lastub && s - lastub != 3)
5117                     warn("Misplaced _ in number");
5118                 lastub = ++s;
5119             }
5120             else {
5121                 if (d >= e)
5122                     croak(number_too_long);
5123                 *d++ = *s++;
5124             }
5125         }
5126         if (dowarn && lastub && s - lastub != 3)
5127             warn("Misplaced _ in number");
5128         if (*s == '.' && s[1] != '.') {
5129             floatit = TRUE;
5130             *d++ = *s++;
5131             for (; isDIGIT(*s) || *s == '_'; s++) {
5132                 if (d >= e)
5133                     croak(number_too_long);
5134                 if (*s != '_')
5135                     *d++ = *s;
5136             }
5137         }
5138         if (*s && strchr("eE",*s) && strchr("+-0123456789",s[1])) {
5139             floatit = TRUE;
5140             s++;
5141             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
5142             if (*s == '+' || *s == '-')
5143                 *d++ = *s++;
5144             while (isDIGIT(*s)) {
5145                 if (d >= e)
5146                     croak(number_too_long);
5147                 *d++ = *s++;
5148             }
5149         }
5150         *d = '\0';
5151         sv = NEWSV(92,0);
5152         SET_NUMERIC_STANDARD();
5153         value = atof(tokenbuf);
5154         tryiv = I_V(value);
5155         if (!floatit && (double)tryiv == value)
5156             sv_setiv(sv, tryiv);
5157         else
5158             sv_setnv(sv, value);
5159         break;
5160     }
5161
5162     yylval.opval = newSVOP(OP_CONST, 0, sv);
5163
5164     return s;
5165 }
5166
5167 STATIC char *
5168 scan_formline(register char *s)
5169 {
5170     dTHR;
5171     register char *eol;
5172     register char *t;
5173     SV *stuff = newSVpv("",0);
5174     bool needargs = FALSE;
5175
5176     while (!needargs) {
5177         if (*s == '.' || *s == '}') {
5178             /*SUPPRESS 530*/
5179             for (t = s+1; *t == ' ' || *t == '\t'; t++) ;
5180             if (*t == '\n')
5181                 break;
5182         }
5183         if (in_eval && !rsfp) {
5184             eol = strchr(s,'\n');
5185             if (!eol++)
5186                 eol = bufend;
5187         }
5188         else
5189             eol = bufend = SvPVX(linestr) + SvCUR(linestr);
5190         if (*s != '#') {
5191             for (t = s; t < eol; t++) {
5192                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
5193                     needargs = FALSE;
5194                     goto enough;        /* ~~ must be first line in formline */
5195                 }
5196                 if (*t == '@' || *t == '^')
5197                     needargs = TRUE;
5198             }
5199             sv_catpvn(stuff, s, eol-s);
5200         }
5201         s = eol;
5202         if (rsfp) {
5203             s = filter_gets(linestr, rsfp, 0);
5204             oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
5205             bufend = bufptr + SvCUR(linestr);
5206             if (!s) {
5207                 s = bufptr;
5208                 yyerror("Format not terminated");
5209                 break;
5210             }
5211         }
5212         incline(s);
5213     }
5214   enough:
5215     if (SvCUR(stuff)) {
5216         expect = XTERM;
5217         if (needargs) {
5218             lex_state = LEX_NORMAL;
5219             nextval[nexttoke].ival = 0;
5220             force_next(',');
5221         }
5222         else
5223             lex_state = LEX_FORMLINE;
5224         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, stuff);
5225         force_next(THING);
5226         nextval[nexttoke].ival = OP_FORMLINE;
5227         force_next(LSTOP);
5228     }
5229     else {
5230         SvREFCNT_dec(stuff);
5231         lex_formbrack = 0;
5232         bufptr = s;
5233     }
5234     return s;
5235 }
5236
5237 STATIC void
5238 set_csh(void)
5239 {
5240 #ifdef CSH
5241     if (!cshlen)
5242         cshlen = strlen(cshname);
5243 #endif
5244 }
5245
5246 I32
5247 start_subparse(I32 is_format, U32 flags)
5248 {
5249     dTHR;
5250     I32 oldsavestack_ix = savestack_ix;
5251     CV* outsidecv = compcv;
5252     AV* comppadlist;
5253
5254     if (compcv) {
5255         assert(SvTYPE(compcv) == SVt_PVCV);
5256     }
5257     save_I32(&subline);
5258     save_item(subname);
5259     SAVEI32(padix);
5260     SAVESPTR(curpad);
5261     SAVESPTR(comppad);
5262     SAVESPTR(comppad_name);
5263     SAVESPTR(compcv);
5264     SAVEI32(comppad_name_fill);
5265     SAVEI32(min_intro_pending);
5266     SAVEI32(max_intro_pending);
5267     SAVEI32(pad_reset_pending);
5268
5269     compcv = (CV*)NEWSV(1104,0);
5270     sv_upgrade((SV *)compcv, is_format ? SVt_PVFM : SVt_PVCV);
5271     CvFLAGS(compcv) |= flags;
5272
5273     comppad = newAV();
5274     av_push(comppad, Nullsv);
5275     curpad = AvARRAY(comppad);
5276     comppad_name = newAV();
5277     comppad_name_fill = 0;
5278     min_intro_pending = 0;
5279     padix = 0;
5280     subline = curcop->cop_line;
5281 #ifdef USE_THREADS
5282     av_store(comppad_name, 0, newSVpv("@_", 2));
5283     curpad[0] = (SV*)newAV();
5284     SvPADMY_on(curpad[0]);      /* XXX Needed? */
5285     CvOWNER(compcv) = 0;
5286     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5287     MUTEX_INIT(CvMUTEXP(compcv));
5288 #endif /* USE_THREADS */
5289
5290     comppadlist = newAV();
5291     AvREAL_off(comppadlist);
5292     av_store(comppadlist, 0, (SV*)comppad_name);
5293     av_store(comppadlist, 1, (SV*)comppad);
5294
5295     CvPADLIST(compcv) = comppadlist;
5296     CvOUTSIDE(compcv) = (CV*)SvREFCNT_inc(outsidecv);
5297 #ifdef USE_THREADS
5298     CvOWNER(compcv) = 0;
5299     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5300     MUTEX_INIT(CvMUTEXP(compcv));
5301 #endif /* USE_THREADS */
5302
5303     return oldsavestack_ix;
5304 }
5305
5306 int
5307 yywarn(char *s)
5308 {
5309     dTHR;
5310     --error_count;
5311     in_eval |= 2;
5312     yyerror(s);
5313     in_eval &= ~2;
5314     return 0;
5315 }
5316
5317 int
5318 yyerror(char *s)
5319 {
5320     dTHR;
5321     char *where = NULL;
5322     char *context = NULL;
5323     int contlen = -1;
5324     SV *msg;
5325
5326     if (!yychar || (yychar == ';' && !rsfp))
5327         where = "at EOF";
5328     else if (bufptr > oldoldbufptr && bufptr - oldoldbufptr < 200 &&
5329       oldoldbufptr != oldbufptr && oldbufptr != bufptr) {
5330         while (isSPACE(*oldoldbufptr))
5331             oldoldbufptr++;
5332         context = oldoldbufptr;
5333         contlen = bufptr - oldoldbufptr;
5334     }
5335     else if (bufptr > oldbufptr && bufptr - oldbufptr < 200 &&
5336       oldbufptr != bufptr) {
5337         while (isSPACE(*oldbufptr))
5338             oldbufptr++;
5339         context = oldbufptr;
5340         contlen = bufptr - oldbufptr;
5341     }
5342     else if (yychar > 255)
5343         where = "next token ???";
5344     else if ((yychar & 127) == 127) {
5345         if (lex_state == LEX_NORMAL ||
5346            (lex_state == LEX_KNOWNEXT && lex_defer == LEX_NORMAL))
5347             where = "at end of line";
5348         else if (lex_inpat)
5349             where = "within pattern";
5350         else
5351             where = "within string";
5352     }
5353     else {
5354         SV *where_sv = sv_2mortal(newSVpv("next char ", 0));
5355         if (yychar < 32)
5356             sv_catpvf(where_sv, "^%c", toCTRL(yychar));
5357         else if (isPRINT_LC(yychar))
5358             sv_catpvf(where_sv, "%c", yychar);
5359         else
5360             sv_catpvf(where_sv, "\\%03o", yychar & 255);
5361         where = SvPVX(where_sv);
5362     }
5363     msg = sv_2mortal(newSVpv(s, 0));
5364     sv_catpvf(msg, " at %_ line %ld, ",
5365               GvSV(curcop->cop_filegv), (long)curcop->cop_line);
5366     if (context)
5367         sv_catpvf(msg, "near \"%.*s\"\n", contlen, context);
5368     else
5369         sv_catpvf(msg, "%s\n", where);
5370     if (multi_start < multi_end && (U32)(curcop->cop_line - multi_end) <= 1) {
5371         sv_catpvf(msg,
5372         "  (Might be a runaway multi-line %c%c string starting on line %ld)\n",
5373                 (int)multi_open,(int)multi_close,(long)multi_start);
5374         multi_end = 0;
5375     }
5376     if (in_eval & 2)
5377         warn("%_", msg);
5378     else if (in_eval)
5379         sv_catsv(ERRSV, msg);
5380     else
5381         PerlIO_write(PerlIO_stderr(), SvPVX(msg), SvCUR(msg));
5382     if (++error_count >= 10)
5383         croak("%_ has too many errors.\n", GvSV(curcop->cop_filegv));
5384     in_my = 0;
5385     in_my_stash = Nullhv;
5386     return 0;
5387 }
5388
5389