toke.c

   1 /*    toke.c
   2  *
   3  *    Copyright (c) 1991-1997, Larry Wall
   4  *
   5  *    You may distribute under the terms of either the GNU General Public
   6  *    License or the Artistic License, as specified in the README file.
   7  *
   8  */
   9
  10 /*
  11  *   "It all comes from here, the stench and the peril."  --Frodo
  12  */
  13
  14 #include "EXTERN.h"
  15 #include "perl.h"
  16
  17 static void check_uni _((void));
  18 static void  force_next _((I32 type));
  19 static char *force_version _((char *start));
  20 static char *force_word _((char *start, int token, int check_keyword, int allow_pack, int allow_tick));
  21 static SV *q _((SV *sv));
  22 static char *scan_const _((char *start));
  23 static char *scan_formline _((char *s));
  24 static char *scan_heredoc _((char *s));
  25 static char *scan_ident _((char *s, char *send, char *dest, STRLEN destlen,
  26                            I32 ck_uni));
  27 static char *scan_inputsymbol _((char *start));
  28 static char *scan_pat _((char *start));
  29 static char *scan_str _((char *start));
  30 static char *scan_subst _((char *start));
  31 static char *scan_trans _((char *start));
  32 static char *scan_word _((char *s, char *dest, STRLEN destlen,
  33                           int allow_package, STRLEN *slp));
  34 static char *skipspace _((char *s));
  35 static void checkcomma _((char *s, char *name, char *what));
  36 static void force_ident _((char *s, int kind));
  37 static void incline _((char *s));
  38 static int intuit_method _((char *s, GV *gv));
  39 static int intuit_more _((char *s));
  40 static I32 lop _((I32 f, expectation x, char *s));
  41 static void missingterm _((char *s));
  42 static void no_op _((char *what, char *s));
  43 static void set_csh _((void));
  44 static I32 sublex_done _((void));
  45 static I32 sublex_push _((void));
  46 static I32 sublex_start _((void));
  47 #ifdef CRIPPLED_CC
  48 static int uni _((I32 f, char *s));
  49 #endif
  50 static char * filter_gets _((SV *sv, PerlIO *fp, STRLEN append));
  51 static void restore_rsfp _((void *f));
  52
  53 static char ident_too_long[] = "Identifier too long";
  54
  55 static char *linestart;         /* beg. of most recently read line */
  56
  57 static char pending_ident;      /* pending identifier lookup */
  58
  59 static struct {
  60     I32 super_state;    /* lexer state to save */
  61     I32 sub_inwhat;     /* "lex_inwhat" to use */
  62     OP *sub_op;         /* "lex_op" to use */
  63 } sublex_info;
  64
  65 /* The following are arranged oddly so that the guard on the switch statement
  66  * can get by with a single comparison (if the compiler is smart enough).
  67  */
  68
  69 /* #define LEX_NOTPARSING               11 is done in perl.h. */
  70
  71 #define LEX_NORMAL              10
  72 #define LEX_INTERPNORMAL         9
  73 #define LEX_INTERPCASEMOD        8
  74 #define LEX_INTERPPUSH           7
  75 #define LEX_INTERPSTART          6
  76 #define LEX_INTERPEND            5
  77 #define LEX_INTERPENDMAYBE       4
  78 #define LEX_INTERPCONCAT         3
  79 #define LEX_INTERPCONST          2
  80 #define LEX_FORMLINE             1
  81 #define LEX_KNOWNEXT             0
  82
  83 #ifdef I_FCNTL
  84 #include <fcntl.h>
  85 #endif
  86 #ifdef I_SYS_FILE
  87 #include <sys/file.h>
  88 #endif
  89
  90 /* XXX If this causes problems, set i_unistd=undef in the hint file.  */
  91 #ifdef I_UNISTD
  92 #  include <unistd.h> /* Needed for execv() */
  93 #endif
  94
  95
  96 #ifdef ff_next
  97 #undef ff_next
  98 #endif
  99
 100 #include "keywords.h"
 101
 102 #ifdef CLINE
 103 #undef CLINE
 104 #endif
 105 #define CLINE (copline = (curcop->cop_line < copline ? curcop->cop_line : copline))
 106
 107 #define TOKEN(retval) return (bufptr = s,(int)retval)
 108 #define OPERATOR(retval) return (expect = XTERM,bufptr = s,(int)retval)
 109 #define AOPERATOR(retval) return ao((expect = XTERM,bufptr = s,(int)retval))
 110 #define PREBLOCK(retval) return (expect = XBLOCK,bufptr = s,(int)retval)
 111 #define PRETERMBLOCK(retval) return (expect = XTERMBLOCK,bufptr = s,(int)retval)
 112 #define PREREF(retval) return (expect = XREF,bufptr = s,(int)retval)
 113 #define TERM(retval) return (CLINE, expect = XOPERATOR,bufptr = s,(int)retval)
 114 #define LOOPX(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LOOPEX)
 115 #define FTST(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)UNIOP)
 116 #define FUN0(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC0)
 117 #define FUN1(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC1)
 118 #define BOop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITOROP))
 119 #define BAop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITANDOP))
 120 #define SHop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)SHIFTOP))
 121 #define PWop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)POWOP))
 122 #define PMop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)MATCHOP)
 123 #define Aop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)ADDOP))
 124 #define Mop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)MULOP))
 125 #define Eop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)EQOP)
 126 #define Rop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)RELOP)
 127
 128 /* This bit of chicanery makes a unary function followed by
 129  * a parenthesis into a function with one argument, highest precedence.
 130  */
 131 #define UNI(f) return(yylval.ival = f, \
 132         expect = XTERM, \
 133         bufptr = s, \
 134         last_uni = oldbufptr, \
 135         last_lop_op = f, \
 136         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 137
 138 #define UNIBRACK(f) return(yylval.ival = f, \
 139         bufptr = s, \
 140         last_uni = oldbufptr, \
 141         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 142
 143 /* grandfather return to old style */
 144 #define OLDLOP(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LSTOP)
 145
 146 static int
 147 ao(int toketype)
 148 {
 149     if (*bufptr == '=') {
 150         bufptr++;
 151         if (toketype == ANDAND)
 152             yylval.ival = OP_ANDASSIGN;
 153         else if (toketype == OROR)
 154             yylval.ival = OP_ORASSIGN;
 155         toketype = ASSIGNOP;
 156     }
 157     return toketype;
 158 }
 159
 160 static void
 161 no_op(char *what, char *s)
 162 {
 163     char *oldbp = bufptr;
 164     bool is_first = (oldbufptr == linestart);
 165
 166     bufptr = s;
 167     yywarn(form("%s found where operator expected", what));
 168     if (is_first)
 169         warn("\t(Missing semicolon on previous line?)\n");
 170     else if (oldoldbufptr && isIDFIRST(*oldoldbufptr)) {
 171         char *t;
 172         for (t = oldoldbufptr; *t && (isALNUM(*t) || *t == ':'); t++) ;
 173         if (t < bufptr && isSPACE(*t))
 174             warn("\t(Do you need to predeclare %.*s?)\n",
 175                 t - oldoldbufptr, oldoldbufptr);
 176
 177     }
 178     else
 179         warn("\t(Missing operator before %.*s?)\n", s - oldbp, oldbp);
 180     bufptr = oldbp;
 181 }
 182
 183 static void
 184 missingterm(char *s)
 185 {
 186     char tmpbuf[3];
 187     char q;
 188     if (s) {
 189         char *nl = strrchr(s,'\n');
 190         if (nl)
 191             *nl = '\0';
 192     }
 193     else if (multi_close < 32 || multi_close == 127) {
 194         *tmpbuf = '^';
 195         tmpbuf[1] = toCTRL(multi_close);
 196         s = "\\n";
 197         tmpbuf[2] = '\0';
 198         s = tmpbuf;
 199     }
 200     else {
 201         *tmpbuf = multi_close;
 202         tmpbuf[1] = '\0';
 203         s = tmpbuf;
 204     }
 205     q = strchr(s,'"') ? '\'' : '"';
 206     croak("Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
 207 }
 208
 209 void
 210 deprecate(char *s)
 211 {
 212     if (dowarn)
 213         warn("Use of %s is deprecated", s);
 214 }
 215
 216 static void
 217 depcom(void)
 218 {
 219     deprecate("comma-less variable list");
 220 }
 221
 222 #ifdef WIN32
 223
 224 static I32
 225 win32_textfilter(int idx, SV *sv, int maxlen)
 226 {
 227  I32 count = FILTER_READ(idx+1, sv, maxlen);
 228  if (count > 0 && !maxlen)
 229   win32_strip_return(sv);
 230  return count;
 231 }
 232 #endif
 233
 234
 235 void
 236 lex_start(SV *line)
 237 {
 238     dTHR;
 239     char *s;
 240     STRLEN len;
 241
 242     SAVEI32(lex_dojoin);
 243     SAVEI32(lex_brackets);
 244     SAVEI32(lex_fakebrack);
 245     SAVEI32(lex_casemods);
 246     SAVEI32(lex_starts);
 247     SAVEI32(lex_state);
 248     SAVESPTR(lex_inpat);
 249     SAVEI32(lex_inwhat);
 250     SAVEI16(curcop->cop_line);
 251     SAVEPPTR(bufptr);
 252     SAVEPPTR(bufend);
 253     SAVEPPTR(oldbufptr);
 254     SAVEPPTR(oldoldbufptr);
 255     SAVEPPTR(linestart);
 256     SAVESPTR(linestr);
 257     SAVEPPTR(lex_brackstack);
 258     SAVEPPTR(lex_casestack);
 259     SAVEDESTRUCTOR(restore_rsfp, rsfp);
 260
 261     lex_state = LEX_NORMAL;
 262     lex_defer = 0;
 263     expect = XSTATE;
 264     lex_brackets = 0;
 265     lex_fakebrack = 0;
 266     New(899, lex_brackstack, 120, char);
 267     New(899, lex_casestack, 12, char);
 268     SAVEFREEPV(lex_brackstack);
 269     SAVEFREEPV(lex_casestack);
 270     lex_casemods = 0;
 271     *lex_casestack = '\0';
 272     lex_dojoin = 0;
 273     lex_starts = 0;
 274     if (lex_stuff)
 275         SvREFCNT_dec(lex_stuff);
 276     lex_stuff = Nullsv;
 277     if (lex_repl)
 278         SvREFCNT_dec(lex_repl);
 279     lex_repl = Nullsv;
 280     lex_inpat = 0;
 281     lex_inwhat = 0;
 282     linestr = line;
 283     if (SvREADONLY(linestr))
 284         linestr = sv_2mortal(newSVsv(linestr));
 285     s = SvPV(linestr, len);
 286     if (len && s[len-1] != ';') {
 287         if (!(SvFLAGS(linestr) & SVs_TEMP))
 288             linestr = sv_2mortal(newSVsv(linestr));
 289         sv_catpvn(linestr, "\n;", 2);
 290     }
 291     SvTEMP_off(linestr);
 292     oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
 293     bufend = bufptr + SvCUR(linestr);
 294     SvREFCNT_dec(rs);
 295     rs = newSVpv("\n", 1);
 296     rsfp = 0;
 297 }
 298
 299 void
 300 lex_end(void)
 301 {
 302     doextract = FALSE;
 303 }
 304
 305 static void
 306 restore_rsfp(void *f)
 307 {
 308     PerlIO *fp = (PerlIO*)f;
 309
 310     if (rsfp == PerlIO_stdin())
 311         PerlIO_clearerr(rsfp);
 312     else if (rsfp && (rsfp != fp))
 313         PerlIO_close(rsfp);
 314     rsfp = fp;
 315 }
 316
 317 static void
 318 incline(char *s)
 319 {
 320     dTHR;
 321     char *t;
 322     char *n;
 323     char ch;
 324     int sawline = 0;
 325
 326     curcop->cop_line++;
 327     if (*s++ != '#')
 328         return;
 329     while (*s == ' ' || *s == '\t') s++;
 330     if (strnEQ(s, "line ", 5)) {
 331         s += 5;
 332         sawline = 1;
 333     }
 334     if (!isDIGIT(*s))
 335         return;
 336     n = s;
 337     while (isDIGIT(*s))
 338         s++;
 339     while (*s == ' ' || *s == '\t')
 340         s++;
 341     if (*s == '"' && (t = strchr(s+1, '"')))
 342         s++;
 343     else {
 344         if (!sawline)
 345             return;             /* false alarm */
 346         for (t = s; !isSPACE(*t); t++) ;
 347     }
 348     ch = *t;
 349     *t = '\0';
 350     if (t - s > 0)
 351         curcop->cop_filegv = gv_fetchfile(s);
 352     else
 353         curcop->cop_filegv = gv_fetchfile(origfilename);
 354     *t = ch;
 355     curcop->cop_line = atoi(n)-1;
 356 }
 357
 358 static char *
 359 skipspace(register char *s)
 360 {
 361     dTHR;
 362     if (lex_formbrack && lex_brackets <= lex_formbrack) {
 363         while (s < bufend && (*s == ' ' || *s == '\t'))
 364             s++;
 365         return s;
 366     }
 367     for (;;) {
 368         STRLEN prevlen;
 369         while (s < bufend && isSPACE(*s))
 370             s++;
 371         if (s < bufend && *s == '#') {
 372             while (s < bufend && *s != '\n')
 373                 s++;
 374             if (s < bufend)
 375                 s++;
 376         }
 377         if (s < bufend || !rsfp || lex_state != LEX_NORMAL)
 378             return s;
 379         if ((s = filter_gets(linestr, rsfp, (prevlen = SvCUR(linestr)))) == Nullch) {
 380             if (minus_n || minus_p) {
 381                 sv_setpv(linestr,minus_p ?
 382                          ";}continue{print or die qq(-p destination: $!\\n)" :
 383                          "");
 384                 sv_catpv(linestr,";}");
 385                 minus_n = minus_p = 0;
 386             }
 387             else
 388                 sv_setpv(linestr,";");
 389             oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
 390             bufend = SvPVX(linestr) + SvCUR(linestr);
 391             if (preprocess && !in_eval)
 392                 (void)PerlProc_pclose(rsfp);
 393             else if ((PerlIO*)rsfp == PerlIO_stdin())
 394                 PerlIO_clearerr(rsfp);
 395             else
 396                 (void)PerlIO_close(rsfp);
 397             if (e_fp == rsfp)
 398                 e_fp = Nullfp;
 399             rsfp = Nullfp;
 400             return s;
 401         }
 402         linestart = bufptr = s + prevlen;
 403         bufend = s + SvCUR(linestr);
 404         s = bufptr;
 405         incline(s);
 406         if (PERLDB_LINE && curstash != debstash) {
 407             SV *sv = NEWSV(85,0);
 408
 409             sv_upgrade(sv, SVt_PVMG);
 410             sv_setpvn(sv,bufptr,bufend-bufptr);
 411             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
 412         }
 413     }
 414 }
 415
 416 static void
 417 check_uni(void) {
 418     char *s;
 419     char ch;
 420     char *t;
 421
 422     if (oldoldbufptr != last_uni)
 423         return;
 424     while (isSPACE(*last_uni))
 425         last_uni++;
 426     for (s = last_uni; isALNUM(*s) || *s == '-'; s++) ;
 427     if ((t = strchr(s, '(')) && t < bufptr)
 428         return;
 429     ch = *s;
 430     *s = '\0';
 431     warn("Warning: Use of \"%s\" without parens is ambiguous", last_uni);
 432     *s = ch;
 433 }
 434
 435 #ifdef CRIPPLED_CC
 436
 437 #undef UNI
 438 #define UNI(f) return uni(f,s)
 439
 440 static int
 441 uni(I32 f, char *s)
 442 {
 443     yylval.ival = f;
 444     expect = XTERM;
 445     bufptr = s;
 446     last_uni = oldbufptr;
 447     last_lop_op = f;
 448     if (*s == '(')
 449         return FUNC1;
 450     s = skipspace(s);
 451     if (*s == '(')
 452         return FUNC1;
 453     else
 454         return UNIOP;
 455 }
 456
 457 #endif /* CRIPPLED_CC */
 458
 459 #define LOP(f,x) return lop(f,x,s)
 460
 461 static I32
 462 lop
 463 #ifdef CAN_PROTOTYPE
 464    (I32 f, expectation x, char *s)
 465 #else
 466    (f,x,s)
 467 I32 f;
 468 expectation x;
 469 char *s;
 470 #endif /* CAN_PROTOTYPE */
 471 {
 472     dTHR;
 473     yylval.ival = f;
 474     CLINE;
 475     expect = x;
 476     bufptr = s;
 477     last_lop = oldbufptr;
 478     last_lop_op = f;
 479     if (nexttoke)
 480         return LSTOP;
 481     if (*s == '(')
 482         return FUNC;
 483     s = skipspace(s);
 484     if (*s == '(')
 485         return FUNC;
 486     else
 487         return LSTOP;
 488 }
 489
 490 static void
 491 force_next(I32 type)
 492 {
 493     nexttype[nexttoke] = type;
 494     nexttoke++;
 495     if (lex_state != LEX_KNOWNEXT) {
 496         lex_defer = lex_state;
 497         lex_expect = expect;
 498         lex_state = LEX_KNOWNEXT;
 499     }
 500 }
 501
 502 static char *
 503 force_word(register char *start, int token, int check_keyword, int allow_pack, int allow_initial_tick)
 504 {
 505     register char *s;
 506     STRLEN len;
 507
 508     start = skipspace(start);
 509     s = start;
 510     if (isIDFIRST(*s) ||
 511         (allow_pack && *s == ':') ||
 512         (allow_initial_tick && *s == '\'') )
 513     {
 514         s = scan_word(s, tokenbuf, sizeof tokenbuf, allow_pack, &len);
 515         if (check_keyword && keyword(tokenbuf, len))
 516             return start;
 517         if (token == METHOD) {
 518             s = skipspace(s);
 519             if (*s == '(')
 520                 expect = XTERM;
 521             else {
 522                 expect = XOPERATOR;
 523                 force_next(')');
 524                 force_next('(');
 525             }
 526         }
 527         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST,0, newSVpv(tokenbuf,0));
 528         nextval[nexttoke].opval->op_private |= OPpCONST_BARE;
 529         force_next(token);
 530     }
 531     return s;
 532 }
 533
 534 static void
 535 force_ident(register char *s, int kind)
 536 {
 537     if (s && *s) {
 538         OP* o = (OP*)newSVOP(OP_CONST, 0, newSVpv(s,0));
 539         nextval[nexttoke].opval = o;
 540         force_next(WORD);
 541         if (kind) {
 542             dTHR;               /* just for in_eval */
 543             o->op_private = OPpCONST_ENTERED;
 544             /* XXX see note in pp_entereval() for why we forgo typo
 545                warnings if the symbol must be introduced in an eval.
 546                GSAR 96-10-12 */
 547             gv_fetchpv(s, in_eval ? GV_ADDMULTI : TRUE,
 548                 kind == '$' ? SVt_PV :
 549                 kind == '@' ? SVt_PVAV :
 550                 kind == '%' ? SVt_PVHV :
 551                               SVt_PVGV
 552                 );
 553         }
 554     }
 555 }
 556
 557 static char *
 558 force_version(char *s)
 559 {
 560     OP *version = Nullop;
 561
 562     s = skipspace(s);
 563
 564     /* default VERSION number -- GBARR */
 565
 566     if(isDIGIT(*s)) {
 567         char *d;
 568         int c;
 569         for( d=s, c = 1; isDIGIT(*d) || *d == '_' || (*d == '.' && c--); d++);
 570         if((*d == ';' || isSPACE(*d)) && *(skipspace(d)) != ',') {
 571             s = scan_num(s);
 572             /* real VERSION number -- GBARR */
 573             version = yylval.opval;
 574         }
 575     }
 576
 577     /* NOTE: The parser sees the package name and the VERSION swapped */
 578     nextval[nexttoke].opval = version;
 579     force_next(WORD);
 580
 581     return (s);
 582 }
 583
 584 static SV *
 585 q(SV *sv)
 586 {
 587     register char *s;
 588     register char *send;
 589     register char *d;
 590     STRLEN len;
 591
 592     if (!SvLEN(sv))
 593         return sv;
 594
 595     s = SvPV_force(sv, len);
 596     if (SvIVX(sv) == -1)
 597         return sv;
 598     send = s + len;
 599     while (s < send && *s != '\\')
 600         s++;
 601     if (s == send)
 602         return sv;
 603     d = s;
 604     while (s < send) {
 605         if (*s == '\\') {
 606             if (s + 1 < send && (s[1] == '\\'))
 607                 s++;            /* all that, just for this */
 608         }
 609         *d++ = *s++;
 610     }
 611     *d = '\0';
 612     SvCUR_set(sv, d - SvPVX(sv));
 613
 614     return sv;
 615 }
 616
 617 static I32
 618 sublex_start(void)
 619 {
 620     register I32 op_type = yylval.ival;
 621
 622     if (op_type == OP_NULL) {
 623         yylval.opval = lex_op;
 624         lex_op = Nullop;
 625         return THING;
 626     }
 627     if (op_type == OP_CONST || op_type == OP_READLINE) {
 628         SV *sv = q(lex_stuff);
 629         STRLEN len;
 630         char *p = SvPV(sv, len);
 631         yylval.opval = (OP*)newSVOP(op_type, 0, newSVpv(p, len));
 632         SvREFCNT_dec(sv);
 633         lex_stuff = Nullsv;
 634         return THING;
 635     }
 636
 637     sublex_info.super_state = lex_state;
 638     sublex_info.sub_inwhat = op_type;
 639     sublex_info.sub_op = lex_op;
 640     lex_state = LEX_INTERPPUSH;
 641
 642     expect = XTERM;
 643     if (lex_op) {
 644         yylval.opval = lex_op;
 645         lex_op = Nullop;
 646         return PMFUNC;
 647     }
 648     else
 649         return FUNC;
 650 }
 651
 652 static I32
 653 sublex_push(void)
 654 {
 655     dTHR;
 656     push_scope();
 657
 658     lex_state = sublex_info.super_state;
 659     SAVEI32(lex_dojoin);
 660     SAVEI32(lex_brackets);
 661     SAVEI32(lex_fakebrack);
 662     SAVEI32(lex_casemods);
 663     SAVEI32(lex_starts);
 664     SAVEI32(lex_state);
 665     SAVESPTR(lex_inpat);
 666     SAVEI32(lex_inwhat);
 667     SAVEI16(curcop->cop_line);
 668     SAVEPPTR(bufptr);
 669     SAVEPPTR(oldbufptr);
 670     SAVEPPTR(oldoldbufptr);
 671     SAVEPPTR(linestart);
 672     SAVESPTR(linestr);
 673     SAVEPPTR(lex_brackstack);
 674     SAVEPPTR(lex_casestack);
 675
 676     linestr = lex_stuff;
 677     lex_stuff = Nullsv;
 678
 679     bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 680     bufend += SvCUR(linestr);
 681     SAVEFREESV(linestr);
 682
 683     lex_dojoin = FALSE;
 684     lex_brackets = 0;
 685     lex_fakebrack = 0;
 686     New(899, lex_brackstack, 120, char);
 687     New(899, lex_casestack, 12, char);
 688     SAVEFREEPV(lex_brackstack);
 689     SAVEFREEPV(lex_casestack);
 690     lex_casemods = 0;
 691     *lex_casestack = '\0';
 692     lex_starts = 0;
 693     lex_state = LEX_INTERPCONCAT;
 694     curcop->cop_line = multi_start;
 695
 696     lex_inwhat = sublex_info.sub_inwhat;
 697     if (lex_inwhat == OP_MATCH || lex_inwhat == OP_SUBST)
 698         lex_inpat = sublex_info.sub_op;
 699     else
 700         lex_inpat = Nullop;
 701
 702     return '(';
 703 }
 704
 705 static I32
 706 sublex_done(void)
 707 {
 708     if (!lex_starts++) {
 709         expect = XOPERATOR;
 710         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv("",0));
 711         return THING;
 712     }
 713
 714     if (lex_casemods) {         /* oops, we've got some unbalanced parens */
 715         lex_state = LEX_INTERPCASEMOD;
 716         return yylex();
 717     }
 718
 719     /* Is there a right-hand side to take care of? */
 720     if (lex_repl && (lex_inwhat == OP_SUBST || lex_inwhat == OP_TRANS)) {
 721         linestr = lex_repl;
 722         lex_inpat = 0;
 723         bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 724         bufend += SvCUR(linestr);
 725         SAVEFREESV(linestr);
 726         lex_dojoin = FALSE;
 727         lex_brackets = 0;
 728         lex_fakebrack = 0;
 729         lex_casemods = 0;
 730         *lex_casestack = '\0';
 731         lex_starts = 0;
 732         if (SvCOMPILED(lex_repl)) {
 733             lex_state = LEX_INTERPNORMAL;
 734             lex_starts++;
 735         }
 736         else
 737             lex_state = LEX_INTERPCONCAT;
 738         lex_repl = Nullsv;
 739         return ',';
 740     }
 741     else {
 742         pop_scope();
 743         bufend = SvPVX(linestr);
 744         bufend += SvCUR(linestr);
 745         expect = XOPERATOR;
 746         return ')';
 747     }
 748 }
 749
 750 static char *
 751 scan_const(char *start)
 752 {
 753     register char *send = bufend;
 754     SV *sv = NEWSV(93, send - start);
 755     register char *s = start;
 756     register char *d = SvPVX(sv);
 757     bool dorange = FALSE;
 758     I32 len;
 759     char *leaveit =
 760         lex_inpat
 761             ? "\\.^$@AGZdDwWsSbB+*?|()-nrtfeaxc0123456789[{]} \t\n\r\f\v#"
 762             : (lex_inwhat & OP_TRANS)
 763                 ? ""
 764                 : "";
 765
 766     while (s < send || dorange) {
 767         if (lex_inwhat == OP_TRANS) {
 768             if (dorange) {
 769                 I32 i;
 770                 I32 max;
 771                 i = d - SvPVX(sv);
 772                 SvGROW(sv, SvLEN(sv) + 256);
 773                 d = SvPVX(sv) + i;
 774                 d -= 2;
 775                 max = (U8)d[1];
 776                 for (i = (U8)*d; i <= max; i++)
 777                     *d++ = i;
 778                 dorange = FALSE;
 779                 continue;
 780             }
 781             else if (*s == '-' && s+1 < send  && s != start) {
 782                 dorange = TRUE;
 783                 s++;
 784             }
 785         }
 786         else if (*s == '(' && lex_inpat && s[1] == '?' && s[2] == '#') {
 787             while (s < send && *s != ')')
 788                 *d++ = *s++;
 789         }
 790         else if (*s == '#' && lex_inpat &&
 791           ((PMOP*)lex_inpat)->op_pmflags & PMf_EXTENDED) {
 792             while (s+1 < send && *s != '\n')
 793                 *d++ = *s++;
 794         }
 795         else if (*s == '@' && s[1] && (isALNUM(s[1]) || strchr(":'{$", s[1])))
 796             break;
 797         else if (*s == '$') {
 798             if (!lex_inpat)     /* not a regexp, so $ must be var */
 799                 break;
 800             if (s + 1 < send && !strchr("()| \n\t", s[1]))
 801                 break;          /* in regexp, $ might be tail anchor */
 802         }
 803         if (*s == '\\' && s+1 < send) {
 804             s++;
 805             if (*s && strchr(leaveit, *s)) {
 806                 *d++ = '\\';
 807                 *d++ = *s++;
 808                 continue;
 809             }
 810             if (lex_inwhat == OP_SUBST && !lex_inpat &&
 811                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
 812             {
 813                 if (dowarn)
 814                     warn("\\%c better written as $%c", *s, *s);
 815                 *--s = '$';
 816                 break;
 817             }
 818             if (lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
 819                 --s;
 820                 break;
 821             }
 822             switch (*s) {
 823             case '-':
 824                 if (lex_inwhat == OP_TRANS) {
 825                     *d++ = *s++;
 826                     continue;
 827                 }
 828                 /* FALL THROUGH */
 829             default:
 830                 *d++ = *s++;
 831                 continue;
 832             case '0': case '1': case '2': case '3':
 833             case '4': case '5': case '6': case '7':
 834                 *d++ = scan_oct(s, 3, &len);
 835                 s += len;
 836                 continue;
 837             case 'x':
 838                 *d++ = scan_hex(++s, 2, &len);
 839                 s += len;
 840                 continue;
 841             case 'c':
 842                 s++;
 843                 len = *s++;
 844                 *d++ = toCTRL(len);
 845                 continue;
 846             case 'b':
 847                 *d++ = '\b';
 848                 break;
 849             case 'n':
 850                 *d++ = '\n';
 851                 break;
 852             case 'r':
 853                 *d++ = '\r';
 854                 break;
 855             case 'f':
 856                 *d++ = '\f';
 857                 break;
 858             case 't':
 859                 *d++ = '\t';
 860                 break;
 861             case 'e':
 862                 *d++ = '\033';
 863                 break;
 864             case 'a':
 865                 *d++ = '\007';
 866                 break;
 867             }
 868             s++;
 869             continue;
 870         }
 871         *d++ = *s++;
 872     }
 873     *d = '\0';
 874     SvCUR_set(sv, d - SvPVX(sv));
 875     SvPOK_on(sv);
 876
 877     if (SvCUR(sv) + 5 < SvLEN(sv)) {
 878         SvLEN_set(sv, SvCUR(sv) + 1);
 879         Renew(SvPVX(sv), SvLEN(sv), char);
 880     }
 881     if (s > bufptr)
 882         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
 883     else
 884         SvREFCNT_dec(sv);
 885     return s;
 886 }
 887
 888 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
 889 static int
 890 intuit_more(register char *s)
 891 {
 892     if (lex_brackets)
 893         return TRUE;
 894     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
 895         return TRUE;
 896     if (*s != '{' && *s != '[')
 897         return FALSE;
 898     if (!lex_inpat)
 899         return TRUE;
 900
 901     /* In a pattern, so maybe we have {n,m}. */
 902     if (*s == '{') {
 903         s++;
 904         if (!isDIGIT(*s))
 905             return TRUE;
 906         while (isDIGIT(*s))
 907             s++;
 908         if (*s == ',')
 909             s++;
 910         while (isDIGIT(*s))
 911             s++;
 912         if (*s == '}')
 913             return FALSE;
 914         return TRUE;
 915
 916     }
 917
 918     /* On the other hand, maybe we have a character class */
 919
 920     s++;
 921     if (*s == ']' || *s == '^')
 922         return FALSE;
 923     else {
 924         int weight = 2;         /* let's weigh the evidence */
 925         char seen[256];
 926         unsigned char un_char = 0, last_un_char;
 927         char *send = strchr(s,']');
 928         char tmpbuf[sizeof tokenbuf * 4];
 929
 930         if (!send)              /* has to be an expression */
 931             return TRUE;
 932
 933         Zero(seen,256,char);
 934         if (*s == '$')
 935             weight -= 3;
 936         else if (isDIGIT(*s)) {
 937             if (s[1] != ']') {
 938                 if (isDIGIT(s[1]) && s[2] == ']')
 939                     weight -= 10;
 940             }
 941             else
 942                 weight -= 100;
 943         }
 944         for (; s < send; s++) {
 945             last_un_char = un_char;
 946             un_char = (unsigned char)*s;
 947             switch (*s) {
 948             case '@':
 949             case '&':
 950             case '$':
 951                 weight -= seen[un_char] * 10;
 952                 if (isALNUM(s[1])) {
 953                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
 954                     if ((int)strlen(tmpbuf) > 1 && gv_fetchpv(tmpbuf,FALSE, SVt_PV))
 955                         weight -= 100;
 956                     else
 957                         weight -= 10;
 958                 }
 959                 else if (*s == '$' && s[1] &&
 960                   strchr("[#!%*<>()-=",s[1])) {
 961                     if (/*{*/ strchr("])} =",s[2]))
 962                         weight -= 10;
 963                     else
 964                         weight -= 1;
 965                 }
 966                 break;
 967             case '\\':
 968                 un_char = 254;
 969                 if (s[1]) {
 970                     if (strchr("wds]",s[1]))
 971                         weight += 100;
 972                     else if (seen['\''] || seen['"'])
 973                         weight += 1;
 974                     else if (strchr("rnftbxcav",s[1]))
 975                         weight += 40;
 976                     else if (isDIGIT(s[1])) {
 977                         weight += 40;
 978                         while (s[1] && isDIGIT(s[1]))
 979                             s++;
 980                     }
 981                 }
 982                 else
 983                     weight += 100;
 984                 break;
 985             case '-':
 986                 if (s[1] == '\\')
 987                     weight += 50;
 988                 if (strchr("aA01! ",last_un_char))
 989                     weight += 30;
 990                 if (strchr("zZ79~",s[1]))
 991                     weight += 30;
 992                 break;
 993             default:
 994                 if (!isALNUM(last_un_char) && !strchr("$@&",last_un_char) &&
 995                         isALPHA(*s) && s[1] && isALPHA(s[1])) {
 996                     char *d = tmpbuf;
 997                     while (isALPHA(*s))
 998                         *d++ = *s++;
 999                     *d = '\0';
1000                     if (keyword(tmpbuf, d - tmpbuf))
1001                         weight -= 150;
1002                 }
1003                 if (un_char == last_un_char + 1)
1004                     weight += 5;
1005                 weight -= seen[un_char];
1006                 break;
1007             }
1008             seen[un_char]++;
1009         }
1010         if (weight >= 0)        /* probably a character class */
1011             return FALSE;
1012     }
1013
1014     return TRUE;
1015 }
1016
1017 static int
1018 intuit_method(char *start, GV *gv)
1019 {
1020     char *s = start + (*start == '$');
1021     char tmpbuf[sizeof tokenbuf];
1022     STRLEN len;
1023     GV* indirgv;
1024
1025     if (gv) {
1026         if (GvIO(gv))
1027             return 0;
1028         if (!GvCVu(gv))
1029             gv = 0;
1030     }
1031     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
1032     if (*start == '$') {
1033         if (gv || last_lop_op == OP_PRINT || isUPPER(*tokenbuf))
1034             return 0;
1035         s = skipspace(s);
1036         bufptr = start;
1037         expect = XREF;
1038         return *s == '(' ? FUNCMETH : METHOD;
1039     }
1040     if (!keyword(tmpbuf, len)) {
1041         indirgv = gv_fetchpv(tmpbuf,FALSE, SVt_PVCV);
1042         if (indirgv && GvCVu(indirgv))
1043             return 0;
1044         /* filehandle or package name makes it a method */
1045         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
1046             s = skipspace(s);
1047             if ((bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
1048                 return 0;       /* no assumptions -- "=>" quotes bearword */
1049             nextval[nexttoke].opval =
1050                 (OP*)newSVOP(OP_CONST, 0,
1051                             newSVpv(tmpbuf,0));
1052             nextval[nexttoke].opval->op_private =
1053                 OPpCONST_BARE;
1054             expect = XTERM;
1055             force_next(WORD);
1056             bufptr = s;
1057             return *s == '(' ? FUNCMETH : METHOD;
1058         }
1059     }
1060     return 0;
1061 }
1062
1063 static char*
1064 incl_perldb(void)
1065 {
1066     if (perldb) {
1067         char *pdb = PerlEnv_getenv("PERL5DB");
1068
1069         if (pdb)
1070             return pdb;
1071         SETERRNO(0,SS$_NORMAL);
1072         return "BEGIN { require 'perl5db.pl' }";
1073     }
1074     return "";
1075 }
1076
1077
1078 /* Encoded script support. filter_add() effectively inserts a
1079  * 'pre-processing' function into the current source input stream.
1080  * Note that the filter function only applies to the current source file
1081  * (e.g., it will not affect files 'require'd or 'use'd by this one).
1082  *
1083  * The datasv parameter (which may be NULL) can be used to pass
1084  * private data to this instance of the filter. The filter function
1085  * can recover the SV using the FILTER_DATA macro and use it to
1086  * store private buffers and state information.
1087  *
1088  * The supplied datasv parameter is upgraded to a PVIO type
1089  * and the IoDIRP field is used to store the function pointer.
1090  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
1091  * private use must be set using malloc'd pointers.
1092  */
1093 static int filter_debug = 0;
1094
1095 SV *
1096 filter_add(filter_t funcp, SV *datasv)
1097 {
1098     if (!funcp){ /* temporary handy debugging hack to be deleted */
1099         filter_debug = atoi((char*)datasv);
1100         return NULL;
1101     }
1102     if (!rsfp_filters)
1103         rsfp_filters = newAV();
1104     if (!datasv)
1105         datasv = newSV(0);
1106     if (!SvUPGRADE(datasv, SVt_PVIO))
1107         die("Can't upgrade filter_add data to SVt_PVIO");
1108     IoDIRP(datasv) = (DIR*)funcp; /* stash funcp into spare field */
1109     if (filter_debug)
1110         warn("filter_add func %p (%s)", funcp, SvPV(datasv,na));
1111     av_unshift(rsfp_filters, 1);
1112     av_store(rsfp_filters, 0, datasv) ;
1113     return(datasv);
1114 }
1115
1116
1117 /* Delete most recently added instance of this filter function. */
1118 void
1119 filter_del(filter_t funcp)
1120 {
1121     if (filter_debug)
1122         warn("filter_del func %p", funcp);
1123     if (!rsfp_filters || AvFILLp(rsfp_filters)<0)
1124         return;
1125     /* if filter is on top of stack (usual case) just pop it off */
1126     if (IoDIRP(FILTER_DATA(AvFILLp(rsfp_filters))) == (void*)funcp){
1127         sv_free(av_pop(rsfp_filters));
1128
1129         return;
1130     }
1131     /* we need to search for the correct entry and clear it     */
1132     die("filter_del can only delete in reverse order (currently)");
1133 }
1134
1135
1136 /* Invoke the n'th filter function for the current rsfp.         */
1137 I32
1138 filter_read(int idx, SV *buf_sv, int maxlen)
1139
1140
1141                         /* 0 = read one text line */
1142 {
1143     filter_t funcp;
1144     SV *datasv = NULL;
1145
1146     if (!rsfp_filters)
1147         return -1;
1148     if (idx > AvFILLp(rsfp_filters)){       /* Any more filters?        */
1149         /* Provide a default input filter to make life easy.    */
1150         /* Note that we append to the line. This is handy.      */
1151         if (filter_debug)
1152             warn("filter_read %d: from rsfp\n", idx);
1153         if (maxlen) {
1154             /* Want a block */
1155             int len ;
1156             int old_len = SvCUR(buf_sv) ;
1157
1158             /* ensure buf_sv is large enough */
1159             SvGROW(buf_sv, old_len + maxlen) ;
1160             if ((len = PerlIO_read(rsfp, SvPVX(buf_sv) + old_len, maxlen)) <= 0){
1161                 if (PerlIO_error(rsfp))
1162                     return -1;          /* error */
1163                 else
1164                     return 0 ;          /* end of file */
1165             }
1166             SvCUR_set(buf_sv, old_len + len) ;
1167         } else {
1168             /* Want a line */
1169             if (sv_gets(buf_sv, rsfp, SvCUR(buf_sv)) == NULL) {
1170                 if (PerlIO_error(rsfp))
1171                     return -1;          /* error */
1172                 else
1173                     return 0 ;          /* end of file */
1174             }
1175
1176         }
1177         return SvCUR(buf_sv);
1178     }
1179     /* Skip this filter slot if filter has been deleted */
1180     if ( (datasv = FILTER_DATA(idx)) == &sv_undef){
1181         if (filter_debug)
1182             warn("filter_read %d: skipped (filter deleted)\n", idx);
1183         return FILTER_READ(idx+1, buf_sv, maxlen); /* recurse */
1184     }
1185     /* Get function pointer hidden within datasv        */
1186     funcp = (filter_t)IoDIRP(datasv);
1187     if (filter_debug)
1188         warn("filter_read %d: via function %p (%s)\n",
1189                 idx, funcp, SvPV(datasv,na));
1190     /* Call function. The function is expected to       */
1191     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
1192     /* Return: <0:error, =0:eof, >0:not eof             */
1193     return (*funcp)(idx, buf_sv, maxlen);
1194 }
1195
1196
1197 static char *
1198 filter_gets(register SV *sv, register PerlIO *fp, STRLEN append)
1199 {
1200 #ifdef WIN32FILTER
1201     if (!rsfp_filters) {
1202         filter_add(win32_textfilter,NULL);
1203     }
1204 #endif
1205     if (rsfp_filters) {
1206
1207         if (!append)
1208             SvCUR_set(sv, 0);   /* start with empty line        */
1209         if (FILTER_READ(0, sv, 0) > 0)
1210             return ( SvPVX(sv) ) ;
1211         else
1212             return Nullch ;
1213     }
1214     else
1215         return (sv_gets(sv, fp, append));
1216 }
1217
1218
1219 #ifdef DEBUGGING
1220     static char* exp_name[] =
1221         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "TERMBLOCK" };
1222 #endif
1223
1224 EXT int yychar;         /* last token */
1225
1226 int
1227 yylex(void)
1228 {
1229     dTHR;
1230     register char *s;
1231     register char *d;
1232     register I32 tmp;
1233     STRLEN len;
1234     GV *gv = Nullgv;
1235     GV **gvp = 0;
1236
1237     if (pending_ident) {
1238         char pit = pending_ident;
1239         pending_ident = 0;
1240
1241         if (in_my) {
1242             if (strchr(tokenbuf,':'))
1243                 croak(no_myglob,tokenbuf);
1244             yylval.opval = newOP(OP_PADANY, 0);
1245             yylval.opval->op_targ = pad_allocmy(tokenbuf);
1246             return PRIVATEREF;
1247         }
1248
1249         if (!strchr(tokenbuf,':')) {
1250 #ifdef USE_THREADS
1251             /* Check for single character per-thread SVs */
1252             if (tokenbuf[0] == '$' && tokenbuf[2] == '\0'
1253                 && !isALPHA(tokenbuf[1]) /* Rule out obvious non-threadsvs */
1254                 && (tmp = find_threadsv(&tokenbuf[1])) != NOT_IN_PAD)
1255             {
1256                 yylval.opval = newOP(OP_THREADSV, 0);
1257                 yylval.opval->op_targ = tmp;
1258                 return PRIVATEREF;
1259             }
1260 #endif /* USE_THREADS */
1261             if ((tmp = pad_findmy(tokenbuf)) != NOT_IN_PAD) {
1262                 if (last_lop_op == OP_SORT &&
1263                     tokenbuf[0] == '$' &&
1264                     (tokenbuf[1] == 'a' || tokenbuf[1] == 'b')
1265                     && !tokenbuf[2])
1266                 {
1267                     for (d = in_eval ? oldoldbufptr : linestart;
1268                          d < bufend && *d != '\n';
1269                          d++)
1270                     {
1271                         if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
1272                             croak("Can't use \"my %s\" in sort comparison",
1273                                   tokenbuf);
1274                         }
1275                     }
1276                 }
1277
1278                 yylval.opval = newOP(OP_PADANY, 0);
1279                 yylval.opval->op_targ = tmp;
1280                 return PRIVATEREF;
1281             }
1282         }
1283
1284         /* Force them to make up their mind on "@foo". */
1285         if (pit == '@' && lex_state != LEX_NORMAL && !lex_brackets) {
1286             GV *gv = gv_fetchpv(tokenbuf+1, FALSE, SVt_PVAV);
1287             if (!gv || ((tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
1288                 yyerror(form("In string, %s now must be written as \\%s",
1289                              tokenbuf, tokenbuf));
1290         }
1291
1292         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf+1, 0));
1293         yylval.opval->op_private = OPpCONST_ENTERED;
1294         gv_fetchpv(tokenbuf+1, in_eval ? GV_ADDMULTI : TRUE,
1295                    ((tokenbuf[0] == '$') ? SVt_PV
1296                     : (tokenbuf[0] == '@') ? SVt_PVAV
1297                     : SVt_PVHV));
1298         return WORD;
1299     }
1300
1301     switch (lex_state) {
1302 #ifdef COMMENTARY
1303     case LEX_NORMAL:            /* Some compilers will produce faster */
1304     case LEX_INTERPNORMAL:      /* code if we comment these out. */
1305         break;
1306 #endif
1307
1308     case LEX_KNOWNEXT:
1309         nexttoke--;
1310         yylval = nextval[nexttoke];
1311         if (!nexttoke) {
1312             lex_state = lex_defer;
1313             expect = lex_expect;
1314             lex_defer = LEX_NORMAL;
1315         }
1316         return(nexttype[nexttoke]);
1317
1318     case LEX_INTERPCASEMOD:
1319 #ifdef DEBUGGING
1320         if (bufptr != bufend && *bufptr != '\\')
1321             croak("panic: INTERPCASEMOD");
1322 #endif
1323         if (bufptr == bufend || bufptr[1] == 'E') {
1324             char oldmod;
1325             if (lex_casemods) {
1326                 oldmod = lex_casestack[--lex_casemods];
1327                 lex_casestack[lex_casemods] = '\0';
1328                 if (bufptr != bufend && strchr("LUQ", oldmod)) {
1329                     bufptr += 2;
1330                     lex_state = LEX_INTERPCONCAT;
1331                 }
1332                 return ')';
1333             }
1334             if (bufptr != bufend)
1335                 bufptr += 2;
1336             lex_state = LEX_INTERPCONCAT;
1337             return yylex();
1338         }
1339         else {
1340             s = bufptr + 1;
1341             if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
1342                 tmp = *s, *s = s[2], s[2] = tmp;        /* misordered... */
1343             if (strchr("LU", *s) &&
1344                 (strchr(lex_casestack, 'L') || strchr(lex_casestack, 'U')))
1345             {
1346                 lex_casestack[--lex_casemods] = '\0';
1347                 return ')';
1348             }
1349             if (lex_casemods > 10) {
1350                 char* newlb = Renew(lex_casestack, lex_casemods + 2, char);
1351                 if (newlb != lex_casestack) {
1352                     SAVEFREEPV(newlb);
1353                     lex_casestack = newlb;
1354                 }
1355             }
1356             lex_casestack[lex_casemods++] = *s;
1357             lex_casestack[lex_casemods] = '\0';
1358             lex_state = LEX_INTERPCONCAT;
1359             nextval[nexttoke].ival = 0;
1360             force_next('(');
1361             if (*s == 'l')
1362                 nextval[nexttoke].ival = OP_LCFIRST;
1363             else if (*s == 'u')
1364                 nextval[nexttoke].ival = OP_UCFIRST;
1365             else if (*s == 'L')
1366                 nextval[nexttoke].ival = OP_LC;
1367             else if (*s == 'U')
1368                 nextval[nexttoke].ival = OP_UC;
1369             else if (*s == 'Q')
1370                 nextval[nexttoke].ival = OP_QUOTEMETA;
1371             else
1372                 croak("panic: yylex");
1373             bufptr = s + 1;
1374             force_next(FUNC);
1375             if (lex_starts) {
1376                 s = bufptr;
1377                 lex_starts = 0;
1378                 Aop(OP_CONCAT);
1379             }
1380             else
1381                 return yylex();
1382         }
1383
1384     case LEX_INTERPPUSH:
1385         return sublex_push();
1386
1387     case LEX_INTERPSTART:
1388         if (bufptr == bufend)
1389             return sublex_done();
1390         expect = XTERM;
1391         lex_dojoin = (*bufptr == '@');
1392         lex_state = LEX_INTERPNORMAL;
1393         if (lex_dojoin) {
1394             nextval[nexttoke].ival = 0;
1395             force_next(',');
1396 #ifdef USE_THREADS
1397             nextval[nexttoke].opval = newOP(OP_THREADSV, 0);
1398             nextval[nexttoke].opval->op_targ = find_threadsv("\"");
1399             force_next(PRIVATEREF);
1400 #else
1401             force_ident("\"", '$');
1402 #endif /* USE_THREADS */
1403             nextval[nexttoke].ival = 0;
1404             force_next('$');
1405             nextval[nexttoke].ival = 0;
1406             force_next('(');
1407             nextval[nexttoke].ival = OP_JOIN;   /* emulate join($", ...) */
1408             force_next(FUNC);
1409         }
1410         if (lex_starts++) {
1411             s = bufptr;
1412             Aop(OP_CONCAT);
1413         }
1414         return yylex();
1415
1416     case LEX_INTERPENDMAYBE:
1417         if (intuit_more(bufptr)) {
1418             lex_state = LEX_INTERPNORMAL;       /* false alarm, more expr */
1419             break;
1420         }
1421         /* FALL THROUGH */
1422
1423     case LEX_INTERPEND:
1424         if (lex_dojoin) {
1425             lex_dojoin = FALSE;
1426             lex_state = LEX_INTERPCONCAT;
1427             return ')';
1428         }
1429         /* FALLTHROUGH */
1430     case LEX_INTERPCONCAT:
1431 #ifdef DEBUGGING
1432         if (lex_brackets)
1433             croak("panic: INTERPCONCAT");
1434 #endif
1435         if (bufptr == bufend)
1436             return sublex_done();
1437
1438         if (SvIVX(linestr) == '\'') {
1439             SV *sv = newSVsv(linestr);
1440             if (!lex_inpat)
1441                 sv = q(sv);
1442             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1443             s = bufend;
1444         }
1445         else {
1446             s = scan_const(bufptr);
1447             if (*s == '\\')
1448                 lex_state = LEX_INTERPCASEMOD;
1449             else
1450                 lex_state = LEX_INTERPSTART;
1451         }
1452
1453         if (s != bufptr) {
1454             nextval[nexttoke] = yylval;
1455             expect = XTERM;
1456             force_next(THING);
1457             if (lex_starts++)
1458                 Aop(OP_CONCAT);
1459             else {
1460                 bufptr = s;
1461                 return yylex();
1462             }
1463         }
1464
1465         return yylex();
1466     case LEX_FORMLINE:
1467         lex_state = LEX_NORMAL;
1468         s = scan_formline(bufptr);
1469         if (!lex_formbrack)
1470             goto rightbracket;
1471         OPERATOR(';');
1472     }
1473
1474     s = bufptr;
1475     oldoldbufptr = oldbufptr;
1476     oldbufptr = s;
1477     DEBUG_p( {
1478         PerlIO_printf(PerlIO_stderr(), "### Tokener expecting %s at %s\n", exp_name[expect], s);
1479     } )
1480
1481   retry:
1482     switch (*s) {
1483     default:
1484         croak("Unrecognized character \\%03o", *s & 255);
1485     case 4:
1486     case 26:
1487         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
1488     case 0:
1489         if (!rsfp) {
1490             last_uni = 0;
1491             last_lop = 0;
1492             if (lex_brackets)
1493                 yyerror("Missing right bracket");
1494             TOKEN(0);
1495         }
1496         if (s++ < bufend)
1497             goto retry;                 /* ignore stray nulls */
1498         last_uni = 0;
1499         last_lop = 0;
1500         if (!in_eval && !preambled) {
1501             preambled = TRUE;
1502             sv_setpv(linestr,incl_perldb());
1503             if (SvCUR(linestr))
1504                 sv_catpv(linestr,";");
1505             if (preambleav){
1506                 while(AvFILLp(preambleav) >= 0) {
1507                     SV *tmpsv = av_shift(preambleav);
1508                     sv_catsv(linestr, tmpsv);
1509                     sv_catpv(linestr, ";");
1510                     sv_free(tmpsv);
1511                 }
1512                 sv_free((SV*)preambleav);
1513                 preambleav = NULL;
1514             }
1515             if (minus_n || minus_p) {
1516                 sv_catpv(linestr, "LINE: while (<>) {");
1517                 if (minus_l)
1518                     sv_catpv(linestr,"chomp;");
1519                 if (minus_a) {
1520                     GV* gv = gv_fetchpv("::F", TRUE, SVt_PVAV);
1521                     if (gv)
1522                         GvIMPORTED_AV_on(gv);
1523                     if (minus_F) {
1524                         if (strchr("/'\"", *splitstr)
1525                               && strchr(splitstr + 1, *splitstr))
1526                             sv_catpvf(linestr, "@F=split(%s);", splitstr);
1527                         else {
1528                             char delim;
1529                             s = "'~#\200\1'"; /* surely one char is unused...*/
1530                             while (s[1] && strchr(splitstr, *s))  s++;
1531                             delim = *s;
1532                             sv_catpvf(linestr, "@F=split(%s%c",
1533                                       "q" + (delim == '\''), delim);
1534                             for (s = splitstr; *s; s++) {
1535                                 if (*s == '\\')
1536                                     sv_catpvn(linestr, "\\", 1);
1537                                 sv_catpvn(linestr, s, 1);
1538                             }
1539                             sv_catpvf(linestr, "%c);", delim);
1540                         }
1541                     }
1542                     else
1543                         sv_catpv(linestr,"@F=split(' ');");
1544                 }
1545             }
1546             sv_catpv(linestr, "\n");
1547             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1548             bufend = SvPVX(linestr) + SvCUR(linestr);
1549             if (PERLDB_LINE && curstash != debstash) {
1550                 SV *sv = NEWSV(85,0);
1551
1552                 sv_upgrade(sv, SVt_PVMG);
1553                 sv_setsv(sv,linestr);
1554                 av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1555             }
1556             goto retry;
1557         }
1558         do {
1559             if ((s = filter_gets(linestr, rsfp, 0)) == Nullch) {
1560               fake_eof:
1561                 if (rsfp) {
1562                     if (preprocess && !in_eval)
1563                         (void)PerlProc_pclose(rsfp);
1564                     else if ((PerlIO *)rsfp == PerlIO_stdin())
1565                         PerlIO_clearerr(rsfp);
1566                     else
1567                         (void)PerlIO_close(rsfp);
1568                     if (e_fp == rsfp)
1569                         e_fp = Nullfp;
1570                     rsfp = Nullfp;
1571                 }
1572                 if (!in_eval && (minus_n || minus_p)) {
1573                     sv_setpv(linestr,minus_p ? ";}continue{print" : "");
1574                     sv_catpv(linestr,";}");
1575                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1576                     bufend = SvPVX(linestr) + SvCUR(linestr);
1577                     minus_n = minus_p = 0;
1578                     goto retry;
1579                 }
1580                 oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1581                 sv_setpv(linestr,"");
1582                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
1583             }
1584             if (doextract) {
1585                 if (*s == '#' && s[1] == '!' && instr(s,"perl"))
1586                     doextract = FALSE;
1587
1588                 /* Incest with pod. */
1589                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
1590                     sv_setpv(linestr, "");
1591                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1592                     bufend = SvPVX(linestr) + SvCUR(linestr);
1593                     doextract = FALSE;
1594                 }
1595             }
1596             incline(s);
1597         } while (doextract);
1598         oldoldbufptr = oldbufptr = bufptr = linestart = s;
1599         if (PERLDB_LINE && curstash != debstash) {
1600             SV *sv = NEWSV(85,0);
1601
1602             sv_upgrade(sv, SVt_PVMG);
1603             sv_setsv(sv,linestr);
1604             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1605         }
1606         bufend = SvPVX(linestr) + SvCUR(linestr);
1607         if (curcop->cop_line == 1) {
1608             while (s < bufend && isSPACE(*s))
1609                 s++;
1610             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
1611                 s++;
1612             d = Nullch;
1613             if (!in_eval) {
1614                 if (*s == '#' && *(s+1) == '!')
1615                     d = s + 2;
1616 #ifdef ALTERNATE_SHEBANG
1617                 else {
1618                     static char as[] = ALTERNATE_SHEBANG;
1619                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
1620                         d = s + (sizeof(as) - 1);
1621                 }
1622 #endif /* ALTERNATE_SHEBANG */
1623             }
1624             if (d) {
1625                 char *ipath;
1626                 char *ipathend;
1627
1628                 while (isSPACE(*d))
1629                     d++;
1630                 ipath = d;
1631                 while (*d && !isSPACE(*d))
1632                     d++;
1633                 ipathend = d;
1634
1635 #ifdef ARG_ZERO_IS_SCRIPT
1636                 if (ipathend > ipath) {
1637                     /*
1638                      * HP-UX (at least) sets argv[0] to the script name,
1639                      * which makes $^X incorrect.  And Digital UNIX and Linux,
1640                      * at least, set argv[0] to the basename of the Perl
1641                      * interpreter. So, having found "#!", we'll set it right.
1642                      */
1643                     SV *x = GvSV(gv_fetchpv("\030", TRUE, SVt_PV));
1644                     assert(SvPOK(x) || SvGMAGICAL(x));
1645                     if (sv_eq(x, GvSV(curcop->cop_filegv))) {
1646                         sv_setpvn(x, ipath, ipathend - ipath);
1647                         SvSETMAGIC(x);
1648                     }
1649                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
1650                 }
1651 #endif /* ARG_ZERO_IS_SCRIPT */
1652
1653                 /*
1654                  * Look for options.
1655                  */
1656                 d = instr(s,"perl -");
1657                 if (!d)
1658                     d = instr(s,"perl");
1659 #ifdef ALTERNATE_SHEBANG
1660                 /*
1661                  * If the ALTERNATE_SHEBANG on this system starts with a
1662                  * character that can be part of a Perl expression, then if
1663                  * we see it but not "perl", we're probably looking at the
1664                  * start of Perl code, not a request to hand off to some
1665                  * other interpreter.  Similarly, if "perl" is there, but
1666                  * not in the first 'word' of the line, we assume the line
1667                  * contains the start of the Perl program.
1668                  */
1669                 if (d && *s != '#') {
1670                     char *c = ipath;
1671                     while (*c && !strchr("; \t\r\n\f\v#", *c))
1672                         c++;
1673                     if (c < d)
1674                         d = Nullch;     /* "perl" not in first word; ignore */
1675                     else
1676                         *s = '#';       /* Don't try to parse shebang line */
1677                 }
1678 #endif /* ALTERNATE_SHEBANG */
1679                 if (!d &&
1680                     *s == '#' &&
1681                     ipathend > ipath &&
1682                     !minus_c &&
1683                     !instr(s,"indir") &&
1684                     instr(origargv[0],"perl"))
1685                 {
1686                     char **newargv;
1687
1688                     *ipathend = '\0';
1689                     s = ipathend + 1;
1690                     while (s < bufend && isSPACE(*s))
1691                         s++;
1692                     if (s < bufend) {
1693                         Newz(899,newargv,origargc+3,char*);
1694                         newargv[1] = s;
1695                         while (s < bufend && !isSPACE(*s))
1696                             s++;
1697                         *s = '\0';
1698                         Copy(origargv+1, newargv+2, origargc+1, char*);
1699                     }
1700                     else
1701                         newargv = origargv;
1702                     newargv[0] = ipath;
1703                     execv(ipath, newargv);
1704                     croak("Can't exec %s", ipath);
1705                 }
1706                 if (d) {
1707                     U32 oldpdb = perldb;
1708                     bool oldn = minus_n;
1709                     bool oldp = minus_p;
1710
1711                     while (*d && !isSPACE(*d)) d++;
1712                     while (*d == ' ' || *d == '\t') d++;
1713
1714                     if (*d++ == '-') {
1715                         do {
1716                             if (*d == 'M' || *d == 'm') {
1717                                 char *m = d;
1718                                 while (*d && !isSPACE(*d)) d++;
1719                                 croak("Too late for \"-%.*s\" option",
1720                                       (int)(d - m), m);
1721                             }
1722                             d = moreswitches(d);
1723                         } while (d);
1724                         if (PERLDB_LINE && !oldpdb ||
1725                             ( minus_n || minus_p ) && !(oldn || oldp) )
1726                               /* if we have already added "LINE: while (<>) {",
1727                                  we must not do it again */
1728                         {
1729                             sv_setpv(linestr, "");
1730                             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1731                             bufend = SvPVX(linestr) + SvCUR(linestr);
1732                             preambled = FALSE;
1733                             if (PERLDB_LINE)
1734                                 (void)gv_fetchfile(origfilename);
1735                             goto retry;
1736                         }
1737                     }
1738                 }
1739             }
1740         }
1741         if (lex_formbrack && lex_brackets <= lex_formbrack) {
1742             bufptr = s;
1743             lex_state = LEX_FORMLINE;
1744             return yylex();
1745         }
1746         goto retry;
1747     case '\r':
1748 #ifndef WIN32CHEAT
1749         warn("Illegal character \\%03o (carriage return)", '\r');
1750         croak(
1751       "(Maybe you didn't strip carriage returns after a network transfer?)\n");
1752 #endif
1753     case ' ': case '\t': case '\f': case 013:
1754         s++;
1755         goto retry;
1756     case '#':
1757     case '\n':
1758         if (lex_state != LEX_NORMAL || (in_eval && !rsfp)) {
1759             d = bufend;
1760             while (s < d && *s != '\n')
1761                 s++;
1762             if (s < d)
1763                 s++;
1764             incline(s);
1765             if (lex_formbrack && lex_brackets <= lex_formbrack) {
1766                 bufptr = s;
1767                 lex_state = LEX_FORMLINE;
1768                 return yylex();
1769             }
1770         }
1771         else {
1772             *s = '\0';
1773             bufend = s;
1774         }
1775         goto retry;
1776     case '-':
1777         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
1778             s++;
1779             bufptr = s;
1780             tmp = *s++;
1781
1782             while (s < bufend && (*s == ' ' || *s == '\t'))
1783                 s++;
1784
1785             if (strnEQ(s,"=>",2)) {
1786                 if (dowarn)
1787                     warn("Ambiguous use of -%c => resolved to \"-%c\" =>",
1788                         (int)tmp, (int)tmp);
1789                 s = force_word(bufptr,WORD,FALSE,FALSE,FALSE);
1790                 OPERATOR('-');          /* unary minus */
1791             }
1792             last_uni = oldbufptr;
1793             last_lop_op = OP_FTEREAD;   /* good enough */
1794             switch (tmp) {
1795             case 'r': FTST(OP_FTEREAD);
1796             case 'w': FTST(OP_FTEWRITE);
1797             case 'x': FTST(OP_FTEEXEC);
1798             case 'o': FTST(OP_FTEOWNED);
1799             case 'R': FTST(OP_FTRREAD);
1800             case 'W': FTST(OP_FTRWRITE);
1801             case 'X': FTST(OP_FTREXEC);
1802             case 'O': FTST(OP_FTROWNED);
1803             case 'e': FTST(OP_FTIS);
1804             case 'z': FTST(OP_FTZERO);
1805             case 's': FTST(OP_FTSIZE);
1806             case 'f': FTST(OP_FTFILE);
1807             case 'd': FTST(OP_FTDIR);
1808             case 'l': FTST(OP_FTLINK);
1809             case 'p': FTST(OP_FTPIPE);
1810             case 'S': FTST(OP_FTSOCK);
1811             case 'u': FTST(OP_FTSUID);
1812             case 'g': FTST(OP_FTSGID);
1813             case 'k': FTST(OP_FTSVTX);
1814             case 'b': FTST(OP_FTBLK);
1815             case 'c': FTST(OP_FTCHR);
1816             case 't': FTST(OP_FTTTY);
1817             case 'T': FTST(OP_FTTEXT);
1818             case 'B': FTST(OP_FTBINARY);
1819             case 'M': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTMTIME);
1820             case 'A': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTATIME);
1821             case 'C': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTCTIME);
1822             default:
1823                 croak("Unrecognized file test: -%c", (int)tmp);
1824                 break;
1825             }
1826         }
1827         tmp = *s++;
1828         if (*s == tmp) {
1829             s++;
1830             if (expect == XOPERATOR)
1831                 TERM(POSTDEC);
1832             else
1833                 OPERATOR(PREDEC);
1834         }
1835         else if (*s == '>') {
1836             s++;
1837             s = skipspace(s);
1838             if (isIDFIRST(*s)) {
1839                 s = force_word(s,METHOD,FALSE,TRUE,FALSE);
1840                 TOKEN(ARROW);
1841             }
1842             else if (*s == '$')
1843                 OPERATOR(ARROW);
1844             else
1845                 TERM(ARROW);
1846         }
1847         if (expect == XOPERATOR)
1848             Aop(OP_SUBTRACT);
1849         else {
1850             if (isSPACE(*s) || !isSPACE(*bufptr))
1851                 check_uni();
1852             OPERATOR('-');              /* unary minus */
1853         }
1854
1855     case '+':
1856         tmp = *s++;
1857         if (*s == tmp) {
1858             s++;
1859             if (expect == XOPERATOR)
1860                 TERM(POSTINC);
1861             else
1862                 OPERATOR(PREINC);
1863         }
1864         if (expect == XOPERATOR)
1865             Aop(OP_ADD);
1866         else {
1867             if (isSPACE(*s) || !isSPACE(*bufptr))
1868                 check_uni();
1869             OPERATOR('+');
1870         }
1871
1872     case '*':
1873         if (expect != XOPERATOR) {
1874             s = scan_ident(s, bufend, tokenbuf, sizeof tokenbuf, TRUE);
1875             expect = XOPERATOR;
1876             force_ident(tokenbuf, '*');
1877             if (!*tokenbuf)
1878                 PREREF('*');
1879             TERM('*');
1880         }
1881         s++;
1882         if (*s == '*') {
1883             s++;
1884             PWop(OP_POW);
1885         }
1886         Mop(OP_MULTIPLY);
1887
1888     case '%':
1889         if (expect == XOPERATOR) {
1890             ++s;
1891             Mop(OP_MODULO);
1892         }
1893         tokenbuf[0] = '%';
1894         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, TRUE);
1895         if (!tokenbuf[1]) {
1896             if (s == bufend)
1897                 yyerror("Final % should be \\% or %name");
1898             PREREF('%');
1899         }
1900         pending_ident = '%';
1901         TERM('%');
1902
1903     case '^':
1904         s++;
1905         BOop(OP_BIT_XOR);
1906     case '[':
1907         lex_brackets++;
1908         /* FALL THROUGH */
1909     case '~':
1910     case ',':
1911         tmp = *s++;
1912         OPERATOR(tmp);
1913     case ':':
1914         if (s[1] == ':') {
1915             len = 0;
1916             goto just_a_word;
1917         }
1918         s++;
1919         OPERATOR(':');
1920     case '(':
1921         s++;
1922         if (last_lop == oldoldbufptr || last_uni == oldoldbufptr)
1923             oldbufptr = oldoldbufptr;           /* allow print(STDOUT 123) */
1924         else
1925             expect = XTERM;
1926         TOKEN('(');
1927     case ';':
1928         if (curcop->cop_line < copline)
1929             copline = curcop->cop_line;
1930         tmp = *s++;
1931         OPERATOR(tmp);
1932     case ')':
1933         tmp = *s++;
1934         s = skipspace(s);
1935         if (*s == '{')
1936             PREBLOCK(tmp);
1937         TERM(tmp);
1938     case ']':
1939         s++;
1940         if (lex_brackets <= 0)
1941             yyerror("Unmatched right bracket");
1942         else
1943             --lex_brackets;
1944         if (lex_state == LEX_INTERPNORMAL) {
1945             if (lex_brackets == 0) {
1946                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
1947                     lex_state = LEX_INTERPEND;
1948             }
1949         }
1950         TERM(']');
1951     case '{':
1952       leftbracket:
1953         s++;
1954         if (lex_brackets > 100) {
1955             char* newlb = Renew(lex_brackstack, lex_brackets + 1, char);
1956             if (newlb != lex_brackstack) {
1957                 SAVEFREEPV(newlb);
1958                 lex_brackstack = newlb;
1959             }
1960         }
1961         switch (expect) {
1962         case XTERM:
1963             if (lex_formbrack) {
1964                 s--;
1965                 PRETERMBLOCK(DO);
1966             }
1967             if (oldoldbufptr == last_lop)
1968                 lex_brackstack[lex_brackets++] = XTERM;
1969             else
1970                 lex_brackstack[lex_brackets++] = XOPERATOR;
1971             OPERATOR(HASHBRACK);
1972         case XOPERATOR:
1973             while (s < bufend && (*s == ' ' || *s == '\t'))
1974                 s++;
1975             d = s;
1976             tokenbuf[0] = '\0';
1977             if (d < bufend && *d == '-') {
1978                 tokenbuf[0] = '-';
1979                 d++;
1980                 while (d < bufend && (*d == ' ' || *d == '\t'))
1981                     d++;
1982             }
1983             if (d < bufend && isIDFIRST(*d)) {
1984                 d = scan_word(d, tokenbuf + 1, sizeof tokenbuf - 1,
1985                               FALSE, &len);
1986                 while (d < bufend && (*d == ' ' || *d == '\t'))
1987                     d++;
1988                 if (*d == '}') {
1989                     char minus = (tokenbuf[0] == '-');
1990                     if (dowarn &&
1991                         (keyword(tokenbuf + 1, len) ||
1992                          (minus && len == 1 && isALPHA(tokenbuf[1])) ||
1993                          perl_get_cv(tokenbuf + 1, FALSE) ))
1994                         warn("Ambiguous use of {%s} resolved to {\"%s\"}",
1995                              tokenbuf + !minus, tokenbuf + !minus);
1996                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
1997                     if (minus)
1998                         force_next('-');
1999                 }
2000             }
2001             /* FALL THROUGH */
2002         case XBLOCK:
2003             lex_brackstack[lex_brackets++] = XSTATE;
2004             expect = XSTATE;
2005             break;
2006         case XTERMBLOCK:
2007             lex_brackstack[lex_brackets++] = XOPERATOR;
2008             expect = XSTATE;
2009             break;
2010         default: {
2011                 char *t;
2012                 if (oldoldbufptr == last_lop)
2013                     lex_brackstack[lex_brackets++] = XTERM;
2014                 else
2015                     lex_brackstack[lex_brackets++] = XOPERATOR;
2016                 s = skipspace(s);
2017                 if (*s == '}') {
2018                     if (expect == XSTATE) {
2019                         lex_brackstack[lex_brackets-1] = XSTATE;
2020                         break;
2021                     }
2022                     OPERATOR(HASHBRACK);
2023                 }
2024                 /* This hack serves to disambiguate a pair of curlies
2025                  * as being a block or an anon hash.  Normally, expectation
2026                  * determines that, but in cases where we're not in a
2027                  * position to expect anything in particular (like inside
2028                  * eval"") we have to resolve the ambiguity.  This code
2029                  * covers the case where the first term in the curlies is a
2030                  * quoted string.  Most other cases need to be explicitly
2031                  * disambiguated by prepending a `+' before the opening
2032                  * curly in order to force resolution as an anon hash.
2033                  *
2034                  * XXX should probably propagate the outer expectation
2035                  * into eval"" to rely less on this hack, but that could
2036                  * potentially break current behavior of eval"".
2037                  * GSAR 97-07-21
2038                  */
2039                 t = s;
2040                 if (*s == '\'' || *s == '"' || *s == '`') {
2041                     /* common case: get past first string, handling escapes */
2042                     for (t++; t < bufend && *t != *s;)
2043                         if (*t++ == '\\' && (*t == '\\' || *t == *s))
2044                             t++;
2045                     t++;
2046                 }
2047                 else if (*s == 'q') {
2048                     if (++t < bufend
2049                         && (!isALNUM(*t)
2050                             || ((*t == 'q' || *t == 'x') && ++t < bufend
2051                                 && !isALNUM(*t)))) {
2052                         char *tmps;
2053                         char open, close, term;
2054                         I32 brackets = 1;
2055
2056                         while (t < bufend && isSPACE(*t))
2057                             t++;
2058                         term = *t;
2059                         open = term;
2060                         if (term && (tmps = strchr("([{< )]}> )]}>",term)))
2061                             term = tmps[5];
2062                         close = term;
2063                         if (open == close)
2064                             for (t++; t < bufend; t++) {
2065                                 if (*t == '\\' && t+1 < bufend && open != '\\')
2066                                     t++;
2067                                 else if (*t == open)
2068                                     break;
2069                             }
2070                         else
2071                             for (t++; t < bufend; t++) {
2072                                 if (*t == '\\' && t+1 < bufend)
2073                                     t++;
2074                                 else if (*t == close && --brackets <= 0)
2075                                     break;
2076                                 else if (*t == open)
2077                                     brackets++;
2078                             }
2079                     }
2080                     t++;
2081                 }
2082                 else if (isALPHA(*s)) {
2083                     for (t++; t < bufend && isALNUM(*t); t++) ;
2084                 }
2085                 while (t < bufend && isSPACE(*t))
2086                     t++;
2087                 /* if comma follows first term, call it an anon hash */
2088                 /* XXX it could be a comma expression with loop modifiers */
2089                 if (t < bufend && ((*t == ',' && (*s == 'q' || !isLOWER(*s)))
2090                                    || (*t == '=' && t[1] == '>')))
2091                     OPERATOR(HASHBRACK);
2092                 if (expect == XREF)
2093                     expect = XTERM;
2094                 else {
2095                     lex_brackstack[lex_brackets-1] = XSTATE;
2096                     expect = XSTATE;
2097                 }
2098             }
2099             break;
2100         }
2101         yylval.ival = curcop->cop_line;
2102         if (isSPACE(*s) || *s == '#')
2103             copline = NOLINE;   /* invalidate current command line number */
2104         TOKEN('{');
2105     case '}':
2106       rightbracket:
2107         s++;
2108         if (lex_brackets <= 0)
2109             yyerror("Unmatched right bracket");
2110         else
2111             expect = (expectation)lex_brackstack[--lex_brackets];
2112         if (lex_brackets < lex_formbrack)
2113             lex_formbrack = 0;
2114         if (lex_state == LEX_INTERPNORMAL) {
2115             if (lex_brackets == 0) {
2116                 if (lex_fakebrack) {
2117                     lex_state = LEX_INTERPEND;
2118                     bufptr = s;
2119                     return yylex();             /* ignore fake brackets */
2120                 }
2121                 if (*s == '-' && s[1] == '>')
2122                     lex_state = LEX_INTERPENDMAYBE;
2123                 else if (*s != '[' && *s != '{')
2124                     lex_state = LEX_INTERPEND;
2125             }
2126         }
2127         if (lex_brackets < lex_fakebrack) {
2128             bufptr = s;
2129             lex_fakebrack = 0;
2130             return yylex();             /* ignore fake brackets */
2131         }
2132         force_next('}');
2133         TOKEN(';');
2134     case '&':
2135         s++;
2136         tmp = *s++;
2137         if (tmp == '&')
2138             AOPERATOR(ANDAND);
2139         s--;
2140         if (expect == XOPERATOR) {
2141             if (dowarn && isALPHA(*s) && bufptr == linestart) {
2142                 curcop->cop_line--;
2143                 warn(warn_nosemi);
2144                 curcop->cop_line++;
2145             }
2146             BAop(OP_BIT_AND);
2147         }
2148
2149         s = scan_ident(s - 1, bufend, tokenbuf, sizeof tokenbuf, TRUE);
2150         if (*tokenbuf) {
2151             expect = XOPERATOR;
2152             force_ident(tokenbuf, '&');
2153         }
2154         else
2155             PREREF('&');
2156         yylval.ival = (OPpENTERSUB_AMPER<<8);
2157         TERM('&');
2158
2159     case '|':
2160         s++;
2161         tmp = *s++;
2162         if (tmp == '|')
2163             AOPERATOR(OROR);
2164         s--;
2165         BOop(OP_BIT_OR);
2166     case '=':
2167         s++;
2168         tmp = *s++;
2169         if (tmp == '=')
2170             Eop(OP_EQ);
2171         if (tmp == '>')
2172             OPERATOR(',');
2173         if (tmp == '~')
2174             PMop(OP_MATCH);
2175         if (dowarn && tmp && isSPACE(*s) && strchr("+-*/%.^&|<",tmp))
2176             warn("Reversed %c= operator",(int)tmp);
2177         s--;
2178         if (expect == XSTATE && isALPHA(tmp) &&
2179                 (s == linestart+1 || s[-2] == '\n') )
2180         {
2181             if (in_eval && !rsfp) {
2182                 d = bufend;
2183                 while (s < d) {
2184                     if (*s++ == '\n') {
2185                         incline(s);
2186                         if (strnEQ(s,"=cut",4)) {
2187                             s = strchr(s,'\n');
2188                             if (s)
2189                                 s++;
2190                             else
2191                                 s = d;
2192                             incline(s);
2193                             goto retry;
2194                         }
2195                     }
2196                 }
2197                 goto retry;
2198             }
2199             s = bufend;
2200             doextract = TRUE;
2201             goto retry;
2202         }
2203         if (lex_brackets < lex_formbrack) {
2204             char *t;
2205             for (t = s; *t == ' ' || *t == '\t'; t++) ;
2206             if (*t == '\n' || *t == '#') {
2207                 s--;
2208                 expect = XBLOCK;
2209                 goto leftbracket;
2210             }
2211         }
2212         yylval.ival = 0;
2213         OPERATOR(ASSIGNOP);
2214     case '!':
2215         s++;
2216         tmp = *s++;
2217         if (tmp == '=')
2218             Eop(OP_NE);
2219         if (tmp == '~')
2220             PMop(OP_NOT);
2221         s--;
2222         OPERATOR('!');
2223     case '<':
2224         if (expect != XOPERATOR) {
2225             if (s[1] != '<' && !strchr(s,'>'))
2226                 check_uni();
2227             if (s[1] == '<')
2228                 s = scan_heredoc(s);
2229             else
2230                 s = scan_inputsymbol(s);
2231             TERM(sublex_start());
2232         }
2233         s++;
2234         tmp = *s++;
2235         if (tmp == '<')
2236             SHop(OP_LEFT_SHIFT);
2237         if (tmp == '=') {
2238             tmp = *s++;
2239             if (tmp == '>')
2240                 Eop(OP_NCMP);
2241             s--;
2242             Rop(OP_LE);
2243         }
2244         s--;
2245         Rop(OP_LT);
2246     case '>':
2247         s++;
2248         tmp = *s++;
2249         if (tmp == '>')
2250             SHop(OP_RIGHT_SHIFT);
2251         if (tmp == '=')
2252             Rop(OP_GE);
2253         s--;
2254         Rop(OP_GT);
2255
2256     case '$':
2257         CLINE;
2258
2259         if (expect == XOPERATOR) {
2260             if (lex_formbrack && lex_brackets == lex_formbrack) {
2261                 expect = XTERM;
2262                 depcom();
2263                 return ','; /* grandfather non-comma-format format */
2264             }
2265         }
2266
2267         if (s[1] == '#' && (isALPHA(s[2]) || strchr("_{$:", s[2]))) {
2268             if (expect == XOPERATOR)
2269                 no_op("Array length", bufptr);
2270             tokenbuf[0] = '@';
2271             s = scan_ident(s + 1, bufend, tokenbuf + 1, sizeof tokenbuf - 1,
2272                            FALSE);
2273             if (!tokenbuf[1])
2274                 PREREF(DOLSHARP);
2275             expect = XOPERATOR;
2276             pending_ident = '#';
2277             TOKEN(DOLSHARP);
2278         }
2279
2280         if (expect == XOPERATOR)
2281             no_op("Scalar", bufptr);
2282         tokenbuf[0] = '$';
2283         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2284         if (!tokenbuf[1]) {
2285             if (s == bufend)
2286                 yyerror("Final $ should be \\$ or $name");
2287             PREREF('$');
2288         }
2289
2290         /* This kludge not intended to be bulletproof. */
2291         if (tokenbuf[1] == '[' && !tokenbuf[2]) {
2292             yylval.opval = newSVOP(OP_CONST, 0,
2293                                    newSViv((IV)compiling.cop_arybase));
2294             yylval.opval->op_private = OPpCONST_ARYBASE;
2295             TERM(THING);
2296         }
2297
2298         d = s;
2299         if (lex_state == LEX_NORMAL)
2300             s = skipspace(s);
2301
2302         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2303             char *t;
2304             if (*s == '[') {
2305                 tokenbuf[0] = '@';
2306                 if (dowarn) {
2307                     for(t = s + 1;
2308                         isSPACE(*t) || isALNUM(*t) || *t == '$';
2309                         t++) ;
2310                     if (*t++ == ',') {
2311                         bufptr = skipspace(bufptr);
2312                         while (t < bufend && *t != ']')
2313                             t++;
2314                         warn("Multidimensional syntax %.*s not supported",
2315                              (t - bufptr) + 1, bufptr);
2316                     }
2317                 }
2318             }
2319             else if (*s == '{') {
2320                 tokenbuf[0] = '%';
2321                 if (dowarn && strEQ(tokenbuf+1, "SIG") &&
2322                     (t = strchr(s, '}')) && (t = strchr(t, '=')))
2323                 {
2324                     char tmpbuf[sizeof tokenbuf];
2325                     STRLEN len;
2326                     for (t++; isSPACE(*t); t++) ;
2327                     if (isIDFIRST(*t)) {
2328                         t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE, &len);
2329                         if (*t != '(' && perl_get_cv(tmpbuf, FALSE))
2330                             warn("You need to quote \"%s\"", tmpbuf);
2331                     }
2332                 }
2333             }
2334         }
2335
2336         expect = XOPERATOR;
2337         if (lex_state == LEX_NORMAL && isSPACE(*d)) {
2338             bool islop = (last_lop == oldoldbufptr);
2339             if (!islop || last_lop_op == OP_GREPSTART)
2340                 expect = XOPERATOR;
2341             else if (strchr("$@\"'`q", *s))
2342                 expect = XTERM;         /* e.g. print $fh "foo" */
2343             else if (strchr("&*<%", *s) && isIDFIRST(s[1]))
2344                 expect = XTERM;         /* e.g. print $fh &sub */
2345             else if (isIDFIRST(*s)) {
2346                 char tmpbuf[sizeof tokenbuf];
2347                 scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2348                 if (tmp = keyword(tmpbuf, len)) {
2349                     /* binary operators exclude handle interpretations */
2350                     switch (tmp) {
2351                     case -KEY_x:
2352                     case -KEY_eq:
2353                     case -KEY_ne:
2354                     case -KEY_gt:
2355                     case -KEY_lt:
2356                     case -KEY_ge:
2357                     case -KEY_le:
2358                     case -KEY_cmp:
2359                         break;
2360                     default:
2361                         expect = XTERM; /* e.g. print $fh length() */
2362                         break;
2363                     }
2364                 }
2365                 else {
2366                     GV *gv = gv_fetchpv(tmpbuf, FALSE, SVt_PVCV);
2367                     if (gv && GvCVu(gv))
2368                         expect = XTERM; /* e.g. print $fh subr() */
2369                 }
2370             }
2371             else if (isDIGIT(*s))
2372                 expect = XTERM;         /* e.g. print $fh 3 */
2373             else if (*s == '.' && isDIGIT(s[1]))
2374                 expect = XTERM;         /* e.g. print $fh .3 */
2375             else if (strchr("/?-+", *s) && !isSPACE(s[1]))
2376                 expect = XTERM;         /* e.g. print $fh -1 */
2377             else if (*s == '<' && s[1] == '<' && !isSPACE(s[2]))
2378                 expect = XTERM;         /* print $fh <<"EOF" */
2379         }
2380         pending_ident = '$';
2381         TOKEN('$');
2382
2383     case '@':
2384         if (expect == XOPERATOR)
2385             no_op("Array", s);
2386         tokenbuf[0] = '@';
2387         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2388         if (!tokenbuf[1]) {
2389             if (s == bufend)
2390                 yyerror("Final @ should be \\@ or @name");
2391             PREREF('@');
2392         }
2393         if (lex_state == LEX_NORMAL)
2394             s = skipspace(s);
2395         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2396             if (*s == '{')
2397                 tokenbuf[0] = '%';
2398
2399             /* Warn about @ where they meant $. */
2400             if (dowarn) {
2401                 if (*s == '[' || *s == '{') {
2402                     char *t = s + 1;
2403                     while (*t && (isALNUM(*t) || strchr(" \t$#+-'\"", *t)))
2404                         t++;
2405                     if (*t == '}' || *t == ']') {
2406                         t++;
2407                         bufptr = skipspace(bufptr);
2408                         warn("Scalar value %.*s better written as $%.*s",
2409                             t-bufptr, bufptr, t-bufptr-1, bufptr+1);
2410                     }
2411                 }
2412             }
2413         }
2414         pending_ident = '@';
2415         TERM('@');
2416
2417     case '/':                   /* may either be division or pattern */
2418     case '?':                   /* may either be conditional or pattern */
2419         if (expect != XOPERATOR) {
2420             /* Disable warning on "study /blah/" */
2421             if (oldoldbufptr == last_uni
2422                 && (*last_uni != 's' || s - last_uni < 5
2423                     || memNE(last_uni, "study", 5) || isALNUM(last_uni[5])))
2424                 check_uni();
2425             s = scan_pat(s);
2426             TERM(sublex_start());
2427         }
2428         tmp = *s++;
2429         if (tmp == '/')
2430             Mop(OP_DIVIDE);
2431         OPERATOR(tmp);
2432
2433     case '.':
2434         if (lex_formbrack && lex_brackets == lex_formbrack && s[1] == '\n' &&
2435                 (s == linestart || s[-1] == '\n') ) {
2436             lex_formbrack = 0;
2437             expect = XSTATE;
2438             goto rightbracket;
2439         }
2440         if (expect == XOPERATOR || !isDIGIT(s[1])) {
2441             tmp = *s++;
2442             if (*s == tmp) {
2443                 s++;
2444                 if (*s == tmp) {
2445                     s++;
2446                     yylval.ival = OPf_SPECIAL;
2447                 }
2448                 else
2449                     yylval.ival = 0;
2450                 OPERATOR(DOTDOT);
2451             }
2452             if (expect != XOPERATOR)
2453                 check_uni();
2454             Aop(OP_CONCAT);
2455         }
2456         /* FALL THROUGH */
2457     case '0': case '1': case '2': case '3': case '4':
2458     case '5': case '6': case '7': case '8': case '9':
2459         s = scan_num(s);
2460         if (expect == XOPERATOR)
2461             no_op("Number",s);
2462         TERM(THING);
2463
2464     case '\'':
2465         s = scan_str(s);
2466         if (expect == XOPERATOR) {
2467             if (lex_formbrack && lex_brackets == lex_formbrack) {
2468                 expect = XTERM;
2469                 depcom();
2470                 return ',';     /* grandfather non-comma-format format */
2471             }
2472             else
2473                 no_op("String",s);
2474         }
2475         if (!s)
2476             missingterm((char*)0);
2477         yylval.ival = OP_CONST;
2478         TERM(sublex_start());
2479
2480     case '"':
2481         s = scan_str(s);
2482         if (expect == XOPERATOR) {
2483             if (lex_formbrack && lex_brackets == lex_formbrack) {
2484                 expect = XTERM;
2485                 depcom();
2486                 return ',';     /* grandfather non-comma-format format */
2487             }
2488             else
2489                 no_op("String",s);
2490         }
2491         if (!s)
2492             missingterm((char*)0);
2493         yylval.ival = OP_CONST;
2494         for (d = SvPV(lex_stuff, len); len; len--, d++) {
2495             if (*d == '$' || *d == '@' || *d == '\\') {
2496                 yylval.ival = OP_STRINGIFY;
2497                 break;
2498             }
2499         }
2500         TERM(sublex_start());
2501
2502     case '`':
2503         s = scan_str(s);
2504         if (expect == XOPERATOR)
2505             no_op("Backticks",s);
2506         if (!s)
2507             missingterm((char*)0);
2508         yylval.ival = OP_BACKTICK;
2509         set_csh();
2510         TERM(sublex_start());
2511
2512     case '\\':
2513         s++;
2514         if (dowarn && lex_inwhat && isDIGIT(*s))
2515             warn("Can't use \\%c to mean $%c in expression", *s, *s);
2516         if (expect == XOPERATOR)
2517             no_op("Backslash",s);
2518         OPERATOR(REFGEN);
2519
2520     case 'x':
2521         if (isDIGIT(s[1]) && expect == XOPERATOR) {
2522             s++;
2523             Mop(OP_REPEAT);
2524         }
2525         goto keylookup;
2526
2527     case '_':
2528     case 'a': case 'A':
2529     case 'b': case 'B':
2530     case 'c': case 'C':
2531     case 'd': case 'D':
2532     case 'e': case 'E':
2533     case 'f': case 'F':
2534     case 'g': case 'G':
2535     case 'h': case 'H':
2536     case 'i': case 'I':
2537     case 'j': case 'J':
2538     case 'k': case 'K':
2539     case 'l': case 'L':
2540     case 'm': case 'M':
2541     case 'n': case 'N':
2542     case 'o': case 'O':
2543     case 'p': case 'P':
2544     case 'q': case 'Q':
2545     case 'r': case 'R':
2546     case 's': case 'S':
2547     case 't': case 'T':
2548     case 'u': case 'U':
2549     case 'v': case 'V':
2550     case 'w': case 'W':
2551               case 'X':
2552     case 'y': case 'Y':
2553     case 'z': case 'Z':
2554
2555       keylookup: {
2556         gv = Nullgv;
2557         gvp = 0;
2558
2559         bufptr = s;
2560         s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2561
2562         /* Some keywords can be followed by any delimiter, including ':' */
2563         tmp = (len == 1 && strchr("msyq", tokenbuf[0]) ||
2564                len == 2 && ((tokenbuf[0] == 't' && tokenbuf[1] == 'r') ||
2565                             (tokenbuf[0] == 'q' &&
2566                              strchr("qwx", tokenbuf[1]))));
2567
2568         /* x::* is just a word, unless x is "CORE" */
2569         if (!tmp && *s == ':' && s[1] == ':' && strNE(tokenbuf, "CORE"))
2570             goto just_a_word;
2571
2572         d = s;
2573         while (d < bufend && isSPACE(*d))
2574                 d++;    /* no comments skipped here, or s### is misparsed */
2575
2576         /* Is this a label? */
2577         if (!tmp && expect == XSTATE
2578               && d < bufend && *d == ':' && *(d + 1) != ':') {
2579             s = d + 1;
2580             yylval.pval = savepv(tokenbuf);
2581             CLINE;
2582             TOKEN(LABEL);
2583         }
2584
2585         /* Check for keywords */
2586         tmp = keyword(tokenbuf, len);
2587
2588         /* Is this a word before a => operator? */
2589         if (strnEQ(d,"=>",2)) {
2590             CLINE;
2591             if (dowarn && (tmp || perl_get_cv(tokenbuf, FALSE)))
2592                 warn("Ambiguous use of %s => resolved to \"%s\" =>",
2593                         tokenbuf, tokenbuf);
2594             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2595             yylval.opval->op_private = OPpCONST_BARE;
2596             TERM(WORD);
2597         }
2598
2599         if (tmp < 0) {                  /* second-class keyword? */
2600             if (expect != XOPERATOR && (*s != ':' || s[1] != ':') &&
2601                 (((gv = gv_fetchpv(tokenbuf, FALSE, SVt_PVCV)) &&
2602                   GvCVu(gv) && GvIMPORTED_CV(gv)) ||
2603                  ((gvp = (GV**)hv_fetch(globalstash,tokenbuf,len,FALSE)) &&
2604                   (gv = *gvp) != (GV*)&sv_undef &&
2605                   GvCVu(gv) && GvIMPORTED_CV(gv))))
2606             {
2607                 tmp = 0;                /* overridden by importation */
2608             }
2609             else if (gv && !gvp
2610                      && -tmp==KEY_lock  /* XXX generalizable kludge */
2611                      && !hv_fetch(GvHVn(incgv), "Thread.pm", 9, FALSE))
2612             {
2613                 tmp = 0;                /* any sub overrides "weak" keyword */
2614             }
2615             else {
2616                 tmp = -tmp; gv = Nullgv; gvp = 0;
2617             }
2618         }
2619
2620       reserved_word:
2621         switch (tmp) {
2622
2623         default:                        /* not a keyword */
2624           just_a_word: {
2625                 SV *sv;
2626                 char lastchar = (bufptr == oldoldbufptr ? 0 : bufptr[-1]);
2627
2628                 /* Get the rest if it looks like a package qualifier */
2629
2630                 if (*s == '\'' || *s == ':' && s[1] == ':') {
2631                     s = scan_word(s, tokenbuf + len, sizeof tokenbuf - len,
2632                                   TRUE, &len);
2633                     if (!len)
2634                         croak("Bad name after %s::", tokenbuf);
2635                 }
2636
2637                 if (expect == XOPERATOR) {
2638                     if (bufptr == linestart) {
2639                         curcop->cop_line--;
2640                         warn(warn_nosemi);
2641                         curcop->cop_line++;
2642                     }
2643                     else
2644                         no_op("Bareword",s);
2645                 }
2646
2647                 /* Look for a subroutine with this name in current package. */
2648
2649                 if (gvp) {
2650                     sv = newSVpv("CORE::GLOBAL::",14);
2651                     sv_catpv(sv,tokenbuf);
2652                 }
2653                 else
2654                     sv = newSVpv(tokenbuf,0);
2655                 if (!gv)
2656                     gv = gv_fetchpv(tokenbuf,FALSE, SVt_PVCV);
2657
2658                 /* Presume this is going to be a bareword of some sort. */
2659
2660                 CLINE;
2661                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
2662                 yylval.opval->op_private = OPpCONST_BARE;
2663
2664                 /* See if it's the indirect object for a list operator. */
2665
2666                 if (oldoldbufptr &&
2667                     oldoldbufptr < bufptr &&
2668                     (oldoldbufptr == last_lop || oldoldbufptr == last_uni) &&
2669                     /* NO SKIPSPACE BEFORE HERE! */
2670                     (expect == XREF ||
2671                      ((opargs[last_lop_op] >> OASHIFT)& 7) == OA_FILEREF) )
2672                 {
2673                     bool immediate_paren = *s == '(';
2674
2675                     /* (Now we can afford to cross potential line boundary.) */
2676                     s = skipspace(s);
2677
2678                     /* Two barewords in a row may indicate method call. */
2679
2680                     if ((isALPHA(*s) || *s == '$') && (tmp=intuit_method(s,gv)))
2681                         return tmp;
2682
2683                     /* If not a declared subroutine, it's an indirect object. */
2684                     /* (But it's an indir obj regardless for sort.) */
2685
2686                     if ((last_lop_op == OP_SORT ||
2687                          (!immediate_paren && (!gv || !GvCVu(gv))) ) &&
2688                         (last_lop_op != OP_MAPSTART && last_lop_op != OP_GREPSTART)){
2689                         expect = (last_lop == oldoldbufptr) ? XTERM : XOPERATOR;
2690                         goto bareword;
2691                     }
2692                 }
2693
2694                 /* If followed by a paren, it's certainly a subroutine. */
2695
2696                 expect = XOPERATOR;
2697                 s = skipspace(s);
2698                 if (*s == '(') {
2699                     CLINE;
2700                     if (gv && GvCVu(gv)) {
2701                         for (d = s + 1; *d == ' ' || *d == '\t'; d++) ;
2702                         if (*d == ')' && (sv = cv_const_sv(GvCV(gv)))) {
2703                             s = d + 1;
2704                             goto its_constant;
2705                         }
2706                     }
2707                     nextval[nexttoke].opval = yylval.opval;
2708                     expect = XOPERATOR;
2709                     force_next(WORD);
2710                     yylval.ival = 0;
2711                     TOKEN('&');
2712                 }
2713
2714                 /* If followed by var or block, call it a method (unless sub) */
2715
2716                 if ((*s == '$' || *s == '{') && (!gv || !GvCVu(gv))) {
2717                     last_lop = oldbufptr;
2718                     last_lop_op = OP_METHOD;
2719                     PREBLOCK(METHOD);
2720                 }
2721
2722                 /* If followed by a bareword, see if it looks like indir obj. */
2723
2724                 if ((isALPHA(*s) || *s == '$') && (tmp = intuit_method(s,gv)))
2725                     return tmp;
2726
2727                 /* Not a method, so call it a subroutine (if defined) */
2728
2729                 if (gv && GvCVu(gv)) {
2730                     CV* cv;
2731                     if (lastchar == '-')
2732                         warn("Ambiguous use of -%s resolved as -&%s()",
2733                                 tokenbuf, tokenbuf);
2734                     last_lop = oldbufptr;
2735                     last_lop_op = OP_ENTERSUB;
2736                     /* Check for a constant sub */
2737                     cv = GvCV(gv);
2738                     if ((sv = cv_const_sv(cv))) {
2739                   its_constant:
2740                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
2741                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc(sv);
2742                         yylval.opval->op_private = 0;
2743                         TOKEN(WORD);
2744                     }
2745
2746                     /* Resolve to GV now. */
2747                     op_free(yylval.opval);
2748                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
2749                     /* Is there a prototype? */
2750                     if (SvPOK(cv)) {
2751                         STRLEN len;
2752                         char *proto = SvPV((SV*)cv, len);
2753                         if (!len)
2754                             TERM(FUNC0SUB);
2755                         if (strEQ(proto, "$"))
2756                             OPERATOR(UNIOPSUB);
2757                         if (*proto == '&' && *s == '{') {
2758                             sv_setpv(subname,"__ANON__");
2759                             PREBLOCK(LSTOPSUB);
2760                         }
2761                     }
2762                     nextval[nexttoke].opval = yylval.opval;
2763                     expect = XTERM;
2764                     force_next(WORD);
2765                     TOKEN(NOAMP);
2766                 }
2767
2768                 if (hints & HINT_STRICT_SUBS &&
2769                     lastchar != '-' &&
2770                     strnNE(s,"->",2) &&
2771                     last_lop_op != OP_TRUNCATE &&  /* S/F prototype in opcode.pl */
2772                     last_lop_op != OP_ACCEPT &&
2773                     last_lop_op != OP_PIPE_OP &&
2774                     last_lop_op != OP_SOCKPAIR)
2775                 {
2776                     warn(
2777                      "Bareword \"%s\" not allowed while \"strict subs\" in use",
2778                         tokenbuf);
2779                     ++error_count;
2780                 }
2781
2782                 /* Call it a bare word */
2783
2784             bareword:
2785                 if (dowarn) {
2786                     if (lastchar != '-') {
2787                         for (d = tokenbuf; *d && isLOWER(*d); d++) ;
2788                         if (!*d)
2789                             warn(warn_reserved, tokenbuf);
2790                     }
2791                 }
2792                 if (lastchar && strchr("*%&", lastchar)) {
2793                     warn("Operator or semicolon missing before %c%s",
2794                         lastchar, tokenbuf);
2795                     warn("Ambiguous use of %c resolved as operator %c",
2796                         lastchar, lastchar);
2797                 }
2798                 TOKEN(WORD);
2799             }
2800
2801         case KEY___FILE__:
2802             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2803                                         newSVsv(GvSV(curcop->cop_filegv)));
2804             TERM(THING);
2805
2806         case KEY___LINE__:
2807             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2808                                     newSVpvf("%ld", (long)curcop->cop_line));
2809             TERM(THING);
2810
2811         case KEY___PACKAGE__:
2812             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2813                                         (curstash
2814                                          ? newSVsv(curstname)
2815                                          : &sv_undef));
2816             TERM(THING);
2817
2818         case KEY___DATA__:
2819         case KEY___END__: {
2820             GV *gv;
2821
2822             /*SUPPRESS 560*/
2823             if (rsfp && (!in_eval || tokenbuf[2] == 'D')) {
2824                 char *pname = "main";
2825                 if (tokenbuf[2] == 'D')
2826                     pname = HvNAME(curstash ? curstash : defstash);
2827                 gv = gv_fetchpv(form("%s::DATA", pname), TRUE, SVt_PVIO);
2828                 GvMULTI_on(gv);
2829                 if (!GvIO(gv))
2830                     GvIOp(gv) = newIO();
2831                 IoIFP(GvIOp(gv)) = rsfp;
2832 #if defined(HAS_FCNTL) && defined(F_SETFD)
2833                 {
2834                     int fd = PerlIO_fileno(rsfp);
2835                     fcntl(fd,F_SETFD,fd >= 3);
2836                 }
2837 #endif
2838                 /* Mark this internal pseudo-handle as clean */
2839                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
2840                 if (preprocess)
2841                     IoTYPE(GvIOp(gv)) = '|';
2842                 else if ((PerlIO*)rsfp == PerlIO_stdin())
2843                     IoTYPE(GvIOp(gv)) = '-';
2844                 else
2845                     IoTYPE(GvIOp(gv)) = '<';
2846                 rsfp = Nullfp;
2847             }
2848             goto fake_eof;
2849         }
2850
2851         case KEY_AUTOLOAD:
2852         case KEY_DESTROY:
2853         case KEY_BEGIN:
2854         case KEY_END:
2855         case KEY_INIT:
2856             if (expect == XSTATE) {
2857                 s = bufptr;
2858                 goto really_sub;
2859             }
2860             goto just_a_word;
2861
2862         case KEY_CORE:
2863             if (*s == ':' && s[1] == ':') {
2864                 s += 2;
2865                 d = s;
2866                 s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2867                 tmp = keyword(tokenbuf, len);
2868                 if (tmp < 0)
2869                     tmp = -tmp;
2870                 goto reserved_word;
2871             }
2872             goto just_a_word;
2873
2874         case KEY_abs:
2875             UNI(OP_ABS);
2876
2877         case KEY_alarm:
2878             UNI(OP_ALARM);
2879
2880         case KEY_accept:
2881             LOP(OP_ACCEPT,XTERM);
2882
2883         case KEY_and:
2884             OPERATOR(ANDOP);
2885
2886         case KEY_atan2:
2887             LOP(OP_ATAN2,XTERM);
2888
2889         case KEY_bind:
2890             LOP(OP_BIND,XTERM);
2891
2892         case KEY_binmode:
2893             UNI(OP_BINMODE);
2894
2895         case KEY_bless:
2896             LOP(OP_BLESS,XTERM);
2897
2898         case KEY_chop:
2899             UNI(OP_CHOP);
2900
2901         case KEY_continue:
2902             PREBLOCK(CONTINUE);
2903
2904         case KEY_chdir:
2905             (void)gv_fetchpv("ENV",TRUE, SVt_PVHV);     /* may use HOME */
2906             UNI(OP_CHDIR);
2907
2908         case KEY_close:
2909             UNI(OP_CLOSE);
2910
2911         case KEY_closedir:
2912             UNI(OP_CLOSEDIR);
2913
2914         case KEY_cmp:
2915             Eop(OP_SCMP);
2916
2917         case KEY_caller:
2918             UNI(OP_CALLER);
2919
2920         case KEY_crypt:
2921 #ifdef FCRYPT
2922             if (!cryptseen++)
2923                 init_des();
2924 #endif
2925             LOP(OP_CRYPT,XTERM);
2926
2927         case KEY_chmod:
2928             if (dowarn) {
2929                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
2930                 if (*d != '0' && isDIGIT(*d))
2931                     yywarn("chmod: mode argument is missing initial 0");
2932             }
2933             LOP(OP_CHMOD,XTERM);
2934
2935         case KEY_chown:
2936             LOP(OP_CHOWN,XTERM);
2937
2938         case KEY_connect:
2939             LOP(OP_CONNECT,XTERM);
2940
2941         case KEY_chr:
2942             UNI(OP_CHR);
2943
2944         case KEY_cos:
2945             UNI(OP_COS);
2946
2947         case KEY_chroot:
2948             UNI(OP_CHROOT);
2949
2950         case KEY_do:
2951             s = skipspace(s);
2952             if (*s == '{')
2953                 PRETERMBLOCK(DO);
2954             if (*s != '\'')
2955                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
2956             OPERATOR(DO);
2957
2958         case KEY_die:
2959             hints |= HINT_BLOCK_SCOPE;
2960             LOP(OP_DIE,XTERM);
2961
2962         case KEY_defined:
2963             UNI(OP_DEFINED);
2964
2965         case KEY_delete:
2966             UNI(OP_DELETE);
2967
2968         case KEY_dbmopen:
2969             gv_fetchpv("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
2970             LOP(OP_DBMOPEN,XTERM);
2971
2972         case KEY_dbmclose:
2973             UNI(OP_DBMCLOSE);
2974
2975         case KEY_dump:
2976             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2977             LOOPX(OP_DUMP);
2978
2979         case KEY_else:
2980             PREBLOCK(ELSE);
2981
2982         case KEY_elsif:
2983             yylval.ival = curcop->cop_line;
2984             OPERATOR(ELSIF);
2985
2986         case KEY_eq:
2987             Eop(OP_SEQ);
2988
2989         case KEY_exists:
2990             UNI(OP_EXISTS);
2991
2992         case KEY_exit:
2993             UNI(OP_EXIT);
2994
2995         case KEY_eval:
2996             s = skipspace(s);
2997             expect = (*s == '{') ? XTERMBLOCK : XTERM;
2998             UNIBRACK(OP_ENTEREVAL);
2999
3000         case KEY_eof:
3001             UNI(OP_EOF);
3002
3003         case KEY_exp:
3004             UNI(OP_EXP);
3005
3006         case KEY_each:
3007             UNI(OP_EACH);
3008
3009         case KEY_exec:
3010             set_csh();
3011             LOP(OP_EXEC,XREF);
3012
3013         case KEY_endhostent:
3014             FUN0(OP_EHOSTENT);
3015
3016         case KEY_endnetent:
3017             FUN0(OP_ENETENT);
3018
3019         case KEY_endservent:
3020             FUN0(OP_ESERVENT);
3021
3022         case KEY_endprotoent:
3023             FUN0(OP_EPROTOENT);
3024
3025         case KEY_endpwent:
3026             FUN0(OP_EPWENT);
3027
3028         case KEY_endgrent:
3029             FUN0(OP_EGRENT);
3030
3031         case KEY_for:
3032         case KEY_foreach:
3033             yylval.ival = curcop->cop_line;
3034             s = skipspace(s);
3035             if (isIDFIRST(*s)) {
3036                 char *p = s;
3037                 if ((bufend - p) >= 3 &&
3038                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
3039                     p += 2;
3040                 p = skipspace(p);
3041                 if (isIDFIRST(*p))
3042                     croak("Missing $ on loop variable");
3043             }
3044             OPERATOR(FOR);
3045
3046         case KEY_formline:
3047             LOP(OP_FORMLINE,XTERM);
3048
3049         case KEY_fork:
3050             FUN0(OP_FORK);
3051
3052         case KEY_fcntl:
3053             LOP(OP_FCNTL,XTERM);
3054
3055         case KEY_fileno:
3056             UNI(OP_FILENO);
3057
3058         case KEY_flock:
3059             LOP(OP_FLOCK,XTERM);
3060
3061         case KEY_gt:
3062             Rop(OP_SGT);
3063
3064         case KEY_ge:
3065             Rop(OP_SGE);
3066
3067         case KEY_grep:
3068             LOP(OP_GREPSTART, *s == '(' ? XTERM : XREF);
3069
3070         case KEY_goto:
3071             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3072             LOOPX(OP_GOTO);
3073
3074         case KEY_gmtime:
3075             UNI(OP_GMTIME);
3076
3077         case KEY_getc:
3078             UNI(OP_GETC);
3079
3080         case KEY_getppid:
3081             FUN0(OP_GETPPID);
3082
3083         case KEY_getpgrp:
3084             UNI(OP_GETPGRP);
3085
3086         case KEY_getpriority:
3087             LOP(OP_GETPRIORITY,XTERM);
3088
3089         case KEY_getprotobyname:
3090             UNI(OP_GPBYNAME);
3091
3092         case KEY_getprotobynumber:
3093             LOP(OP_GPBYNUMBER,XTERM);
3094
3095         case KEY_getprotoent:
3096             FUN0(OP_GPROTOENT);
3097
3098         case KEY_getpwent:
3099             FUN0(OP_GPWENT);
3100
3101         case KEY_getpwnam:
3102             UNI(OP_GPWNAM);
3103
3104         case KEY_getpwuid:
3105             UNI(OP_GPWUID);
3106
3107         case KEY_getpeername:
3108             UNI(OP_GETPEERNAME);
3109
3110         case KEY_gethostbyname:
3111             UNI(OP_GHBYNAME);
3112
3113         case KEY_gethostbyaddr:
3114             LOP(OP_GHBYADDR,XTERM);
3115
3116         case KEY_gethostent:
3117             FUN0(OP_GHOSTENT);
3118
3119         case KEY_getnetbyname:
3120             UNI(OP_GNBYNAME);
3121
3122         case KEY_getnetbyaddr:
3123             LOP(OP_GNBYADDR,XTERM);
3124
3125         case KEY_getnetent:
3126             FUN0(OP_GNETENT);
3127
3128         case KEY_getservbyname:
3129             LOP(OP_GSBYNAME,XTERM);
3130
3131         case KEY_getservbyport:
3132             LOP(OP_GSBYPORT,XTERM);
3133
3134         case KEY_getservent:
3135             FUN0(OP_GSERVENT);
3136
3137         case KEY_getsockname:
3138             UNI(OP_GETSOCKNAME);
3139
3140         case KEY_getsockopt:
3141             LOP(OP_GSOCKOPT,XTERM);
3142
3143         case KEY_getgrent:
3144             FUN0(OP_GGRENT);
3145
3146         case KEY_getgrnam:
3147             UNI(OP_GGRNAM);
3148
3149         case KEY_getgrgid:
3150             UNI(OP_GGRGID);
3151
3152         case KEY_getlogin:
3153             FUN0(OP_GETLOGIN);
3154
3155         case KEY_glob:
3156             set_csh();
3157             LOP(OP_GLOB,XTERM);
3158
3159         case KEY_hex:
3160             UNI(OP_HEX);
3161
3162         case KEY_if:
3163             yylval.ival = curcop->cop_line;
3164             OPERATOR(IF);
3165
3166         case KEY_index:
3167             LOP(OP_INDEX,XTERM);
3168
3169         case KEY_int:
3170             UNI(OP_INT);
3171
3172         case KEY_ioctl:
3173             LOP(OP_IOCTL,XTERM);
3174
3175         case KEY_join:
3176             LOP(OP_JOIN,XTERM);
3177
3178         case KEY_keys:
3179             UNI(OP_KEYS);
3180
3181         case KEY_kill:
3182             LOP(OP_KILL,XTERM);
3183
3184         case KEY_last:
3185             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3186             LOOPX(OP_LAST);
3187
3188         case KEY_lc:
3189             UNI(OP_LC);
3190
3191         case KEY_lcfirst:
3192             UNI(OP_LCFIRST);
3193
3194         case KEY_local:
3195             OPERATOR(LOCAL);
3196
3197         case KEY_length:
3198             UNI(OP_LENGTH);
3199
3200         case KEY_lt:
3201             Rop(OP_SLT);
3202
3203         case KEY_le:
3204             Rop(OP_SLE);
3205
3206         case KEY_localtime:
3207             UNI(OP_LOCALTIME);
3208
3209         case KEY_log:
3210             UNI(OP_LOG);
3211
3212         case KEY_link:
3213             LOP(OP_LINK,XTERM);
3214
3215         case KEY_listen:
3216             LOP(OP_LISTEN,XTERM);
3217
3218         case KEY_lock:
3219             UNI(OP_LOCK);
3220
3221         case KEY_lstat:
3222             UNI(OP_LSTAT);
3223
3224         case KEY_m:
3225             s = scan_pat(s);
3226             TERM(sublex_start());
3227
3228         case KEY_map:
3229             LOP(OP_MAPSTART,XREF);
3230
3231         case KEY_mkdir:
3232             LOP(OP_MKDIR,XTERM);
3233
3234         case KEY_msgctl:
3235             LOP(OP_MSGCTL,XTERM);
3236
3237         case KEY_msgget:
3238             LOP(OP_MSGGET,XTERM);
3239
3240         case KEY_msgrcv:
3241             LOP(OP_MSGRCV,XTERM);
3242
3243         case KEY_msgsnd:
3244             LOP(OP_MSGSND,XTERM);
3245
3246         case KEY_my:
3247             in_my = TRUE;
3248             s = skipspace(s);
3249             if (isIDFIRST(*s)) {
3250                 s = scan_word(s, tokenbuf, sizeof tokenbuf, TRUE, &len);
3251                 in_my_stash = gv_stashpv(tokenbuf, FALSE);
3252                 if (!in_my_stash) {
3253                     char tmpbuf[1024];
3254                     bufptr = s;
3255                     sprintf(tmpbuf, "No such class %.1000s", tokenbuf);
3256                     yyerror(tmpbuf);
3257                 }
3258             }
3259             OPERATOR(MY);
3260
3261         case KEY_next:
3262             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3263             LOOPX(OP_NEXT);
3264
3265         case KEY_ne:
3266             Eop(OP_SNE);
3267
3268         case KEY_no:
3269             if (expect != XSTATE)
3270                 yyerror("\"no\" not allowed in expression");
3271             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3272             s = force_version(s);
3273             yylval.ival = 0;
3274             OPERATOR(USE);
3275
3276         case KEY_not:
3277             OPERATOR(NOTOP);
3278
3279         case KEY_open:
3280             s = skipspace(s);
3281             if (isIDFIRST(*s)) {
3282                 char *t;
3283                 for (d = s; isALNUM(*d); d++) ;
3284                 t = skipspace(d);
3285                 if (strchr("|&*+-=!?:.", *t))
3286                     warn("Precedence problem: open %.*s should be open(%.*s)",
3287                         d-s,s, d-s,s);
3288             }
3289             LOP(OP_OPEN,XTERM);
3290
3291         case KEY_or:
3292             yylval.ival = OP_OR;
3293             OPERATOR(OROP);
3294
3295         case KEY_ord:
3296             UNI(OP_ORD);
3297
3298         case KEY_oct:
3299             UNI(OP_OCT);
3300
3301         case KEY_opendir:
3302             LOP(OP_OPEN_DIR,XTERM);
3303
3304         case KEY_print:
3305             checkcomma(s,tokenbuf,"filehandle");
3306             LOP(OP_PRINT,XREF);
3307
3308         case KEY_printf:
3309             checkcomma(s,tokenbuf,"filehandle");
3310             LOP(OP_PRTF,XREF);
3311
3312         case KEY_prototype:
3313             UNI(OP_PROTOTYPE);
3314
3315         case KEY_push:
3316             LOP(OP_PUSH,XTERM);
3317
3318         case KEY_pop:
3319             UNI(OP_POP);
3320
3321         case KEY_pos:
3322             UNI(OP_POS);
3323
3324         case KEY_pack:
3325             LOP(OP_PACK,XTERM);
3326
3327         case KEY_package:
3328             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3329             OPERATOR(PACKAGE);
3330
3331         case KEY_pipe:
3332             LOP(OP_PIPE_OP,XTERM);
3333
3334         case KEY_q:
3335             s = scan_str(s);
3336             if (!s)
3337                 missingterm((char*)0);
3338             yylval.ival = OP_CONST;
3339             TERM(sublex_start());
3340
3341         case KEY_quotemeta:
3342             UNI(OP_QUOTEMETA);
3343
3344         case KEY_qw:
3345             s = scan_str(s);
3346             if (!s)
3347                 missingterm((char*)0);
3348             if (dowarn && SvLEN(lex_stuff)) {
3349                 d = SvPV_force(lex_stuff, len);
3350                 for (; len; --len, ++d) {
3351                     if (*d == ',') {
3352                         warn("Possible attempt to separate words with commas");
3353                         break;
3354                     }
3355                     if (*d == '#') {
3356                         warn("Possible attempt to put comments in qw() list");
3357                         break;
3358                     }
3359                 }
3360             }
3361             force_next(')');
3362             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, q(lex_stuff));
3363             lex_stuff = Nullsv;
3364             force_next(THING);
3365             force_next(',');
3366             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(" ",1));
3367             force_next(THING);
3368             force_next('(');
3369             yylval.ival = OP_SPLIT;
3370             CLINE;
3371             expect = XTERM;
3372             bufptr = s;
3373             last_lop = oldbufptr;
3374             last_lop_op = OP_SPLIT;
3375             return FUNC;
3376
3377         case KEY_qq:
3378             s = scan_str(s);
3379             if (!s)
3380                 missingterm((char*)0);
3381             yylval.ival = OP_STRINGIFY;
3382             if (SvIVX(lex_stuff) == '\'')
3383                 SvIVX(lex_stuff) = 0;   /* qq'$foo' should intepolate */
3384             TERM(sublex_start());
3385
3386         case KEY_qx:
3387             s = scan_str(s);
3388             if (!s)
3389                 missingterm((char*)0);
3390             yylval.ival = OP_BACKTICK;
3391             set_csh();
3392             TERM(sublex_start());
3393
3394         case KEY_return:
3395             OLDLOP(OP_RETURN);
3396
3397         case KEY_require:
3398             *tokenbuf = '\0';
3399             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3400             if (isIDFIRST(*tokenbuf))
3401                 gv_stashpvn(tokenbuf, strlen(tokenbuf), TRUE);
3402             else if (*s == '<')
3403                 yyerror("<> should be quotes");
3404             UNI(OP_REQUIRE);
3405
3406         case KEY_reset:
3407             UNI(OP_RESET);
3408
3409         case KEY_redo:
3410             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3411             LOOPX(OP_REDO);
3412
3413         case KEY_rename:
3414             LOP(OP_RENAME,XTERM);
3415
3416         case KEY_rand:
3417             UNI(OP_RAND);
3418
3419         case KEY_rmdir:
3420             UNI(OP_RMDIR);
3421
3422         case KEY_rindex:
3423             LOP(OP_RINDEX,XTERM);
3424
3425         case KEY_read:
3426             LOP(OP_READ,XTERM);
3427
3428         case KEY_readdir:
3429             UNI(OP_READDIR);
3430
3431         case KEY_readline:
3432             set_csh();
3433             UNI(OP_READLINE);
3434
3435         case KEY_readpipe:
3436             set_csh();
3437             UNI(OP_BACKTICK);
3438
3439         case KEY_rewinddir:
3440             UNI(OP_REWINDDIR);
3441
3442         case KEY_recv:
3443             LOP(OP_RECV,XTERM);
3444
3445         case KEY_reverse:
3446             LOP(OP_REVERSE,XTERM);
3447
3448         case KEY_readlink:
3449             UNI(OP_READLINK);
3450
3451         case KEY_ref:
3452             UNI(OP_REF);
3453
3454         case KEY_s:
3455             s = scan_subst(s);
3456             if (yylval.opval)
3457                 TERM(sublex_start());
3458             else
3459                 TOKEN(1);       /* force error */
3460
3461         case KEY_chomp:
3462             UNI(OP_CHOMP);
3463
3464         case KEY_scalar:
3465             UNI(OP_SCALAR);
3466
3467         case KEY_select:
3468             LOP(OP_SELECT,XTERM);
3469
3470         case KEY_seek:
3471             LOP(OP_SEEK,XTERM);
3472
3473         case KEY_semctl:
3474             LOP(OP_SEMCTL,XTERM);
3475
3476         case KEY_semget:
3477             LOP(OP_SEMGET,XTERM);
3478
3479         case KEY_semop:
3480             LOP(OP_SEMOP,XTERM);
3481
3482         case KEY_send:
3483             LOP(OP_SEND,XTERM);
3484
3485         case KEY_setpgrp:
3486             LOP(OP_SETPGRP,XTERM);
3487
3488         case KEY_setpriority:
3489             LOP(OP_SETPRIORITY,XTERM);
3490
3491         case KEY_sethostent:
3492             UNI(OP_SHOSTENT);
3493
3494         case KEY_setnetent:
3495             UNI(OP_SNETENT);
3496
3497         case KEY_setservent:
3498             UNI(OP_SSERVENT);
3499
3500         case KEY_setprotoent:
3501             UNI(OP_SPROTOENT);
3502
3503         case KEY_setpwent:
3504             FUN0(OP_SPWENT);
3505
3506         case KEY_setgrent:
3507             FUN0(OP_SGRENT);
3508
3509         case KEY_seekdir:
3510             LOP(OP_SEEKDIR,XTERM);
3511
3512         case KEY_setsockopt:
3513             LOP(OP_SSOCKOPT,XTERM);
3514
3515         case KEY_shift:
3516             UNI(OP_SHIFT);
3517
3518         case KEY_shmctl:
3519             LOP(OP_SHMCTL,XTERM);
3520
3521         case KEY_shmget:
3522             LOP(OP_SHMGET,XTERM);
3523
3524         case KEY_shmread:
3525             LOP(OP_SHMREAD,XTERM);
3526
3527         case KEY_shmwrite:
3528             LOP(OP_SHMWRITE,XTERM);
3529
3530         case KEY_shutdown:
3531             LOP(OP_SHUTDOWN,XTERM);
3532
3533         case KEY_sin:
3534             UNI(OP_SIN);
3535
3536         case KEY_sleep:
3537             UNI(OP_SLEEP);
3538
3539         case KEY_socket:
3540             LOP(OP_SOCKET,XTERM);
3541
3542         case KEY_socketpair:
3543             LOP(OP_SOCKPAIR,XTERM);
3544
3545         case KEY_sort:
3546             checkcomma(s,tokenbuf,"subroutine name");
3547             s = skipspace(s);
3548             if (*s == ';' || *s == ')')         /* probably a close */
3549                 croak("sort is now a reserved word");
3550             expect = XTERM;
3551             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3552             LOP(OP_SORT,XREF);
3553
3554         case KEY_split:
3555             LOP(OP_SPLIT,XTERM);
3556
3557         case KEY_sprintf:
3558             LOP(OP_SPRINTF,XTERM);
3559
3560         case KEY_splice:
3561             LOP(OP_SPLICE,XTERM);
3562
3563         case KEY_sqrt:
3564             UNI(OP_SQRT);
3565
3566         case KEY_srand:
3567             UNI(OP_SRAND);
3568
3569         case KEY_stat:
3570             UNI(OP_STAT);
3571
3572         case KEY_study:
3573             sawstudy++;
3574             UNI(OP_STUDY);
3575
3576         case KEY_substr:
3577             LOP(OP_SUBSTR,XTERM);
3578
3579         case KEY_format:
3580         case KEY_sub:
3581           really_sub:
3582             s = skipspace(s);
3583
3584             if (isIDFIRST(*s) || *s == '\'' || *s == ':') {
3585                 char tmpbuf[sizeof tokenbuf];
3586                 expect = XBLOCK;
3587                 d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
3588                 if (strchr(tmpbuf, ':'))
3589                     sv_setpv(subname, tmpbuf);
3590                 else {
3591                     sv_setsv(subname,curstname);
3592                     sv_catpvn(subname,"::",2);
3593                     sv_catpvn(subname,tmpbuf,len);
3594                 }
3595                 s = force_word(s,WORD,FALSE,TRUE,TRUE);
3596                 s = skipspace(s);
3597             }
3598             else {
3599                 expect = XTERMBLOCK;
3600                 sv_setpv(subname,"?");
3601             }
3602
3603             if (tmp == KEY_format) {
3604                 s = skipspace(s);
3605                 if (*s == '=')
3606                     lex_formbrack = lex_brackets + 1;
3607                 OPERATOR(FORMAT);
3608             }
3609
3610             /* Look for a prototype */
3611             if (*s == '(') {
3612                 char *p;
3613
3614                 s = scan_str(s);
3615                 if (!s) {
3616                     if (lex_stuff)
3617                         SvREFCNT_dec(lex_stuff);
3618                     lex_stuff = Nullsv;
3619                     croak("Prototype not terminated");
3620                 }
3621                 /* strip spaces */
3622                 d = SvPVX(lex_stuff);
3623                 tmp = 0;
3624                 for (p = d; *p; ++p) {
3625                     if (!isSPACE(*p))
3626                         d[tmp++] = *p;
3627                 }
3628                 d[tmp] = '\0';
3629                 SvCUR(lex_stuff) = tmp;
3630
3631                 nexttoke++;
3632                 nextval[1] = nextval[0];
3633                 nexttype[1] = nexttype[0];
3634                 nextval[0].opval = (OP*)newSVOP(OP_CONST, 0, lex_stuff);
3635                 nexttype[0] = THING;
3636                 if (nexttoke == 1) {
3637                     lex_defer = lex_state;
3638                     lex_expect = expect;
3639                     lex_state = LEX_KNOWNEXT;
3640                 }
3641                 lex_stuff = Nullsv;
3642             }
3643
3644             if (*SvPV(subname,na) == '?') {
3645                 sv_setpv(subname,"__ANON__");
3646                 TOKEN(ANONSUB);
3647             }
3648             PREBLOCK(SUB);
3649
3650         case KEY_system:
3651             set_csh();
3652             LOP(OP_SYSTEM,XREF);
3653
3654         case KEY_symlink:
3655             LOP(OP_SYMLINK,XTERM);
3656
3657         case KEY_syscall:
3658             LOP(OP_SYSCALL,XTERM);
3659
3660         case KEY_sysopen:
3661             LOP(OP_SYSOPEN,XTERM);
3662
3663         case KEY_sysseek:
3664             LOP(OP_SYSSEEK,XTERM);
3665
3666         case KEY_sysread:
3667             LOP(OP_SYSREAD,XTERM);
3668
3669         case KEY_syswrite:
3670             LOP(OP_SYSWRITE,XTERM);
3671
3672         case KEY_tr:
3673             s = scan_trans(s);
3674             TERM(sublex_start());
3675
3676         case KEY_tell:
3677             UNI(OP_TELL);
3678
3679         case KEY_telldir:
3680             UNI(OP_TELLDIR);
3681
3682         case KEY_tie:
3683             LOP(OP_TIE,XTERM);
3684
3685         case KEY_tied:
3686             UNI(OP_TIED);
3687
3688         case KEY_time:
3689             FUN0(OP_TIME);
3690
3691         case KEY_times:
3692             FUN0(OP_TMS);
3693
3694         case KEY_truncate:
3695             LOP(OP_TRUNCATE,XTERM);
3696
3697         case KEY_uc:
3698             UNI(OP_UC);
3699
3700         case KEY_ucfirst:
3701             UNI(OP_UCFIRST);
3702
3703         case KEY_untie:
3704             UNI(OP_UNTIE);
3705
3706         case KEY_until:
3707             yylval.ival = curcop->cop_line;
3708             OPERATOR(UNTIL);
3709
3710         case KEY_unless:
3711             yylval.ival = curcop->cop_line;
3712             OPERATOR(UNLESS);
3713
3714         case KEY_unlink:
3715             LOP(OP_UNLINK,XTERM);
3716
3717         case KEY_undef:
3718             UNI(OP_UNDEF);
3719
3720         case KEY_unpack:
3721             LOP(OP_UNPACK,XTERM);
3722
3723         case KEY_utime:
3724             LOP(OP_UTIME,XTERM);
3725
3726         case KEY_umask:
3727             if (dowarn) {
3728                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
3729                 if (*d != '0' && isDIGIT(*d))
3730                     yywarn("umask: argument is missing initial 0");
3731             }
3732             UNI(OP_UMASK);
3733
3734         case KEY_unshift:
3735             LOP(OP_UNSHIFT,XTERM);
3736
3737         case KEY_use:
3738             if (expect != XSTATE)
3739                 yyerror("\"use\" not allowed in expression");
3740             s = skipspace(s);
3741             if(isDIGIT(*s)) {
3742                 s = force_version(s);
3743                 if(*s == ';' || (s = skipspace(s), *s == ';')) {
3744                     nextval[nexttoke].opval = Nullop;
3745                     force_next(WORD);
3746                 }
3747             }
3748             else {
3749                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
3750                 s = force_version(s);
3751             }
3752             yylval.ival = 1;
3753             OPERATOR(USE);
3754
3755         case KEY_values:
3756             UNI(OP_VALUES);
3757
3758         case KEY_vec:
3759             sawvec = TRUE;
3760             LOP(OP_VEC,XTERM);
3761
3762         case KEY_while:
3763             yylval.ival = curcop->cop_line;
3764             OPERATOR(WHILE);
3765
3766         case KEY_warn:
3767             hints |= HINT_BLOCK_SCOPE;
3768             LOP(OP_WARN,XTERM);
3769
3770         case KEY_wait:
3771             FUN0(OP_WAIT);
3772
3773         case KEY_waitpid:
3774             LOP(OP_WAITPID,XTERM);
3775
3776         case KEY_wantarray:
3777             FUN0(OP_WANTARRAY);
3778
3779         case KEY_write:
3780             gv_fetchpv("\f",TRUE, SVt_PV);      /* Make sure $^L is defined */
3781             UNI(OP_ENTERWRITE);
3782
3783         case KEY_x:
3784             if (expect == XOPERATOR)
3785                 Mop(OP_REPEAT);
3786             check_uni();
3787             goto just_a_word;
3788
3789         case KEY_xor:
3790             yylval.ival = OP_XOR;
3791             OPERATOR(OROP);
3792
3793         case KEY_y:
3794             s = scan_trans(s);
3795             TERM(sublex_start());
3796         }
3797     }}
3798 }
3799
3800 I32
3801 keyword(register char *d, I32 len)
3802 {
3803     switch (*d) {
3804     case '_':
3805         if (d[1] == '_') {
3806             if (strEQ(d,"__FILE__"))            return -KEY___FILE__;
3807             if (strEQ(d,"__LINE__"))            return -KEY___LINE__;
3808             if (strEQ(d,"__PACKAGE__"))         return -KEY___PACKAGE__;
3809             if (strEQ(d,"__DATA__"))            return KEY___DATA__;
3810             if (strEQ(d,"__END__"))             return KEY___END__;
3811         }
3812         break;
3813     case 'A':
3814         if (strEQ(d,"AUTOLOAD"))                return KEY_AUTOLOAD;
3815         break;
3816     case 'a':
3817         switch (len) {
3818         case 3:
3819             if (strEQ(d,"and"))                 return -KEY_and;
3820             if (strEQ(d,"abs"))                 return -KEY_abs;
3821             break;
3822         case 5:
3823             if (strEQ(d,"alarm"))               return -KEY_alarm;
3824             if (strEQ(d,"atan2"))               return -KEY_atan2;
3825             break;
3826         case 6:
3827             if (strEQ(d,"accept"))              return -KEY_accept;
3828             break;
3829         }
3830         break;
3831     case 'B':
3832         if (strEQ(d,"BEGIN"))                   return KEY_BEGIN;
3833         break;
3834     case 'b':
3835         if (strEQ(d,"bless"))                   return -KEY_bless;
3836         if (strEQ(d,"bind"))                    return -KEY_bind;
3837         if (strEQ(d,"binmode"))                 return -KEY_binmode;
3838         break;
3839     case 'C':
3840         if (strEQ(d,"CORE"))                    return -KEY_CORE;
3841         break;
3842     case 'c':
3843         switch (len) {
3844         case 3:
3845             if (strEQ(d,"cmp"))                 return -KEY_cmp;
3846             if (strEQ(d,"chr"))                 return -KEY_chr;
3847             if (strEQ(d,"cos"))                 return -KEY_cos;
3848             break;
3849         case 4:
3850             if (strEQ(d,"chop"))                return KEY_chop;
3851             break;
3852         case 5:
3853             if (strEQ(d,"close"))               return -KEY_close;
3854             if (strEQ(d,"chdir"))               return -KEY_chdir;
3855             if (strEQ(d,"chomp"))               return KEY_chomp;
3856             if (strEQ(d,"chmod"))               return -KEY_chmod;
3857             if (strEQ(d,"chown"))               return -KEY_chown;
3858             if (strEQ(d,"crypt"))               return -KEY_crypt;
3859             break;
3860         case 6:
3861             if (strEQ(d,"chroot"))              return -KEY_chroot;
3862             if (strEQ(d,"caller"))              return -KEY_caller;
3863             break;
3864         case 7:
3865             if (strEQ(d,"connect"))             return -KEY_connect;
3866             break;
3867         case 8:
3868             if (strEQ(d,"closedir"))            return -KEY_closedir;
3869             if (strEQ(d,"continue"))            return -KEY_continue;
3870             break;
3871         }
3872         break;
3873     case 'D':
3874         if (strEQ(d,"DESTROY"))                 return KEY_DESTROY;
3875         break;
3876     case 'd':
3877         switch (len) {
3878         case 2:
3879             if (strEQ(d,"do"))                  return KEY_do;
3880             break;
3881         case 3:
3882             if (strEQ(d,"die"))                 return -KEY_die;
3883             break;
3884         case 4:
3885             if (strEQ(d,"dump"))                return -KEY_dump;
3886             break;
3887         case 6:
3888             if (strEQ(d,"delete"))              return KEY_delete;
3889             break;
3890         case 7:
3891             if (strEQ(d,"defined"))             return KEY_defined;
3892             if (strEQ(d,"dbmopen"))             return -KEY_dbmopen;
3893             break;
3894         case 8:
3895             if (strEQ(d,"dbmclose"))            return -KEY_dbmclose;
3896             break;
3897         }
3898         break;
3899     case 'E':
3900         if (strEQ(d,"EQ")) { deprecate(d);      return -KEY_eq;}
3901         if (strEQ(d,"END"))                     return KEY_END;
3902         break;
3903     case 'e':
3904         switch (len) {
3905         case 2:
3906             if (strEQ(d,"eq"))                  return -KEY_eq;
3907             break;
3908         case 3:
3909             if (strEQ(d,"eof"))                 return -KEY_eof;
3910             if (strEQ(d,"exp"))                 return -KEY_exp;
3911             break;
3912         case 4:
3913             if (strEQ(d,"else"))                return KEY_else;
3914             if (strEQ(d,"exit"))                return -KEY_exit;
3915             if (strEQ(d,"eval"))                return KEY_eval;
3916             if (strEQ(d,"exec"))                return -KEY_exec;
3917             if (strEQ(d,"each"))                return KEY_each;
3918             break;
3919         case 5:
3920             if (strEQ(d,"elsif"))               return KEY_elsif;
3921             break;
3922         case 6:
3923             if (strEQ(d,"exists"))              return KEY_exists;
3924             if (strEQ(d,"elseif")) warn("elseif should be elsif");
3925             break;
3926         case 8:
3927             if (strEQ(d,"endgrent"))            return -KEY_endgrent;
3928             if (strEQ(d,"endpwent"))            return -KEY_endpwent;
3929             break;
3930         case 9:
3931             if (strEQ(d,"endnetent"))           return -KEY_endnetent;
3932             break;
3933         case 10:
3934             if (strEQ(d,"endhostent"))          return -KEY_endhostent;
3935             if (strEQ(d,"endservent"))          return -KEY_endservent;
3936             break;
3937         case 11:
3938             if (strEQ(d,"endprotoent"))         return -KEY_endprotoent;
3939             break;
3940         }
3941         break;
3942     case 'f':
3943         switch (len) {
3944         case 3:
3945             if (strEQ(d,"for"))                 return KEY_for;
3946             break;
3947         case 4:
3948             if (strEQ(d,"fork"))                return -KEY_fork;
3949             break;
3950         case 5:
3951             if (strEQ(d,"fcntl"))               return -KEY_fcntl;
3952             if (strEQ(d,"flock"))               return -KEY_flock;
3953             break;
3954         case 6:
3955             if (strEQ(d,"format"))              return KEY_format;
3956             if (strEQ(d,"fileno"))              return -KEY_fileno;
3957             break;
3958         case 7:
3959             if (strEQ(d,"foreach"))             return KEY_foreach;
3960             break;
3961         case 8:
3962             if (strEQ(d,"formline"))            return -KEY_formline;
3963             break;
3964         }
3965         break;
3966     case 'G':
3967         if (len == 2) {
3968             if (strEQ(d,"GT")) { deprecate(d);  return -KEY_gt;}
3969             if (strEQ(d,"GE")) { deprecate(d);  return -KEY_ge;}
3970         }
3971         break;
3972     case 'g':
3973         if (strnEQ(d,"get",3)) {
3974             d += 3;
3975             if (*d == 'p') {
3976                 switch (len) {
3977                 case 7:
3978                     if (strEQ(d,"ppid"))        return -KEY_getppid;
3979                     if (strEQ(d,"pgrp"))        return -KEY_getpgrp;
3980                     break;
3981                 case 8:
3982                     if (strEQ(d,"pwent"))       return -KEY_getpwent;
3983                     if (strEQ(d,"pwnam"))       return -KEY_getpwnam;
3984                     if (strEQ(d,"pwuid"))       return -KEY_getpwuid;
3985                     break;
3986                 case 11:
3987                     if (strEQ(d,"peername"))    return -KEY_getpeername;
3988                     if (strEQ(d,"protoent"))    return -KEY_getprotoent;
3989                     if (strEQ(d,"priority"))    return -KEY_getpriority;
3990                     break;
3991                 case 14:
3992                     if (strEQ(d,"protobyname")) return -KEY_getprotobyname;
3993                     break;
3994                 case 16:
3995                     if (strEQ(d,"protobynumber"))return -KEY_getprotobynumber;
3996                     break;
3997                 }
3998             }
3999             else if (*d == 'h') {
4000                 if (strEQ(d,"hostbyname"))      return -KEY_gethostbyname;
4001                 if (strEQ(d,"hostbyaddr"))      return -KEY_gethostbyaddr;
4002                 if (strEQ(d,"hostent"))         return -KEY_gethostent;
4003             }
4004             else if (*d == 'n') {
4005                 if (strEQ(d,"netbyname"))       return -KEY_getnetbyname;
4006                 if (strEQ(d,"netbyaddr"))       return -KEY_getnetbyaddr;
4007                 if (strEQ(d,"netent"))          return -KEY_getnetent;
4008             }
4009             else if (*d == 's') {
4010                 if (strEQ(d,"servbyname"))      return -KEY_getservbyname;
4011                 if (strEQ(d,"servbyport"))      return -KEY_getservbyport;
4012                 if (strEQ(d,"servent"))         return -KEY_getservent;
4013                 if (strEQ(d,"sockname"))        return -KEY_getsockname;
4014                 if (strEQ(d,"sockopt"))         return -KEY_getsockopt;
4015             }
4016             else if (*d == 'g') {
4017                 if (strEQ(d,"grent"))           return -KEY_getgrent;
4018                 if (strEQ(d,"grnam"))           return -KEY_getgrnam;
4019                 if (strEQ(d,"grgid"))           return -KEY_getgrgid;
4020             }
4021             else if (*d == 'l') {
4022                 if (strEQ(d,"login"))           return -KEY_getlogin;
4023             }
4024             else if (strEQ(d,"c"))              return -KEY_getc;
4025             break;
4026         }
4027         switch (len) {
4028         case 2:
4029             if (strEQ(d,"gt"))                  return -KEY_gt;
4030             if (strEQ(d,"ge"))                  return -KEY_ge;
4031             break;
4032         case 4:
4033             if (strEQ(d,"grep"))                return KEY_grep;
4034             if (strEQ(d,"goto"))                return KEY_goto;
4035             if (strEQ(d,"glob"))                return KEY_glob;
4036             break;
4037         case 6:
4038             if (strEQ(d,"gmtime"))              return -KEY_gmtime;
4039             break;
4040         }
4041         break;
4042     case 'h':
4043         if (strEQ(d,"hex"))                     return -KEY_hex;
4044         break;
4045     case 'I':
4046         if (strEQ(d,"INIT"))                    return KEY_INIT;
4047         break;
4048     case 'i':
4049         switch (len) {
4050         case 2:
4051             if (strEQ(d,"if"))                  return KEY_if;
4052             break;
4053         case 3:
4054             if (strEQ(d,"int"))                 return -KEY_int;
4055             break;
4056         case 5:
4057             if (strEQ(d,"index"))               return -KEY_index;
4058             if (strEQ(d,"ioctl"))               return -KEY_ioctl;
4059             break;
4060         }
4061         break;
4062     case 'j':
4063         if (strEQ(d,"join"))                    return -KEY_join;
4064         break;
4065     case 'k':
4066         if (len == 4) {
4067             if (strEQ(d,"keys"))                return KEY_keys;
4068             if (strEQ(d,"kill"))                return -KEY_kill;
4069         }
4070         break;
4071     case 'L':
4072         if (len == 2) {
4073             if (strEQ(d,"LT")) { deprecate(d);  return -KEY_lt;}
4074             if (strEQ(d,"LE")) { deprecate(d);  return -KEY_le;}
4075         }
4076         break;
4077     case 'l':
4078         switch (len) {
4079         case 2:
4080             if (strEQ(d,"lt"))                  return -KEY_lt;
4081             if (strEQ(d,"le"))                  return -KEY_le;
4082             if (strEQ(d,"lc"))                  return -KEY_lc;
4083             break;
4084         case 3:
4085             if (strEQ(d,"log"))                 return -KEY_log;
4086             break;
4087         case 4:
4088             if (strEQ(d,"last"))                return KEY_last;
4089             if (strEQ(d,"link"))                return -KEY_link;
4090             if (strEQ(d,"lock"))                return -KEY_lock;
4091             break;
4092         case 5:
4093             if (strEQ(d,"local"))               return KEY_local;
4094             if (strEQ(d,"lstat"))               return -KEY_lstat;
4095             break;
4096         case 6:
4097             if (strEQ(d,"length"))              return -KEY_length;
4098             if (strEQ(d,"listen"))              return -KEY_listen;
4099             break;
4100         case 7:
4101             if (strEQ(d,"lcfirst"))             return -KEY_lcfirst;
4102             break;
4103         case 9:
4104             if (strEQ(d,"localtime"))           return -KEY_localtime;
4105             break;
4106         }
4107         break;
4108     case 'm':
4109         switch (len) {
4110         case 1:                                 return KEY_m;
4111         case 2:
4112             if (strEQ(d,"my"))                  return KEY_my;
4113             break;
4114         case 3:
4115             if (strEQ(d,"map"))                 return KEY_map;
4116             break;
4117         case 5:
4118             if (strEQ(d,"mkdir"))               return -KEY_mkdir;
4119             break;
4120         case 6:
4121             if (strEQ(d,"msgctl"))              return -KEY_msgctl;
4122             if (strEQ(d,"msgget"))              return -KEY_msgget;
4123             if (strEQ(d,"msgrcv"))              return -KEY_msgrcv;
4124             if (strEQ(d,"msgsnd"))              return -KEY_msgsnd;
4125             break;
4126         }
4127         break;
4128     case 'N':
4129         if (strEQ(d,"NE")) { deprecate(d);      return -KEY_ne;}
4130         break;
4131     case 'n':
4132         if (strEQ(d,"next"))                    return KEY_next;
4133         if (strEQ(d,"ne"))                      return -KEY_ne;
4134         if (strEQ(d,"not"))                     return -KEY_not;
4135         if (strEQ(d,"no"))                      return KEY_no;
4136         break;
4137     case 'o':
4138         switch (len) {
4139         case 2:
4140             if (strEQ(d,"or"))                  return -KEY_or;
4141             break;
4142         case 3:
4143             if (strEQ(d,"ord"))                 return -KEY_ord;
4144             if (strEQ(d,"oct"))                 return -KEY_oct;
4145             break;
4146         case 4:
4147             if (strEQ(d,"open"))                return -KEY_open;
4148             break;
4149         case 7:
4150             if (strEQ(d,"opendir"))             return -KEY_opendir;
4151             break;
4152         }
4153         break;
4154     case 'p':
4155         switch (len) {
4156         case 3:
4157             if (strEQ(d,"pop"))                 return KEY_pop;
4158             if (strEQ(d,"pos"))                 return KEY_pos;
4159             break;
4160         case 4:
4161             if (strEQ(d,"push"))                return KEY_push;
4162             if (strEQ(d,"pack"))                return -KEY_pack;
4163             if (strEQ(d,"pipe"))                return -KEY_pipe;
4164             break;
4165         case 5:
4166             if (strEQ(d,"print"))               return KEY_print;
4167             break;
4168         case 6:
4169             if (strEQ(d,"printf"))              return KEY_printf;
4170             break;
4171         case 7:
4172             if (strEQ(d,"package"))             return KEY_package;
4173             break;
4174         case 9:
4175             if (strEQ(d,"prototype"))           return KEY_prototype;
4176         }
4177         break;
4178     case 'q':
4179         if (len <= 2) {
4180             if (strEQ(d,"q"))                   return KEY_q;
4181             if (strEQ(d,"qq"))                  return KEY_qq;
4182             if (strEQ(d,"qw"))                  return KEY_qw;
4183             if (strEQ(d,"qx"))                  return KEY_qx;
4184         }
4185         else if (strEQ(d,"quotemeta"))          return -KEY_quotemeta;
4186         break;
4187     case 'r':
4188         switch (len) {
4189         case 3:
4190             if (strEQ(d,"ref"))                 return -KEY_ref;
4191             break;
4192         case 4:
4193             if (strEQ(d,"read"))                return -KEY_read;
4194             if (strEQ(d,"rand"))                return -KEY_rand;
4195             if (strEQ(d,"recv"))                return -KEY_recv;
4196             if (strEQ(d,"redo"))                return KEY_redo;
4197             break;
4198         case 5:
4199             if (strEQ(d,"rmdir"))               return -KEY_rmdir;
4200             if (strEQ(d,"reset"))               return -KEY_reset;
4201             break;
4202         case 6:
4203             if (strEQ(d,"return"))              return KEY_return;
4204             if (strEQ(d,"rename"))              return -KEY_rename;
4205             if (strEQ(d,"rindex"))              return -KEY_rindex;
4206             break;
4207         case 7:
4208             if (strEQ(d,"require"))             return -KEY_require;
4209             if (strEQ(d,"reverse"))             return -KEY_reverse;
4210             if (strEQ(d,"readdir"))             return -KEY_readdir;
4211             break;
4212         case 8:
4213             if (strEQ(d,"readlink"))            return -KEY_readlink;
4214             if (strEQ(d,"readline"))            return -KEY_readline;
4215             if (strEQ(d,"readpipe"))            return -KEY_readpipe;
4216             break;
4217         case 9:
4218             if (strEQ(d,"rewinddir"))           return -KEY_rewinddir;
4219             break;
4220         }
4221         break;
4222     case 's':
4223         switch (d[1]) {
4224         case 0:                                 return KEY_s;
4225         case 'c':
4226             if (strEQ(d,"scalar"))              return KEY_scalar;
4227             break;
4228         case 'e':
4229             switch (len) {
4230             case 4:
4231                 if (strEQ(d,"seek"))            return -KEY_seek;
4232                 if (strEQ(d,"send"))            return -KEY_send;
4233                 break;
4234             case 5:
4235                 if (strEQ(d,"semop"))           return -KEY_semop;
4236                 break;
4237             case 6:
4238                 if (strEQ(d,"select"))          return -KEY_select;
4239                 if (strEQ(d,"semctl"))          return -KEY_semctl;
4240                 if (strEQ(d,"semget"))          return -KEY_semget;
4241                 break;
4242             case 7:
4243                 if (strEQ(d,"setpgrp"))         return -KEY_setpgrp;
4244                 if (strEQ(d,"seekdir"))         return -KEY_seekdir;
4245                 break;
4246             case 8:
4247                 if (strEQ(d,"setpwent"))        return -KEY_setpwent;
4248                 if (strEQ(d,"setgrent"))        return -KEY_setgrent;
4249                 break;
4250             case 9:
4251                 if (strEQ(d,"setnetent"))       return -KEY_setnetent;
4252                 break;
4253             case 10:
4254                 if (strEQ(d,"setsockopt"))      return -KEY_setsockopt;
4255                 if (strEQ(d,"sethostent"))      return -KEY_sethostent;
4256                 if (strEQ(d,"setservent"))      return -KEY_setservent;
4257                 break;
4258             case 11:
4259                 if (strEQ(d,"setpriority"))     return -KEY_setpriority;
4260                 if (strEQ(d,"setprotoent"))     return -KEY_setprotoent;
4261                 break;
4262             }
4263             break;
4264         case 'h':
4265             switch (len) {
4266             case 5:
4267                 if (strEQ(d,"shift"))           return KEY_shift;
4268                 break;
4269             case 6:
4270                 if (strEQ(d,"shmctl"))          return -KEY_shmctl;
4271                 if (strEQ(d,"shmget"))          return -KEY_shmget;
4272                 break;
4273             case 7:
4274                 if (strEQ(d,"shmread"))         return -KEY_shmread;
4275                 break;
4276             case 8:
4277                 if (strEQ(d,"shmwrite"))        return -KEY_shmwrite;
4278                 if (strEQ(d,"shutdown"))        return -KEY_shutdown;
4279                 break;
4280             }
4281             break;
4282         case 'i':
4283             if (strEQ(d,"sin"))                 return -KEY_sin;
4284             break;
4285         case 'l':
4286             if (strEQ(d,"sleep"))               return -KEY_sleep;
4287             break;
4288         case 'o':
4289             if (strEQ(d,"sort"))                return KEY_sort;
4290             if (strEQ(d,"socket"))              return -KEY_socket;
4291             if (strEQ(d,"socketpair"))          return -KEY_socketpair;
4292             break;
4293         case 'p':
4294             if (strEQ(d,"split"))               return KEY_split;
4295             if (strEQ(d,"sprintf"))             return -KEY_sprintf;
4296             if (strEQ(d,"splice"))              return KEY_splice;
4297             break;
4298         case 'q':
4299             if (strEQ(d,"sqrt"))                return -KEY_sqrt;
4300             break;
4301         case 'r':
4302             if (strEQ(d,"srand"))               return -KEY_srand;
4303             break;
4304         case 't':
4305             if (strEQ(d,"stat"))                return -KEY_stat;
4306             if (strEQ(d,"study"))               return KEY_study;
4307             break;
4308         case 'u':
4309             if (strEQ(d,"substr"))              return -KEY_substr;
4310             if (strEQ(d,"sub"))                 return KEY_sub;
4311             break;
4312         case 'y':
4313             switch (len) {
4314             case 6:
4315                 if (strEQ(d,"system"))          return -KEY_system;
4316                 break;
4317             case 7:
4318                 if (strEQ(d,"symlink"))         return -KEY_symlink;
4319                 if (strEQ(d,"syscall"))         return -KEY_syscall;
4320                 if (strEQ(d,"sysopen"))         return -KEY_sysopen;
4321                 if (strEQ(d,"sysread"))         return -KEY_sysread;
4322                 if (strEQ(d,"sysseek"))         return -KEY_sysseek;
4323                 break;
4324             case 8:
4325                 if (strEQ(d,"syswrite"))        return -KEY_syswrite;
4326                 break;
4327             }
4328             break;
4329         }
4330         break;
4331     case 't':
4332         switch (len) {
4333         case 2:
4334             if (strEQ(d,"tr"))                  return KEY_tr;
4335             break;
4336         case 3:
4337             if (strEQ(d,"tie"))                 return KEY_tie;
4338             break;
4339         case 4:
4340             if (strEQ(d,"tell"))                return -KEY_tell;
4341             if (strEQ(d,"tied"))                return KEY_tied;
4342             if (strEQ(d,"time"))                return -KEY_time;
4343             break;
4344         case 5:
4345             if (strEQ(d,"times"))               return -KEY_times;
4346             break;
4347         case 7:
4348             if (strEQ(d,"telldir"))             return -KEY_telldir;
4349             break;
4350         case 8:
4351             if (strEQ(d,"truncate"))            return -KEY_truncate;
4352             break;
4353         }
4354         break;
4355     case 'u':
4356         switch (len) {
4357         case 2:
4358             if (strEQ(d,"uc"))                  return -KEY_uc;
4359             break;
4360         case 3:
4361             if (strEQ(d,"use"))                 return KEY_use;
4362             break;
4363         case 5:
4364             if (strEQ(d,"undef"))               return KEY_undef;
4365             if (strEQ(d,"until"))               return KEY_until;
4366             if (strEQ(d,"untie"))               return KEY_untie;
4367             if (strEQ(d,"utime"))               return -KEY_utime;
4368             if (strEQ(d,"umask"))               return -KEY_umask;
4369             break;
4370         case 6:
4371             if (strEQ(d,"unless"))              return KEY_unless;
4372             if (strEQ(d,"unpack"))              return -KEY_unpack;
4373             if (strEQ(d,"unlink"))              return -KEY_unlink;
4374             break;
4375         case 7:
4376             if (strEQ(d,"unshift"))             return KEY_unshift;
4377             if (strEQ(d,"ucfirst"))             return -KEY_ucfirst;
4378             break;
4379         }
4380         break;
4381     case 'v':
4382         if (strEQ(d,"values"))                  return -KEY_values;
4383         if (strEQ(d,"vec"))                     return -KEY_vec;
4384         break;
4385     case 'w':
4386         switch (len) {
4387         case 4:
4388             if (strEQ(d,"warn"))                return -KEY_warn;
4389             if (strEQ(d,"wait"))                return -KEY_wait;
4390             break;
4391         case 5:
4392             if (strEQ(d,"while"))               return KEY_while;
4393             if (strEQ(d,"write"))               return -KEY_write;
4394             break;
4395         case 7:
4396             if (strEQ(d,"waitpid"))             return -KEY_waitpid;
4397             break;
4398         case 9:
4399             if (strEQ(d,"wantarray"))           return -KEY_wantarray;
4400             break;
4401         }
4402         break;
4403     case 'x':
4404         if (len == 1)                           return -KEY_x;
4405         if (strEQ(d,"xor"))                     return -KEY_xor;
4406         break;
4407     case 'y':
4408         if (len == 1)                           return KEY_y;
4409         break;
4410     case 'z':
4411         break;
4412     }
4413     return 0;
4414 }
4415
4416 static void
4417 checkcomma(register char *s, char *name, char *what)
4418 {
4419     char *w;
4420
4421     if (dowarn && *s == ' ' && s[1] == '(') {   /* XXX gotta be a better way */
4422         int level = 1;
4423         for (w = s+2; *w && level; w++) {
4424             if (*w == '(')
4425                 ++level;
4426             else if (*w == ')')
4427                 --level;
4428         }
4429         if (*w)
4430             for (; *w && isSPACE(*w); w++) ;
4431         if (!*w || !strchr(";|})]oaiuw!=", *w)) /* an advisory hack only... */
4432             warn("%s (...) interpreted as function",name);
4433     }
4434     while (s < bufend && isSPACE(*s))
4435         s++;
4436     if (*s == '(')
4437         s++;
4438     while (s < bufend && isSPACE(*s))
4439         s++;
4440     if (isIDFIRST(*s)) {
4441         w = s++;
4442         while (isALNUM(*s))
4443             s++;
4444         while (s < bufend && isSPACE(*s))
4445             s++;
4446         if (*s == ',') {
4447             int kw;
4448             *s = '\0';
4449             kw = keyword(w, s - w) || perl_get_cv(w, FALSE) != 0;
4450             *s = ',';
4451             if (kw)
4452                 return;
4453             croak("No comma allowed after %s", what);
4454         }
4455     }
4456 }
4457
4458 static char *
4459 scan_word(register char *s, char *dest, STRLEN destlen, int allow_package, STRLEN *slp)
4460 {
4461     register char *d = dest;
4462     register char *e = d + destlen - 3;  /* two-character token, ending NUL */
4463     for (;;) {
4464         if (d >= e)
4465             croak(ident_too_long);
4466         if (isALNUM(*s))
4467             *d++ = *s++;
4468         else if (*s == '\'' && allow_package && isIDFIRST(s[1])) {
4469             *d++ = ':';
4470             *d++ = ':';
4471             s++;
4472         }
4473         else if (*s == ':' && s[1] == ':' && allow_package && isIDFIRST(s[2])) {
4474             *d++ = *s++;
4475             *d++ = *s++;
4476         }
4477         else {
4478             *d = '\0';
4479             *slp = d - dest;
4480             return s;
4481         }
4482     }
4483 }
4484
4485 static char *
4486 scan_ident(register char *s, register char *send, char *dest, STRLEN destlen, I32 ck_uni)
4487 {
4488     register char *d;
4489     register char *e;
4490     char *bracket = 0;
4491     char funny = *s++;
4492
4493     if (lex_brackets == 0)
4494         lex_fakebrack = 0;
4495     if (isSPACE(*s))
4496         s = skipspace(s);
4497     d = dest;
4498     e = d + destlen - 3;        /* two-character token, ending NUL */
4499     if (isDIGIT(*s)) {
4500         while (isDIGIT(*s)) {
4501             if (d >= e)
4502                 croak(ident_too_long);
4503             *d++ = *s++;
4504         }
4505     }
4506     else {
4507         for (;;) {
4508             if (d >= e)
4509                 croak(ident_too_long);
4510             if (isALNUM(*s))
4511                 *d++ = *s++;
4512             else if (*s == '\'' && isIDFIRST(s[1])) {
4513                 *d++ = ':';
4514                 *d++ = ':';
4515                 s++;
4516             }
4517             else if (*s == ':' && s[1] == ':') {
4518                 *d++ = *s++;
4519                 *d++ = *s++;
4520             }
4521             else
4522                 break;
4523         }
4524     }
4525     *d = '\0';
4526     d = dest;
4527     if (*d) {
4528         if (lex_state != LEX_NORMAL)
4529             lex_state = LEX_INTERPENDMAYBE;
4530         return s;
4531     }
4532     if (*s == '$' && s[1] &&
4533       (isALNUM(s[1]) || strchr("${", s[1]) || strnEQ(s+1,"::",2)) )
4534     {
4535         if (isDIGIT(s[1]) && lex_state == LEX_INTERPNORMAL)
4536             deprecate("\"$$<digit>\" to mean \"${$}<digit>\"");
4537         else
4538             return s;
4539     }
4540     if (*s == '{') {
4541         bracket = s;
4542         s++;
4543     }
4544     else if (ck_uni)
4545         check_uni();
4546     if (s < send)
4547         *d = *s++;
4548     d[1] = '\0';
4549     if (*d == '^' && *s && (isUPPER(*s) || strchr("[\\]^_?", *s))) {
4550         *d = toCTRL(*s);
4551         s++;
4552     }
4553     if (bracket) {
4554         if (isSPACE(s[-1])) {
4555             while (s < send) {
4556                 char ch = *s++;
4557                 if (ch != ' ' && ch != '\t') {
4558                     *d = ch;
4559                     break;
4560                 }
4561             }
4562         }
4563         if (isIDFIRST(*d)) {
4564             d++;
4565             while (isALNUM(*s) || *s == ':')
4566                 *d++ = *s++;
4567             *d = '\0';
4568             while (s < send && (*s == ' ' || *s == '\t')) s++;
4569             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
4570                 if (dowarn && keyword(dest, d - dest)) {
4571                     char *brack = *s == '[' ? "[...]" : "{...}";
4572                     warn("Ambiguous use of %c{%s%s} resolved to %c%s%s",
4573                         funny, dest, brack, funny, dest, brack);
4574                 }
4575                 lex_fakebrack = lex_brackets+1;
4576                 bracket++;
4577                 lex_brackstack[lex_brackets++] = XOPERATOR;
4578                 return s;
4579             }
4580         }
4581         if (*s == '}') {
4582             s++;
4583             if (lex_state == LEX_INTERPNORMAL && !lex_brackets)
4584                 lex_state = LEX_INTERPEND;
4585             if (funny == '#')
4586                 funny = '@';
4587             if (dowarn && lex_state == LEX_NORMAL &&
4588               (keyword(dest, d - dest) || perl_get_cv(dest, FALSE)))
4589                 warn("Ambiguous use of %c{%s} resolved to %c%s",
4590                     funny, dest, funny, dest);
4591         }
4592         else {
4593             s = bracket;                /* let the parser handle it */
4594             *dest = '\0';
4595         }
4596     }
4597     else if (lex_state == LEX_INTERPNORMAL && !lex_brackets && !intuit_more(s))
4598         lex_state = LEX_INTERPEND;
4599     return s;
4600 }
4601
4602 void pmflag(U16 *pmfl, int ch)
4603 {
4604     if (ch == 'i')
4605         *pmfl |= PMf_FOLD;
4606     else if (ch == 'g')
4607         *pmfl |= PMf_GLOBAL;
4608     else if (ch == 'c')
4609         *pmfl |= PMf_CONTINUE;
4610     else if (ch == 'o')
4611         *pmfl |= PMf_KEEP;
4612     else if (ch == 'm')
4613         *pmfl |= PMf_MULTILINE;
4614     else if (ch == 's')
4615         *pmfl |= PMf_SINGLELINE;
4616     else if (ch == 'x')
4617         *pmfl |= PMf_EXTENDED;
4618 }
4619
4620 static char *
4621 scan_pat(char *start)
4622 {
4623     PMOP *pm;
4624     char *s;
4625
4626     s = scan_str(start);
4627     if (!s) {
4628         if (lex_stuff)
4629             SvREFCNT_dec(lex_stuff);
4630         lex_stuff = Nullsv;
4631         croak("Search pattern not terminated");
4632     }
4633
4634     pm = (PMOP*)newPMOP(OP_MATCH, 0);
4635     if (multi_open == '?')
4636         pm->op_pmflags |= PMf_ONCE;
4637     while (*s && strchr("iogcmsx", *s))
4638         pmflag(&pm->op_pmflags,*s++);
4639     pm->op_pmpermflags = pm->op_pmflags;
4640
4641     lex_op = (OP*)pm;
4642     yylval.ival = OP_MATCH;
4643     return s;
4644 }
4645
4646 static char *
4647 scan_subst(char *start)
4648 {
4649     register char *s;
4650     register PMOP *pm;
4651     I32 first_start;
4652     I32 es = 0;
4653
4654     yylval.ival = OP_NULL;
4655
4656     s = scan_str(start);
4657
4658     if (!s) {
4659         if (lex_stuff)
4660             SvREFCNT_dec(lex_stuff);
4661         lex_stuff = Nullsv;
4662         croak("Substitution pattern not terminated");
4663     }
4664
4665     if (s[-1] == multi_open)
4666         s--;
4667
4668     first_start = multi_start;
4669     s = scan_str(s);
4670     if (!s) {
4671         if (lex_stuff)
4672             SvREFCNT_dec(lex_stuff);
4673         lex_stuff = Nullsv;
4674         if (lex_repl)
4675             SvREFCNT_dec(lex_repl);
4676         lex_repl = Nullsv;
4677         croak("Substitution replacement not terminated");
4678     }
4679     multi_start = first_start;  /* so whole substitution is taken together */
4680
4681     pm = (PMOP*)newPMOP(OP_SUBST, 0);
4682     while (*s && strchr("iogcmsex", *s)) {
4683         if (*s == 'e') {
4684             s++;
4685             es++;
4686         }
4687         else
4688             pmflag(&pm->op_pmflags,*s++);
4689     }
4690
4691     if (es) {
4692         SV *repl;
4693         pm->op_pmflags |= PMf_EVAL;
4694         repl = newSVpv("",0);
4695         while (es-- > 0)
4696             sv_catpv(repl, es ? "eval " : "do ");
4697         sv_catpvn(repl, "{ ", 2);
4698         sv_catsv(repl, lex_repl);
4699         sv_catpvn(repl, " };", 2);
4700         SvCOMPILED_on(repl);
4701         SvREFCNT_dec(lex_repl);
4702         lex_repl = repl;
4703     }
4704
4705     pm->op_pmpermflags = pm->op_pmflags;
4706     lex_op = (OP*)pm;
4707     yylval.ival = OP_SUBST;
4708     return s;
4709 }
4710
4711 static char *
4712 scan_trans(char *start)
4713 {
4714     register char* s;
4715     OP *o;
4716     short *tbl;
4717     I32 squash;
4718     I32 Delete;
4719     I32 complement;
4720
4721     yylval.ival = OP_NULL;
4722
4723     s = scan_str(start);
4724     if (!s) {
4725         if (lex_stuff)
4726             SvREFCNT_dec(lex_stuff);
4727         lex_stuff = Nullsv;
4728         croak("Translation pattern not terminated");
4729     }
4730     if (s[-1] == multi_open)
4731         s--;
4732
4733     s = scan_str(s);
4734     if (!s) {
4735         if (lex_stuff)
4736             SvREFCNT_dec(lex_stuff);
4737         lex_stuff = Nullsv;
4738         if (lex_repl)
4739             SvREFCNT_dec(lex_repl);
4740         lex_repl = Nullsv;
4741         croak("Translation replacement not terminated");
4742     }
4743
4744     New(803,tbl,256,short);
4745     o = newPVOP(OP_TRANS, 0, (char*)tbl);
4746
4747     complement = Delete = squash = 0;
4748     while (*s == 'c' || *s == 'd' || *s == 's') {
4749         if (*s == 'c')
4750             complement = OPpTRANS_COMPLEMENT;
4751         else if (*s == 'd')
4752             Delete = OPpTRANS_DELETE;
4753         else
4754             squash = OPpTRANS_SQUASH;
4755         s++;
4756     }
4757     o->op_private = Delete|squash|complement;
4758
4759     lex_op = o;
4760     yylval.ival = OP_TRANS;
4761     return s;
4762 }
4763
4764 static char *
4765 scan_heredoc(register char *s)
4766 {
4767     dTHR;
4768     SV *herewas;
4769     I32 op_type = OP_SCALAR;
4770     I32 len;
4771     SV *tmpstr;
4772     char term;
4773     register char *d;
4774     register char *e;
4775     char *peek;
4776     int outer = (rsfp && !lex_inwhat);
4777
4778     s += 2;
4779     d = tokenbuf;
4780     e = tokenbuf + sizeof tokenbuf - 1;
4781     if (!outer)
4782         *d++ = '\n';
4783     for (peek = s; *peek == ' ' || *peek == '\t'; peek++) ;
4784     if (*peek && strchr("`'\"",*peek)) {
4785         s = peek;
4786         term = *s++;
4787         s = delimcpy(d, e, s, bufend, term, &len);
4788         d += len;
4789         if (s < bufend)
4790             s++;
4791     }
4792     else {
4793         if (*s == '\\')
4794             s++, term = '\'';
4795         else
4796             term = '"';
4797         if (!isALNUM(*s))
4798             deprecate("bare << to mean <<\"\"");
4799         for (; isALNUM(*s); s++) {
4800             if (d < e)
4801                 *d++ = *s;
4802         }
4803     }
4804     if (d >= tokenbuf + sizeof tokenbuf - 1)
4805         croak("Delimiter for here document is too long");
4806     *d++ = '\n';
4807     *d = '\0';
4808     len = d - tokenbuf;
4809     d = "\n";
4810     if (outer || !(d=ninstr(s,bufend,d,d+1)))
4811         herewas = newSVpv(s,bufend-s);
4812     else
4813         s--, herewas = newSVpv(s,d-s);
4814     s += SvCUR(herewas);
4815
4816     tmpstr = NEWSV(87,80);
4817     sv_upgrade(tmpstr, SVt_PVIV);
4818     if (term == '\'') {
4819         op_type = OP_CONST;
4820         SvIVX(tmpstr) = -1;
4821     }
4822     else if (term == '`') {
4823         op_type = OP_BACKTICK;
4824         SvIVX(tmpstr) = '\\';
4825     }
4826
4827     CLINE;
4828     multi_start = curcop->cop_line;
4829     multi_open = multi_close = '<';
4830     term = *tokenbuf;
4831     if (!outer) {
4832         d = s;
4833         while (s < bufend &&
4834           (*s != term || memNE(s,tokenbuf,len)) ) {
4835             if (*s++ == '\n')
4836                 curcop->cop_line++;
4837         }
4838         if (s >= bufend) {
4839             curcop->cop_line = multi_start;
4840             missingterm(tokenbuf);
4841         }
4842         sv_setpvn(tmpstr,d+1,s-d);
4843         s += len - 1;
4844         sv_catpvn(herewas,s,bufend-s);
4845         sv_setsv(linestr,herewas);
4846         oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
4847         bufend = SvPVX(linestr) + SvCUR(linestr);
4848     }
4849     else
4850         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
4851     while (s >= bufend) {       /* multiple line string? */
4852         if (!outer ||
4853          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4854             curcop->cop_line = multi_start;
4855             missingterm(tokenbuf);
4856         }
4857         curcop->cop_line++;
4858         if (PERLDB_LINE && curstash != debstash) {
4859             SV *sv = NEWSV(88,0);
4860
4861             sv_upgrade(sv, SVt_PVMG);
4862             sv_setsv(sv,linestr);
4863             av_store(GvAV(curcop->cop_filegv),
4864               (I32)curcop->cop_line,sv);
4865         }
4866         bufend = SvPVX(linestr) + SvCUR(linestr);
4867         if (*s == term && memEQ(s,tokenbuf,len)) {
4868             s = bufend - 1;
4869             *s = ' ';
4870             sv_catsv(linestr,herewas);
4871             bufend = SvPVX(linestr) + SvCUR(linestr);
4872         }
4873         else {
4874             s = bufend;
4875             sv_catsv(tmpstr,linestr);
4876         }
4877     }
4878     multi_end = curcop->cop_line;
4879     s++;
4880     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
4881         SvLEN_set(tmpstr, SvCUR(tmpstr) + 1);
4882         Renew(SvPVX(tmpstr), SvLEN(tmpstr), char);
4883     }
4884     SvREFCNT_dec(herewas);
4885     lex_stuff = tmpstr;
4886     yylval.ival = op_type;
4887     return s;
4888 }
4889
4890 static char *
4891 scan_inputsymbol(char *start)
4892 {
4893     register char *s = start;
4894     register char *d;
4895     register char *e;
4896     I32 len;
4897
4898     d = tokenbuf;
4899     e = tokenbuf + sizeof tokenbuf;
4900     s = delimcpy(d, e, s + 1, bufend, '>', &len);
4901     if (len >= sizeof tokenbuf)
4902         croak("Excessively long <> operator");
4903     if (s >= bufend)
4904         croak("Unterminated <> operator");
4905     s++;
4906     if (*d == '$' && d[1]) d++;
4907     while (*d && (isALNUM(*d) || *d == '\'' || *d == ':'))
4908         d++;
4909     if (d - tokenbuf != len) {
4910         yylval.ival = OP_GLOB;
4911         set_csh();
4912         s = scan_str(start);
4913         if (!s)
4914             croak("Glob not terminated");
4915         return s;
4916     }
4917     else {
4918         d = tokenbuf;
4919         if (!len)
4920             (void)strcpy(d,"ARGV");
4921         if (*d == '$') {
4922             I32 tmp;
4923             if ((tmp = pad_findmy(d)) != NOT_IN_PAD) {
4924                 OP *o = newOP(OP_PADSV, 0);
4925                 o->op_targ = tmp;
4926                 lex_op = (OP*)newUNOP(OP_READLINE, 0, newUNOP(OP_RV2GV, 0, o));
4927             }
4928             else {
4929                 GV *gv = gv_fetchpv(d+1,TRUE, SVt_PV);
4930                 lex_op = (OP*)newUNOP(OP_READLINE, 0,
4931                                         newUNOP(OP_RV2GV, 0,
4932                                             newUNOP(OP_RV2SV, 0,
4933                                                 newGVOP(OP_GV, 0, gv))));
4934             }
4935             yylval.ival = OP_NULL;
4936         }
4937         else {
4938             GV *gv = gv_fetchpv(d,TRUE, SVt_PVIO);
4939             lex_op = (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
4940             yylval.ival = OP_NULL;
4941         }
4942     }
4943     return s;
4944 }
4945
4946 static char *
4947 scan_str(char *start)
4948 {
4949     dTHR;
4950     SV *sv;
4951     char *tmps;
4952     register char *s = start;
4953     register char term;
4954     register char *to;
4955     I32 brackets = 1;
4956
4957     if (isSPACE(*s))
4958         s = skipspace(s);
4959     CLINE;
4960     term = *s;
4961     multi_start = curcop->cop_line;
4962     multi_open = term;
4963     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4964         term = tmps[5];
4965     multi_close = term;
4966
4967     sv = NEWSV(87,80);
4968     sv_upgrade(sv, SVt_PVIV);
4969     SvIVX(sv) = term;
4970     (void)SvPOK_only(sv);               /* validate pointer */
4971     s++;
4972     for (;;) {
4973         SvGROW(sv, SvCUR(sv) + (bufend - s) + 1);
4974         to = SvPVX(sv)+SvCUR(sv);
4975         if (multi_open == multi_close) {
4976             for (; s < bufend; s++,to++) {
4977                 if (*s == '\n' && !rsfp)
4978                     curcop->cop_line++;
4979                 if (*s == '\\' && s+1 < bufend && term != '\\') {
4980                     if (s[1] == term)
4981                         s++;
4982                     else
4983                         *to++ = *s++;
4984                 }
4985                 else if (*s == term)
4986                     break;
4987                 *to = *s;
4988             }
4989         }
4990         else {
4991             for (; s < bufend; s++,to++) {
4992                 if (*s == '\n' && !rsfp)
4993                     curcop->cop_line++;
4994                 if (*s == '\\' && s+1 < bufend) {
4995                     if ((s[1] == multi_open) || (s[1] == multi_close))
4996                         s++;
4997                     else
4998                         *to++ = *s++;
4999                 }
5000                 else if (*s == multi_close && --brackets <= 0)
5001                     break;
5002                 else if (*s == multi_open)
5003                     brackets++;
5004                 *to = *s;
5005             }
5006         }
5007         *to = '\0';
5008         SvCUR_set(sv, to - SvPVX(sv));
5009
5010     if (s < bufend) break;      /* string ends on this line? */
5011
5012         if (!rsfp ||
5013          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
5014             sv_free(sv);
5015             curcop->cop_line = multi_start;
5016             return Nullch;
5017         }
5018         curcop->cop_line++;
5019         if (PERLDB_LINE && curstash != debstash) {
5020             SV *sv = NEWSV(88,0);
5021
5022             sv_upgrade(sv, SVt_PVMG);
5023             sv_setsv(sv,linestr);
5024             av_store(GvAV(curcop->cop_filegv),
5025               (I32)curcop->cop_line, sv);
5026         }
5027         bufend = SvPVX(linestr) + SvCUR(linestr);
5028     }
5029     multi_end = curcop->cop_line;
5030     s++;
5031     if (SvCUR(sv) + 5 < SvLEN(sv)) {
5032         SvLEN_set(sv, SvCUR(sv) + 1);
5033         Renew(SvPVX(sv), SvLEN(sv), char);
5034     }
5035     if (lex_stuff)
5036         lex_repl = sv;
5037     else
5038         lex_stuff = sv;
5039     return s;
5040 }
5041
5042 char *
5043 scan_num(char *start)
5044 {
5045     register char *s = start;
5046     register char *d;
5047     register char *e;
5048     I32 tryiv;
5049     double value;
5050     SV *sv;
5051     I32 floatit;
5052     char *lastub = 0;
5053     static char number_too_long[] = "Number too long";
5054
5055     switch (*s) {
5056     default:
5057         croak("panic: scan_num");
5058     case '0':
5059         {
5060             UV u;
5061             I32 shift;
5062             bool overflowed = FALSE;
5063
5064             if (s[1] == 'x') {
5065                 shift = 4;
5066                 s += 2;
5067             }
5068             else if (s[1] == '.')
5069                 goto decimal;
5070             else
5071                 shift = 3;
5072             u = 0;
5073             for (;;) {
5074                 UV n, b;
5075
5076                 switch (*s) {
5077                 default:
5078                     goto out;
5079                 case '_':
5080                     s++;
5081                     break;
5082                 case '8': case '9':
5083                     if (shift != 4)
5084                         yyerror("Illegal octal digit");
5085                     /* FALL THROUGH */
5086                 case '0': case '1': case '2': case '3': case '4':
5087                 case '5': case '6': case '7':
5088                     b = *s++ & 15;
5089                     goto digit;
5090                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
5091                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
5092                     if (shift != 4)
5093                         goto out;
5094                     b = (*s++ & 7) + 9;
5095                   digit:
5096                     n = u << shift;
5097                     if (!overflowed && (n >> shift) != u) {
5098                         warn("Integer overflow in %s number",
5099                              (shift == 4) ? "hex" : "octal");
5100                         overflowed = TRUE;
5101                     }
5102                     u = n | b;
5103                     break;
5104                 }
5105             }
5106           out:
5107             sv = NEWSV(92,0);
5108             sv_setuv(sv, u);
5109         }
5110         break;
5111     case '1': case '2': case '3': case '4': case '5':
5112     case '6': case '7': case '8': case '9': case '.':
5113       decimal:
5114         d = tokenbuf;
5115         e = tokenbuf + sizeof tokenbuf - 6; /* room for various punctuation */
5116         floatit = FALSE;
5117         while (isDIGIT(*s) || *s == '_') {
5118             if (*s == '_') {
5119                 if (dowarn && lastub && s - lastub != 3)
5120                     warn("Misplaced _ in number");
5121                 lastub = ++s;
5122             }
5123             else {
5124                 if (d >= e)
5125                     croak(number_too_long);
5126                 *d++ = *s++;
5127             }
5128         }
5129         if (dowarn && lastub && s - lastub != 3)
5130             warn("Misplaced _ in number");
5131         if (*s == '.' && s[1] != '.') {
5132             floatit = TRUE;
5133             *d++ = *s++;
5134             for (; isDIGIT(*s) || *s == '_'; s++) {
5135                 if (d >= e)
5136                     croak(number_too_long);
5137                 if (*s != '_')
5138                     *d++ = *s;
5139             }
5140         }
5141         if (*s && strchr("eE",*s) && strchr("+-0123456789",s[1])) {
5142             floatit = TRUE;
5143             s++;
5144             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
5145             if (*s == '+' || *s == '-')
5146                 *d++ = *s++;
5147             while (isDIGIT(*s)) {
5148                 if (d >= e)
5149                     croak(number_too_long);
5150                 *d++ = *s++;
5151             }
5152         }
5153         *d = '\0';
5154         sv = NEWSV(92,0);
5155         SET_NUMERIC_STANDARD();
5156         value = atof(tokenbuf);
5157         tryiv = I_V(value);
5158         if (!floatit && (double)tryiv == value)
5159             sv_setiv(sv, tryiv);
5160         else
5161             sv_setnv(sv, value);
5162         break;
5163     }
5164
5165     yylval.opval = newSVOP(OP_CONST, 0, sv);
5166
5167     return s;
5168 }
5169
5170 static char *
5171 scan_formline(register char *s)
5172 {
5173     dTHR;
5174     register char *eol;
5175     register char *t;
5176     SV *stuff = newSVpv("",0);
5177     bool needargs = FALSE;
5178
5179     while (!needargs) {
5180         if (*s == '.' || *s == '}') {
5181             /*SUPPRESS 530*/
5182             for (t = s+1; *t == ' ' || *t == '\t'; t++) ;
5183             if (*t == '\n')
5184                 break;
5185         }
5186         if (in_eval && !rsfp) {
5187             eol = strchr(s,'\n');
5188             if (!eol++)
5189                 eol = bufend;
5190         }
5191         else
5192             eol = bufend = SvPVX(linestr) + SvCUR(linestr);
5193         if (*s != '#') {
5194             for (t = s; t < eol; t++) {
5195                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
5196                     needargs = FALSE;
5197                     goto enough;        /* ~~ must be first line in formline */
5198                 }
5199                 if (*t == '@' || *t == '^')
5200                     needargs = TRUE;
5201             }
5202             sv_catpvn(stuff, s, eol-s);
5203         }
5204         s = eol;
5205         if (rsfp) {
5206             s = filter_gets(linestr, rsfp, 0);
5207             oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
5208             bufend = bufptr + SvCUR(linestr);
5209             if (!s) {
5210                 s = bufptr;
5211                 yyerror("Format not terminated");
5212                 break;
5213             }
5214         }
5215         incline(s);
5216     }
5217   enough:
5218     if (SvCUR(stuff)) {
5219         expect = XTERM;
5220         if (needargs) {
5221             lex_state = LEX_NORMAL;
5222             nextval[nexttoke].ival = 0;
5223             force_next(',');
5224         }
5225         else
5226             lex_state = LEX_FORMLINE;
5227         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, stuff);
5228         force_next(THING);
5229         nextval[nexttoke].ival = OP_FORMLINE;
5230         force_next(LSTOP);
5231     }
5232     else {
5233         SvREFCNT_dec(stuff);
5234         lex_formbrack = 0;
5235         bufptr = s;
5236     }
5237     return s;
5238 }
5239
5240 static void
5241 set_csh(void)
5242 {
5243 #ifdef CSH
5244     if (!cshlen)
5245         cshlen = strlen(cshname);
5246 #endif
5247 }
5248
5249 I32
5250 start_subparse(I32 is_format, U32 flags)
5251 {
5252     dTHR;
5253     I32 oldsavestack_ix = savestack_ix;
5254     CV* outsidecv = compcv;
5255     AV* comppadlist;
5256
5257     if (compcv) {
5258         assert(SvTYPE(compcv) == SVt_PVCV);
5259     }
5260     save_I32(&subline);
5261     save_item(subname);
5262     SAVEI32(padix);
5263     SAVESPTR(curpad);
5264     SAVESPTR(comppad);
5265     SAVESPTR(comppad_name);
5266     SAVESPTR(compcv);
5267     SAVEI32(comppad_name_fill);
5268     SAVEI32(min_intro_pending);
5269     SAVEI32(max_intro_pending);
5270     SAVEI32(pad_reset_pending);
5271
5272     compcv = (CV*)NEWSV(1104,0);
5273     sv_upgrade((SV *)compcv, is_format ? SVt_PVFM : SVt_PVCV);
5274     CvFLAGS(compcv) |= flags;
5275
5276     comppad = newAV();
5277     av_push(comppad, Nullsv);
5278     curpad = AvARRAY(comppad);
5279     comppad_name = newAV();
5280     comppad_name_fill = 0;
5281     min_intro_pending = 0;
5282     padix = 0;
5283     subline = curcop->cop_line;
5284 #ifdef USE_THREADS
5285     av_store(comppad_name, 0, newSVpv("@_", 2));
5286     curpad[0] = (SV*)newAV();
5287     SvPADMY_on(curpad[0]);      /* XXX Needed? */
5288     CvOWNER(compcv) = 0;
5289     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5290     MUTEX_INIT(CvMUTEXP(compcv));
5291 #endif /* USE_THREADS */
5292
5293     comppadlist = newAV();
5294     AvREAL_off(comppadlist);
5295     av_store(comppadlist, 0, (SV*)comppad_name);
5296     av_store(comppadlist, 1, (SV*)comppad);
5297
5298     CvPADLIST(compcv) = comppadlist;
5299     CvOUTSIDE(compcv) = (CV*)SvREFCNT_inc(outsidecv);
5300 #ifdef USE_THREADS
5301     CvOWNER(compcv) = 0;
5302     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5303     MUTEX_INIT(CvMUTEXP(compcv));
5304 #endif /* USE_THREADS */
5305
5306     return oldsavestack_ix;
5307 }
5308
5309 int
5310 yywarn(char *s)
5311 {
5312     dTHR;
5313     --error_count;
5314     in_eval |= 2;
5315     yyerror(s);
5316     in_eval &= ~2;
5317     return 0;
5318 }
5319
5320 int
5321 yyerror(char *s)
5322 {
5323     dTHR;
5324     char *where = NULL;
5325     char *context = NULL;
5326     int contlen = -1;
5327     SV *msg;
5328
5329     if (!yychar || (yychar == ';' && !rsfp))
5330         where = "at EOF";
5331     else if (bufptr > oldoldbufptr && bufptr - oldoldbufptr < 200 &&
5332       oldoldbufptr != oldbufptr && oldbufptr != bufptr) {
5333         while (isSPACE(*oldoldbufptr))
5334             oldoldbufptr++;
5335         context = oldoldbufptr;
5336         contlen = bufptr - oldoldbufptr;
5337     }
5338     else if (bufptr > oldbufptr && bufptr - oldbufptr < 200 &&
5339       oldbufptr != bufptr) {
5340         while (isSPACE(*oldbufptr))
5341             oldbufptr++;
5342         context = oldbufptr;
5343         contlen = bufptr - oldbufptr;
5344     }
5345     else if (yychar > 255)
5346         where = "next token ???";
5347     else if ((yychar & 127) == 127) {
5348         if (lex_state == LEX_NORMAL ||
5349            (lex_state == LEX_KNOWNEXT && lex_defer == LEX_NORMAL))
5350             where = "at end of line";
5351         else if (lex_inpat)
5352             where = "within pattern";
5353         else
5354             where = "within string";
5355     }
5356     else {
5357         SV *where_sv = sv_2mortal(newSVpv("next char ", 0));
5358         if (yychar < 32)
5359             sv_catpvf(where_sv, "^%c", toCTRL(yychar));
5360         else if (isPRINT_LC(yychar))
5361             sv_catpvf(where_sv, "%c", yychar);
5362         else
5363             sv_catpvf(where_sv, "\\%03o", yychar & 255);
5364         where = SvPVX(where_sv);
5365     }
5366     msg = sv_2mortal(newSVpv(s, 0));
5367     sv_catpvf(msg, " at %_ line %ld, ",
5368               GvSV(curcop->cop_filegv), (long)curcop->cop_line);
5369     if (context)
5370         sv_catpvf(msg, "near \"%.*s\"\n", contlen, context);
5371     else
5372         sv_catpvf(msg, "%s\n", where);
5373     if (multi_start < multi_end && (U32)(curcop->cop_line - multi_end) <= 1) {
5374         sv_catpvf(msg,
5375         "  (Might be a runaway multi-line %c%c string starting on line %ld)\n",
5376                 (int)multi_open,(int)multi_close,(long)multi_start);
5377         multi_end = 0;
5378     }
5379     if (in_eval & 2)
5380         warn("%_", msg);
5381     else if (in_eval)
5382         sv_catsv(ERRSV, msg);
5383     else
5384         PerlIO_write(PerlIO_stderr(), SvPVX(msg), SvCUR(msg));
5385     if (++error_count >= 10)
5386         croak("%_ has too many errors.\n", GvSV(curcop->cop_filegv));
5387     in_my = 0;
5388     in_my_stash = Nullhv;
5389     return 0;
5390 }
5391
5392