toke.c

   1 /*    toke.c
   2  *
   3  *    Copyright (c) 1991-1997, Larry Wall
   4  *
   5  *    You may distribute under the terms of either the GNU General Public
   6  *    License or the Artistic License, as specified in the README file.
   7  *
   8  */
   9
  10 /*
  11  *   "It all comes from here, the stench and the peril."  --Frodo
  12  */
  13
  14 #include "EXTERN.h"
  15 #include "perl.h"
  16
  17 static void check_uni _((void));
  18 static void  force_next _((I32 type));
  19 static char *force_version _((char *start));
  20 static char *force_word _((char *start, int token, int check_keyword, int allow_pack, int allow_tick));
  21 static SV *q _((SV *sv));
  22 static char *scan_const _((char *start));
  23 static char *scan_formline _((char *s));
  24 static char *scan_heredoc _((char *s));
  25 static char *scan_ident _((char *s, char *send, char *dest, I32 ck_uni));
  26 static char *scan_inputsymbol _((char *start));
  27 static char *scan_pat _((char *start));
  28 static char *scan_str _((char *start));
  29 static char *scan_subst _((char *start));
  30 static char *scan_trans _((char *start));
  31 static char *scan_word _((char *s, char *dest, int allow_package, STRLEN *slp));
  32 static char *skipspace _((char *s));
  33 static void checkcomma _((char *s, char *name, char *what));
  34 static void force_ident _((char *s, int kind));
  35 static void incline _((char *s));
  36 static int intuit_method _((char *s, GV *gv));
  37 static int intuit_more _((char *s));
  38 static I32 lop _((I32 f, expectation x, char *s));
  39 static void missingterm _((char *s));
  40 static void no_op _((char *what, char *s));
  41 static void set_csh _((void));
  42 static I32 sublex_done _((void));
  43 static I32 sublex_push _((void));
  44 static I32 sublex_start _((void));
  45 #ifdef CRIPPLED_CC
  46 static int uni _((I32 f, char *s));
  47 #endif
  48 static char * filter_gets _((SV *sv, PerlIO *fp, STRLEN append));
  49 static void restore_rsfp _((void *f));
  50
  51 static char *linestart;         /* beg. of most recently read line */
  52
  53 static char pending_ident;      /* pending identifier lookup */
  54
  55 static struct {
  56     I32 super_state;    /* lexer state to save */
  57     I32 sub_inwhat;     /* "lex_inwhat" to use */
  58     OP *sub_op;         /* "lex_op" to use */
  59 } sublex_info;
  60
  61 /* The following are arranged oddly so that the guard on the switch statement
  62  * can get by with a single comparison (if the compiler is smart enough).
  63  */
  64
  65 #define LEX_NORMAL              10
  66 #define LEX_INTERPNORMAL         9
  67 #define LEX_INTERPCASEMOD        8
  68 #define LEX_INTERPPUSH           7
  69 #define LEX_INTERPSTART          6
  70 #define LEX_INTERPEND            5
  71 #define LEX_INTERPENDMAYBE       4
  72 #define LEX_INTERPCONCAT         3
  73 #define LEX_INTERPCONST          2
  74 #define LEX_FORMLINE             1
  75 #define LEX_KNOWNEXT             0
  76
  77 #ifdef I_FCNTL
  78 #include <fcntl.h>
  79 #endif
  80 #ifdef I_SYS_FILE
  81 #include <sys/file.h>
  82 #endif
  83
  84 /* XXX If this causes problems, set i_unistd=undef in the hint file.  */
  85 #ifdef I_UNISTD
  86 #  include <unistd.h> /* Needed for execv() */
  87 #endif
  88
  89
  90 #ifdef ff_next
  91 #undef ff_next
  92 #endif
  93
  94 #include "keywords.h"
  95
  96 #ifdef CLINE
  97 #undef CLINE
  98 #endif
  99 #define CLINE (copline = (curcop->cop_line < copline ? curcop->cop_line : copline))
 100
 101 #define TOKEN(retval) return (bufptr = s,(int)retval)
 102 #define OPERATOR(retval) return (expect = XTERM,bufptr = s,(int)retval)
 103 #define AOPERATOR(retval) return ao((expect = XTERM,bufptr = s,(int)retval))
 104 #define PREBLOCK(retval) return (expect = XBLOCK,bufptr = s,(int)retval)
 105 #define PRETERMBLOCK(retval) return (expect = XTERMBLOCK,bufptr = s,(int)retval)
 106 #define PREREF(retval) return (expect = XREF,bufptr = s,(int)retval)
 107 #define TERM(retval) return (CLINE, expect = XOPERATOR,bufptr = s,(int)retval)
 108 #define LOOPX(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LOOPEX)
 109 #define FTST(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)UNIOP)
 110 #define FUN0(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC0)
 111 #define FUN1(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC1)
 112 #define BOop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITOROP))
 113 #define BAop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITANDOP))
 114 #define SHop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)SHIFTOP))
 115 #define PWop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)POWOP))
 116 #define PMop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)MATCHOP)
 117 #define Aop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)ADDOP))
 118 #define Mop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)MULOP))
 119 #define Eop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)EQOP)
 120 #define Rop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)RELOP)
 121
 122 /* This bit of chicanery makes a unary function followed by
 123  * a parenthesis into a function with one argument, highest precedence.
 124  */
 125 #define UNI(f) return(yylval.ival = f, \
 126         expect = XTERM, \
 127         bufptr = s, \
 128         last_uni = oldbufptr, \
 129         last_lop_op = f, \
 130         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 131
 132 #define UNIBRACK(f) return(yylval.ival = f, \
 133         bufptr = s, \
 134         last_uni = oldbufptr, \
 135         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 136
 137 /* grandfather return to old style */
 138 #define OLDLOP(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LSTOP)
 139
 140 static int
 141 ao(toketype)
 142 int toketype;
 143 {
 144     if (*bufptr == '=') {
 145         bufptr++;
 146         if (toketype == ANDAND)
 147             yylval.ival = OP_ANDASSIGN;
 148         else if (toketype == OROR)
 149             yylval.ival = OP_ORASSIGN;
 150         toketype = ASSIGNOP;
 151     }
 152     return toketype;
 153 }
 154
 155 static void
 156 no_op(what, s)
 157 char *what;
 158 char *s;
 159 {
 160     char *oldbp = bufptr;
 161     bool is_first = (oldbufptr == linestart);
 162     char *msg;
 163
 164     bufptr = s;
 165     New(890, msg, strlen(what) + 40, char);
 166     sprintf(msg, "%s found where operator expected", what);
 167     yywarn(msg);
 168     Safefree(msg);
 169     if (is_first)
 170         warn("\t(Missing semicolon on previous line?)\n");
 171     else if (oldoldbufptr && isIDFIRST(*oldoldbufptr)) {
 172         char *t;
 173         for (t = oldoldbufptr; *t && (isALNUM(*t) || *t == ':'); t++) ;
 174         if (t < bufptr && isSPACE(*t))
 175             warn("\t(Do you need to predeclare %.*s?)\n",
 176                 t - oldoldbufptr, oldoldbufptr);
 177
 178     }
 179     else
 180         warn("\t(Missing operator before %.*s?)\n", s - oldbp, oldbp);
 181     bufptr = oldbp;
 182 }
 183
 184 static void
 185 missingterm(s)
 186 char *s;
 187 {
 188     char tmpbuf[3];
 189     char q;
 190     if (s) {
 191         char *nl = strrchr(s,'\n');
 192         if (nl)
 193             *nl = '\0';
 194     }
 195     else if (multi_close < 32 || multi_close == 127) {
 196         *tmpbuf = '^';
 197         tmpbuf[1] = toCTRL(multi_close);
 198         s = "\\n";
 199         tmpbuf[2] = '\0';
 200         s = tmpbuf;
 201     }
 202     else {
 203         *tmpbuf = multi_close;
 204         tmpbuf[1] = '\0';
 205         s = tmpbuf;
 206     }
 207     q = strchr(s,'"') ? '\'' : '"';
 208     croak("Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
 209 }
 210
 211 void
 212 deprecate(s)
 213 char *s;
 214 {
 215     if (dowarn)
 216         warn("Use of %s is deprecated", s);
 217 }
 218
 219 static void
 220 depcom()
 221 {
 222     deprecate("comma-less variable list");
 223 }
 224
 225 void
 226 lex_start(line)
 227 SV *line;
 228 {
 229     char *s;
 230     STRLEN len;
 231
 232     SAVEI32(lex_dojoin);
 233     SAVEI32(lex_brackets);
 234     SAVEI32(lex_fakebrack);
 235     SAVEI32(lex_casemods);
 236     SAVEI32(lex_starts);
 237     SAVEI32(lex_state);
 238     SAVESPTR(lex_inpat);
 239     SAVEI32(lex_inwhat);
 240     SAVEI16(curcop->cop_line);
 241     SAVEPPTR(bufptr);
 242     SAVEPPTR(bufend);
 243     SAVEPPTR(oldbufptr);
 244     SAVEPPTR(oldoldbufptr);
 245     SAVEPPTR(linestart);
 246     SAVESPTR(linestr);
 247     SAVEPPTR(lex_brackstack);
 248     SAVEPPTR(lex_casestack);
 249     SAVEDESTRUCTOR(restore_rsfp, rsfp);
 250
 251     lex_state = LEX_NORMAL;
 252     lex_defer = 0;
 253     expect = XSTATE;
 254     lex_brackets = 0;
 255     lex_fakebrack = 0;
 256     New(899, lex_brackstack, 120, char);
 257     New(899, lex_casestack, 12, char);
 258     SAVEFREEPV(lex_brackstack);
 259     SAVEFREEPV(lex_casestack);
 260     lex_casemods = 0;
 261     *lex_casestack = '\0';
 262     lex_dojoin = 0;
 263     lex_starts = 0;
 264     if (lex_stuff)
 265         SvREFCNT_dec(lex_stuff);
 266     lex_stuff = Nullsv;
 267     if (lex_repl)
 268         SvREFCNT_dec(lex_repl);
 269     lex_repl = Nullsv;
 270     lex_inpat = 0;
 271     lex_inwhat = 0;
 272     linestr = line;
 273     if (SvREADONLY(linestr))
 274         linestr = sv_2mortal(newSVsv(linestr));
 275     s = SvPV(linestr, len);
 276     if (len && s[len-1] != ';') {
 277         if (!(SvFLAGS(linestr) & SVs_TEMP))
 278             linestr = sv_2mortal(newSVsv(linestr));
 279         sv_catpvn(linestr, "\n;", 2);
 280     }
 281     SvTEMP_off(linestr);
 282     oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
 283     bufend = bufptr + SvCUR(linestr);
 284     SvREFCNT_dec(rs);
 285     rs = newSVpv("\n", 1);
 286     rsfp = 0;
 287 }
 288
 289 void
 290 lex_end()
 291 {
 292     doextract = FALSE;
 293 }
 294
 295 static void
 296 restore_rsfp(f)
 297 void *f;
 298 {
 299     PerlIO *fp = (PerlIO*)f;
 300
 301     if (rsfp == PerlIO_stdin())
 302         PerlIO_clearerr(rsfp);
 303     else if (rsfp && (rsfp != fp))
 304         PerlIO_close(rsfp);
 305     rsfp = fp;
 306 }
 307
 308 static void
 309 incline(s)
 310 char *s;
 311 {
 312     char *t;
 313     char *n;
 314     char ch;
 315     int sawline = 0;
 316
 317     curcop->cop_line++;
 318     if (*s++ != '#')
 319         return;
 320     while (*s == ' ' || *s == '\t') s++;
 321     if (strnEQ(s, "line ", 5)) {
 322         s += 5;
 323         sawline = 1;
 324     }
 325     if (!isDIGIT(*s))
 326         return;
 327     n = s;
 328     while (isDIGIT(*s))
 329         s++;
 330     while (*s == ' ' || *s == '\t')
 331         s++;
 332     if (*s == '"' && (t = strchr(s+1, '"')))
 333         s++;
 334     else {
 335         if (!sawline)
 336             return;             /* false alarm */
 337         for (t = s; !isSPACE(*t); t++) ;
 338     }
 339     ch = *t;
 340     *t = '\0';
 341     if (t - s > 0)
 342         curcop->cop_filegv = gv_fetchfile(s);
 343     else
 344         curcop->cop_filegv = gv_fetchfile(origfilename);
 345     *t = ch;
 346     curcop->cop_line = atoi(n)-1;
 347 }
 348
 349 static char *
 350 skipspace(s)
 351 register char *s;
 352 {
 353     if (lex_formbrack && lex_brackets <= lex_formbrack) {
 354         while (s < bufend && (*s == ' ' || *s == '\t'))
 355             s++;
 356         return s;
 357     }
 358     for (;;) {
 359         STRLEN prevlen;
 360         while (s < bufend && isSPACE(*s))
 361             s++;
 362         if (s < bufend && *s == '#') {
 363             while (s < bufend && *s != '\n')
 364                 s++;
 365             if (s < bufend)
 366                 s++;
 367         }
 368         if (s < bufend || !rsfp || lex_state != LEX_NORMAL)
 369             return s;
 370         if ((s = filter_gets(linestr, rsfp, (prevlen = SvCUR(linestr)))) == Nullch) {
 371             if (minus_n || minus_p) {
 372                 sv_setpv(linestr,minus_p ? ";}continue{print" : "");
 373                 sv_catpv(linestr,";}");
 374                 minus_n = minus_p = 0;
 375             }
 376             else
 377                 sv_setpv(linestr,";");
 378             oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
 379             bufend = SvPVX(linestr) + SvCUR(linestr);
 380             if (preprocess && !in_eval)
 381                 (void)my_pclose(rsfp);
 382             else if ((PerlIO*)rsfp == PerlIO_stdin())
 383                 PerlIO_clearerr(rsfp);
 384             else
 385                 (void)PerlIO_close(rsfp);
 386             rsfp = Nullfp;
 387             return s;
 388         }
 389         linestart = bufptr = s + prevlen;
 390         bufend = s + SvCUR(linestr);
 391         s = bufptr;
 392         incline(s);
 393         if (perldb && curstash != debstash) {
 394             SV *sv = NEWSV(85,0);
 395
 396             sv_upgrade(sv, SVt_PVMG);
 397             sv_setpvn(sv,bufptr,bufend-bufptr);
 398             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
 399         }
 400     }
 401 }
 402
 403 static void
 404 check_uni() {
 405     char *s;
 406     char ch;
 407     char *t;
 408
 409     if (oldoldbufptr != last_uni)
 410         return;
 411     while (isSPACE(*last_uni))
 412         last_uni++;
 413     for (s = last_uni; isALNUM(*s) || *s == '-'; s++) ;
 414     if ((t = strchr(s, '(')) && t < bufptr)
 415         return;
 416     ch = *s;
 417     *s = '\0';
 418     warn("Warning: Use of \"%s\" without parens is ambiguous", last_uni);
 419     *s = ch;
 420 }
 421
 422 #ifdef CRIPPLED_CC
 423
 424 #undef UNI
 425 #define UNI(f) return uni(f,s)
 426
 427 static int
 428 uni(f,s)
 429 I32 f;
 430 char *s;
 431 {
 432     yylval.ival = f;
 433     expect = XTERM;
 434     bufptr = s;
 435     last_uni = oldbufptr;
 436     last_lop_op = f;
 437     if (*s == '(')
 438         return FUNC1;
 439     s = skipspace(s);
 440     if (*s == '(')
 441         return FUNC1;
 442     else
 443         return UNIOP;
 444 }
 445
 446 #endif /* CRIPPLED_CC */
 447
 448 #define LOP(f,x) return lop(f,x,s)
 449
 450 static I32
 451 lop
 452 #ifdef CAN_PROTOTYPE
 453    (I32 f, expectation x, char *s)
 454 #else
 455    (f,x,s)
 456 I32 f;
 457 expectation x;
 458 char *s;
 459 #endif /* CAN_PROTOTYPE */
 460 {
 461     yylval.ival = f;
 462     CLINE;
 463     expect = x;
 464     bufptr = s;
 465     last_lop = oldbufptr;
 466     last_lop_op = f;
 467     if (nexttoke)
 468         return LSTOP;
 469     if (*s == '(')
 470         return FUNC;
 471     s = skipspace(s);
 472     if (*s == '(')
 473         return FUNC;
 474     else
 475         return LSTOP;
 476 }
 477
 478 static void
 479 force_next(type)
 480 I32 type;
 481 {
 482     nexttype[nexttoke] = type;
 483     nexttoke++;
 484     if (lex_state != LEX_KNOWNEXT) {
 485         lex_defer = lex_state;
 486         lex_expect = expect;
 487         lex_state = LEX_KNOWNEXT;
 488     }
 489 }
 490
 491 static char *
 492 force_word(start,token,check_keyword,allow_pack,allow_tick)
 493 register char *start;
 494 int token;
 495 int check_keyword;
 496 int allow_pack;
 497 int allow_tick;
 498 {
 499     register char *s;
 500     STRLEN len;
 501
 502     start = skipspace(start);
 503     s = start;
 504     if (isIDFIRST(*s) ||
 505         (allow_pack && *s == ':') ||
 506         (allow_tick && *s == '\'') )
 507     {
 508         s = scan_word(s, tokenbuf, allow_pack, &len);
 509         if (check_keyword && keyword(tokenbuf, len))
 510             return start;
 511         if (token == METHOD) {
 512             s = skipspace(s);
 513             if (*s == '(')
 514                 expect = XTERM;
 515             else {
 516                 expect = XOPERATOR;
 517                 force_next(')');
 518                 force_next('(');
 519             }
 520         }
 521         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST,0, newSVpv(tokenbuf,0));
 522         nextval[nexttoke].opval->op_private |= OPpCONST_BARE;
 523         force_next(token);
 524     }
 525     return s;
 526 }
 527
 528 static void
 529 force_ident(s, kind)
 530 register char *s;
 531 int kind;
 532 {
 533     if (s && *s) {
 534         OP* op = (OP*)newSVOP(OP_CONST, 0, newSVpv(s,0));
 535         nextval[nexttoke].opval = op;
 536         force_next(WORD);
 537         if (kind) {
 538             op->op_private = OPpCONST_ENTERED;
 539             /* XXX see note in pp_entereval() for why we forgo typo
 540                warnings if the symbol must be introduced in an eval.
 541                GSAR 96-10-12 */
 542             gv_fetchpv(s, in_eval ? GV_ADDMULTI : TRUE,
 543                 kind == '$' ? SVt_PV :
 544                 kind == '@' ? SVt_PVAV :
 545                 kind == '%' ? SVt_PVHV :
 546                               SVt_PVGV
 547                 );
 548         }
 549     }
 550 }
 551
 552 static char *
 553 force_version(s)
 554 char *s;
 555 {
 556     OP *version = Nullop;
 557
 558     s = skipspace(s);
 559
 560     /* default VERSION number -- GBARR */
 561
 562     if(isDIGIT(*s)) {
 563         char *d;
 564         int c;
 565         for( d=s, c = 1; isDIGIT(*d) || *d == '_' || (*d == '.' && c--); d++);
 566         if((*d == ';' || isSPACE(*d)) && *(skipspace(d)) != ',') {
 567             s = scan_num(s);
 568             /* real VERSION number -- GBARR */
 569             version = yylval.opval;
 570         }
 571     }
 572
 573     /* NOTE: The parser sees the package name and the VERSION swapped */
 574     nextval[nexttoke].opval = version;
 575     force_next(WORD);
 576
 577     return (s);
 578 }
 579
 580 static SV *
 581 q(sv)
 582 SV *sv;
 583 {
 584     register char *s;
 585     register char *send;
 586     register char *d;
 587     STRLEN len;
 588
 589     if (!SvLEN(sv))
 590         return sv;
 591
 592     s = SvPV_force(sv, len);
 593     if (SvIVX(sv) == -1)
 594         return sv;
 595     send = s + len;
 596     while (s < send && *s != '\\')
 597         s++;
 598     if (s == send)
 599         return sv;
 600     d = s;
 601     while (s < send) {
 602         if (*s == '\\') {
 603             if (s + 1 < send && (s[1] == '\\'))
 604                 s++;            /* all that, just for this */
 605         }
 606         *d++ = *s++;
 607     }
 608     *d = '\0';
 609     SvCUR_set(sv, d - SvPVX(sv));
 610
 611     return sv;
 612 }
 613
 614 static I32
 615 sublex_start()
 616 {
 617     register I32 op_type = yylval.ival;
 618
 619     if (op_type == OP_NULL) {
 620         yylval.opval = lex_op;
 621         lex_op = Nullop;
 622         return THING;
 623     }
 624     if (op_type == OP_CONST || op_type == OP_READLINE) {
 625         yylval.opval = (OP*)newSVOP(op_type, 0, q(lex_stuff));
 626         lex_stuff = Nullsv;
 627         return THING;
 628     }
 629
 630     sublex_info.super_state = lex_state;
 631     sublex_info.sub_inwhat = op_type;
 632     sublex_info.sub_op = lex_op;
 633     lex_state = LEX_INTERPPUSH;
 634
 635     expect = XTERM;
 636     if (lex_op) {
 637         yylval.opval = lex_op;
 638         lex_op = Nullop;
 639         return PMFUNC;
 640     }
 641     else
 642         return FUNC;
 643 }
 644
 645 static I32
 646 sublex_push()
 647 {
 648     push_scope();
 649
 650     lex_state = sublex_info.super_state;
 651     SAVEI32(lex_dojoin);
 652     SAVEI32(lex_brackets);
 653     SAVEI32(lex_fakebrack);
 654     SAVEI32(lex_casemods);
 655     SAVEI32(lex_starts);
 656     SAVEI32(lex_state);
 657     SAVESPTR(lex_inpat);
 658     SAVEI32(lex_inwhat);
 659     SAVEI16(curcop->cop_line);
 660     SAVEPPTR(bufptr);
 661     SAVEPPTR(oldbufptr);
 662     SAVEPPTR(oldoldbufptr);
 663     SAVEPPTR(linestart);
 664     SAVESPTR(linestr);
 665     SAVEPPTR(lex_brackstack);
 666     SAVEPPTR(lex_casestack);
 667
 668     linestr = lex_stuff;
 669     lex_stuff = Nullsv;
 670
 671     bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 672     bufend += SvCUR(linestr);
 673     SAVEFREESV(linestr);
 674
 675     lex_dojoin = FALSE;
 676     lex_brackets = 0;
 677     lex_fakebrack = 0;
 678     New(899, lex_brackstack, 120, char);
 679     New(899, lex_casestack, 12, char);
 680     SAVEFREEPV(lex_brackstack);
 681     SAVEFREEPV(lex_casestack);
 682     lex_casemods = 0;
 683     *lex_casestack = '\0';
 684     lex_starts = 0;
 685     lex_state = LEX_INTERPCONCAT;
 686     curcop->cop_line = multi_start;
 687
 688     lex_inwhat = sublex_info.sub_inwhat;
 689     if (lex_inwhat == OP_MATCH || lex_inwhat == OP_SUBST)
 690         lex_inpat = sublex_info.sub_op;
 691     else
 692         lex_inpat = Nullop;
 693
 694     return '(';
 695 }
 696
 697 static I32
 698 sublex_done()
 699 {
 700     if (!lex_starts++) {
 701         expect = XOPERATOR;
 702         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv("",0));
 703         return THING;
 704     }
 705
 706     if (lex_casemods) {         /* oops, we've got some unbalanced parens */
 707         lex_state = LEX_INTERPCASEMOD;
 708         return yylex();
 709     }
 710
 711     /* Is there a right-hand side to take care of? */
 712     if (lex_repl && (lex_inwhat == OP_SUBST || lex_inwhat == OP_TRANS)) {
 713         linestr = lex_repl;
 714         lex_inpat = 0;
 715         bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 716         bufend += SvCUR(linestr);
 717         SAVEFREESV(linestr);
 718         lex_dojoin = FALSE;
 719         lex_brackets = 0;
 720         lex_fakebrack = 0;
 721         lex_casemods = 0;
 722         *lex_casestack = '\0';
 723         lex_starts = 0;
 724         if (SvCOMPILED(lex_repl)) {
 725             lex_state = LEX_INTERPNORMAL;
 726             lex_starts++;
 727         }
 728         else
 729             lex_state = LEX_INTERPCONCAT;
 730         lex_repl = Nullsv;
 731         return ',';
 732     }
 733     else {
 734         pop_scope();
 735         bufend = SvPVX(linestr);
 736         bufend += SvCUR(linestr);
 737         expect = XOPERATOR;
 738         return ')';
 739     }
 740 }
 741
 742 static char *
 743 scan_const(start)
 744 char *start;
 745 {
 746     register char *send = bufend;
 747     SV *sv = NEWSV(93, send - start);
 748     register char *s = start;
 749     register char *d = SvPVX(sv);
 750     bool dorange = FALSE;
 751     I32 len;
 752     char *leave =
 753         lex_inpat
 754             ? "\\.^$@AGZdDwWsSbB+*?|()-nrtfeaxc0123456789[{]} \t\n\r\f\v#"
 755             : (lex_inwhat & OP_TRANS)
 756                 ? ""
 757                 : "";
 758
 759     while (s < send || dorange) {
 760         if (lex_inwhat == OP_TRANS) {
 761             if (dorange) {
 762                 I32 i;
 763                 I32 max;
 764                 i = d - SvPVX(sv);
 765                 SvGROW(sv, SvLEN(sv) + 256);
 766                 d = SvPVX(sv) + i;
 767                 d -= 2;
 768                 max = (U8)d[1];
 769                 for (i = (U8)*d; i <= max; i++)
 770                     *d++ = i;
 771                 dorange = FALSE;
 772                 continue;
 773             }
 774             else if (*s == '-' && s+1 < send  && s != start) {
 775                 dorange = TRUE;
 776                 s++;
 777             }
 778         }
 779         else if (*s == '(' && lex_inpat && s[1] == '?' && s[2] == '#') {
 780             while (s < send && *s != ')')
 781                 *d++ = *s++;
 782         }
 783         else if (*s == '#' && lex_inpat &&
 784           ((PMOP*)lex_inpat)->op_pmflags & PMf_EXTENDED) {
 785             while (s+1 < send && *s != '\n')
 786                 *d++ = *s++;
 787         }
 788         else if (*s == '@' && s[1] && (isALNUM(s[1]) || strchr(":'{$", s[1])))
 789             break;
 790         else if (*s == '$') {
 791             if (!lex_inpat)     /* not a regexp, so $ must be var */
 792                 break;
 793             if (s + 1 < send && !strchr(")| \n\t", s[1]))
 794                 break;          /* in regexp, $ might be tail anchor */
 795         }
 796         if (*s == '\\' && s+1 < send) {
 797             s++;
 798             if (*s && strchr(leave, *s)) {
 799                 *d++ = '\\';
 800                 *d++ = *s++;
 801                 continue;
 802             }
 803             if (lex_inwhat == OP_SUBST && !lex_inpat &&
 804                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
 805             {
 806                 if (dowarn)
 807                     warn("\\%c better written as $%c", *s, *s);
 808                 *--s = '$';
 809                 break;
 810             }
 811             if (lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
 812                 --s;
 813                 break;
 814             }
 815             switch (*s) {
 816             case '-':
 817                 if (lex_inwhat == OP_TRANS) {
 818                     *d++ = *s++;
 819                     continue;
 820                 }
 821                 /* FALL THROUGH */
 822             default:
 823                 *d++ = *s++;
 824                 continue;
 825             case '0': case '1': case '2': case '3':
 826             case '4': case '5': case '6': case '7':
 827                 *d++ = scan_oct(s, 3, &len);
 828                 s += len;
 829                 continue;
 830             case 'x':
 831                 *d++ = scan_hex(++s, 2, &len);
 832                 s += len;
 833                 continue;
 834             case 'c':
 835                 s++;
 836                 len = *s++;
 837                 *d++ = toCTRL(len);
 838                 continue;
 839             case 'b':
 840                 *d++ = '\b';
 841                 break;
 842             case 'n':
 843                 *d++ = '\n';
 844                 break;
 845             case 'r':
 846                 *d++ = '\r';
 847                 break;
 848             case 'f':
 849                 *d++ = '\f';
 850                 break;
 851             case 't':
 852                 *d++ = '\t';
 853                 break;
 854             case 'e':
 855                 *d++ = '\033';
 856                 break;
 857             case 'a':
 858                 *d++ = '\007';
 859                 break;
 860             }
 861             s++;
 862             continue;
 863         }
 864         *d++ = *s++;
 865     }
 866     *d = '\0';
 867     SvCUR_set(sv, d - SvPVX(sv));
 868     SvPOK_on(sv);
 869
 870     if (SvCUR(sv) + 5 < SvLEN(sv)) {
 871         SvLEN_set(sv, SvCUR(sv) + 1);
 872         Renew(SvPVX(sv), SvLEN(sv), char);
 873     }
 874     if (s > bufptr)
 875         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
 876     else
 877         SvREFCNT_dec(sv);
 878     return s;
 879 }
 880
 881 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
 882 static int
 883 intuit_more(s)
 884 register char *s;
 885 {
 886     if (lex_brackets)
 887         return TRUE;
 888     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
 889         return TRUE;
 890     if (*s != '{' && *s != '[')
 891         return FALSE;
 892     if (!lex_inpat)
 893         return TRUE;
 894
 895     /* In a pattern, so maybe we have {n,m}. */
 896     if (*s == '{') {
 897         s++;
 898         if (!isDIGIT(*s))
 899             return TRUE;
 900         while (isDIGIT(*s))
 901             s++;
 902         if (*s == ',')
 903             s++;
 904         while (isDIGIT(*s))
 905             s++;
 906         if (*s == '}')
 907             return FALSE;
 908         return TRUE;
 909
 910     }
 911
 912     /* On the other hand, maybe we have a character class */
 913
 914     s++;
 915     if (*s == ']' || *s == '^')
 916         return FALSE;
 917     else {
 918         int weight = 2;         /* let's weigh the evidence */
 919         char seen[256];
 920         unsigned char un_char = 0, last_un_char;
 921         char *send = strchr(s,']');
 922         char tmpbuf[512];
 923
 924         if (!send)              /* has to be an expression */
 925             return TRUE;
 926
 927         Zero(seen,256,char);
 928         if (*s == '$')
 929             weight -= 3;
 930         else if (isDIGIT(*s)) {
 931             if (s[1] != ']') {
 932                 if (isDIGIT(s[1]) && s[2] == ']')
 933                     weight -= 10;
 934             }
 935             else
 936                 weight -= 100;
 937         }
 938         for (; s < send; s++) {
 939             last_un_char = un_char;
 940             un_char = (unsigned char)*s;
 941             switch (*s) {
 942             case '@':
 943             case '&':
 944             case '$':
 945                 weight -= seen[un_char] * 10;
 946                 if (isALNUM(s[1])) {
 947                     scan_ident(s,send,tmpbuf,FALSE);
 948                     if ((int)strlen(tmpbuf) > 1 && gv_fetchpv(tmpbuf,FALSE, SVt_PV))
 949                         weight -= 100;
 950                     else
 951                         weight -= 10;
 952                 }
 953                 else if (*s == '$' && s[1] &&
 954                   strchr("[#!%*<>()-=",s[1])) {
 955                     if (/*{*/ strchr("])} =",s[2]))
 956                         weight -= 10;
 957                     else
 958                         weight -= 1;
 959                 }
 960                 break;
 961             case '\\':
 962                 un_char = 254;
 963                 if (s[1]) {
 964                     if (strchr("wds]",s[1]))
 965                         weight += 100;
 966                     else if (seen['\''] || seen['"'])
 967                         weight += 1;
 968                     else if (strchr("rnftbxcav",s[1]))
 969                         weight += 40;
 970                     else if (isDIGIT(s[1])) {
 971                         weight += 40;
 972                         while (s[1] && isDIGIT(s[1]))
 973                             s++;
 974                     }
 975                 }
 976                 else
 977                     weight += 100;
 978                 break;
 979             case '-':
 980                 if (s[1] == '\\')
 981                     weight += 50;
 982                 if (strchr("aA01! ",last_un_char))
 983                     weight += 30;
 984                 if (strchr("zZ79~",s[1]))
 985                     weight += 30;
 986                 break;
 987             default:
 988                 if (!isALNUM(last_un_char) && !strchr("$@&",last_un_char) &&
 989                         isALPHA(*s) && s[1] && isALPHA(s[1])) {
 990                     char *d = tmpbuf;
 991                     while (isALPHA(*s))
 992                         *d++ = *s++;
 993                     *d = '\0';
 994                     if (keyword(tmpbuf, d - tmpbuf))
 995                         weight -= 150;
 996                 }
 997                 if (un_char == last_un_char + 1)
 998                     weight += 5;
 999                 weight -= seen[un_char];
1000                 break;
1001             }
1002             seen[un_char]++;
1003         }
1004         if (weight >= 0)        /* probably a character class */
1005             return FALSE;
1006     }
1007
1008     return TRUE;
1009 }
1010
1011 static int
1012 intuit_method(start,gv)
1013 char *start;
1014 GV *gv;
1015 {
1016     char *s = start + (*start == '$');
1017     char tmpbuf[1024];
1018     STRLEN len;
1019     GV* indirgv;
1020
1021     if (gv) {
1022         if (GvIO(gv))
1023             return 0;
1024         if (!GvCVu(gv))
1025             gv = 0;
1026     }
1027     s = scan_word(s, tmpbuf, TRUE, &len);
1028     if (*start == '$') {
1029         if (gv || last_lop_op == OP_PRINT || isUPPER(*tokenbuf))
1030             return 0;
1031         s = skipspace(s);
1032         bufptr = start;
1033         expect = XREF;
1034         return *s == '(' ? FUNCMETH : METHOD;
1035     }
1036     if (!keyword(tmpbuf, len)) {
1037         indirgv = gv_fetchpv(tmpbuf,FALSE, SVt_PVCV);
1038         if (indirgv && GvCVu(indirgv))
1039             return 0;
1040         /* filehandle or package name makes it a method */
1041         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
1042             s = skipspace(s);
1043             if ((bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
1044                 return 0;       /* no assumptions -- "=>" quotes bearword */
1045             nextval[nexttoke].opval =
1046                 (OP*)newSVOP(OP_CONST, 0,
1047                             newSVpv(tmpbuf,0));
1048             nextval[nexttoke].opval->op_private =
1049                 OPpCONST_BARE;
1050             expect = XTERM;
1051             force_next(WORD);
1052             bufptr = s;
1053             return *s == '(' ? FUNCMETH : METHOD;
1054         }
1055     }
1056     return 0;
1057 }
1058
1059 static char*
1060 incl_perldb()
1061 {
1062     if (perldb) {
1063         char *pdb = getenv("PERL5DB");
1064
1065         if (pdb)
1066             return pdb;
1067         return "BEGIN { require 'perl5db.pl' }";
1068     }
1069     return "";
1070 }
1071
1072
1073 /* Encoded script support. filter_add() effectively inserts a
1074  * 'pre-processing' function into the current source input stream.
1075  * Note that the filter function only applies to the current source file
1076  * (e.g., it will not affect files 'require'd or 'use'd by this one).
1077  *
1078  * The datasv parameter (which may be NULL) can be used to pass
1079  * private data to this instance of the filter. The filter function
1080  * can recover the SV using the FILTER_DATA macro and use it to
1081  * store private buffers and state information.
1082  *
1083  * The supplied datasv parameter is upgraded to a PVIO type
1084  * and the IoDIRP field is used to store the function pointer.
1085  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
1086  * private use must be set using malloc'd pointers.
1087  */
1088 static int filter_debug = 0;
1089
1090 SV *
1091 filter_add(funcp, datasv)
1092     filter_t funcp;
1093     SV *datasv;
1094 {
1095     if (!funcp){ /* temporary handy debugging hack to be deleted */
1096         filter_debug = atoi((char*)datasv);
1097         return NULL;
1098     }
1099     if (!rsfp_filters)
1100         rsfp_filters = newAV();
1101     if (!datasv)
1102         datasv = newSV(0);
1103     if (!SvUPGRADE(datasv, SVt_PVIO))
1104         die("Can't upgrade filter_add data to SVt_PVIO");
1105     IoDIRP(datasv) = (DIR*)funcp; /* stash funcp into spare field */
1106     if (filter_debug)
1107         warn("filter_add func %p (%s)", funcp, SvPV(datasv,na));
1108     av_unshift(rsfp_filters, 1);
1109     av_store(rsfp_filters, 0, datasv) ;
1110     return(datasv);
1111 }
1112
1113
1114 /* Delete most recently added instance of this filter function. */
1115 void
1116 filter_del(funcp)
1117     filter_t funcp;
1118 {
1119     if (filter_debug)
1120         warn("filter_del func %p", funcp);
1121     if (!rsfp_filters || AvFILL(rsfp_filters)<0)
1122         return;
1123     /* if filter is on top of stack (usual case) just pop it off */
1124     if (IoDIRP(FILTER_DATA(0)) == (void*)funcp){
1125         /* sv_free(av_pop(rsfp_filters)); */
1126         sv_free(av_shift(rsfp_filters));
1127
1128         return;
1129     }
1130     /* we need to search for the correct entry and clear it     */
1131     die("filter_del can only delete in reverse order (currently)");
1132 }
1133
1134
1135 /* Invoke the n'th filter function for the current rsfp.         */
1136 I32
1137 filter_read(idx, buf_sv, maxlen)
1138     int idx;
1139     SV *buf_sv;
1140     int maxlen;         /* 0 = read one text line */
1141 {
1142     filter_t funcp;
1143     SV *datasv = NULL;
1144
1145     if (!rsfp_filters)
1146         return -1;
1147     if (idx > AvFILL(rsfp_filters)){       /* Any more filters? */
1148         /* Provide a default input filter to make life easy.    */
1149         /* Note that we append to the line. This is handy.      */
1150         if (filter_debug)
1151             warn("filter_read %d: from rsfp\n", idx);
1152         if (maxlen) {
1153             /* Want a block */
1154             int len ;
1155             int old_len = SvCUR(buf_sv) ;
1156
1157             /* ensure buf_sv is large enough */
1158             SvGROW(buf_sv, old_len + maxlen) ;
1159             if ((len = PerlIO_read(rsfp, SvPVX(buf_sv) + old_len, maxlen)) <= 0){
1160                 if (PerlIO_error(rsfp))
1161                     return -1;          /* error */
1162                 else
1163                     return 0 ;          /* end of file */
1164             }
1165             SvCUR_set(buf_sv, old_len + len) ;
1166         } else {
1167             /* Want a line */
1168             if (sv_gets(buf_sv, rsfp, SvCUR(buf_sv)) == NULL) {
1169                 if (PerlIO_error(rsfp))
1170                     return -1;          /* error */
1171                 else
1172                     return 0 ;          /* end of file */
1173             }
1174         }
1175         return SvCUR(buf_sv);
1176     }
1177     /* Skip this filter slot if filter has been deleted */
1178     if ( (datasv = FILTER_DATA(idx)) == &sv_undef){
1179         if (filter_debug)
1180             warn("filter_read %d: skipped (filter deleted)\n", idx);
1181         return FILTER_READ(idx+1, buf_sv, maxlen); /* recurse */
1182     }
1183     /* Get function pointer hidden within datasv        */
1184     funcp = (filter_t)IoDIRP(datasv);
1185     if (filter_debug)
1186         warn("filter_read %d: via function %p (%s)\n",
1187                 idx, funcp, SvPV(datasv,na));
1188     /* Call function. The function is expected to       */
1189     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
1190     /* Return: <0:error, =0:eof, >0:not eof             */
1191     return (*funcp)(idx, buf_sv, maxlen);
1192 }
1193
1194 static char *
1195 filter_gets(sv,fp, append)
1196 register SV *sv;
1197 register PerlIO *fp;
1198 STRLEN append;
1199 {
1200     if (rsfp_filters) {
1201
1202         if (!append)
1203             SvCUR_set(sv, 0);   /* start with empty line        */
1204         if (FILTER_READ(0, sv, 0) > 0)
1205             return ( SvPVX(sv) ) ;
1206         else
1207             return Nullch ;
1208     }
1209     else
1210         return (sv_gets(sv, fp, append));
1211
1212 }
1213
1214
1215 #ifdef DEBUGGING
1216     static char* exp_name[] =
1217         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "TERMBLOCK" };
1218 #endif
1219
1220 EXT int yychar;         /* last token */
1221
1222 int
1223 yylex()
1224 {
1225     register char *s;
1226     register char *d;
1227     register I32 tmp;
1228     STRLEN len;
1229
1230     if (pending_ident) {
1231         char pit = pending_ident;
1232         pending_ident = 0;
1233
1234         if (in_my) {
1235             if (strchr(tokenbuf,':'))
1236                 croak(no_myglob,tokenbuf);
1237             yylval.opval = newOP(OP_PADANY, 0);
1238             yylval.opval->op_targ = pad_allocmy(tokenbuf);
1239             return PRIVATEREF;
1240         }
1241
1242         if (!strchr(tokenbuf,':') && (tmp = pad_findmy(tokenbuf))) {
1243             if (last_lop_op == OP_SORT &&
1244                 tokenbuf[0] == '$' &&
1245                 (tokenbuf[1] == 'a' || tokenbuf[1] == 'b')
1246                 && !tokenbuf[2])
1247             {
1248                 for (d = in_eval ? oldoldbufptr : linestart;
1249                      d < bufend && *d != '\n';
1250                      d++)
1251                 {
1252                     if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
1253                         croak("Can't use \"my %s\" in sort comparison",
1254                               tokenbuf);
1255                     }
1256                 }
1257             }
1258
1259             yylval.opval = newOP(OP_PADANY, 0);
1260             yylval.opval->op_targ = tmp;
1261             return PRIVATEREF;
1262         }
1263
1264         /* Force them to make up their mind on "@foo". */
1265         if (pit == '@' && lex_state != LEX_NORMAL && !lex_brackets) {
1266             GV *gv = gv_fetchpv(tokenbuf+1, FALSE, SVt_PVAV);
1267             if (!gv || ((tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv))) {
1268                 char tmpbuf[1024];
1269                 sprintf(tmpbuf, "In string, %s now must be written as \\%s",
1270                         tokenbuf, tokenbuf);
1271                 yyerror(tmpbuf);
1272             }
1273         }
1274
1275         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf+1, 0));
1276         yylval.opval->op_private = OPpCONST_ENTERED;
1277         gv_fetchpv(tokenbuf+1, in_eval ? GV_ADDMULTI : TRUE,
1278                    ((tokenbuf[0] == '$') ? SVt_PV
1279                     : (tokenbuf[0] == '@') ? SVt_PVAV
1280                     : SVt_PVHV));
1281         return WORD;
1282     }
1283
1284     switch (lex_state) {
1285 #ifdef COMMENTARY
1286     case LEX_NORMAL:            /* Some compilers will produce faster */
1287     case LEX_INTERPNORMAL:      /* code if we comment these out. */
1288         break;
1289 #endif
1290
1291     case LEX_KNOWNEXT:
1292         nexttoke--;
1293         yylval = nextval[nexttoke];
1294         if (!nexttoke) {
1295             lex_state = lex_defer;
1296             expect = lex_expect;
1297             lex_defer = LEX_NORMAL;
1298         }
1299         return(nexttype[nexttoke]);
1300
1301     case LEX_INTERPCASEMOD:
1302 #ifdef DEBUGGING
1303         if (bufptr != bufend && *bufptr != '\\')
1304             croak("panic: INTERPCASEMOD");
1305 #endif
1306         if (bufptr == bufend || bufptr[1] == 'E') {
1307             char oldmod;
1308             if (lex_casemods) {
1309                 oldmod = lex_casestack[--lex_casemods];
1310                 lex_casestack[lex_casemods] = '\0';
1311                 if (bufptr != bufend && strchr("LUQ", oldmod)) {
1312                     bufptr += 2;
1313                     lex_state = LEX_INTERPCONCAT;
1314                 }
1315                 return ')';
1316             }
1317             if (bufptr != bufend)
1318                 bufptr += 2;
1319             lex_state = LEX_INTERPCONCAT;
1320             return yylex();
1321         }
1322         else {
1323             s = bufptr + 1;
1324             if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
1325                 tmp = *s, *s = s[2], s[2] = tmp;        /* misordered... */
1326             if (strchr("LU", *s) &&
1327                 (strchr(lex_casestack, 'L') || strchr(lex_casestack, 'U')))
1328             {
1329                 lex_casestack[--lex_casemods] = '\0';
1330                 return ')';
1331             }
1332             if (lex_casemods > 10) {
1333                 char* newlb = Renew(lex_casestack, lex_casemods + 2, char);
1334                 if (newlb != lex_casestack) {
1335                     SAVEFREEPV(newlb);
1336                     lex_casestack = newlb;
1337                 }
1338             }
1339             lex_casestack[lex_casemods++] = *s;
1340             lex_casestack[lex_casemods] = '\0';
1341             lex_state = LEX_INTERPCONCAT;
1342             nextval[nexttoke].ival = 0;
1343             force_next('(');
1344             if (*s == 'l')
1345                 nextval[nexttoke].ival = OP_LCFIRST;
1346             else if (*s == 'u')
1347                 nextval[nexttoke].ival = OP_UCFIRST;
1348             else if (*s == 'L')
1349                 nextval[nexttoke].ival = OP_LC;
1350             else if (*s == 'U')
1351                 nextval[nexttoke].ival = OP_UC;
1352             else if (*s == 'Q')
1353                 nextval[nexttoke].ival = OP_QUOTEMETA;
1354             else
1355                 croak("panic: yylex");
1356             bufptr = s + 1;
1357             force_next(FUNC);
1358             if (lex_starts) {
1359                 s = bufptr;
1360                 lex_starts = 0;
1361                 Aop(OP_CONCAT);
1362             }
1363             else
1364                 return yylex();
1365         }
1366
1367     case LEX_INTERPPUSH:
1368         return sublex_push();
1369
1370     case LEX_INTERPSTART:
1371         if (bufptr == bufend)
1372             return sublex_done();
1373         expect = XTERM;
1374         lex_dojoin = (*bufptr == '@');
1375         lex_state = LEX_INTERPNORMAL;
1376         if (lex_dojoin) {
1377             nextval[nexttoke].ival = 0;
1378             force_next(',');
1379             force_ident("\"", '$');
1380             nextval[nexttoke].ival = 0;
1381             force_next('$');
1382             nextval[nexttoke].ival = 0;
1383             force_next('(');
1384             nextval[nexttoke].ival = OP_JOIN;   /* emulate join($", ...) */
1385             force_next(FUNC);
1386         }
1387         if (lex_starts++) {
1388             s = bufptr;
1389             Aop(OP_CONCAT);
1390         }
1391         return yylex();
1392
1393     case LEX_INTERPENDMAYBE:
1394         if (intuit_more(bufptr)) {
1395             lex_state = LEX_INTERPNORMAL;       /* false alarm, more expr */
1396             break;
1397         }
1398         /* FALL THROUGH */
1399
1400     case LEX_INTERPEND:
1401         if (lex_dojoin) {
1402             lex_dojoin = FALSE;
1403             lex_state = LEX_INTERPCONCAT;
1404             return ')';
1405         }
1406         /* FALLTHROUGH */
1407     case LEX_INTERPCONCAT:
1408 #ifdef DEBUGGING
1409         if (lex_brackets)
1410             croak("panic: INTERPCONCAT");
1411 #endif
1412         if (bufptr == bufend)
1413             return sublex_done();
1414
1415         if (SvIVX(linestr) == '\'') {
1416             SV *sv = newSVsv(linestr);
1417             if (!lex_inpat)
1418                 sv = q(sv);
1419             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1420             s = bufend;
1421         }
1422         else {
1423             s = scan_const(bufptr);
1424             if (*s == '\\')
1425                 lex_state = LEX_INTERPCASEMOD;
1426             else
1427                 lex_state = LEX_INTERPSTART;
1428         }
1429
1430         if (s != bufptr) {
1431             nextval[nexttoke] = yylval;
1432             expect = XTERM;
1433             force_next(THING);
1434             if (lex_starts++)
1435                 Aop(OP_CONCAT);
1436             else {
1437                 bufptr = s;
1438                 return yylex();
1439             }
1440         }
1441
1442         return yylex();
1443     case LEX_FORMLINE:
1444         lex_state = LEX_NORMAL;
1445         s = scan_formline(bufptr);
1446         if (!lex_formbrack)
1447             goto rightbracket;
1448         OPERATOR(';');
1449     }
1450
1451     s = bufptr;
1452     oldoldbufptr = oldbufptr;
1453     oldbufptr = s;
1454     DEBUG_p( {
1455         PerlIO_printf(PerlIO_stderr(), "### Tokener expecting %s at %s\n", exp_name[expect], s);
1456     } )
1457
1458   retry:
1459     switch (*s) {
1460     default:
1461         warn("Unrecognized character \\%03o ignored", *s++ & 255);
1462         goto retry;
1463     case 4:
1464     case 26:
1465         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
1466     case 0:
1467         if (!rsfp) {
1468             last_uni = 0;
1469             last_lop = 0;
1470             if (lex_brackets)
1471                 yyerror("Missing right bracket");
1472             TOKEN(0);
1473         }
1474         if (s++ < bufend)
1475             goto retry;                 /* ignore stray nulls */
1476         last_uni = 0;
1477         last_lop = 0;
1478         if (!in_eval && !preambled) {
1479             preambled = TRUE;
1480             sv_setpv(linestr,incl_perldb());
1481             if (SvCUR(linestr))
1482                 sv_catpv(linestr,";");
1483             if (preambleav){
1484                 while(AvFILL(preambleav) >= 0) {
1485                     SV *tmpsv = av_shift(preambleav);
1486                     sv_catsv(linestr, tmpsv);
1487                     sv_catpv(linestr, ";");
1488                     sv_free(tmpsv);
1489                 }
1490                 sv_free((SV*)preambleav);
1491                 preambleav = NULL;
1492             }
1493             if (minus_n || minus_p) {
1494                 sv_catpv(linestr, "LINE: while (<>) {");
1495                 if (minus_l)
1496                     sv_catpv(linestr,"chomp;");
1497                 if (minus_a) {
1498                     GV* gv = gv_fetchpv("::F", TRUE, SVt_PVAV);
1499                     if (gv)
1500                         GvIMPORTED_AV_on(gv);
1501                     if (minus_F) {
1502                         char tmpbuf1[50];
1503                         if ( (splitstr[0] == '/'  ||
1504                               splitstr[0] == '\'' ||
1505                               splitstr[0] == '"'    ) &&
1506                              strchr( splitstr+1, splitstr[0] ) )
1507                             sprintf( tmpbuf1, "@F=split(%s);", splitstr );
1508                         else {
1509                             s = "'~#\200\1'"; /* surely one char is unused...*/
1510                             while (s[1] && strchr(splitstr, *s))  s++;
1511                             sprintf( tmpbuf1, "@F=split(%s%c%s%c);",
1512                                      "q" + (*s == '\''), *s, splitstr, *s );
1513                         }
1514                         sv_catpv(linestr,tmpbuf1);
1515                     }
1516                     else
1517                         sv_catpv(linestr,"@F=split(' ');");
1518                 }
1519             }
1520             sv_catpv(linestr, "\n");
1521             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1522             bufend = SvPVX(linestr) + SvCUR(linestr);
1523             if (perldb && curstash != debstash) {
1524                 SV *sv = NEWSV(85,0);
1525
1526                 sv_upgrade(sv, SVt_PVMG);
1527                 sv_setsv(sv,linestr);
1528                 av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1529             }
1530             goto retry;
1531         }
1532         do {
1533             if ((s = filter_gets(linestr, rsfp, 0)) == Nullch) {
1534               fake_eof:
1535                 if (rsfp) {
1536                     if (preprocess && !in_eval)
1537                         (void)my_pclose(rsfp);
1538                     else if ((PerlIO *)rsfp == PerlIO_stdin())
1539                         PerlIO_clearerr(rsfp);
1540                     else
1541                         (void)PerlIO_close(rsfp);
1542                     rsfp = Nullfp;
1543                 }
1544                 if (!in_eval && (minus_n || minus_p)) {
1545                     sv_setpv(linestr,minus_p ? ";}continue{print" : "");
1546                     sv_catpv(linestr,";}");
1547                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1548                     bufend = SvPVX(linestr) + SvCUR(linestr);
1549                     minus_n = minus_p = 0;
1550                     goto retry;
1551                 }
1552                 oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1553                 sv_setpv(linestr,"");
1554                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
1555             }
1556             if (doextract) {
1557                 if (*s == '#' && s[1] == '!' && instr(s,"perl"))
1558                     doextract = FALSE;
1559
1560                 /* Incest with pod. */
1561                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
1562                     sv_setpv(linestr, "");
1563                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1564                     bufend = SvPVX(linestr) + SvCUR(linestr);
1565                     doextract = FALSE;
1566                 }
1567             }
1568             incline(s);
1569         } while (doextract);
1570         oldoldbufptr = oldbufptr = bufptr = linestart = s;
1571         if (perldb && curstash != debstash) {
1572             SV *sv = NEWSV(85,0);
1573
1574             sv_upgrade(sv, SVt_PVMG);
1575             sv_setsv(sv,linestr);
1576             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1577         }
1578         bufend = SvPVX(linestr) + SvCUR(linestr);
1579         if (curcop->cop_line == 1) {
1580             while (s < bufend && isSPACE(*s))
1581                 s++;
1582             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
1583                 s++;
1584             d = Nullch;
1585             if (!in_eval) {
1586                 if (*s == '#' && *(s+1) == '!')
1587                     d = s + 2;
1588 #ifdef ALTERNATE_SHEBANG
1589                 else {
1590                     static char as[] = ALTERNATE_SHEBANG;
1591                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
1592                         d = s + (sizeof(as) - 1);
1593                 }
1594 #endif /* ALTERNATE_SHEBANG */
1595             }
1596             if (d) {
1597                 char *ipath;
1598                 char *ipathend;
1599
1600                 while (isSPACE(*d))
1601                     d++;
1602                 ipath = d;
1603                 while (*d && !isSPACE(*d))
1604                     d++;
1605                 ipathend = d;
1606
1607 #ifdef ARG_ZERO_IS_SCRIPT
1608                 if (ipathend > ipath) {
1609                     /*
1610                      * HP-UX (at least) sets argv[0] to the script name,
1611                      * which makes $^X incorrect.  And Digital UNIX and Linux,
1612                      * at least, set argv[0] to the basename of the Perl
1613                      * interpreter. So, having found "#!", we'll set it right.
1614                      */
1615                     SV *x = GvSV(gv_fetchpv("\030", TRUE, SVt_PV));
1616                     assert(SvPOK(x) || SvGMAGICAL(x));
1617                     if (sv_eq(x, GvSV(curcop->cop_filegv))) {
1618                         sv_setpvn(x, ipath, ipathend - ipath);
1619                         SvSETMAGIC(x);
1620                     }
1621                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
1622                 }
1623 #endif /* ARG_ZERO_IS_SCRIPT */
1624
1625                 /*
1626                  * Look for options.
1627                  */
1628                 d = instr(s,"perl -");
1629                 if (!d)
1630                     d = instr(s,"perl");
1631 #ifdef ALTERNATE_SHEBANG
1632                 /*
1633                  * If the ALTERNATE_SHEBANG on this system starts with a
1634                  * character that can be part of a Perl expression, then if
1635                  * we see it but not "perl", we're probably looking at the
1636                  * start of Perl code, not a request to hand off to some
1637                  * other interpreter.  Similarly, if "perl" is there, but
1638                  * not in the first 'word' of the line, we assume the line
1639                  * contains the start of the Perl program.
1640                  */
1641                 if (d && *s != '#') {
1642                     char *c = ipath;
1643                     while (*c && !strchr("; \t\r\n\f\v#", *c))
1644                         c++;
1645                     if (c < d)
1646                         d = Nullch;     /* "perl" not in first word; ignore */
1647                     else
1648                         *s = '#';       /* Don't try to parse shebang line */
1649                 }
1650 #endif /* ALTERNATE_SHEBANG */
1651                 if (!d &&
1652                     *s == '#' &&
1653                     ipathend > ipath &&
1654                     !minus_c &&
1655                     !instr(s,"indir") &&
1656                     instr(origargv[0],"perl"))
1657                 {
1658                     char **newargv;
1659
1660                     *ipathend = '\0';
1661                     s = ipathend + 1;
1662                     while (s < bufend && isSPACE(*s))
1663                         s++;
1664                     if (s < bufend) {
1665                         Newz(899,newargv,origargc+3,char*);
1666                         newargv[1] = s;
1667                         while (s < bufend && !isSPACE(*s))
1668                             s++;
1669                         *s = '\0';
1670                         Copy(origargv+1, newargv+2, origargc+1, char*);
1671                     }
1672                     else
1673                         newargv = origargv;
1674                     newargv[0] = ipath;
1675                     execv(ipath, newargv);
1676                     croak("Can't exec %s", ipath);
1677                 }
1678                 if (d) {
1679                     int oldpdb = perldb;
1680                     int oldn = minus_n;
1681                     int oldp = minus_p;
1682
1683                     while (*d && !isSPACE(*d)) d++;
1684                     while (*d == ' ' || *d == '\t') d++;
1685
1686                     if (*d++ == '-') {
1687                         while (d = moreswitches(d)) ;
1688                         if (perldb && !oldpdb ||
1689                             ( minus_n || minus_p ) && !(oldn || oldp) )
1690                               /* if we have already added "LINE: while (<>) {",
1691                                  we must not do it again */
1692                         {
1693                             sv_setpv(linestr, "");
1694                             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1695                             bufend = SvPVX(linestr) + SvCUR(linestr);
1696                             preambled = FALSE;
1697                             if (perldb)
1698                                 (void)gv_fetchfile(origfilename);
1699                             goto retry;
1700                         }
1701                     }
1702                 }
1703             }
1704         }
1705         if (lex_formbrack && lex_brackets <= lex_formbrack) {
1706             bufptr = s;
1707             lex_state = LEX_FORMLINE;
1708             return yylex();
1709         }
1710         goto retry;
1711     case '\r':
1712         croak("Illegal character \\%03o (carriage return)", '\r');
1713     case ' ': case '\t': case '\f': case 013:
1714         s++;
1715         goto retry;
1716     case '#':
1717     case '\n':
1718         if (lex_state != LEX_NORMAL || (in_eval && !rsfp)) {
1719             d = bufend;
1720             while (s < d && *s != '\n')
1721                 s++;
1722             if (s < d)
1723                 s++;
1724             incline(s);
1725             if (lex_formbrack && lex_brackets <= lex_formbrack) {
1726                 bufptr = s;
1727                 lex_state = LEX_FORMLINE;
1728                 return yylex();
1729             }
1730         }
1731         else {
1732             *s = '\0';
1733             bufend = s;
1734         }
1735         goto retry;
1736     case '-':
1737         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
1738             s++;
1739             bufptr = s;
1740             tmp = *s++;
1741
1742             while (s < bufend && (*s == ' ' || *s == '\t'))
1743                 s++;
1744
1745             if (strnEQ(s,"=>",2)) {
1746                 if (dowarn)
1747                     warn("Ambiguous use of -%c => resolved to \"-%c\" =>",
1748                         (int)tmp, (int)tmp);
1749                 s = force_word(bufptr,WORD,FALSE,FALSE,FALSE);
1750                 OPERATOR('-');          /* unary minus */
1751             }
1752             last_uni = oldbufptr;
1753             last_lop_op = OP_FTEREAD;   /* good enough */
1754             switch (tmp) {
1755             case 'r': FTST(OP_FTEREAD);
1756             case 'w': FTST(OP_FTEWRITE);
1757             case 'x': FTST(OP_FTEEXEC);
1758             case 'o': FTST(OP_FTEOWNED);
1759             case 'R': FTST(OP_FTRREAD);
1760             case 'W': FTST(OP_FTRWRITE);
1761             case 'X': FTST(OP_FTREXEC);
1762             case 'O': FTST(OP_FTROWNED);
1763             case 'e': FTST(OP_FTIS);
1764             case 'z': FTST(OP_FTZERO);
1765             case 's': FTST(OP_FTSIZE);
1766             case 'f': FTST(OP_FTFILE);
1767             case 'd': FTST(OP_FTDIR);
1768             case 'l': FTST(OP_FTLINK);
1769             case 'p': FTST(OP_FTPIPE);
1770             case 'S': FTST(OP_FTSOCK);
1771             case 'u': FTST(OP_FTSUID);
1772             case 'g': FTST(OP_FTSGID);
1773             case 'k': FTST(OP_FTSVTX);
1774             case 'b': FTST(OP_FTBLK);
1775             case 'c': FTST(OP_FTCHR);
1776             case 't': FTST(OP_FTTTY);
1777             case 'T': FTST(OP_FTTEXT);
1778             case 'B': FTST(OP_FTBINARY);
1779             case 'M': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTMTIME);
1780             case 'A': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTATIME);
1781             case 'C': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTCTIME);
1782             default:
1783                 croak("Unrecognized file test: -%c", (int)tmp);
1784                 break;
1785             }
1786         }
1787         tmp = *s++;
1788         if (*s == tmp) {
1789             s++;
1790             if (expect == XOPERATOR)
1791                 TERM(POSTDEC);
1792             else
1793                 OPERATOR(PREDEC);
1794         }
1795         else if (*s == '>') {
1796             s++;
1797             s = skipspace(s);
1798             if (isIDFIRST(*s)) {
1799                 s = force_word(s,METHOD,FALSE,TRUE,FALSE);
1800                 TOKEN(ARROW);
1801             }
1802             else if (*s == '$')
1803                 OPERATOR(ARROW);
1804             else
1805                 TERM(ARROW);
1806         }
1807         if (expect == XOPERATOR)
1808             Aop(OP_SUBTRACT);
1809         else {
1810             if (isSPACE(*s) || !isSPACE(*bufptr))
1811                 check_uni();
1812             OPERATOR('-');              /* unary minus */
1813         }
1814
1815     case '+':
1816         tmp = *s++;
1817         if (*s == tmp) {
1818             s++;
1819             if (expect == XOPERATOR)
1820                 TERM(POSTINC);
1821             else
1822                 OPERATOR(PREINC);
1823         }
1824         if (expect == XOPERATOR)
1825             Aop(OP_ADD);
1826         else {
1827             if (isSPACE(*s) || !isSPACE(*bufptr))
1828                 check_uni();
1829             OPERATOR('+');
1830         }
1831
1832     case '*':
1833         if (expect != XOPERATOR) {
1834             s = scan_ident(s, bufend, tokenbuf, TRUE);
1835             expect = XOPERATOR;
1836             force_ident(tokenbuf, '*');
1837             if (!*tokenbuf)
1838                 PREREF('*');
1839             TERM('*');
1840         }
1841         s++;
1842         if (*s == '*') {
1843             s++;
1844             PWop(OP_POW);
1845         }
1846         Mop(OP_MULTIPLY);
1847
1848     case '%':
1849         if (expect == XOPERATOR) {
1850             ++s;
1851             Mop(OP_MODULO);
1852         }
1853         tokenbuf[0] = '%';
1854         s = scan_ident(s, bufend, tokenbuf+1, TRUE);
1855         if (!tokenbuf[1]) {
1856             if (s == bufend)
1857                 yyerror("Final % should be \\% or %name");
1858             PREREF('%');
1859         }
1860         pending_ident = '%';
1861         TERM('%');
1862
1863     case '^':
1864         s++;
1865         BOop(OP_BIT_XOR);
1866     case '[':
1867         lex_brackets++;
1868         /* FALL THROUGH */
1869     case '~':
1870     case ',':
1871         tmp = *s++;
1872         OPERATOR(tmp);
1873     case ':':
1874         if (s[1] == ':') {
1875             len = 0;
1876             goto just_a_word;
1877         }
1878         s++;
1879         OPERATOR(':');
1880     case '(':
1881         s++;
1882         if (last_lop == oldoldbufptr || last_uni == oldoldbufptr)
1883             oldbufptr = oldoldbufptr;           /* allow print(STDOUT 123) */
1884         else
1885             expect = XTERM;
1886         TOKEN('(');
1887     case ';':
1888         if (curcop->cop_line < copline)
1889             copline = curcop->cop_line;
1890         tmp = *s++;
1891         OPERATOR(tmp);
1892     case ')':
1893         tmp = *s++;
1894         s = skipspace(s);
1895         if (*s == '{')
1896             PREBLOCK(tmp);
1897         TERM(tmp);
1898     case ']':
1899         s++;
1900         if (lex_brackets <= 0)
1901             yyerror("Unmatched right bracket");
1902         else
1903             --lex_brackets;
1904         if (lex_state == LEX_INTERPNORMAL) {
1905             if (lex_brackets == 0) {
1906                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
1907                     lex_state = LEX_INTERPEND;
1908             }
1909         }
1910         TERM(']');
1911     case '{':
1912       leftbracket:
1913         s++;
1914         if (lex_brackets > 100) {
1915             char* newlb = Renew(lex_brackstack, lex_brackets + 1, char);
1916             if (newlb != lex_brackstack) {
1917                 SAVEFREEPV(newlb);
1918                 lex_brackstack = newlb;
1919             }
1920         }
1921         switch (expect) {
1922         case XTERM:
1923             if (lex_formbrack) {
1924                 s--;
1925                 PRETERMBLOCK(DO);
1926             }
1927             if (oldoldbufptr == last_lop)
1928                 lex_brackstack[lex_brackets++] = XTERM;
1929             else
1930                 lex_brackstack[lex_brackets++] = XOPERATOR;
1931             OPERATOR(HASHBRACK);
1932         case XOPERATOR:
1933             while (s < bufend && (*s == ' ' || *s == '\t'))
1934                 s++;
1935             d = s;
1936             tokenbuf[0] = '\0';
1937             if (d < bufend && *d == '-') {
1938                 tokenbuf[0] = '-';
1939                 d++;
1940                 while (d < bufend && (*d == ' ' || *d == '\t'))
1941                     d++;
1942             }
1943             if (d < bufend && isIDFIRST(*d)) {
1944                 d = scan_word(d, tokenbuf + 1, FALSE, &len);
1945                 while (d < bufend && (*d == ' ' || *d == '\t'))
1946                     d++;
1947                 if (*d == '}') {
1948                     char minus = (tokenbuf[0] == '-');
1949                     if (dowarn &&
1950                         (keyword(tokenbuf + 1, len) ||
1951                          (minus && len == 1 && isALPHA(tokenbuf[1])) ||
1952                          perl_get_cv(tokenbuf + 1, FALSE) ))
1953                         warn("Ambiguous use of {%s} resolved to {\"%s\"}",
1954                              tokenbuf + !minus, tokenbuf + !minus);
1955                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
1956                     if (minus)
1957                         force_next('-');
1958                 }
1959             }
1960             /* FALL THROUGH */
1961         case XBLOCK:
1962             lex_brackstack[lex_brackets++] = XSTATE;
1963             expect = XSTATE;
1964             break;
1965         case XTERMBLOCK:
1966             lex_brackstack[lex_brackets++] = XOPERATOR;
1967             expect = XSTATE;
1968             break;
1969         default: {
1970                 char *t;
1971                 if (oldoldbufptr == last_lop)
1972                     lex_brackstack[lex_brackets++] = XTERM;
1973                 else
1974                     lex_brackstack[lex_brackets++] = XOPERATOR;
1975                 s = skipspace(s);
1976                 if (*s == '}')
1977                     OPERATOR(HASHBRACK);
1978                 if (isALPHA(*s)) {
1979                     for (t = s; t < bufend && isALNUM(*t); t++) ;
1980                 }
1981                 else if (*s == '\'' || *s == '"') {
1982                     t = strchr(s+1,*s);
1983                     if (!t++)
1984                         t = s;
1985                 }
1986                 else
1987                     t = s;
1988                 while (t < bufend && isSPACE(*t))
1989                     t++;
1990                 if ((*t == ',' && !isLOWER(*s)) || (*t == '=' && t[1] == '>'))
1991                     OPERATOR(HASHBRACK);
1992                 if (expect == XREF)
1993                     expect = XTERM;
1994                 else {
1995                     lex_brackstack[lex_brackets-1] = XSTATE;
1996                     expect = XSTATE;
1997                 }
1998             }
1999             break;
2000         }
2001         yylval.ival = curcop->cop_line;
2002         if (isSPACE(*s) || *s == '#')
2003             copline = NOLINE;   /* invalidate current command line number */
2004         TOKEN('{');
2005     case '}':
2006       rightbracket:
2007         s++;
2008         if (lex_brackets <= 0)
2009             yyerror("Unmatched right bracket");
2010         else
2011             expect = (expectation)lex_brackstack[--lex_brackets];
2012         if (lex_brackets < lex_formbrack)
2013             lex_formbrack = 0;
2014         if (lex_state == LEX_INTERPNORMAL) {
2015             if (lex_brackets == 0) {
2016                 if (lex_fakebrack) {
2017                     lex_state = LEX_INTERPEND;
2018                     bufptr = s;
2019                     return yylex();             /* ignore fake brackets */
2020                 }
2021                 if (*s == '-' && s[1] == '>')
2022                     lex_state = LEX_INTERPENDMAYBE;
2023                 else if (*s != '[' && *s != '{')
2024                     lex_state = LEX_INTERPEND;
2025             }
2026         }
2027         if (lex_brackets < lex_fakebrack) {
2028             bufptr = s;
2029             lex_fakebrack = 0;
2030             return yylex();             /* ignore fake brackets */
2031         }
2032         force_next('}');
2033         TOKEN(';');
2034     case '&':
2035         s++;
2036         tmp = *s++;
2037         if (tmp == '&')
2038             AOPERATOR(ANDAND);
2039         s--;
2040         if (expect == XOPERATOR) {
2041             if (dowarn && isALPHA(*s) && bufptr == linestart) {
2042                 curcop->cop_line--;
2043                 warn(warn_nosemi);
2044                 curcop->cop_line++;
2045             }
2046             BAop(OP_BIT_AND);
2047         }
2048
2049         s = scan_ident(s-1, bufend, tokenbuf, TRUE);
2050         if (*tokenbuf) {
2051             expect = XOPERATOR;
2052             force_ident(tokenbuf, '&');
2053         }
2054         else
2055             PREREF('&');
2056         yylval.ival = (OPpENTERSUB_AMPER<<8);
2057         TERM('&');
2058
2059     case '|':
2060         s++;
2061         tmp = *s++;
2062         if (tmp == '|')
2063             AOPERATOR(OROR);
2064         s--;
2065         BOop(OP_BIT_OR);
2066     case '=':
2067         s++;
2068         tmp = *s++;
2069         if (tmp == '=')
2070             Eop(OP_EQ);
2071         if (tmp == '>')
2072             OPERATOR(',');
2073         if (tmp == '~')
2074             PMop(OP_MATCH);
2075         if (dowarn && tmp && isSPACE(*s) && strchr("+-*/%.^&|<",tmp))
2076             warn("Reversed %c= operator",(int)tmp);
2077         s--;
2078         if (expect == XSTATE && isALPHA(tmp) &&
2079                 (s == linestart+1 || s[-2] == '\n') )
2080         {
2081             if (in_eval && !rsfp) {
2082                 d = bufend;
2083                 while (s < d) {
2084                     if (*s++ == '\n') {
2085                         incline(s);
2086                         if (strnEQ(s,"=cut",4)) {
2087                             s = strchr(s,'\n');
2088                             if (s)
2089                                 s++;
2090                             else
2091                                 s = d;
2092                             incline(s);
2093                             goto retry;
2094                         }
2095                     }
2096                 }
2097                 goto retry;
2098             }
2099             s = bufend;
2100             doextract = TRUE;
2101             goto retry;
2102         }
2103         if (lex_brackets < lex_formbrack) {
2104             char *t;
2105             for (t = s; *t == ' ' || *t == '\t'; t++) ;
2106             if (*t == '\n' || *t == '#') {
2107                 s--;
2108                 expect = XBLOCK;
2109                 goto leftbracket;
2110             }
2111         }
2112         yylval.ival = 0;
2113         OPERATOR(ASSIGNOP);
2114     case '!':
2115         s++;
2116         tmp = *s++;
2117         if (tmp == '=')
2118             Eop(OP_NE);
2119         if (tmp == '~')
2120             PMop(OP_NOT);
2121         s--;
2122         OPERATOR('!');
2123     case '<':
2124         if (expect != XOPERATOR) {
2125             if (s[1] != '<' && !strchr(s,'>'))
2126                 check_uni();
2127             if (s[1] == '<')
2128                 s = scan_heredoc(s);
2129             else
2130                 s = scan_inputsymbol(s);
2131             TERM(sublex_start());
2132         }
2133         s++;
2134         tmp = *s++;
2135         if (tmp == '<')
2136             SHop(OP_LEFT_SHIFT);
2137         if (tmp == '=') {
2138             tmp = *s++;
2139             if (tmp == '>')
2140                 Eop(OP_NCMP);
2141             s--;
2142             Rop(OP_LE);
2143         }
2144         s--;
2145         Rop(OP_LT);
2146     case '>':
2147         s++;
2148         tmp = *s++;
2149         if (tmp == '>')
2150             SHop(OP_RIGHT_SHIFT);
2151         if (tmp == '=')
2152             Rop(OP_GE);
2153         s--;
2154         Rop(OP_GT);
2155
2156     case '$':
2157         CLINE;
2158
2159         if (expect == XOPERATOR) {
2160             if (lex_formbrack && lex_brackets == lex_formbrack) {
2161                 expect = XTERM;
2162                 depcom();
2163                 return ','; /* grandfather non-comma-format format */
2164             }
2165         }
2166
2167         if (s[1] == '#' && (isALPHA(s[2]) || strchr("_{$:", s[2]))) {
2168             if (expect == XOPERATOR)
2169                 no_op("Array length", bufptr);
2170             tokenbuf[0] = '@';
2171             s = scan_ident(s+1, bufend, tokenbuf+1, FALSE);
2172             if (!tokenbuf[1])
2173                 PREREF(DOLSHARP);
2174             expect = XOPERATOR;
2175             pending_ident = '#';
2176             TOKEN(DOLSHARP);
2177         }
2178
2179         if (expect == XOPERATOR)
2180             no_op("Scalar", bufptr);
2181         tokenbuf[0] = '$';
2182         s = scan_ident(s, bufend, tokenbuf+1, FALSE);
2183         if (!tokenbuf[1]) {
2184             if (s == bufend)
2185                 yyerror("Final $ should be \\$ or $name");
2186             PREREF('$');
2187         }
2188
2189         /* This kludge not intended to be bulletproof. */
2190         if (tokenbuf[1] == '[' && !tokenbuf[2]) {
2191             yylval.opval = newSVOP(OP_CONST, 0,
2192                                    newSViv((IV)compiling.cop_arybase));
2193             yylval.opval->op_private = OPpCONST_ARYBASE;
2194             TERM(THING);
2195         }
2196
2197         d = s;
2198         if (lex_state == LEX_NORMAL)
2199             s = skipspace(s);
2200
2201         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2202             char *t;
2203             if (*s == '[') {
2204                 tokenbuf[0] = '@';
2205                 if (dowarn) {
2206                     for(t = s + 1;
2207                         isSPACE(*t) || isALNUM(*t) || *t == '$';
2208                         t++) ;
2209                     if (*t++ == ',') {
2210                         bufptr = skipspace(bufptr);
2211                         while (t < bufend && *t != ']')
2212                             t++;
2213                         warn("Multidimensional syntax %.*s not supported",
2214                              (t - bufptr) + 1, bufptr);
2215                     }
2216                 }
2217             }
2218             else if (*s == '{') {
2219                 tokenbuf[0] = '%';
2220                 if (dowarn && strEQ(tokenbuf+1, "SIG") &&
2221                     (t = strchr(s, '}')) && (t = strchr(t, '=')))
2222                 {
2223                     char tmpbuf[1024];
2224                     STRLEN len;
2225                     for (t++; isSPACE(*t); t++) ;
2226                     if (isIDFIRST(*t)) {
2227                         t = scan_word(t, tmpbuf, TRUE, &len);
2228                         if (*t != '(' && perl_get_cv(tmpbuf, FALSE))
2229                             warn("You need to quote \"%s\"", tmpbuf);
2230                     }
2231                 }
2232             }
2233         }
2234
2235         expect = XOPERATOR;
2236         if (lex_state == LEX_NORMAL && isSPACE(*d)) {
2237             bool islop = (last_lop == oldoldbufptr);
2238             if (!islop || last_lop_op == OP_GREPSTART)
2239                 expect = XOPERATOR;
2240             else if (strchr("$@\"'`q", *s))
2241                 expect = XTERM;         /* e.g. print $fh "foo" */
2242             else if (strchr("&*<%", *s) && isIDFIRST(s[1]))
2243                 expect = XTERM;         /* e.g. print $fh &sub */
2244             else if (isIDFIRST(*s)) {
2245                 char tmpbuf[1024];
2246                 scan_word(s, tmpbuf, TRUE, &len);
2247                 if (keyword(tmpbuf, len))
2248                     expect = XTERM;     /* e.g. print $fh length() */
2249                 else {
2250                     GV *gv = gv_fetchpv(tmpbuf, FALSE, SVt_PVCV);
2251                     if (gv && GvCVu(gv))
2252                         expect = XTERM; /* e.g. print $fh subr() */
2253                 }
2254             }
2255             else if (isDIGIT(*s))
2256                 expect = XTERM;         /* e.g. print $fh 3 */
2257             else if (*s == '.' && isDIGIT(s[1]))
2258                 expect = XTERM;         /* e.g. print $fh .3 */
2259             else if (strchr("/?-+", *s) && !isSPACE(s[1]))
2260                 expect = XTERM;         /* e.g. print $fh -1 */
2261             else if (*s == '<' && s[1] == '<' && !isSPACE(s[2]))
2262                 expect = XTERM;         /* print $fh <<"EOF" */
2263         }
2264         pending_ident = '$';
2265         TOKEN('$');
2266
2267     case '@':
2268         if (expect == XOPERATOR)
2269             no_op("Array", s);
2270         tokenbuf[0] = '@';
2271         s = scan_ident(s, bufend, tokenbuf+1, FALSE);
2272         if (!tokenbuf[1]) {
2273             if (s == bufend)
2274                 yyerror("Final @ should be \\@ or @name");
2275             PREREF('@');
2276         }
2277         if (lex_state == LEX_NORMAL)
2278             s = skipspace(s);
2279         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2280             if (*s == '{')
2281                 tokenbuf[0] = '%';
2282
2283             /* Warn about @ where they meant $. */
2284             if (dowarn) {
2285                 if (*s == '[' || *s == '{') {
2286                     char *t = s + 1;
2287                     while (*t && (isALNUM(*t) || strchr(" \t$#+-'\"", *t)))
2288                         t++;
2289                     if (*t == '}' || *t == ']') {
2290                         t++;
2291                         bufptr = skipspace(bufptr);
2292                         warn("Scalar value %.*s better written as $%.*s",
2293                             t-bufptr, bufptr, t-bufptr-1, bufptr+1);
2294                     }
2295                 }
2296             }
2297         }
2298         pending_ident = '@';
2299         TERM('@');
2300
2301     case '/':                   /* may either be division or pattern */
2302     case '?':                   /* may either be conditional or pattern */
2303         if (expect != XOPERATOR) {
2304             check_uni();
2305             s = scan_pat(s);
2306             TERM(sublex_start());
2307         }
2308         tmp = *s++;
2309         if (tmp == '/')
2310             Mop(OP_DIVIDE);
2311         OPERATOR(tmp);
2312
2313     case '.':
2314         if (lex_formbrack && lex_brackets == lex_formbrack && s[1] == '\n' &&
2315                 (s == linestart || s[-1] == '\n') ) {
2316             lex_formbrack = 0;
2317             expect = XSTATE;
2318             goto rightbracket;
2319         }
2320         if (expect == XOPERATOR || !isDIGIT(s[1])) {
2321             tmp = *s++;
2322             if (*s == tmp) {
2323                 s++;
2324                 if (*s == tmp) {
2325                     s++;
2326                     yylval.ival = OPf_SPECIAL;
2327                 }
2328                 else
2329                     yylval.ival = 0;
2330                 OPERATOR(DOTDOT);
2331             }
2332             if (expect != XOPERATOR)
2333                 check_uni();
2334             Aop(OP_CONCAT);
2335         }
2336         /* FALL THROUGH */
2337     case '0': case '1': case '2': case '3': case '4':
2338     case '5': case '6': case '7': case '8': case '9':
2339         s = scan_num(s);
2340         if (expect == XOPERATOR)
2341             no_op("Number",s);
2342         TERM(THING);
2343
2344     case '\'':
2345         s = scan_str(s);
2346         if (expect == XOPERATOR) {
2347             if (lex_formbrack && lex_brackets == lex_formbrack) {
2348                 expect = XTERM;
2349                 depcom();
2350                 return ',';     /* grandfather non-comma-format format */
2351             }
2352             else
2353                 no_op("String",s);
2354         }
2355         if (!s)
2356             missingterm((char*)0);
2357         yylval.ival = OP_CONST;
2358         TERM(sublex_start());
2359
2360     case '"':
2361         s = scan_str(s);
2362         if (expect == XOPERATOR) {
2363             if (lex_formbrack && lex_brackets == lex_formbrack) {
2364                 expect = XTERM;
2365                 depcom();
2366                 return ',';     /* grandfather non-comma-format format */
2367             }
2368             else
2369                 no_op("String",s);
2370         }
2371         if (!s)
2372             missingterm((char*)0);
2373         yylval.ival = OP_CONST;
2374         for (d = SvPV(lex_stuff, len); len; len--, d++) {
2375             if (*d == '$' || *d == '@' || *d == '\\') {
2376                 yylval.ival = OP_STRINGIFY;
2377                 break;
2378             }
2379         }
2380         TERM(sublex_start());
2381
2382     case '`':
2383         s = scan_str(s);
2384         if (expect == XOPERATOR)
2385             no_op("Backticks",s);
2386         if (!s)
2387             missingterm((char*)0);
2388         yylval.ival = OP_BACKTICK;
2389         set_csh();
2390         TERM(sublex_start());
2391
2392     case '\\':
2393         s++;
2394         if (dowarn && lex_inwhat && isDIGIT(*s))
2395             warn("Can't use \\%c to mean $%c in expression", *s, *s);
2396         if (expect == XOPERATOR)
2397             no_op("Backslash",s);
2398         OPERATOR(REFGEN);
2399
2400     case 'x':
2401         if (isDIGIT(s[1]) && expect == XOPERATOR) {
2402             s++;
2403             Mop(OP_REPEAT);
2404         }
2405         goto keylookup;
2406
2407     case '_':
2408     case 'a': case 'A':
2409     case 'b': case 'B':
2410     case 'c': case 'C':
2411     case 'd': case 'D':
2412     case 'e': case 'E':
2413     case 'f': case 'F':
2414     case 'g': case 'G':
2415     case 'h': case 'H':
2416     case 'i': case 'I':
2417     case 'j': case 'J':
2418     case 'k': case 'K':
2419     case 'l': case 'L':
2420     case 'm': case 'M':
2421     case 'n': case 'N':
2422     case 'o': case 'O':
2423     case 'p': case 'P':
2424     case 'q': case 'Q':
2425     case 'r': case 'R':
2426     case 's': case 'S':
2427     case 't': case 'T':
2428     case 'u': case 'U':
2429     case 'v': case 'V':
2430     case 'w': case 'W':
2431               case 'X':
2432     case 'y': case 'Y':
2433     case 'z': case 'Z':
2434
2435       keylookup:
2436         bufptr = s;
2437         s = scan_word(s, tokenbuf, FALSE, &len);
2438
2439         /* Some keywords can be followed by any delimiter, including ':' */
2440         tmp = (len == 1 && strchr("msyq", tokenbuf[0]) ||
2441                len == 2 && ((tokenbuf[0] == 't' && tokenbuf[1] == 'r') ||
2442                             (tokenbuf[0] == 'q' &&
2443                              strchr("qwx", tokenbuf[1]))));
2444
2445         /* x::* is just a word, unless x is "CORE" */
2446         if (!tmp && *s == ':' && s[1] == ':' && strNE(tokenbuf, "CORE"))
2447             goto just_a_word;
2448
2449         d = s;
2450         while (d < bufend && isSPACE(*d))
2451                 d++;    /* no comments skipped here, or s### is misparsed */
2452
2453         /* Is this a label? */
2454         if (!tmp && expect == XSTATE
2455               && d < bufend && *d == ':' && *(d + 1) != ':') {
2456             s = d + 1;
2457             yylval.pval = savepv(tokenbuf);
2458             CLINE;
2459             TOKEN(LABEL);
2460         }
2461
2462         /* Check for keywords */
2463         tmp = keyword(tokenbuf, len);
2464
2465         /* Is this a word before a => operator? */
2466         if (strnEQ(d,"=>",2)) {
2467             CLINE;
2468             if (dowarn && (tmp || perl_get_cv(tokenbuf, FALSE)))
2469                 warn("Ambiguous use of %s => resolved to \"%s\" =>",
2470                         tokenbuf, tokenbuf);
2471             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2472             yylval.opval->op_private = OPpCONST_BARE;
2473             TERM(WORD);
2474         }
2475
2476         if (tmp < 0) {                  /* second-class keyword? */
2477             GV* gv;
2478             if (expect != XOPERATOR &&
2479                 (*s != ':' || s[1] != ':') &&
2480                 (gv = gv_fetchpv(tokenbuf, FALSE, SVt_PVCV)) &&
2481                 GvIMPORTED_CV(gv))
2482             {
2483                 tmp = 0;
2484             }
2485             else
2486                 tmp = -tmp;
2487         }
2488
2489       reserved_word:
2490         switch (tmp) {
2491
2492         default:                        /* not a keyword */
2493           just_a_word: {
2494                 GV *gv;
2495                 char lastchar = (bufptr == oldoldbufptr ? 0 : bufptr[-1]);
2496
2497                 /* Get the rest if it looks like a package qualifier */
2498
2499                 if (*s == '\'' || *s == ':' && s[1] == ':') {
2500                     s = scan_word(s, tokenbuf + len, TRUE, &len);
2501                     if (!len)
2502                         croak("Bad name after %s::", tokenbuf);
2503                 }
2504
2505                 if (expect == XOPERATOR) {
2506                     if (bufptr == linestart) {
2507                         curcop->cop_line--;
2508                         warn(warn_nosemi);
2509                         curcop->cop_line++;
2510                     }
2511                     else
2512                         no_op("Bare word",s);
2513                 }
2514
2515                 /* Look for a subroutine with this name in current package. */
2516
2517                 gv = gv_fetchpv(tokenbuf,FALSE, SVt_PVCV);
2518
2519                 /* Presume this is going to be a bareword of some sort. */
2520
2521                 CLINE;
2522                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2523                 yylval.opval->op_private = OPpCONST_BARE;
2524
2525                 /* See if it's the indirect object for a list operator. */
2526
2527                 if (oldoldbufptr &&
2528                     oldoldbufptr < bufptr &&
2529                     (oldoldbufptr == last_lop || oldoldbufptr == last_uni) &&
2530                     /* NO SKIPSPACE BEFORE HERE! */
2531                     (expect == XREF ||
2532                      (opargs[last_lop_op] >> OASHIFT & 7) == OA_FILEREF) )
2533                 {
2534                     bool immediate_paren = *s == '(';
2535
2536                     /* (Now we can afford to cross potential line boundary.) */
2537                     s = skipspace(s);
2538
2539                     /* Two barewords in a row may indicate method call. */
2540
2541                     if ((isALPHA(*s) || *s == '$') && (tmp=intuit_method(s,gv)))
2542                         return tmp;
2543
2544                     /* If not a declared subroutine, it's an indirect object. */
2545                     /* (But it's an indir obj regardless for sort.) */
2546
2547                     if ((last_lop_op == OP_SORT ||
2548                          (!immediate_paren && (!gv || !GvCVu(gv))) ) &&
2549                         (last_lop_op != OP_MAPSTART && last_lop_op != OP_GREPSTART)){
2550                         expect = (last_lop == oldoldbufptr) ? XTERM : XOPERATOR;
2551                         goto bareword;
2552                     }
2553                 }
2554
2555                 /* If followed by a paren, it's certainly a subroutine. */
2556
2557                 expect = XOPERATOR;
2558                 s = skipspace(s);
2559                 if (*s == '(') {
2560                     CLINE;
2561                     nextval[nexttoke].opval = yylval.opval;
2562                     expect = XOPERATOR;
2563                     force_next(WORD);
2564                     yylval.ival = 0;
2565                     TOKEN('&');
2566                 }
2567
2568                 /* If followed by var or block, call it a method (unless sub) */
2569
2570                 if ((*s == '$' || *s == '{') && (!gv || !GvCVu(gv))) {
2571                     last_lop = oldbufptr;
2572                     last_lop_op = OP_METHOD;
2573                     PREBLOCK(METHOD);
2574                 }
2575
2576                 /* If followed by a bareword, see if it looks like indir obj. */
2577
2578                 if ((isALPHA(*s) || *s == '$') && (tmp = intuit_method(s,gv)))
2579                     return tmp;
2580
2581                 /* Not a method, so call it a subroutine (if defined) */
2582
2583                 if (gv && GvCVu(gv)) {
2584                     CV* cv = GvCV(gv);
2585                     if (*s == '(') {
2586                         nextval[nexttoke].opval = yylval.opval;
2587                         expect = XTERM;
2588                         force_next(WORD);
2589                         yylval.ival = 0;
2590                         TOKEN('&');
2591                     }
2592                     if (lastchar == '-')
2593                         warn("Ambiguous use of -%s resolved as -&%s()",
2594                                 tokenbuf, tokenbuf);
2595                     last_lop = oldbufptr;
2596                     last_lop_op = OP_ENTERSUB;
2597                     /* Check for a constant sub */
2598                     {
2599                         SV *sv = cv_const_sv(cv);
2600                         if (sv) {
2601                             SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
2602                             ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc(sv);
2603                             yylval.opval->op_private = 0;
2604                             TOKEN(WORD);
2605                         }
2606                     }
2607
2608                     /* Resolve to GV now. */
2609                     op_free(yylval.opval);
2610                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
2611                     /* Is there a prototype? */
2612                     if (SvPOK(cv)) {
2613                         STRLEN len;
2614                         char *proto = SvPV((SV*)cv, len);
2615                         if (!len)
2616                             TERM(FUNC0SUB);
2617                         if (strEQ(proto, "$"))
2618                             OPERATOR(UNIOPSUB);
2619                         if (*proto == '&' && *s == '{') {
2620                             sv_setpv(subname,"__ANON__");
2621                             PREBLOCK(LSTOPSUB);
2622                         }
2623                     }
2624                     nextval[nexttoke].opval = yylval.opval;
2625                     expect = XTERM;
2626                     force_next(WORD);
2627                     TOKEN(NOAMP);
2628                 }
2629
2630                 if (hints & HINT_STRICT_SUBS &&
2631                     lastchar != '-' &&
2632                     strnNE(s,"->",2) &&
2633                     last_lop_op != OP_TRUNCATE &&  /* S/F prototype in opcode.pl */
2634                     last_lop_op != OP_ACCEPT &&
2635                     last_lop_op != OP_PIPE_OP &&
2636                     last_lop_op != OP_SOCKPAIR)
2637                 {
2638                     warn(
2639                      "Bareword \"%s\" not allowed while \"strict subs\" in use",
2640                         tokenbuf);
2641                     ++error_count;
2642                 }
2643
2644                 /* Call it a bare word */
2645
2646             bareword:
2647                 if (dowarn) {
2648                     if (lastchar != '-') {
2649                         for (d = tokenbuf; *d && isLOWER(*d); d++) ;
2650                         if (!*d)
2651                             warn(warn_reserved, tokenbuf);
2652                     }
2653                 }
2654                 if (lastchar && strchr("*%&", lastchar)) {
2655                     warn("Operator or semicolon missing before %c%s",
2656                         lastchar, tokenbuf);
2657                     warn("Ambiguous use of %c resolved as operator %c",
2658                         lastchar, lastchar);
2659                 }
2660                 TOKEN(WORD);
2661             }
2662
2663         case KEY___FILE__:
2664         case KEY___LINE__:
2665             if (tokenbuf[2] == 'L')
2666                 (void)sprintf(tokenbuf,"%ld",(long)curcop->cop_line);
2667             else
2668                 strcpy(tokenbuf, SvPVX(GvSV(curcop->cop_filegv)));
2669             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2670             TERM(THING);
2671
2672         case KEY___PACKAGE__:
2673             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2674                                         (curstash
2675                                          ? newSVsv(curstname)
2676                                          : &sv_undef));
2677             TERM(THING);
2678
2679         case KEY___DATA__:
2680         case KEY___END__: {
2681             GV *gv;
2682
2683             /*SUPPRESS 560*/
2684             if (rsfp && (!in_eval || tokenbuf[2] == 'D')) {
2685                 char dname[256];
2686                 char *pname = "main";
2687                 if (tokenbuf[2] == 'D')
2688                     pname = HvNAME(curstash ? curstash : defstash);
2689                 sprintf(dname,"%s::DATA", pname);
2690                 gv = gv_fetchpv(dname,TRUE, SVt_PVIO);
2691                 GvMULTI_on(gv);
2692                 if (!GvIO(gv))
2693                     GvIOp(gv) = newIO();
2694                 IoIFP(GvIOp(gv)) = rsfp;
2695 #if defined(HAS_FCNTL) && defined(F_SETFD)
2696                 {
2697                     int fd = PerlIO_fileno(rsfp);
2698                     fcntl(fd,F_SETFD,fd >= 3);
2699                 }
2700 #endif
2701                 /* Mark this internal pseudo-handle as clean */
2702                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
2703                 if (preprocess)
2704                     IoTYPE(GvIOp(gv)) = '|';
2705                 else if ((PerlIO*)rsfp == PerlIO_stdin())
2706                     IoTYPE(GvIOp(gv)) = '-';
2707                 else
2708                     IoTYPE(GvIOp(gv)) = '<';
2709                 rsfp = Nullfp;
2710             }
2711             goto fake_eof;
2712         }
2713
2714         case KEY_AUTOLOAD:
2715         case KEY_DESTROY:
2716         case KEY_BEGIN:
2717         case KEY_END:
2718             if (expect == XSTATE) {
2719                 s = bufptr;
2720                 goto really_sub;
2721             }
2722             goto just_a_word;
2723
2724         case KEY_CORE:
2725             if (*s == ':' && s[1] == ':') {
2726                 s += 2;
2727                 d = s;
2728                 s = scan_word(s, tokenbuf, FALSE, &len);
2729                 tmp = keyword(tokenbuf, len);
2730                 if (tmp < 0)
2731                     tmp = -tmp;
2732                 goto reserved_word;
2733             }
2734             goto just_a_word;
2735
2736         case KEY_abs:
2737             UNI(OP_ABS);
2738
2739         case KEY_alarm:
2740             UNI(OP_ALARM);
2741
2742         case KEY_accept:
2743             LOP(OP_ACCEPT,XTERM);
2744
2745         case KEY_and:
2746             OPERATOR(ANDOP);
2747
2748         case KEY_atan2:
2749             LOP(OP_ATAN2,XTERM);
2750
2751         case KEY_bind:
2752             LOP(OP_BIND,XTERM);
2753
2754         case KEY_binmode:
2755             UNI(OP_BINMODE);
2756
2757         case KEY_bless:
2758             LOP(OP_BLESS,XTERM);
2759
2760         case KEY_chop:
2761             UNI(OP_CHOP);
2762
2763         case KEY_continue:
2764             PREBLOCK(CONTINUE);
2765
2766         case KEY_chdir:
2767             (void)gv_fetchpv("ENV",TRUE, SVt_PVHV);     /* may use HOME */
2768             UNI(OP_CHDIR);
2769
2770         case KEY_close:
2771             UNI(OP_CLOSE);
2772
2773         case KEY_closedir:
2774             UNI(OP_CLOSEDIR);
2775
2776         case KEY_cmp:
2777             Eop(OP_SCMP);
2778
2779         case KEY_caller:
2780             UNI(OP_CALLER);
2781
2782         case KEY_crypt:
2783 #ifdef FCRYPT
2784             if (!cryptseen++)
2785                 init_des();
2786 #endif
2787             LOP(OP_CRYPT,XTERM);
2788
2789         case KEY_chmod:
2790             if (dowarn) {
2791                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
2792                 if (*d != '0' && isDIGIT(*d))
2793                     yywarn("chmod: mode argument is missing initial 0");
2794             }
2795             LOP(OP_CHMOD,XTERM);
2796
2797         case KEY_chown:
2798             LOP(OP_CHOWN,XTERM);
2799
2800         case KEY_connect:
2801             LOP(OP_CONNECT,XTERM);
2802
2803         case KEY_chr:
2804             UNI(OP_CHR);
2805
2806         case KEY_cos:
2807             UNI(OP_COS);
2808
2809         case KEY_chroot:
2810             UNI(OP_CHROOT);
2811
2812         case KEY_do:
2813             s = skipspace(s);
2814             if (*s == '{')
2815                 PRETERMBLOCK(DO);
2816             if (*s != '\'')
2817                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
2818             OPERATOR(DO);
2819
2820         case KEY_die:
2821             hints |= HINT_BLOCK_SCOPE;
2822             LOP(OP_DIE,XTERM);
2823
2824         case KEY_defined:
2825             UNI(OP_DEFINED);
2826
2827         case KEY_delete:
2828             UNI(OP_DELETE);
2829
2830         case KEY_dbmopen:
2831             gv_fetchpv("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
2832             LOP(OP_DBMOPEN,XTERM);
2833
2834         case KEY_dbmclose:
2835             UNI(OP_DBMCLOSE);
2836
2837         case KEY_dump:
2838             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2839             LOOPX(OP_DUMP);
2840
2841         case KEY_else:
2842             PREBLOCK(ELSE);
2843
2844         case KEY_elsif:
2845             yylval.ival = curcop->cop_line;
2846             OPERATOR(ELSIF);
2847
2848         case KEY_eq:
2849             Eop(OP_SEQ);
2850
2851         case KEY_exists:
2852             UNI(OP_EXISTS);
2853
2854         case KEY_exit:
2855             UNI(OP_EXIT);
2856
2857         case KEY_eval:
2858             s = skipspace(s);
2859             expect = (*s == '{') ? XTERMBLOCK : XTERM;
2860             UNIBRACK(OP_ENTEREVAL);
2861
2862         case KEY_eof:
2863             UNI(OP_EOF);
2864
2865         case KEY_exp:
2866             UNI(OP_EXP);
2867
2868         case KEY_each:
2869             UNI(OP_EACH);
2870
2871         case KEY_exec:
2872             set_csh();
2873             LOP(OP_EXEC,XREF);
2874
2875         case KEY_endhostent:
2876             FUN0(OP_EHOSTENT);
2877
2878         case KEY_endnetent:
2879             FUN0(OP_ENETENT);
2880
2881         case KEY_endservent:
2882             FUN0(OP_ESERVENT);
2883
2884         case KEY_endprotoent:
2885             FUN0(OP_EPROTOENT);
2886
2887         case KEY_endpwent:
2888             FUN0(OP_EPWENT);
2889
2890         case KEY_endgrent:
2891             FUN0(OP_EGRENT);
2892
2893         case KEY_for:
2894         case KEY_foreach:
2895             yylval.ival = curcop->cop_line;
2896             s = skipspace(s);
2897             if (isIDFIRST(*s)) {
2898                 char *p = s;
2899                 if ((bufend - p) >= 3 &&
2900                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
2901                     p += 2;
2902                 p = skipspace(p);
2903                 if (isIDFIRST(*p))
2904                     croak("Missing $ on loop variable");
2905             }
2906             OPERATOR(FOR);
2907
2908         case KEY_formline:
2909             LOP(OP_FORMLINE,XTERM);
2910
2911         case KEY_fork:
2912             FUN0(OP_FORK);
2913
2914         case KEY_fcntl:
2915             LOP(OP_FCNTL,XTERM);
2916
2917         case KEY_fileno:
2918             UNI(OP_FILENO);
2919
2920         case KEY_flock:
2921             LOP(OP_FLOCK,XTERM);
2922
2923         case KEY_gt:
2924             Rop(OP_SGT);
2925
2926         case KEY_ge:
2927             Rop(OP_SGE);
2928
2929         case KEY_grep:
2930             LOP(OP_GREPSTART, *s == '(' ? XTERM : XREF);
2931
2932         case KEY_goto:
2933             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2934             LOOPX(OP_GOTO);
2935
2936         case KEY_gmtime:
2937             UNI(OP_GMTIME);
2938
2939         case KEY_getc:
2940             UNI(OP_GETC);
2941
2942         case KEY_getppid:
2943             FUN0(OP_GETPPID);
2944
2945         case KEY_getpgrp:
2946             UNI(OP_GETPGRP);
2947
2948         case KEY_getpriority:
2949             LOP(OP_GETPRIORITY,XTERM);
2950
2951         case KEY_getprotobyname:
2952             UNI(OP_GPBYNAME);
2953
2954         case KEY_getprotobynumber:
2955             LOP(OP_GPBYNUMBER,XTERM);
2956
2957         case KEY_getprotoent:
2958             FUN0(OP_GPROTOENT);
2959
2960         case KEY_getpwent:
2961             FUN0(OP_GPWENT);
2962
2963         case KEY_getpwnam:
2964             UNI(OP_GPWNAM);
2965
2966         case KEY_getpwuid:
2967             UNI(OP_GPWUID);
2968
2969         case KEY_getpeername:
2970             UNI(OP_GETPEERNAME);
2971
2972         case KEY_gethostbyname:
2973             UNI(OP_GHBYNAME);
2974
2975         case KEY_gethostbyaddr:
2976             LOP(OP_GHBYADDR,XTERM);
2977
2978         case KEY_gethostent:
2979             FUN0(OP_GHOSTENT);
2980
2981         case KEY_getnetbyname:
2982             UNI(OP_GNBYNAME);
2983
2984         case KEY_getnetbyaddr:
2985             LOP(OP_GNBYADDR,XTERM);
2986
2987         case KEY_getnetent:
2988             FUN0(OP_GNETENT);
2989
2990         case KEY_getservbyname:
2991             LOP(OP_GSBYNAME,XTERM);
2992
2993         case KEY_getservbyport:
2994             LOP(OP_GSBYPORT,XTERM);
2995
2996         case KEY_getservent:
2997             FUN0(OP_GSERVENT);
2998
2999         case KEY_getsockname:
3000             UNI(OP_GETSOCKNAME);
3001
3002         case KEY_getsockopt:
3003             LOP(OP_GSOCKOPT,XTERM);
3004
3005         case KEY_getgrent:
3006             FUN0(OP_GGRENT);
3007
3008         case KEY_getgrnam:
3009             UNI(OP_GGRNAM);
3010
3011         case KEY_getgrgid:
3012             UNI(OP_GGRGID);
3013
3014         case KEY_getlogin:
3015             FUN0(OP_GETLOGIN);
3016
3017         case KEY_glob:
3018             set_csh();
3019             LOP(OP_GLOB,XTERM);
3020
3021         case KEY_hex:
3022             UNI(OP_HEX);
3023
3024         case KEY_if:
3025             yylval.ival = curcop->cop_line;
3026             OPERATOR(IF);
3027
3028         case KEY_index:
3029             LOP(OP_INDEX,XTERM);
3030
3031         case KEY_int:
3032             UNI(OP_INT);
3033
3034         case KEY_ioctl:
3035             LOP(OP_IOCTL,XTERM);
3036
3037         case KEY_join:
3038             LOP(OP_JOIN,XTERM);
3039
3040         case KEY_keys:
3041             UNI(OP_KEYS);
3042
3043         case KEY_kill:
3044             LOP(OP_KILL,XTERM);
3045
3046         case KEY_last:
3047             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3048             LOOPX(OP_LAST);
3049
3050         case KEY_lc:
3051             UNI(OP_LC);
3052
3053         case KEY_lcfirst:
3054             UNI(OP_LCFIRST);
3055
3056         case KEY_local:
3057             OPERATOR(LOCAL);
3058
3059         case KEY_length:
3060             UNI(OP_LENGTH);
3061
3062         case KEY_lt:
3063             Rop(OP_SLT);
3064
3065         case KEY_le:
3066             Rop(OP_SLE);
3067
3068         case KEY_localtime:
3069             UNI(OP_LOCALTIME);
3070
3071         case KEY_log:
3072             UNI(OP_LOG);
3073
3074         case KEY_link:
3075             LOP(OP_LINK,XTERM);
3076
3077         case KEY_listen:
3078             LOP(OP_LISTEN,XTERM);
3079
3080         case KEY_lstat:
3081             UNI(OP_LSTAT);
3082
3083         case KEY_m:
3084             s = scan_pat(s);
3085             TERM(sublex_start());
3086
3087         case KEY_map:
3088             LOP(OP_MAPSTART,XREF);
3089
3090         case KEY_mkdir:
3091             LOP(OP_MKDIR,XTERM);
3092
3093         case KEY_msgctl:
3094             LOP(OP_MSGCTL,XTERM);
3095
3096         case KEY_msgget:
3097             LOP(OP_MSGGET,XTERM);
3098
3099         case KEY_msgrcv:
3100             LOP(OP_MSGRCV,XTERM);
3101
3102         case KEY_msgsnd:
3103             LOP(OP_MSGSND,XTERM);
3104
3105         case KEY_my:
3106             in_my = TRUE;
3107             OPERATOR(MY);
3108
3109         case KEY_next:
3110             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3111             LOOPX(OP_NEXT);
3112
3113         case KEY_ne:
3114             Eop(OP_SNE);
3115
3116         case KEY_no:
3117             if (expect != XSTATE)
3118                 yyerror("\"no\" not allowed in expression");
3119             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3120             s = force_version(s);
3121             yylval.ival = 0;
3122             OPERATOR(USE);
3123
3124         case KEY_not:
3125             OPERATOR(NOTOP);
3126
3127         case KEY_open:
3128             s = skipspace(s);
3129             if (isIDFIRST(*s)) {
3130                 char *t;
3131                 for (d = s; isALNUM(*d); d++) ;
3132                 t = skipspace(d);
3133                 if (strchr("|&*+-=!?:.", *t))
3134                     warn("Precedence problem: open %.*s should be open(%.*s)",
3135                         d-s,s, d-s,s);
3136             }
3137             LOP(OP_OPEN,XTERM);
3138
3139         case KEY_or:
3140             yylval.ival = OP_OR;
3141             OPERATOR(OROP);
3142
3143         case KEY_ord:
3144             UNI(OP_ORD);
3145
3146         case KEY_oct:
3147             UNI(OP_OCT);
3148
3149         case KEY_opendir:
3150             LOP(OP_OPEN_DIR,XTERM);
3151
3152         case KEY_print:
3153             checkcomma(s,tokenbuf,"filehandle");
3154             LOP(OP_PRINT,XREF);
3155
3156         case KEY_printf:
3157             checkcomma(s,tokenbuf,"filehandle");
3158             LOP(OP_PRTF,XREF);
3159
3160         case KEY_prototype:
3161             UNI(OP_PROTOTYPE);
3162
3163         case KEY_push:
3164             LOP(OP_PUSH,XTERM);
3165
3166         case KEY_pop:
3167             UNI(OP_POP);
3168
3169         case KEY_pos:
3170             UNI(OP_POS);
3171
3172         case KEY_pack:
3173             LOP(OP_PACK,XTERM);
3174
3175         case KEY_package:
3176             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3177             OPERATOR(PACKAGE);
3178
3179         case KEY_pipe:
3180             LOP(OP_PIPE_OP,XTERM);
3181
3182         case KEY_q:
3183             s = scan_str(s);
3184             if (!s)
3185                 missingterm((char*)0);
3186             yylval.ival = OP_CONST;
3187             TERM(sublex_start());
3188
3189         case KEY_quotemeta:
3190             UNI(OP_QUOTEMETA);
3191
3192         case KEY_qw:
3193             s = scan_str(s);
3194             if (!s)
3195                 missingterm((char*)0);
3196             if (dowarn && SvLEN(lex_stuff)) {
3197                 d = SvPV_force(lex_stuff, len);
3198                 for (; len; --len, ++d) {
3199                     if (*d == ',') {
3200                         warn("Possible attempt to separate words with commas");
3201                         break;
3202                     }
3203                     if (*d == '#') {
3204                         warn("Possible attempt to put comments in qw() list");
3205                         break;
3206                     }
3207                 }
3208             }
3209             force_next(')');
3210             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, q(lex_stuff));
3211             lex_stuff = Nullsv;
3212             force_next(THING);
3213             force_next(',');
3214             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(" ",1));
3215             force_next(THING);
3216             force_next('(');
3217             yylval.ival = OP_SPLIT;
3218             CLINE;
3219             expect = XTERM;
3220             bufptr = s;
3221             last_lop = oldbufptr;
3222             last_lop_op = OP_SPLIT;
3223             return FUNC;
3224
3225         case KEY_qq:
3226             s = scan_str(s);
3227             if (!s)
3228                 missingterm((char*)0);
3229             yylval.ival = OP_STRINGIFY;
3230             if (SvIVX(lex_stuff) == '\'')
3231                 SvIVX(lex_stuff) = 0;   /* qq'$foo' should intepolate */
3232             TERM(sublex_start());
3233
3234         case KEY_qx:
3235             s = scan_str(s);
3236             if (!s)
3237                 missingterm((char*)0);
3238             yylval.ival = OP_BACKTICK;
3239             set_csh();
3240             TERM(sublex_start());
3241
3242         case KEY_return:
3243             OLDLOP(OP_RETURN);
3244
3245         case KEY_require:
3246             *tokenbuf = '\0';
3247             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3248             if (isIDFIRST(*tokenbuf))
3249                 gv_stashpvn(tokenbuf, strlen(tokenbuf), TRUE);
3250             else if (*s == '<')
3251                 yyerror("<> should be quotes");
3252             UNI(OP_REQUIRE);
3253
3254         case KEY_reset:
3255             UNI(OP_RESET);
3256
3257         case KEY_redo:
3258             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3259             LOOPX(OP_REDO);
3260
3261         case KEY_rename:
3262             LOP(OP_RENAME,XTERM);
3263
3264         case KEY_rand:
3265             UNI(OP_RAND);
3266
3267         case KEY_rmdir:
3268             UNI(OP_RMDIR);
3269
3270         case KEY_rindex:
3271             LOP(OP_RINDEX,XTERM);
3272
3273         case KEY_read:
3274             LOP(OP_READ,XTERM);
3275
3276         case KEY_readdir:
3277             UNI(OP_READDIR);
3278
3279         case KEY_readline:
3280             set_csh();
3281             UNI(OP_READLINE);
3282
3283         case KEY_readpipe:
3284             set_csh();
3285             UNI(OP_BACKTICK);
3286
3287         case KEY_rewinddir:
3288             UNI(OP_REWINDDIR);
3289
3290         case KEY_recv:
3291             LOP(OP_RECV,XTERM);
3292
3293         case KEY_reverse:
3294             LOP(OP_REVERSE,XTERM);
3295
3296         case KEY_readlink:
3297             UNI(OP_READLINK);
3298
3299         case KEY_ref:
3300             UNI(OP_REF);
3301
3302         case KEY_s:
3303             s = scan_subst(s);
3304             if (yylval.opval)
3305                 TERM(sublex_start());
3306             else
3307                 TOKEN(1);       /* force error */
3308
3309         case KEY_chomp:
3310             UNI(OP_CHOMP);
3311
3312         case KEY_scalar:
3313             UNI(OP_SCALAR);
3314
3315         case KEY_select:
3316             LOP(OP_SELECT,XTERM);
3317
3318         case KEY_seek:
3319             LOP(OP_SEEK,XTERM);
3320
3321         case KEY_semctl:
3322             LOP(OP_SEMCTL,XTERM);
3323
3324         case KEY_semget:
3325             LOP(OP_SEMGET,XTERM);
3326
3327         case KEY_semop:
3328             LOP(OP_SEMOP,XTERM);
3329
3330         case KEY_send:
3331             LOP(OP_SEND,XTERM);
3332
3333         case KEY_setpgrp:
3334             LOP(OP_SETPGRP,XTERM);
3335
3336         case KEY_setpriority:
3337             LOP(OP_SETPRIORITY,XTERM);
3338
3339         case KEY_sethostent:
3340             UNI(OP_SHOSTENT);
3341
3342         case KEY_setnetent:
3343             UNI(OP_SNETENT);
3344
3345         case KEY_setservent:
3346             UNI(OP_SSERVENT);
3347
3348         case KEY_setprotoent:
3349             UNI(OP_SPROTOENT);
3350
3351         case KEY_setpwent:
3352             FUN0(OP_SPWENT);
3353
3354         case KEY_setgrent:
3355             FUN0(OP_SGRENT);
3356
3357         case KEY_seekdir:
3358             LOP(OP_SEEKDIR,XTERM);
3359
3360         case KEY_setsockopt:
3361             LOP(OP_SSOCKOPT,XTERM);
3362
3363         case KEY_shift:
3364             UNI(OP_SHIFT);
3365
3366         case KEY_shmctl:
3367             LOP(OP_SHMCTL,XTERM);
3368
3369         case KEY_shmget:
3370             LOP(OP_SHMGET,XTERM);
3371
3372         case KEY_shmread:
3373             LOP(OP_SHMREAD,XTERM);
3374
3375         case KEY_shmwrite:
3376             LOP(OP_SHMWRITE,XTERM);
3377
3378         case KEY_shutdown:
3379             LOP(OP_SHUTDOWN,XTERM);
3380
3381         case KEY_sin:
3382             UNI(OP_SIN);
3383
3384         case KEY_sleep:
3385             UNI(OP_SLEEP);
3386
3387         case KEY_socket:
3388             LOP(OP_SOCKET,XTERM);
3389
3390         case KEY_socketpair:
3391             LOP(OP_SOCKPAIR,XTERM);
3392
3393         case KEY_sort:
3394             checkcomma(s,tokenbuf,"subroutine name");
3395             s = skipspace(s);
3396             if (*s == ';' || *s == ')')         /* probably a close */
3397                 croak("sort is now a reserved word");
3398             expect = XTERM;
3399             s = force_word(s,WORD,TRUE,TRUE,TRUE);
3400             LOP(OP_SORT,XREF);
3401
3402         case KEY_split:
3403             LOP(OP_SPLIT,XTERM);
3404
3405         case KEY_sprintf:
3406             LOP(OP_SPRINTF,XTERM);
3407
3408         case KEY_splice:
3409             LOP(OP_SPLICE,XTERM);
3410
3411         case KEY_sqrt:
3412             UNI(OP_SQRT);
3413
3414         case KEY_srand:
3415             UNI(OP_SRAND);
3416
3417         case KEY_stat:
3418             UNI(OP_STAT);
3419
3420         case KEY_study:
3421             sawstudy++;
3422             UNI(OP_STUDY);
3423
3424         case KEY_substr:
3425             LOP(OP_SUBSTR,XTERM);
3426
3427         case KEY_format:
3428         case KEY_sub:
3429           really_sub:
3430             s = skipspace(s);
3431
3432             if (isIDFIRST(*s) || *s == '\'' || *s == ':') {
3433                 char tmpbuf[128];
3434                 expect = XBLOCK;
3435                 d = scan_word(s, tmpbuf, TRUE, &len);
3436                 if (strchr(tmpbuf, ':'))
3437                     sv_setpv(subname, tmpbuf);
3438                 else {
3439                     sv_setsv(subname,curstname);
3440                     sv_catpvn(subname,"::",2);
3441                     sv_catpvn(subname,tmpbuf,len);
3442                 }
3443                 s = force_word(s,WORD,FALSE,TRUE,TRUE);
3444                 s = skipspace(s);
3445             }
3446             else {
3447                 expect = XTERMBLOCK;
3448                 sv_setpv(subname,"?");
3449             }
3450
3451             if (tmp == KEY_format) {
3452                 s = skipspace(s);
3453                 if (*s == '=')
3454                     lex_formbrack = lex_brackets + 1;
3455                 OPERATOR(FORMAT);
3456             }
3457
3458             /* Look for a prototype */
3459             if (*s == '(') {
3460                 char *p;
3461
3462                 s = scan_str(s);
3463                 if (!s) {
3464                     if (lex_stuff)
3465                         SvREFCNT_dec(lex_stuff);
3466                     lex_stuff = Nullsv;
3467                     croak("Prototype not terminated");
3468                 }
3469                 /* strip spaces */
3470                 d = SvPVX(lex_stuff);
3471                 tmp = 0;
3472                 for (p = d; *p; ++p) {
3473                     if (!isSPACE(*p))
3474                         d[tmp++] = *p;
3475                 }
3476                 d[tmp] = '\0';
3477                 SvCUR(lex_stuff) = tmp;
3478
3479                 nexttoke++;
3480                 nextval[1] = nextval[0];
3481                 nexttype[1] = nexttype[0];
3482                 nextval[0].opval = (OP*)newSVOP(OP_CONST, 0, lex_stuff);
3483                 nexttype[0] = THING;
3484                 if (nexttoke == 1) {
3485                     lex_defer = lex_state;
3486                     lex_expect = expect;
3487                     lex_state = LEX_KNOWNEXT;
3488                 }
3489                 lex_stuff = Nullsv;
3490             }
3491
3492             if (*SvPV(subname,na) == '?') {
3493                 sv_setpv(subname,"__ANON__");
3494                 TOKEN(ANONSUB);
3495             }
3496             PREBLOCK(SUB);
3497
3498         case KEY_system:
3499             set_csh();
3500             LOP(OP_SYSTEM,XREF);
3501
3502         case KEY_symlink:
3503             LOP(OP_SYMLINK,XTERM);
3504
3505         case KEY_syscall:
3506             LOP(OP_SYSCALL,XTERM);
3507
3508         case KEY_sysopen:
3509             LOP(OP_SYSOPEN,XTERM);
3510
3511         case KEY_sysread:
3512             LOP(OP_SYSREAD,XTERM);
3513
3514         case KEY_syswrite:
3515             LOP(OP_SYSWRITE,XTERM);
3516
3517         case KEY_tr:
3518             s = scan_trans(s);
3519             TERM(sublex_start());
3520
3521         case KEY_tell:
3522             UNI(OP_TELL);
3523
3524         case KEY_telldir:
3525             UNI(OP_TELLDIR);
3526
3527         case KEY_tie:
3528             LOP(OP_TIE,XTERM);
3529
3530         case KEY_tied:
3531             UNI(OP_TIED);
3532
3533         case KEY_time:
3534             FUN0(OP_TIME);
3535
3536         case KEY_times:
3537             FUN0(OP_TMS);
3538
3539         case KEY_truncate:
3540             LOP(OP_TRUNCATE,XTERM);
3541
3542         case KEY_uc:
3543             UNI(OP_UC);
3544
3545         case KEY_ucfirst:
3546             UNI(OP_UCFIRST);
3547
3548         case KEY_untie:
3549             UNI(OP_UNTIE);
3550
3551         case KEY_until:
3552             yylval.ival = curcop->cop_line;
3553             OPERATOR(UNTIL);
3554
3555         case KEY_unless:
3556             yylval.ival = curcop->cop_line;
3557             OPERATOR(UNLESS);
3558
3559         case KEY_unlink:
3560             LOP(OP_UNLINK,XTERM);
3561
3562         case KEY_undef:
3563             UNI(OP_UNDEF);
3564
3565         case KEY_unpack:
3566             LOP(OP_UNPACK,XTERM);
3567
3568         case KEY_utime:
3569             LOP(OP_UTIME,XTERM);
3570
3571         case KEY_umask:
3572             if (dowarn) {
3573                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
3574                 if (*d != '0' && isDIGIT(*d))
3575                     yywarn("umask: argument is missing initial 0");
3576             }
3577             UNI(OP_UMASK);
3578
3579         case KEY_unshift:
3580             LOP(OP_UNSHIFT,XTERM);
3581
3582         case KEY_use:
3583             if (expect != XSTATE)
3584                 yyerror("\"use\" not allowed in expression");
3585             s = skipspace(s);
3586             if(isDIGIT(*s)) {
3587                 s = force_version(s);
3588                 if(*s == ';' || (s = skipspace(s), *s == ';')) {
3589                     nextval[nexttoke].opval = Nullop;
3590                     force_next(WORD);
3591                 }
3592             }
3593             else {
3594                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
3595                 s = force_version(s);
3596             }
3597             yylval.ival = 1;
3598             OPERATOR(USE);
3599
3600         case KEY_values:
3601             UNI(OP_VALUES);
3602
3603         case KEY_vec:
3604             sawvec = TRUE;
3605             LOP(OP_VEC,XTERM);
3606
3607         case KEY_while:
3608             yylval.ival = curcop->cop_line;
3609             OPERATOR(WHILE);
3610
3611         case KEY_warn:
3612             hints |= HINT_BLOCK_SCOPE;
3613             LOP(OP_WARN,XTERM);
3614
3615         case KEY_wait:
3616             FUN0(OP_WAIT);
3617
3618         case KEY_waitpid:
3619             LOP(OP_WAITPID,XTERM);
3620
3621         case KEY_wantarray:
3622             FUN0(OP_WANTARRAY);
3623
3624         case KEY_write:
3625             gv_fetchpv("\f",TRUE, SVt_PV);      /* Make sure $^L is defined */
3626             UNI(OP_ENTERWRITE);
3627
3628         case KEY_x:
3629             if (expect == XOPERATOR)
3630                 Mop(OP_REPEAT);
3631             check_uni();
3632             goto just_a_word;
3633
3634         case KEY_xor:
3635             yylval.ival = OP_XOR;
3636             OPERATOR(OROP);
3637
3638         case KEY_y:
3639             s = scan_trans(s);
3640             TERM(sublex_start());
3641         }
3642     }
3643 }
3644
3645 I32
3646 keyword(d, len)
3647 register char *d;
3648 I32 len;
3649 {
3650     switch (*d) {
3651     case '_':
3652         if (d[1] == '_') {
3653             if (strEQ(d,"__FILE__"))            return -KEY___FILE__;
3654             if (strEQ(d,"__LINE__"))            return -KEY___LINE__;
3655             if (strEQ(d,"__PACKAGE__"))         return -KEY___PACKAGE__;
3656             if (strEQ(d,"__DATA__"))            return KEY___DATA__;
3657             if (strEQ(d,"__END__"))             return KEY___END__;
3658         }
3659         break;
3660     case 'A':
3661         if (strEQ(d,"AUTOLOAD"))                return KEY_AUTOLOAD;
3662         break;
3663     case 'a':
3664         switch (len) {
3665         case 3:
3666             if (strEQ(d,"and"))                 return -KEY_and;
3667             if (strEQ(d,"abs"))                 return -KEY_abs;
3668             break;
3669         case 5:
3670             if (strEQ(d,"alarm"))               return -KEY_alarm;
3671             if (strEQ(d,"atan2"))               return -KEY_atan2;
3672             break;
3673         case 6:
3674             if (strEQ(d,"accept"))              return -KEY_accept;
3675             break;
3676         }
3677         break;
3678     case 'B':
3679         if (strEQ(d,"BEGIN"))                   return KEY_BEGIN;
3680         break;
3681     case 'b':
3682         if (strEQ(d,"bless"))                   return -KEY_bless;
3683         if (strEQ(d,"bind"))                    return -KEY_bind;
3684         if (strEQ(d,"binmode"))                 return -KEY_binmode;
3685         break;
3686     case 'C':
3687         if (strEQ(d,"CORE"))                    return -KEY_CORE;
3688         break;
3689     case 'c':
3690         switch (len) {
3691         case 3:
3692             if (strEQ(d,"cmp"))                 return -KEY_cmp;
3693             if (strEQ(d,"chr"))                 return -KEY_chr;
3694             if (strEQ(d,"cos"))                 return -KEY_cos;
3695             break;
3696         case 4:
3697             if (strEQ(d,"chop"))                return KEY_chop;
3698             break;
3699         case 5:
3700             if (strEQ(d,"close"))               return -KEY_close;
3701             if (strEQ(d,"chdir"))               return -KEY_chdir;
3702             if (strEQ(d,"chomp"))               return KEY_chomp;
3703             if (strEQ(d,"chmod"))               return -KEY_chmod;
3704             if (strEQ(d,"chown"))               return -KEY_chown;
3705             if (strEQ(d,"crypt"))               return -KEY_crypt;
3706             break;
3707         case 6:
3708             if (strEQ(d,"chroot"))              return -KEY_chroot;
3709             if (strEQ(d,"caller"))              return -KEY_caller;
3710             break;
3711         case 7:
3712             if (strEQ(d,"connect"))             return -KEY_connect;
3713             break;
3714         case 8:
3715             if (strEQ(d,"closedir"))            return -KEY_closedir;
3716             if (strEQ(d,"continue"))            return -KEY_continue;
3717             break;
3718         }
3719         break;
3720     case 'D':
3721         if (strEQ(d,"DESTROY"))                 return KEY_DESTROY;
3722         break;
3723     case 'd':
3724         switch (len) {
3725         case 2:
3726             if (strEQ(d,"do"))                  return KEY_do;
3727             break;
3728         case 3:
3729             if (strEQ(d,"die"))                 return -KEY_die;
3730             break;
3731         case 4:
3732             if (strEQ(d,"dump"))                return -KEY_dump;
3733             break;
3734         case 6:
3735             if (strEQ(d,"delete"))              return KEY_delete;
3736             break;
3737         case 7:
3738             if (strEQ(d,"defined"))             return KEY_defined;
3739             if (strEQ(d,"dbmopen"))             return -KEY_dbmopen;
3740             break;
3741         case 8:
3742             if (strEQ(d,"dbmclose"))            return -KEY_dbmclose;
3743             break;
3744         }
3745         break;
3746     case 'E':
3747         if (strEQ(d,"EQ")) { deprecate(d);      return -KEY_eq;}
3748         if (strEQ(d,"END"))                     return KEY_END;
3749         break;
3750     case 'e':
3751         switch (len) {
3752         case 2:
3753             if (strEQ(d,"eq"))                  return -KEY_eq;
3754             break;
3755         case 3:
3756             if (strEQ(d,"eof"))                 return -KEY_eof;
3757             if (strEQ(d,"exp"))                 return -KEY_exp;
3758             break;
3759         case 4:
3760             if (strEQ(d,"else"))                return KEY_else;
3761             if (strEQ(d,"exit"))                return -KEY_exit;
3762             if (strEQ(d,"eval"))                return KEY_eval;
3763             if (strEQ(d,"exec"))                return -KEY_exec;
3764             if (strEQ(d,"each"))                return KEY_each;
3765             break;
3766         case 5:
3767             if (strEQ(d,"elsif"))               return KEY_elsif;
3768             break;
3769         case 6:
3770             if (strEQ(d,"exists"))              return KEY_exists;
3771             if (strEQ(d,"elseif")) warn("elseif should be elsif");
3772             break;
3773         case 8:
3774             if (strEQ(d,"endgrent"))            return -KEY_endgrent;
3775             if (strEQ(d,"endpwent"))            return -KEY_endpwent;
3776             break;
3777         case 9:
3778             if (strEQ(d,"endnetent"))           return -KEY_endnetent;
3779             break;
3780         case 10:
3781             if (strEQ(d,"endhostent"))          return -KEY_endhostent;
3782             if (strEQ(d,"endservent"))          return -KEY_endservent;
3783             break;
3784         case 11:
3785             if (strEQ(d,"endprotoent"))         return -KEY_endprotoent;
3786             break;
3787         }
3788         break;
3789     case 'f':
3790         switch (len) {
3791         case 3:
3792             if (strEQ(d,"for"))                 return KEY_for;
3793             break;
3794         case 4:
3795             if (strEQ(d,"fork"))                return -KEY_fork;
3796             break;
3797         case 5:
3798             if (strEQ(d,"fcntl"))               return -KEY_fcntl;
3799             if (strEQ(d,"flock"))               return -KEY_flock;
3800             break;
3801         case 6:
3802             if (strEQ(d,"format"))              return KEY_format;
3803             if (strEQ(d,"fileno"))              return -KEY_fileno;
3804             break;
3805         case 7:
3806             if (strEQ(d,"foreach"))             return KEY_foreach;
3807             break;
3808         case 8:
3809             if (strEQ(d,"formline"))            return -KEY_formline;
3810             break;
3811         }
3812         break;
3813     case 'G':
3814         if (len == 2) {
3815             if (strEQ(d,"GT")) { deprecate(d);  return -KEY_gt;}
3816             if (strEQ(d,"GE")) { deprecate(d);  return -KEY_ge;}
3817         }
3818         break;
3819     case 'g':
3820         if (strnEQ(d,"get",3)) {
3821             d += 3;
3822             if (*d == 'p') {
3823                 switch (len) {
3824                 case 7:
3825                     if (strEQ(d,"ppid"))        return -KEY_getppid;
3826                     if (strEQ(d,"pgrp"))        return -KEY_getpgrp;
3827                     break;
3828                 case 8:
3829                     if (strEQ(d,"pwent"))       return -KEY_getpwent;
3830                     if (strEQ(d,"pwnam"))       return -KEY_getpwnam;
3831                     if (strEQ(d,"pwuid"))       return -KEY_getpwuid;
3832                     break;
3833                 case 11:
3834                     if (strEQ(d,"peername"))    return -KEY_getpeername;
3835                     if (strEQ(d,"protoent"))    return -KEY_getprotoent;
3836                     if (strEQ(d,"priority"))    return -KEY_getpriority;
3837                     break;
3838                 case 14:
3839                     if (strEQ(d,"protobyname")) return -KEY_getprotobyname;
3840                     break;
3841                 case 16:
3842                     if (strEQ(d,"protobynumber"))return -KEY_getprotobynumber;
3843                     break;
3844                 }
3845             }
3846             else if (*d == 'h') {
3847                 if (strEQ(d,"hostbyname"))      return -KEY_gethostbyname;
3848                 if (strEQ(d,"hostbyaddr"))      return -KEY_gethostbyaddr;
3849                 if (strEQ(d,"hostent"))         return -KEY_gethostent;
3850             }
3851             else if (*d == 'n') {
3852                 if (strEQ(d,"netbyname"))       return -KEY_getnetbyname;
3853                 if (strEQ(d,"netbyaddr"))       return -KEY_getnetbyaddr;
3854                 if (strEQ(d,"netent"))          return -KEY_getnetent;
3855             }
3856             else if (*d == 's') {
3857                 if (strEQ(d,"servbyname"))      return -KEY_getservbyname;
3858                 if (strEQ(d,"servbyport"))      return -KEY_getservbyport;
3859                 if (strEQ(d,"servent"))         return -KEY_getservent;
3860                 if (strEQ(d,"sockname"))        return -KEY_getsockname;
3861                 if (strEQ(d,"sockopt"))         return -KEY_getsockopt;
3862             }
3863             else if (*d == 'g') {
3864                 if (strEQ(d,"grent"))           return -KEY_getgrent;
3865                 if (strEQ(d,"grnam"))           return -KEY_getgrnam;
3866                 if (strEQ(d,"grgid"))           return -KEY_getgrgid;
3867             }
3868             else if (*d == 'l') {
3869                 if (strEQ(d,"login"))           return -KEY_getlogin;
3870             }
3871             else if (strEQ(d,"c"))              return -KEY_getc;
3872             break;
3873         }
3874         switch (len) {
3875         case 2:
3876             if (strEQ(d,"gt"))                  return -KEY_gt;
3877             if (strEQ(d,"ge"))                  return -KEY_ge;
3878             break;
3879         case 4:
3880             if (strEQ(d,"grep"))                return KEY_grep;
3881             if (strEQ(d,"goto"))                return KEY_goto;
3882             if (strEQ(d,"glob"))                return -KEY_glob;
3883             break;
3884         case 6:
3885             if (strEQ(d,"gmtime"))              return -KEY_gmtime;
3886             break;
3887         }
3888         break;
3889     case 'h':
3890         if (strEQ(d,"hex"))                     return -KEY_hex;
3891         break;
3892     case 'i':
3893         switch (len) {
3894         case 2:
3895             if (strEQ(d,"if"))                  return KEY_if;
3896             break;
3897         case 3:
3898             if (strEQ(d,"int"))                 return -KEY_int;
3899             break;
3900         case 5:
3901             if (strEQ(d,"index"))               return -KEY_index;
3902             if (strEQ(d,"ioctl"))               return -KEY_ioctl;
3903             break;
3904         }
3905         break;
3906     case 'j':
3907         if (strEQ(d,"join"))                    return -KEY_join;
3908         break;
3909     case 'k':
3910         if (len == 4) {
3911             if (strEQ(d,"keys"))                return KEY_keys;
3912             if (strEQ(d,"kill"))                return -KEY_kill;
3913         }
3914         break;
3915     case 'L':
3916         if (len == 2) {
3917             if (strEQ(d,"LT")) { deprecate(d);  return -KEY_lt;}
3918             if (strEQ(d,"LE")) { deprecate(d);  return -KEY_le;}
3919         }
3920         break;
3921     case 'l':
3922         switch (len) {
3923         case 2:
3924             if (strEQ(d,"lt"))                  return -KEY_lt;
3925             if (strEQ(d,"le"))                  return -KEY_le;
3926             if (strEQ(d,"lc"))                  return -KEY_lc;
3927             break;
3928         case 3:
3929             if (strEQ(d,"log"))                 return -KEY_log;
3930             break;
3931         case 4:
3932             if (strEQ(d,"last"))                return KEY_last;
3933             if (strEQ(d,"link"))                return -KEY_link;
3934             break;
3935         case 5:
3936             if (strEQ(d,"local"))               return KEY_local;
3937             if (strEQ(d,"lstat"))               return -KEY_lstat;
3938             break;
3939         case 6:
3940             if (strEQ(d,"length"))              return -KEY_length;
3941             if (strEQ(d,"listen"))              return -KEY_listen;
3942             break;
3943         case 7:
3944             if (strEQ(d,"lcfirst"))             return -KEY_lcfirst;
3945             break;
3946         case 9:
3947             if (strEQ(d,"localtime"))           return -KEY_localtime;
3948             break;
3949         }
3950         break;
3951     case 'm':
3952         switch (len) {
3953         case 1:                                 return KEY_m;
3954         case 2:
3955             if (strEQ(d,"my"))                  return KEY_my;
3956             break;
3957         case 3:
3958             if (strEQ(d,"map"))                 return KEY_map;
3959             break;
3960         case 5:
3961             if (strEQ(d,"mkdir"))               return -KEY_mkdir;
3962             break;
3963         case 6:
3964             if (strEQ(d,"msgctl"))              return -KEY_msgctl;
3965             if (strEQ(d,"msgget"))              return -KEY_msgget;
3966             if (strEQ(d,"msgrcv"))              return -KEY_msgrcv;
3967             if (strEQ(d,"msgsnd"))              return -KEY_msgsnd;
3968             break;
3969         }
3970         break;
3971     case 'N':
3972         if (strEQ(d,"NE")) { deprecate(d);      return -KEY_ne;}
3973         break;
3974     case 'n':
3975         if (strEQ(d,"next"))                    return KEY_next;
3976         if (strEQ(d,"ne"))                      return -KEY_ne;
3977         if (strEQ(d,"not"))                     return -KEY_not;
3978         if (strEQ(d,"no"))                      return KEY_no;
3979         break;
3980     case 'o':
3981         switch (len) {
3982         case 2:
3983             if (strEQ(d,"or"))                  return -KEY_or;
3984             break;
3985         case 3:
3986             if (strEQ(d,"ord"))                 return -KEY_ord;
3987             if (strEQ(d,"oct"))                 return -KEY_oct;
3988             break;
3989         case 4:
3990             if (strEQ(d,"open"))                return -KEY_open;
3991             break;
3992         case 7:
3993             if (strEQ(d,"opendir"))             return -KEY_opendir;
3994             break;
3995         }
3996         break;
3997     case 'p':
3998         switch (len) {
3999         case 3:
4000             if (strEQ(d,"pop"))                 return KEY_pop;
4001             if (strEQ(d,"pos"))                 return KEY_pos;
4002             break;
4003         case 4:
4004             if (strEQ(d,"push"))                return KEY_push;
4005             if (strEQ(d,"pack"))                return -KEY_pack;
4006             if (strEQ(d,"pipe"))                return -KEY_pipe;
4007             break;
4008         case 5:
4009             if (strEQ(d,"print"))               return KEY_print;
4010             break;
4011         case 6:
4012             if (strEQ(d,"printf"))              return KEY_printf;
4013             break;
4014         case 7:
4015             if (strEQ(d,"package"))             return KEY_package;
4016             break;
4017         case 9:
4018             if (strEQ(d,"prototype"))           return KEY_prototype;
4019         }
4020         break;
4021     case 'q':
4022         if (len <= 2) {
4023             if (strEQ(d,"q"))                   return KEY_q;
4024             if (strEQ(d,"qq"))                  return KEY_qq;
4025             if (strEQ(d,"qw"))                  return KEY_qw;
4026             if (strEQ(d,"qx"))                  return KEY_qx;
4027         }
4028         else if (strEQ(d,"quotemeta"))          return -KEY_quotemeta;
4029         break;
4030     case 'r':
4031         switch (len) {
4032         case 3:
4033             if (strEQ(d,"ref"))                 return -KEY_ref;
4034             break;
4035         case 4:
4036             if (strEQ(d,"read"))                return -KEY_read;
4037             if (strEQ(d,"rand"))                return -KEY_rand;
4038             if (strEQ(d,"recv"))                return -KEY_recv;
4039             if (strEQ(d,"redo"))                return KEY_redo;
4040             break;
4041         case 5:
4042             if (strEQ(d,"rmdir"))               return -KEY_rmdir;
4043             if (strEQ(d,"reset"))               return -KEY_reset;
4044             break;
4045         case 6:
4046             if (strEQ(d,"return"))              return KEY_return;
4047             if (strEQ(d,"rename"))              return -KEY_rename;
4048             if (strEQ(d,"rindex"))              return -KEY_rindex;
4049             break;
4050         case 7:
4051             if (strEQ(d,"require"))             return -KEY_require;
4052             if (strEQ(d,"reverse"))             return -KEY_reverse;
4053             if (strEQ(d,"readdir"))             return -KEY_readdir;
4054             break;
4055         case 8:
4056             if (strEQ(d,"readlink"))            return -KEY_readlink;
4057             if (strEQ(d,"readline"))            return -KEY_readline;
4058             if (strEQ(d,"readpipe"))            return -KEY_readpipe;
4059             break;
4060         case 9:
4061             if (strEQ(d,"rewinddir"))           return -KEY_rewinddir;
4062             break;
4063         }
4064         break;
4065     case 's':
4066         switch (d[1]) {
4067         case 0:                                 return KEY_s;
4068         case 'c':
4069             if (strEQ(d,"scalar"))              return KEY_scalar;
4070             break;
4071         case 'e':
4072             switch (len) {
4073             case 4:
4074                 if (strEQ(d,"seek"))            return -KEY_seek;
4075                 if (strEQ(d,"send"))            return -KEY_send;
4076                 break;
4077             case 5:
4078                 if (strEQ(d,"semop"))           return -KEY_semop;
4079                 break;
4080             case 6:
4081                 if (strEQ(d,"select"))          return -KEY_select;
4082                 if (strEQ(d,"semctl"))          return -KEY_semctl;
4083                 if (strEQ(d,"semget"))          return -KEY_semget;
4084                 break;
4085             case 7:
4086                 if (strEQ(d,"setpgrp"))         return -KEY_setpgrp;
4087                 if (strEQ(d,"seekdir"))         return -KEY_seekdir;
4088                 break;
4089             case 8:
4090                 if (strEQ(d,"setpwent"))        return -KEY_setpwent;
4091                 if (strEQ(d,"setgrent"))        return -KEY_setgrent;
4092                 break;
4093             case 9:
4094                 if (strEQ(d,"setnetent"))       return -KEY_setnetent;
4095                 break;
4096             case 10:
4097                 if (strEQ(d,"setsockopt"))      return -KEY_setsockopt;
4098                 if (strEQ(d,"sethostent"))      return -KEY_sethostent;
4099                 if (strEQ(d,"setservent"))      return -KEY_setservent;
4100                 break;
4101             case 11:
4102                 if (strEQ(d,"setpriority"))     return -KEY_setpriority;
4103                 if (strEQ(d,"setprotoent"))     return -KEY_setprotoent;
4104                 break;
4105             }
4106             break;
4107         case 'h':
4108             switch (len) {
4109             case 5:
4110                 if (strEQ(d,"shift"))           return KEY_shift;
4111                 break;
4112             case 6:
4113                 if (strEQ(d,"shmctl"))          return -KEY_shmctl;
4114                 if (strEQ(d,"shmget"))          return -KEY_shmget;
4115                 break;
4116             case 7:
4117                 if (strEQ(d,"shmread"))         return -KEY_shmread;
4118                 break;
4119             case 8:
4120                 if (strEQ(d,"shmwrite"))        return -KEY_shmwrite;
4121                 if (strEQ(d,"shutdown"))        return -KEY_shutdown;
4122                 break;
4123             }
4124             break;
4125         case 'i':
4126             if (strEQ(d,"sin"))                 return -KEY_sin;
4127             break;
4128         case 'l':
4129             if (strEQ(d,"sleep"))               return -KEY_sleep;
4130             break;
4131         case 'o':
4132             if (strEQ(d,"sort"))                return KEY_sort;
4133             if (strEQ(d,"socket"))              return -KEY_socket;
4134             if (strEQ(d,"socketpair"))          return -KEY_socketpair;
4135             break;
4136         case 'p':
4137             if (strEQ(d,"split"))               return KEY_split;
4138             if (strEQ(d,"sprintf"))             return -KEY_sprintf;
4139             if (strEQ(d,"splice"))              return KEY_splice;
4140             break;
4141         case 'q':
4142             if (strEQ(d,"sqrt"))                return -KEY_sqrt;
4143             break;
4144         case 'r':
4145             if (strEQ(d,"srand"))               return -KEY_srand;
4146             break;
4147         case 't':
4148             if (strEQ(d,"stat"))                return -KEY_stat;
4149             if (strEQ(d,"study"))               return KEY_study;
4150             break;
4151         case 'u':
4152             if (strEQ(d,"substr"))              return -KEY_substr;
4153             if (strEQ(d,"sub"))                 return KEY_sub;
4154             break;
4155         case 'y':
4156             switch (len) {
4157             case 6:
4158                 if (strEQ(d,"system"))          return -KEY_system;
4159                 break;
4160             case 7:
4161                 if (strEQ(d,"sysopen"))         return -KEY_sysopen;
4162                 if (strEQ(d,"sysread"))         return -KEY_sysread;
4163                 if (strEQ(d,"symlink"))         return -KEY_symlink;
4164                 if (strEQ(d,"syscall"))         return -KEY_syscall;
4165                 break;
4166             case 8:
4167                 if (strEQ(d,"syswrite"))        return -KEY_syswrite;
4168                 break;
4169             }
4170             break;
4171         }
4172         break;
4173     case 't':
4174         switch (len) {
4175         case 2:
4176             if (strEQ(d,"tr"))                  return KEY_tr;
4177             break;
4178         case 3:
4179             if (strEQ(d,"tie"))                 return KEY_tie;
4180             break;
4181         case 4:
4182             if (strEQ(d,"tell"))                return -KEY_tell;
4183             if (strEQ(d,"tied"))                return KEY_tied;
4184             if (strEQ(d,"time"))                return -KEY_time;
4185             break;
4186         case 5:
4187             if (strEQ(d,"times"))               return -KEY_times;
4188             break;
4189         case 7:
4190             if (strEQ(d,"telldir"))             return -KEY_telldir;
4191             break;
4192         case 8:
4193             if (strEQ(d,"truncate"))            return -KEY_truncate;
4194             break;
4195         }
4196         break;
4197     case 'u':
4198         switch (len) {
4199         case 2:
4200             if (strEQ(d,"uc"))                  return -KEY_uc;
4201             break;
4202         case 3:
4203             if (strEQ(d,"use"))                 return KEY_use;
4204             break;
4205         case 5:
4206             if (strEQ(d,"undef"))               return KEY_undef;
4207             if (strEQ(d,"until"))               return KEY_until;
4208             if (strEQ(d,"untie"))               return KEY_untie;
4209             if (strEQ(d,"utime"))               return -KEY_utime;
4210             if (strEQ(d,"umask"))               return -KEY_umask;
4211             break;
4212         case 6:
4213             if (strEQ(d,"unless"))              return KEY_unless;
4214             if (strEQ(d,"unpack"))              return -KEY_unpack;
4215             if (strEQ(d,"unlink"))              return -KEY_unlink;
4216             break;
4217         case 7:
4218             if (strEQ(d,"unshift"))             return KEY_unshift;
4219             if (strEQ(d,"ucfirst"))             return -KEY_ucfirst;
4220             break;
4221         }
4222         break;
4223     case 'v':
4224         if (strEQ(d,"values"))                  return -KEY_values;
4225         if (strEQ(d,"vec"))                     return -KEY_vec;
4226         break;
4227     case 'w':
4228         switch (len) {
4229         case 4:
4230             if (strEQ(d,"warn"))                return -KEY_warn;
4231             if (strEQ(d,"wait"))                return -KEY_wait;
4232             break;
4233         case 5:
4234             if (strEQ(d,"while"))               return KEY_while;
4235             if (strEQ(d,"write"))               return -KEY_write;
4236             break;
4237         case 7:
4238             if (strEQ(d,"waitpid"))             return -KEY_waitpid;
4239             break;
4240         case 9:
4241             if (strEQ(d,"wantarray"))           return -KEY_wantarray;
4242             break;
4243         }
4244         break;
4245     case 'x':
4246         if (len == 1)                           return -KEY_x;
4247         if (strEQ(d,"xor"))                     return -KEY_xor;
4248         break;
4249     case 'y':
4250         if (len == 1)                           return KEY_y;
4251         break;
4252     case 'z':
4253         break;
4254     }
4255     return 0;
4256 }
4257
4258 static void
4259 checkcomma(s,name,what)
4260 register char *s;
4261 char *name;
4262 char *what;
4263 {
4264     char *w;
4265
4266     if (dowarn && *s == ' ' && s[1] == '(') {   /* XXX gotta be a better way */
4267         int level = 1;
4268         for (w = s+2; *w && level; w++) {
4269             if (*w == '(')
4270                 ++level;
4271             else if (*w == ')')
4272                 --level;
4273         }
4274         if (*w)
4275             for (; *w && isSPACE(*w); w++) ;
4276         if (!*w || !strchr(";|})]oa!=", *w))    /* an advisory hack only... */
4277             warn("%s (...) interpreted as function",name);
4278     }
4279     while (s < bufend && isSPACE(*s))
4280         s++;
4281     if (*s == '(')
4282         s++;
4283     while (s < bufend && isSPACE(*s))
4284         s++;
4285     if (isIDFIRST(*s)) {
4286         w = s++;
4287         while (isALNUM(*s))
4288             s++;
4289         while (s < bufend && isSPACE(*s))
4290             s++;
4291         if (*s == ',') {
4292             int kw;
4293             *s = '\0';
4294             kw = keyword(w, s - w) || perl_get_cv(w, FALSE) != 0;
4295             *s = ',';
4296             if (kw)
4297                 return;
4298             croak("No comma allowed after %s", what);
4299         }
4300     }
4301 }
4302
4303 static char *
4304 scan_word(s, dest, allow_package, slp)
4305 register char *s;
4306 char *dest;
4307 int allow_package;
4308 STRLEN *slp;
4309 {
4310     register char *d = dest;
4311     for (;;) {
4312         if (isALNUM(*s))
4313             *d++ = *s++;
4314         else if (*s == '\'' && allow_package && isIDFIRST(s[1])) {
4315             *d++ = ':';
4316             *d++ = ':';
4317             s++;
4318         }
4319         else if (*s == ':' && s[1] == ':' && allow_package && isIDFIRST(s[2])) {
4320             *d++ = *s++;
4321             *d++ = *s++;
4322         }
4323         else {
4324             *d = '\0';
4325             *slp = d - dest;
4326             return s;
4327         }
4328     }
4329 }
4330
4331 static char *
4332 scan_ident(s,send,dest,ck_uni)
4333 register char *s;
4334 register char *send;
4335 char *dest;
4336 I32 ck_uni;
4337 {
4338     register char *d;
4339     char *bracket = 0;
4340     char funny = *s++;
4341
4342     if (lex_brackets == 0)
4343         lex_fakebrack = 0;
4344     if (isSPACE(*s))
4345         s = skipspace(s);
4346     d = dest;
4347     if (isDIGIT(*s)) {
4348         while (isDIGIT(*s))
4349             *d++ = *s++;
4350     }
4351     else {
4352         for (;;) {
4353             if (isALNUM(*s))
4354                 *d++ = *s++;
4355             else if (*s == '\'' && isIDFIRST(s[1])) {
4356                 *d++ = ':';
4357                 *d++ = ':';
4358                 s++;
4359             }
4360             else if (*s == ':' && s[1] == ':') {
4361                 *d++ = *s++;
4362                 *d++ = *s++;
4363             }
4364             else
4365                 break;
4366         }
4367     }
4368     *d = '\0';
4369     d = dest;
4370     if (*d) {
4371         if (lex_state != LEX_NORMAL)
4372             lex_state = LEX_INTERPENDMAYBE;
4373         return s;
4374     }
4375     if (*s == '$' && s[1] &&
4376       (isALNUM(s[1]) || strchr("${", s[1]) || strnEQ(s+1,"::",2)) )
4377         return s;
4378     if (*s == '{') {
4379         bracket = s;
4380         s++;
4381     }
4382     else if (ck_uni)
4383         check_uni();
4384     if (s < send)
4385         *d = *s++;
4386     d[1] = '\0';
4387     if (*d == '^' && *s && (isUPPER(*s) || strchr("[\\]^_?", *s))) {
4388         *d = toCTRL(*s);
4389         s++;
4390     }
4391     if (bracket) {
4392         if (isSPACE(s[-1])) {
4393             while (s < send) {
4394                 char ch = *s++;
4395                 if (ch != ' ' && ch != '\t') {
4396                     *d = ch;
4397                     break;
4398                 }
4399             }
4400         }
4401         if (isIDFIRST(*d)) {
4402             d++;
4403             while (isALNUM(*s) || *s == ':')
4404                 *d++ = *s++;
4405             *d = '\0';
4406             while (s < send && (*s == ' ' || *s == '\t')) s++;
4407             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
4408                 if (dowarn && keyword(dest, d - dest)) {
4409                     char *brack = *s == '[' ? "[...]" : "{...}";
4410                     warn("Ambiguous use of %c{%s%s} resolved to %c%s%s",
4411                         funny, dest, brack, funny, dest, brack);
4412                 }
4413                 lex_fakebrack = lex_brackets+1;
4414                 bracket++;
4415                 lex_brackstack[lex_brackets++] = XOPERATOR;
4416                 return s;
4417             }
4418         }
4419         if (*s == '}') {
4420             s++;
4421             if (lex_state == LEX_INTERPNORMAL && !lex_brackets)
4422                 lex_state = LEX_INTERPEND;
4423             if (funny == '#')
4424                 funny = '@';
4425             if (dowarn &&
4426               (keyword(dest, d - dest) || perl_get_cv(dest, FALSE)))
4427                 warn("Ambiguous use of %c{%s} resolved to %c%s",
4428                     funny, dest, funny, dest);
4429         }
4430         else {
4431             s = bracket;                /* let the parser handle it */
4432             *dest = '\0';
4433         }
4434     }
4435     else if (lex_state == LEX_INTERPNORMAL && !lex_brackets && !intuit_more(s))
4436         lex_state = LEX_INTERPEND;
4437     return s;
4438 }
4439
4440 void pmflag(pmfl,ch)
4441 U16* pmfl;
4442 int ch;
4443 {
4444     if (ch == 'i')
4445         *pmfl |= PMf_FOLD;
4446     else if (ch == 'g')
4447         *pmfl |= PMf_GLOBAL;
4448     else if (ch == 'o')
4449         *pmfl |= PMf_KEEP;
4450     else if (ch == 'm')
4451         *pmfl |= PMf_MULTILINE;
4452     else if (ch == 's')
4453         *pmfl |= PMf_SINGLELINE;
4454     else if (ch == 'x')
4455         *pmfl |= PMf_EXTENDED;
4456 }
4457
4458 static char *
4459 scan_pat(start)
4460 char *start;
4461 {
4462     PMOP *pm;
4463     char *s;
4464
4465     s = scan_str(start);
4466     if (!s) {
4467         if (lex_stuff)
4468             SvREFCNT_dec(lex_stuff);
4469         lex_stuff = Nullsv;
4470         croak("Search pattern not terminated");
4471     }
4472
4473     pm = (PMOP*)newPMOP(OP_MATCH, 0);
4474     if (multi_open == '?')
4475         pm->op_pmflags |= PMf_ONCE;
4476     while (*s && strchr("iogmsx", *s))
4477         pmflag(&pm->op_pmflags,*s++);
4478     pm->op_pmpermflags = pm->op_pmflags;
4479
4480     lex_op = (OP*)pm;
4481     yylval.ival = OP_MATCH;
4482     return s;
4483 }
4484
4485 static char *
4486 scan_subst(start)
4487 char *start;
4488 {
4489     register char *s;
4490     register PMOP *pm;
4491     I32 first_start;
4492     I32 es = 0;
4493
4494     yylval.ival = OP_NULL;
4495
4496     s = scan_str(start);
4497
4498     if (!s) {
4499         if (lex_stuff)
4500             SvREFCNT_dec(lex_stuff);
4501         lex_stuff = Nullsv;
4502         croak("Substitution pattern not terminated");
4503     }
4504
4505     if (s[-1] == multi_open)
4506         s--;
4507
4508     first_start = multi_start;
4509     s = scan_str(s);
4510     if (!s) {
4511         if (lex_stuff)
4512             SvREFCNT_dec(lex_stuff);
4513         lex_stuff = Nullsv;
4514         if (lex_repl)
4515             SvREFCNT_dec(lex_repl);
4516         lex_repl = Nullsv;
4517         croak("Substitution replacement not terminated");
4518     }
4519     multi_start = first_start;  /* so whole substitution is taken together */
4520
4521     pm = (PMOP*)newPMOP(OP_SUBST, 0);
4522     while (*s && strchr("iogmsex", *s)) {
4523         if (*s == 'e') {
4524             s++;
4525             es++;
4526         }
4527         else
4528             pmflag(&pm->op_pmflags,*s++);
4529     }
4530
4531     if (es) {
4532         SV *repl;
4533         pm->op_pmflags |= PMf_EVAL;
4534         repl = newSVpv("",0);
4535         while (es-- > 0)
4536             sv_catpv(repl, es ? "eval " : "do ");
4537         sv_catpvn(repl, "{ ", 2);
4538         sv_catsv(repl, lex_repl);
4539         sv_catpvn(repl, " };", 2);
4540         SvCOMPILED_on(repl);
4541         SvREFCNT_dec(lex_repl);
4542         lex_repl = repl;
4543     }
4544
4545     pm->op_pmpermflags = pm->op_pmflags;
4546     lex_op = (OP*)pm;
4547     yylval.ival = OP_SUBST;
4548     return s;
4549 }
4550
4551 void
4552 hoistmust(pm)
4553 register PMOP *pm;
4554 {
4555     if (!pm->op_pmshort && pm->op_pmregexp->regstart &&
4556         (!pm->op_pmregexp->regmust || pm->op_pmregexp->reganch & ROPT_ANCH)
4557        ) {
4558         if (!(pm->op_pmregexp->reganch & ROPT_ANCH))
4559             pm->op_pmflags |= PMf_SCANFIRST;
4560         pm->op_pmshort = SvREFCNT_inc(pm->op_pmregexp->regstart);
4561         pm->op_pmslen = SvCUR(pm->op_pmshort);
4562     }
4563     else if (pm->op_pmregexp->regmust) {/* is there a better short-circuit? */
4564         if (pm->op_pmshort &&
4565           sv_eq(pm->op_pmshort,pm->op_pmregexp->regmust))
4566         {
4567             if (pm->op_pmflags & PMf_SCANFIRST) {
4568                 SvREFCNT_dec(pm->op_pmshort);
4569                 pm->op_pmshort = Nullsv;
4570             }
4571             else {
4572                 SvREFCNT_dec(pm->op_pmregexp->regmust);
4573                 pm->op_pmregexp->regmust = Nullsv;
4574                 return;
4575             }
4576         }
4577         /* promote the better string */
4578         if ((!pm->op_pmshort && !(pm->op_pmregexp->reganch & ROPT_ANCH)) ||
4579             ((pm->op_pmflags & PMf_SCANFIRST) &&
4580              (SvCUR(pm->op_pmshort) < SvCUR(pm->op_pmregexp->regmust)))) {
4581             SvREFCNT_dec(pm->op_pmshort);               /* ok if null */
4582             pm->op_pmshort = pm->op_pmregexp->regmust;
4583             pm->op_pmslen = SvCUR(pm->op_pmshort);
4584             pm->op_pmregexp->regmust = Nullsv;
4585             pm->op_pmflags |= PMf_SCANFIRST;
4586         }
4587     }
4588 }
4589
4590 static char *
4591 scan_trans(start)
4592 char *start;
4593 {
4594     register char* s;
4595     OP *op;
4596     short *tbl;
4597     I32 squash;
4598     I32 delete;
4599     I32 complement;
4600
4601     yylval.ival = OP_NULL;
4602
4603     s = scan_str(start);
4604     if (!s) {
4605         if (lex_stuff)
4606             SvREFCNT_dec(lex_stuff);
4607         lex_stuff = Nullsv;
4608         croak("Translation pattern not terminated");
4609     }
4610     if (s[-1] == multi_open)
4611         s--;
4612
4613     s = scan_str(s);
4614     if (!s) {
4615         if (lex_stuff)
4616             SvREFCNT_dec(lex_stuff);
4617         lex_stuff = Nullsv;
4618         if (lex_repl)
4619             SvREFCNT_dec(lex_repl);
4620         lex_repl = Nullsv;
4621         croak("Translation replacement not terminated");
4622     }
4623
4624     New(803,tbl,256,short);
4625     op = newPVOP(OP_TRANS, 0, (char*)tbl);
4626
4627     complement = delete = squash = 0;
4628     while (*s == 'c' || *s == 'd' || *s == 's') {
4629         if (*s == 'c')
4630             complement = OPpTRANS_COMPLEMENT;
4631         else if (*s == 'd')
4632             delete = OPpTRANS_DELETE;
4633         else
4634             squash = OPpTRANS_SQUASH;
4635         s++;
4636     }
4637     op->op_private = delete|squash|complement;
4638
4639     lex_op = op;
4640     yylval.ival = OP_TRANS;
4641     return s;
4642 }
4643
4644 static char *
4645 scan_heredoc(s)
4646 register char *s;
4647 {
4648     SV *herewas;
4649     I32 op_type = OP_SCALAR;
4650     I32 len;
4651     SV *tmpstr;
4652     char term;
4653     register char *d;
4654     char *peek;
4655     int outer = (rsfp && !lex_inwhat);
4656
4657     s += 2;
4658     d = tokenbuf;
4659     if (!outer)
4660         *d++ = '\n';
4661     for (peek = s; *peek == ' ' || *peek == '\t'; peek++) ;
4662     if (*peek && strchr("`'\"",*peek)) {
4663         s = peek;
4664         term = *s++;
4665         s = cpytill(d,s,bufend,term,&len);
4666         if (s < bufend)
4667             s++;
4668         d += len;
4669     }
4670     else {
4671         if (*s == '\\')
4672             s++, term = '\'';
4673         else
4674             term = '"';
4675         if (!isALNUM(*s))
4676             deprecate("bare << to mean <<\"\"");
4677         while (isALNUM(*s))
4678             *d++ = *s++;
4679     }                           /* assuming tokenbuf won't clobber */
4680     *d++ = '\n';
4681     *d = '\0';
4682     len = d - tokenbuf;
4683     d = "\n";
4684     if (outer || !(d=ninstr(s,bufend,d,d+1)))
4685         herewas = newSVpv(s,bufend-s);
4686     else
4687         s--, herewas = newSVpv(s,d-s);
4688     s += SvCUR(herewas);
4689
4690     tmpstr = NEWSV(87,80);
4691     sv_upgrade(tmpstr, SVt_PVIV);
4692     if (term == '\'') {
4693         op_type = OP_CONST;
4694         SvIVX(tmpstr) = -1;
4695     }
4696     else if (term == '`') {
4697         op_type = OP_BACKTICK;
4698         SvIVX(tmpstr) = '\\';
4699     }
4700
4701     CLINE;
4702     multi_start = curcop->cop_line;
4703     multi_open = multi_close = '<';
4704     term = *tokenbuf;
4705     if (!outer) {
4706         d = s;
4707         while (s < bufend &&
4708           (*s != term || memNE(s,tokenbuf,len)) ) {
4709             if (*s++ == '\n')
4710                 curcop->cop_line++;
4711         }
4712         if (s >= bufend) {
4713             curcop->cop_line = multi_start;
4714             missingterm(tokenbuf);
4715         }
4716         sv_setpvn(tmpstr,d+1,s-d);
4717         s += len - 1;
4718         sv_catpvn(herewas,s,bufend-s);
4719         sv_setsv(linestr,herewas);
4720         oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
4721         bufend = SvPVX(linestr) + SvCUR(linestr);
4722     }
4723     else
4724         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
4725     while (s >= bufend) {       /* multiple line string? */
4726         if (!outer ||
4727          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4728             curcop->cop_line = multi_start;
4729             missingterm(tokenbuf);
4730         }
4731         curcop->cop_line++;
4732         if (perldb && curstash != debstash) {
4733             SV *sv = NEWSV(88,0);
4734
4735             sv_upgrade(sv, SVt_PVMG);
4736             sv_setsv(sv,linestr);
4737             av_store(GvAV(curcop->cop_filegv),
4738               (I32)curcop->cop_line,sv);
4739         }
4740         bufend = SvPVX(linestr) + SvCUR(linestr);
4741         if (*s == term && memEQ(s,tokenbuf,len)) {
4742             s = bufend - 1;
4743             *s = ' ';
4744             sv_catsv(linestr,herewas);
4745             bufend = SvPVX(linestr) + SvCUR(linestr);
4746         }
4747         else {
4748             s = bufend;
4749             sv_catsv(tmpstr,linestr);
4750         }
4751     }
4752     multi_end = curcop->cop_line;
4753     s++;
4754     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
4755         SvLEN_set(tmpstr, SvCUR(tmpstr) + 1);
4756         Renew(SvPVX(tmpstr), SvLEN(tmpstr), char);
4757     }
4758     SvREFCNT_dec(herewas);
4759     lex_stuff = tmpstr;
4760     yylval.ival = op_type;
4761     return s;
4762 }
4763
4764 static char *
4765 scan_inputsymbol(start)
4766 char *start;
4767 {
4768     register char *s = start;
4769     register char *d;
4770     I32 len;
4771
4772     d = tokenbuf;
4773     s = cpytill(d, s+1, bufend, '>', &len);
4774     if (s < bufend)
4775         s++;
4776     else
4777         croak("Unterminated <> operator");
4778
4779     if (*d == '$' && d[1]) d++;
4780     while (*d && (isALNUM(*d) || *d == '\'' || *d == ':'))
4781         d++;
4782     if (d - tokenbuf != len) {
4783         yylval.ival = OP_GLOB;
4784         set_csh();
4785         s = scan_str(start);
4786         if (!s)
4787             croak("Glob not terminated");
4788         return s;
4789     }
4790     else {
4791         d = tokenbuf;
4792         if (!len)
4793             (void)strcpy(d,"ARGV");
4794         if (*d == '$') {
4795             I32 tmp;
4796             if (tmp = pad_findmy(d)) {
4797                 OP *op = newOP(OP_PADSV, 0);
4798                 op->op_targ = tmp;
4799                 lex_op = (OP*)newUNOP(OP_READLINE, 0, newUNOP(OP_RV2GV, 0, op));
4800             }
4801             else {
4802                 GV *gv = gv_fetchpv(d+1,TRUE, SVt_PV);
4803                 lex_op = (OP*)newUNOP(OP_READLINE, 0,
4804                                         newUNOP(OP_RV2GV, 0,
4805                                             newUNOP(OP_RV2SV, 0,
4806                                                 newGVOP(OP_GV, 0, gv))));
4807             }
4808             yylval.ival = OP_NULL;
4809         }
4810         else {
4811             GV *gv = gv_fetchpv(d,TRUE, SVt_PVIO);
4812             lex_op = (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
4813             yylval.ival = OP_NULL;
4814         }
4815     }
4816     return s;
4817 }
4818
4819 static char *
4820 scan_str(start)
4821 char *start;
4822 {
4823     SV *sv;
4824     char *tmps;
4825     register char *s = start;
4826     register char term;
4827     register char *to;
4828     I32 brackets = 1;
4829
4830     if (isSPACE(*s))
4831         s = skipspace(s);
4832     CLINE;
4833     term = *s;
4834     multi_start = curcop->cop_line;
4835     multi_open = term;
4836     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4837         term = tmps[5];
4838     multi_close = term;
4839
4840     sv = NEWSV(87,80);
4841     sv_upgrade(sv, SVt_PVIV);
4842     SvIVX(sv) = term;
4843     (void)SvPOK_only(sv);               /* validate pointer */
4844     s++;
4845     for (;;) {
4846         SvGROW(sv, SvCUR(sv) + (bufend - s) + 1);
4847         to = SvPVX(sv)+SvCUR(sv);
4848         if (multi_open == multi_close) {
4849             for (; s < bufend; s++,to++) {
4850                 if (*s == '\n' && !rsfp)
4851                     curcop->cop_line++;
4852                 if (*s == '\\' && s+1 < bufend && term != '\\') {
4853                     if (s[1] == term)
4854                         s++;
4855                     else
4856                         *to++ = *s++;
4857                 }
4858                 else if (*s == term)
4859                     break;
4860                 *to = *s;
4861             }
4862         }
4863         else {
4864             for (; s < bufend; s++,to++) {
4865                 if (*s == '\n' && !rsfp)
4866                     curcop->cop_line++;
4867                 if (*s == '\\' && s+1 < bufend && term != '\\') {
4868                     if (s[1] == term)
4869                         s++;
4870                     else
4871                         *to++ = *s++;
4872                 }
4873                 else if (*s == term && --brackets <= 0)
4874                     break;
4875                 else if (*s == multi_open)
4876                     brackets++;
4877                 *to = *s;
4878             }
4879         }
4880         *to = '\0';
4881         SvCUR_set(sv, to - SvPVX(sv));
4882
4883     if (s < bufend) break;      /* string ends on this line? */
4884
4885         if (!rsfp ||
4886          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4887             sv_free(sv);
4888             curcop->cop_line = multi_start;
4889             return Nullch;
4890         }
4891         curcop->cop_line++;
4892         if (perldb && curstash != debstash) {
4893             SV *sv = NEWSV(88,0);
4894
4895             sv_upgrade(sv, SVt_PVMG);
4896             sv_setsv(sv,linestr);
4897             av_store(GvAV(curcop->cop_filegv),
4898               (I32)curcop->cop_line, sv);
4899         }
4900         bufend = SvPVX(linestr) + SvCUR(linestr);
4901     }
4902     multi_end = curcop->cop_line;
4903     s++;
4904     if (SvCUR(sv) + 5 < SvLEN(sv)) {
4905         SvLEN_set(sv, SvCUR(sv) + 1);
4906         Renew(SvPVX(sv), SvLEN(sv), char);
4907     }
4908     if (lex_stuff)
4909         lex_repl = sv;
4910     else
4911         lex_stuff = sv;
4912     return s;
4913 }
4914
4915 char *
4916 scan_num(start)
4917 char *start;
4918 {
4919     register char *s = start;
4920     register char *d;
4921     I32 tryiv;
4922     double value;
4923     SV *sv;
4924     I32 floatit;
4925     char *lastub = 0;
4926
4927     switch (*s) {
4928     default:
4929         croak("panic: scan_num");
4930     case '0':
4931         {
4932             UV u;
4933             I32 shift;
4934             bool overflowed = FALSE;
4935
4936             if (s[1] == 'x') {
4937                 shift = 4;
4938                 s += 2;
4939             }
4940             else if (s[1] == '.')
4941                 goto decimal;
4942             else
4943                 shift = 3;
4944             u = 0;
4945             for (;;) {
4946                 UV n, b;
4947
4948                 switch (*s) {
4949                 default:
4950                     goto out;
4951                 case '_':
4952                     s++;
4953                     break;
4954                 case '8': case '9':
4955                     if (shift != 4)
4956                         yyerror("Illegal octal digit");
4957                     /* FALL THROUGH */
4958                 case '0': case '1': case '2': case '3': case '4':
4959                 case '5': case '6': case '7':
4960                     b = *s++ & 15;
4961                     goto digit;
4962                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
4963                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
4964                     if (shift != 4)
4965                         goto out;
4966                     b = (*s++ & 7) + 9;
4967                   digit:
4968                     n = u << shift;
4969                     if (!overflowed && (n >> shift) != u) {
4970                         warn("Integer overflow in %s number",
4971                              (shift == 4) ? "hex" : "octal");
4972                         overflowed = TRUE;
4973                     }
4974                     u = n | b;
4975                     break;
4976                 }
4977             }
4978           out:
4979             sv = NEWSV(92,0);
4980             sv_setuv(sv, u);
4981         }
4982         break;
4983     case '1': case '2': case '3': case '4': case '5':
4984     case '6': case '7': case '8': case '9': case '.':
4985       decimal:
4986         d = tokenbuf;
4987         floatit = FALSE;
4988         while (isDIGIT(*s) || *s == '_') {
4989             if (*s == '_') {
4990                 if (dowarn && lastub && s - lastub != 3)
4991                     warn("Misplaced _ in number");
4992                 lastub = ++s;
4993             }
4994             else
4995                 *d++ = *s++;
4996         }
4997         if (dowarn && lastub && s - lastub != 3)
4998             warn("Misplaced _ in number");
4999         if (*s == '.' && s[1] != '.') {
5000             floatit = TRUE;
5001             *d++ = *s++;
5002             while (isDIGIT(*s) || *s == '_') {
5003                 if (*s == '_')
5004                     s++;
5005                 else
5006                     *d++ = *s++;
5007             }
5008         }
5009         if (*s && strchr("eE",*s) && strchr("+-0123456789",s[1])) {
5010             floatit = TRUE;
5011             s++;
5012             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
5013             if (*s == '+' || *s == '-')
5014                 *d++ = *s++;
5015             while (isDIGIT(*s))
5016                 *d++ = *s++;
5017         }
5018         *d = '\0';
5019         sv = NEWSV(92,0);
5020         SET_NUMERIC_STANDARD();
5021         value = atof(tokenbuf);
5022         tryiv = I_V(value);
5023         if (!floatit && (double)tryiv == value)
5024             sv_setiv(sv, tryiv);
5025         else
5026             sv_setnv(sv, value);
5027         break;
5028     }
5029
5030     yylval.opval = newSVOP(OP_CONST, 0, sv);
5031
5032     return s;
5033 }
5034
5035 static char *
5036 scan_formline(s)
5037 register char *s;
5038 {
5039     register char *eol;
5040     register char *t;
5041     SV *stuff = newSVpv("",0);
5042     bool needargs = FALSE;
5043
5044     while (!needargs) {
5045         if (*s == '.' || *s == '}') {
5046             /*SUPPRESS 530*/
5047             for (t = s+1; *t == ' ' || *t == '\t'; t++) ;
5048             if (*t == '\n')
5049                 break;
5050         }
5051         if (in_eval && !rsfp) {
5052             eol = strchr(s,'\n');
5053             if (!eol++)
5054                 eol = bufend;
5055         }
5056         else
5057             eol = bufend = SvPVX(linestr) + SvCUR(linestr);
5058         if (*s != '#') {
5059             for (t = s; t < eol; t++) {
5060                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
5061                     needargs = FALSE;
5062                     goto enough;        /* ~~ must be first line in formline */
5063                 }
5064                 if (*t == '@' || *t == '^')
5065                     needargs = TRUE;
5066             }
5067             sv_catpvn(stuff, s, eol-s);
5068         }
5069         s = eol;
5070         if (rsfp) {
5071             s = filter_gets(linestr, rsfp, 0);
5072             oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
5073             bufend = bufptr + SvCUR(linestr);
5074             if (!s) {
5075                 s = bufptr;
5076                 yyerror("Format not terminated");
5077                 break;
5078             }
5079         }
5080         incline(s);
5081     }
5082   enough:
5083     if (SvCUR(stuff)) {
5084         expect = XTERM;
5085         if (needargs) {
5086             lex_state = LEX_NORMAL;
5087             nextval[nexttoke].ival = 0;
5088             force_next(',');
5089         }
5090         else
5091             lex_state = LEX_FORMLINE;
5092         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, stuff);
5093         force_next(THING);
5094         nextval[nexttoke].ival = OP_FORMLINE;
5095         force_next(LSTOP);
5096     }
5097     else {
5098         SvREFCNT_dec(stuff);
5099         lex_formbrack = 0;
5100         bufptr = s;
5101     }
5102     return s;
5103 }
5104
5105 static void
5106 set_csh()
5107 {
5108 #ifdef CSH
5109     if (!cshlen)
5110         cshlen = strlen(cshname);
5111 #endif
5112 }
5113
5114 int
5115 start_subparse(is_format, flags)
5116 I32 is_format;
5117 U32 flags;
5118 {
5119     int oldsavestack_ix = savestack_ix;
5120     CV* outsidecv = compcv;
5121     AV* comppadlist;
5122
5123     if (compcv) {
5124         assert(SvTYPE(compcv) == SVt_PVCV);
5125     }
5126     save_I32(&subline);
5127     save_item(subname);
5128     SAVEI32(padix);
5129     SAVESPTR(curpad);
5130     SAVESPTR(comppad);
5131     SAVESPTR(comppad_name);
5132     SAVESPTR(compcv);
5133     SAVEI32(comppad_name_fill);
5134     SAVEI32(min_intro_pending);
5135     SAVEI32(max_intro_pending);
5136     SAVEI32(pad_reset_pending);
5137
5138     compcv = (CV*)NEWSV(1104,0);
5139     sv_upgrade((SV *)compcv, is_format ? SVt_PVFM : SVt_PVCV);
5140     CvFLAGS(compcv) |= flags;
5141
5142     comppad = newAV();
5143     comppad_name = newAV();
5144     comppad_name_fill = 0;
5145     min_intro_pending = 0;
5146     av_push(comppad, Nullsv);
5147     curpad = AvARRAY(comppad);
5148     padix = 0;
5149     subline = curcop->cop_line;
5150
5151     comppadlist = newAV();
5152     AvREAL_off(comppadlist);
5153     av_store(comppadlist, 0, (SV*)comppad_name);
5154     av_store(comppadlist, 1, (SV*)comppad);
5155
5156     CvPADLIST(compcv) = comppadlist;
5157     CvOUTSIDE(compcv) = (CV*)SvREFCNT_inc((SV*)outsidecv);
5158
5159     return oldsavestack_ix;
5160 }
5161
5162 int
5163 yywarn(s)
5164 char *s;
5165 {
5166     --error_count;
5167     in_eval |= 2;
5168     yyerror(s);
5169     in_eval &= ~2;
5170     return 0;
5171 }
5172
5173 int
5174 yyerror(s)
5175 char *s;
5176 {
5177     char wbuf[40];
5178     char *where = NULL;
5179     char *context = NULL;
5180     int contlen = -1;
5181
5182     if (bufptr > oldoldbufptr && bufptr - oldoldbufptr < 200 &&
5183       oldoldbufptr != oldbufptr && oldbufptr != bufptr) {
5184         while (isSPACE(*oldoldbufptr))
5185             oldoldbufptr++;
5186         context = oldoldbufptr;
5187         contlen = bufptr - oldoldbufptr;
5188     }
5189     else if (bufptr > oldbufptr && bufptr - oldbufptr < 200 &&
5190       oldbufptr != bufptr) {
5191         while (isSPACE(*oldbufptr))
5192             oldbufptr++;
5193         context = oldbufptr;
5194         contlen = bufptr - oldbufptr;
5195     }
5196     else if (yychar > 255)
5197         where = "next token ???";
5198     else if (!yychar || (yychar == ';' && !rsfp))
5199         where = "at EOF";
5200     else if ((yychar & 127) == 127) {
5201         if (lex_state == LEX_NORMAL ||
5202            (lex_state == LEX_KNOWNEXT && lex_defer == LEX_NORMAL))
5203             where = "at end of line";
5204         else if (lex_inpat)
5205             where = "within pattern";
5206         else
5207             where = "within string";
5208     }
5209     else if (yychar < 32)
5210         (void)sprintf(where = wbuf, "next char ^%c", toCTRL(yychar));
5211     else if (isPRINT_LC(yychar))
5212         (void)sprintf(where = wbuf, "next char %c", yychar);
5213     else
5214         (void)sprintf(where = wbuf, "next char \\%03o", yychar & 255);
5215     if (contlen == -1)
5216         contlen = strlen(where);
5217     (void)sprintf(buf, "%s at %s line %d, ",
5218                   s, SvPVX(GvSV(curcop->cop_filegv)), curcop->cop_line);
5219     if (context)
5220         (void)sprintf(buf+strlen(buf), "near \"%.*s\"\n", contlen, context);
5221     else
5222         (void)sprintf(buf+strlen(buf), "%s\n", where);
5223     if (multi_start < multi_end && (U32)(curcop->cop_line - multi_end) <= 1) {
5224         sprintf(buf+strlen(buf),
5225         "  (Might be a runaway multi-line %c%c string starting on line %ld)\n",
5226                 (int)multi_open,(int)multi_close,(long)multi_start);
5227         multi_end = 0;
5228     }
5229     if (in_eval & 2)
5230         warn("%s",buf);
5231     else if (in_eval)
5232         sv_catpv(GvSV(errgv),buf);
5233     else
5234         PerlIO_printf(PerlIO_stderr(), "%s",buf);
5235     if (++error_count >= 10)
5236         croak("%s has too many errors.\n",
5237         SvPVX(GvSV(curcop->cop_filegv)));
5238     in_my = 0;
5239     return 0;
5240 }