toke.c

   1 /*    toke.c
   2  *
   3  *    Copyright (c) 1991-1997, Larry Wall
   4  *
   5  *    You may distribute under the terms of either the GNU General Public
   6  *    License or the Artistic License, as specified in the README file.
   7  *
   8  */
   9
  10 /*
  11  *   "It all comes from here, the stench and the peril."  --Frodo
  12  */
  13
  14 #include "EXTERN.h"
  15 #include "perl.h"
  16
  17 static void check_uni _((void));
  18 static void  force_next _((I32 type));
  19 static char *force_version _((char *start));
  20 static char *force_word _((char *start, int token, int check_keyword, int allow_pack, int allow_tick));
  21 static SV *q _((SV *sv));
  22 static char *scan_const _((char *start));
  23 static char *scan_formline _((char *s));
  24 static char *scan_heredoc _((char *s));
  25 static char *scan_ident _((char *s, char *send, char *dest, I32 ck_uni));
  26 static char *scan_inputsymbol _((char *start));
  27 static char *scan_pat _((char *start));
  28 static char *scan_str _((char *start));
  29 static char *scan_subst _((char *start));
  30 static char *scan_trans _((char *start));
  31 static char *scan_word _((char *s, char *dest, int allow_package, STRLEN *slp));
  32 static char *skipspace _((char *s));
  33 static void checkcomma _((char *s, char *name, char *what));
  34 static void force_ident _((char *s, int kind));
  35 static void incline _((char *s));
  36 static int intuit_method _((char *s, GV *gv));
  37 static int intuit_more _((char *s));
  38 static I32 lop _((I32 f, expectation x, char *s));
  39 static void missingterm _((char *s));
  40 static void no_op _((char *what, char *s));
  41 static void set_csh _((void));
  42 static I32 sublex_done _((void));
  43 static I32 sublex_push _((void));
  44 static I32 sublex_start _((void));
  45 #ifdef CRIPPLED_CC
  46 static int uni _((I32 f, char *s));
  47 #endif
  48 static char * filter_gets _((SV *sv, PerlIO *fp, STRLEN append));
  49 static void restore_rsfp _((void *f));
  50
  51 static char *linestart;         /* beg. of most recently read line */
  52
  53 static char pending_ident;      /* pending identifier lookup */
  54
  55 static struct {
  56     I32 super_state;    /* lexer state to save */
  57     I32 sub_inwhat;     /* "lex_inwhat" to use */
  58     OP *sub_op;         /* "lex_op" to use */
  59 } sublex_info;
  60
  61 /* The following are arranged oddly so that the guard on the switch statement
  62  * can get by with a single comparison (if the compiler is smart enough).
  63  */
  64
  65 #define LEX_NORMAL              10
  66 #define LEX_INTERPNORMAL         9
  67 #define LEX_INTERPCASEMOD        8
  68 #define LEX_INTERPPUSH           7
  69 #define LEX_INTERPSTART          6
  70 #define LEX_INTERPEND            5
  71 #define LEX_INTERPENDMAYBE       4
  72 #define LEX_INTERPCONCAT         3
  73 #define LEX_INTERPCONST          2
  74 #define LEX_FORMLINE             1
  75 #define LEX_KNOWNEXT             0
  76
  77 #ifdef I_FCNTL
  78 #include <fcntl.h>
  79 #endif
  80 #ifdef I_SYS_FILE
  81 #include <sys/file.h>
  82 #endif
  83
  84 /* XXX If this causes problems, set i_unistd=undef in the hint file.  */
  85 #ifdef I_UNISTD
  86 #  include <unistd.h> /* Needed for execv() */
  87 #endif
  88
  89
  90 #ifdef ff_next
  91 #undef ff_next
  92 #endif
  93
  94 #include "keywords.h"
  95
  96 #ifdef CLINE
  97 #undef CLINE
  98 #endif
  99 #define CLINE (copline = (curcop->cop_line < copline ? curcop->cop_line : copline))
 100
 101 #define TOKEN(retval) return (bufptr = s,(int)retval)
 102 #define OPERATOR(retval) return (expect = XTERM,bufptr = s,(int)retval)
 103 #define AOPERATOR(retval) return ao((expect = XTERM,bufptr = s,(int)retval))
 104 #define PREBLOCK(retval) return (expect = XBLOCK,bufptr = s,(int)retval)
 105 #define PRETERMBLOCK(retval) return (expect = XTERMBLOCK,bufptr = s,(int)retval)
 106 #define PREREF(retval) return (expect = XREF,bufptr = s,(int)retval)
 107 #define TERM(retval) return (CLINE, expect = XOPERATOR,bufptr = s,(int)retval)
 108 #define LOOPX(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LOOPEX)
 109 #define FTST(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)UNIOP)
 110 #define FUN0(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC0)
 111 #define FUN1(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC1)
 112 #define BOop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITOROP))
 113 #define BAop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITANDOP))
 114 #define SHop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)SHIFTOP))
 115 #define PWop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)POWOP))
 116 #define PMop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)MATCHOP)
 117 #define Aop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)ADDOP))
 118 #define Mop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)MULOP))
 119 #define Eop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)EQOP)
 120 #define Rop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)RELOP)
 121
 122 /* This bit of chicanery makes a unary function followed by
 123  * a parenthesis into a function with one argument, highest precedence.
 124  */
 125 #define UNI(f) return(yylval.ival = f, \
 126         expect = XTERM, \
 127         bufptr = s, \
 128         last_uni = oldbufptr, \
 129         last_lop_op = f, \
 130         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 131
 132 #define UNIBRACK(f) return(yylval.ival = f, \
 133         bufptr = s, \
 134         last_uni = oldbufptr, \
 135         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 136
 137 /* grandfather return to old style */
 138 #define OLDLOP(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LSTOP)
 139
 140 static int
 141 ao(toketype)
 142 int toketype;
 143 {
 144     if (*bufptr == '=') {
 145         bufptr++;
 146         if (toketype == ANDAND)
 147             yylval.ival = OP_ANDASSIGN;
 148         else if (toketype == OROR)
 149             yylval.ival = OP_ORASSIGN;
 150         toketype = ASSIGNOP;
 151     }
 152     return toketype;
 153 }
 154
 155 static void
 156 no_op(what, s)
 157 char *what;
 158 char *s;
 159 {
 160     char *oldbp = bufptr;
 161     bool is_first = (oldbufptr == linestart);
 162     char *msg;
 163
 164     bufptr = s;
 165     New(890, msg, strlen(what) + 40, char);
 166     sprintf(msg, "%s found where operator expected", what);
 167     yywarn(msg);
 168     Safefree(msg);
 169     if (is_first)
 170         warn("\t(Missing semicolon on previous line?)\n");
 171     else if (oldoldbufptr && isIDFIRST(*oldoldbufptr)) {
 172         char *t;
 173         for (t = oldoldbufptr; *t && (isALNUM(*t) || *t == ':'); t++) ;
 174         if (t < bufptr && isSPACE(*t))
 175             warn("\t(Do you need to predeclare %.*s?)\n",
 176                 t - oldoldbufptr, oldoldbufptr);
 177
 178     }
 179     else
 180         warn("\t(Missing operator before %.*s?)\n", s - oldbp, oldbp);
 181     bufptr = oldbp;
 182 }
 183
 184 static void
 185 missingterm(s)
 186 char *s;
 187 {
 188     char tmpbuf[3];
 189     char q;
 190     if (s) {
 191         char *nl = strrchr(s,'\n');
 192         if (nl)
 193             *nl = '\0';
 194     }
 195     else if (multi_close < 32 || multi_close == 127) {
 196         *tmpbuf = '^';
 197         tmpbuf[1] = toCTRL(multi_close);
 198         s = "\\n";
 199         tmpbuf[2] = '\0';
 200         s = tmpbuf;
 201     }
 202     else {
 203         *tmpbuf = multi_close;
 204         tmpbuf[1] = '\0';
 205         s = tmpbuf;
 206     }
 207     q = strchr(s,'"') ? '\'' : '"';
 208     croak("Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
 209 }
 210
 211 void
 212 deprecate(s)
 213 char *s;
 214 {
 215     if (dowarn)
 216         warn("Use of %s is deprecated", s);
 217 }
 218
 219 static void
 220 depcom()
 221 {
 222     deprecate("comma-less variable list");
 223 }
 224
 225 void
 226 lex_start(line)
 227 SV *line;
 228 {
 229     char *s;
 230     STRLEN len;
 231
 232     SAVEI32(lex_dojoin);
 233     SAVEI32(lex_brackets);
 234     SAVEI32(lex_fakebrack);
 235     SAVEI32(lex_casemods);
 236     SAVEI32(lex_starts);
 237     SAVEI32(lex_state);
 238     SAVESPTR(lex_inpat);
 239     SAVEI32(lex_inwhat);
 240     SAVEI16(curcop->cop_line);
 241     SAVEPPTR(bufptr);
 242     SAVEPPTR(bufend);
 243     SAVEPPTR(oldbufptr);
 244     SAVEPPTR(oldoldbufptr);
 245     SAVEPPTR(linestart);
 246     SAVESPTR(linestr);
 247     SAVEPPTR(lex_brackstack);
 248     SAVEPPTR(lex_casestack);
 249     SAVEDESTRUCTOR(restore_rsfp, rsfp);
 250
 251     lex_state = LEX_NORMAL;
 252     lex_defer = 0;
 253     expect = XSTATE;
 254     lex_brackets = 0;
 255     lex_fakebrack = 0;
 256     New(899, lex_brackstack, 120, char);
 257     New(899, lex_casestack, 12, char);
 258     SAVEFREEPV(lex_brackstack);
 259     SAVEFREEPV(lex_casestack);
 260     lex_casemods = 0;
 261     *lex_casestack = '\0';
 262     lex_dojoin = 0;
 263     lex_starts = 0;
 264     if (lex_stuff)
 265         SvREFCNT_dec(lex_stuff);
 266     lex_stuff = Nullsv;
 267     if (lex_repl)
 268         SvREFCNT_dec(lex_repl);
 269     lex_repl = Nullsv;
 270     lex_inpat = 0;
 271     lex_inwhat = 0;
 272     linestr = line;
 273     if (SvREADONLY(linestr))
 274         linestr = sv_2mortal(newSVsv(linestr));
 275     s = SvPV(linestr, len);
 276     if (len && s[len-1] != ';') {
 277         if (!(SvFLAGS(linestr) & SVs_TEMP))
 278             linestr = sv_2mortal(newSVsv(linestr));
 279         sv_catpvn(linestr, "\n;", 2);
 280     }
 281     SvTEMP_off(linestr);
 282     oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
 283     bufend = bufptr + SvCUR(linestr);
 284     SvREFCNT_dec(rs);
 285     rs = newSVpv("\n", 1);
 286     rsfp = 0;
 287 }
 288
 289 void
 290 lex_end()
 291 {
 292     doextract = FALSE;
 293 }
 294
 295 static void
 296 restore_rsfp(f)
 297 void *f;
 298 {
 299     PerlIO *fp = (PerlIO*)f;
 300
 301     if (rsfp == PerlIO_stdin())
 302         PerlIO_clearerr(rsfp);
 303     else if (rsfp && (rsfp != fp))
 304         PerlIO_close(rsfp);
 305     rsfp = fp;
 306 }
 307
 308 static void
 309 incline(s)
 310 char *s;
 311 {
 312     char *t;
 313     char *n;
 314     char ch;
 315     int sawline = 0;
 316
 317     curcop->cop_line++;
 318     if (*s++ != '#')
 319         return;
 320     while (*s == ' ' || *s == '\t') s++;
 321     if (strnEQ(s, "line ", 5)) {
 322         s += 5;
 323         sawline = 1;
 324     }
 325     if (!isDIGIT(*s))
 326         return;
 327     n = s;
 328     while (isDIGIT(*s))
 329         s++;
 330     while (*s == ' ' || *s == '\t')
 331         s++;
 332     if (*s == '"' && (t = strchr(s+1, '"')))
 333         s++;
 334     else {
 335         if (!sawline)
 336             return;             /* false alarm */
 337         for (t = s; !isSPACE(*t); t++) ;
 338     }
 339     ch = *t;
 340     *t = '\0';
 341     if (t - s > 0)
 342         curcop->cop_filegv = gv_fetchfile(s);
 343     else
 344         curcop->cop_filegv = gv_fetchfile(origfilename);
 345     *t = ch;
 346     curcop->cop_line = atoi(n)-1;
 347 }
 348
 349 static char *
 350 skipspace(s)
 351 register char *s;
 352 {
 353     if (lex_formbrack && lex_brackets <= lex_formbrack) {
 354         while (s < bufend && (*s == ' ' || *s == '\t'))
 355             s++;
 356         return s;
 357     }
 358     for (;;) {
 359         STRLEN prevlen;
 360         while (s < bufend && isSPACE(*s))
 361             s++;
 362         if (s < bufend && *s == '#') {
 363             while (s < bufend && *s != '\n')
 364                 s++;
 365             if (s < bufend)
 366                 s++;
 367         }
 368         if (s < bufend || !rsfp || lex_state != LEX_NORMAL)
 369             return s;
 370         if ((s = filter_gets(linestr, rsfp, (prevlen = SvCUR(linestr)))) == Nullch) {
 371             if (minus_n || minus_p) {
 372                 sv_setpv(linestr,minus_p ? ";}continue{print" : "");
 373                 sv_catpv(linestr,";}");
 374                 minus_n = minus_p = 0;
 375             }
 376             else
 377                 sv_setpv(linestr,";");
 378             oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
 379             bufend = SvPVX(linestr) + SvCUR(linestr);
 380             if (preprocess && !in_eval)
 381                 (void)my_pclose(rsfp);
 382             else if ((PerlIO*)rsfp == PerlIO_stdin())
 383                 PerlIO_clearerr(rsfp);
 384             else
 385                 (void)PerlIO_close(rsfp);
 386             rsfp = Nullfp;
 387             return s;
 388         }
 389         linestart = bufptr = s + prevlen;
 390         bufend = s + SvCUR(linestr);
 391         s = bufptr;
 392         incline(s);
 393         if (perldb && curstash != debstash) {
 394             SV *sv = NEWSV(85,0);
 395
 396             sv_upgrade(sv, SVt_PVMG);
 397             sv_setpvn(sv,bufptr,bufend-bufptr);
 398             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
 399         }
 400     }
 401 }
 402
 403 static void
 404 check_uni() {
 405     char *s;
 406     char ch;
 407     char *t;
 408
 409     if (oldoldbufptr != last_uni)
 410         return;
 411     while (isSPACE(*last_uni))
 412         last_uni++;
 413     for (s = last_uni; isALNUM(*s) || *s == '-'; s++) ;
 414     if ((t = strchr(s, '(')) && t < bufptr)
 415         return;
 416     ch = *s;
 417     *s = '\0';
 418     warn("Warning: Use of \"%s\" without parens is ambiguous", last_uni);
 419     *s = ch;
 420 }
 421
 422 #ifdef CRIPPLED_CC
 423
 424 #undef UNI
 425 #define UNI(f) return uni(f,s)
 426
 427 static int
 428 uni(f,s)
 429 I32 f;
 430 char *s;
 431 {
 432     yylval.ival = f;
 433     expect = XTERM;
 434     bufptr = s;
 435     last_uni = oldbufptr;
 436     last_lop_op = f;
 437     if (*s == '(')
 438         return FUNC1;
 439     s = skipspace(s);
 440     if (*s == '(')
 441         return FUNC1;
 442     else
 443         return UNIOP;
 444 }
 445
 446 #endif /* CRIPPLED_CC */
 447
 448 #define LOP(f,x) return lop(f,x,s)
 449
 450 static I32
 451 lop
 452 #ifdef CAN_PROTOTYPE
 453    (I32 f, expectation x, char *s)
 454 #else
 455    (f,x,s)
 456 I32 f;
 457 expectation x;
 458 char *s;
 459 #endif /* CAN_PROTOTYPE */
 460 {
 461     yylval.ival = f;
 462     CLINE;
 463     expect = x;
 464     bufptr = s;
 465     last_lop = oldbufptr;
 466     last_lop_op = f;
 467     if (nexttoke)
 468         return LSTOP;
 469     if (*s == '(')
 470         return FUNC;
 471     s = skipspace(s);
 472     if (*s == '(')
 473         return FUNC;
 474     else
 475         return LSTOP;
 476 }
 477
 478 static void
 479 force_next(type)
 480 I32 type;
 481 {
 482     nexttype[nexttoke] = type;
 483     nexttoke++;
 484     if (lex_state != LEX_KNOWNEXT) {
 485         lex_defer = lex_state;
 486         lex_expect = expect;
 487         lex_state = LEX_KNOWNEXT;
 488     }
 489 }
 490
 491 static char *
 492 force_word(start,token,check_keyword,allow_pack,allow_tick)
 493 register char *start;
 494 int token;
 495 int check_keyword;
 496 int allow_pack;
 497 int allow_tick;
 498 {
 499     register char *s;
 500     STRLEN len;
 501
 502     start = skipspace(start);
 503     s = start;
 504     if (isIDFIRST(*s) ||
 505         (allow_pack && *s == ':') ||
 506         (allow_tick && *s == '\'') )
 507     {
 508         s = scan_word(s, tokenbuf, allow_pack, &len);
 509         if (check_keyword && keyword(tokenbuf, len))
 510             return start;
 511         if (token == METHOD) {
 512             s = skipspace(s);
 513             if (*s == '(')
 514                 expect = XTERM;
 515             else {
 516                 expect = XOPERATOR;
 517                 force_next(')');
 518                 force_next('(');
 519             }
 520         }
 521         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST,0, newSVpv(tokenbuf,0));
 522         nextval[nexttoke].opval->op_private |= OPpCONST_BARE;
 523         force_next(token);
 524     }
 525     return s;
 526 }
 527
 528 static void
 529 force_ident(s, kind)
 530 register char *s;
 531 int kind;
 532 {
 533     if (s && *s) {
 534         OP* op = (OP*)newSVOP(OP_CONST, 0, newSVpv(s,0));
 535         nextval[nexttoke].opval = op;
 536         force_next(WORD);
 537         if (kind) {
 538             op->op_private = OPpCONST_ENTERED;
 539             /* XXX see note in pp_entereval() for why we forgo typo
 540                warnings if the symbol must be introduced in an eval.
 541                GSAR 96-10-12 */
 542             gv_fetchpv(s, in_eval ? GV_ADDMULTI : TRUE,
 543                 kind == '$' ? SVt_PV :
 544                 kind == '@' ? SVt_PVAV :
 545                 kind == '%' ? SVt_PVHV :
 546                               SVt_PVGV
 547                 );
 548         }
 549     }
 550 }
 551
 552 static char *
 553 force_version(s)
 554 char *s;
 555 {
 556     OP *version = Nullop;
 557
 558     s = skipspace(s);
 559
 560     /* default VERSION number -- GBARR */
 561
 562     if(isDIGIT(*s)) {
 563         char *d;
 564         int c;
 565         for( d=s, c = 1; isDIGIT(*d) || *d == '_' || (*d == '.' && c--); d++);
 566         if((*d == ';' || isSPACE(*d)) && *(skipspace(d)) != ',') {
 567             s = scan_num(s);
 568             /* real VERSION number -- GBARR */
 569             version = yylval.opval;
 570         }
 571     }
 572
 573     /* NOTE: The parser sees the package name and the VERSION swapped */
 574     nextval[nexttoke].opval = version;
 575     force_next(WORD);
 576
 577     return (s);
 578 }
 579
 580 static SV *
 581 q(sv)
 582 SV *sv;
 583 {
 584     register char *s;
 585     register char *send;
 586     register char *d;
 587     STRLEN len;
 588
 589     if (!SvLEN(sv))
 590         return sv;
 591
 592     s = SvPV_force(sv, len);
 593     if (SvIVX(sv) == -1)
 594         return sv;
 595     send = s + len;
 596     while (s < send && *s != '\\')
 597         s++;
 598     if (s == send)
 599         return sv;
 600     d = s;
 601     while (s < send) {
 602         if (*s == '\\') {
 603             if (s + 1 < send && (s[1] == '\\'))
 604                 s++;            /* all that, just for this */
 605         }
 606         *d++ = *s++;
 607     }
 608     *d = '\0';
 609     SvCUR_set(sv, d - SvPVX(sv));
 610
 611     return sv;
 612 }
 613
 614 static I32
 615 sublex_start()
 616 {
 617     register I32 op_type = yylval.ival;
 618
 619     if (op_type == OP_NULL) {
 620         yylval.opval = lex_op;
 621         lex_op = Nullop;
 622         return THING;
 623     }
 624     if (op_type == OP_CONST || op_type == OP_READLINE) {
 625         yylval.opval = (OP*)newSVOP(op_type, 0, q(lex_stuff));
 626         lex_stuff = Nullsv;
 627         return THING;
 628     }
 629
 630     sublex_info.super_state = lex_state;
 631     sublex_info.sub_inwhat = op_type;
 632     sublex_info.sub_op = lex_op;
 633     lex_state = LEX_INTERPPUSH;
 634
 635     expect = XTERM;
 636     if (lex_op) {
 637         yylval.opval = lex_op;
 638         lex_op = Nullop;
 639         return PMFUNC;
 640     }
 641     else
 642         return FUNC;
 643 }
 644
 645 static I32
 646 sublex_push()
 647 {
 648     push_scope();
 649
 650     lex_state = sublex_info.super_state;
 651     SAVEI32(lex_dojoin);
 652     SAVEI32(lex_brackets);
 653     SAVEI32(lex_fakebrack);
 654     SAVEI32(lex_casemods);
 655     SAVEI32(lex_starts);
 656     SAVEI32(lex_state);
 657     SAVESPTR(lex_inpat);
 658     SAVEI32(lex_inwhat);
 659     SAVEI16(curcop->cop_line);
 660     SAVEPPTR(bufptr);
 661     SAVEPPTR(oldbufptr);
 662     SAVEPPTR(oldoldbufptr);
 663     SAVEPPTR(linestart);
 664     SAVESPTR(linestr);
 665     SAVEPPTR(lex_brackstack);
 666     SAVEPPTR(lex_casestack);
 667
 668     linestr = lex_stuff;
 669     lex_stuff = Nullsv;
 670
 671     bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 672     bufend += SvCUR(linestr);
 673     SAVEFREESV(linestr);
 674
 675     lex_dojoin = FALSE;
 676     lex_brackets = 0;
 677     lex_fakebrack = 0;
 678     New(899, lex_brackstack, 120, char);
 679     New(899, lex_casestack, 12, char);
 680     SAVEFREEPV(lex_brackstack);
 681     SAVEFREEPV(lex_casestack);
 682     lex_casemods = 0;
 683     *lex_casestack = '\0';
 684     lex_starts = 0;
 685     lex_state = LEX_INTERPCONCAT;
 686     curcop->cop_line = multi_start;
 687
 688     lex_inwhat = sublex_info.sub_inwhat;
 689     if (lex_inwhat == OP_MATCH || lex_inwhat == OP_SUBST)
 690         lex_inpat = sublex_info.sub_op;
 691     else
 692         lex_inpat = Nullop;
 693
 694     return '(';
 695 }
 696
 697 static I32
 698 sublex_done()
 699 {
 700     if (!lex_starts++) {
 701         expect = XOPERATOR;
 702         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv("",0));
 703         return THING;
 704     }
 705
 706     if (lex_casemods) {         /* oops, we've got some unbalanced parens */
 707         lex_state = LEX_INTERPCASEMOD;
 708         return yylex();
 709     }
 710
 711     /* Is there a right-hand side to take care of? */
 712     if (lex_repl && (lex_inwhat == OP_SUBST || lex_inwhat == OP_TRANS)) {
 713         linestr = lex_repl;
 714         lex_inpat = 0;
 715         bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 716         bufend += SvCUR(linestr);
 717         SAVEFREESV(linestr);
 718         lex_dojoin = FALSE;
 719         lex_brackets = 0;
 720         lex_fakebrack = 0;
 721         lex_casemods = 0;
 722         *lex_casestack = '\0';
 723         lex_starts = 0;
 724         if (SvCOMPILED(lex_repl)) {
 725             lex_state = LEX_INTERPNORMAL;
 726             lex_starts++;
 727         }
 728         else
 729             lex_state = LEX_INTERPCONCAT;
 730         lex_repl = Nullsv;
 731         return ',';
 732     }
 733     else {
 734         pop_scope();
 735         bufend = SvPVX(linestr);
 736         bufend += SvCUR(linestr);
 737         expect = XOPERATOR;
 738         return ')';
 739     }
 740 }
 741
 742 static char *
 743 scan_const(start)
 744 char *start;
 745 {
 746     register char *send = bufend;
 747     SV *sv = NEWSV(93, send - start);
 748     register char *s = start;
 749     register char *d = SvPVX(sv);
 750     bool dorange = FALSE;
 751     I32 len;
 752     char *leave =
 753         lex_inpat
 754             ? "\\.^$@AGZdDwWsSbB+*?|()-nrtfeaxc0123456789[{]} \t\n\r\f\v#"
 755             : (lex_inwhat & OP_TRANS)
 756                 ? ""
 757                 : "";
 758
 759     while (s < send || dorange) {
 760         if (lex_inwhat == OP_TRANS) {
 761             if (dorange) {
 762                 I32 i;
 763                 I32 max;
 764                 i = d - SvPVX(sv);
 765                 SvGROW(sv, SvLEN(sv) + 256);
 766                 d = SvPVX(sv) + i;
 767                 d -= 2;
 768                 max = (U8)d[1];
 769                 for (i = (U8)*d; i <= max; i++)
 770                     *d++ = i;
 771                 dorange = FALSE;
 772                 continue;
 773             }
 774             else if (*s == '-' && s+1 < send  && s != start) {
 775                 dorange = TRUE;
 776                 s++;
 777             }
 778         }
 779         else if (*s == '(' && lex_inpat && s[1] == '?' && s[2] == '#') {
 780             while (s < send && *s != ')')
 781                 *d++ = *s++;
 782         }
 783         else if (*s == '#' && lex_inpat &&
 784           ((PMOP*)lex_inpat)->op_pmflags & PMf_EXTENDED) {
 785             while (s+1 < send && *s != '\n')
 786                 *d++ = *s++;
 787         }
 788         else if (*s == '@' && s[1] && (isALNUM(s[1]) || strchr(":'{$", s[1])))
 789             break;
 790         else if (*s == '$') {
 791             if (!lex_inpat)     /* not a regexp, so $ must be var */
 792                 break;
 793             if (s + 1 < send && !strchr(")| \n\t", s[1]))
 794                 break;          /* in regexp, $ might be tail anchor */
 795         }
 796         if (*s == '\\' && s+1 < send) {
 797             s++;
 798             if (*s && strchr(leave, *s)) {
 799                 *d++ = '\\';
 800                 *d++ = *s++;
 801                 continue;
 802             }
 803             if (lex_inwhat == OP_SUBST && !lex_inpat &&
 804                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
 805             {
 806                 if (dowarn)
 807                     warn("\\%c better written as $%c", *s, *s);
 808                 *--s = '$';
 809                 break;
 810             }
 811             if (lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
 812                 --s;
 813                 break;
 814             }
 815             switch (*s) {
 816             case '-':
 817                 if (lex_inwhat == OP_TRANS) {
 818                     *d++ = *s++;
 819                     continue;
 820                 }
 821                 /* FALL THROUGH */
 822             default:
 823                 *d++ = *s++;
 824                 continue;
 825             case '0': case '1': case '2': case '3':
 826             case '4': case '5': case '6': case '7':
 827                 *d++ = scan_oct(s, 3, &len);
 828                 s += len;
 829                 continue;
 830             case 'x':
 831                 *d++ = scan_hex(++s, 2, &len);
 832                 s += len;
 833                 continue;
 834             case 'c':
 835                 s++;
 836                 len = *s++;
 837                 *d++ = toCTRL(len);
 838                 continue;
 839             case 'b':
 840                 *d++ = '\b';
 841                 break;
 842             case 'n':
 843                 *d++ = '\n';
 844                 break;
 845             case 'r':
 846                 *d++ = '\r';
 847                 break;
 848             case 'f':
 849                 *d++ = '\f';
 850                 break;
 851             case 't':
 852                 *d++ = '\t';
 853                 break;
 854             case 'e':
 855                 *d++ = '\033';
 856                 break;
 857             case 'a':
 858                 *d++ = '\007';
 859                 break;
 860             }
 861             s++;
 862             continue;
 863         }
 864         *d++ = *s++;
 865     }
 866     *d = '\0';
 867     SvCUR_set(sv, d - SvPVX(sv));
 868     SvPOK_on(sv);
 869
 870     if (SvCUR(sv) + 5 < SvLEN(sv)) {
 871         SvLEN_set(sv, SvCUR(sv) + 1);
 872         Renew(SvPVX(sv), SvLEN(sv), char);
 873     }
 874     if (s > bufptr)
 875         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
 876     else
 877         SvREFCNT_dec(sv);
 878     return s;
 879 }
 880
 881 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
 882 static int
 883 intuit_more(s)
 884 register char *s;
 885 {
 886     if (lex_brackets)
 887         return TRUE;
 888     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
 889         return TRUE;
 890     if (*s != '{' && *s != '[')
 891         return FALSE;
 892     if (!lex_inpat)
 893         return TRUE;
 894
 895     /* In a pattern, so maybe we have {n,m}. */
 896     if (*s == '{') {
 897         s++;
 898         if (!isDIGIT(*s))
 899             return TRUE;
 900         while (isDIGIT(*s))
 901             s++;
 902         if (*s == ',')
 903             s++;
 904         while (isDIGIT(*s))
 905             s++;
 906         if (*s == '}')
 907             return FALSE;
 908         return TRUE;
 909
 910     }
 911
 912     /* On the other hand, maybe we have a character class */
 913
 914     s++;
 915     if (*s == ']' || *s == '^')
 916         return FALSE;
 917     else {
 918         int weight = 2;         /* let's weigh the evidence */
 919         char seen[256];
 920         unsigned char un_char = 0, last_un_char;
 921         char *send = strchr(s,']');
 922         char tmpbuf[512];
 923
 924         if (!send)              /* has to be an expression */
 925             return TRUE;
 926
 927         Zero(seen,256,char);
 928         if (*s == '$')
 929             weight -= 3;
 930         else if (isDIGIT(*s)) {
 931             if (s[1] != ']') {
 932                 if (isDIGIT(s[1]) && s[2] == ']')
 933                     weight -= 10;
 934             }
 935             else
 936                 weight -= 100;
 937         }
 938         for (; s < send; s++) {
 939             last_un_char = un_char;
 940             un_char = (unsigned char)*s;
 941             switch (*s) {
 942             case '@':
 943             case '&':
 944             case '$':
 945                 weight -= seen[un_char] * 10;
 946                 if (isALNUM(s[1])) {
 947                     scan_ident(s,send,tmpbuf,FALSE);
 948                     if ((int)strlen(tmpbuf) > 1 && gv_fetchpv(tmpbuf,FALSE, SVt_PV))
 949                         weight -= 100;
 950                     else
 951                         weight -= 10;
 952                 }
 953                 else if (*s == '$' && s[1] &&
 954                   strchr("[#!%*<>()-=",s[1])) {
 955                     if (/*{*/ strchr("])} =",s[2]))
 956                         weight -= 10;
 957                     else
 958                         weight -= 1;
 959                 }
 960                 break;
 961             case '\\':
 962                 un_char = 254;
 963                 if (s[1]) {
 964                     if (strchr("wds]",s[1]))
 965                         weight += 100;
 966                     else if (seen['\''] || seen['"'])
 967                         weight += 1;
 968                     else if (strchr("rnftbxcav",s[1]))
 969                         weight += 40;
 970                     else if (isDIGIT(s[1])) {
 971                         weight += 40;
 972                         while (s[1] && isDIGIT(s[1]))
 973                             s++;
 974                     }
 975                 }
 976                 else
 977                     weight += 100;
 978                 break;
 979             case '-':
 980                 if (s[1] == '\\')
 981                     weight += 50;
 982                 if (strchr("aA01! ",last_un_char))
 983                     weight += 30;
 984                 if (strchr("zZ79~",s[1]))
 985                     weight += 30;
 986                 break;
 987             default:
 988                 if (!isALNUM(last_un_char) && !strchr("$@&",last_un_char) &&
 989                         isALPHA(*s) && s[1] && isALPHA(s[1])) {
 990                     char *d = tmpbuf;
 991                     while (isALPHA(*s))
 992                         *d++ = *s++;
 993                     *d = '\0';
 994                     if (keyword(tmpbuf, d - tmpbuf))
 995                         weight -= 150;
 996                 }
 997                 if (un_char == last_un_char + 1)
 998                     weight += 5;
 999                 weight -= seen[un_char];
1000                 break;
1001             }
1002             seen[un_char]++;
1003         }
1004         if (weight >= 0)        /* probably a character class */
1005             return FALSE;
1006     }
1007
1008     return TRUE;
1009 }
1010
1011 static int
1012 intuit_method(start,gv)
1013 char *start;
1014 GV *gv;
1015 {
1016     char *s = start + (*start == '$');
1017     char tmpbuf[1024];
1018     STRLEN len;
1019     GV* indirgv;
1020
1021     if (gv) {
1022         if (GvIO(gv))
1023             return 0;
1024         if (!GvCVu(gv))
1025             gv = 0;
1026     }
1027     s = scan_word(s, tmpbuf, TRUE, &len);
1028     if (*start == '$') {
1029         if (gv || last_lop_op == OP_PRINT || isUPPER(*tokenbuf))
1030             return 0;
1031         s = skipspace(s);
1032         bufptr = start;
1033         expect = XREF;
1034         return *s == '(' ? FUNCMETH : METHOD;
1035     }
1036     if (!keyword(tmpbuf, len)) {
1037         indirgv = gv_fetchpv(tmpbuf,FALSE, SVt_PVCV);
1038         if (indirgv && GvCVu(indirgv))
1039             return 0;
1040         /* filehandle or package name makes it a method */
1041         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
1042             s = skipspace(s);
1043             if ((bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
1044                 return 0;       /* no assumptions -- "=>" quotes bearword */
1045             nextval[nexttoke].opval =
1046                 (OP*)newSVOP(OP_CONST, 0,
1047                             newSVpv(tmpbuf,0));
1048             nextval[nexttoke].opval->op_private =
1049                 OPpCONST_BARE;
1050             expect = XTERM;
1051             force_next(WORD);
1052             bufptr = s;
1053             return *s == '(' ? FUNCMETH : METHOD;
1054         }
1055     }
1056     return 0;
1057 }
1058
1059 static char*
1060 incl_perldb()
1061 {
1062     if (perldb) {
1063         char *pdb = getenv("PERL5DB");
1064
1065         if (pdb)
1066             return pdb;
1067         return "BEGIN { require 'perl5db.pl' }";
1068     }
1069     return "";
1070 }
1071
1072
1073 /* Encoded script support. filter_add() effectively inserts a
1074  * 'pre-processing' function into the current source input stream.
1075  * Note that the filter function only applies to the current source file
1076  * (e.g., it will not affect files 'require'd or 'use'd by this one).
1077  *
1078  * The datasv parameter (which may be NULL) can be used to pass
1079  * private data to this instance of the filter. The filter function
1080  * can recover the SV using the FILTER_DATA macro and use it to
1081  * store private buffers and state information.
1082  *
1083  * The supplied datasv parameter is upgraded to a PVIO type
1084  * and the IoDIRP field is used to store the function pointer.
1085  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
1086  * private use must be set using malloc'd pointers.
1087  */
1088 static int filter_debug = 0;
1089
1090 SV *
1091 filter_add(funcp, datasv)
1092     filter_t funcp;
1093     SV *datasv;
1094 {
1095     if (!funcp){ /* temporary handy debugging hack to be deleted */
1096         filter_debug = atoi((char*)datasv);
1097         return NULL;
1098     }
1099     if (!rsfp_filters)
1100         rsfp_filters = newAV();
1101     if (!datasv)
1102         datasv = newSV(0);
1103     if (!SvUPGRADE(datasv, SVt_PVIO))
1104         die("Can't upgrade filter_add data to SVt_PVIO");
1105     IoDIRP(datasv) = (DIR*)funcp; /* stash funcp into spare field */
1106     if (filter_debug)
1107         warn("filter_add func %p (%s)", funcp, SvPV(datasv,na));
1108     av_unshift(rsfp_filters, 1);
1109     av_store(rsfp_filters, 0, datasv) ;
1110     return(datasv);
1111 }
1112
1113
1114 /* Delete most recently added instance of this filter function. */
1115 void
1116 filter_del(funcp)
1117     filter_t funcp;
1118 {
1119     if (filter_debug)
1120         warn("filter_del func %p", funcp);
1121     if (!rsfp_filters || AvFILL(rsfp_filters)<0)
1122         return;
1123     /* if filter is on top of stack (usual case) just pop it off */
1124     if (IoDIRP(FILTER_DATA(0)) == (void*)funcp){
1125         /* sv_free(av_pop(rsfp_filters)); */
1126         sv_free(av_shift(rsfp_filters));
1127
1128         return;
1129     }
1130     /* we need to search for the correct entry and clear it     */
1131     die("filter_del can only delete in reverse order (currently)");
1132 }
1133
1134
1135 /* Invoke the n'th filter function for the current rsfp.         */
1136 I32
1137 filter_read(idx, buf_sv, maxlen)
1138     int idx;
1139     SV *buf_sv;
1140     int maxlen;         /* 0 = read one text line */
1141 {
1142     filter_t funcp;
1143     SV *datasv = NULL;
1144
1145     if (!rsfp_filters)
1146         return -1;
1147     if (idx > AvFILL(rsfp_filters)){       /* Any more filters? */
1148         /* Provide a default input filter to make life easy.    */
1149         /* Note that we append to the line. This is handy.      */
1150         if (filter_debug)
1151             warn("filter_read %d: from rsfp\n", idx);
1152         if (maxlen) {
1153             /* Want a block */
1154             int len ;
1155             int old_len = SvCUR(buf_sv) ;
1156
1157             /* ensure buf_sv is large enough */
1158             SvGROW(buf_sv, old_len + maxlen) ;
1159             if ((len = PerlIO_read(rsfp, SvPVX(buf_sv) + old_len, maxlen)) <= 0){
1160                 if (PerlIO_error(rsfp))
1161                     return -1;          /* error */
1162                 else
1163                     return 0 ;          /* end of file */
1164             }
1165             SvCUR_set(buf_sv, old_len + len) ;
1166         } else {
1167             /* Want a line */
1168             if (sv_gets(buf_sv, rsfp, SvCUR(buf_sv)) == NULL) {
1169                 if (PerlIO_error(rsfp))
1170                     return -1;          /* error */
1171                 else
1172                     return 0 ;          /* end of file */
1173             }
1174         }
1175         return SvCUR(buf_sv);
1176     }
1177     /* Skip this filter slot if filter has been deleted */
1178     if ( (datasv = FILTER_DATA(idx)) == &sv_undef){
1179         if (filter_debug)
1180             warn("filter_read %d: skipped (filter deleted)\n", idx);
1181         return FILTER_READ(idx+1, buf_sv, maxlen); /* recurse */
1182     }
1183     /* Get function pointer hidden within datasv        */
1184     funcp = (filter_t)IoDIRP(datasv);
1185     if (filter_debug)
1186         warn("filter_read %d: via function %p (%s)\n",
1187                 idx, funcp, SvPV(datasv,na));
1188     /* Call function. The function is expected to       */
1189     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
1190     /* Return: <0:error, =0:eof, >0:not eof             */
1191     return (*funcp)(idx, buf_sv, maxlen);
1192 }
1193
1194 static char *
1195 filter_gets(sv,fp, append)
1196 register SV *sv;
1197 register PerlIO *fp;
1198 STRLEN append;
1199 {
1200     if (rsfp_filters) {
1201
1202         if (!append)
1203             SvCUR_set(sv, 0);   /* start with empty line        */
1204         if (FILTER_READ(0, sv, 0) > 0)
1205             return ( SvPVX(sv) ) ;
1206         else
1207             return Nullch ;
1208     }
1209     else
1210         return (sv_gets(sv, fp, append));
1211
1212 }
1213
1214
1215 #ifdef DEBUGGING
1216     static char* exp_name[] =
1217         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "TERMBLOCK" };
1218 #endif
1219
1220 EXT int yychar;         /* last token */
1221
1222 int
1223 yylex()
1224 {
1225     register char *s;
1226     register char *d;
1227     register I32 tmp;
1228     STRLEN len;
1229
1230     if (pending_ident) {
1231         char pit = pending_ident;
1232         pending_ident = 0;
1233
1234         if (in_my) {
1235             if (strchr(tokenbuf,':'))
1236                 croak(no_myglob,tokenbuf);
1237             yylval.opval = newOP(OP_PADANY, 0);
1238             yylval.opval->op_targ = pad_allocmy(tokenbuf);
1239             return PRIVATEREF;
1240         }
1241
1242         if (!strchr(tokenbuf,':') && (tmp = pad_findmy(tokenbuf))) {
1243             if (last_lop_op == OP_SORT &&
1244                 tokenbuf[0] == '$' &&
1245                 (tokenbuf[1] == 'a' || tokenbuf[1] == 'b')
1246                 && !tokenbuf[2])
1247             {
1248                 for (d = in_eval ? oldoldbufptr : linestart;
1249                      d < bufend && *d != '\n';
1250                      d++)
1251                 {
1252                     if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
1253                         croak("Can't use \"my %s\" in sort comparison",
1254                               tokenbuf);
1255                     }
1256                 }
1257             }
1258
1259             yylval.opval = newOP(OP_PADANY, 0);
1260             yylval.opval->op_targ = tmp;
1261             return PRIVATEREF;
1262         }
1263
1264         /* Force them to make up their mind on "@foo". */
1265         if (pit == '@' && lex_state != LEX_NORMAL && !lex_brackets) {
1266             GV *gv = gv_fetchpv(tokenbuf+1, FALSE, SVt_PVAV);
1267             if (!gv || ((tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv))) {
1268                 char tmpbuf[1024];
1269                 sprintf(tmpbuf, "In string, %s now must be written as \\%s",
1270                         tokenbuf, tokenbuf);
1271                 yyerror(tmpbuf);
1272             }
1273         }
1274
1275         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf+1, 0));
1276         yylval.opval->op_private = OPpCONST_ENTERED;
1277         gv_fetchpv(tokenbuf+1, in_eval ? GV_ADDMULTI : TRUE,
1278                    ((tokenbuf[0] == '$') ? SVt_PV
1279                     : (tokenbuf[0] == '@') ? SVt_PVAV
1280                     : SVt_PVHV));
1281         return WORD;
1282     }
1283
1284     switch (lex_state) {
1285 #ifdef COMMENTARY
1286     case LEX_NORMAL:            /* Some compilers will produce faster */
1287     case LEX_INTERPNORMAL:      /* code if we comment these out. */
1288         break;
1289 #endif
1290
1291     case LEX_KNOWNEXT:
1292         nexttoke--;
1293         yylval = nextval[nexttoke];
1294         if (!nexttoke) {
1295             lex_state = lex_defer;
1296             expect = lex_expect;
1297             lex_defer = LEX_NORMAL;
1298         }
1299         return(nexttype[nexttoke]);
1300
1301     case LEX_INTERPCASEMOD:
1302 #ifdef DEBUGGING
1303         if (bufptr != bufend && *bufptr != '\\')
1304             croak("panic: INTERPCASEMOD");
1305 #endif
1306         if (bufptr == bufend || bufptr[1] == 'E') {
1307             char oldmod;
1308             if (lex_casemods) {
1309                 oldmod = lex_casestack[--lex_casemods];
1310                 lex_casestack[lex_casemods] = '\0';
1311                 if (bufptr != bufend && strchr("LUQ", oldmod)) {
1312                     bufptr += 2;
1313                     lex_state = LEX_INTERPCONCAT;
1314                 }
1315                 return ')';
1316             }
1317             if (bufptr != bufend)
1318                 bufptr += 2;
1319             lex_state = LEX_INTERPCONCAT;
1320             return yylex();
1321         }
1322         else {
1323             s = bufptr + 1;
1324             if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
1325                 tmp = *s, *s = s[2], s[2] = tmp;        /* misordered... */
1326             if (strchr("LU", *s) &&
1327                 (strchr(lex_casestack, 'L') || strchr(lex_casestack, 'U')))
1328             {
1329                 lex_casestack[--lex_casemods] = '\0';
1330                 return ')';
1331             }
1332             if (lex_casemods > 10) {
1333                 char* newlb = Renew(lex_casestack, lex_casemods + 2, char);
1334                 if (newlb != lex_casestack) {
1335                     SAVEFREEPV(newlb);
1336                     lex_casestack = newlb;
1337                 }
1338             }
1339             lex_casestack[lex_casemods++] = *s;
1340             lex_casestack[lex_casemods] = '\0';
1341             lex_state = LEX_INTERPCONCAT;
1342             nextval[nexttoke].ival = 0;
1343             force_next('(');
1344             if (*s == 'l')
1345                 nextval[nexttoke].ival = OP_LCFIRST;
1346             else if (*s == 'u')
1347                 nextval[nexttoke].ival = OP_UCFIRST;
1348             else if (*s == 'L')
1349                 nextval[nexttoke].ival = OP_LC;
1350             else if (*s == 'U')
1351                 nextval[nexttoke].ival = OP_UC;
1352             else if (*s == 'Q')
1353                 nextval[nexttoke].ival = OP_QUOTEMETA;
1354             else
1355                 croak("panic: yylex");
1356             bufptr = s + 1;
1357             force_next(FUNC);
1358             if (lex_starts) {
1359                 s = bufptr;
1360                 lex_starts = 0;
1361                 Aop(OP_CONCAT);
1362             }
1363             else
1364                 return yylex();
1365         }
1366
1367     case LEX_INTERPPUSH:
1368         return sublex_push();
1369
1370     case LEX_INTERPSTART:
1371         if (bufptr == bufend)
1372             return sublex_done();
1373         expect = XTERM;
1374         lex_dojoin = (*bufptr == '@');
1375         lex_state = LEX_INTERPNORMAL;
1376         if (lex_dojoin) {
1377             nextval[nexttoke].ival = 0;
1378             force_next(',');
1379             force_ident("\"", '$');
1380             nextval[nexttoke].ival = 0;
1381             force_next('$');
1382             nextval[nexttoke].ival = 0;
1383             force_next('(');
1384             nextval[nexttoke].ival = OP_JOIN;   /* emulate join($", ...) */
1385             force_next(FUNC);
1386         }
1387         if (lex_starts++) {
1388             s = bufptr;
1389             Aop(OP_CONCAT);
1390         }
1391         return yylex();
1392
1393     case LEX_INTERPENDMAYBE:
1394         if (intuit_more(bufptr)) {
1395             lex_state = LEX_INTERPNORMAL;       /* false alarm, more expr */
1396             break;
1397         }
1398         /* FALL THROUGH */
1399
1400     case LEX_INTERPEND:
1401         if (lex_dojoin) {
1402             lex_dojoin = FALSE;
1403             lex_state = LEX_INTERPCONCAT;
1404             return ')';
1405         }
1406         /* FALLTHROUGH */
1407     case LEX_INTERPCONCAT:
1408 #ifdef DEBUGGING
1409         if (lex_brackets)
1410             croak("panic: INTERPCONCAT");
1411 #endif
1412         if (bufptr == bufend)
1413             return sublex_done();
1414
1415         if (SvIVX(linestr) == '\'') {
1416             SV *sv = newSVsv(linestr);
1417             if (!lex_inpat)
1418                 sv = q(sv);
1419             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1420             s = bufend;
1421         }
1422         else {
1423             s = scan_const(bufptr);
1424             if (*s == '\\')
1425                 lex_state = LEX_INTERPCASEMOD;
1426             else
1427                 lex_state = LEX_INTERPSTART;
1428         }
1429
1430         if (s != bufptr) {
1431             nextval[nexttoke] = yylval;
1432             expect = XTERM;
1433             force_next(THING);
1434             if (lex_starts++)
1435                 Aop(OP_CONCAT);
1436             else {
1437                 bufptr = s;
1438                 return yylex();
1439             }
1440         }
1441
1442         return yylex();
1443     case LEX_FORMLINE:
1444         lex_state = LEX_NORMAL;
1445         s = scan_formline(bufptr);
1446         if (!lex_formbrack)
1447             goto rightbracket;
1448         OPERATOR(';');
1449     }
1450
1451     s = bufptr;
1452     oldoldbufptr = oldbufptr;
1453     oldbufptr = s;
1454     DEBUG_p( {
1455         PerlIO_printf(PerlIO_stderr(), "### Tokener expecting %s at %s\n", exp_name[expect], s);
1456     } )
1457
1458   retry:
1459     switch (*s) {
1460     default:
1461         croak("Unrecognized character \\%03o", *s & 255);
1462     case 4:
1463     case 26:
1464         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
1465     case 0:
1466         if (!rsfp) {
1467             last_uni = 0;
1468             last_lop = 0;
1469             if (lex_brackets)
1470                 yyerror("Missing right bracket");
1471             TOKEN(0);
1472         }
1473         if (s++ < bufend)
1474             goto retry;                 /* ignore stray nulls */
1475         last_uni = 0;
1476         last_lop = 0;
1477         if (!in_eval && !preambled) {
1478             preambled = TRUE;
1479             sv_setpv(linestr,incl_perldb());
1480             if (SvCUR(linestr))
1481                 sv_catpv(linestr,";");
1482             if (preambleav){
1483                 while(AvFILL(preambleav) >= 0) {
1484                     SV *tmpsv = av_shift(preambleav);
1485                     sv_catsv(linestr, tmpsv);
1486                     sv_catpv(linestr, ";");
1487                     sv_free(tmpsv);
1488                 }
1489                 sv_free((SV*)preambleav);
1490                 preambleav = NULL;
1491             }
1492             if (minus_n || minus_p) {
1493                 sv_catpv(linestr, "LINE: while (<>) {");
1494                 if (minus_l)
1495                     sv_catpv(linestr,"chomp;");
1496                 if (minus_a) {
1497                     GV* gv = gv_fetchpv("::F", TRUE, SVt_PVAV);
1498                     if (gv)
1499                         GvIMPORTED_AV_on(gv);
1500                     if (minus_F) {
1501                         char *tmpbuf1;
1502                         New(201, tmpbuf1, strlen(splitstr) * 2 + 20, char);
1503                         if (strchr("/'\"", *splitstr)
1504                               && strchr(splitstr + 1, *splitstr))
1505                             sprintf(tmpbuf1, "@F=split(%s);", splitstr);
1506                         else {
1507                             char delim;
1508                             s = "'~#\200\1'"; /* surely one char is unused...*/
1509                             while (s[1] && strchr(splitstr, *s))  s++;
1510                             delim = *s;
1511                             sprintf(tmpbuf1, "@F=split(%s%c",
1512                                     "q" + (delim == '\''), delim);
1513                             d = tmpbuf1 + strlen(tmpbuf1);
1514                             for (s = splitstr; *s; ) {
1515                                 if (*s == '\\')
1516                                     *d++ = '\\';
1517                                 *d++ = *s++;
1518                             }
1519                             sprintf(d, "%c);", delim);
1520                         }
1521                         sv_catpv(linestr,tmpbuf1);
1522                         Safefree(tmpbuf1);
1523                     }
1524                     else
1525                         sv_catpv(linestr,"@F=split(' ');");
1526                 }
1527             }
1528             sv_catpv(linestr, "\n");
1529             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1530             bufend = SvPVX(linestr) + SvCUR(linestr);
1531             if (perldb && curstash != debstash) {
1532                 SV *sv = NEWSV(85,0);
1533
1534                 sv_upgrade(sv, SVt_PVMG);
1535                 sv_setsv(sv,linestr);
1536                 av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1537             }
1538             goto retry;
1539         }
1540         do {
1541             if ((s = filter_gets(linestr, rsfp, 0)) == Nullch) {
1542               fake_eof:
1543                 if (rsfp) {
1544                     if (preprocess && !in_eval)
1545                         (void)my_pclose(rsfp);
1546                     else if ((PerlIO *)rsfp == PerlIO_stdin())
1547                         PerlIO_clearerr(rsfp);
1548                     else
1549                         (void)PerlIO_close(rsfp);
1550                     rsfp = Nullfp;
1551                 }
1552                 if (!in_eval && (minus_n || minus_p)) {
1553                     sv_setpv(linestr,minus_p ? ";}continue{print" : "");
1554                     sv_catpv(linestr,";}");
1555                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1556                     bufend = SvPVX(linestr) + SvCUR(linestr);
1557                     minus_n = minus_p = 0;
1558                     goto retry;
1559                 }
1560                 oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1561                 sv_setpv(linestr,"");
1562                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
1563             }
1564             if (doextract) {
1565                 if (*s == '#' && s[1] == '!' && instr(s,"perl"))
1566                     doextract = FALSE;
1567
1568                 /* Incest with pod. */
1569                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
1570                     sv_setpv(linestr, "");
1571                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1572                     bufend = SvPVX(linestr) + SvCUR(linestr);
1573                     doextract = FALSE;
1574                 }
1575             }
1576             incline(s);
1577         } while (doextract);
1578         oldoldbufptr = oldbufptr = bufptr = linestart = s;
1579         if (perldb && curstash != debstash) {
1580             SV *sv = NEWSV(85,0);
1581
1582             sv_upgrade(sv, SVt_PVMG);
1583             sv_setsv(sv,linestr);
1584             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1585         }
1586         bufend = SvPVX(linestr) + SvCUR(linestr);
1587         if (curcop->cop_line == 1) {
1588             while (s < bufend && isSPACE(*s))
1589                 s++;
1590             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
1591                 s++;
1592             d = Nullch;
1593             if (!in_eval) {
1594                 if (*s == '#' && *(s+1) == '!')
1595                     d = s + 2;
1596 #ifdef ALTERNATE_SHEBANG
1597                 else {
1598                     static char as[] = ALTERNATE_SHEBANG;
1599                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
1600                         d = s + (sizeof(as) - 1);
1601                 }
1602 #endif /* ALTERNATE_SHEBANG */
1603             }
1604             if (d) {
1605                 char *ipath;
1606                 char *ipathend;
1607
1608                 while (isSPACE(*d))
1609                     d++;
1610                 ipath = d;
1611                 while (*d && !isSPACE(*d))
1612                     d++;
1613                 ipathend = d;
1614
1615 #ifdef ARG_ZERO_IS_SCRIPT
1616                 if (ipathend > ipath) {
1617                     /*
1618                      * HP-UX (at least) sets argv[0] to the script name,
1619                      * which makes $^X incorrect.  And Digital UNIX and Linux,
1620                      * at least, set argv[0] to the basename of the Perl
1621                      * interpreter. So, having found "#!", we'll set it right.
1622                      */
1623                     SV *x = GvSV(gv_fetchpv("\030", TRUE, SVt_PV));
1624                     assert(SvPOK(x) || SvGMAGICAL(x));
1625                     if (sv_eq(x, GvSV(curcop->cop_filegv))) {
1626                         sv_setpvn(x, ipath, ipathend - ipath);
1627                         SvSETMAGIC(x);
1628                     }
1629                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
1630                 }
1631 #endif /* ARG_ZERO_IS_SCRIPT */
1632
1633                 /*
1634                  * Look for options.
1635                  */
1636                 d = instr(s,"perl -");
1637                 if (!d)
1638                     d = instr(s,"perl");
1639 #ifdef ALTERNATE_SHEBANG
1640                 /*
1641                  * If the ALTERNATE_SHEBANG on this system starts with a
1642                  * character that can be part of a Perl expression, then if
1643                  * we see it but not "perl", we're probably looking at the
1644                  * start of Perl code, not a request to hand off to some
1645                  * other interpreter.  Similarly, if "perl" is there, but
1646                  * not in the first 'word' of the line, we assume the line
1647                  * contains the start of the Perl program.
1648                  */
1649                 if (d && *s != '#') {
1650                     char *c = ipath;
1651                     while (*c && !strchr("; \t\r\n\f\v#", *c))
1652                         c++;
1653                     if (c < d)
1654                         d = Nullch;     /* "perl" not in first word; ignore */
1655                     else
1656                         *s = '#';       /* Don't try to parse shebang line */
1657                 }
1658 #endif /* ALTERNATE_SHEBANG */
1659                 if (!d &&
1660                     *s == '#' &&
1661                     ipathend > ipath &&
1662                     !minus_c &&
1663                     !instr(s,"indir") &&
1664                     instr(origargv[0],"perl"))
1665                 {
1666                     char **newargv;
1667
1668                     *ipathend = '\0';
1669                     s = ipathend + 1;
1670                     while (s < bufend && isSPACE(*s))
1671                         s++;
1672                     if (s < bufend) {
1673                         Newz(899,newargv,origargc+3,char*);
1674                         newargv[1] = s;
1675                         while (s < bufend && !isSPACE(*s))
1676                             s++;
1677                         *s = '\0';
1678                         Copy(origargv+1, newargv+2, origargc+1, char*);
1679                     }
1680                     else
1681                         newargv = origargv;
1682                     newargv[0] = ipath;
1683                     execv(ipath, newargv);
1684                     croak("Can't exec %s", ipath);
1685                 }
1686                 if (d) {
1687                     int oldpdb = perldb;
1688                     int oldn = minus_n;
1689                     int oldp = minus_p;
1690
1691                     while (*d && !isSPACE(*d)) d++;
1692                     while (*d == ' ' || *d == '\t') d++;
1693
1694                     if (*d++ == '-') {
1695                         while (d = moreswitches(d)) ;
1696                         if (perldb && !oldpdb ||
1697                             ( minus_n || minus_p ) && !(oldn || oldp) )
1698                               /* if we have already added "LINE: while (<>) {",
1699                                  we must not do it again */
1700                         {
1701                             sv_setpv(linestr, "");
1702                             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1703                             bufend = SvPVX(linestr) + SvCUR(linestr);
1704                             preambled = FALSE;
1705                             if (perldb)
1706                                 (void)gv_fetchfile(origfilename);
1707                             goto retry;
1708                         }
1709                     }
1710                 }
1711             }
1712         }
1713         if (lex_formbrack && lex_brackets <= lex_formbrack) {
1714             bufptr = s;
1715             lex_state = LEX_FORMLINE;
1716             return yylex();
1717         }
1718         goto retry;
1719     case '\r':
1720         warn("Illegal character \\%03o (carriage return)", '\r');
1721         croak(
1722       "(Maybe you didn't strip carriage returns after a network transfer?)\n");
1723     case ' ': case '\t': case '\f': case 013:
1724         s++;
1725         goto retry;
1726     case '#':
1727     case '\n':
1728         if (lex_state != LEX_NORMAL || (in_eval && !rsfp)) {
1729             d = bufend;
1730             while (s < d && *s != '\n')
1731                 s++;
1732             if (s < d)
1733                 s++;
1734             incline(s);
1735             if (lex_formbrack && lex_brackets <= lex_formbrack) {
1736                 bufptr = s;
1737                 lex_state = LEX_FORMLINE;
1738                 return yylex();
1739             }
1740         }
1741         else {
1742             *s = '\0';
1743             bufend = s;
1744         }
1745         goto retry;
1746     case '-':
1747         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
1748             s++;
1749             bufptr = s;
1750             tmp = *s++;
1751
1752             while (s < bufend && (*s == ' ' || *s == '\t'))
1753                 s++;
1754
1755             if (strnEQ(s,"=>",2)) {
1756                 if (dowarn)
1757                     warn("Ambiguous use of -%c => resolved to \"-%c\" =>",
1758                         (int)tmp, (int)tmp);
1759                 s = force_word(bufptr,WORD,FALSE,FALSE,FALSE);
1760                 OPERATOR('-');          /* unary minus */
1761             }
1762             last_uni = oldbufptr;
1763             last_lop_op = OP_FTEREAD;   /* good enough */
1764             switch (tmp) {
1765             case 'r': FTST(OP_FTEREAD);
1766             case 'w': FTST(OP_FTEWRITE);
1767             case 'x': FTST(OP_FTEEXEC);
1768             case 'o': FTST(OP_FTEOWNED);
1769             case 'R': FTST(OP_FTRREAD);
1770             case 'W': FTST(OP_FTRWRITE);
1771             case 'X': FTST(OP_FTREXEC);
1772             case 'O': FTST(OP_FTROWNED);
1773             case 'e': FTST(OP_FTIS);
1774             case 'z': FTST(OP_FTZERO);
1775             case 's': FTST(OP_FTSIZE);
1776             case 'f': FTST(OP_FTFILE);
1777             case 'd': FTST(OP_FTDIR);
1778             case 'l': FTST(OP_FTLINK);
1779             case 'p': FTST(OP_FTPIPE);
1780             case 'S': FTST(OP_FTSOCK);
1781             case 'u': FTST(OP_FTSUID);
1782             case 'g': FTST(OP_FTSGID);
1783             case 'k': FTST(OP_FTSVTX);
1784             case 'b': FTST(OP_FTBLK);
1785             case 'c': FTST(OP_FTCHR);
1786             case 't': FTST(OP_FTTTY);
1787             case 'T': FTST(OP_FTTEXT);
1788             case 'B': FTST(OP_FTBINARY);
1789             case 'M': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTMTIME);
1790             case 'A': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTATIME);
1791             case 'C': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTCTIME);
1792             default:
1793                 croak("Unrecognized file test: -%c", (int)tmp);
1794                 break;
1795             }
1796         }
1797         tmp = *s++;
1798         if (*s == tmp) {
1799             s++;
1800             if (expect == XOPERATOR)
1801                 TERM(POSTDEC);
1802             else
1803                 OPERATOR(PREDEC);
1804         }
1805         else if (*s == '>') {
1806             s++;
1807             s = skipspace(s);
1808             if (isIDFIRST(*s)) {
1809                 s = force_word(s,METHOD,FALSE,TRUE,FALSE);
1810                 TOKEN(ARROW);
1811             }
1812             else if (*s == '$')
1813                 OPERATOR(ARROW);
1814             else
1815                 TERM(ARROW);
1816         }
1817         if (expect == XOPERATOR)
1818             Aop(OP_SUBTRACT);
1819         else {
1820             if (isSPACE(*s) || !isSPACE(*bufptr))
1821                 check_uni();
1822             OPERATOR('-');              /* unary minus */
1823         }
1824
1825     case '+':
1826         tmp = *s++;
1827         if (*s == tmp) {
1828             s++;
1829             if (expect == XOPERATOR)
1830                 TERM(POSTINC);
1831             else
1832                 OPERATOR(PREINC);
1833         }
1834         if (expect == XOPERATOR)
1835             Aop(OP_ADD);
1836         else {
1837             if (isSPACE(*s) || !isSPACE(*bufptr))
1838                 check_uni();
1839             OPERATOR('+');
1840         }
1841
1842     case '*':
1843         if (expect != XOPERATOR) {
1844             s = scan_ident(s, bufend, tokenbuf, TRUE);
1845             expect = XOPERATOR;
1846             force_ident(tokenbuf, '*');
1847             if (!*tokenbuf)
1848                 PREREF('*');
1849             TERM('*');
1850         }
1851         s++;
1852         if (*s == '*') {
1853             s++;
1854             PWop(OP_POW);
1855         }
1856         Mop(OP_MULTIPLY);
1857
1858     case '%':
1859         if (expect == XOPERATOR) {
1860             ++s;
1861             Mop(OP_MODULO);
1862         }
1863         tokenbuf[0] = '%';
1864         s = scan_ident(s, bufend, tokenbuf+1, TRUE);
1865         if (!tokenbuf[1]) {
1866             if (s == bufend)
1867                 yyerror("Final % should be \\% or %name");
1868             PREREF('%');
1869         }
1870         pending_ident = '%';
1871         TERM('%');
1872
1873     case '^':
1874         s++;
1875         BOop(OP_BIT_XOR);
1876     case '[':
1877         lex_brackets++;
1878         /* FALL THROUGH */
1879     case '~':
1880     case ',':
1881         tmp = *s++;
1882         OPERATOR(tmp);
1883     case ':':
1884         if (s[1] == ':') {
1885             len = 0;
1886             goto just_a_word;
1887         }
1888         s++;
1889         OPERATOR(':');
1890     case '(':
1891         s++;
1892         if (last_lop == oldoldbufptr || last_uni == oldoldbufptr)
1893             oldbufptr = oldoldbufptr;           /* allow print(STDOUT 123) */
1894         else
1895             expect = XTERM;
1896         TOKEN('(');
1897     case ';':
1898         if (curcop->cop_line < copline)
1899             copline = curcop->cop_line;
1900         tmp = *s++;
1901         OPERATOR(tmp);
1902     case ')':
1903         tmp = *s++;
1904         s = skipspace(s);
1905         if (*s == '{')
1906             PREBLOCK(tmp);
1907         TERM(tmp);
1908     case ']':
1909         s++;
1910         if (lex_brackets <= 0)
1911             yyerror("Unmatched right bracket");
1912         else
1913             --lex_brackets;
1914         if (lex_state == LEX_INTERPNORMAL) {
1915             if (lex_brackets == 0) {
1916                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
1917                     lex_state = LEX_INTERPEND;
1918             }
1919         }
1920         TERM(']');
1921     case '{':
1922       leftbracket:
1923         s++;
1924         if (lex_brackets > 100) {
1925             char* newlb = Renew(lex_brackstack, lex_brackets + 1, char);
1926             if (newlb != lex_brackstack) {
1927                 SAVEFREEPV(newlb);
1928                 lex_brackstack = newlb;
1929             }
1930         }
1931         switch (expect) {
1932         case XTERM:
1933             if (lex_formbrack) {
1934                 s--;
1935                 PRETERMBLOCK(DO);
1936             }
1937             if (oldoldbufptr == last_lop)
1938                 lex_brackstack[lex_brackets++] = XTERM;
1939             else
1940                 lex_brackstack[lex_brackets++] = XOPERATOR;
1941             OPERATOR(HASHBRACK);
1942         case XOPERATOR:
1943             while (s < bufend && (*s == ' ' || *s == '\t'))
1944                 s++;
1945             d = s;
1946             tokenbuf[0] = '\0';
1947             if (d < bufend && *d == '-') {
1948                 tokenbuf[0] = '-';
1949                 d++;
1950                 while (d < bufend && (*d == ' ' || *d == '\t'))
1951                     d++;
1952             }
1953             if (d < bufend && isIDFIRST(*d)) {
1954                 d = scan_word(d, tokenbuf + 1, FALSE, &len);
1955                 while (d < bufend && (*d == ' ' || *d == '\t'))
1956                     d++;
1957                 if (*d == '}') {
1958                     char minus = (tokenbuf[0] == '-');
1959                     if (dowarn &&
1960                         (keyword(tokenbuf + 1, len) ||
1961                          (minus && len == 1 && isALPHA(tokenbuf[1])) ||
1962                          perl_get_cv(tokenbuf + 1, FALSE) ))
1963                         warn("Ambiguous use of {%s} resolved to {\"%s\"}",
1964                              tokenbuf + !minus, tokenbuf + !minus);
1965                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
1966                     if (minus)
1967                         force_next('-');
1968                 }
1969             }
1970             /* FALL THROUGH */
1971         case XBLOCK:
1972             lex_brackstack[lex_brackets++] = XSTATE;
1973             expect = XSTATE;
1974             break;
1975         case XTERMBLOCK:
1976             lex_brackstack[lex_brackets++] = XOPERATOR;
1977             expect = XSTATE;
1978             break;
1979         default: {
1980                 char *t;
1981                 if (oldoldbufptr == last_lop)
1982                     lex_brackstack[lex_brackets++] = XTERM;
1983                 else
1984                     lex_brackstack[lex_brackets++] = XOPERATOR;
1985                 s = skipspace(s);
1986                 if (*s == '}')
1987                     OPERATOR(HASHBRACK);
1988                 if (isALPHA(*s)) {
1989                     for (t = s; t < bufend && isALNUM(*t); t++) ;
1990                 }
1991                 else if (*s == '\'' || *s == '"') {
1992                     t = strchr(s+1,*s);
1993                     if (!t++)
1994                         t = s;
1995                 }
1996                 else
1997                     t = s;
1998                 while (t < bufend && isSPACE(*t))
1999                     t++;
2000                 if ((*t == ',' && !isLOWER(*s)) || (*t == '=' && t[1] == '>'))
2001                     OPERATOR(HASHBRACK);
2002                 if (expect == XREF)
2003                     expect = XTERM;
2004                 else {
2005                     lex_brackstack[lex_brackets-1] = XSTATE;
2006                     expect = XSTATE;
2007                 }
2008             }
2009             break;
2010         }
2011         yylval.ival = curcop->cop_line;
2012         if (isSPACE(*s) || *s == '#')
2013             copline = NOLINE;   /* invalidate current command line number */
2014         TOKEN('{');
2015     case '}':
2016       rightbracket:
2017         s++;
2018         if (lex_brackets <= 0)
2019             yyerror("Unmatched right bracket");
2020         else
2021             expect = (expectation)lex_brackstack[--lex_brackets];
2022         if (lex_brackets < lex_formbrack)
2023             lex_formbrack = 0;
2024         if (lex_state == LEX_INTERPNORMAL) {
2025             if (lex_brackets == 0) {
2026                 if (lex_fakebrack) {
2027                     lex_state = LEX_INTERPEND;
2028                     bufptr = s;
2029                     return yylex();             /* ignore fake brackets */
2030                 }
2031                 if (*s == '-' && s[1] == '>')
2032                     lex_state = LEX_INTERPENDMAYBE;
2033                 else if (*s != '[' && *s != '{')
2034                     lex_state = LEX_INTERPEND;
2035             }
2036         }
2037         if (lex_brackets < lex_fakebrack) {
2038             bufptr = s;
2039             lex_fakebrack = 0;
2040             return yylex();             /* ignore fake brackets */
2041         }
2042         force_next('}');
2043         TOKEN(';');
2044     case '&':
2045         s++;
2046         tmp = *s++;
2047         if (tmp == '&')
2048             AOPERATOR(ANDAND);
2049         s--;
2050         if (expect == XOPERATOR) {
2051             if (dowarn && isALPHA(*s) && bufptr == linestart) {
2052                 curcop->cop_line--;
2053                 warn(warn_nosemi);
2054                 curcop->cop_line++;
2055             }
2056             BAop(OP_BIT_AND);
2057         }
2058
2059         s = scan_ident(s-1, bufend, tokenbuf, TRUE);
2060         if (*tokenbuf) {
2061             expect = XOPERATOR;
2062             force_ident(tokenbuf, '&');
2063         }
2064         else
2065             PREREF('&');
2066         yylval.ival = (OPpENTERSUB_AMPER<<8);
2067         TERM('&');
2068
2069     case '|':
2070         s++;
2071         tmp = *s++;
2072         if (tmp == '|')
2073             AOPERATOR(OROR);
2074         s--;
2075         BOop(OP_BIT_OR);
2076     case '=':
2077         s++;
2078         tmp = *s++;
2079         if (tmp == '=')
2080             Eop(OP_EQ);
2081         if (tmp == '>')
2082             OPERATOR(',');
2083         if (tmp == '~')
2084             PMop(OP_MATCH);
2085         if (dowarn && tmp && isSPACE(*s) && strchr("+-*/%.^&|<",tmp))
2086             warn("Reversed %c= operator",(int)tmp);
2087         s--;
2088         if (expect == XSTATE && isALPHA(tmp) &&
2089                 (s == linestart+1 || s[-2] == '\n') )
2090         {
2091             if (in_eval && !rsfp) {
2092                 d = bufend;
2093                 while (s < d) {
2094                     if (*s++ == '\n') {
2095                         incline(s);
2096                         if (strnEQ(s,"=cut",4)) {
2097                             s = strchr(s,'\n');
2098                             if (s)
2099                                 s++;
2100                             else
2101                                 s = d;
2102                             incline(s);
2103                             goto retry;
2104                         }
2105                     }
2106                 }
2107                 goto retry;
2108             }
2109             s = bufend;
2110             doextract = TRUE;
2111             goto retry;
2112         }
2113         if (lex_brackets < lex_formbrack) {
2114             char *t;
2115             for (t = s; *t == ' ' || *t == '\t'; t++) ;
2116             if (*t == '\n' || *t == '#') {
2117                 s--;
2118                 expect = XBLOCK;
2119                 goto leftbracket;
2120             }
2121         }
2122         yylval.ival = 0;
2123         OPERATOR(ASSIGNOP);
2124     case '!':
2125         s++;
2126         tmp = *s++;
2127         if (tmp == '=')
2128             Eop(OP_NE);
2129         if (tmp == '~')
2130             PMop(OP_NOT);
2131         s--;
2132         OPERATOR('!');
2133     case '<':
2134         if (expect != XOPERATOR) {
2135             if (s[1] != '<' && !strchr(s,'>'))
2136                 check_uni();
2137             if (s[1] == '<')
2138                 s = scan_heredoc(s);
2139             else
2140                 s = scan_inputsymbol(s);
2141             TERM(sublex_start());
2142         }
2143         s++;
2144         tmp = *s++;
2145         if (tmp == '<')
2146             SHop(OP_LEFT_SHIFT);
2147         if (tmp == '=') {
2148             tmp = *s++;
2149             if (tmp == '>')
2150                 Eop(OP_NCMP);
2151             s--;
2152             Rop(OP_LE);
2153         }
2154         s--;
2155         Rop(OP_LT);
2156     case '>':
2157         s++;
2158         tmp = *s++;
2159         if (tmp == '>')
2160             SHop(OP_RIGHT_SHIFT);
2161         if (tmp == '=')
2162             Rop(OP_GE);
2163         s--;
2164         Rop(OP_GT);
2165
2166     case '$':
2167         CLINE;
2168
2169         if (expect == XOPERATOR) {
2170             if (lex_formbrack && lex_brackets == lex_formbrack) {
2171                 expect = XTERM;
2172                 depcom();
2173                 return ','; /* grandfather non-comma-format format */
2174             }
2175         }
2176
2177         if (s[1] == '#' && (isALPHA(s[2]) || strchr("_{$:", s[2]))) {
2178             if (expect == XOPERATOR)
2179                 no_op("Array length", bufptr);
2180             tokenbuf[0] = '@';
2181             s = scan_ident(s+1, bufend, tokenbuf+1, FALSE);
2182             if (!tokenbuf[1])
2183                 PREREF(DOLSHARP);
2184             expect = XOPERATOR;
2185             pending_ident = '#';
2186             TOKEN(DOLSHARP);
2187         }
2188
2189         if (expect == XOPERATOR)
2190             no_op("Scalar", bufptr);
2191         tokenbuf[0] = '$';
2192         s = scan_ident(s, bufend, tokenbuf+1, FALSE);
2193         if (!tokenbuf[1]) {
2194             if (s == bufend)
2195                 yyerror("Final $ should be \\$ or $name");
2196             PREREF('$');
2197         }
2198
2199         /* This kludge not intended to be bulletproof. */
2200         if (tokenbuf[1] == '[' && !tokenbuf[2]) {
2201             yylval.opval = newSVOP(OP_CONST, 0,
2202                                    newSViv((IV)compiling.cop_arybase));
2203             yylval.opval->op_private = OPpCONST_ARYBASE;
2204             TERM(THING);
2205         }
2206
2207         d = s;
2208         if (lex_state == LEX_NORMAL)
2209             s = skipspace(s);
2210
2211         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2212             char *t;
2213             if (*s == '[') {
2214                 tokenbuf[0] = '@';
2215                 if (dowarn) {
2216                     for(t = s + 1;
2217                         isSPACE(*t) || isALNUM(*t) || *t == '$';
2218                         t++) ;
2219                     if (*t++ == ',') {
2220                         bufptr = skipspace(bufptr);
2221                         while (t < bufend && *t != ']')
2222                             t++;
2223                         warn("Multidimensional syntax %.*s not supported",
2224                              (t - bufptr) + 1, bufptr);
2225                     }
2226                 }
2227             }
2228             else if (*s == '{') {
2229                 tokenbuf[0] = '%';
2230                 if (dowarn && strEQ(tokenbuf+1, "SIG") &&
2231                     (t = strchr(s, '}')) && (t = strchr(t, '=')))
2232                 {
2233                     char tmpbuf[1024];
2234                     STRLEN len;
2235                     for (t++; isSPACE(*t); t++) ;
2236                     if (isIDFIRST(*t)) {
2237                         t = scan_word(t, tmpbuf, TRUE, &len);
2238                         if (*t != '(' && perl_get_cv(tmpbuf, FALSE))
2239                             warn("You need to quote \"%s\"", tmpbuf);
2240                     }
2241                 }
2242             }
2243         }
2244
2245         expect = XOPERATOR;
2246         if (lex_state == LEX_NORMAL && isSPACE(*d)) {
2247             bool islop = (last_lop == oldoldbufptr);
2248             if (!islop || last_lop_op == OP_GREPSTART)
2249                 expect = XOPERATOR;
2250             else if (strchr("$@\"'`q", *s))
2251                 expect = XTERM;         /* e.g. print $fh "foo" */
2252             else if (strchr("&*<%", *s) && isIDFIRST(s[1]))
2253                 expect = XTERM;         /* e.g. print $fh &sub */
2254             else if (isIDFIRST(*s)) {
2255                 char tmpbuf[1024];
2256                 scan_word(s, tmpbuf, TRUE, &len);
2257                 if (keyword(tmpbuf, len))
2258                     expect = XTERM;     /* e.g. print $fh length() */
2259                 else {
2260                     GV *gv = gv_fetchpv(tmpbuf, FALSE, SVt_PVCV);
2261                     if (gv && GvCVu(gv))
2262                         expect = XTERM; /* e.g. print $fh subr() */
2263                 }
2264             }
2265             else if (isDIGIT(*s))
2266                 expect = XTERM;         /* e.g. print $fh 3 */
2267             else if (*s == '.' && isDIGIT(s[1]))
2268                 expect = XTERM;         /* e.g. print $fh .3 */
2269             else if (strchr("/?-+", *s) && !isSPACE(s[1]))
2270                 expect = XTERM;         /* e.g. print $fh -1 */
2271             else if (*s == '<' && s[1] == '<' && !isSPACE(s[2]))
2272                 expect = XTERM;         /* print $fh <<"EOF" */
2273         }
2274         pending_ident = '$';
2275         TOKEN('$');
2276
2277     case '@':
2278         if (expect == XOPERATOR)
2279             no_op("Array", s);
2280         tokenbuf[0] = '@';
2281         s = scan_ident(s, bufend, tokenbuf+1, FALSE);
2282         if (!tokenbuf[1]) {
2283             if (s == bufend)
2284                 yyerror("Final @ should be \\@ or @name");
2285             PREREF('@');
2286         }
2287         if (lex_state == LEX_NORMAL)
2288             s = skipspace(s);
2289         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2290             if (*s == '{')
2291                 tokenbuf[0] = '%';
2292
2293             /* Warn about @ where they meant $. */
2294             if (dowarn) {
2295                 if (*s == '[' || *s == '{') {
2296                     char *t = s + 1;
2297                     while (*t && (isALNUM(*t) || strchr(" \t$#+-'\"", *t)))
2298                         t++;
2299                     if (*t == '}' || *t == ']') {
2300                         t++;
2301                         bufptr = skipspace(bufptr);
2302                         warn("Scalar value %.*s better written as $%.*s",
2303                             t-bufptr, bufptr, t-bufptr-1, bufptr+1);
2304                     }
2305                 }
2306             }
2307         }
2308         pending_ident = '@';
2309         TERM('@');
2310
2311     case '/':                   /* may either be division or pattern */
2312     case '?':                   /* may either be conditional or pattern */
2313         if (expect != XOPERATOR) {
2314             check_uni();
2315             s = scan_pat(s);
2316             TERM(sublex_start());
2317         }
2318         tmp = *s++;
2319         if (tmp == '/')
2320             Mop(OP_DIVIDE);
2321         OPERATOR(tmp);
2322
2323     case '.':
2324         if (lex_formbrack && lex_brackets == lex_formbrack && s[1] == '\n' &&
2325                 (s == linestart || s[-1] == '\n') ) {
2326             lex_formbrack = 0;
2327             expect = XSTATE;
2328             goto rightbracket;
2329         }
2330         if (expect == XOPERATOR || !isDIGIT(s[1])) {
2331             tmp = *s++;
2332             if (*s == tmp) {
2333                 s++;
2334                 if (*s == tmp) {
2335                     s++;
2336                     yylval.ival = OPf_SPECIAL;
2337                 }
2338                 else
2339                     yylval.ival = 0;
2340                 OPERATOR(DOTDOT);
2341             }
2342             if (expect != XOPERATOR)
2343                 check_uni();
2344             Aop(OP_CONCAT);
2345         }
2346         /* FALL THROUGH */
2347     case '0': case '1': case '2': case '3': case '4':
2348     case '5': case '6': case '7': case '8': case '9':
2349         s = scan_num(s);
2350         if (expect == XOPERATOR)
2351             no_op("Number",s);
2352         TERM(THING);
2353
2354     case '\'':
2355         s = scan_str(s);
2356         if (expect == XOPERATOR) {
2357             if (lex_formbrack && lex_brackets == lex_formbrack) {
2358                 expect = XTERM;
2359                 depcom();
2360                 return ',';     /* grandfather non-comma-format format */
2361             }
2362             else
2363                 no_op("String",s);
2364         }
2365         if (!s)
2366             missingterm((char*)0);
2367         yylval.ival = OP_CONST;
2368         TERM(sublex_start());
2369
2370     case '"':
2371         s = scan_str(s);
2372         if (expect == XOPERATOR) {
2373             if (lex_formbrack && lex_brackets == lex_formbrack) {
2374                 expect = XTERM;
2375                 depcom();
2376                 return ',';     /* grandfather non-comma-format format */
2377             }
2378             else
2379                 no_op("String",s);
2380         }
2381         if (!s)
2382             missingterm((char*)0);
2383         yylval.ival = OP_CONST;
2384         for (d = SvPV(lex_stuff, len); len; len--, d++) {
2385             if (*d == '$' || *d == '@' || *d == '\\') {
2386                 yylval.ival = OP_STRINGIFY;
2387                 break;
2388             }
2389         }
2390         TERM(sublex_start());
2391
2392     case '`':
2393         s = scan_str(s);
2394         if (expect == XOPERATOR)
2395             no_op("Backticks",s);
2396         if (!s)
2397             missingterm((char*)0);
2398         yylval.ival = OP_BACKTICK;
2399         set_csh();
2400         TERM(sublex_start());
2401
2402     case '\\':
2403         s++;
2404         if (dowarn && lex_inwhat && isDIGIT(*s))
2405             warn("Can't use \\%c to mean $%c in expression", *s, *s);
2406         if (expect == XOPERATOR)
2407             no_op("Backslash",s);
2408         OPERATOR(REFGEN);
2409
2410     case 'x':
2411         if (isDIGIT(s[1]) && expect == XOPERATOR) {
2412             s++;
2413             Mop(OP_REPEAT);
2414         }
2415         goto keylookup;
2416
2417     case '_':
2418     case 'a': case 'A':
2419     case 'b': case 'B':
2420     case 'c': case 'C':
2421     case 'd': case 'D':
2422     case 'e': case 'E':
2423     case 'f': case 'F':
2424     case 'g': case 'G':
2425     case 'h': case 'H':
2426     case 'i': case 'I':
2427     case 'j': case 'J':
2428     case 'k': case 'K':
2429     case 'l': case 'L':
2430     case 'm': case 'M':
2431     case 'n': case 'N':
2432     case 'o': case 'O':
2433     case 'p': case 'P':
2434     case 'q': case 'Q':
2435     case 'r': case 'R':
2436     case 's': case 'S':
2437     case 't': case 'T':
2438     case 'u': case 'U':
2439     case 'v': case 'V':
2440     case 'w': case 'W':
2441               case 'X':
2442     case 'y': case 'Y':
2443     case 'z': case 'Z':
2444
2445       keylookup:
2446         bufptr = s;
2447         s = scan_word(s, tokenbuf, FALSE, &len);
2448
2449         /* Some keywords can be followed by any delimiter, including ':' */
2450         tmp = (len == 1 && strchr("msyq", tokenbuf[0]) ||
2451                len == 2 && ((tokenbuf[0] == 't' && tokenbuf[1] == 'r') ||
2452                             (tokenbuf[0] == 'q' &&
2453                              strchr("qwx", tokenbuf[1]))));
2454
2455         /* x::* is just a word, unless x is "CORE" */
2456         if (!tmp && *s == ':' && s[1] == ':' && strNE(tokenbuf, "CORE"))
2457             goto just_a_word;
2458
2459         d = s;
2460         while (d < bufend && isSPACE(*d))
2461                 d++;    /* no comments skipped here, or s### is misparsed */
2462
2463         /* Is this a label? */
2464         if (!tmp && expect == XSTATE
2465               && d < bufend && *d == ':' && *(d + 1) != ':') {
2466             s = d + 1;
2467             yylval.pval = savepv(tokenbuf);
2468             CLINE;
2469             TOKEN(LABEL);
2470         }
2471
2472         /* Check for keywords */
2473         tmp = keyword(tokenbuf, len);
2474
2475         /* Is this a word before a => operator? */
2476         if (strnEQ(d,"=>",2)) {
2477             CLINE;
2478             if (dowarn && (tmp || perl_get_cv(tokenbuf, FALSE)))
2479                 warn("Ambiguous use of %s => resolved to \"%s\" =>",
2480                         tokenbuf, tokenbuf);
2481             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2482             yylval.opval->op_private = OPpCONST_BARE;
2483             TERM(WORD);
2484         }
2485
2486         if (tmp < 0) {                  /* second-class keyword? */
2487             GV* gv;
2488             if (expect != XOPERATOR &&
2489                 (*s != ':' || s[1] != ':') &&
2490                 (gv = gv_fetchpv(tokenbuf, FALSE, SVt_PVCV)) &&
2491                 GvIMPORTED_CV(gv))
2492             {
2493                 tmp = 0;
2494             }
2495             else
2496                 tmp = -tmp;
2497         }
2498
2499       reserved_word:
2500         switch (tmp) {
2501
2502         default:                        /* not a keyword */
2503           just_a_word: {
2504                 GV *gv;
2505                 char lastchar = (bufptr == oldoldbufptr ? 0 : bufptr[-1]);
2506
2507                 /* Get the rest if it looks like a package qualifier */
2508
2509                 if (*s == '\'' || *s == ':' && s[1] == ':') {
2510                     s = scan_word(s, tokenbuf + len, TRUE, &len);
2511                     if (!len)
2512                         croak("Bad name after %s::", tokenbuf);
2513                 }
2514
2515                 if (expect == XOPERATOR) {
2516                     if (bufptr == linestart) {
2517                         curcop->cop_line--;
2518                         warn(warn_nosemi);
2519                         curcop->cop_line++;
2520                     }
2521                     else
2522                         no_op("Bareword",s);
2523                 }
2524
2525                 /* Look for a subroutine with this name in current package. */
2526
2527                 gv = gv_fetchpv(tokenbuf,FALSE, SVt_PVCV);
2528
2529                 /* Presume this is going to be a bareword of some sort. */
2530
2531                 CLINE;
2532                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2533                 yylval.opval->op_private = OPpCONST_BARE;
2534
2535                 /* See if it's the indirect object for a list operator. */
2536
2537                 if (oldoldbufptr &&
2538                     oldoldbufptr < bufptr &&
2539                     (oldoldbufptr == last_lop || oldoldbufptr == last_uni) &&
2540                     /* NO SKIPSPACE BEFORE HERE! */
2541                     (expect == XREF ||
2542                      (opargs[last_lop_op] >> OASHIFT & 7) == OA_FILEREF) )
2543                 {
2544                     bool immediate_paren = *s == '(';
2545
2546                     /* (Now we can afford to cross potential line boundary.) */
2547                     s = skipspace(s);
2548
2549                     /* Two barewords in a row may indicate method call. */
2550
2551                     if ((isALPHA(*s) || *s == '$') && (tmp=intuit_method(s,gv)))
2552                         return tmp;
2553
2554                     /* If not a declared subroutine, it's an indirect object. */
2555                     /* (But it's an indir obj regardless for sort.) */
2556
2557                     if ((last_lop_op == OP_SORT ||
2558                          (!immediate_paren && (!gv || !GvCVu(gv))) ) &&
2559                         (last_lop_op != OP_MAPSTART && last_lop_op != OP_GREPSTART)){
2560                         expect = (last_lop == oldoldbufptr) ? XTERM : XOPERATOR;
2561                         goto bareword;
2562                     }
2563                 }
2564
2565                 /* If followed by a paren, it's certainly a subroutine. */
2566
2567                 expect = XOPERATOR;
2568                 s = skipspace(s);
2569                 if (*s == '(') {
2570                     CLINE;
2571                     nextval[nexttoke].opval = yylval.opval;
2572                     expect = XOPERATOR;
2573                     force_next(WORD);
2574                     yylval.ival = 0;
2575                     TOKEN('&');
2576                 }
2577
2578                 /* If followed by var or block, call it a method (unless sub) */
2579
2580                 if ((*s == '$' || *s == '{') && (!gv || !GvCVu(gv))) {
2581                     last_lop = oldbufptr;
2582                     last_lop_op = OP_METHOD;
2583                     PREBLOCK(METHOD);
2584                 }
2585
2586                 /* If followed by a bareword, see if it looks like indir obj. */
2587
2588                 if ((isALPHA(*s) || *s == '$') && (tmp = intuit_method(s,gv)))
2589                     return tmp;
2590
2591                 /* Not a method, so call it a subroutine (if defined) */
2592
2593                 if (gv && GvCVu(gv)) {
2594                     CV* cv = GvCV(gv);
2595                     if (*s == '(') {
2596                         nextval[nexttoke].opval = yylval.opval;
2597                         expect = XTERM;
2598                         force_next(WORD);
2599                         yylval.ival = 0;
2600                         TOKEN('&');
2601                     }
2602                     if (lastchar == '-')
2603                         warn("Ambiguous use of -%s resolved as -&%s()",
2604                                 tokenbuf, tokenbuf);
2605                     last_lop = oldbufptr;
2606                     last_lop_op = OP_ENTERSUB;
2607                     /* Check for a constant sub */
2608                     {
2609                         SV *sv = cv_const_sv(cv);
2610                         if (sv) {
2611                             SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
2612                             ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc(sv);
2613                             yylval.opval->op_private = 0;
2614                             TOKEN(WORD);
2615                         }
2616                     }
2617
2618                     /* Resolve to GV now. */
2619                     op_free(yylval.opval);
2620                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
2621                     /* Is there a prototype? */
2622                     if (SvPOK(cv)) {
2623                         STRLEN len;
2624                         char *proto = SvPV((SV*)cv, len);
2625                         if (!len)
2626                             TERM(FUNC0SUB);
2627                         if (strEQ(proto, "$"))
2628                             OPERATOR(UNIOPSUB);
2629                         if (*proto == '&' && *s == '{') {
2630                             sv_setpv(subname,"__ANON__");
2631                             PREBLOCK(LSTOPSUB);
2632                         }
2633                     }
2634                     nextval[nexttoke].opval = yylval.opval;
2635                     expect = XTERM;
2636                     force_next(WORD);
2637                     TOKEN(NOAMP);
2638                 }
2639
2640                 if (hints & HINT_STRICT_SUBS &&
2641                     lastchar != '-' &&
2642                     strnNE(s,"->",2) &&
2643                     last_lop_op != OP_TRUNCATE &&  /* S/F prototype in opcode.pl */
2644                     last_lop_op != OP_ACCEPT &&
2645                     last_lop_op != OP_PIPE_OP &&
2646                     last_lop_op != OP_SOCKPAIR)
2647                 {
2648                     warn(
2649                      "Bareword \"%s\" not allowed while \"strict subs\" in use",
2650                         tokenbuf);
2651                     ++error_count;
2652                 }
2653
2654                 /* Call it a bare word */
2655
2656             bareword:
2657                 if (dowarn) {
2658                     if (lastchar != '-') {
2659                         for (d = tokenbuf; *d && isLOWER(*d); d++) ;
2660                         if (!*d)
2661                             warn(warn_reserved, tokenbuf);
2662                     }
2663                 }
2664                 if (lastchar && strchr("*%&", lastchar)) {
2665                     warn("Operator or semicolon missing before %c%s",
2666                         lastchar, tokenbuf);
2667                     warn("Ambiguous use of %c resolved as operator %c",
2668                         lastchar, lastchar);
2669                 }
2670                 TOKEN(WORD);
2671             }
2672
2673         case KEY___FILE__:
2674         case KEY___LINE__:
2675             if (tokenbuf[2] == 'L')
2676                 (void)sprintf(tokenbuf,"%ld",(long)curcop->cop_line);
2677             else
2678                 strcpy(tokenbuf, SvPVX(GvSV(curcop->cop_filegv)));
2679             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2680             TERM(THING);
2681
2682         case KEY___PACKAGE__:
2683             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2684                                         (curstash
2685                                          ? newSVsv(curstname)
2686                                          : &sv_undef));
2687             TERM(THING);
2688
2689         case KEY___DATA__:
2690         case KEY___END__: {
2691             GV *gv;
2692
2693             /*SUPPRESS 560*/
2694             if (rsfp && (!in_eval || tokenbuf[2] == 'D')) {
2695                 char dname[256];
2696                 char *pname = "main";
2697                 if (tokenbuf[2] == 'D')
2698                     pname = HvNAME(curstash ? curstash : defstash);
2699                 sprintf(dname,"%s::DATA", pname);
2700                 gv = gv_fetchpv(dname,TRUE, SVt_PVIO);
2701                 GvMULTI_on(gv);
2702                 if (!GvIO(gv))
2703                     GvIOp(gv) = newIO();
2704                 IoIFP(GvIOp(gv)) = rsfp;
2705 #if defined(HAS_FCNTL) && defined(F_SETFD)
2706                 {
2707                     int fd = PerlIO_fileno(rsfp);
2708                     fcntl(fd,F_SETFD,fd >= 3);
2709                 }
2710 #endif
2711                 /* Mark this internal pseudo-handle as clean */
2712                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
2713                 if (preprocess)
2714                     IoTYPE(GvIOp(gv)) = '|';
2715                 else if ((PerlIO*)rsfp == PerlIO_stdin())
2716                     IoTYPE(GvIOp(gv)) = '-';
2717                 else
2718                     IoTYPE(GvIOp(gv)) = '<';
2719                 rsfp = Nullfp;
2720             }
2721             goto fake_eof;
2722         }
2723
2724         case KEY_AUTOLOAD:
2725         case KEY_DESTROY:
2726         case KEY_BEGIN:
2727         case KEY_END:
2728             if (expect == XSTATE) {
2729                 s = bufptr;
2730                 goto really_sub;
2731             }
2732             goto just_a_word;
2733
2734         case KEY_CORE:
2735             if (*s == ':' && s[1] == ':') {
2736                 s += 2;
2737                 d = s;
2738                 s = scan_word(s, tokenbuf, FALSE, &len);
2739                 tmp = keyword(tokenbuf, len);
2740                 if (tmp < 0)
2741                     tmp = -tmp;
2742                 goto reserved_word;
2743             }
2744             goto just_a_word;
2745
2746         case KEY_abs:
2747             UNI(OP_ABS);
2748
2749         case KEY_alarm:
2750             UNI(OP_ALARM);
2751
2752         case KEY_accept:
2753             LOP(OP_ACCEPT,XTERM);
2754
2755         case KEY_and:
2756             OPERATOR(ANDOP);
2757
2758         case KEY_atan2:
2759             LOP(OP_ATAN2,XTERM);
2760
2761         case KEY_bind:
2762             LOP(OP_BIND,XTERM);
2763
2764         case KEY_binmode:
2765             UNI(OP_BINMODE);
2766
2767         case KEY_bless:
2768             LOP(OP_BLESS,XTERM);
2769
2770         case KEY_chop:
2771             UNI(OP_CHOP);
2772
2773         case KEY_continue:
2774             PREBLOCK(CONTINUE);
2775
2776         case KEY_chdir:
2777             (void)gv_fetchpv("ENV",TRUE, SVt_PVHV);     /* may use HOME */
2778             UNI(OP_CHDIR);
2779
2780         case KEY_close:
2781             UNI(OP_CLOSE);
2782
2783         case KEY_closedir:
2784             UNI(OP_CLOSEDIR);
2785
2786         case KEY_cmp:
2787             Eop(OP_SCMP);
2788
2789         case KEY_caller:
2790             UNI(OP_CALLER);
2791
2792         case KEY_crypt:
2793 #ifdef FCRYPT
2794             if (!cryptseen++)
2795                 init_des();
2796 #endif
2797             LOP(OP_CRYPT,XTERM);
2798
2799         case KEY_chmod:
2800             if (dowarn) {
2801                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
2802                 if (*d != '0' && isDIGIT(*d))
2803                     yywarn("chmod: mode argument is missing initial 0");
2804             }
2805             LOP(OP_CHMOD,XTERM);
2806
2807         case KEY_chown:
2808             LOP(OP_CHOWN,XTERM);
2809
2810         case KEY_connect:
2811             LOP(OP_CONNECT,XTERM);
2812
2813         case KEY_chr:
2814             UNI(OP_CHR);
2815
2816         case KEY_cos:
2817             UNI(OP_COS);
2818
2819         case KEY_chroot:
2820             UNI(OP_CHROOT);
2821
2822         case KEY_do:
2823             s = skipspace(s);
2824             if (*s == '{')
2825                 PRETERMBLOCK(DO);
2826             if (*s != '\'')
2827                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
2828             OPERATOR(DO);
2829
2830         case KEY_die:
2831             hints |= HINT_BLOCK_SCOPE;
2832             LOP(OP_DIE,XTERM);
2833
2834         case KEY_defined:
2835             UNI(OP_DEFINED);
2836
2837         case KEY_delete:
2838             UNI(OP_DELETE);
2839
2840         case KEY_dbmopen:
2841             gv_fetchpv("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
2842             LOP(OP_DBMOPEN,XTERM);
2843
2844         case KEY_dbmclose:
2845             UNI(OP_DBMCLOSE);
2846
2847         case KEY_dump:
2848             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2849             LOOPX(OP_DUMP);
2850
2851         case KEY_else:
2852             PREBLOCK(ELSE);
2853
2854         case KEY_elsif:
2855             yylval.ival = curcop->cop_line;
2856             OPERATOR(ELSIF);
2857
2858         case KEY_eq:
2859             Eop(OP_SEQ);
2860
2861         case KEY_exists:
2862             UNI(OP_EXISTS);
2863
2864         case KEY_exit:
2865             UNI(OP_EXIT);
2866
2867         case KEY_eval:
2868             s = skipspace(s);
2869             expect = (*s == '{') ? XTERMBLOCK : XTERM;
2870             UNIBRACK(OP_ENTEREVAL);
2871
2872         case KEY_eof:
2873             UNI(OP_EOF);
2874
2875         case KEY_exp:
2876             UNI(OP_EXP);
2877
2878         case KEY_each:
2879             UNI(OP_EACH);
2880
2881         case KEY_exec:
2882             set_csh();
2883             LOP(OP_EXEC,XREF);
2884
2885         case KEY_endhostent:
2886             FUN0(OP_EHOSTENT);
2887
2888         case KEY_endnetent:
2889             FUN0(OP_ENETENT);
2890
2891         case KEY_endservent:
2892             FUN0(OP_ESERVENT);
2893
2894         case KEY_endprotoent:
2895             FUN0(OP_EPROTOENT);
2896
2897         case KEY_endpwent:
2898             FUN0(OP_EPWENT);
2899
2900         case KEY_endgrent:
2901             FUN0(OP_EGRENT);
2902
2903         case KEY_for:
2904         case KEY_foreach:
2905             yylval.ival = curcop->cop_line;
2906             s = skipspace(s);
2907             if (isIDFIRST(*s)) {
2908                 char *p = s;
2909                 if ((bufend - p) >= 3 &&
2910                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
2911                     p += 2;
2912                 p = skipspace(p);
2913                 if (isIDFIRST(*p))
2914                     croak("Missing $ on loop variable");
2915             }
2916             OPERATOR(FOR);
2917
2918         case KEY_formline:
2919             LOP(OP_FORMLINE,XTERM);
2920
2921         case KEY_fork:
2922             FUN0(OP_FORK);
2923
2924         case KEY_fcntl:
2925             LOP(OP_FCNTL,XTERM);
2926
2927         case KEY_fileno:
2928             UNI(OP_FILENO);
2929
2930         case KEY_flock:
2931             LOP(OP_FLOCK,XTERM);
2932
2933         case KEY_gt:
2934             Rop(OP_SGT);
2935
2936         case KEY_ge:
2937             Rop(OP_SGE);
2938
2939         case KEY_grep:
2940             LOP(OP_GREPSTART, *s == '(' ? XTERM : XREF);
2941
2942         case KEY_goto:
2943             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2944             LOOPX(OP_GOTO);
2945
2946         case KEY_gmtime:
2947             UNI(OP_GMTIME);
2948
2949         case KEY_getc:
2950             UNI(OP_GETC);
2951
2952         case KEY_getppid:
2953             FUN0(OP_GETPPID);
2954
2955         case KEY_getpgrp:
2956             UNI(OP_GETPGRP);
2957
2958         case KEY_getpriority:
2959             LOP(OP_GETPRIORITY,XTERM);
2960
2961         case KEY_getprotobyname:
2962             UNI(OP_GPBYNAME);
2963
2964         case KEY_getprotobynumber:
2965             LOP(OP_GPBYNUMBER,XTERM);
2966
2967         case KEY_getprotoent:
2968             FUN0(OP_GPROTOENT);
2969
2970         case KEY_getpwent:
2971             FUN0(OP_GPWENT);
2972
2973         case KEY_getpwnam:
2974             UNI(OP_GPWNAM);
2975
2976         case KEY_getpwuid:
2977             UNI(OP_GPWUID);
2978
2979         case KEY_getpeername:
2980             UNI(OP_GETPEERNAME);
2981
2982         case KEY_gethostbyname:
2983             UNI(OP_GHBYNAME);
2984
2985         case KEY_gethostbyaddr:
2986             LOP(OP_GHBYADDR,XTERM);
2987
2988         case KEY_gethostent:
2989             FUN0(OP_GHOSTENT);
2990
2991         case KEY_getnetbyname:
2992             UNI(OP_GNBYNAME);
2993
2994         case KEY_getnetbyaddr:
2995             LOP(OP_GNBYADDR,XTERM);
2996
2997         case KEY_getnetent:
2998             FUN0(OP_GNETENT);
2999
3000         case KEY_getservbyname:
3001             LOP(OP_GSBYNAME,XTERM);
3002
3003         case KEY_getservbyport:
3004             LOP(OP_GSBYPORT,XTERM);
3005
3006         case KEY_getservent:
3007             FUN0(OP_GSERVENT);
3008
3009         case KEY_getsockname:
3010             UNI(OP_GETSOCKNAME);
3011
3012         case KEY_getsockopt:
3013             LOP(OP_GSOCKOPT,XTERM);
3014
3015         case KEY_getgrent:
3016             FUN0(OP_GGRENT);
3017
3018         case KEY_getgrnam:
3019             UNI(OP_GGRNAM);
3020
3021         case KEY_getgrgid:
3022             UNI(OP_GGRGID);
3023
3024         case KEY_getlogin:
3025             FUN0(OP_GETLOGIN);
3026
3027         case KEY_glob:
3028             set_csh();
3029             LOP(OP_GLOB,XTERM);
3030
3031         case KEY_hex:
3032             UNI(OP_HEX);
3033
3034         case KEY_if:
3035             yylval.ival = curcop->cop_line;
3036             OPERATOR(IF);
3037
3038         case KEY_index:
3039             LOP(OP_INDEX,XTERM);
3040
3041         case KEY_int:
3042             UNI(OP_INT);
3043
3044         case KEY_ioctl:
3045             LOP(OP_IOCTL,XTERM);
3046
3047         case KEY_join:
3048             LOP(OP_JOIN,XTERM);
3049
3050         case KEY_keys:
3051             UNI(OP_KEYS);
3052
3053         case KEY_kill:
3054             LOP(OP_KILL,XTERM);
3055
3056         case KEY_last:
3057             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3058             LOOPX(OP_LAST);
3059
3060         case KEY_lc:
3061             UNI(OP_LC);
3062
3063         case KEY_lcfirst:
3064             UNI(OP_LCFIRST);
3065
3066         case KEY_local:
3067             OPERATOR(LOCAL);
3068
3069         case KEY_length:
3070             UNI(OP_LENGTH);
3071
3072         case KEY_lt:
3073             Rop(OP_SLT);
3074
3075         case KEY_le:
3076             Rop(OP_SLE);
3077
3078         case KEY_localtime:
3079             UNI(OP_LOCALTIME);
3080
3081         case KEY_log:
3082             UNI(OP_LOG);
3083
3084         case KEY_link:
3085             LOP(OP_LINK,XTERM);
3086
3087         case KEY_listen:
3088             LOP(OP_LISTEN,XTERM);
3089
3090         case KEY_lstat:
3091             UNI(OP_LSTAT);
3092
3093         case KEY_m:
3094             s = scan_pat(s);
3095             TERM(sublex_start());
3096
3097         case KEY_map:
3098             LOP(OP_MAPSTART,XREF);
3099
3100         case KEY_mkdir:
3101             LOP(OP_MKDIR,XTERM);
3102
3103         case KEY_msgctl:
3104             LOP(OP_MSGCTL,XTERM);
3105
3106         case KEY_msgget:
3107             LOP(OP_MSGGET,XTERM);
3108
3109         case KEY_msgrcv:
3110             LOP(OP_MSGRCV,XTERM);
3111
3112         case KEY_msgsnd:
3113             LOP(OP_MSGSND,XTERM);
3114
3115         case KEY_my:
3116             in_my = TRUE;
3117             OPERATOR(MY);
3118
3119         case KEY_next:
3120             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3121             LOOPX(OP_NEXT);
3122
3123         case KEY_ne:
3124             Eop(OP_SNE);
3125
3126         case KEY_no:
3127             if (expect != XSTATE)
3128                 yyerror("\"no\" not allowed in expression");
3129             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3130             s = force_version(s);
3131             yylval.ival = 0;
3132             OPERATOR(USE);
3133
3134         case KEY_not:
3135             OPERATOR(NOTOP);
3136
3137         case KEY_open:
3138             s = skipspace(s);
3139             if (isIDFIRST(*s)) {
3140                 char *t;
3141                 for (d = s; isALNUM(*d); d++) ;
3142                 t = skipspace(d);
3143                 if (strchr("|&*+-=!?:.", *t))
3144                     warn("Precedence problem: open %.*s should be open(%.*s)",
3145                         d-s,s, d-s,s);
3146             }
3147             LOP(OP_OPEN,XTERM);
3148
3149         case KEY_or:
3150             yylval.ival = OP_OR;
3151             OPERATOR(OROP);
3152
3153         case KEY_ord:
3154             UNI(OP_ORD);
3155
3156         case KEY_oct:
3157             UNI(OP_OCT);
3158
3159         case KEY_opendir:
3160             LOP(OP_OPEN_DIR,XTERM);
3161
3162         case KEY_print:
3163             checkcomma(s,tokenbuf,"filehandle");
3164             LOP(OP_PRINT,XREF);
3165
3166         case KEY_printf:
3167             checkcomma(s,tokenbuf,"filehandle");
3168             LOP(OP_PRTF,XREF);
3169
3170         case KEY_prototype:
3171             UNI(OP_PROTOTYPE);
3172
3173         case KEY_push:
3174             LOP(OP_PUSH,XTERM);
3175
3176         case KEY_pop:
3177             UNI(OP_POP);
3178
3179         case KEY_pos:
3180             UNI(OP_POS);
3181
3182         case KEY_pack:
3183             LOP(OP_PACK,XTERM);
3184
3185         case KEY_package:
3186             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3187             OPERATOR(PACKAGE);
3188
3189         case KEY_pipe:
3190             LOP(OP_PIPE_OP,XTERM);
3191
3192         case KEY_q:
3193             s = scan_str(s);
3194             if (!s)
3195                 missingterm((char*)0);
3196             yylval.ival = OP_CONST;
3197             TERM(sublex_start());
3198
3199         case KEY_quotemeta:
3200             UNI(OP_QUOTEMETA);
3201
3202         case KEY_qw:
3203             s = scan_str(s);
3204             if (!s)
3205                 missingterm((char*)0);
3206             if (dowarn && SvLEN(lex_stuff)) {
3207                 d = SvPV_force(lex_stuff, len);
3208                 for (; len; --len, ++d) {
3209                     if (*d == ',') {
3210                         warn("Possible attempt to separate words with commas");
3211                         break;
3212                     }
3213                     if (*d == '#') {
3214                         warn("Possible attempt to put comments in qw() list");
3215                         break;
3216                     }
3217                 }
3218             }
3219             force_next(')');
3220             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, q(lex_stuff));
3221             lex_stuff = Nullsv;
3222             force_next(THING);
3223             force_next(',');
3224             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(" ",1));
3225             force_next(THING);
3226             force_next('(');
3227             yylval.ival = OP_SPLIT;
3228             CLINE;
3229             expect = XTERM;
3230             bufptr = s;
3231             last_lop = oldbufptr;
3232             last_lop_op = OP_SPLIT;
3233             return FUNC;
3234
3235         case KEY_qq:
3236             s = scan_str(s);
3237             if (!s)
3238                 missingterm((char*)0);
3239             yylval.ival = OP_STRINGIFY;
3240             if (SvIVX(lex_stuff) == '\'')
3241                 SvIVX(lex_stuff) = 0;   /* qq'$foo' should intepolate */
3242             TERM(sublex_start());
3243
3244         case KEY_qx:
3245             s = scan_str(s);
3246             if (!s)
3247                 missingterm((char*)0);
3248             yylval.ival = OP_BACKTICK;
3249             set_csh();
3250             TERM(sublex_start());
3251
3252         case KEY_return:
3253             OLDLOP(OP_RETURN);
3254
3255         case KEY_require:
3256             *tokenbuf = '\0';
3257             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3258             if (isIDFIRST(*tokenbuf))
3259                 gv_stashpvn(tokenbuf, strlen(tokenbuf), TRUE);
3260             else if (*s == '<')
3261                 yyerror("<> should be quotes");
3262             UNI(OP_REQUIRE);
3263
3264         case KEY_reset:
3265             UNI(OP_RESET);
3266
3267         case KEY_redo:
3268             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3269             LOOPX(OP_REDO);
3270
3271         case KEY_rename:
3272             LOP(OP_RENAME,XTERM);
3273
3274         case KEY_rand:
3275             UNI(OP_RAND);
3276
3277         case KEY_rmdir:
3278             UNI(OP_RMDIR);
3279
3280         case KEY_rindex:
3281             LOP(OP_RINDEX,XTERM);
3282
3283         case KEY_read:
3284             LOP(OP_READ,XTERM);
3285
3286         case KEY_readdir:
3287             UNI(OP_READDIR);
3288
3289         case KEY_readline:
3290             set_csh();
3291             UNI(OP_READLINE);
3292
3293         case KEY_readpipe:
3294             set_csh();
3295             UNI(OP_BACKTICK);
3296
3297         case KEY_rewinddir:
3298             UNI(OP_REWINDDIR);
3299
3300         case KEY_recv:
3301             LOP(OP_RECV,XTERM);
3302
3303         case KEY_reverse:
3304             LOP(OP_REVERSE,XTERM);
3305
3306         case KEY_readlink:
3307             UNI(OP_READLINK);
3308
3309         case KEY_ref:
3310             UNI(OP_REF);
3311
3312         case KEY_s:
3313             s = scan_subst(s);
3314             if (yylval.opval)
3315                 TERM(sublex_start());
3316             else
3317                 TOKEN(1);       /* force error */
3318
3319         case KEY_chomp:
3320             UNI(OP_CHOMP);
3321
3322         case KEY_scalar:
3323             UNI(OP_SCALAR);
3324
3325         case KEY_select:
3326             LOP(OP_SELECT,XTERM);
3327
3328         case KEY_seek:
3329             LOP(OP_SEEK,XTERM);
3330
3331         case KEY_semctl:
3332             LOP(OP_SEMCTL,XTERM);
3333
3334         case KEY_semget:
3335             LOP(OP_SEMGET,XTERM);
3336
3337         case KEY_semop:
3338             LOP(OP_SEMOP,XTERM);
3339
3340         case KEY_send:
3341             LOP(OP_SEND,XTERM);
3342
3343         case KEY_setpgrp:
3344             LOP(OP_SETPGRP,XTERM);
3345
3346         case KEY_setpriority:
3347             LOP(OP_SETPRIORITY,XTERM);
3348
3349         case KEY_sethostent:
3350             UNI(OP_SHOSTENT);
3351
3352         case KEY_setnetent:
3353             UNI(OP_SNETENT);
3354
3355         case KEY_setservent:
3356             UNI(OP_SSERVENT);
3357
3358         case KEY_setprotoent:
3359             UNI(OP_SPROTOENT);
3360
3361         case KEY_setpwent:
3362             FUN0(OP_SPWENT);
3363
3364         case KEY_setgrent:
3365             FUN0(OP_SGRENT);
3366
3367         case KEY_seekdir:
3368             LOP(OP_SEEKDIR,XTERM);
3369
3370         case KEY_setsockopt:
3371             LOP(OP_SSOCKOPT,XTERM);
3372
3373         case KEY_shift:
3374             UNI(OP_SHIFT);
3375
3376         case KEY_shmctl:
3377             LOP(OP_SHMCTL,XTERM);
3378
3379         case KEY_shmget:
3380             LOP(OP_SHMGET,XTERM);
3381
3382         case KEY_shmread:
3383             LOP(OP_SHMREAD,XTERM);
3384
3385         case KEY_shmwrite:
3386             LOP(OP_SHMWRITE,XTERM);
3387
3388         case KEY_shutdown:
3389             LOP(OP_SHUTDOWN,XTERM);
3390
3391         case KEY_sin:
3392             UNI(OP_SIN);
3393
3394         case KEY_sleep:
3395             UNI(OP_SLEEP);
3396
3397         case KEY_socket:
3398             LOP(OP_SOCKET,XTERM);
3399
3400         case KEY_socketpair:
3401             LOP(OP_SOCKPAIR,XTERM);
3402
3403         case KEY_sort:
3404             checkcomma(s,tokenbuf,"subroutine name");
3405             s = skipspace(s);
3406             if (*s == ';' || *s == ')')         /* probably a close */
3407                 croak("sort is now a reserved word");
3408             expect = XTERM;
3409             s = force_word(s,WORD,TRUE,TRUE,TRUE);
3410             LOP(OP_SORT,XREF);
3411
3412         case KEY_split:
3413             LOP(OP_SPLIT,XTERM);
3414
3415         case KEY_sprintf:
3416             LOP(OP_SPRINTF,XTERM);
3417
3418         case KEY_splice:
3419             LOP(OP_SPLICE,XTERM);
3420
3421         case KEY_sqrt:
3422             UNI(OP_SQRT);
3423
3424         case KEY_srand:
3425             UNI(OP_SRAND);
3426
3427         case KEY_stat:
3428             UNI(OP_STAT);
3429
3430         case KEY_study:
3431             sawstudy++;
3432             UNI(OP_STUDY);
3433
3434         case KEY_substr:
3435             LOP(OP_SUBSTR,XTERM);
3436
3437         case KEY_format:
3438         case KEY_sub:
3439           really_sub:
3440             s = skipspace(s);
3441
3442             if (isIDFIRST(*s) || *s == '\'' || *s == ':') {
3443                 char tmpbuf[128];
3444                 expect = XBLOCK;
3445                 d = scan_word(s, tmpbuf, TRUE, &len);
3446                 if (strchr(tmpbuf, ':'))
3447                     sv_setpv(subname, tmpbuf);
3448                 else {
3449                     sv_setsv(subname,curstname);
3450                     sv_catpvn(subname,"::",2);
3451                     sv_catpvn(subname,tmpbuf,len);
3452                 }
3453                 s = force_word(s,WORD,FALSE,TRUE,TRUE);
3454                 s = skipspace(s);
3455             }
3456             else {
3457                 expect = XTERMBLOCK;
3458                 sv_setpv(subname,"?");
3459             }
3460
3461             if (tmp == KEY_format) {
3462                 s = skipspace(s);
3463                 if (*s == '=')
3464                     lex_formbrack = lex_brackets + 1;
3465                 OPERATOR(FORMAT);
3466             }
3467
3468             /* Look for a prototype */
3469             if (*s == '(') {
3470                 char *p;
3471
3472                 s = scan_str(s);
3473                 if (!s) {
3474                     if (lex_stuff)
3475                         SvREFCNT_dec(lex_stuff);
3476                     lex_stuff = Nullsv;
3477                     croak("Prototype not terminated");
3478                 }
3479                 /* strip spaces */
3480                 d = SvPVX(lex_stuff);
3481                 tmp = 0;
3482                 for (p = d; *p; ++p) {
3483                     if (!isSPACE(*p))
3484                         d[tmp++] = *p;
3485                 }
3486                 d[tmp] = '\0';
3487                 SvCUR(lex_stuff) = tmp;
3488
3489                 nexttoke++;
3490                 nextval[1] = nextval[0];
3491                 nexttype[1] = nexttype[0];
3492                 nextval[0].opval = (OP*)newSVOP(OP_CONST, 0, lex_stuff);
3493                 nexttype[0] = THING;
3494                 if (nexttoke == 1) {
3495                     lex_defer = lex_state;
3496                     lex_expect = expect;
3497                     lex_state = LEX_KNOWNEXT;
3498                 }
3499                 lex_stuff = Nullsv;
3500             }
3501
3502             if (*SvPV(subname,na) == '?') {
3503                 sv_setpv(subname,"__ANON__");
3504                 TOKEN(ANONSUB);
3505             }
3506             PREBLOCK(SUB);
3507
3508         case KEY_system:
3509             set_csh();
3510             LOP(OP_SYSTEM,XREF);
3511
3512         case KEY_symlink:
3513             LOP(OP_SYMLINK,XTERM);
3514
3515         case KEY_syscall:
3516             LOP(OP_SYSCALL,XTERM);
3517
3518         case KEY_sysopen:
3519             LOP(OP_SYSOPEN,XTERM);
3520
3521         case KEY_sysread:
3522             LOP(OP_SYSREAD,XTERM);
3523
3524         case KEY_syswrite:
3525             LOP(OP_SYSWRITE,XTERM);
3526
3527         case KEY_tr:
3528             s = scan_trans(s);
3529             TERM(sublex_start());
3530
3531         case KEY_tell:
3532             UNI(OP_TELL);
3533
3534         case KEY_telldir:
3535             UNI(OP_TELLDIR);
3536
3537         case KEY_tie:
3538             LOP(OP_TIE,XTERM);
3539
3540         case KEY_tied:
3541             UNI(OP_TIED);
3542
3543         case KEY_time:
3544             FUN0(OP_TIME);
3545
3546         case KEY_times:
3547             FUN0(OP_TMS);
3548
3549         case KEY_truncate:
3550             LOP(OP_TRUNCATE,XTERM);
3551
3552         case KEY_uc:
3553             UNI(OP_UC);
3554
3555         case KEY_ucfirst:
3556             UNI(OP_UCFIRST);
3557
3558         case KEY_untie:
3559             UNI(OP_UNTIE);
3560
3561         case KEY_until:
3562             yylval.ival = curcop->cop_line;
3563             OPERATOR(UNTIL);
3564
3565         case KEY_unless:
3566             yylval.ival = curcop->cop_line;
3567             OPERATOR(UNLESS);
3568
3569         case KEY_unlink:
3570             LOP(OP_UNLINK,XTERM);
3571
3572         case KEY_undef:
3573             UNI(OP_UNDEF);
3574
3575         case KEY_unpack:
3576             LOP(OP_UNPACK,XTERM);
3577
3578         case KEY_utime:
3579             LOP(OP_UTIME,XTERM);
3580
3581         case KEY_umask:
3582             if (dowarn) {
3583                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
3584                 if (*d != '0' && isDIGIT(*d))
3585                     yywarn("umask: argument is missing initial 0");
3586             }
3587             UNI(OP_UMASK);
3588
3589         case KEY_unshift:
3590             LOP(OP_UNSHIFT,XTERM);
3591
3592         case KEY_use:
3593             if (expect != XSTATE)
3594                 yyerror("\"use\" not allowed in expression");
3595             s = skipspace(s);
3596             if(isDIGIT(*s)) {
3597                 s = force_version(s);
3598                 if(*s == ';' || (s = skipspace(s), *s == ';')) {
3599                     nextval[nexttoke].opval = Nullop;
3600                     force_next(WORD);
3601                 }
3602             }
3603             else {
3604                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
3605                 s = force_version(s);
3606             }
3607             yylval.ival = 1;
3608             OPERATOR(USE);
3609
3610         case KEY_values:
3611             UNI(OP_VALUES);
3612
3613         case KEY_vec:
3614             sawvec = TRUE;
3615             LOP(OP_VEC,XTERM);
3616
3617         case KEY_while:
3618             yylval.ival = curcop->cop_line;
3619             OPERATOR(WHILE);
3620
3621         case KEY_warn:
3622             hints |= HINT_BLOCK_SCOPE;
3623             LOP(OP_WARN,XTERM);
3624
3625         case KEY_wait:
3626             FUN0(OP_WAIT);
3627
3628         case KEY_waitpid:
3629             LOP(OP_WAITPID,XTERM);
3630
3631         case KEY_wantarray:
3632             FUN0(OP_WANTARRAY);
3633
3634         case KEY_write:
3635             gv_fetchpv("\f",TRUE, SVt_PV);      /* Make sure $^L is defined */
3636             UNI(OP_ENTERWRITE);
3637
3638         case KEY_x:
3639             if (expect == XOPERATOR)
3640                 Mop(OP_REPEAT);
3641             check_uni();
3642             goto just_a_word;
3643
3644         case KEY_xor:
3645             yylval.ival = OP_XOR;
3646             OPERATOR(OROP);
3647
3648         case KEY_y:
3649             s = scan_trans(s);
3650             TERM(sublex_start());
3651         }
3652     }
3653 }
3654
3655 I32
3656 keyword(d, len)
3657 register char *d;
3658 I32 len;
3659 {
3660     switch (*d) {
3661     case '_':
3662         if (d[1] == '_') {
3663             if (strEQ(d,"__FILE__"))            return -KEY___FILE__;
3664             if (strEQ(d,"__LINE__"))            return -KEY___LINE__;
3665             if (strEQ(d,"__PACKAGE__"))         return -KEY___PACKAGE__;
3666             if (strEQ(d,"__DATA__"))            return KEY___DATA__;
3667             if (strEQ(d,"__END__"))             return KEY___END__;
3668         }
3669         break;
3670     case 'A':
3671         if (strEQ(d,"AUTOLOAD"))                return KEY_AUTOLOAD;
3672         break;
3673     case 'a':
3674         switch (len) {
3675         case 3:
3676             if (strEQ(d,"and"))                 return -KEY_and;
3677             if (strEQ(d,"abs"))                 return -KEY_abs;
3678             break;
3679         case 5:
3680             if (strEQ(d,"alarm"))               return -KEY_alarm;
3681             if (strEQ(d,"atan2"))               return -KEY_atan2;
3682             break;
3683         case 6:
3684             if (strEQ(d,"accept"))              return -KEY_accept;
3685             break;
3686         }
3687         break;
3688     case 'B':
3689         if (strEQ(d,"BEGIN"))                   return KEY_BEGIN;
3690         break;
3691     case 'b':
3692         if (strEQ(d,"bless"))                   return -KEY_bless;
3693         if (strEQ(d,"bind"))                    return -KEY_bind;
3694         if (strEQ(d,"binmode"))                 return -KEY_binmode;
3695         break;
3696     case 'C':
3697         if (strEQ(d,"CORE"))                    return -KEY_CORE;
3698         break;
3699     case 'c':
3700         switch (len) {
3701         case 3:
3702             if (strEQ(d,"cmp"))                 return -KEY_cmp;
3703             if (strEQ(d,"chr"))                 return -KEY_chr;
3704             if (strEQ(d,"cos"))                 return -KEY_cos;
3705             break;
3706         case 4:
3707             if (strEQ(d,"chop"))                return KEY_chop;
3708             break;
3709         case 5:
3710             if (strEQ(d,"close"))               return -KEY_close;
3711             if (strEQ(d,"chdir"))               return -KEY_chdir;
3712             if (strEQ(d,"chomp"))               return KEY_chomp;
3713             if (strEQ(d,"chmod"))               return -KEY_chmod;
3714             if (strEQ(d,"chown"))               return -KEY_chown;
3715             if (strEQ(d,"crypt"))               return -KEY_crypt;
3716             break;
3717         case 6:
3718             if (strEQ(d,"chroot"))              return -KEY_chroot;
3719             if (strEQ(d,"caller"))              return -KEY_caller;
3720             break;
3721         case 7:
3722             if (strEQ(d,"connect"))             return -KEY_connect;
3723             break;
3724         case 8:
3725             if (strEQ(d,"closedir"))            return -KEY_closedir;
3726             if (strEQ(d,"continue"))            return -KEY_continue;
3727             break;
3728         }
3729         break;
3730     case 'D':
3731         if (strEQ(d,"DESTROY"))                 return KEY_DESTROY;
3732         break;
3733     case 'd':
3734         switch (len) {
3735         case 2:
3736             if (strEQ(d,"do"))                  return KEY_do;
3737             break;
3738         case 3:
3739             if (strEQ(d,"die"))                 return -KEY_die;
3740             break;
3741         case 4:
3742             if (strEQ(d,"dump"))                return -KEY_dump;
3743             break;
3744         case 6:
3745             if (strEQ(d,"delete"))              return KEY_delete;
3746             break;
3747         case 7:
3748             if (strEQ(d,"defined"))             return KEY_defined;
3749             if (strEQ(d,"dbmopen"))             return -KEY_dbmopen;
3750             break;
3751         case 8:
3752             if (strEQ(d,"dbmclose"))            return -KEY_dbmclose;
3753             break;
3754         }
3755         break;
3756     case 'E':
3757         if (strEQ(d,"EQ")) { deprecate(d);      return -KEY_eq;}
3758         if (strEQ(d,"END"))                     return KEY_END;
3759         break;
3760     case 'e':
3761         switch (len) {
3762         case 2:
3763             if (strEQ(d,"eq"))                  return -KEY_eq;
3764             break;
3765         case 3:
3766             if (strEQ(d,"eof"))                 return -KEY_eof;
3767             if (strEQ(d,"exp"))                 return -KEY_exp;
3768             break;
3769         case 4:
3770             if (strEQ(d,"else"))                return KEY_else;
3771             if (strEQ(d,"exit"))                return -KEY_exit;
3772             if (strEQ(d,"eval"))                return KEY_eval;
3773             if (strEQ(d,"exec"))                return -KEY_exec;
3774             if (strEQ(d,"each"))                return KEY_each;
3775             break;
3776         case 5:
3777             if (strEQ(d,"elsif"))               return KEY_elsif;
3778             break;
3779         case 6:
3780             if (strEQ(d,"exists"))              return KEY_exists;
3781             if (strEQ(d,"elseif")) warn("elseif should be elsif");
3782             break;
3783         case 8:
3784             if (strEQ(d,"endgrent"))            return -KEY_endgrent;
3785             if (strEQ(d,"endpwent"))            return -KEY_endpwent;
3786             break;
3787         case 9:
3788             if (strEQ(d,"endnetent"))           return -KEY_endnetent;
3789             break;
3790         case 10:
3791             if (strEQ(d,"endhostent"))          return -KEY_endhostent;
3792             if (strEQ(d,"endservent"))          return -KEY_endservent;
3793             break;
3794         case 11:
3795             if (strEQ(d,"endprotoent"))         return -KEY_endprotoent;
3796             break;
3797         }
3798         break;
3799     case 'f':
3800         switch (len) {
3801         case 3:
3802             if (strEQ(d,"for"))                 return KEY_for;
3803             break;
3804         case 4:
3805             if (strEQ(d,"fork"))                return -KEY_fork;
3806             break;
3807         case 5:
3808             if (strEQ(d,"fcntl"))               return -KEY_fcntl;
3809             if (strEQ(d,"flock"))               return -KEY_flock;
3810             break;
3811         case 6:
3812             if (strEQ(d,"format"))              return KEY_format;
3813             if (strEQ(d,"fileno"))              return -KEY_fileno;
3814             break;
3815         case 7:
3816             if (strEQ(d,"foreach"))             return KEY_foreach;
3817             break;
3818         case 8:
3819             if (strEQ(d,"formline"))            return -KEY_formline;
3820             break;
3821         }
3822         break;
3823     case 'G':
3824         if (len == 2) {
3825             if (strEQ(d,"GT")) { deprecate(d);  return -KEY_gt;}
3826             if (strEQ(d,"GE")) { deprecate(d);  return -KEY_ge;}
3827         }
3828         break;
3829     case 'g':
3830         if (strnEQ(d,"get",3)) {
3831             d += 3;
3832             if (*d == 'p') {
3833                 switch (len) {
3834                 case 7:
3835                     if (strEQ(d,"ppid"))        return -KEY_getppid;
3836                     if (strEQ(d,"pgrp"))        return -KEY_getpgrp;
3837                     break;
3838                 case 8:
3839                     if (strEQ(d,"pwent"))       return -KEY_getpwent;
3840                     if (strEQ(d,"pwnam"))       return -KEY_getpwnam;
3841                     if (strEQ(d,"pwuid"))       return -KEY_getpwuid;
3842                     break;
3843                 case 11:
3844                     if (strEQ(d,"peername"))    return -KEY_getpeername;
3845                     if (strEQ(d,"protoent"))    return -KEY_getprotoent;
3846                     if (strEQ(d,"priority"))    return -KEY_getpriority;
3847                     break;
3848                 case 14:
3849                     if (strEQ(d,"protobyname")) return -KEY_getprotobyname;
3850                     break;
3851                 case 16:
3852                     if (strEQ(d,"protobynumber"))return -KEY_getprotobynumber;
3853                     break;
3854                 }
3855             }
3856             else if (*d == 'h') {
3857                 if (strEQ(d,"hostbyname"))      return -KEY_gethostbyname;
3858                 if (strEQ(d,"hostbyaddr"))      return -KEY_gethostbyaddr;
3859                 if (strEQ(d,"hostent"))         return -KEY_gethostent;
3860             }
3861             else if (*d == 'n') {
3862                 if (strEQ(d,"netbyname"))       return -KEY_getnetbyname;
3863                 if (strEQ(d,"netbyaddr"))       return -KEY_getnetbyaddr;
3864                 if (strEQ(d,"netent"))          return -KEY_getnetent;
3865             }
3866             else if (*d == 's') {
3867                 if (strEQ(d,"servbyname"))      return -KEY_getservbyname;
3868                 if (strEQ(d,"servbyport"))      return -KEY_getservbyport;
3869                 if (strEQ(d,"servent"))         return -KEY_getservent;
3870                 if (strEQ(d,"sockname"))        return -KEY_getsockname;
3871                 if (strEQ(d,"sockopt"))         return -KEY_getsockopt;
3872             }
3873             else if (*d == 'g') {
3874                 if (strEQ(d,"grent"))           return -KEY_getgrent;
3875                 if (strEQ(d,"grnam"))           return -KEY_getgrnam;
3876                 if (strEQ(d,"grgid"))           return -KEY_getgrgid;
3877             }
3878             else if (*d == 'l') {
3879                 if (strEQ(d,"login"))           return -KEY_getlogin;
3880             }
3881             else if (strEQ(d,"c"))              return -KEY_getc;
3882             break;
3883         }
3884         switch (len) {
3885         case 2:
3886             if (strEQ(d,"gt"))                  return -KEY_gt;
3887             if (strEQ(d,"ge"))                  return -KEY_ge;
3888             break;
3889         case 4:
3890             if (strEQ(d,"grep"))                return KEY_grep;
3891             if (strEQ(d,"goto"))                return KEY_goto;
3892             if (strEQ(d,"glob"))                return -KEY_glob;
3893             break;
3894         case 6:
3895             if (strEQ(d,"gmtime"))              return -KEY_gmtime;
3896             break;
3897         }
3898         break;
3899     case 'h':
3900         if (strEQ(d,"hex"))                     return -KEY_hex;
3901         break;
3902     case 'i':
3903         switch (len) {
3904         case 2:
3905             if (strEQ(d,"if"))                  return KEY_if;
3906             break;
3907         case 3:
3908             if (strEQ(d,"int"))                 return -KEY_int;
3909             break;
3910         case 5:
3911             if (strEQ(d,"index"))               return -KEY_index;
3912             if (strEQ(d,"ioctl"))               return -KEY_ioctl;
3913             break;
3914         }
3915         break;
3916     case 'j':
3917         if (strEQ(d,"join"))                    return -KEY_join;
3918         break;
3919     case 'k':
3920         if (len == 4) {
3921             if (strEQ(d,"keys"))                return KEY_keys;
3922             if (strEQ(d,"kill"))                return -KEY_kill;
3923         }
3924         break;
3925     case 'L':
3926         if (len == 2) {
3927             if (strEQ(d,"LT")) { deprecate(d);  return -KEY_lt;}
3928             if (strEQ(d,"LE")) { deprecate(d);  return -KEY_le;}
3929         }
3930         break;
3931     case 'l':
3932         switch (len) {
3933         case 2:
3934             if (strEQ(d,"lt"))                  return -KEY_lt;
3935             if (strEQ(d,"le"))                  return -KEY_le;
3936             if (strEQ(d,"lc"))                  return -KEY_lc;
3937             break;
3938         case 3:
3939             if (strEQ(d,"log"))                 return -KEY_log;
3940             break;
3941         case 4:
3942             if (strEQ(d,"last"))                return KEY_last;
3943             if (strEQ(d,"link"))                return -KEY_link;
3944             break;
3945         case 5:
3946             if (strEQ(d,"local"))               return KEY_local;
3947             if (strEQ(d,"lstat"))               return -KEY_lstat;
3948             break;
3949         case 6:
3950             if (strEQ(d,"length"))              return -KEY_length;
3951             if (strEQ(d,"listen"))              return -KEY_listen;
3952             break;
3953         case 7:
3954             if (strEQ(d,"lcfirst"))             return -KEY_lcfirst;
3955             break;
3956         case 9:
3957             if (strEQ(d,"localtime"))           return -KEY_localtime;
3958             break;
3959         }
3960         break;
3961     case 'm':
3962         switch (len) {
3963         case 1:                                 return KEY_m;
3964         case 2:
3965             if (strEQ(d,"my"))                  return KEY_my;
3966             break;
3967         case 3:
3968             if (strEQ(d,"map"))                 return KEY_map;
3969             break;
3970         case 5:
3971             if (strEQ(d,"mkdir"))               return -KEY_mkdir;
3972             break;
3973         case 6:
3974             if (strEQ(d,"msgctl"))              return -KEY_msgctl;
3975             if (strEQ(d,"msgget"))              return -KEY_msgget;
3976             if (strEQ(d,"msgrcv"))              return -KEY_msgrcv;
3977             if (strEQ(d,"msgsnd"))              return -KEY_msgsnd;
3978             break;
3979         }
3980         break;
3981     case 'N':
3982         if (strEQ(d,"NE")) { deprecate(d);      return -KEY_ne;}
3983         break;
3984     case 'n':
3985         if (strEQ(d,"next"))                    return KEY_next;
3986         if (strEQ(d,"ne"))                      return -KEY_ne;
3987         if (strEQ(d,"not"))                     return -KEY_not;
3988         if (strEQ(d,"no"))                      return KEY_no;
3989         break;
3990     case 'o':
3991         switch (len) {
3992         case 2:
3993             if (strEQ(d,"or"))                  return -KEY_or;
3994             break;
3995         case 3:
3996             if (strEQ(d,"ord"))                 return -KEY_ord;
3997             if (strEQ(d,"oct"))                 return -KEY_oct;
3998             break;
3999         case 4:
4000             if (strEQ(d,"open"))                return -KEY_open;
4001             break;
4002         case 7:
4003             if (strEQ(d,"opendir"))             return -KEY_opendir;
4004             break;
4005         }
4006         break;
4007     case 'p':
4008         switch (len) {
4009         case 3:
4010             if (strEQ(d,"pop"))                 return KEY_pop;
4011             if (strEQ(d,"pos"))                 return KEY_pos;
4012             break;
4013         case 4:
4014             if (strEQ(d,"push"))                return KEY_push;
4015             if (strEQ(d,"pack"))                return -KEY_pack;
4016             if (strEQ(d,"pipe"))                return -KEY_pipe;
4017             break;
4018         case 5:
4019             if (strEQ(d,"print"))               return KEY_print;
4020             break;
4021         case 6:
4022             if (strEQ(d,"printf"))              return KEY_printf;
4023             break;
4024         case 7:
4025             if (strEQ(d,"package"))             return KEY_package;
4026             break;
4027         case 9:
4028             if (strEQ(d,"prototype"))           return KEY_prototype;
4029         }
4030         break;
4031     case 'q':
4032         if (len <= 2) {
4033             if (strEQ(d,"q"))                   return KEY_q;
4034             if (strEQ(d,"qq"))                  return KEY_qq;
4035             if (strEQ(d,"qw"))                  return KEY_qw;
4036             if (strEQ(d,"qx"))                  return KEY_qx;
4037         }
4038         else if (strEQ(d,"quotemeta"))          return -KEY_quotemeta;
4039         break;
4040     case 'r':
4041         switch (len) {
4042         case 3:
4043             if (strEQ(d,"ref"))                 return -KEY_ref;
4044             break;
4045         case 4:
4046             if (strEQ(d,"read"))                return -KEY_read;
4047             if (strEQ(d,"rand"))                return -KEY_rand;
4048             if (strEQ(d,"recv"))                return -KEY_recv;
4049             if (strEQ(d,"redo"))                return KEY_redo;
4050             break;
4051         case 5:
4052             if (strEQ(d,"rmdir"))               return -KEY_rmdir;
4053             if (strEQ(d,"reset"))               return -KEY_reset;
4054             break;
4055         case 6:
4056             if (strEQ(d,"return"))              return KEY_return;
4057             if (strEQ(d,"rename"))              return -KEY_rename;
4058             if (strEQ(d,"rindex"))              return -KEY_rindex;
4059             break;
4060         case 7:
4061             if (strEQ(d,"require"))             return -KEY_require;
4062             if (strEQ(d,"reverse"))             return -KEY_reverse;
4063             if (strEQ(d,"readdir"))             return -KEY_readdir;
4064             break;
4065         case 8:
4066             if (strEQ(d,"readlink"))            return -KEY_readlink;
4067             if (strEQ(d,"readline"))            return -KEY_readline;
4068             if (strEQ(d,"readpipe"))            return -KEY_readpipe;
4069             break;
4070         case 9:
4071             if (strEQ(d,"rewinddir"))           return -KEY_rewinddir;
4072             break;
4073         }
4074         break;
4075     case 's':
4076         switch (d[1]) {
4077         case 0:                                 return KEY_s;
4078         case 'c':
4079             if (strEQ(d,"scalar"))              return KEY_scalar;
4080             break;
4081         case 'e':
4082             switch (len) {
4083             case 4:
4084                 if (strEQ(d,"seek"))            return -KEY_seek;
4085                 if (strEQ(d,"send"))            return -KEY_send;
4086                 break;
4087             case 5:
4088                 if (strEQ(d,"semop"))           return -KEY_semop;
4089                 break;
4090             case 6:
4091                 if (strEQ(d,"select"))          return -KEY_select;
4092                 if (strEQ(d,"semctl"))          return -KEY_semctl;
4093                 if (strEQ(d,"semget"))          return -KEY_semget;
4094                 break;
4095             case 7:
4096                 if (strEQ(d,"setpgrp"))         return -KEY_setpgrp;
4097                 if (strEQ(d,"seekdir"))         return -KEY_seekdir;
4098                 break;
4099             case 8:
4100                 if (strEQ(d,"setpwent"))        return -KEY_setpwent;
4101                 if (strEQ(d,"setgrent"))        return -KEY_setgrent;
4102                 break;
4103             case 9:
4104                 if (strEQ(d,"setnetent"))       return -KEY_setnetent;
4105                 break;
4106             case 10:
4107                 if (strEQ(d,"setsockopt"))      return -KEY_setsockopt;
4108                 if (strEQ(d,"sethostent"))      return -KEY_sethostent;
4109                 if (strEQ(d,"setservent"))      return -KEY_setservent;
4110                 break;
4111             case 11:
4112                 if (strEQ(d,"setpriority"))     return -KEY_setpriority;
4113                 if (strEQ(d,"setprotoent"))     return -KEY_setprotoent;
4114                 break;
4115             }
4116             break;
4117         case 'h':
4118             switch (len) {
4119             case 5:
4120                 if (strEQ(d,"shift"))           return KEY_shift;
4121                 break;
4122             case 6:
4123                 if (strEQ(d,"shmctl"))          return -KEY_shmctl;
4124                 if (strEQ(d,"shmget"))          return -KEY_shmget;
4125                 break;
4126             case 7:
4127                 if (strEQ(d,"shmread"))         return -KEY_shmread;
4128                 break;
4129             case 8:
4130                 if (strEQ(d,"shmwrite"))        return -KEY_shmwrite;
4131                 if (strEQ(d,"shutdown"))        return -KEY_shutdown;
4132                 break;
4133             }
4134             break;
4135         case 'i':
4136             if (strEQ(d,"sin"))                 return -KEY_sin;
4137             break;
4138         case 'l':
4139             if (strEQ(d,"sleep"))               return -KEY_sleep;
4140             break;
4141         case 'o':
4142             if (strEQ(d,"sort"))                return KEY_sort;
4143             if (strEQ(d,"socket"))              return -KEY_socket;
4144             if (strEQ(d,"socketpair"))          return -KEY_socketpair;
4145             break;
4146         case 'p':
4147             if (strEQ(d,"split"))               return KEY_split;
4148             if (strEQ(d,"sprintf"))             return -KEY_sprintf;
4149             if (strEQ(d,"splice"))              return KEY_splice;
4150             break;
4151         case 'q':
4152             if (strEQ(d,"sqrt"))                return -KEY_sqrt;
4153             break;
4154         case 'r':
4155             if (strEQ(d,"srand"))               return -KEY_srand;
4156             break;
4157         case 't':
4158             if (strEQ(d,"stat"))                return -KEY_stat;
4159             if (strEQ(d,"study"))               return KEY_study;
4160             break;
4161         case 'u':
4162             if (strEQ(d,"substr"))              return -KEY_substr;
4163             if (strEQ(d,"sub"))                 return KEY_sub;
4164             break;
4165         case 'y':
4166             switch (len) {
4167             case 6:
4168                 if (strEQ(d,"system"))          return -KEY_system;
4169                 break;
4170             case 7:
4171                 if (strEQ(d,"sysopen"))         return -KEY_sysopen;
4172                 if (strEQ(d,"sysread"))         return -KEY_sysread;
4173                 if (strEQ(d,"symlink"))         return -KEY_symlink;
4174                 if (strEQ(d,"syscall"))         return -KEY_syscall;
4175                 break;
4176             case 8:
4177                 if (strEQ(d,"syswrite"))        return -KEY_syswrite;
4178                 break;
4179             }
4180             break;
4181         }
4182         break;
4183     case 't':
4184         switch (len) {
4185         case 2:
4186             if (strEQ(d,"tr"))                  return KEY_tr;
4187             break;
4188         case 3:
4189             if (strEQ(d,"tie"))                 return KEY_tie;
4190             break;
4191         case 4:
4192             if (strEQ(d,"tell"))                return -KEY_tell;
4193             if (strEQ(d,"tied"))                return KEY_tied;
4194             if (strEQ(d,"time"))                return -KEY_time;
4195             break;
4196         case 5:
4197             if (strEQ(d,"times"))               return -KEY_times;
4198             break;
4199         case 7:
4200             if (strEQ(d,"telldir"))             return -KEY_telldir;
4201             break;
4202         case 8:
4203             if (strEQ(d,"truncate"))            return -KEY_truncate;
4204             break;
4205         }
4206         break;
4207     case 'u':
4208         switch (len) {
4209         case 2:
4210             if (strEQ(d,"uc"))                  return -KEY_uc;
4211             break;
4212         case 3:
4213             if (strEQ(d,"use"))                 return KEY_use;
4214             break;
4215         case 5:
4216             if (strEQ(d,"undef"))               return KEY_undef;
4217             if (strEQ(d,"until"))               return KEY_until;
4218             if (strEQ(d,"untie"))               return KEY_untie;
4219             if (strEQ(d,"utime"))               return -KEY_utime;
4220             if (strEQ(d,"umask"))               return -KEY_umask;
4221             break;
4222         case 6:
4223             if (strEQ(d,"unless"))              return KEY_unless;
4224             if (strEQ(d,"unpack"))              return -KEY_unpack;
4225             if (strEQ(d,"unlink"))              return -KEY_unlink;
4226             break;
4227         case 7:
4228             if (strEQ(d,"unshift"))             return KEY_unshift;
4229             if (strEQ(d,"ucfirst"))             return -KEY_ucfirst;
4230             break;
4231         }
4232         break;
4233     case 'v':
4234         if (strEQ(d,"values"))                  return -KEY_values;
4235         if (strEQ(d,"vec"))                     return -KEY_vec;
4236         break;
4237     case 'w':
4238         switch (len) {
4239         case 4:
4240             if (strEQ(d,"warn"))                return -KEY_warn;
4241             if (strEQ(d,"wait"))                return -KEY_wait;
4242             break;
4243         case 5:
4244             if (strEQ(d,"while"))               return KEY_while;
4245             if (strEQ(d,"write"))               return -KEY_write;
4246             break;
4247         case 7:
4248             if (strEQ(d,"waitpid"))             return -KEY_waitpid;
4249             break;
4250         case 9:
4251             if (strEQ(d,"wantarray"))           return -KEY_wantarray;
4252             break;
4253         }
4254         break;
4255     case 'x':
4256         if (len == 1)                           return -KEY_x;
4257         if (strEQ(d,"xor"))                     return -KEY_xor;
4258         break;
4259     case 'y':
4260         if (len == 1)                           return KEY_y;
4261         break;
4262     case 'z':
4263         break;
4264     }
4265     return 0;
4266 }
4267
4268 static void
4269 checkcomma(s,name,what)
4270 register char *s;
4271 char *name;
4272 char *what;
4273 {
4274     char *w;
4275
4276     if (dowarn && *s == ' ' && s[1] == '(') {   /* XXX gotta be a better way */
4277         int level = 1;
4278         for (w = s+2; *w && level; w++) {
4279             if (*w == '(')
4280                 ++level;
4281             else if (*w == ')')
4282                 --level;
4283         }
4284         if (*w)
4285             for (; *w && isSPACE(*w); w++) ;
4286         if (!*w || !strchr(";|})]oa!=", *w))    /* an advisory hack only... */
4287             warn("%s (...) interpreted as function",name);
4288     }
4289     while (s < bufend && isSPACE(*s))
4290         s++;
4291     if (*s == '(')
4292         s++;
4293     while (s < bufend && isSPACE(*s))
4294         s++;
4295     if (isIDFIRST(*s)) {
4296         w = s++;
4297         while (isALNUM(*s))
4298             s++;
4299         while (s < bufend && isSPACE(*s))
4300             s++;
4301         if (*s == ',') {
4302             int kw;
4303             *s = '\0';
4304             kw = keyword(w, s - w) || perl_get_cv(w, FALSE) != 0;
4305             *s = ',';
4306             if (kw)
4307                 return;
4308             croak("No comma allowed after %s", what);
4309         }
4310     }
4311 }
4312
4313 static char *
4314 scan_word(s, dest, allow_package, slp)
4315 register char *s;
4316 char *dest;
4317 int allow_package;
4318 STRLEN *slp;
4319 {
4320     register char *d = dest;
4321     for (;;) {
4322         if (isALNUM(*s))
4323             *d++ = *s++;
4324         else if (*s == '\'' && allow_package && isIDFIRST(s[1])) {
4325             *d++ = ':';
4326             *d++ = ':';
4327             s++;
4328         }
4329         else if (*s == ':' && s[1] == ':' && allow_package && isIDFIRST(s[2])) {
4330             *d++ = *s++;
4331             *d++ = *s++;
4332         }
4333         else {
4334             *d = '\0';
4335             *slp = d - dest;
4336             return s;
4337         }
4338     }
4339 }
4340
4341 static char *
4342 scan_ident(s,send,dest,ck_uni)
4343 register char *s;
4344 register char *send;
4345 char *dest;
4346 I32 ck_uni;
4347 {
4348     register char *d;
4349     char *bracket = 0;
4350     char funny = *s++;
4351
4352     if (lex_brackets == 0)
4353         lex_fakebrack = 0;
4354     if (isSPACE(*s))
4355         s = skipspace(s);
4356     d = dest;
4357     if (isDIGIT(*s)) {
4358         while (isDIGIT(*s))
4359             *d++ = *s++;
4360     }
4361     else {
4362         for (;;) {
4363             if (isALNUM(*s))
4364                 *d++ = *s++;
4365             else if (*s == '\'' && isIDFIRST(s[1])) {
4366                 *d++ = ':';
4367                 *d++ = ':';
4368                 s++;
4369             }
4370             else if (*s == ':' && s[1] == ':') {
4371                 *d++ = *s++;
4372                 *d++ = *s++;
4373             }
4374             else
4375                 break;
4376         }
4377     }
4378     *d = '\0';
4379     d = dest;
4380     if (*d) {
4381         if (lex_state != LEX_NORMAL)
4382             lex_state = LEX_INTERPENDMAYBE;
4383         return s;
4384     }
4385     if (*s == '$' && s[1] &&
4386       (isALNUM(s[1]) || strchr("${", s[1]) || strnEQ(s+1,"::",2)) )
4387         return s;
4388     if (*s == '{') {
4389         bracket = s;
4390         s++;
4391     }
4392     else if (ck_uni)
4393         check_uni();
4394     if (s < send)
4395         *d = *s++;
4396     d[1] = '\0';
4397     if (*d == '^' && *s && (isUPPER(*s) || strchr("[\\]^_?", *s))) {
4398         *d = toCTRL(*s);
4399         s++;
4400     }
4401     if (bracket) {
4402         if (isSPACE(s[-1])) {
4403             while (s < send) {
4404                 char ch = *s++;
4405                 if (ch != ' ' && ch != '\t') {
4406                     *d = ch;
4407                     break;
4408                 }
4409             }
4410         }
4411         if (isIDFIRST(*d)) {
4412             d++;
4413             while (isALNUM(*s) || *s == ':')
4414                 *d++ = *s++;
4415             *d = '\0';
4416             while (s < send && (*s == ' ' || *s == '\t')) s++;
4417             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
4418                 if (dowarn && keyword(dest, d - dest)) {
4419                     char *brack = *s == '[' ? "[...]" : "{...}";
4420                     warn("Ambiguous use of %c{%s%s} resolved to %c%s%s",
4421                         funny, dest, brack, funny, dest, brack);
4422                 }
4423                 lex_fakebrack = lex_brackets+1;
4424                 bracket++;
4425                 lex_brackstack[lex_brackets++] = XOPERATOR;
4426                 return s;
4427             }
4428         }
4429         if (*s == '}') {
4430             s++;
4431             if (lex_state == LEX_INTERPNORMAL && !lex_brackets)
4432                 lex_state = LEX_INTERPEND;
4433             if (funny == '#')
4434                 funny = '@';
4435             if (dowarn &&
4436               (keyword(dest, d - dest) || perl_get_cv(dest, FALSE)))
4437                 warn("Ambiguous use of %c{%s} resolved to %c%s",
4438                     funny, dest, funny, dest);
4439         }
4440         else {
4441             s = bracket;                /* let the parser handle it */
4442             *dest = '\0';
4443         }
4444     }
4445     else if (lex_state == LEX_INTERPNORMAL && !lex_brackets && !intuit_more(s))
4446         lex_state = LEX_INTERPEND;
4447     return s;
4448 }
4449
4450 void pmflag(pmfl,ch)
4451 U16* pmfl;
4452 int ch;
4453 {
4454     if (ch == 'i')
4455         *pmfl |= PMf_FOLD;
4456     else if (ch == 'g')
4457         *pmfl |= PMf_GLOBAL;
4458     else if (ch == 'o')
4459         *pmfl |= PMf_KEEP;
4460     else if (ch == 'm')
4461         *pmfl |= PMf_MULTILINE;
4462     else if (ch == 's')
4463         *pmfl |= PMf_SINGLELINE;
4464     else if (ch == 'x')
4465         *pmfl |= PMf_EXTENDED;
4466 }
4467
4468 static char *
4469 scan_pat(start)
4470 char *start;
4471 {
4472     PMOP *pm;
4473     char *s;
4474
4475     s = scan_str(start);
4476     if (!s) {
4477         if (lex_stuff)
4478             SvREFCNT_dec(lex_stuff);
4479         lex_stuff = Nullsv;
4480         croak("Search pattern not terminated");
4481     }
4482
4483     pm = (PMOP*)newPMOP(OP_MATCH, 0);
4484     if (multi_open == '?')
4485         pm->op_pmflags |= PMf_ONCE;
4486     while (*s && strchr("iogmsx", *s))
4487         pmflag(&pm->op_pmflags,*s++);
4488     pm->op_pmpermflags = pm->op_pmflags;
4489
4490     lex_op = (OP*)pm;
4491     yylval.ival = OP_MATCH;
4492     return s;
4493 }
4494
4495 static char *
4496 scan_subst(start)
4497 char *start;
4498 {
4499     register char *s;
4500     register PMOP *pm;
4501     I32 first_start;
4502     I32 es = 0;
4503
4504     yylval.ival = OP_NULL;
4505
4506     s = scan_str(start);
4507
4508     if (!s) {
4509         if (lex_stuff)
4510             SvREFCNT_dec(lex_stuff);
4511         lex_stuff = Nullsv;
4512         croak("Substitution pattern not terminated");
4513     }
4514
4515     if (s[-1] == multi_open)
4516         s--;
4517
4518     first_start = multi_start;
4519     s = scan_str(s);
4520     if (!s) {
4521         if (lex_stuff)
4522             SvREFCNT_dec(lex_stuff);
4523         lex_stuff = Nullsv;
4524         if (lex_repl)
4525             SvREFCNT_dec(lex_repl);
4526         lex_repl = Nullsv;
4527         croak("Substitution replacement not terminated");
4528     }
4529     multi_start = first_start;  /* so whole substitution is taken together */
4530
4531     pm = (PMOP*)newPMOP(OP_SUBST, 0);
4532     while (*s && strchr("iogmsex", *s)) {
4533         if (*s == 'e') {
4534             s++;
4535             es++;
4536         }
4537         else
4538             pmflag(&pm->op_pmflags,*s++);
4539     }
4540
4541     if (es) {
4542         SV *repl;
4543         pm->op_pmflags |= PMf_EVAL;
4544         repl = newSVpv("",0);
4545         while (es-- > 0)
4546             sv_catpv(repl, es ? "eval " : "do ");
4547         sv_catpvn(repl, "{ ", 2);
4548         sv_catsv(repl, lex_repl);
4549         sv_catpvn(repl, " };", 2);
4550         SvCOMPILED_on(repl);
4551         SvREFCNT_dec(lex_repl);
4552         lex_repl = repl;
4553     }
4554
4555     pm->op_pmpermflags = pm->op_pmflags;
4556     lex_op = (OP*)pm;
4557     yylval.ival = OP_SUBST;
4558     return s;
4559 }
4560
4561 void
4562 hoistmust(pm)
4563 register PMOP *pm;
4564 {
4565     if (!pm->op_pmshort && pm->op_pmregexp->regstart &&
4566         (!pm->op_pmregexp->regmust || pm->op_pmregexp->reganch & ROPT_ANCH)
4567        ) {
4568         if (!(pm->op_pmregexp->reganch & ROPT_ANCH))
4569             pm->op_pmflags |= PMf_SCANFIRST;
4570         pm->op_pmshort = SvREFCNT_inc(pm->op_pmregexp->regstart);
4571         pm->op_pmslen = SvCUR(pm->op_pmshort);
4572     }
4573     else if (pm->op_pmregexp->regmust) {/* is there a better short-circuit? */
4574         if (pm->op_pmshort &&
4575           sv_eq(pm->op_pmshort,pm->op_pmregexp->regmust))
4576         {
4577             if (pm->op_pmflags & PMf_SCANFIRST) {
4578                 SvREFCNT_dec(pm->op_pmshort);
4579                 pm->op_pmshort = Nullsv;
4580             }
4581             else {
4582                 SvREFCNT_dec(pm->op_pmregexp->regmust);
4583                 pm->op_pmregexp->regmust = Nullsv;
4584                 return;
4585             }
4586         }
4587         /* promote the better string */
4588         if ((!pm->op_pmshort && !(pm->op_pmregexp->reganch & ROPT_ANCH)) ||
4589             ((pm->op_pmflags & PMf_SCANFIRST) &&
4590              (SvCUR(pm->op_pmshort) < SvCUR(pm->op_pmregexp->regmust)))) {
4591             SvREFCNT_dec(pm->op_pmshort);               /* ok if null */
4592             pm->op_pmshort = pm->op_pmregexp->regmust;
4593             pm->op_pmslen = SvCUR(pm->op_pmshort);
4594             pm->op_pmregexp->regmust = Nullsv;
4595             pm->op_pmflags |= PMf_SCANFIRST;
4596         }
4597     }
4598 }
4599
4600 static char *
4601 scan_trans(start)
4602 char *start;
4603 {
4604     register char* s;
4605     OP *op;
4606     short *tbl;
4607     I32 squash;
4608     I32 delete;
4609     I32 complement;
4610
4611     yylval.ival = OP_NULL;
4612
4613     s = scan_str(start);
4614     if (!s) {
4615         if (lex_stuff)
4616             SvREFCNT_dec(lex_stuff);
4617         lex_stuff = Nullsv;
4618         croak("Translation pattern not terminated");
4619     }
4620     if (s[-1] == multi_open)
4621         s--;
4622
4623     s = scan_str(s);
4624     if (!s) {
4625         if (lex_stuff)
4626             SvREFCNT_dec(lex_stuff);
4627         lex_stuff = Nullsv;
4628         if (lex_repl)
4629             SvREFCNT_dec(lex_repl);
4630         lex_repl = Nullsv;
4631         croak("Translation replacement not terminated");
4632     }
4633
4634     New(803,tbl,256,short);
4635     op = newPVOP(OP_TRANS, 0, (char*)tbl);
4636
4637     complement = delete = squash = 0;
4638     while (*s == 'c' || *s == 'd' || *s == 's') {
4639         if (*s == 'c')
4640             complement = OPpTRANS_COMPLEMENT;
4641         else if (*s == 'd')
4642             delete = OPpTRANS_DELETE;
4643         else
4644             squash = OPpTRANS_SQUASH;
4645         s++;
4646     }
4647     op->op_private = delete|squash|complement;
4648
4649     lex_op = op;
4650     yylval.ival = OP_TRANS;
4651     return s;
4652 }
4653
4654 static char *
4655 scan_heredoc(s)
4656 register char *s;
4657 {
4658     SV *herewas;
4659     I32 op_type = OP_SCALAR;
4660     I32 len;
4661     SV *tmpstr;
4662     char term;
4663     register char *d;
4664     char *peek;
4665     int outer = (rsfp && !lex_inwhat);
4666
4667     s += 2;
4668     d = tokenbuf;
4669     if (!outer)
4670         *d++ = '\n';
4671     for (peek = s; *peek == ' ' || *peek == '\t'; peek++) ;
4672     if (*peek && strchr("`'\"",*peek)) {
4673         s = peek;
4674         term = *s++;
4675         s = cpytill(d,s,bufend,term,&len);
4676         if (s < bufend)
4677             s++;
4678         d += len;
4679     }
4680     else {
4681         if (*s == '\\')
4682             s++, term = '\'';
4683         else
4684             term = '"';
4685         if (!isALNUM(*s))
4686             deprecate("bare << to mean <<\"\"");
4687         while (isALNUM(*s))
4688             *d++ = *s++;
4689     }                           /* assuming tokenbuf won't clobber */
4690     *d++ = '\n';
4691     *d = '\0';
4692     len = d - tokenbuf;
4693     d = "\n";
4694     if (outer || !(d=ninstr(s,bufend,d,d+1)))
4695         herewas = newSVpv(s,bufend-s);
4696     else
4697         s--, herewas = newSVpv(s,d-s);
4698     s += SvCUR(herewas);
4699
4700     tmpstr = NEWSV(87,80);
4701     sv_upgrade(tmpstr, SVt_PVIV);
4702     if (term == '\'') {
4703         op_type = OP_CONST;
4704         SvIVX(tmpstr) = -1;
4705     }
4706     else if (term == '`') {
4707         op_type = OP_BACKTICK;
4708         SvIVX(tmpstr) = '\\';
4709     }
4710
4711     CLINE;
4712     multi_start = curcop->cop_line;
4713     multi_open = multi_close = '<';
4714     term = *tokenbuf;
4715     if (!outer) {
4716         d = s;
4717         while (s < bufend &&
4718           (*s != term || memNE(s,tokenbuf,len)) ) {
4719             if (*s++ == '\n')
4720                 curcop->cop_line++;
4721         }
4722         if (s >= bufend) {
4723             curcop->cop_line = multi_start;
4724             missingterm(tokenbuf);
4725         }
4726         sv_setpvn(tmpstr,d+1,s-d);
4727         s += len - 1;
4728         sv_catpvn(herewas,s,bufend-s);
4729         sv_setsv(linestr,herewas);
4730         oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
4731         bufend = SvPVX(linestr) + SvCUR(linestr);
4732     }
4733     else
4734         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
4735     while (s >= bufend) {       /* multiple line string? */
4736         if (!outer ||
4737          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4738             curcop->cop_line = multi_start;
4739             missingterm(tokenbuf);
4740         }
4741         curcop->cop_line++;
4742         if (perldb && curstash != debstash) {
4743             SV *sv = NEWSV(88,0);
4744
4745             sv_upgrade(sv, SVt_PVMG);
4746             sv_setsv(sv,linestr);
4747             av_store(GvAV(curcop->cop_filegv),
4748               (I32)curcop->cop_line,sv);
4749         }
4750         bufend = SvPVX(linestr) + SvCUR(linestr);
4751         if (*s == term && memEQ(s,tokenbuf,len)) {
4752             s = bufend - 1;
4753             *s = ' ';
4754             sv_catsv(linestr,herewas);
4755             bufend = SvPVX(linestr) + SvCUR(linestr);
4756         }
4757         else {
4758             s = bufend;
4759             sv_catsv(tmpstr,linestr);
4760         }
4761     }
4762     multi_end = curcop->cop_line;
4763     s++;
4764     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
4765         SvLEN_set(tmpstr, SvCUR(tmpstr) + 1);
4766         Renew(SvPVX(tmpstr), SvLEN(tmpstr), char);
4767     }
4768     SvREFCNT_dec(herewas);
4769     lex_stuff = tmpstr;
4770     yylval.ival = op_type;
4771     return s;
4772 }
4773
4774 static char *
4775 scan_inputsymbol(start)
4776 char *start;
4777 {
4778     register char *s = start;
4779     register char *d;
4780     I32 len;
4781
4782     d = tokenbuf;
4783     s = cpytill(d, s+1, bufend, '>', &len);
4784     if (s < bufend)
4785         s++;
4786     else
4787         croak("Unterminated <> operator");
4788
4789     if (*d == '$' && d[1]) d++;
4790     while (*d && (isALNUM(*d) || *d == '\'' || *d == ':'))
4791         d++;
4792     if (d - tokenbuf != len) {
4793         yylval.ival = OP_GLOB;
4794         set_csh();
4795         s = scan_str(start);
4796         if (!s)
4797             croak("Glob not terminated");
4798         return s;
4799     }
4800     else {
4801         d = tokenbuf;
4802         if (!len)
4803             (void)strcpy(d,"ARGV");
4804         if (*d == '$') {
4805             I32 tmp;
4806             if (tmp = pad_findmy(d)) {
4807                 OP *op = newOP(OP_PADSV, 0);
4808                 op->op_targ = tmp;
4809                 lex_op = (OP*)newUNOP(OP_READLINE, 0, newUNOP(OP_RV2GV, 0, op));
4810             }
4811             else {
4812                 GV *gv = gv_fetchpv(d+1,TRUE, SVt_PV);
4813                 lex_op = (OP*)newUNOP(OP_READLINE, 0,
4814                                         newUNOP(OP_RV2GV, 0,
4815                                             newUNOP(OP_RV2SV, 0,
4816                                                 newGVOP(OP_GV, 0, gv))));
4817             }
4818             yylval.ival = OP_NULL;
4819         }
4820         else {
4821             GV *gv = gv_fetchpv(d,TRUE, SVt_PVIO);
4822             lex_op = (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
4823             yylval.ival = OP_NULL;
4824         }
4825     }
4826     return s;
4827 }
4828
4829 static char *
4830 scan_str(start)
4831 char *start;
4832 {
4833     SV *sv;
4834     char *tmps;
4835     register char *s = start;
4836     register char term;
4837     register char *to;
4838     I32 brackets = 1;
4839
4840     if (isSPACE(*s))
4841         s = skipspace(s);
4842     CLINE;
4843     term = *s;
4844     multi_start = curcop->cop_line;
4845     multi_open = term;
4846     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4847         term = tmps[5];
4848     multi_close = term;
4849
4850     sv = NEWSV(87,80);
4851     sv_upgrade(sv, SVt_PVIV);
4852     SvIVX(sv) = term;
4853     (void)SvPOK_only(sv);               /* validate pointer */
4854     s++;
4855     for (;;) {
4856         SvGROW(sv, SvCUR(sv) + (bufend - s) + 1);
4857         to = SvPVX(sv)+SvCUR(sv);
4858         if (multi_open == multi_close) {
4859             for (; s < bufend; s++,to++) {
4860                 if (*s == '\n' && !rsfp)
4861                     curcop->cop_line++;
4862                 if (*s == '\\' && s+1 < bufend && term != '\\') {
4863                     if (s[1] == term)
4864                         s++;
4865                     else
4866                         *to++ = *s++;
4867                 }
4868                 else if (*s == term)
4869                     break;
4870                 *to = *s;
4871             }
4872         }
4873         else {
4874             for (; s < bufend; s++,to++) {
4875                 if (*s == '\n' && !rsfp)
4876                     curcop->cop_line++;
4877                 if (*s == '\\' && s+1 < bufend && term != '\\') {
4878                     if (s[1] == term)
4879                         s++;
4880                     else
4881                         *to++ = *s++;
4882                 }
4883                 else if (*s == term && --brackets <= 0)
4884                     break;
4885                 else if (*s == multi_open)
4886                     brackets++;
4887                 *to = *s;
4888             }
4889         }
4890         *to = '\0';
4891         SvCUR_set(sv, to - SvPVX(sv));
4892
4893     if (s < bufend) break;      /* string ends on this line? */
4894
4895         if (!rsfp ||
4896          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4897             sv_free(sv);
4898             curcop->cop_line = multi_start;
4899             return Nullch;
4900         }
4901         curcop->cop_line++;
4902         if (perldb && curstash != debstash) {
4903             SV *sv = NEWSV(88,0);
4904
4905             sv_upgrade(sv, SVt_PVMG);
4906             sv_setsv(sv,linestr);
4907             av_store(GvAV(curcop->cop_filegv),
4908               (I32)curcop->cop_line, sv);
4909         }
4910         bufend = SvPVX(linestr) + SvCUR(linestr);
4911     }
4912     multi_end = curcop->cop_line;
4913     s++;
4914     if (SvCUR(sv) + 5 < SvLEN(sv)) {
4915         SvLEN_set(sv, SvCUR(sv) + 1);
4916         Renew(SvPVX(sv), SvLEN(sv), char);
4917     }
4918     if (lex_stuff)
4919         lex_repl = sv;
4920     else
4921         lex_stuff = sv;
4922     return s;
4923 }
4924
4925 char *
4926 scan_num(start)
4927 char *start;
4928 {
4929     register char *s = start;
4930     register char *d;
4931     I32 tryiv;
4932     double value;
4933     SV *sv;
4934     I32 floatit;
4935     char *lastub = 0;
4936
4937     switch (*s) {
4938     default:
4939         croak("panic: scan_num");
4940     case '0':
4941         {
4942             UV u;
4943             I32 shift;
4944             bool overflowed = FALSE;
4945
4946             if (s[1] == 'x') {
4947                 shift = 4;
4948                 s += 2;
4949             }
4950             else if (s[1] == '.')
4951                 goto decimal;
4952             else
4953                 shift = 3;
4954             u = 0;
4955             for (;;) {
4956                 UV n, b;
4957
4958                 switch (*s) {
4959                 default:
4960                     goto out;
4961                 case '_':
4962                     s++;
4963                     break;
4964                 case '8': case '9':
4965                     if (shift != 4)
4966                         yyerror("Illegal octal digit");
4967                     /* FALL THROUGH */
4968                 case '0': case '1': case '2': case '3': case '4':
4969                 case '5': case '6': case '7':
4970                     b = *s++ & 15;
4971                     goto digit;
4972                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
4973                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
4974                     if (shift != 4)
4975                         goto out;
4976                     b = (*s++ & 7) + 9;
4977                   digit:
4978                     n = u << shift;
4979                     if (!overflowed && (n >> shift) != u) {
4980                         warn("Integer overflow in %s number",
4981                              (shift == 4) ? "hex" : "octal");
4982                         overflowed = TRUE;
4983                     }
4984                     u = n | b;
4985                     break;
4986                 }
4987             }
4988           out:
4989             sv = NEWSV(92,0);
4990             sv_setuv(sv, u);
4991         }
4992         break;
4993     case '1': case '2': case '3': case '4': case '5':
4994     case '6': case '7': case '8': case '9': case '.':
4995       decimal:
4996         d = tokenbuf;
4997         floatit = FALSE;
4998         while (isDIGIT(*s) || *s == '_') {
4999             if (*s == '_') {
5000                 if (dowarn && lastub && s - lastub != 3)
5001                     warn("Misplaced _ in number");
5002                 lastub = ++s;
5003             }
5004             else
5005                 *d++ = *s++;
5006         }
5007         if (dowarn && lastub && s - lastub != 3)
5008             warn("Misplaced _ in number");
5009         if (*s == '.' && s[1] != '.') {
5010             floatit = TRUE;
5011             *d++ = *s++;
5012             while (isDIGIT(*s) || *s == '_') {
5013                 if (*s == '_')
5014                     s++;
5015                 else
5016                     *d++ = *s++;
5017             }
5018         }
5019         if (*s && strchr("eE",*s) && strchr("+-0123456789",s[1])) {
5020             floatit = TRUE;
5021             s++;
5022             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
5023             if (*s == '+' || *s == '-')
5024                 *d++ = *s++;
5025             while (isDIGIT(*s))
5026                 *d++ = *s++;
5027         }
5028         *d = '\0';
5029         sv = NEWSV(92,0);
5030         SET_NUMERIC_STANDARD();
5031         value = atof(tokenbuf);
5032         tryiv = I_V(value);
5033         if (!floatit && (double)tryiv == value)
5034             sv_setiv(sv, tryiv);
5035         else
5036             sv_setnv(sv, value);
5037         break;
5038     }
5039
5040     yylval.opval = newSVOP(OP_CONST, 0, sv);
5041
5042     return s;
5043 }
5044
5045 static char *
5046 scan_formline(s)
5047 register char *s;
5048 {
5049     register char *eol;
5050     register char *t;
5051     SV *stuff = newSVpv("",0);
5052     bool needargs = FALSE;
5053
5054     while (!needargs) {
5055         if (*s == '.' || *s == '}') {
5056             /*SUPPRESS 530*/
5057             for (t = s+1; *t == ' ' || *t == '\t'; t++) ;
5058             if (*t == '\n')
5059                 break;
5060         }
5061         if (in_eval && !rsfp) {
5062             eol = strchr(s,'\n');
5063             if (!eol++)
5064                 eol = bufend;
5065         }
5066         else
5067             eol = bufend = SvPVX(linestr) + SvCUR(linestr);
5068         if (*s != '#') {
5069             for (t = s; t < eol; t++) {
5070                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
5071                     needargs = FALSE;
5072                     goto enough;        /* ~~ must be first line in formline */
5073                 }
5074                 if (*t == '@' || *t == '^')
5075                     needargs = TRUE;
5076             }
5077             sv_catpvn(stuff, s, eol-s);
5078         }
5079         s = eol;
5080         if (rsfp) {
5081             s = filter_gets(linestr, rsfp, 0);
5082             oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
5083             bufend = bufptr + SvCUR(linestr);
5084             if (!s) {
5085                 s = bufptr;
5086                 yyerror("Format not terminated");
5087                 break;
5088             }
5089         }
5090         incline(s);
5091     }
5092   enough:
5093     if (SvCUR(stuff)) {
5094         expect = XTERM;
5095         if (needargs) {
5096             lex_state = LEX_NORMAL;
5097             nextval[nexttoke].ival = 0;
5098             force_next(',');
5099         }
5100         else
5101             lex_state = LEX_FORMLINE;
5102         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, stuff);
5103         force_next(THING);
5104         nextval[nexttoke].ival = OP_FORMLINE;
5105         force_next(LSTOP);
5106     }
5107     else {
5108         SvREFCNT_dec(stuff);
5109         lex_formbrack = 0;
5110         bufptr = s;
5111     }
5112     return s;
5113 }
5114
5115 static void
5116 set_csh()
5117 {
5118 #ifdef CSH
5119     if (!cshlen)
5120         cshlen = strlen(cshname);
5121 #endif
5122 }
5123
5124 int
5125 start_subparse(is_format, flags)
5126 I32 is_format;
5127 U32 flags;
5128 {
5129     int oldsavestack_ix = savestack_ix;
5130     CV* outsidecv = compcv;
5131     AV* comppadlist;
5132
5133     if (compcv) {
5134         assert(SvTYPE(compcv) == SVt_PVCV);
5135     }
5136     save_I32(&subline);
5137     save_item(subname);
5138     SAVEI32(padix);
5139     SAVESPTR(curpad);
5140     SAVESPTR(comppad);
5141     SAVESPTR(comppad_name);
5142     SAVESPTR(compcv);
5143     SAVEI32(comppad_name_fill);
5144     SAVEI32(min_intro_pending);
5145     SAVEI32(max_intro_pending);
5146     SAVEI32(pad_reset_pending);
5147
5148     compcv = (CV*)NEWSV(1104,0);
5149     sv_upgrade((SV *)compcv, is_format ? SVt_PVFM : SVt_PVCV);
5150     CvFLAGS(compcv) |= flags;
5151
5152     comppad = newAV();
5153     comppad_name = newAV();
5154     comppad_name_fill = 0;
5155     min_intro_pending = 0;
5156     av_push(comppad, Nullsv);
5157     curpad = AvARRAY(comppad);
5158     padix = 0;
5159     subline = curcop->cop_line;
5160
5161     comppadlist = newAV();
5162     AvREAL_off(comppadlist);
5163     av_store(comppadlist, 0, (SV*)comppad_name);
5164     av_store(comppadlist, 1, (SV*)comppad);
5165
5166     CvPADLIST(compcv) = comppadlist;
5167     CvOUTSIDE(compcv) = (CV*)SvREFCNT_inc((SV*)outsidecv);
5168
5169     return oldsavestack_ix;
5170 }
5171
5172 int
5173 yywarn(s)
5174 char *s;
5175 {
5176     --error_count;
5177     in_eval |= 2;
5178     yyerror(s);
5179     in_eval &= ~2;
5180     return 0;
5181 }
5182
5183 int
5184 yyerror(s)
5185 char *s;
5186 {
5187     char wbuf[40];
5188     char *where = NULL;
5189     char *context = NULL;
5190     int contlen = -1;
5191
5192     if (!yychar || (yychar == ';' && !rsfp))
5193         where = "at EOF";
5194     else if (bufptr > oldoldbufptr && bufptr - oldoldbufptr < 200 &&
5195       oldoldbufptr != oldbufptr && oldbufptr != bufptr) {
5196         while (isSPACE(*oldoldbufptr))
5197             oldoldbufptr++;
5198         context = oldoldbufptr;
5199         contlen = bufptr - oldoldbufptr;
5200     }
5201     else if (bufptr > oldbufptr && bufptr - oldbufptr < 200 &&
5202       oldbufptr != bufptr) {
5203         while (isSPACE(*oldbufptr))
5204             oldbufptr++;
5205         context = oldbufptr;
5206         contlen = bufptr - oldbufptr;
5207     }
5208     else if (yychar > 255)
5209         where = "next token ???";
5210     else if ((yychar & 127) == 127) {
5211         if (lex_state == LEX_NORMAL ||
5212            (lex_state == LEX_KNOWNEXT && lex_defer == LEX_NORMAL))
5213             where = "at end of line";
5214         else if (lex_inpat)
5215             where = "within pattern";
5216         else
5217             where = "within string";
5218     }
5219     else if (yychar < 32)
5220         (void)sprintf(where = wbuf, "next char ^%c", toCTRL(yychar));
5221     else if (isPRINT_LC(yychar))
5222         (void)sprintf(where = wbuf, "next char %c", yychar);
5223     else
5224         (void)sprintf(where = wbuf, "next char \\%03o", yychar & 255);
5225     if (contlen == -1)
5226         contlen = strlen(where);
5227     (void)sprintf(buf, "%s at %s line %d, ",
5228                   s, SvPVX(GvSV(curcop->cop_filegv)), curcop->cop_line);
5229     if (context)
5230         (void)sprintf(buf+strlen(buf), "near \"%.*s\"\n", contlen, context);
5231     else
5232         (void)sprintf(buf+strlen(buf), "%s\n", where);
5233     if (multi_start < multi_end && (U32)(curcop->cop_line - multi_end) <= 1) {
5234         sprintf(buf+strlen(buf),
5235         "  (Might be a runaway multi-line %c%c string starting on line %ld)\n",
5236                 (int)multi_open,(int)multi_close,(long)multi_start);
5237         multi_end = 0;
5238     }
5239     if (in_eval & 2)
5240         warn("%s",buf);
5241     else if (in_eval)
5242         sv_catpv(GvSV(errgv),buf);
5243     else
5244         PerlIO_printf(PerlIO_stderr(), "%s",buf);
5245     if (++error_count >= 10)
5246         croak("%s has too many errors.\n",
5247         SvPVX(GvSV(curcop->cop_filegv)));
5248     in_my = 0;
5249     return 0;
5250 }