toke.c

   1 /*    toke.c
   2  *
   3  *    Copyright (c) 1991-1997, Larry Wall
   4  *
   5  *    You may distribute under the terms of either the GNU General Public
   6  *    License or the Artistic License, as specified in the README file.
   7  *
   8  */
   9
  10 /*
  11  *   "It all comes from here, the stench and the peril."  --Frodo
  12  */
  13
  14 #include "EXTERN.h"
  15 #include "perl.h"
  16
  17 static void check_uni _((void));
  18 static void  force_next _((I32 type));
  19 static char *force_version _((char *start));
  20 static char *force_word _((char *start, int token, int check_keyword, int allow_pack, int allow_tick));
  21 static SV *q _((SV *sv));
  22 static char *scan_const _((char *start));
  23 static char *scan_formline _((char *s));
  24 static char *scan_heredoc _((char *s));
  25 static char *scan_ident _((char *s, char *send, char *dest, STRLEN destlen,
  26                            I32 ck_uni));
  27 static char *scan_inputsymbol _((char *start));
  28 static char *scan_pat _((char *start));
  29 static char *scan_str _((char *start));
  30 static char *scan_subst _((char *start));
  31 static char *scan_trans _((char *start));
  32 static char *scan_word _((char *s, char *dest, STRLEN destlen,
  33                           int allow_package, STRLEN *slp));
  34 static char *skipspace _((char *s));
  35 static void checkcomma _((char *s, char *name, char *what));
  36 static void force_ident _((char *s, int kind));
  37 static void incline _((char *s));
  38 static int intuit_method _((char *s, GV *gv));
  39 static int intuit_more _((char *s));
  40 static I32 lop _((I32 f, expectation x, char *s));
  41 static void missingterm _((char *s));
  42 static void no_op _((char *what, char *s));
  43 static void set_csh _((void));
  44 static I32 sublex_done _((void));
  45 static I32 sublex_push _((void));
  46 static I32 sublex_start _((void));
  47 #ifdef CRIPPLED_CC
  48 static int uni _((I32 f, char *s));
  49 #endif
  50 static char * filter_gets _((SV *sv, PerlIO *fp, STRLEN append));
  51 static void restore_rsfp _((void *f));
  52
  53 static char ident_too_long[] = "Identifier too long";
  54
  55 static char *linestart;         /* beg. of most recently read line */
  56
  57 static char pending_ident;      /* pending identifier lookup */
  58
  59 static struct {
  60     I32 super_state;    /* lexer state to save */
  61     I32 sub_inwhat;     /* "lex_inwhat" to use */
  62     OP *sub_op;         /* "lex_op" to use */
  63 } sublex_info;
  64
  65 /* The following are arranged oddly so that the guard on the switch statement
  66  * can get by with a single comparison (if the compiler is smart enough).
  67  */
  68
  69 /* #define LEX_NOTPARSING               11 is done in perl.h. */
  70
  71 #define LEX_NORMAL              10
  72 #define LEX_INTERPNORMAL         9
  73 #define LEX_INTERPCASEMOD        8
  74 #define LEX_INTERPPUSH           7
  75 #define LEX_INTERPSTART          6
  76 #define LEX_INTERPEND            5
  77 #define LEX_INTERPENDMAYBE       4
  78 #define LEX_INTERPCONCAT         3
  79 #define LEX_INTERPCONST          2
  80 #define LEX_FORMLINE             1
  81 #define LEX_KNOWNEXT             0
  82
  83 #ifdef I_FCNTL
  84 #include <fcntl.h>
  85 #endif
  86 #ifdef I_SYS_FILE
  87 #include <sys/file.h>
  88 #endif
  89
  90 /* XXX If this causes problems, set i_unistd=undef in the hint file.  */
  91 #ifdef I_UNISTD
  92 #  include <unistd.h> /* Needed for execv() */
  93 #endif
  94
  95
  96 #ifdef ff_next
  97 #undef ff_next
  98 #endif
  99
 100 #include "keywords.h"
 101
 102 #ifdef CLINE
 103 #undef CLINE
 104 #endif
 105 #define CLINE (copline = (curcop->cop_line < copline ? curcop->cop_line : copline))
 106
 107 #define TOKEN(retval) return (bufptr = s,(int)retval)
 108 #define OPERATOR(retval) return (expect = XTERM,bufptr = s,(int)retval)
 109 #define AOPERATOR(retval) return ao((expect = XTERM,bufptr = s,(int)retval))
 110 #define PREBLOCK(retval) return (expect = XBLOCK,bufptr = s,(int)retval)
 111 #define PRETERMBLOCK(retval) return (expect = XTERMBLOCK,bufptr = s,(int)retval)
 112 #define PREREF(retval) return (expect = XREF,bufptr = s,(int)retval)
 113 #define TERM(retval) return (CLINE, expect = XOPERATOR,bufptr = s,(int)retval)
 114 #define LOOPX(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LOOPEX)
 115 #define FTST(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)UNIOP)
 116 #define FUN0(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC0)
 117 #define FUN1(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC1)
 118 #define BOop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITOROP))
 119 #define BAop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITANDOP))
 120 #define SHop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)SHIFTOP))
 121 #define PWop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)POWOP))
 122 #define PMop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)MATCHOP)
 123 #define Aop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)ADDOP))
 124 #define Mop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)MULOP))
 125 #define Eop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)EQOP)
 126 #define Rop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)RELOP)
 127
 128 /* This bit of chicanery makes a unary function followed by
 129  * a parenthesis into a function with one argument, highest precedence.
 130  */
 131 #define UNI(f) return(yylval.ival = f, \
 132         expect = XTERM, \
 133         bufptr = s, \
 134         last_uni = oldbufptr, \
 135         last_lop_op = f, \
 136         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 137
 138 #define UNIBRACK(f) return(yylval.ival = f, \
 139         bufptr = s, \
 140         last_uni = oldbufptr, \
 141         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 142
 143 /* grandfather return to old style */
 144 #define OLDLOP(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LSTOP)
 145
 146 static int
 147 ao(toketype)
 148 int toketype;
 149 {
 150     if (*bufptr == '=') {
 151         bufptr++;
 152         if (toketype == ANDAND)
 153             yylval.ival = OP_ANDASSIGN;
 154         else if (toketype == OROR)
 155             yylval.ival = OP_ORASSIGN;
 156         toketype = ASSIGNOP;
 157     }
 158     return toketype;
 159 }
 160
 161 static void
 162 no_op(what, s)
 163 char *what;
 164 char *s;
 165 {
 166     char *oldbp = bufptr;
 167     bool is_first = (oldbufptr == linestart);
 168
 169     bufptr = s;
 170     yywarn(form("%s found where operator expected", what));
 171     if (is_first)
 172         warn("\t(Missing semicolon on previous line?)\n");
 173     else if (oldoldbufptr && isIDFIRST(*oldoldbufptr)) {
 174         char *t;
 175         for (t = oldoldbufptr; *t && (isALNUM(*t) || *t == ':'); t++) ;
 176         if (t < bufptr && isSPACE(*t))
 177             warn("\t(Do you need to predeclare %.*s?)\n",
 178                 t - oldoldbufptr, oldoldbufptr);
 179
 180     }
 181     else
 182         warn("\t(Missing operator before %.*s?)\n", s - oldbp, oldbp);
 183     bufptr = oldbp;
 184 }
 185
 186 static void
 187 missingterm(s)
 188 char *s;
 189 {
 190     char tmpbuf[3];
 191     char q;
 192     if (s) {
 193         char *nl = strrchr(s,'\n');
 194         if (nl)
 195             *nl = '\0';
 196     }
 197     else if (multi_close < 32 || multi_close == 127) {
 198         *tmpbuf = '^';
 199         tmpbuf[1] = toCTRL(multi_close);
 200         s = "\\n";
 201         tmpbuf[2] = '\0';
 202         s = tmpbuf;
 203     }
 204     else {
 205         *tmpbuf = multi_close;
 206         tmpbuf[1] = '\0';
 207         s = tmpbuf;
 208     }
 209     q = strchr(s,'"') ? '\'' : '"';
 210     croak("Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
 211 }
 212
 213 void
 214 deprecate(s)
 215 char *s;
 216 {
 217     if (dowarn)
 218         warn("Use of %s is deprecated", s);
 219 }
 220
 221 static void
 222 depcom()
 223 {
 224     deprecate("comma-less variable list");
 225 }
 226
 227 void
 228 lex_start(line)
 229 SV *line;
 230 {
 231     char *s;
 232     STRLEN len;
 233
 234     SAVEI32(lex_dojoin);
 235     SAVEI32(lex_brackets);
 236     SAVEI32(lex_fakebrack);
 237     SAVEI32(lex_casemods);
 238     SAVEI32(lex_starts);
 239     SAVEI32(lex_state);
 240     SAVESPTR(lex_inpat);
 241     SAVEI32(lex_inwhat);
 242     SAVEI16(curcop->cop_line);
 243     SAVEPPTR(bufptr);
 244     SAVEPPTR(bufend);
 245     SAVEPPTR(oldbufptr);
 246     SAVEPPTR(oldoldbufptr);
 247     SAVEPPTR(linestart);
 248     SAVESPTR(linestr);
 249     SAVEPPTR(lex_brackstack);
 250     SAVEPPTR(lex_casestack);
 251     SAVEDESTRUCTOR(restore_rsfp, rsfp);
 252
 253     lex_state = LEX_NORMAL;
 254     lex_defer = 0;
 255     expect = XSTATE;
 256     lex_brackets = 0;
 257     lex_fakebrack = 0;
 258     New(899, lex_brackstack, 120, char);
 259     New(899, lex_casestack, 12, char);
 260     SAVEFREEPV(lex_brackstack);
 261     SAVEFREEPV(lex_casestack);
 262     lex_casemods = 0;
 263     *lex_casestack = '\0';
 264     lex_dojoin = 0;
 265     lex_starts = 0;
 266     if (lex_stuff)
 267         SvREFCNT_dec(lex_stuff);
 268     lex_stuff = Nullsv;
 269     if (lex_repl)
 270         SvREFCNT_dec(lex_repl);
 271     lex_repl = Nullsv;
 272     lex_inpat = 0;
 273     lex_inwhat = 0;
 274     linestr = line;
 275     if (SvREADONLY(linestr))
 276         linestr = sv_2mortal(newSVsv(linestr));
 277     s = SvPV(linestr, len);
 278     if (len && s[len-1] != ';') {
 279         if (!(SvFLAGS(linestr) & SVs_TEMP))
 280             linestr = sv_2mortal(newSVsv(linestr));
 281         sv_catpvn(linestr, "\n;", 2);
 282     }
 283     SvTEMP_off(linestr);
 284     oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
 285     bufend = bufptr + SvCUR(linestr);
 286     SvREFCNT_dec(rs);
 287     rs = newSVpv("\n", 1);
 288     rsfp = 0;
 289 }
 290
 291 void
 292 lex_end()
 293 {
 294     doextract = FALSE;
 295 }
 296
 297 static void
 298 restore_rsfp(f)
 299 void *f;
 300 {
 301     PerlIO *fp = (PerlIO*)f;
 302
 303     if (rsfp == PerlIO_stdin())
 304         PerlIO_clearerr(rsfp);
 305     else if (rsfp && (rsfp != fp))
 306         PerlIO_close(rsfp);
 307     rsfp = fp;
 308 }
 309
 310 static void
 311 incline(s)
 312 char *s;
 313 {
 314     char *t;
 315     char *n;
 316     char ch;
 317     int sawline = 0;
 318
 319     curcop->cop_line++;
 320     if (*s++ != '#')
 321         return;
 322     while (*s == ' ' || *s == '\t') s++;
 323     if (strnEQ(s, "line ", 5)) {
 324         s += 5;
 325         sawline = 1;
 326     }
 327     if (!isDIGIT(*s))
 328         return;
 329     n = s;
 330     while (isDIGIT(*s))
 331         s++;
 332     while (*s == ' ' || *s == '\t')
 333         s++;
 334     if (*s == '"' && (t = strchr(s+1, '"')))
 335         s++;
 336     else {
 337         if (!sawline)
 338             return;             /* false alarm */
 339         for (t = s; !isSPACE(*t); t++) ;
 340     }
 341     ch = *t;
 342     *t = '\0';
 343     if (t - s > 0)
 344         curcop->cop_filegv = gv_fetchfile(s);
 345     else
 346         curcop->cop_filegv = gv_fetchfile(origfilename);
 347     *t = ch;
 348     curcop->cop_line = atoi(n)-1;
 349 }
 350
 351 static char *
 352 skipspace(s)
 353 register char *s;
 354 {
 355     if (lex_formbrack && lex_brackets <= lex_formbrack) {
 356         while (s < bufend && (*s == ' ' || *s == '\t'))
 357             s++;
 358         return s;
 359     }
 360     for (;;) {
 361         STRLEN prevlen;
 362         while (s < bufend && isSPACE(*s))
 363             s++;
 364         if (s < bufend && *s == '#') {
 365             while (s < bufend && *s != '\n')
 366                 s++;
 367             if (s < bufend)
 368                 s++;
 369         }
 370         if (s < bufend || !rsfp || lex_state != LEX_NORMAL)
 371             return s;
 372         if ((s = filter_gets(linestr, rsfp, (prevlen = SvCUR(linestr)))) == Nullch) {
 373             if (minus_n || minus_p) {
 374                 sv_setpv(linestr,minus_p ?
 375                          ";}continue{print or die qq(-p destination: $!\\n)" :
 376                          "");
 377                 sv_catpv(linestr,";}");
 378                 minus_n = minus_p = 0;
 379             }
 380             else
 381                 sv_setpv(linestr,";");
 382             oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
 383             bufend = SvPVX(linestr) + SvCUR(linestr);
 384             if (preprocess && !in_eval)
 385                 (void)my_pclose(rsfp);
 386             else if ((PerlIO*)rsfp == PerlIO_stdin())
 387                 PerlIO_clearerr(rsfp);
 388             else
 389                 (void)PerlIO_close(rsfp);
 390             if (e_fp == rsfp)
 391                 e_fp = Nullfp;
 392             rsfp = Nullfp;
 393             return s;
 394         }
 395         linestart = bufptr = s + prevlen;
 396         bufend = s + SvCUR(linestr);
 397         s = bufptr;
 398         incline(s);
 399         if (PERLDB_LINE && curstash != debstash) {
 400             SV *sv = NEWSV(85,0);
 401
 402             sv_upgrade(sv, SVt_PVMG);
 403             sv_setpvn(sv,bufptr,bufend-bufptr);
 404             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
 405         }
 406     }
 407 }
 408
 409 static void
 410 check_uni() {
 411     char *s;
 412     char ch;
 413     char *t;
 414
 415     if (oldoldbufptr != last_uni)
 416         return;
 417     while (isSPACE(*last_uni))
 418         last_uni++;
 419     for (s = last_uni; isALNUM(*s) || *s == '-'; s++) ;
 420     if ((t = strchr(s, '(')) && t < bufptr)
 421         return;
 422     ch = *s;
 423     *s = '\0';
 424     warn("Warning: Use of \"%s\" without parens is ambiguous", last_uni);
 425     *s = ch;
 426 }
 427
 428 #ifdef CRIPPLED_CC
 429
 430 #undef UNI
 431 #define UNI(f) return uni(f,s)
 432
 433 static int
 434 uni(f,s)
 435 I32 f;
 436 char *s;
 437 {
 438     yylval.ival = f;
 439     expect = XTERM;
 440     bufptr = s;
 441     last_uni = oldbufptr;
 442     last_lop_op = f;
 443     if (*s == '(')
 444         return FUNC1;
 445     s = skipspace(s);
 446     if (*s == '(')
 447         return FUNC1;
 448     else
 449         return UNIOP;
 450 }
 451
 452 #endif /* CRIPPLED_CC */
 453
 454 #define LOP(f,x) return lop(f,x,s)
 455
 456 static I32
 457 lop
 458 #ifdef CAN_PROTOTYPE
 459    (I32 f, expectation x, char *s)
 460 #else
 461    (f,x,s)
 462 I32 f;
 463 expectation x;
 464 char *s;
 465 #endif /* CAN_PROTOTYPE */
 466 {
 467     yylval.ival = f;
 468     CLINE;
 469     expect = x;
 470     bufptr = s;
 471     last_lop = oldbufptr;
 472     last_lop_op = f;
 473     if (nexttoke)
 474         return LSTOP;
 475     if (*s == '(')
 476         return FUNC;
 477     s = skipspace(s);
 478     if (*s == '(')
 479         return FUNC;
 480     else
 481         return LSTOP;
 482 }
 483
 484 static void
 485 force_next(type)
 486 I32 type;
 487 {
 488     nexttype[nexttoke] = type;
 489     nexttoke++;
 490     if (lex_state != LEX_KNOWNEXT) {
 491         lex_defer = lex_state;
 492         lex_expect = expect;
 493         lex_state = LEX_KNOWNEXT;
 494     }
 495 }
 496
 497 static char *
 498 force_word(start,token,check_keyword,allow_pack,allow_tick)
 499 register char *start;
 500 int token;
 501 int check_keyword;
 502 int allow_pack;
 503 int allow_tick;
 504 {
 505     register char *s;
 506     STRLEN len;
 507
 508     start = skipspace(start);
 509     s = start;
 510     if (isIDFIRST(*s) ||
 511         (allow_pack && *s == ':') ||
 512         (allow_tick && *s == '\'') )
 513     {
 514         s = scan_word(s, tokenbuf, sizeof tokenbuf, allow_pack, &len);
 515         if (check_keyword && keyword(tokenbuf, len))
 516             return start;
 517         if (token == METHOD) {
 518             s = skipspace(s);
 519             if (*s == '(')
 520                 expect = XTERM;
 521             else {
 522                 expect = XOPERATOR;
 523                 force_next(')');
 524                 force_next('(');
 525             }
 526         }
 527         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST,0, newSVpv(tokenbuf,0));
 528         nextval[nexttoke].opval->op_private |= OPpCONST_BARE;
 529         force_next(token);
 530     }
 531     return s;
 532 }
 533
 534 static void
 535 force_ident(s, kind)
 536 register char *s;
 537 int kind;
 538 {
 539     if (s && *s) {
 540         OP* op = (OP*)newSVOP(OP_CONST, 0, newSVpv(s,0));
 541         nextval[nexttoke].opval = op;
 542         force_next(WORD);
 543         if (kind) {
 544             op->op_private = OPpCONST_ENTERED;
 545             /* XXX see note in pp_entereval() for why we forgo typo
 546                warnings if the symbol must be introduced in an eval.
 547                GSAR 96-10-12 */
 548             gv_fetchpv(s, in_eval ? GV_ADDMULTI : TRUE,
 549                 kind == '$' ? SVt_PV :
 550                 kind == '@' ? SVt_PVAV :
 551                 kind == '%' ? SVt_PVHV :
 552                               SVt_PVGV
 553                 );
 554         }
 555     }
 556 }
 557
 558 static char *
 559 force_version(s)
 560 char *s;
 561 {
 562     OP *version = Nullop;
 563
 564     s = skipspace(s);
 565
 566     /* default VERSION number -- GBARR */
 567
 568     if(isDIGIT(*s)) {
 569         char *d;
 570         int c;
 571         for( d=s, c = 1; isDIGIT(*d) || *d == '_' || (*d == '.' && c--); d++);
 572         if((*d == ';' || isSPACE(*d)) && *(skipspace(d)) != ',') {
 573             s = scan_num(s);
 574             /* real VERSION number -- GBARR */
 575             version = yylval.opval;
 576         }
 577     }
 578
 579     /* NOTE: The parser sees the package name and the VERSION swapped */
 580     nextval[nexttoke].opval = version;
 581     force_next(WORD);
 582
 583     return (s);
 584 }
 585
 586 static SV *
 587 q(sv)
 588 SV *sv;
 589 {
 590     register char *s;
 591     register char *send;
 592     register char *d;
 593     STRLEN len;
 594
 595     if (!SvLEN(sv))
 596         return sv;
 597
 598     s = SvPV_force(sv, len);
 599     if (SvIVX(sv) == -1)
 600         return sv;
 601     send = s + len;
 602     while (s < send && *s != '\\')
 603         s++;
 604     if (s == send)
 605         return sv;
 606     d = s;
 607     while (s < send) {
 608         if (*s == '\\') {
 609             if (s + 1 < send && (s[1] == '\\'))
 610                 s++;            /* all that, just for this */
 611         }
 612         *d++ = *s++;
 613     }
 614     *d = '\0';
 615     SvCUR_set(sv, d - SvPVX(sv));
 616
 617     return sv;
 618 }
 619
 620 static I32
 621 sublex_start()
 622 {
 623     register I32 op_type = yylval.ival;
 624
 625     if (op_type == OP_NULL) {
 626         yylval.opval = lex_op;
 627         lex_op = Nullop;
 628         return THING;
 629     }
 630     if (op_type == OP_CONST || op_type == OP_READLINE) {
 631         SV *sv = q(lex_stuff);
 632         STRLEN len;
 633         char *p = SvPV(sv, len);
 634         yylval.opval = (OP*)newSVOP(op_type, 0, newSVpv(p, len));
 635         SvREFCNT_dec(sv);
 636         lex_stuff = Nullsv;
 637         return THING;
 638     }
 639
 640     sublex_info.super_state = lex_state;
 641     sublex_info.sub_inwhat = op_type;
 642     sublex_info.sub_op = lex_op;
 643     lex_state = LEX_INTERPPUSH;
 644
 645     expect = XTERM;
 646     if (lex_op) {
 647         yylval.opval = lex_op;
 648         lex_op = Nullop;
 649         return PMFUNC;
 650     }
 651     else
 652         return FUNC;
 653 }
 654
 655 static I32
 656 sublex_push()
 657 {
 658     push_scope();
 659
 660     lex_state = sublex_info.super_state;
 661     SAVEI32(lex_dojoin);
 662     SAVEI32(lex_brackets);
 663     SAVEI32(lex_fakebrack);
 664     SAVEI32(lex_casemods);
 665     SAVEI32(lex_starts);
 666     SAVEI32(lex_state);
 667     SAVESPTR(lex_inpat);
 668     SAVEI32(lex_inwhat);
 669     SAVEI16(curcop->cop_line);
 670     SAVEPPTR(bufptr);
 671     SAVEPPTR(oldbufptr);
 672     SAVEPPTR(oldoldbufptr);
 673     SAVEPPTR(linestart);
 674     SAVESPTR(linestr);
 675     SAVEPPTR(lex_brackstack);
 676     SAVEPPTR(lex_casestack);
 677
 678     linestr = lex_stuff;
 679     lex_stuff = Nullsv;
 680
 681     bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 682     bufend += SvCUR(linestr);
 683     SAVEFREESV(linestr);
 684
 685     lex_dojoin = FALSE;
 686     lex_brackets = 0;
 687     lex_fakebrack = 0;
 688     New(899, lex_brackstack, 120, char);
 689     New(899, lex_casestack, 12, char);
 690     SAVEFREEPV(lex_brackstack);
 691     SAVEFREEPV(lex_casestack);
 692     lex_casemods = 0;
 693     *lex_casestack = '\0';
 694     lex_starts = 0;
 695     lex_state = LEX_INTERPCONCAT;
 696     curcop->cop_line = multi_start;
 697
 698     lex_inwhat = sublex_info.sub_inwhat;
 699     if (lex_inwhat == OP_MATCH || lex_inwhat == OP_SUBST)
 700         lex_inpat = sublex_info.sub_op;
 701     else
 702         lex_inpat = Nullop;
 703
 704     return '(';
 705 }
 706
 707 static I32
 708 sublex_done()
 709 {
 710     if (!lex_starts++) {
 711         expect = XOPERATOR;
 712         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv("",0));
 713         return THING;
 714     }
 715
 716     if (lex_casemods) {         /* oops, we've got some unbalanced parens */
 717         lex_state = LEX_INTERPCASEMOD;
 718         return yylex();
 719     }
 720
 721     /* Is there a right-hand side to take care of? */
 722     if (lex_repl && (lex_inwhat == OP_SUBST || lex_inwhat == OP_TRANS)) {
 723         linestr = lex_repl;
 724         lex_inpat = 0;
 725         bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 726         bufend += SvCUR(linestr);
 727         SAVEFREESV(linestr);
 728         lex_dojoin = FALSE;
 729         lex_brackets = 0;
 730         lex_fakebrack = 0;
 731         lex_casemods = 0;
 732         *lex_casestack = '\0';
 733         lex_starts = 0;
 734         if (SvCOMPILED(lex_repl)) {
 735             lex_state = LEX_INTERPNORMAL;
 736             lex_starts++;
 737         }
 738         else
 739             lex_state = LEX_INTERPCONCAT;
 740         lex_repl = Nullsv;
 741         return ',';
 742     }
 743     else {
 744         pop_scope();
 745         bufend = SvPVX(linestr);
 746         bufend += SvCUR(linestr);
 747         expect = XOPERATOR;
 748         return ')';
 749     }
 750 }
 751
 752 static char *
 753 scan_const(start)
 754 char *start;
 755 {
 756     register char *send = bufend;
 757     SV *sv = NEWSV(93, send - start);
 758     register char *s = start;
 759     register char *d = SvPVX(sv);
 760     bool dorange = FALSE;
 761     I32 len;
 762     char *leave =
 763         lex_inpat
 764             ? "\\.^$@AGZdDwWsSbB+*?|()-nrtfeaxc0123456789[{]} \t\n\r\f\v#"
 765             : (lex_inwhat & OP_TRANS)
 766                 ? ""
 767                 : "";
 768
 769     while (s < send || dorange) {
 770         if (lex_inwhat == OP_TRANS) {
 771             if (dorange) {
 772                 I32 i;
 773                 I32 max;
 774                 i = d - SvPVX(sv);
 775                 SvGROW(sv, SvLEN(sv) + 256);
 776                 d = SvPVX(sv) + i;
 777                 d -= 2;
 778                 max = (U8)d[1];
 779                 for (i = (U8)*d; i <= max; i++)
 780                     *d++ = i;
 781                 dorange = FALSE;
 782                 continue;
 783             }
 784             else if (*s == '-' && s+1 < send  && s != start) {
 785                 dorange = TRUE;
 786                 s++;
 787             }
 788         }
 789         else if (*s == '(' && lex_inpat && s[1] == '?' && s[2] == '#') {
 790             while (s < send && *s != ')')
 791                 *d++ = *s++;
 792         }
 793         else if (*s == '#' && lex_inpat &&
 794           ((PMOP*)lex_inpat)->op_pmflags & PMf_EXTENDED) {
 795             while (s+1 < send && *s != '\n')
 796                 *d++ = *s++;
 797         }
 798         else if (*s == '@' && s[1] && (isALNUM(s[1]) || strchr(":'{$", s[1])))
 799             break;
 800         else if (*s == '$') {
 801             if (!lex_inpat)     /* not a regexp, so $ must be var */
 802                 break;
 803             if (s + 1 < send && !strchr(")| \n\t", s[1]))
 804                 break;          /* in regexp, $ might be tail anchor */
 805         }
 806         if (*s == '\\' && s+1 < send) {
 807             s++;
 808             if (*s && strchr(leave, *s)) {
 809                 *d++ = '\\';
 810                 *d++ = *s++;
 811                 continue;
 812             }
 813             if (lex_inwhat == OP_SUBST && !lex_inpat &&
 814                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
 815             {
 816                 if (dowarn)
 817                     warn("\\%c better written as $%c", *s, *s);
 818                 *--s = '$';
 819                 break;
 820             }
 821             if (lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
 822                 --s;
 823                 break;
 824             }
 825             switch (*s) {
 826             case '-':
 827                 if (lex_inwhat == OP_TRANS) {
 828                     *d++ = *s++;
 829                     continue;
 830                 }
 831                 /* FALL THROUGH */
 832             default:
 833                 *d++ = *s++;
 834                 continue;
 835             case '0': case '1': case '2': case '3':
 836             case '4': case '5': case '6': case '7':
 837                 *d++ = scan_oct(s, 3, &len);
 838                 s += len;
 839                 continue;
 840             case 'x':
 841                 *d++ = scan_hex(++s, 2, &len);
 842                 s += len;
 843                 continue;
 844             case 'c':
 845                 s++;
 846                 len = *s++;
 847                 *d++ = toCTRL(len);
 848                 continue;
 849             case 'b':
 850                 *d++ = '\b';
 851                 break;
 852             case 'n':
 853                 *d++ = '\n';
 854                 break;
 855             case 'r':
 856                 *d++ = '\r';
 857                 break;
 858             case 'f':
 859                 *d++ = '\f';
 860                 break;
 861             case 't':
 862                 *d++ = '\t';
 863                 break;
 864             case 'e':
 865                 *d++ = '\033';
 866                 break;
 867             case 'a':
 868                 *d++ = '\007';
 869                 break;
 870             }
 871             s++;
 872             continue;
 873         }
 874         *d++ = *s++;
 875     }
 876     *d = '\0';
 877     SvCUR_set(sv, d - SvPVX(sv));
 878     SvPOK_on(sv);
 879
 880     if (SvCUR(sv) + 5 < SvLEN(sv)) {
 881         SvLEN_set(sv, SvCUR(sv) + 1);
 882         Renew(SvPVX(sv), SvLEN(sv), char);
 883     }
 884     if (s > bufptr)
 885         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
 886     else
 887         SvREFCNT_dec(sv);
 888     return s;
 889 }
 890
 891 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
 892 static int
 893 intuit_more(s)
 894 register char *s;
 895 {
 896     if (lex_brackets)
 897         return TRUE;
 898     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
 899         return TRUE;
 900     if (*s != '{' && *s != '[')
 901         return FALSE;
 902     if (!lex_inpat)
 903         return TRUE;
 904
 905     /* In a pattern, so maybe we have {n,m}. */
 906     if (*s == '{') {
 907         s++;
 908         if (!isDIGIT(*s))
 909             return TRUE;
 910         while (isDIGIT(*s))
 911             s++;
 912         if (*s == ',')
 913             s++;
 914         while (isDIGIT(*s))
 915             s++;
 916         if (*s == '}')
 917             return FALSE;
 918         return TRUE;
 919
 920     }
 921
 922     /* On the other hand, maybe we have a character class */
 923
 924     s++;
 925     if (*s == ']' || *s == '^')
 926         return FALSE;
 927     else {
 928         int weight = 2;         /* let's weigh the evidence */
 929         char seen[256];
 930         unsigned char un_char = 0, last_un_char;
 931         char *send = strchr(s,']');
 932         char tmpbuf[sizeof tokenbuf * 4];
 933
 934         if (!send)              /* has to be an expression */
 935             return TRUE;
 936
 937         Zero(seen,256,char);
 938         if (*s == '$')
 939             weight -= 3;
 940         else if (isDIGIT(*s)) {
 941             if (s[1] != ']') {
 942                 if (isDIGIT(s[1]) && s[2] == ']')
 943                     weight -= 10;
 944             }
 945             else
 946                 weight -= 100;
 947         }
 948         for (; s < send; s++) {
 949             last_un_char = un_char;
 950             un_char = (unsigned char)*s;
 951             switch (*s) {
 952             case '@':
 953             case '&':
 954             case '$':
 955                 weight -= seen[un_char] * 10;
 956                 if (isALNUM(s[1])) {
 957                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
 958                     if ((int)strlen(tmpbuf) > 1 && gv_fetchpv(tmpbuf,FALSE, SVt_PV))
 959                         weight -= 100;
 960                     else
 961                         weight -= 10;
 962                 }
 963                 else if (*s == '$' && s[1] &&
 964                   strchr("[#!%*<>()-=",s[1])) {
 965                     if (/*{*/ strchr("])} =",s[2]))
 966                         weight -= 10;
 967                     else
 968                         weight -= 1;
 969                 }
 970                 break;
 971             case '\\':
 972                 un_char = 254;
 973                 if (s[1]) {
 974                     if (strchr("wds]",s[1]))
 975                         weight += 100;
 976                     else if (seen['\''] || seen['"'])
 977                         weight += 1;
 978                     else if (strchr("rnftbxcav",s[1]))
 979                         weight += 40;
 980                     else if (isDIGIT(s[1])) {
 981                         weight += 40;
 982                         while (s[1] && isDIGIT(s[1]))
 983                             s++;
 984                     }
 985                 }
 986                 else
 987                     weight += 100;
 988                 break;
 989             case '-':
 990                 if (s[1] == '\\')
 991                     weight += 50;
 992                 if (strchr("aA01! ",last_un_char))
 993                     weight += 30;
 994                 if (strchr("zZ79~",s[1]))
 995                     weight += 30;
 996                 break;
 997             default:
 998                 if (!isALNUM(last_un_char) && !strchr("$@&",last_un_char) &&
 999                         isALPHA(*s) && s[1] && isALPHA(s[1])) {
1000                     char *d = tmpbuf;
1001                     while (isALPHA(*s))
1002                         *d++ = *s++;
1003                     *d = '\0';
1004                     if (keyword(tmpbuf, d - tmpbuf))
1005                         weight -= 150;
1006                 }
1007                 if (un_char == last_un_char + 1)
1008                     weight += 5;
1009                 weight -= seen[un_char];
1010                 break;
1011             }
1012             seen[un_char]++;
1013         }
1014         if (weight >= 0)        /* probably a character class */
1015             return FALSE;
1016     }
1017
1018     return TRUE;
1019 }
1020
1021 static int
1022 intuit_method(start,gv)
1023 char *start;
1024 GV *gv;
1025 {
1026     char *s = start + (*start == '$');
1027     char tmpbuf[sizeof tokenbuf];
1028     STRLEN len;
1029     GV* indirgv;
1030
1031     if (gv) {
1032         if (GvIO(gv))
1033             return 0;
1034         if (!GvCVu(gv))
1035             gv = 0;
1036     }
1037     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
1038     if (*start == '$') {
1039         if (gv || last_lop_op == OP_PRINT || isUPPER(*tokenbuf))
1040             return 0;
1041         s = skipspace(s);
1042         bufptr = start;
1043         expect = XREF;
1044         return *s == '(' ? FUNCMETH : METHOD;
1045     }
1046     if (!keyword(tmpbuf, len)) {
1047         indirgv = gv_fetchpv(tmpbuf,FALSE, SVt_PVCV);
1048         if (indirgv && GvCVu(indirgv))
1049             return 0;
1050         /* filehandle or package name makes it a method */
1051         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
1052             s = skipspace(s);
1053             if ((bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
1054                 return 0;       /* no assumptions -- "=>" quotes bearword */
1055             nextval[nexttoke].opval =
1056                 (OP*)newSVOP(OP_CONST, 0,
1057                             newSVpv(tmpbuf,0));
1058             nextval[nexttoke].opval->op_private =
1059                 OPpCONST_BARE;
1060             expect = XTERM;
1061             force_next(WORD);
1062             bufptr = s;
1063             return *s == '(' ? FUNCMETH : METHOD;
1064         }
1065     }
1066     return 0;
1067 }
1068
1069 static char*
1070 incl_perldb()
1071 {
1072     if (perldb) {
1073         char *pdb = getenv("PERL5DB");
1074
1075         if (pdb)
1076             return pdb;
1077         return "BEGIN { require 'perl5db.pl' }";
1078     }
1079     return "";
1080 }
1081
1082
1083 /* Encoded script support. filter_add() effectively inserts a
1084  * 'pre-processing' function into the current source input stream.
1085  * Note that the filter function only applies to the current source file
1086  * (e.g., it will not affect files 'require'd or 'use'd by this one).
1087  *
1088  * The datasv parameter (which may be NULL) can be used to pass
1089  * private data to this instance of the filter. The filter function
1090  * can recover the SV using the FILTER_DATA macro and use it to
1091  * store private buffers and state information.
1092  *
1093  * The supplied datasv parameter is upgraded to a PVIO type
1094  * and the IoDIRP field is used to store the function pointer.
1095  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
1096  * private use must be set using malloc'd pointers.
1097  */
1098 static int filter_debug = 0;
1099
1100 SV *
1101 filter_add(funcp, datasv)
1102     filter_t funcp;
1103     SV *datasv;
1104 {
1105     if (!funcp){ /* temporary handy debugging hack to be deleted */
1106         filter_debug = atoi((char*)datasv);
1107         return NULL;
1108     }
1109     if (!rsfp_filters)
1110         rsfp_filters = newAV();
1111     if (!datasv)
1112         datasv = newSV(0);
1113     if (!SvUPGRADE(datasv, SVt_PVIO))
1114         die("Can't upgrade filter_add data to SVt_PVIO");
1115     IoDIRP(datasv) = (DIR*)funcp; /* stash funcp into spare field */
1116     if (filter_debug)
1117         warn("filter_add func %p (%s)", funcp, SvPV(datasv,na));
1118     av_unshift(rsfp_filters, 1);
1119     av_store(rsfp_filters, 0, datasv) ;
1120     return(datasv);
1121 }
1122
1123
1124 /* Delete most recently added instance of this filter function. */
1125 void
1126 filter_del(funcp)
1127     filter_t funcp;
1128 {
1129     if (filter_debug)
1130         warn("filter_del func %p", funcp);
1131     if (!rsfp_filters || AvFILL(rsfp_filters)<0)
1132         return;
1133     /* if filter is on top of stack (usual case) just pop it off */
1134     if (IoDIRP(FILTER_DATA(0)) == (void*)funcp){
1135         /* sv_free(av_pop(rsfp_filters)); */
1136         sv_free(av_shift(rsfp_filters));
1137
1138         return;
1139     }
1140     /* we need to search for the correct entry and clear it     */
1141     die("filter_del can only delete in reverse order (currently)");
1142 }
1143
1144
1145 /* Invoke the n'th filter function for the current rsfp.         */
1146 I32
1147 filter_read(idx, buf_sv, maxlen)
1148     int idx;
1149     SV *buf_sv;
1150     int maxlen;         /* 0 = read one text line */
1151 {
1152     filter_t funcp;
1153     SV *datasv = NULL;
1154
1155     if (!rsfp_filters)
1156         return -1;
1157     if (idx > AvFILL(rsfp_filters)){       /* Any more filters? */
1158         /* Provide a default input filter to make life easy.    */
1159         /* Note that we append to the line. This is handy.      */
1160         if (filter_debug)
1161             warn("filter_read %d: from rsfp\n", idx);
1162         if (maxlen) {
1163             /* Want a block */
1164             int len ;
1165             int old_len = SvCUR(buf_sv) ;
1166
1167             /* ensure buf_sv is large enough */
1168             SvGROW(buf_sv, old_len + maxlen) ;
1169             if ((len = PerlIO_read(rsfp, SvPVX(buf_sv) + old_len, maxlen)) <= 0){
1170                 if (PerlIO_error(rsfp))
1171                     return -1;          /* error */
1172                 else
1173                     return 0 ;          /* end of file */
1174             }
1175             SvCUR_set(buf_sv, old_len + len) ;
1176         } else {
1177             /* Want a line */
1178             if (sv_gets(buf_sv, rsfp, SvCUR(buf_sv)) == NULL) {
1179                 if (PerlIO_error(rsfp))
1180                     return -1;          /* error */
1181                 else
1182                     return 0 ;          /* end of file */
1183             }
1184         }
1185         return SvCUR(buf_sv);
1186     }
1187     /* Skip this filter slot if filter has been deleted */
1188     if ( (datasv = FILTER_DATA(idx)) == &sv_undef){
1189         if (filter_debug)
1190             warn("filter_read %d: skipped (filter deleted)\n", idx);
1191         return FILTER_READ(idx+1, buf_sv, maxlen); /* recurse */
1192     }
1193     /* Get function pointer hidden within datasv        */
1194     funcp = (filter_t)IoDIRP(datasv);
1195     if (filter_debug)
1196         warn("filter_read %d: via function %p (%s)\n",
1197                 idx, funcp, SvPV(datasv,na));
1198     /* Call function. The function is expected to       */
1199     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
1200     /* Return: <0:error, =0:eof, >0:not eof             */
1201     return (*funcp)(idx, buf_sv, maxlen);
1202 }
1203
1204 static char *
1205 filter_gets(sv,fp, append)
1206 register SV *sv;
1207 register PerlIO *fp;
1208 STRLEN append;
1209 {
1210     if (rsfp_filters) {
1211
1212         if (!append)
1213             SvCUR_set(sv, 0);   /* start with empty line        */
1214         if (FILTER_READ(0, sv, 0) > 0)
1215             return ( SvPVX(sv) ) ;
1216         else
1217             return Nullch ;
1218     }
1219     else
1220         return (sv_gets(sv, fp, append));
1221
1222 }
1223
1224
1225 #ifdef DEBUGGING
1226     static char* exp_name[] =
1227         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "TERMBLOCK" };
1228 #endif
1229
1230 EXT int yychar;         /* last token */
1231
1232 int
1233 yylex()
1234 {
1235     register char *s;
1236     register char *d;
1237     register I32 tmp;
1238     STRLEN len;
1239
1240     if (pending_ident) {
1241         char pit = pending_ident;
1242         pending_ident = 0;
1243
1244         if (in_my) {
1245             if (strchr(tokenbuf,':'))
1246                 croak(no_myglob,tokenbuf);
1247             yylval.opval = newOP(OP_PADANY, 0);
1248             yylval.opval->op_targ = pad_allocmy(tokenbuf);
1249             return PRIVATEREF;
1250         }
1251
1252         if (!strchr(tokenbuf,':') && (tmp = pad_findmy(tokenbuf))) {
1253             if (last_lop_op == OP_SORT &&
1254                 tokenbuf[0] == '$' &&
1255                 (tokenbuf[1] == 'a' || tokenbuf[1] == 'b')
1256                 && !tokenbuf[2])
1257             {
1258                 for (d = in_eval ? oldoldbufptr : linestart;
1259                      d < bufend && *d != '\n';
1260                      d++)
1261                 {
1262                     if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
1263                         croak("Can't use \"my %s\" in sort comparison",
1264                               tokenbuf);
1265                     }
1266                 }
1267             }
1268
1269             yylval.opval = newOP(OP_PADANY, 0);
1270             yylval.opval->op_targ = tmp;
1271             return PRIVATEREF;
1272         }
1273
1274         /* Force them to make up their mind on "@foo". */
1275         if (pit == '@' && lex_state != LEX_NORMAL && !lex_brackets) {
1276             GV *gv = gv_fetchpv(tokenbuf+1, FALSE, SVt_PVAV);
1277             if (!gv || ((tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
1278                 yyerror(form("In string, %s now must be written as \\%s",
1279                              tokenbuf, tokenbuf));
1280         }
1281
1282         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf+1, 0));
1283         yylval.opval->op_private = OPpCONST_ENTERED;
1284         gv_fetchpv(tokenbuf+1, in_eval ? GV_ADDMULTI : TRUE,
1285                    ((tokenbuf[0] == '$') ? SVt_PV
1286                     : (tokenbuf[0] == '@') ? SVt_PVAV
1287                     : SVt_PVHV));
1288         return WORD;
1289     }
1290
1291     switch (lex_state) {
1292 #ifdef COMMENTARY
1293     case LEX_NORMAL:            /* Some compilers will produce faster */
1294     case LEX_INTERPNORMAL:      /* code if we comment these out. */
1295         break;
1296 #endif
1297
1298     case LEX_KNOWNEXT:
1299         nexttoke--;
1300         yylval = nextval[nexttoke];
1301         if (!nexttoke) {
1302             lex_state = lex_defer;
1303             expect = lex_expect;
1304             lex_defer = LEX_NORMAL;
1305         }
1306         return(nexttype[nexttoke]);
1307
1308     case LEX_INTERPCASEMOD:
1309 #ifdef DEBUGGING
1310         if (bufptr != bufend && *bufptr != '\\')
1311             croak("panic: INTERPCASEMOD");
1312 #endif
1313         if (bufptr == bufend || bufptr[1] == 'E') {
1314             char oldmod;
1315             if (lex_casemods) {
1316                 oldmod = lex_casestack[--lex_casemods];
1317                 lex_casestack[lex_casemods] = '\0';
1318                 if (bufptr != bufend && strchr("LUQ", oldmod)) {
1319                     bufptr += 2;
1320                     lex_state = LEX_INTERPCONCAT;
1321                 }
1322                 return ')';
1323             }
1324             if (bufptr != bufend)
1325                 bufptr += 2;
1326             lex_state = LEX_INTERPCONCAT;
1327             return yylex();
1328         }
1329         else {
1330             s = bufptr + 1;
1331             if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
1332                 tmp = *s, *s = s[2], s[2] = tmp;        /* misordered... */
1333             if (strchr("LU", *s) &&
1334                 (strchr(lex_casestack, 'L') || strchr(lex_casestack, 'U')))
1335             {
1336                 lex_casestack[--lex_casemods] = '\0';
1337                 return ')';
1338             }
1339             if (lex_casemods > 10) {
1340                 char* newlb = Renew(lex_casestack, lex_casemods + 2, char);
1341                 if (newlb != lex_casestack) {
1342                     SAVEFREEPV(newlb);
1343                     lex_casestack = newlb;
1344                 }
1345             }
1346             lex_casestack[lex_casemods++] = *s;
1347             lex_casestack[lex_casemods] = '\0';
1348             lex_state = LEX_INTERPCONCAT;
1349             nextval[nexttoke].ival = 0;
1350             force_next('(');
1351             if (*s == 'l')
1352                 nextval[nexttoke].ival = OP_LCFIRST;
1353             else if (*s == 'u')
1354                 nextval[nexttoke].ival = OP_UCFIRST;
1355             else if (*s == 'L')
1356                 nextval[nexttoke].ival = OP_LC;
1357             else if (*s == 'U')
1358                 nextval[nexttoke].ival = OP_UC;
1359             else if (*s == 'Q')
1360                 nextval[nexttoke].ival = OP_QUOTEMETA;
1361             else
1362                 croak("panic: yylex");
1363             bufptr = s + 1;
1364             force_next(FUNC);
1365             if (lex_starts) {
1366                 s = bufptr;
1367                 lex_starts = 0;
1368                 Aop(OP_CONCAT);
1369             }
1370             else
1371                 return yylex();
1372         }
1373
1374     case LEX_INTERPPUSH:
1375         return sublex_push();
1376
1377     case LEX_INTERPSTART:
1378         if (bufptr == bufend)
1379             return sublex_done();
1380         expect = XTERM;
1381         lex_dojoin = (*bufptr == '@');
1382         lex_state = LEX_INTERPNORMAL;
1383         if (lex_dojoin) {
1384             nextval[nexttoke].ival = 0;
1385             force_next(',');
1386             force_ident("\"", '$');
1387             nextval[nexttoke].ival = 0;
1388             force_next('$');
1389             nextval[nexttoke].ival = 0;
1390             force_next('(');
1391             nextval[nexttoke].ival = OP_JOIN;   /* emulate join($", ...) */
1392             force_next(FUNC);
1393         }
1394         if (lex_starts++) {
1395             s = bufptr;
1396             Aop(OP_CONCAT);
1397         }
1398         return yylex();
1399
1400     case LEX_INTERPENDMAYBE:
1401         if (intuit_more(bufptr)) {
1402             lex_state = LEX_INTERPNORMAL;       /* false alarm, more expr */
1403             break;
1404         }
1405         /* FALL THROUGH */
1406
1407     case LEX_INTERPEND:
1408         if (lex_dojoin) {
1409             lex_dojoin = FALSE;
1410             lex_state = LEX_INTERPCONCAT;
1411             return ')';
1412         }
1413         /* FALLTHROUGH */
1414     case LEX_INTERPCONCAT:
1415 #ifdef DEBUGGING
1416         if (lex_brackets)
1417             croak("panic: INTERPCONCAT");
1418 #endif
1419         if (bufptr == bufend)
1420             return sublex_done();
1421
1422         if (SvIVX(linestr) == '\'') {
1423             SV *sv = newSVsv(linestr);
1424             if (!lex_inpat)
1425                 sv = q(sv);
1426             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1427             s = bufend;
1428         }
1429         else {
1430             s = scan_const(bufptr);
1431             if (*s == '\\')
1432                 lex_state = LEX_INTERPCASEMOD;
1433             else
1434                 lex_state = LEX_INTERPSTART;
1435         }
1436
1437         if (s != bufptr) {
1438             nextval[nexttoke] = yylval;
1439             expect = XTERM;
1440             force_next(THING);
1441             if (lex_starts++)
1442                 Aop(OP_CONCAT);
1443             else {
1444                 bufptr = s;
1445                 return yylex();
1446             }
1447         }
1448
1449         return yylex();
1450     case LEX_FORMLINE:
1451         lex_state = LEX_NORMAL;
1452         s = scan_formline(bufptr);
1453         if (!lex_formbrack)
1454             goto rightbracket;
1455         OPERATOR(';');
1456     }
1457
1458     s = bufptr;
1459     oldoldbufptr = oldbufptr;
1460     oldbufptr = s;
1461     DEBUG_p( {
1462         PerlIO_printf(PerlIO_stderr(), "### Tokener expecting %s at %s\n", exp_name[expect], s);
1463     } )
1464
1465   retry:
1466     switch (*s) {
1467     default:
1468         croak("Unrecognized character \\%03o", *s & 255);
1469     case 4:
1470     case 26:
1471         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
1472     case 0:
1473         if (!rsfp) {
1474             last_uni = 0;
1475             last_lop = 0;
1476             if (lex_brackets)
1477                 yyerror("Missing right bracket");
1478             TOKEN(0);
1479         }
1480         if (s++ < bufend)
1481             goto retry;                 /* ignore stray nulls */
1482         last_uni = 0;
1483         last_lop = 0;
1484         if (!in_eval && !preambled) {
1485             preambled = TRUE;
1486             sv_setpv(linestr,incl_perldb());
1487             if (SvCUR(linestr))
1488                 sv_catpv(linestr,";");
1489             if (preambleav){
1490                 while(AvFILL(preambleav) >= 0) {
1491                     SV *tmpsv = av_shift(preambleav);
1492                     sv_catsv(linestr, tmpsv);
1493                     sv_catpv(linestr, ";");
1494                     sv_free(tmpsv);
1495                 }
1496                 sv_free((SV*)preambleav);
1497                 preambleav = NULL;
1498             }
1499             if (minus_n || minus_p) {
1500                 sv_catpv(linestr, "LINE: while (<>) {");
1501                 if (minus_l)
1502                     sv_catpv(linestr,"chomp;");
1503                 if (minus_a) {
1504                     GV* gv = gv_fetchpv("::F", TRUE, SVt_PVAV);
1505                     if (gv)
1506                         GvIMPORTED_AV_on(gv);
1507                     if (minus_F) {
1508                         if (strchr("/'\"", *splitstr)
1509                               && strchr(splitstr + 1, *splitstr))
1510                             sv_catpvf(linestr, "@F=split(%s);", splitstr);
1511                         else {
1512                             char delim;
1513                             s = "'~#\200\1'"; /* surely one char is unused...*/
1514                             while (s[1] && strchr(splitstr, *s))  s++;
1515                             delim = *s;
1516                             sv_catpvf(linestr, "@F=split(%s%c",
1517                                       "q" + (delim == '\''), delim);
1518                             for (s = splitstr; *s; s++) {
1519                                 if (*s == '\\')
1520                                     sv_catpvn(linestr, "\\", 1);
1521                                 sv_catpvn(linestr, s, 1);
1522                             }
1523                             sv_catpvf(linestr, "%c);", delim);
1524                         }
1525                     }
1526                     else
1527                         sv_catpv(linestr,"@F=split(' ');");
1528                 }
1529             }
1530             sv_catpv(linestr, "\n");
1531             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1532             bufend = SvPVX(linestr) + SvCUR(linestr);
1533             if (PERLDB_LINE && curstash != debstash) {
1534                 SV *sv = NEWSV(85,0);
1535
1536                 sv_upgrade(sv, SVt_PVMG);
1537                 sv_setsv(sv,linestr);
1538                 av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1539             }
1540             goto retry;
1541         }
1542         do {
1543             if ((s = filter_gets(linestr, rsfp, 0)) == Nullch) {
1544               fake_eof:
1545                 if (rsfp) {
1546                     if (preprocess && !in_eval)
1547                         (void)my_pclose(rsfp);
1548                     else if ((PerlIO *)rsfp == PerlIO_stdin())
1549                         PerlIO_clearerr(rsfp);
1550                     else
1551                         (void)PerlIO_close(rsfp);
1552                     if (e_fp == rsfp)
1553                         e_fp = Nullfp;
1554                     rsfp = Nullfp;
1555                 }
1556                 if (!in_eval && (minus_n || minus_p)) {
1557                     sv_setpv(linestr,minus_p ? ";}continue{print" : "");
1558                     sv_catpv(linestr,";}");
1559                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1560                     bufend = SvPVX(linestr) + SvCUR(linestr);
1561                     minus_n = minus_p = 0;
1562                     goto retry;
1563                 }
1564                 oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1565                 sv_setpv(linestr,"");
1566                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
1567             }
1568             if (doextract) {
1569                 if (*s == '#' && s[1] == '!' && instr(s,"perl"))
1570                     doextract = FALSE;
1571
1572                 /* Incest with pod. */
1573                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
1574                     sv_setpv(linestr, "");
1575                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1576                     bufend = SvPVX(linestr) + SvCUR(linestr);
1577                     doextract = FALSE;
1578                 }
1579             }
1580             incline(s);
1581         } while (doextract);
1582         oldoldbufptr = oldbufptr = bufptr = linestart = s;
1583         if (PERLDB_LINE && curstash != debstash) {
1584             SV *sv = NEWSV(85,0);
1585
1586             sv_upgrade(sv, SVt_PVMG);
1587             sv_setsv(sv,linestr);
1588             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1589         }
1590         bufend = SvPVX(linestr) + SvCUR(linestr);
1591         if (curcop->cop_line == 1) {
1592             while (s < bufend && isSPACE(*s))
1593                 s++;
1594             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
1595                 s++;
1596             d = Nullch;
1597             if (!in_eval) {
1598                 if (*s == '#' && *(s+1) == '!')
1599                     d = s + 2;
1600 #ifdef ALTERNATE_SHEBANG
1601                 else {
1602                     static char as[] = ALTERNATE_SHEBANG;
1603                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
1604                         d = s + (sizeof(as) - 1);
1605                 }
1606 #endif /* ALTERNATE_SHEBANG */
1607             }
1608             if (d) {
1609                 char *ipath;
1610                 char *ipathend;
1611
1612                 while (isSPACE(*d))
1613                     d++;
1614                 ipath = d;
1615                 while (*d && !isSPACE(*d))
1616                     d++;
1617                 ipathend = d;
1618
1619 #ifdef ARG_ZERO_IS_SCRIPT
1620                 if (ipathend > ipath) {
1621                     /*
1622                      * HP-UX (at least) sets argv[0] to the script name,
1623                      * which makes $^X incorrect.  And Digital UNIX and Linux,
1624                      * at least, set argv[0] to the basename of the Perl
1625                      * interpreter. So, having found "#!", we'll set it right.
1626                      */
1627                     SV *x = GvSV(gv_fetchpv("\030", TRUE, SVt_PV));
1628                     assert(SvPOK(x) || SvGMAGICAL(x));
1629                     if (sv_eq(x, GvSV(curcop->cop_filegv))) {
1630                         sv_setpvn(x, ipath, ipathend - ipath);
1631                         SvSETMAGIC(x);
1632                     }
1633                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
1634                 }
1635 #endif /* ARG_ZERO_IS_SCRIPT */
1636
1637                 /*
1638                  * Look for options.
1639                  */
1640                 d = instr(s,"perl -");
1641                 if (!d)
1642                     d = instr(s,"perl");
1643 #ifdef ALTERNATE_SHEBANG
1644                 /*
1645                  * If the ALTERNATE_SHEBANG on this system starts with a
1646                  * character that can be part of a Perl expression, then if
1647                  * we see it but not "perl", we're probably looking at the
1648                  * start of Perl code, not a request to hand off to some
1649                  * other interpreter.  Similarly, if "perl" is there, but
1650                  * not in the first 'word' of the line, we assume the line
1651                  * contains the start of the Perl program.
1652                  */
1653                 if (d && *s != '#') {
1654                     char *c = ipath;
1655                     while (*c && !strchr("; \t\r\n\f\v#", *c))
1656                         c++;
1657                     if (c < d)
1658                         d = Nullch;     /* "perl" not in first word; ignore */
1659                     else
1660                         *s = '#';       /* Don't try to parse shebang line */
1661                 }
1662 #endif /* ALTERNATE_SHEBANG */
1663                 if (!d &&
1664                     *s == '#' &&
1665                     ipathend > ipath &&
1666                     !minus_c &&
1667                     !instr(s,"indir") &&
1668                     instr(origargv[0],"perl"))
1669                 {
1670                     char **newargv;
1671
1672                     *ipathend = '\0';
1673                     s = ipathend + 1;
1674                     while (s < bufend && isSPACE(*s))
1675                         s++;
1676                     if (s < bufend) {
1677                         Newz(899,newargv,origargc+3,char*);
1678                         newargv[1] = s;
1679                         while (s < bufend && !isSPACE(*s))
1680                             s++;
1681                         *s = '\0';
1682                         Copy(origargv+1, newargv+2, origargc+1, char*);
1683                     }
1684                     else
1685                         newargv = origargv;
1686                     newargv[0] = ipath;
1687                     execv(ipath, newargv);
1688                     croak("Can't exec %s", ipath);
1689                 }
1690                 if (d) {
1691                     U32 oldpdb = perldb;
1692                     bool oldn = minus_n;
1693                     bool oldp = minus_p;
1694
1695                     while (*d && !isSPACE(*d)) d++;
1696                     while (*d == ' ' || *d == '\t') d++;
1697
1698                     if (*d++ == '-') {
1699                         do {
1700                             if (*d == 'M' || *d == 'm') {
1701                                 char *m = d;
1702                                 while (*d && !isSPACE(*d)) d++;
1703                                 croak("Too late for \"-%.*s\" option",
1704                                       (int)(d - m), m);
1705                             }
1706                             d = moreswitches(d);
1707                         } while (d);
1708                         if (PERLDB_LINE && !oldpdb ||
1709                             ( minus_n || minus_p ) && !(oldn || oldp) )
1710                               /* if we have already added "LINE: while (<>) {",
1711                                  we must not do it again */
1712                         {
1713                             sv_setpv(linestr, "");
1714                             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1715                             bufend = SvPVX(linestr) + SvCUR(linestr);
1716                             preambled = FALSE;
1717                             if (PERLDB_LINE)
1718                                 (void)gv_fetchfile(origfilename);
1719                             goto retry;
1720                         }
1721                     }
1722                 }
1723             }
1724         }
1725         if (lex_formbrack && lex_brackets <= lex_formbrack) {
1726             bufptr = s;
1727             lex_state = LEX_FORMLINE;
1728             return yylex();
1729         }
1730         goto retry;
1731     case '\r':
1732         warn("Illegal character \\%03o (carriage return)", '\r');
1733         croak(
1734       "(Maybe you didn't strip carriage returns after a network transfer?)\n");
1735     case ' ': case '\t': case '\f': case 013:
1736         s++;
1737         goto retry;
1738     case '#':
1739     case '\n':
1740         if (lex_state != LEX_NORMAL || (in_eval && !rsfp)) {
1741             d = bufend;
1742             while (s < d && *s != '\n')
1743                 s++;
1744             if (s < d)
1745                 s++;
1746             incline(s);
1747             if (lex_formbrack && lex_brackets <= lex_formbrack) {
1748                 bufptr = s;
1749                 lex_state = LEX_FORMLINE;
1750                 return yylex();
1751             }
1752         }
1753         else {
1754             *s = '\0';
1755             bufend = s;
1756         }
1757         goto retry;
1758     case '-':
1759         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
1760             s++;
1761             bufptr = s;
1762             tmp = *s++;
1763
1764             while (s < bufend && (*s == ' ' || *s == '\t'))
1765                 s++;
1766
1767             if (strnEQ(s,"=>",2)) {
1768                 if (dowarn)
1769                     warn("Ambiguous use of -%c => resolved to \"-%c\" =>",
1770                         (int)tmp, (int)tmp);
1771                 s = force_word(bufptr,WORD,FALSE,FALSE,FALSE);
1772                 OPERATOR('-');          /* unary minus */
1773             }
1774             last_uni = oldbufptr;
1775             last_lop_op = OP_FTEREAD;   /* good enough */
1776             switch (tmp) {
1777             case 'r': FTST(OP_FTEREAD);
1778             case 'w': FTST(OP_FTEWRITE);
1779             case 'x': FTST(OP_FTEEXEC);
1780             case 'o': FTST(OP_FTEOWNED);
1781             case 'R': FTST(OP_FTRREAD);
1782             case 'W': FTST(OP_FTRWRITE);
1783             case 'X': FTST(OP_FTREXEC);
1784             case 'O': FTST(OP_FTROWNED);
1785             case 'e': FTST(OP_FTIS);
1786             case 'z': FTST(OP_FTZERO);
1787             case 's': FTST(OP_FTSIZE);
1788             case 'f': FTST(OP_FTFILE);
1789             case 'd': FTST(OP_FTDIR);
1790             case 'l': FTST(OP_FTLINK);
1791             case 'p': FTST(OP_FTPIPE);
1792             case 'S': FTST(OP_FTSOCK);
1793             case 'u': FTST(OP_FTSUID);
1794             case 'g': FTST(OP_FTSGID);
1795             case 'k': FTST(OP_FTSVTX);
1796             case 'b': FTST(OP_FTBLK);
1797             case 'c': FTST(OP_FTCHR);
1798             case 't': FTST(OP_FTTTY);
1799             case 'T': FTST(OP_FTTEXT);
1800             case 'B': FTST(OP_FTBINARY);
1801             case 'M': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTMTIME);
1802             case 'A': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTATIME);
1803             case 'C': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTCTIME);
1804             default:
1805                 croak("Unrecognized file test: -%c", (int)tmp);
1806                 break;
1807             }
1808         }
1809         tmp = *s++;
1810         if (*s == tmp) {
1811             s++;
1812             if (expect == XOPERATOR)
1813                 TERM(POSTDEC);
1814             else
1815                 OPERATOR(PREDEC);
1816         }
1817         else if (*s == '>') {
1818             s++;
1819             s = skipspace(s);
1820             if (isIDFIRST(*s)) {
1821                 s = force_word(s,METHOD,FALSE,TRUE,FALSE);
1822                 TOKEN(ARROW);
1823             }
1824             else if (*s == '$')
1825                 OPERATOR(ARROW);
1826             else
1827                 TERM(ARROW);
1828         }
1829         if (expect == XOPERATOR)
1830             Aop(OP_SUBTRACT);
1831         else {
1832             if (isSPACE(*s) || !isSPACE(*bufptr))
1833                 check_uni();
1834             OPERATOR('-');              /* unary minus */
1835         }
1836
1837     case '+':
1838         tmp = *s++;
1839         if (*s == tmp) {
1840             s++;
1841             if (expect == XOPERATOR)
1842                 TERM(POSTINC);
1843             else
1844                 OPERATOR(PREINC);
1845         }
1846         if (expect == XOPERATOR)
1847             Aop(OP_ADD);
1848         else {
1849             if (isSPACE(*s) || !isSPACE(*bufptr))
1850                 check_uni();
1851             OPERATOR('+');
1852         }
1853
1854     case '*':
1855         if (expect != XOPERATOR) {
1856             s = scan_ident(s, bufend, tokenbuf, sizeof tokenbuf, TRUE);
1857             expect = XOPERATOR;
1858             force_ident(tokenbuf, '*');
1859             if (!*tokenbuf)
1860                 PREREF('*');
1861             TERM('*');
1862         }
1863         s++;
1864         if (*s == '*') {
1865             s++;
1866             PWop(OP_POW);
1867         }
1868         Mop(OP_MULTIPLY);
1869
1870     case '%':
1871         if (expect == XOPERATOR) {
1872             ++s;
1873             Mop(OP_MODULO);
1874         }
1875         tokenbuf[0] = '%';
1876         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, TRUE);
1877         if (!tokenbuf[1]) {
1878             if (s == bufend)
1879                 yyerror("Final % should be \\% or %name");
1880             PREREF('%');
1881         }
1882         pending_ident = '%';
1883         TERM('%');
1884
1885     case '^':
1886         s++;
1887         BOop(OP_BIT_XOR);
1888     case '[':
1889         lex_brackets++;
1890         /* FALL THROUGH */
1891     case '~':
1892     case ',':
1893         tmp = *s++;
1894         OPERATOR(tmp);
1895     case ':':
1896         if (s[1] == ':') {
1897             len = 0;
1898             goto just_a_word;
1899         }
1900         s++;
1901         OPERATOR(':');
1902     case '(':
1903         s++;
1904         if (last_lop == oldoldbufptr || last_uni == oldoldbufptr)
1905             oldbufptr = oldoldbufptr;           /* allow print(STDOUT 123) */
1906         else
1907             expect = XTERM;
1908         TOKEN('(');
1909     case ';':
1910         if (curcop->cop_line < copline)
1911             copline = curcop->cop_line;
1912         tmp = *s++;
1913         OPERATOR(tmp);
1914     case ')':
1915         tmp = *s++;
1916         s = skipspace(s);
1917         if (*s == '{')
1918             PREBLOCK(tmp);
1919         TERM(tmp);
1920     case ']':
1921         s++;
1922         if (lex_brackets <= 0)
1923             yyerror("Unmatched right bracket");
1924         else
1925             --lex_brackets;
1926         if (lex_state == LEX_INTERPNORMAL) {
1927             if (lex_brackets == 0) {
1928                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
1929                     lex_state = LEX_INTERPEND;
1930             }
1931         }
1932         TERM(']');
1933     case '{':
1934       leftbracket:
1935         s++;
1936         if (lex_brackets > 100) {
1937             char* newlb = Renew(lex_brackstack, lex_brackets + 1, char);
1938             if (newlb != lex_brackstack) {
1939                 SAVEFREEPV(newlb);
1940                 lex_brackstack = newlb;
1941             }
1942         }
1943         switch (expect) {
1944         case XTERM:
1945             if (lex_formbrack) {
1946                 s--;
1947                 PRETERMBLOCK(DO);
1948             }
1949             if (oldoldbufptr == last_lop)
1950                 lex_brackstack[lex_brackets++] = XTERM;
1951             else
1952                 lex_brackstack[lex_brackets++] = XOPERATOR;
1953             OPERATOR(HASHBRACK);
1954         case XOPERATOR:
1955             while (s < bufend && (*s == ' ' || *s == '\t'))
1956                 s++;
1957             d = s;
1958             tokenbuf[0] = '\0';
1959             if (d < bufend && *d == '-') {
1960                 tokenbuf[0] = '-';
1961                 d++;
1962                 while (d < bufend && (*d == ' ' || *d == '\t'))
1963                     d++;
1964             }
1965             if (d < bufend && isIDFIRST(*d)) {
1966                 d = scan_word(d, tokenbuf + 1, sizeof tokenbuf - 1,
1967                               FALSE, &len);
1968                 while (d < bufend && (*d == ' ' || *d == '\t'))
1969                     d++;
1970                 if (*d == '}') {
1971                     char minus = (tokenbuf[0] == '-');
1972                     if (dowarn &&
1973                         (keyword(tokenbuf + 1, len) ||
1974                          (minus && len == 1 && isALPHA(tokenbuf[1])) ||
1975                          perl_get_cv(tokenbuf + 1, FALSE) ))
1976                         warn("Ambiguous use of {%s} resolved to {\"%s\"}",
1977                              tokenbuf + !minus, tokenbuf + !minus);
1978                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
1979                     if (minus)
1980                         force_next('-');
1981                 }
1982             }
1983             /* FALL THROUGH */
1984         case XBLOCK:
1985             lex_brackstack[lex_brackets++] = XSTATE;
1986             expect = XSTATE;
1987             break;
1988         case XTERMBLOCK:
1989             lex_brackstack[lex_brackets++] = XOPERATOR;
1990             expect = XSTATE;
1991             break;
1992         default: {
1993                 char *t;
1994                 if (oldoldbufptr == last_lop)
1995                     lex_brackstack[lex_brackets++] = XTERM;
1996                 else
1997                     lex_brackstack[lex_brackets++] = XOPERATOR;
1998                 s = skipspace(s);
1999                 if (*s == '}')
2000                     OPERATOR(HASHBRACK);
2001                 /* This hack serves to disambiguate a pair of curlies
2002                  * as being a block or an anon hash.  Normally, expectation
2003                  * determines that, but in cases where we're not in a
2004                  * position to expect anything in particular (like inside
2005                  * eval"") we have to resolve the ambiguity.  This code
2006                  * covers the case where the first term in the curlies is a
2007                  * quoted string.  Most other cases need to be explicitly
2008                  * disambiguated by prepending a `+' before the opening
2009                  * curly in order to force resolution as an anon hash.
2010                  *
2011                  * XXX should probably propagate the outer expectation
2012                  * into eval"" to rely less on this hack, but that could
2013                  * potentially break current behavior of eval"".
2014                  * GSAR 97-07-21
2015                  */
2016                 t = s;
2017                 if (*s == '\'' || *s == '"' || *s == '`') {
2018                     /* common case: get past first string, handling escapes */
2019                     for (t++; t < bufend && *t != *s;)
2020                         if (*t++ == '\\' && (*t == '\\' || *t == *s))
2021                             t++;
2022                     t++;
2023                 }
2024                 else if (*s == 'q') {
2025                     if (++t < bufend
2026                         && (!isALNUM(*t)
2027                             || ((*t == 'q' || *t == 'x') && ++t < bufend
2028                                 && !isALNUM(*t)))) {
2029                         char *tmps;
2030                         char open, close, term;
2031                         I32 brackets = 1;
2032
2033                         while (t < bufend && isSPACE(*t))
2034                             t++;
2035                         term = *t;
2036                         open = term;
2037                         if (term && (tmps = strchr("([{< )]}> )]}>",term)))
2038                             term = tmps[5];
2039                         close = term;
2040                         if (open == close)
2041                             for (t++; t < bufend; t++) {
2042                                 if (*t == '\\' && t+1 < bufend && open != '\\')
2043                                     t++;
2044                                 else if (*t == open)
2045                                     break;
2046                             }
2047                         else
2048                             for (t++; t < bufend; t++) {
2049                                 if (*t == '\\' && t+1 < bufend)
2050                                     t++;
2051                                 else if (*t == close && --brackets <= 0)
2052                                     break;
2053                                 else if (*t == open)
2054                                     brackets++;
2055                             }
2056                     }
2057                     t++;
2058                 }
2059                 else if (isALPHA(*s)) {
2060                     for (t++; t < bufend && isALNUM(*t); t++) ;
2061                 }
2062                 while (t < bufend && isSPACE(*t))
2063                     t++;
2064                 /* if comma follows first term, call it an anon hash */
2065                 /* XXX it could be a comma expression with loop modifiers */
2066                 if (t < bufend && ((*t == ',' && (*s == 'q' || !isLOWER(*s)))
2067                                    || (*t == '=' && t[1] == '>')))
2068                     OPERATOR(HASHBRACK);
2069                 if (expect == XREF)
2070                     expect = XTERM;
2071                 else {
2072                     lex_brackstack[lex_brackets-1] = XSTATE;
2073                     expect = XSTATE;
2074                 }
2075             }
2076             break;
2077         }
2078         yylval.ival = curcop->cop_line;
2079         if (isSPACE(*s) || *s == '#')
2080             copline = NOLINE;   /* invalidate current command line number */
2081         TOKEN('{');
2082     case '}':
2083       rightbracket:
2084         s++;
2085         if (lex_brackets <= 0)
2086             yyerror("Unmatched right bracket");
2087         else
2088             expect = (expectation)lex_brackstack[--lex_brackets];
2089         if (lex_brackets < lex_formbrack)
2090             lex_formbrack = 0;
2091         if (lex_state == LEX_INTERPNORMAL) {
2092             if (lex_brackets == 0) {
2093                 if (lex_fakebrack) {
2094                     lex_state = LEX_INTERPEND;
2095                     bufptr = s;
2096                     return yylex();             /* ignore fake brackets */
2097                 }
2098                 if (*s == '-' && s[1] == '>')
2099                     lex_state = LEX_INTERPENDMAYBE;
2100                 else if (*s != '[' && *s != '{')
2101                     lex_state = LEX_INTERPEND;
2102             }
2103         }
2104         if (lex_brackets < lex_fakebrack) {
2105             bufptr = s;
2106             lex_fakebrack = 0;
2107             return yylex();             /* ignore fake brackets */
2108         }
2109         force_next('}');
2110         TOKEN(';');
2111     case '&':
2112         s++;
2113         tmp = *s++;
2114         if (tmp == '&')
2115             AOPERATOR(ANDAND);
2116         s--;
2117         if (expect == XOPERATOR) {
2118             if (dowarn && isALPHA(*s) && bufptr == linestart) {
2119                 curcop->cop_line--;
2120                 warn(warn_nosemi);
2121                 curcop->cop_line++;
2122             }
2123             BAop(OP_BIT_AND);
2124         }
2125
2126         s = scan_ident(s - 1, bufend, tokenbuf, sizeof tokenbuf, TRUE);
2127         if (*tokenbuf) {
2128             expect = XOPERATOR;
2129             force_ident(tokenbuf, '&');
2130         }
2131         else
2132             PREREF('&');
2133         yylval.ival = (OPpENTERSUB_AMPER<<8);
2134         TERM('&');
2135
2136     case '|':
2137         s++;
2138         tmp = *s++;
2139         if (tmp == '|')
2140             AOPERATOR(OROR);
2141         s--;
2142         BOop(OP_BIT_OR);
2143     case '=':
2144         s++;
2145         tmp = *s++;
2146         if (tmp == '=')
2147             Eop(OP_EQ);
2148         if (tmp == '>')
2149             OPERATOR(',');
2150         if (tmp == '~')
2151             PMop(OP_MATCH);
2152         if (dowarn && tmp && isSPACE(*s) && strchr("+-*/%.^&|<",tmp))
2153             warn("Reversed %c= operator",(int)tmp);
2154         s--;
2155         if (expect == XSTATE && isALPHA(tmp) &&
2156                 (s == linestart+1 || s[-2] == '\n') )
2157         {
2158             if (in_eval && !rsfp) {
2159                 d = bufend;
2160                 while (s < d) {
2161                     if (*s++ == '\n') {
2162                         incline(s);
2163                         if (strnEQ(s,"=cut",4)) {
2164                             s = strchr(s,'\n');
2165                             if (s)
2166                                 s++;
2167                             else
2168                                 s = d;
2169                             incline(s);
2170                             goto retry;
2171                         }
2172                     }
2173                 }
2174                 goto retry;
2175             }
2176             s = bufend;
2177             doextract = TRUE;
2178             goto retry;
2179         }
2180         if (lex_brackets < lex_formbrack) {
2181             char *t;
2182             for (t = s; *t == ' ' || *t == '\t'; t++) ;
2183             if (*t == '\n' || *t == '#') {
2184                 s--;
2185                 expect = XBLOCK;
2186                 goto leftbracket;
2187             }
2188         }
2189         yylval.ival = 0;
2190         OPERATOR(ASSIGNOP);
2191     case '!':
2192         s++;
2193         tmp = *s++;
2194         if (tmp == '=')
2195             Eop(OP_NE);
2196         if (tmp == '~')
2197             PMop(OP_NOT);
2198         s--;
2199         OPERATOR('!');
2200     case '<':
2201         if (expect != XOPERATOR) {
2202             if (s[1] != '<' && !strchr(s,'>'))
2203                 check_uni();
2204             if (s[1] == '<')
2205                 s = scan_heredoc(s);
2206             else
2207                 s = scan_inputsymbol(s);
2208             TERM(sublex_start());
2209         }
2210         s++;
2211         tmp = *s++;
2212         if (tmp == '<')
2213             SHop(OP_LEFT_SHIFT);
2214         if (tmp == '=') {
2215             tmp = *s++;
2216             if (tmp == '>')
2217                 Eop(OP_NCMP);
2218             s--;
2219             Rop(OP_LE);
2220         }
2221         s--;
2222         Rop(OP_LT);
2223     case '>':
2224         s++;
2225         tmp = *s++;
2226         if (tmp == '>')
2227             SHop(OP_RIGHT_SHIFT);
2228         if (tmp == '=')
2229             Rop(OP_GE);
2230         s--;
2231         Rop(OP_GT);
2232
2233     case '$':
2234         CLINE;
2235
2236         if (expect == XOPERATOR) {
2237             if (lex_formbrack && lex_brackets == lex_formbrack) {
2238                 expect = XTERM;
2239                 depcom();
2240                 return ','; /* grandfather non-comma-format format */
2241             }
2242         }
2243
2244         if (s[1] == '#' && (isALPHA(s[2]) || strchr("_{$:", s[2]))) {
2245             if (expect == XOPERATOR)
2246                 no_op("Array length", bufptr);
2247             tokenbuf[0] = '@';
2248             s = scan_ident(s + 1, bufend, tokenbuf + 1, sizeof tokenbuf - 1,
2249                            FALSE);
2250             if (!tokenbuf[1])
2251                 PREREF(DOLSHARP);
2252             expect = XOPERATOR;
2253             pending_ident = '#';
2254             TOKEN(DOLSHARP);
2255         }
2256
2257         if (expect == XOPERATOR)
2258             no_op("Scalar", bufptr);
2259         tokenbuf[0] = '$';
2260         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2261         if (!tokenbuf[1]) {
2262             if (s == bufend)
2263                 yyerror("Final $ should be \\$ or $name");
2264             PREREF('$');
2265         }
2266
2267         /* This kludge not intended to be bulletproof. */
2268         if (tokenbuf[1] == '[' && !tokenbuf[2]) {
2269             yylval.opval = newSVOP(OP_CONST, 0,
2270                                    newSViv((IV)compiling.cop_arybase));
2271             yylval.opval->op_private = OPpCONST_ARYBASE;
2272             TERM(THING);
2273         }
2274
2275         d = s;
2276         if (lex_state == LEX_NORMAL)
2277             s = skipspace(s);
2278
2279         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2280             char *t;
2281             if (*s == '[') {
2282                 tokenbuf[0] = '@';
2283                 if (dowarn) {
2284                     for(t = s + 1;
2285                         isSPACE(*t) || isALNUM(*t) || *t == '$';
2286                         t++) ;
2287                     if (*t++ == ',') {
2288                         bufptr = skipspace(bufptr);
2289                         while (t < bufend && *t != ']')
2290                             t++;
2291                         warn("Multidimensional syntax %.*s not supported",
2292                              (t - bufptr) + 1, bufptr);
2293                     }
2294                 }
2295             }
2296             else if (*s == '{') {
2297                 tokenbuf[0] = '%';
2298                 if (dowarn && strEQ(tokenbuf+1, "SIG") &&
2299                     (t = strchr(s, '}')) && (t = strchr(t, '=')))
2300                 {
2301                     char tmpbuf[sizeof tokenbuf];
2302                     STRLEN len;
2303                     for (t++; isSPACE(*t); t++) ;
2304                     if (isIDFIRST(*t)) {
2305                         t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE, &len);
2306                         if (*t != '(' && perl_get_cv(tmpbuf, FALSE))
2307                             warn("You need to quote \"%s\"", tmpbuf);
2308                     }
2309                 }
2310             }
2311         }
2312
2313         expect = XOPERATOR;
2314         if (lex_state == LEX_NORMAL && isSPACE(*d)) {
2315             bool islop = (last_lop == oldoldbufptr);
2316             if (!islop || last_lop_op == OP_GREPSTART)
2317                 expect = XOPERATOR;
2318             else if (strchr("$@\"'`q", *s))
2319                 expect = XTERM;         /* e.g. print $fh "foo" */
2320             else if (strchr("&*<%", *s) && isIDFIRST(s[1]))
2321                 expect = XTERM;         /* e.g. print $fh &sub */
2322             else if (isIDFIRST(*s)) {
2323                 char tmpbuf[sizeof tokenbuf];
2324                 scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2325                 if (tmp = keyword(tmpbuf, len)) {
2326                     /* binary operators exclude handle interpretations */
2327                     switch (tmp) {
2328                     case -KEY_x:
2329                     case -KEY_eq:
2330                     case -KEY_ne:
2331                     case -KEY_gt:
2332                     case -KEY_lt:
2333                     case -KEY_ge:
2334                     case -KEY_le:
2335                     case -KEY_cmp:
2336                         break;
2337                     default:
2338                         expect = XTERM; /* e.g. print $fh length() */
2339                         break;
2340                     }
2341                 }
2342                 else {
2343                     GV *gv = gv_fetchpv(tmpbuf, FALSE, SVt_PVCV);
2344                     if (gv && GvCVu(gv))
2345                         expect = XTERM; /* e.g. print $fh subr() */
2346                 }
2347             }
2348             else if (isDIGIT(*s))
2349                 expect = XTERM;         /* e.g. print $fh 3 */
2350             else if (*s == '.' && isDIGIT(s[1]))
2351                 expect = XTERM;         /* e.g. print $fh .3 */
2352             else if (strchr("/?-+", *s) && !isSPACE(s[1]))
2353                 expect = XTERM;         /* e.g. print $fh -1 */
2354             else if (*s == '<' && s[1] == '<' && !isSPACE(s[2]))
2355                 expect = XTERM;         /* print $fh <<"EOF" */
2356         }
2357         pending_ident = '$';
2358         TOKEN('$');
2359
2360     case '@':
2361         if (expect == XOPERATOR)
2362             no_op("Array", s);
2363         tokenbuf[0] = '@';
2364         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2365         if (!tokenbuf[1]) {
2366             if (s == bufend)
2367                 yyerror("Final @ should be \\@ or @name");
2368             PREREF('@');
2369         }
2370         if (lex_state == LEX_NORMAL)
2371             s = skipspace(s);
2372         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2373             if (*s == '{')
2374                 tokenbuf[0] = '%';
2375
2376             /* Warn about @ where they meant $. */
2377             if (dowarn) {
2378                 if (*s == '[' || *s == '{') {
2379                     char *t = s + 1;
2380                     while (*t && (isALNUM(*t) || strchr(" \t$#+-'\"", *t)))
2381                         t++;
2382                     if (*t == '}' || *t == ']') {
2383                         t++;
2384                         bufptr = skipspace(bufptr);
2385                         warn("Scalar value %.*s better written as $%.*s",
2386                             t-bufptr, bufptr, t-bufptr-1, bufptr+1);
2387                     }
2388                 }
2389             }
2390         }
2391         pending_ident = '@';
2392         TERM('@');
2393
2394     case '/':                   /* may either be division or pattern */
2395     case '?':                   /* may either be conditional or pattern */
2396         if (expect != XOPERATOR) {
2397             check_uni();
2398             s = scan_pat(s);
2399             TERM(sublex_start());
2400         }
2401         tmp = *s++;
2402         if (tmp == '/')
2403             Mop(OP_DIVIDE);
2404         OPERATOR(tmp);
2405
2406     case '.':
2407         if (lex_formbrack && lex_brackets == lex_formbrack && s[1] == '\n' &&
2408                 (s == linestart || s[-1] == '\n') ) {
2409             lex_formbrack = 0;
2410             expect = XSTATE;
2411             goto rightbracket;
2412         }
2413         if (expect == XOPERATOR || !isDIGIT(s[1])) {
2414             tmp = *s++;
2415             if (*s == tmp) {
2416                 s++;
2417                 if (*s == tmp) {
2418                     s++;
2419                     yylval.ival = OPf_SPECIAL;
2420                 }
2421                 else
2422                     yylval.ival = 0;
2423                 OPERATOR(DOTDOT);
2424             }
2425             if (expect != XOPERATOR)
2426                 check_uni();
2427             Aop(OP_CONCAT);
2428         }
2429         /* FALL THROUGH */
2430     case '0': case '1': case '2': case '3': case '4':
2431     case '5': case '6': case '7': case '8': case '9':
2432         s = scan_num(s);
2433         if (expect == XOPERATOR)
2434             no_op("Number",s);
2435         TERM(THING);
2436
2437     case '\'':
2438         s = scan_str(s);
2439         if (expect == XOPERATOR) {
2440             if (lex_formbrack && lex_brackets == lex_formbrack) {
2441                 expect = XTERM;
2442                 depcom();
2443                 return ',';     /* grandfather non-comma-format format */
2444             }
2445             else
2446                 no_op("String",s);
2447         }
2448         if (!s)
2449             missingterm((char*)0);
2450         yylval.ival = OP_CONST;
2451         TERM(sublex_start());
2452
2453     case '"':
2454         s = scan_str(s);
2455         if (expect == XOPERATOR) {
2456             if (lex_formbrack && lex_brackets == lex_formbrack) {
2457                 expect = XTERM;
2458                 depcom();
2459                 return ',';     /* grandfather non-comma-format format */
2460             }
2461             else
2462                 no_op("String",s);
2463         }
2464         if (!s)
2465             missingterm((char*)0);
2466         yylval.ival = OP_CONST;
2467         for (d = SvPV(lex_stuff, len); len; len--, d++) {
2468             if (*d == '$' || *d == '@' || *d == '\\') {
2469                 yylval.ival = OP_STRINGIFY;
2470                 break;
2471             }
2472         }
2473         TERM(sublex_start());
2474
2475     case '`':
2476         s = scan_str(s);
2477         if (expect == XOPERATOR)
2478             no_op("Backticks",s);
2479         if (!s)
2480             missingterm((char*)0);
2481         yylval.ival = OP_BACKTICK;
2482         set_csh();
2483         TERM(sublex_start());
2484
2485     case '\\':
2486         s++;
2487         if (dowarn && lex_inwhat && isDIGIT(*s))
2488             warn("Can't use \\%c to mean $%c in expression", *s, *s);
2489         if (expect == XOPERATOR)
2490             no_op("Backslash",s);
2491         OPERATOR(REFGEN);
2492
2493     case 'x':
2494         if (isDIGIT(s[1]) && expect == XOPERATOR) {
2495             s++;
2496             Mop(OP_REPEAT);
2497         }
2498         goto keylookup;
2499
2500     case '_':
2501     case 'a': case 'A':
2502     case 'b': case 'B':
2503     case 'c': case 'C':
2504     case 'd': case 'D':
2505     case 'e': case 'E':
2506     case 'f': case 'F':
2507     case 'g': case 'G':
2508     case 'h': case 'H':
2509     case 'i': case 'I':
2510     case 'j': case 'J':
2511     case 'k': case 'K':
2512     case 'l': case 'L':
2513     case 'm': case 'M':
2514     case 'n': case 'N':
2515     case 'o': case 'O':
2516     case 'p': case 'P':
2517     case 'q': case 'Q':
2518     case 'r': case 'R':
2519     case 's': case 'S':
2520     case 't': case 'T':
2521     case 'u': case 'U':
2522     case 'v': case 'V':
2523     case 'w': case 'W':
2524               case 'X':
2525     case 'y': case 'Y':
2526     case 'z': case 'Z':
2527
2528       keylookup:
2529         bufptr = s;
2530         s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2531
2532         /* Some keywords can be followed by any delimiter, including ':' */
2533         tmp = (len == 1 && strchr("msyq", tokenbuf[0]) ||
2534                len == 2 && ((tokenbuf[0] == 't' && tokenbuf[1] == 'r') ||
2535                             (tokenbuf[0] == 'q' &&
2536                              strchr("qwx", tokenbuf[1]))));
2537
2538         /* x::* is just a word, unless x is "CORE" */
2539         if (!tmp && *s == ':' && s[1] == ':' && strNE(tokenbuf, "CORE"))
2540             goto just_a_word;
2541
2542         d = s;
2543         while (d < bufend && isSPACE(*d))
2544                 d++;    /* no comments skipped here, or s### is misparsed */
2545
2546         /* Is this a label? */
2547         if (!tmp && expect == XSTATE
2548               && d < bufend && *d == ':' && *(d + 1) != ':') {
2549             s = d + 1;
2550             yylval.pval = savepv(tokenbuf);
2551             CLINE;
2552             TOKEN(LABEL);
2553         }
2554
2555         /* Check for keywords */
2556         tmp = keyword(tokenbuf, len);
2557
2558         /* Is this a word before a => operator? */
2559         if (strnEQ(d,"=>",2)) {
2560             CLINE;
2561             if (dowarn && (tmp || perl_get_cv(tokenbuf, FALSE)))
2562                 warn("Ambiguous use of %s => resolved to \"%s\" =>",
2563                         tokenbuf, tokenbuf);
2564             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2565             yylval.opval->op_private = OPpCONST_BARE;
2566             TERM(WORD);
2567         }
2568
2569         if (tmp < 0) {                  /* second-class keyword? */
2570             GV* gv;
2571             if (expect != XOPERATOR &&
2572                 (*s != ':' || s[1] != ':') &&
2573                 (gv = gv_fetchpv(tokenbuf, FALSE, SVt_PVCV)) &&
2574                 GvIMPORTED_CV(gv))
2575             {
2576                 tmp = 0;
2577             }
2578             else
2579                 tmp = -tmp;
2580         }
2581
2582       reserved_word:
2583         switch (tmp) {
2584
2585         default:                        /* not a keyword */
2586           just_a_word: {
2587                 GV *gv;
2588                 SV *sv;
2589                 char lastchar = (bufptr == oldoldbufptr ? 0 : bufptr[-1]);
2590
2591                 /* Get the rest if it looks like a package qualifier */
2592
2593                 if (*s == '\'' || *s == ':' && s[1] == ':') {
2594                     s = scan_word(s, tokenbuf + len, sizeof tokenbuf - len,
2595                                   TRUE, &len);
2596                     if (!len)
2597                         croak("Bad name after %s::", tokenbuf);
2598                 }
2599
2600                 if (expect == XOPERATOR) {
2601                     if (bufptr == linestart) {
2602                         curcop->cop_line--;
2603                         warn(warn_nosemi);
2604                         curcop->cop_line++;
2605                     }
2606                     else
2607                         no_op("Bareword",s);
2608                 }
2609
2610                 /* Look for a subroutine with this name in current package. */
2611
2612                 gv = gv_fetchpv(tokenbuf,FALSE, SVt_PVCV);
2613
2614                 /* Presume this is going to be a bareword of some sort. */
2615
2616                 CLINE;
2617                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2618                 yylval.opval->op_private = OPpCONST_BARE;
2619
2620                 /* See if it's the indirect object for a list operator. */
2621
2622                 if (oldoldbufptr &&
2623                     oldoldbufptr < bufptr &&
2624                     (oldoldbufptr == last_lop || oldoldbufptr == last_uni) &&
2625                     /* NO SKIPSPACE BEFORE HERE! */
2626                     (expect == XREF ||
2627                      (opargs[last_lop_op] >> OASHIFT & 7) == OA_FILEREF) )
2628                 {
2629                     bool immediate_paren = *s == '(';
2630
2631                     /* (Now we can afford to cross potential line boundary.) */
2632                     s = skipspace(s);
2633
2634                     /* Two barewords in a row may indicate method call. */
2635
2636                     if ((isALPHA(*s) || *s == '$') && (tmp=intuit_method(s,gv)))
2637                         return tmp;
2638
2639                     /* If not a declared subroutine, it's an indirect object. */
2640                     /* (But it's an indir obj regardless for sort.) */
2641
2642                     if ((last_lop_op == OP_SORT ||
2643                          (!immediate_paren && (!gv || !GvCVu(gv))) ) &&
2644                         (last_lop_op != OP_MAPSTART && last_lop_op != OP_GREPSTART)){
2645                         expect = (last_lop == oldoldbufptr) ? XTERM : XOPERATOR;
2646                         goto bareword;
2647                     }
2648                 }
2649
2650                 /* If followed by a paren, it's certainly a subroutine. */
2651
2652                 expect = XOPERATOR;
2653                 s = skipspace(s);
2654                 if (*s == '(') {
2655                     CLINE;
2656                     if (gv && GvCVu(gv)) {
2657                         for (d = s + 1; *d == ' ' || *d == '\t'; d++) ;
2658                         if (*d == ')' && (sv = cv_const_sv(GvCV(gv)))) {
2659                             s = d + 1;
2660                             goto its_constant;
2661                         }
2662                     }
2663                     nextval[nexttoke].opval = yylval.opval;
2664                     expect = XOPERATOR;
2665                     force_next(WORD);
2666                     yylval.ival = 0;
2667                     TOKEN('&');
2668                 }
2669
2670                 /* If followed by var or block, call it a method (unless sub) */
2671
2672                 if ((*s == '$' || *s == '{') && (!gv || !GvCVu(gv))) {
2673                     last_lop = oldbufptr;
2674                     last_lop_op = OP_METHOD;
2675                     PREBLOCK(METHOD);
2676                 }
2677
2678                 /* If followed by a bareword, see if it looks like indir obj. */
2679
2680                 if ((isALPHA(*s) || *s == '$') && (tmp = intuit_method(s,gv)))
2681                     return tmp;
2682
2683                 /* Not a method, so call it a subroutine (if defined) */
2684
2685                 if (gv && GvCVu(gv)) {
2686                     CV* cv;
2687                     if (lastchar == '-')
2688                         warn("Ambiguous use of -%s resolved as -&%s()",
2689                                 tokenbuf, tokenbuf);
2690                     last_lop = oldbufptr;
2691                     last_lop_op = OP_ENTERSUB;
2692                     /* Check for a constant sub */
2693                     cv = GvCV(gv);
2694                     if ((sv = cv_const_sv(cv))) {
2695                   its_constant:
2696                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
2697                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc(sv);
2698                         yylval.opval->op_private = 0;
2699                         TOKEN(WORD);
2700                     }
2701
2702                     /* Resolve to GV now. */
2703                     op_free(yylval.opval);
2704                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
2705                     /* Is there a prototype? */
2706                     if (SvPOK(cv)) {
2707                         STRLEN len;
2708                         char *proto = SvPV((SV*)cv, len);
2709                         if (!len)
2710                             TERM(FUNC0SUB);
2711                         if (strEQ(proto, "$"))
2712                             OPERATOR(UNIOPSUB);
2713                         if (*proto == '&' && *s == '{') {
2714                             sv_setpv(subname,"__ANON__");
2715                             PREBLOCK(LSTOPSUB);
2716                         }
2717                     }
2718                     nextval[nexttoke].opval = yylval.opval;
2719                     expect = XTERM;
2720                     force_next(WORD);
2721                     TOKEN(NOAMP);
2722                 }
2723
2724                 if (hints & HINT_STRICT_SUBS &&
2725                     lastchar != '-' &&
2726                     strnNE(s,"->",2) &&
2727                     last_lop_op != OP_TRUNCATE &&  /* S/F prototype in opcode.pl */
2728                     last_lop_op != OP_ACCEPT &&
2729                     last_lop_op != OP_PIPE_OP &&
2730                     last_lop_op != OP_SOCKPAIR)
2731                 {
2732                     warn(
2733                      "Bareword \"%s\" not allowed while \"strict subs\" in use",
2734                         tokenbuf);
2735                     ++error_count;
2736                 }
2737
2738                 /* Call it a bare word */
2739
2740             bareword:
2741                 if (dowarn) {
2742                     if (lastchar != '-') {
2743                         for (d = tokenbuf; *d && isLOWER(*d); d++) ;
2744                         if (!*d)
2745                             warn(warn_reserved, tokenbuf);
2746                     }
2747                 }
2748                 if (lastchar && strchr("*%&", lastchar)) {
2749                     warn("Operator or semicolon missing before %c%s",
2750                         lastchar, tokenbuf);
2751                     warn("Ambiguous use of %c resolved as operator %c",
2752                         lastchar, lastchar);
2753                 }
2754                 TOKEN(WORD);
2755             }
2756
2757         case KEY___FILE__:
2758             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2759                                         newSVsv(GvSV(curcop->cop_filegv)));
2760             TERM(THING);
2761
2762         case KEY___LINE__:
2763             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2764                                     newSVpvf("%ld", (long)curcop->cop_line));
2765             TERM(THING);
2766
2767         case KEY___PACKAGE__:
2768             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2769                                         (curstash
2770                                          ? newSVsv(curstname)
2771                                          : &sv_undef));
2772             TERM(THING);
2773
2774         case KEY___DATA__:
2775         case KEY___END__: {
2776             GV *gv;
2777
2778             /*SUPPRESS 560*/
2779             if (rsfp && (!in_eval || tokenbuf[2] == 'D')) {
2780                 char *pname = "main";
2781                 if (tokenbuf[2] == 'D')
2782                     pname = HvNAME(curstash ? curstash : defstash);
2783                 gv = gv_fetchpv(form("%s::DATA", pname), TRUE, SVt_PVIO);
2784                 GvMULTI_on(gv);
2785                 if (!GvIO(gv))
2786                     GvIOp(gv) = newIO();
2787                 IoIFP(GvIOp(gv)) = rsfp;
2788 #if defined(HAS_FCNTL) && defined(F_SETFD)
2789                 {
2790                     int fd = PerlIO_fileno(rsfp);
2791                     fcntl(fd,F_SETFD,fd >= 3);
2792                 }
2793 #endif
2794                 /* Mark this internal pseudo-handle as clean */
2795                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
2796                 if (preprocess)
2797                     IoTYPE(GvIOp(gv)) = '|';
2798                 else if ((PerlIO*)rsfp == PerlIO_stdin())
2799                     IoTYPE(GvIOp(gv)) = '-';
2800                 else
2801                     IoTYPE(GvIOp(gv)) = '<';
2802                 rsfp = Nullfp;
2803             }
2804             goto fake_eof;
2805         }
2806
2807         case KEY_AUTOLOAD:
2808         case KEY_DESTROY:
2809         case KEY_BEGIN:
2810         case KEY_END:
2811             if (expect == XSTATE) {
2812                 s = bufptr;
2813                 goto really_sub;
2814             }
2815             goto just_a_word;
2816
2817         case KEY_CORE:
2818             if (*s == ':' && s[1] == ':') {
2819                 s += 2;
2820                 d = s;
2821                 s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2822                 tmp = keyword(tokenbuf, len);
2823                 if (tmp < 0)
2824                     tmp = -tmp;
2825                 goto reserved_word;
2826             }
2827             goto just_a_word;
2828
2829         case KEY_abs:
2830             UNI(OP_ABS);
2831
2832         case KEY_alarm:
2833             UNI(OP_ALARM);
2834
2835         case KEY_accept:
2836             LOP(OP_ACCEPT,XTERM);
2837
2838         case KEY_and:
2839             OPERATOR(ANDOP);
2840
2841         case KEY_atan2:
2842             LOP(OP_ATAN2,XTERM);
2843
2844         case KEY_bind:
2845             LOP(OP_BIND,XTERM);
2846
2847         case KEY_binmode:
2848             UNI(OP_BINMODE);
2849
2850         case KEY_bless:
2851             LOP(OP_BLESS,XTERM);
2852
2853         case KEY_chop:
2854             UNI(OP_CHOP);
2855
2856         case KEY_continue:
2857             PREBLOCK(CONTINUE);
2858
2859         case KEY_chdir:
2860             (void)gv_fetchpv("ENV",TRUE, SVt_PVHV);     /* may use HOME */
2861             UNI(OP_CHDIR);
2862
2863         case KEY_close:
2864             UNI(OP_CLOSE);
2865
2866         case KEY_closedir:
2867             UNI(OP_CLOSEDIR);
2868
2869         case KEY_cmp:
2870             Eop(OP_SCMP);
2871
2872         case KEY_caller:
2873             UNI(OP_CALLER);
2874
2875         case KEY_crypt:
2876 #ifdef FCRYPT
2877             if (!cryptseen++)
2878                 init_des();
2879 #endif
2880             LOP(OP_CRYPT,XTERM);
2881
2882         case KEY_chmod:
2883             if (dowarn) {
2884                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
2885                 if (*d != '0' && isDIGIT(*d))
2886                     yywarn("chmod: mode argument is missing initial 0");
2887             }
2888             LOP(OP_CHMOD,XTERM);
2889
2890         case KEY_chown:
2891             LOP(OP_CHOWN,XTERM);
2892
2893         case KEY_connect:
2894             LOP(OP_CONNECT,XTERM);
2895
2896         case KEY_chr:
2897             UNI(OP_CHR);
2898
2899         case KEY_cos:
2900             UNI(OP_COS);
2901
2902         case KEY_chroot:
2903             UNI(OP_CHROOT);
2904
2905         case KEY_do:
2906             s = skipspace(s);
2907             if (*s == '{')
2908                 PRETERMBLOCK(DO);
2909             if (*s != '\'')
2910                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
2911             OPERATOR(DO);
2912
2913         case KEY_die:
2914             hints |= HINT_BLOCK_SCOPE;
2915             LOP(OP_DIE,XTERM);
2916
2917         case KEY_defined:
2918             UNI(OP_DEFINED);
2919
2920         case KEY_delete:
2921             UNI(OP_DELETE);
2922
2923         case KEY_dbmopen:
2924             gv_fetchpv("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
2925             LOP(OP_DBMOPEN,XTERM);
2926
2927         case KEY_dbmclose:
2928             UNI(OP_DBMCLOSE);
2929
2930         case KEY_dump:
2931             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2932             LOOPX(OP_DUMP);
2933
2934         case KEY_else:
2935             PREBLOCK(ELSE);
2936
2937         case KEY_elsif:
2938             yylval.ival = curcop->cop_line;
2939             OPERATOR(ELSIF);
2940
2941         case KEY_eq:
2942             Eop(OP_SEQ);
2943
2944         case KEY_exists:
2945             UNI(OP_EXISTS);
2946
2947         case KEY_exit:
2948             UNI(OP_EXIT);
2949
2950         case KEY_eval:
2951             s = skipspace(s);
2952             expect = (*s == '{') ? XTERMBLOCK : XTERM;
2953             UNIBRACK(OP_ENTEREVAL);
2954
2955         case KEY_eof:
2956             UNI(OP_EOF);
2957
2958         case KEY_exp:
2959             UNI(OP_EXP);
2960
2961         case KEY_each:
2962             UNI(OP_EACH);
2963
2964         case KEY_exec:
2965             set_csh();
2966             LOP(OP_EXEC,XREF);
2967
2968         case KEY_endhostent:
2969             FUN0(OP_EHOSTENT);
2970
2971         case KEY_endnetent:
2972             FUN0(OP_ENETENT);
2973
2974         case KEY_endservent:
2975             FUN0(OP_ESERVENT);
2976
2977         case KEY_endprotoent:
2978             FUN0(OP_EPROTOENT);
2979
2980         case KEY_endpwent:
2981             FUN0(OP_EPWENT);
2982
2983         case KEY_endgrent:
2984             FUN0(OP_EGRENT);
2985
2986         case KEY_for:
2987         case KEY_foreach:
2988             yylval.ival = curcop->cop_line;
2989             s = skipspace(s);
2990             if (isIDFIRST(*s)) {
2991                 char *p = s;
2992                 if ((bufend - p) >= 3 &&
2993                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
2994                     p += 2;
2995                 p = skipspace(p);
2996                 if (isIDFIRST(*p))
2997                     croak("Missing $ on loop variable");
2998             }
2999             OPERATOR(FOR);
3000
3001         case KEY_formline:
3002             LOP(OP_FORMLINE,XTERM);
3003
3004         case KEY_fork:
3005             FUN0(OP_FORK);
3006
3007         case KEY_fcntl:
3008             LOP(OP_FCNTL,XTERM);
3009
3010         case KEY_fileno:
3011             UNI(OP_FILENO);
3012
3013         case KEY_flock:
3014             LOP(OP_FLOCK,XTERM);
3015
3016         case KEY_gt:
3017             Rop(OP_SGT);
3018
3019         case KEY_ge:
3020             Rop(OP_SGE);
3021
3022         case KEY_grep:
3023             LOP(OP_GREPSTART, *s == '(' ? XTERM : XREF);
3024
3025         case KEY_goto:
3026             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3027             LOOPX(OP_GOTO);
3028
3029         case KEY_gmtime:
3030             UNI(OP_GMTIME);
3031
3032         case KEY_getc:
3033             UNI(OP_GETC);
3034
3035         case KEY_getppid:
3036             FUN0(OP_GETPPID);
3037
3038         case KEY_getpgrp:
3039             UNI(OP_GETPGRP);
3040
3041         case KEY_getpriority:
3042             LOP(OP_GETPRIORITY,XTERM);
3043
3044         case KEY_getprotobyname:
3045             UNI(OP_GPBYNAME);
3046
3047         case KEY_getprotobynumber:
3048             LOP(OP_GPBYNUMBER,XTERM);
3049
3050         case KEY_getprotoent:
3051             FUN0(OP_GPROTOENT);
3052
3053         case KEY_getpwent:
3054             FUN0(OP_GPWENT);
3055
3056         case KEY_getpwnam:
3057             UNI(OP_GPWNAM);
3058
3059         case KEY_getpwuid:
3060             UNI(OP_GPWUID);
3061
3062         case KEY_getpeername:
3063             UNI(OP_GETPEERNAME);
3064
3065         case KEY_gethostbyname:
3066             UNI(OP_GHBYNAME);
3067
3068         case KEY_gethostbyaddr:
3069             LOP(OP_GHBYADDR,XTERM);
3070
3071         case KEY_gethostent:
3072             FUN0(OP_GHOSTENT);
3073
3074         case KEY_getnetbyname:
3075             UNI(OP_GNBYNAME);
3076
3077         case KEY_getnetbyaddr:
3078             LOP(OP_GNBYADDR,XTERM);
3079
3080         case KEY_getnetent:
3081             FUN0(OP_GNETENT);
3082
3083         case KEY_getservbyname:
3084             LOP(OP_GSBYNAME,XTERM);
3085
3086         case KEY_getservbyport:
3087             LOP(OP_GSBYPORT,XTERM);
3088
3089         case KEY_getservent:
3090             FUN0(OP_GSERVENT);
3091
3092         case KEY_getsockname:
3093             UNI(OP_GETSOCKNAME);
3094
3095         case KEY_getsockopt:
3096             LOP(OP_GSOCKOPT,XTERM);
3097
3098         case KEY_getgrent:
3099             FUN0(OP_GGRENT);
3100
3101         case KEY_getgrnam:
3102             UNI(OP_GGRNAM);
3103
3104         case KEY_getgrgid:
3105             UNI(OP_GGRGID);
3106
3107         case KEY_getlogin:
3108             FUN0(OP_GETLOGIN);
3109
3110         case KEY_glob:
3111             set_csh();
3112             LOP(OP_GLOB,XTERM);
3113
3114         case KEY_hex:
3115             UNI(OP_HEX);
3116
3117         case KEY_if:
3118             yylval.ival = curcop->cop_line;
3119             OPERATOR(IF);
3120
3121         case KEY_index:
3122             LOP(OP_INDEX,XTERM);
3123
3124         case KEY_int:
3125             UNI(OP_INT);
3126
3127         case KEY_ioctl:
3128             LOP(OP_IOCTL,XTERM);
3129
3130         case KEY_join:
3131             LOP(OP_JOIN,XTERM);
3132
3133         case KEY_keys:
3134             UNI(OP_KEYS);
3135
3136         case KEY_kill:
3137             LOP(OP_KILL,XTERM);
3138
3139         case KEY_last:
3140             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3141             LOOPX(OP_LAST);
3142
3143         case KEY_lc:
3144             UNI(OP_LC);
3145
3146         case KEY_lcfirst:
3147             UNI(OP_LCFIRST);
3148
3149         case KEY_local:
3150             OPERATOR(LOCAL);
3151
3152         case KEY_length:
3153             UNI(OP_LENGTH);
3154
3155         case KEY_lt:
3156             Rop(OP_SLT);
3157
3158         case KEY_le:
3159             Rop(OP_SLE);
3160
3161         case KEY_localtime:
3162             UNI(OP_LOCALTIME);
3163
3164         case KEY_log:
3165             UNI(OP_LOG);
3166
3167         case KEY_link:
3168             LOP(OP_LINK,XTERM);
3169
3170         case KEY_listen:
3171             LOP(OP_LISTEN,XTERM);
3172
3173         case KEY_lstat:
3174             UNI(OP_LSTAT);
3175
3176         case KEY_m:
3177             s = scan_pat(s);
3178             TERM(sublex_start());
3179
3180         case KEY_map:
3181             LOP(OP_MAPSTART,XREF);
3182
3183         case KEY_mkdir:
3184             LOP(OP_MKDIR,XTERM);
3185
3186         case KEY_msgctl:
3187             LOP(OP_MSGCTL,XTERM);
3188
3189         case KEY_msgget:
3190             LOP(OP_MSGGET,XTERM);
3191
3192         case KEY_msgrcv:
3193             LOP(OP_MSGRCV,XTERM);
3194
3195         case KEY_msgsnd:
3196             LOP(OP_MSGSND,XTERM);
3197
3198         case KEY_my:
3199             in_my = TRUE;
3200             OPERATOR(MY);
3201
3202         case KEY_next:
3203             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3204             LOOPX(OP_NEXT);
3205
3206         case KEY_ne:
3207             Eop(OP_SNE);
3208
3209         case KEY_no:
3210             if (expect != XSTATE)
3211                 yyerror("\"no\" not allowed in expression");
3212             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3213             s = force_version(s);
3214             yylval.ival = 0;
3215             OPERATOR(USE);
3216
3217         case KEY_not:
3218             OPERATOR(NOTOP);
3219
3220         case KEY_open:
3221             s = skipspace(s);
3222             if (isIDFIRST(*s)) {
3223                 char *t;
3224                 for (d = s; isALNUM(*d); d++) ;
3225                 t = skipspace(d);
3226                 if (strchr("|&*+-=!?:.", *t))
3227                     warn("Precedence problem: open %.*s should be open(%.*s)",
3228                         d-s,s, d-s,s);
3229             }
3230             LOP(OP_OPEN,XTERM);
3231
3232         case KEY_or:
3233             yylval.ival = OP_OR;
3234             OPERATOR(OROP);
3235
3236         case KEY_ord:
3237             UNI(OP_ORD);
3238
3239         case KEY_oct:
3240             UNI(OP_OCT);
3241
3242         case KEY_opendir:
3243             LOP(OP_OPEN_DIR,XTERM);
3244
3245         case KEY_print:
3246             checkcomma(s,tokenbuf,"filehandle");
3247             LOP(OP_PRINT,XREF);
3248
3249         case KEY_printf:
3250             checkcomma(s,tokenbuf,"filehandle");
3251             LOP(OP_PRTF,XREF);
3252
3253         case KEY_prototype:
3254             UNI(OP_PROTOTYPE);
3255
3256         case KEY_push:
3257             LOP(OP_PUSH,XTERM);
3258
3259         case KEY_pop:
3260             UNI(OP_POP);
3261
3262         case KEY_pos:
3263             UNI(OP_POS);
3264
3265         case KEY_pack:
3266             LOP(OP_PACK,XTERM);
3267
3268         case KEY_package:
3269             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3270             OPERATOR(PACKAGE);
3271
3272         case KEY_pipe:
3273             LOP(OP_PIPE_OP,XTERM);
3274
3275         case KEY_q:
3276             s = scan_str(s);
3277             if (!s)
3278                 missingterm((char*)0);
3279             yylval.ival = OP_CONST;
3280             TERM(sublex_start());
3281
3282         case KEY_quotemeta:
3283             UNI(OP_QUOTEMETA);
3284
3285         case KEY_qw:
3286             s = scan_str(s);
3287             if (!s)
3288                 missingterm((char*)0);
3289             if (dowarn && SvLEN(lex_stuff)) {
3290                 d = SvPV_force(lex_stuff, len);
3291                 for (; len; --len, ++d) {
3292                     if (*d == ',') {
3293                         warn("Possible attempt to separate words with commas");
3294                         break;
3295                     }
3296                     if (*d == '#') {
3297                         warn("Possible attempt to put comments in qw() list");
3298                         break;
3299                     }
3300                 }
3301             }
3302             force_next(')');
3303             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, q(lex_stuff));
3304             lex_stuff = Nullsv;
3305             force_next(THING);
3306             force_next(',');
3307             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(" ",1));
3308             force_next(THING);
3309             force_next('(');
3310             yylval.ival = OP_SPLIT;
3311             CLINE;
3312             expect = XTERM;
3313             bufptr = s;
3314             last_lop = oldbufptr;
3315             last_lop_op = OP_SPLIT;
3316             return FUNC;
3317
3318         case KEY_qq:
3319             s = scan_str(s);
3320             if (!s)
3321                 missingterm((char*)0);
3322             yylval.ival = OP_STRINGIFY;
3323             if (SvIVX(lex_stuff) == '\'')
3324                 SvIVX(lex_stuff) = 0;   /* qq'$foo' should intepolate */
3325             TERM(sublex_start());
3326
3327         case KEY_qx:
3328             s = scan_str(s);
3329             if (!s)
3330                 missingterm((char*)0);
3331             yylval.ival = OP_BACKTICK;
3332             set_csh();
3333             TERM(sublex_start());
3334
3335         case KEY_return:
3336             OLDLOP(OP_RETURN);
3337
3338         case KEY_require:
3339             *tokenbuf = '\0';
3340             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3341             if (isIDFIRST(*tokenbuf))
3342                 gv_stashpvn(tokenbuf, strlen(tokenbuf), TRUE);
3343             else if (*s == '<')
3344                 yyerror("<> should be quotes");
3345             UNI(OP_REQUIRE);
3346
3347         case KEY_reset:
3348             UNI(OP_RESET);
3349
3350         case KEY_redo:
3351             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3352             LOOPX(OP_REDO);
3353
3354         case KEY_rename:
3355             LOP(OP_RENAME,XTERM);
3356
3357         case KEY_rand:
3358             UNI(OP_RAND);
3359
3360         case KEY_rmdir:
3361             UNI(OP_RMDIR);
3362
3363         case KEY_rindex:
3364             LOP(OP_RINDEX,XTERM);
3365
3366         case KEY_read:
3367             LOP(OP_READ,XTERM);
3368
3369         case KEY_readdir:
3370             UNI(OP_READDIR);
3371
3372         case KEY_readline:
3373             set_csh();
3374             UNI(OP_READLINE);
3375
3376         case KEY_readpipe:
3377             set_csh();
3378             UNI(OP_BACKTICK);
3379
3380         case KEY_rewinddir:
3381             UNI(OP_REWINDDIR);
3382
3383         case KEY_recv:
3384             LOP(OP_RECV,XTERM);
3385
3386         case KEY_reverse:
3387             LOP(OP_REVERSE,XTERM);
3388
3389         case KEY_readlink:
3390             UNI(OP_READLINK);
3391
3392         case KEY_ref:
3393             UNI(OP_REF);
3394
3395         case KEY_s:
3396             s = scan_subst(s);
3397             if (yylval.opval)
3398                 TERM(sublex_start());
3399             else
3400                 TOKEN(1);       /* force error */
3401
3402         case KEY_chomp:
3403             UNI(OP_CHOMP);
3404
3405         case KEY_scalar:
3406             UNI(OP_SCALAR);
3407
3408         case KEY_select:
3409             LOP(OP_SELECT,XTERM);
3410
3411         case KEY_seek:
3412             LOP(OP_SEEK,XTERM);
3413
3414         case KEY_semctl:
3415             LOP(OP_SEMCTL,XTERM);
3416
3417         case KEY_semget:
3418             LOP(OP_SEMGET,XTERM);
3419
3420         case KEY_semop:
3421             LOP(OP_SEMOP,XTERM);
3422
3423         case KEY_send:
3424             LOP(OP_SEND,XTERM);
3425
3426         case KEY_setpgrp:
3427             LOP(OP_SETPGRP,XTERM);
3428
3429         case KEY_setpriority:
3430             LOP(OP_SETPRIORITY,XTERM);
3431
3432         case KEY_sethostent:
3433             UNI(OP_SHOSTENT);
3434
3435         case KEY_setnetent:
3436             UNI(OP_SNETENT);
3437
3438         case KEY_setservent:
3439             UNI(OP_SSERVENT);
3440
3441         case KEY_setprotoent:
3442             UNI(OP_SPROTOENT);
3443
3444         case KEY_setpwent:
3445             FUN0(OP_SPWENT);
3446
3447         case KEY_setgrent:
3448             FUN0(OP_SGRENT);
3449
3450         case KEY_seekdir:
3451             LOP(OP_SEEKDIR,XTERM);
3452
3453         case KEY_setsockopt:
3454             LOP(OP_SSOCKOPT,XTERM);
3455
3456         case KEY_shift:
3457             UNI(OP_SHIFT);
3458
3459         case KEY_shmctl:
3460             LOP(OP_SHMCTL,XTERM);
3461
3462         case KEY_shmget:
3463             LOP(OP_SHMGET,XTERM);
3464
3465         case KEY_shmread:
3466             LOP(OP_SHMREAD,XTERM);
3467
3468         case KEY_shmwrite:
3469             LOP(OP_SHMWRITE,XTERM);
3470
3471         case KEY_shutdown:
3472             LOP(OP_SHUTDOWN,XTERM);
3473
3474         case KEY_sin:
3475             UNI(OP_SIN);
3476
3477         case KEY_sleep:
3478             UNI(OP_SLEEP);
3479
3480         case KEY_socket:
3481             LOP(OP_SOCKET,XTERM);
3482
3483         case KEY_socketpair:
3484             LOP(OP_SOCKPAIR,XTERM);
3485
3486         case KEY_sort:
3487             checkcomma(s,tokenbuf,"subroutine name");
3488             s = skipspace(s);
3489             if (*s == ';' || *s == ')')         /* probably a close */
3490                 croak("sort is now a reserved word");
3491             expect = XTERM;
3492             s = force_word(s,WORD,TRUE,TRUE,TRUE);
3493             LOP(OP_SORT,XREF);
3494
3495         case KEY_split:
3496             LOP(OP_SPLIT,XTERM);
3497
3498         case KEY_sprintf:
3499             LOP(OP_SPRINTF,XTERM);
3500
3501         case KEY_splice:
3502             LOP(OP_SPLICE,XTERM);
3503
3504         case KEY_sqrt:
3505             UNI(OP_SQRT);
3506
3507         case KEY_srand:
3508             UNI(OP_SRAND);
3509
3510         case KEY_stat:
3511             UNI(OP_STAT);
3512
3513         case KEY_study:
3514             sawstudy++;
3515             UNI(OP_STUDY);
3516
3517         case KEY_substr:
3518             LOP(OP_SUBSTR,XTERM);
3519
3520         case KEY_format:
3521         case KEY_sub:
3522           really_sub:
3523             s = skipspace(s);
3524
3525             if (isIDFIRST(*s) || *s == '\'' || *s == ':') {
3526                 char tmpbuf[sizeof tokenbuf];
3527                 expect = XBLOCK;
3528                 d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
3529                 if (strchr(tmpbuf, ':'))
3530                     sv_setpv(subname, tmpbuf);
3531                 else {
3532                     sv_setsv(subname,curstname);
3533                     sv_catpvn(subname,"::",2);
3534                     sv_catpvn(subname,tmpbuf,len);
3535                 }
3536                 s = force_word(s,WORD,FALSE,TRUE,TRUE);
3537                 s = skipspace(s);
3538             }
3539             else {
3540                 expect = XTERMBLOCK;
3541                 sv_setpv(subname,"?");
3542             }
3543
3544             if (tmp == KEY_format) {
3545                 s = skipspace(s);
3546                 if (*s == '=')
3547                     lex_formbrack = lex_brackets + 1;
3548                 OPERATOR(FORMAT);
3549             }
3550
3551             /* Look for a prototype */
3552             if (*s == '(') {
3553                 char *p;
3554
3555                 s = scan_str(s);
3556                 if (!s) {
3557                     if (lex_stuff)
3558                         SvREFCNT_dec(lex_stuff);
3559                     lex_stuff = Nullsv;
3560                     croak("Prototype not terminated");
3561                 }
3562                 /* strip spaces */
3563                 d = SvPVX(lex_stuff);
3564                 tmp = 0;
3565                 for (p = d; *p; ++p) {
3566                     if (!isSPACE(*p))
3567                         d[tmp++] = *p;
3568                 }
3569                 d[tmp] = '\0';
3570                 SvCUR(lex_stuff) = tmp;
3571
3572                 nexttoke++;
3573                 nextval[1] = nextval[0];
3574                 nexttype[1] = nexttype[0];
3575                 nextval[0].opval = (OP*)newSVOP(OP_CONST, 0, lex_stuff);
3576                 nexttype[0] = THING;
3577                 if (nexttoke == 1) {
3578                     lex_defer = lex_state;
3579                     lex_expect = expect;
3580                     lex_state = LEX_KNOWNEXT;
3581                 }
3582                 lex_stuff = Nullsv;
3583             }
3584
3585             if (*SvPV(subname,na) == '?') {
3586                 sv_setpv(subname,"__ANON__");
3587                 TOKEN(ANONSUB);
3588             }
3589             PREBLOCK(SUB);
3590
3591         case KEY_system:
3592             set_csh();
3593             LOP(OP_SYSTEM,XREF);
3594
3595         case KEY_symlink:
3596             LOP(OP_SYMLINK,XTERM);
3597
3598         case KEY_syscall:
3599             LOP(OP_SYSCALL,XTERM);
3600
3601         case KEY_sysopen:
3602             LOP(OP_SYSOPEN,XTERM);
3603
3604         case KEY_sysseek:
3605             LOP(OP_SYSSEEK,XTERM);
3606
3607         case KEY_sysread:
3608             LOP(OP_SYSREAD,XTERM);
3609
3610         case KEY_syswrite:
3611             LOP(OP_SYSWRITE,XTERM);
3612
3613         case KEY_tr:
3614             s = scan_trans(s);
3615             TERM(sublex_start());
3616
3617         case KEY_tell:
3618             UNI(OP_TELL);
3619
3620         case KEY_telldir:
3621             UNI(OP_TELLDIR);
3622
3623         case KEY_tie:
3624             LOP(OP_TIE,XTERM);
3625
3626         case KEY_tied:
3627             UNI(OP_TIED);
3628
3629         case KEY_time:
3630             FUN0(OP_TIME);
3631
3632         case KEY_times:
3633             FUN0(OP_TMS);
3634
3635         case KEY_truncate:
3636             LOP(OP_TRUNCATE,XTERM);
3637
3638         case KEY_uc:
3639             UNI(OP_UC);
3640
3641         case KEY_ucfirst:
3642             UNI(OP_UCFIRST);
3643
3644         case KEY_untie:
3645             UNI(OP_UNTIE);
3646
3647         case KEY_until:
3648             yylval.ival = curcop->cop_line;
3649             OPERATOR(UNTIL);
3650
3651         case KEY_unless:
3652             yylval.ival = curcop->cop_line;
3653             OPERATOR(UNLESS);
3654
3655         case KEY_unlink:
3656             LOP(OP_UNLINK,XTERM);
3657
3658         case KEY_undef:
3659             UNI(OP_UNDEF);
3660
3661         case KEY_unpack:
3662             LOP(OP_UNPACK,XTERM);
3663
3664         case KEY_utime:
3665             LOP(OP_UTIME,XTERM);
3666
3667         case KEY_umask:
3668             if (dowarn) {
3669                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
3670                 if (*d != '0' && isDIGIT(*d))
3671                     yywarn("umask: argument is missing initial 0");
3672             }
3673             UNI(OP_UMASK);
3674
3675         case KEY_unshift:
3676             LOP(OP_UNSHIFT,XTERM);
3677
3678         case KEY_use:
3679             if (expect != XSTATE)
3680                 yyerror("\"use\" not allowed in expression");
3681             s = skipspace(s);
3682             if(isDIGIT(*s)) {
3683                 s = force_version(s);
3684                 if(*s == ';' || (s = skipspace(s), *s == ';')) {
3685                     nextval[nexttoke].opval = Nullop;
3686                     force_next(WORD);
3687                 }
3688             }
3689             else {
3690                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
3691                 s = force_version(s);
3692             }
3693             yylval.ival = 1;
3694             OPERATOR(USE);
3695
3696         case KEY_values:
3697             UNI(OP_VALUES);
3698
3699         case KEY_vec:
3700             sawvec = TRUE;
3701             LOP(OP_VEC,XTERM);
3702
3703         case KEY_while:
3704             yylval.ival = curcop->cop_line;
3705             OPERATOR(WHILE);
3706
3707         case KEY_warn:
3708             hints |= HINT_BLOCK_SCOPE;
3709             LOP(OP_WARN,XTERM);
3710
3711         case KEY_wait:
3712             FUN0(OP_WAIT);
3713
3714         case KEY_waitpid:
3715             LOP(OP_WAITPID,XTERM);
3716
3717         case KEY_wantarray:
3718             FUN0(OP_WANTARRAY);
3719
3720         case KEY_write:
3721             gv_fetchpv("\f",TRUE, SVt_PV);      /* Make sure $^L is defined */
3722             UNI(OP_ENTERWRITE);
3723
3724         case KEY_x:
3725             if (expect == XOPERATOR)
3726                 Mop(OP_REPEAT);
3727             check_uni();
3728             goto just_a_word;
3729
3730         case KEY_xor:
3731             yylval.ival = OP_XOR;
3732             OPERATOR(OROP);
3733
3734         case KEY_y:
3735             s = scan_trans(s);
3736             TERM(sublex_start());
3737         }
3738     }
3739 }
3740
3741 I32
3742 keyword(d, len)
3743 register char *d;
3744 I32 len;
3745 {
3746     switch (*d) {
3747     case '_':
3748         if (d[1] == '_') {
3749             if (strEQ(d,"__FILE__"))            return -KEY___FILE__;
3750             if (strEQ(d,"__LINE__"))            return -KEY___LINE__;
3751             if (strEQ(d,"__PACKAGE__"))         return -KEY___PACKAGE__;
3752             if (strEQ(d,"__DATA__"))            return KEY___DATA__;
3753             if (strEQ(d,"__END__"))             return KEY___END__;
3754         }
3755         break;
3756     case 'A':
3757         if (strEQ(d,"AUTOLOAD"))                return KEY_AUTOLOAD;
3758         break;
3759     case 'a':
3760         switch (len) {
3761         case 3:
3762             if (strEQ(d,"and"))                 return -KEY_and;
3763             if (strEQ(d,"abs"))                 return -KEY_abs;
3764             break;
3765         case 5:
3766             if (strEQ(d,"alarm"))               return -KEY_alarm;
3767             if (strEQ(d,"atan2"))               return -KEY_atan2;
3768             break;
3769         case 6:
3770             if (strEQ(d,"accept"))              return -KEY_accept;
3771             break;
3772         }
3773         break;
3774     case 'B':
3775         if (strEQ(d,"BEGIN"))                   return KEY_BEGIN;
3776         break;
3777     case 'b':
3778         if (strEQ(d,"bless"))                   return -KEY_bless;
3779         if (strEQ(d,"bind"))                    return -KEY_bind;
3780         if (strEQ(d,"binmode"))                 return -KEY_binmode;
3781         break;
3782     case 'C':
3783         if (strEQ(d,"CORE"))                    return -KEY_CORE;
3784         break;
3785     case 'c':
3786         switch (len) {
3787         case 3:
3788             if (strEQ(d,"cmp"))                 return -KEY_cmp;
3789             if (strEQ(d,"chr"))                 return -KEY_chr;
3790             if (strEQ(d,"cos"))                 return -KEY_cos;
3791             break;
3792         case 4:
3793             if (strEQ(d,"chop"))                return KEY_chop;
3794             break;
3795         case 5:
3796             if (strEQ(d,"close"))               return -KEY_close;
3797             if (strEQ(d,"chdir"))               return -KEY_chdir;
3798             if (strEQ(d,"chomp"))               return KEY_chomp;
3799             if (strEQ(d,"chmod"))               return -KEY_chmod;
3800             if (strEQ(d,"chown"))               return -KEY_chown;
3801             if (strEQ(d,"crypt"))               return -KEY_crypt;
3802             break;
3803         case 6:
3804             if (strEQ(d,"chroot"))              return -KEY_chroot;
3805             if (strEQ(d,"caller"))              return -KEY_caller;
3806             break;
3807         case 7:
3808             if (strEQ(d,"connect"))             return -KEY_connect;
3809             break;
3810         case 8:
3811             if (strEQ(d,"closedir"))            return -KEY_closedir;
3812             if (strEQ(d,"continue"))            return -KEY_continue;
3813             break;
3814         }
3815         break;
3816     case 'D':
3817         if (strEQ(d,"DESTROY"))                 return KEY_DESTROY;
3818         break;
3819     case 'd':
3820         switch (len) {
3821         case 2:
3822             if (strEQ(d,"do"))                  return KEY_do;
3823             break;
3824         case 3:
3825             if (strEQ(d,"die"))                 return -KEY_die;
3826             break;
3827         case 4:
3828             if (strEQ(d,"dump"))                return -KEY_dump;
3829             break;
3830         case 6:
3831             if (strEQ(d,"delete"))              return KEY_delete;
3832             break;
3833         case 7:
3834             if (strEQ(d,"defined"))             return KEY_defined;
3835             if (strEQ(d,"dbmopen"))             return -KEY_dbmopen;
3836             break;
3837         case 8:
3838             if (strEQ(d,"dbmclose"))            return -KEY_dbmclose;
3839             break;
3840         }
3841         break;
3842     case 'E':
3843         if (strEQ(d,"EQ")) { deprecate(d);      return -KEY_eq;}
3844         if (strEQ(d,"END"))                     return KEY_END;
3845         break;
3846     case 'e':
3847         switch (len) {
3848         case 2:
3849             if (strEQ(d,"eq"))                  return -KEY_eq;
3850             break;
3851         case 3:
3852             if (strEQ(d,"eof"))                 return -KEY_eof;
3853             if (strEQ(d,"exp"))                 return -KEY_exp;
3854             break;
3855         case 4:
3856             if (strEQ(d,"else"))                return KEY_else;
3857             if (strEQ(d,"exit"))                return -KEY_exit;
3858             if (strEQ(d,"eval"))                return KEY_eval;
3859             if (strEQ(d,"exec"))                return -KEY_exec;
3860             if (strEQ(d,"each"))                return KEY_each;
3861             break;
3862         case 5:
3863             if (strEQ(d,"elsif"))               return KEY_elsif;
3864             break;
3865         case 6:
3866             if (strEQ(d,"exists"))              return KEY_exists;
3867             if (strEQ(d,"elseif")) warn("elseif should be elsif");
3868             break;
3869         case 8:
3870             if (strEQ(d,"endgrent"))            return -KEY_endgrent;
3871             if (strEQ(d,"endpwent"))            return -KEY_endpwent;
3872             break;
3873         case 9:
3874             if (strEQ(d,"endnetent"))           return -KEY_endnetent;
3875             break;
3876         case 10:
3877             if (strEQ(d,"endhostent"))          return -KEY_endhostent;
3878             if (strEQ(d,"endservent"))          return -KEY_endservent;
3879             break;
3880         case 11:
3881             if (strEQ(d,"endprotoent"))         return -KEY_endprotoent;
3882             break;
3883         }
3884         break;
3885     case 'f':
3886         switch (len) {
3887         case 3:
3888             if (strEQ(d,"for"))                 return KEY_for;
3889             break;
3890         case 4:
3891             if (strEQ(d,"fork"))                return -KEY_fork;
3892             break;
3893         case 5:
3894             if (strEQ(d,"fcntl"))               return -KEY_fcntl;
3895             if (strEQ(d,"flock"))               return -KEY_flock;
3896             break;
3897         case 6:
3898             if (strEQ(d,"format"))              return KEY_format;
3899             if (strEQ(d,"fileno"))              return -KEY_fileno;
3900             break;
3901         case 7:
3902             if (strEQ(d,"foreach"))             return KEY_foreach;
3903             break;
3904         case 8:
3905             if (strEQ(d,"formline"))            return -KEY_formline;
3906             break;
3907         }
3908         break;
3909     case 'G':
3910         if (len == 2) {
3911             if (strEQ(d,"GT")) { deprecate(d);  return -KEY_gt;}
3912             if (strEQ(d,"GE")) { deprecate(d);  return -KEY_ge;}
3913         }
3914         break;
3915     case 'g':
3916         if (strnEQ(d,"get",3)) {
3917             d += 3;
3918             if (*d == 'p') {
3919                 switch (len) {
3920                 case 7:
3921                     if (strEQ(d,"ppid"))        return -KEY_getppid;
3922                     if (strEQ(d,"pgrp"))        return -KEY_getpgrp;
3923                     break;
3924                 case 8:
3925                     if (strEQ(d,"pwent"))       return -KEY_getpwent;
3926                     if (strEQ(d,"pwnam"))       return -KEY_getpwnam;
3927                     if (strEQ(d,"pwuid"))       return -KEY_getpwuid;
3928                     break;
3929                 case 11:
3930                     if (strEQ(d,"peername"))    return -KEY_getpeername;
3931                     if (strEQ(d,"protoent"))    return -KEY_getprotoent;
3932                     if (strEQ(d,"priority"))    return -KEY_getpriority;
3933                     break;
3934                 case 14:
3935                     if (strEQ(d,"protobyname")) return -KEY_getprotobyname;
3936                     break;
3937                 case 16:
3938                     if (strEQ(d,"protobynumber"))return -KEY_getprotobynumber;
3939                     break;
3940                 }
3941             }
3942             else if (*d == 'h') {
3943                 if (strEQ(d,"hostbyname"))      return -KEY_gethostbyname;
3944                 if (strEQ(d,"hostbyaddr"))      return -KEY_gethostbyaddr;
3945                 if (strEQ(d,"hostent"))         return -KEY_gethostent;
3946             }
3947             else if (*d == 'n') {
3948                 if (strEQ(d,"netbyname"))       return -KEY_getnetbyname;
3949                 if (strEQ(d,"netbyaddr"))       return -KEY_getnetbyaddr;
3950                 if (strEQ(d,"netent"))          return -KEY_getnetent;
3951             }
3952             else if (*d == 's') {
3953                 if (strEQ(d,"servbyname"))      return -KEY_getservbyname;
3954                 if (strEQ(d,"servbyport"))      return -KEY_getservbyport;
3955                 if (strEQ(d,"servent"))         return -KEY_getservent;
3956                 if (strEQ(d,"sockname"))        return -KEY_getsockname;
3957                 if (strEQ(d,"sockopt"))         return -KEY_getsockopt;
3958             }
3959             else if (*d == 'g') {
3960                 if (strEQ(d,"grent"))           return -KEY_getgrent;
3961                 if (strEQ(d,"grnam"))           return -KEY_getgrnam;
3962                 if (strEQ(d,"grgid"))           return -KEY_getgrgid;
3963             }
3964             else if (*d == 'l') {
3965                 if (strEQ(d,"login"))           return -KEY_getlogin;
3966             }
3967             else if (strEQ(d,"c"))              return -KEY_getc;
3968             break;
3969         }
3970         switch (len) {
3971         case 2:
3972             if (strEQ(d,"gt"))                  return -KEY_gt;
3973             if (strEQ(d,"ge"))                  return -KEY_ge;
3974             break;
3975         case 4:
3976             if (strEQ(d,"grep"))                return KEY_grep;
3977             if (strEQ(d,"goto"))                return KEY_goto;
3978             if (strEQ(d,"glob"))                return KEY_glob;
3979             break;
3980         case 6:
3981             if (strEQ(d,"gmtime"))              return -KEY_gmtime;
3982             break;
3983         }
3984         break;
3985     case 'h':
3986         if (strEQ(d,"hex"))                     return -KEY_hex;
3987         break;
3988     case 'i':
3989         switch (len) {
3990         case 2:
3991             if (strEQ(d,"if"))                  return KEY_if;
3992             break;
3993         case 3:
3994             if (strEQ(d,"int"))                 return -KEY_int;
3995             break;
3996         case 5:
3997             if (strEQ(d,"index"))               return -KEY_index;
3998             if (strEQ(d,"ioctl"))               return -KEY_ioctl;
3999             break;
4000         }
4001         break;
4002     case 'j':
4003         if (strEQ(d,"join"))                    return -KEY_join;
4004         break;
4005     case 'k':
4006         if (len == 4) {
4007             if (strEQ(d,"keys"))                return KEY_keys;
4008             if (strEQ(d,"kill"))                return -KEY_kill;
4009         }
4010         break;
4011     case 'L':
4012         if (len == 2) {
4013             if (strEQ(d,"LT")) { deprecate(d);  return -KEY_lt;}
4014             if (strEQ(d,"LE")) { deprecate(d);  return -KEY_le;}
4015         }
4016         break;
4017     case 'l':
4018         switch (len) {
4019         case 2:
4020             if (strEQ(d,"lt"))                  return -KEY_lt;
4021             if (strEQ(d,"le"))                  return -KEY_le;
4022             if (strEQ(d,"lc"))                  return -KEY_lc;
4023             break;
4024         case 3:
4025             if (strEQ(d,"log"))                 return -KEY_log;
4026             break;
4027         case 4:
4028             if (strEQ(d,"last"))                return KEY_last;
4029             if (strEQ(d,"link"))                return -KEY_link;
4030             break;
4031         case 5:
4032             if (strEQ(d,"local"))               return KEY_local;
4033             if (strEQ(d,"lstat"))               return -KEY_lstat;
4034             break;
4035         case 6:
4036             if (strEQ(d,"length"))              return -KEY_length;
4037             if (strEQ(d,"listen"))              return -KEY_listen;
4038             break;
4039         case 7:
4040             if (strEQ(d,"lcfirst"))             return -KEY_lcfirst;
4041             break;
4042         case 9:
4043             if (strEQ(d,"localtime"))           return -KEY_localtime;
4044             break;
4045         }
4046         break;
4047     case 'm':
4048         switch (len) {
4049         case 1:                                 return KEY_m;
4050         case 2:
4051             if (strEQ(d,"my"))                  return KEY_my;
4052             break;
4053         case 3:
4054             if (strEQ(d,"map"))                 return KEY_map;
4055             break;
4056         case 5:
4057             if (strEQ(d,"mkdir"))               return -KEY_mkdir;
4058             break;
4059         case 6:
4060             if (strEQ(d,"msgctl"))              return -KEY_msgctl;
4061             if (strEQ(d,"msgget"))              return -KEY_msgget;
4062             if (strEQ(d,"msgrcv"))              return -KEY_msgrcv;
4063             if (strEQ(d,"msgsnd"))              return -KEY_msgsnd;
4064             break;
4065         }
4066         break;
4067     case 'N':
4068         if (strEQ(d,"NE")) { deprecate(d);      return -KEY_ne;}
4069         break;
4070     case 'n':
4071         if (strEQ(d,"next"))                    return KEY_next;
4072         if (strEQ(d,"ne"))                      return -KEY_ne;
4073         if (strEQ(d,"not"))                     return -KEY_not;
4074         if (strEQ(d,"no"))                      return KEY_no;
4075         break;
4076     case 'o':
4077         switch (len) {
4078         case 2:
4079             if (strEQ(d,"or"))                  return -KEY_or;
4080             break;
4081         case 3:
4082             if (strEQ(d,"ord"))                 return -KEY_ord;
4083             if (strEQ(d,"oct"))                 return -KEY_oct;
4084             break;
4085         case 4:
4086             if (strEQ(d,"open"))                return -KEY_open;
4087             break;
4088         case 7:
4089             if (strEQ(d,"opendir"))             return -KEY_opendir;
4090             break;
4091         }
4092         break;
4093     case 'p':
4094         switch (len) {
4095         case 3:
4096             if (strEQ(d,"pop"))                 return KEY_pop;
4097             if (strEQ(d,"pos"))                 return KEY_pos;
4098             break;
4099         case 4:
4100             if (strEQ(d,"push"))                return KEY_push;
4101             if (strEQ(d,"pack"))                return -KEY_pack;
4102             if (strEQ(d,"pipe"))                return -KEY_pipe;
4103             break;
4104         case 5:
4105             if (strEQ(d,"print"))               return KEY_print;
4106             break;
4107         case 6:
4108             if (strEQ(d,"printf"))              return KEY_printf;
4109             break;
4110         case 7:
4111             if (strEQ(d,"package"))             return KEY_package;
4112             break;
4113         case 9:
4114             if (strEQ(d,"prototype"))           return KEY_prototype;
4115         }
4116         break;
4117     case 'q':
4118         if (len <= 2) {
4119             if (strEQ(d,"q"))                   return KEY_q;
4120             if (strEQ(d,"qq"))                  return KEY_qq;
4121             if (strEQ(d,"qw"))                  return KEY_qw;
4122             if (strEQ(d,"qx"))                  return KEY_qx;
4123         }
4124         else if (strEQ(d,"quotemeta"))          return -KEY_quotemeta;
4125         break;
4126     case 'r':
4127         switch (len) {
4128         case 3:
4129             if (strEQ(d,"ref"))                 return -KEY_ref;
4130             break;
4131         case 4:
4132             if (strEQ(d,"read"))                return -KEY_read;
4133             if (strEQ(d,"rand"))                return -KEY_rand;
4134             if (strEQ(d,"recv"))                return -KEY_recv;
4135             if (strEQ(d,"redo"))                return KEY_redo;
4136             break;
4137         case 5:
4138             if (strEQ(d,"rmdir"))               return -KEY_rmdir;
4139             if (strEQ(d,"reset"))               return -KEY_reset;
4140             break;
4141         case 6:
4142             if (strEQ(d,"return"))              return KEY_return;
4143             if (strEQ(d,"rename"))              return -KEY_rename;
4144             if (strEQ(d,"rindex"))              return -KEY_rindex;
4145             break;
4146         case 7:
4147             if (strEQ(d,"require"))             return -KEY_require;
4148             if (strEQ(d,"reverse"))             return -KEY_reverse;
4149             if (strEQ(d,"readdir"))             return -KEY_readdir;
4150             break;
4151         case 8:
4152             if (strEQ(d,"readlink"))            return -KEY_readlink;
4153             if (strEQ(d,"readline"))            return -KEY_readline;
4154             if (strEQ(d,"readpipe"))            return -KEY_readpipe;
4155             break;
4156         case 9:
4157             if (strEQ(d,"rewinddir"))           return -KEY_rewinddir;
4158             break;
4159         }
4160         break;
4161     case 's':
4162         switch (d[1]) {
4163         case 0:                                 return KEY_s;
4164         case 'c':
4165             if (strEQ(d,"scalar"))              return KEY_scalar;
4166             break;
4167         case 'e':
4168             switch (len) {
4169             case 4:
4170                 if (strEQ(d,"seek"))            return -KEY_seek;
4171                 if (strEQ(d,"send"))            return -KEY_send;
4172                 break;
4173             case 5:
4174                 if (strEQ(d,"semop"))           return -KEY_semop;
4175                 break;
4176             case 6:
4177                 if (strEQ(d,"select"))          return -KEY_select;
4178                 if (strEQ(d,"semctl"))          return -KEY_semctl;
4179                 if (strEQ(d,"semget"))          return -KEY_semget;
4180                 break;
4181             case 7:
4182                 if (strEQ(d,"setpgrp"))         return -KEY_setpgrp;
4183                 if (strEQ(d,"seekdir"))         return -KEY_seekdir;
4184                 break;
4185             case 8:
4186                 if (strEQ(d,"setpwent"))        return -KEY_setpwent;
4187                 if (strEQ(d,"setgrent"))        return -KEY_setgrent;
4188                 break;
4189             case 9:
4190                 if (strEQ(d,"setnetent"))       return -KEY_setnetent;
4191                 break;
4192             case 10:
4193                 if (strEQ(d,"setsockopt"))      return -KEY_setsockopt;
4194                 if (strEQ(d,"sethostent"))      return -KEY_sethostent;
4195                 if (strEQ(d,"setservent"))      return -KEY_setservent;
4196                 break;
4197             case 11:
4198                 if (strEQ(d,"setpriority"))     return -KEY_setpriority;
4199                 if (strEQ(d,"setprotoent"))     return -KEY_setprotoent;
4200                 break;
4201             }
4202             break;
4203         case 'h':
4204             switch (len) {
4205             case 5:
4206                 if (strEQ(d,"shift"))           return KEY_shift;
4207                 break;
4208             case 6:
4209                 if (strEQ(d,"shmctl"))          return -KEY_shmctl;
4210                 if (strEQ(d,"shmget"))          return -KEY_shmget;
4211                 break;
4212             case 7:
4213                 if (strEQ(d,"shmread"))         return -KEY_shmread;
4214                 break;
4215             case 8:
4216                 if (strEQ(d,"shmwrite"))        return -KEY_shmwrite;
4217                 if (strEQ(d,"shutdown"))        return -KEY_shutdown;
4218                 break;
4219             }
4220             break;
4221         case 'i':
4222             if (strEQ(d,"sin"))                 return -KEY_sin;
4223             break;
4224         case 'l':
4225             if (strEQ(d,"sleep"))               return -KEY_sleep;
4226             break;
4227         case 'o':
4228             if (strEQ(d,"sort"))                return KEY_sort;
4229             if (strEQ(d,"socket"))              return -KEY_socket;
4230             if (strEQ(d,"socketpair"))          return -KEY_socketpair;
4231             break;
4232         case 'p':
4233             if (strEQ(d,"split"))               return KEY_split;
4234             if (strEQ(d,"sprintf"))             return -KEY_sprintf;
4235             if (strEQ(d,"splice"))              return KEY_splice;
4236             break;
4237         case 'q':
4238             if (strEQ(d,"sqrt"))                return -KEY_sqrt;
4239             break;
4240         case 'r':
4241             if (strEQ(d,"srand"))               return -KEY_srand;
4242             break;
4243         case 't':
4244             if (strEQ(d,"stat"))                return -KEY_stat;
4245             if (strEQ(d,"study"))               return KEY_study;
4246             break;
4247         case 'u':
4248             if (strEQ(d,"substr"))              return -KEY_substr;
4249             if (strEQ(d,"sub"))                 return KEY_sub;
4250             break;
4251         case 'y':
4252             switch (len) {
4253             case 6:
4254                 if (strEQ(d,"system"))          return -KEY_system;
4255                 break;
4256             case 7:
4257                 if (strEQ(d,"symlink"))         return -KEY_symlink;
4258                 if (strEQ(d,"syscall"))         return -KEY_syscall;
4259                 if (strEQ(d,"sysopen"))         return -KEY_sysopen;
4260                 if (strEQ(d,"sysread"))         return -KEY_sysread;
4261                 if (strEQ(d,"sysseek"))         return -KEY_sysseek;
4262                 break;
4263             case 8:
4264                 if (strEQ(d,"syswrite"))        return -KEY_syswrite;
4265                 break;
4266             }
4267             break;
4268         }
4269         break;
4270     case 't':
4271         switch (len) {
4272         case 2:
4273             if (strEQ(d,"tr"))                  return KEY_tr;
4274             break;
4275         case 3:
4276             if (strEQ(d,"tie"))                 return KEY_tie;
4277             break;
4278         case 4:
4279             if (strEQ(d,"tell"))                return -KEY_tell;
4280             if (strEQ(d,"tied"))                return KEY_tied;
4281             if (strEQ(d,"time"))                return -KEY_time;
4282             break;
4283         case 5:
4284             if (strEQ(d,"times"))               return -KEY_times;
4285             break;
4286         case 7:
4287             if (strEQ(d,"telldir"))             return -KEY_telldir;
4288             break;
4289         case 8:
4290             if (strEQ(d,"truncate"))            return -KEY_truncate;
4291             break;
4292         }
4293         break;
4294     case 'u':
4295         switch (len) {
4296         case 2:
4297             if (strEQ(d,"uc"))                  return -KEY_uc;
4298             break;
4299         case 3:
4300             if (strEQ(d,"use"))                 return KEY_use;
4301             break;
4302         case 5:
4303             if (strEQ(d,"undef"))               return KEY_undef;
4304             if (strEQ(d,"until"))               return KEY_until;
4305             if (strEQ(d,"untie"))               return KEY_untie;
4306             if (strEQ(d,"utime"))               return -KEY_utime;
4307             if (strEQ(d,"umask"))               return -KEY_umask;
4308             break;
4309         case 6:
4310             if (strEQ(d,"unless"))              return KEY_unless;
4311             if (strEQ(d,"unpack"))              return -KEY_unpack;
4312             if (strEQ(d,"unlink"))              return -KEY_unlink;
4313             break;
4314         case 7:
4315             if (strEQ(d,"unshift"))             return KEY_unshift;
4316             if (strEQ(d,"ucfirst"))             return -KEY_ucfirst;
4317             break;
4318         }
4319         break;
4320     case 'v':
4321         if (strEQ(d,"values"))                  return -KEY_values;
4322         if (strEQ(d,"vec"))                     return -KEY_vec;
4323         break;
4324     case 'w':
4325         switch (len) {
4326         case 4:
4327             if (strEQ(d,"warn"))                return -KEY_warn;
4328             if (strEQ(d,"wait"))                return -KEY_wait;
4329             break;
4330         case 5:
4331             if (strEQ(d,"while"))               return KEY_while;
4332             if (strEQ(d,"write"))               return -KEY_write;
4333             break;
4334         case 7:
4335             if (strEQ(d,"waitpid"))             return -KEY_waitpid;
4336             break;
4337         case 9:
4338             if (strEQ(d,"wantarray"))           return -KEY_wantarray;
4339             break;
4340         }
4341         break;
4342     case 'x':
4343         if (len == 1)                           return -KEY_x;
4344         if (strEQ(d,"xor"))                     return -KEY_xor;
4345         break;
4346     case 'y':
4347         if (len == 1)                           return KEY_y;
4348         break;
4349     case 'z':
4350         break;
4351     }
4352     return 0;
4353 }
4354
4355 static void
4356 checkcomma(s,name,what)
4357 register char *s;
4358 char *name;
4359 char *what;
4360 {
4361     char *w;
4362
4363     if (dowarn && *s == ' ' && s[1] == '(') {   /* XXX gotta be a better way */
4364         int level = 1;
4365         for (w = s+2; *w && level; w++) {
4366             if (*w == '(')
4367                 ++level;
4368             else if (*w == ')')
4369                 --level;
4370         }
4371         if (*w)
4372             for (; *w && isSPACE(*w); w++) ;
4373         if (!*w || !strchr(";|})]oaiuw!=", *w)) /* an advisory hack only... */
4374             warn("%s (...) interpreted as function",name);
4375     }
4376     while (s < bufend && isSPACE(*s))
4377         s++;
4378     if (*s == '(')
4379         s++;
4380     while (s < bufend && isSPACE(*s))
4381         s++;
4382     if (isIDFIRST(*s)) {
4383         w = s++;
4384         while (isALNUM(*s))
4385             s++;
4386         while (s < bufend && isSPACE(*s))
4387             s++;
4388         if (*s == ',') {
4389             int kw;
4390             *s = '\0';
4391             kw = keyword(w, s - w) || perl_get_cv(w, FALSE) != 0;
4392             *s = ',';
4393             if (kw)
4394                 return;
4395             croak("No comma allowed after %s", what);
4396         }
4397     }
4398 }
4399
4400 static char *
4401 scan_word(s, dest, destlen, allow_package, slp)
4402 register char *s;
4403 char *dest;
4404 STRLEN destlen;
4405 int allow_package;
4406 STRLEN *slp;
4407 {
4408     register char *d = dest;
4409     register char *e = d + destlen - 3;  /* two-character token, ending NUL */
4410     for (;;) {
4411         if (d >= e)
4412             croak(ident_too_long);
4413         if (isALNUM(*s))
4414             *d++ = *s++;
4415         else if (*s == '\'' && allow_package && isIDFIRST(s[1])) {
4416             *d++ = ':';
4417             *d++ = ':';
4418             s++;
4419         }
4420         else if (*s == ':' && s[1] == ':' && allow_package && isIDFIRST(s[2])) {
4421             *d++ = *s++;
4422             *d++ = *s++;
4423         }
4424         else {
4425             *d = '\0';
4426             *slp = d - dest;
4427             return s;
4428         }
4429     }
4430 }
4431
4432 static char *
4433 scan_ident(s, send, dest, destlen, ck_uni)
4434 register char *s;
4435 register char *send;
4436 char *dest;
4437 STRLEN destlen;
4438 I32 ck_uni;
4439 {
4440     register char *d;
4441     register char *e;
4442     char *bracket = 0;
4443     char funny = *s++;
4444
4445     if (lex_brackets == 0)
4446         lex_fakebrack = 0;
4447     if (isSPACE(*s))
4448         s = skipspace(s);
4449     d = dest;
4450     e = d + destlen - 3;        /* two-character token, ending NUL */
4451     if (isDIGIT(*s)) {
4452         while (isDIGIT(*s)) {
4453             if (d >= e)
4454                 croak(ident_too_long);
4455             *d++ = *s++;
4456         }
4457     }
4458     else {
4459         for (;;) {
4460             if (d >= e)
4461                 croak(ident_too_long);
4462             if (isALNUM(*s))
4463                 *d++ = *s++;
4464             else if (*s == '\'' && isIDFIRST(s[1])) {
4465                 *d++ = ':';
4466                 *d++ = ':';
4467                 s++;
4468             }
4469             else if (*s == ':' && s[1] == ':') {
4470                 *d++ = *s++;
4471                 *d++ = *s++;
4472             }
4473             else
4474                 break;
4475         }
4476     }
4477     *d = '\0';
4478     d = dest;
4479     if (*d) {
4480         if (lex_state != LEX_NORMAL)
4481             lex_state = LEX_INTERPENDMAYBE;
4482         return s;
4483     }
4484     if (*s == '$' && s[1] &&
4485       (isALNUM(s[1]) || strchr("${", s[1]) || strnEQ(s+1,"::",2)) )
4486     {
4487         if (isDIGIT(s[1]) && lex_state == LEX_INTERPNORMAL)
4488             deprecate("\"$$<digit>\" to mean \"${$}<digit>\"");
4489         else
4490             return s;
4491     }
4492     if (*s == '{') {
4493         bracket = s;
4494         s++;
4495     }
4496     else if (ck_uni)
4497         check_uni();
4498     if (s < send)
4499         *d = *s++;
4500     d[1] = '\0';
4501     if (*d == '^' && *s && (isUPPER(*s) || strchr("[\\]^_?", *s))) {
4502         *d = toCTRL(*s);
4503         s++;
4504     }
4505     if (bracket) {
4506         if (isSPACE(s[-1])) {
4507             while (s < send) {
4508                 char ch = *s++;
4509                 if (ch != ' ' && ch != '\t') {
4510                     *d = ch;
4511                     break;
4512                 }
4513             }
4514         }
4515         if (isIDFIRST(*d)) {
4516             d++;
4517             while (isALNUM(*s) || *s == ':')
4518                 *d++ = *s++;
4519             *d = '\0';
4520             while (s < send && (*s == ' ' || *s == '\t')) s++;
4521             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
4522                 if (dowarn && keyword(dest, d - dest)) {
4523                     char *brack = *s == '[' ? "[...]" : "{...}";
4524                     warn("Ambiguous use of %c{%s%s} resolved to %c%s%s",
4525                         funny, dest, brack, funny, dest, brack);
4526                 }
4527                 lex_fakebrack = lex_brackets+1;
4528                 bracket++;
4529                 lex_brackstack[lex_brackets++] = XOPERATOR;
4530                 return s;
4531             }
4532         }
4533         if (*s == '}') {
4534             s++;
4535             if (lex_state == LEX_INTERPNORMAL && !lex_brackets)
4536                 lex_state = LEX_INTERPEND;
4537             if (funny == '#')
4538                 funny = '@';
4539             if (dowarn && lex_state == LEX_NORMAL &&
4540               (keyword(dest, d - dest) || perl_get_cv(dest, FALSE)))
4541                 warn("Ambiguous use of %c{%s} resolved to %c%s",
4542                     funny, dest, funny, dest);
4543         }
4544         else {
4545             s = bracket;                /* let the parser handle it */
4546             *dest = '\0';
4547         }
4548     }
4549     else if (lex_state == LEX_INTERPNORMAL && !lex_brackets && !intuit_more(s))
4550         lex_state = LEX_INTERPEND;
4551     return s;
4552 }
4553
4554 void pmflag(pmfl,ch)
4555 U16* pmfl;
4556 int ch;
4557 {
4558     if (ch == 'i')
4559         *pmfl |= PMf_FOLD;
4560     else if (ch == 'g')
4561         *pmfl |= PMf_GLOBAL;
4562     else if (ch == 'c')
4563         *pmfl |= PMf_CONTINUE;
4564     else if (ch == 'o')
4565         *pmfl |= PMf_KEEP;
4566     else if (ch == 'm')
4567         *pmfl |= PMf_MULTILINE;
4568     else if (ch == 's')
4569         *pmfl |= PMf_SINGLELINE;
4570     else if (ch == 'x')
4571         *pmfl |= PMf_EXTENDED;
4572 }
4573
4574 static char *
4575 scan_pat(start)
4576 char *start;
4577 {
4578     PMOP *pm;
4579     char *s;
4580
4581     s = scan_str(start);
4582     if (!s) {
4583         if (lex_stuff)
4584             SvREFCNT_dec(lex_stuff);
4585         lex_stuff = Nullsv;
4586         croak("Search pattern not terminated");
4587     }
4588
4589     pm = (PMOP*)newPMOP(OP_MATCH, 0);
4590     if (multi_open == '?')
4591         pm->op_pmflags |= PMf_ONCE;
4592     while (*s && strchr("iogcmsx", *s))
4593         pmflag(&pm->op_pmflags,*s++);
4594     pm->op_pmpermflags = pm->op_pmflags;
4595
4596     lex_op = (OP*)pm;
4597     yylval.ival = OP_MATCH;
4598     return s;
4599 }
4600
4601 static char *
4602 scan_subst(start)
4603 char *start;
4604 {
4605     register char *s;
4606     register PMOP *pm;
4607     I32 first_start;
4608     I32 es = 0;
4609
4610     yylval.ival = OP_NULL;
4611
4612     s = scan_str(start);
4613
4614     if (!s) {
4615         if (lex_stuff)
4616             SvREFCNT_dec(lex_stuff);
4617         lex_stuff = Nullsv;
4618         croak("Substitution pattern not terminated");
4619     }
4620
4621     if (s[-1] == multi_open)
4622         s--;
4623
4624     first_start = multi_start;
4625     s = scan_str(s);
4626     if (!s) {
4627         if (lex_stuff)
4628             SvREFCNT_dec(lex_stuff);
4629         lex_stuff = Nullsv;
4630         if (lex_repl)
4631             SvREFCNT_dec(lex_repl);
4632         lex_repl = Nullsv;
4633         croak("Substitution replacement not terminated");
4634     }
4635     multi_start = first_start;  /* so whole substitution is taken together */
4636
4637     pm = (PMOP*)newPMOP(OP_SUBST, 0);
4638     while (*s && strchr("iogcmsex", *s)) {
4639         if (*s == 'e') {
4640             s++;
4641             es++;
4642         }
4643         else
4644             pmflag(&pm->op_pmflags,*s++);
4645     }
4646
4647     if (es) {
4648         SV *repl;
4649         pm->op_pmflags |= PMf_EVAL;
4650         repl = newSVpv("",0);
4651         while (es-- > 0)
4652             sv_catpv(repl, es ? "eval " : "do ");
4653         sv_catpvn(repl, "{ ", 2);
4654         sv_catsv(repl, lex_repl);
4655         sv_catpvn(repl, " };", 2);
4656         SvCOMPILED_on(repl);
4657         SvREFCNT_dec(lex_repl);
4658         lex_repl = repl;
4659     }
4660
4661     pm->op_pmpermflags = pm->op_pmflags;
4662     lex_op = (OP*)pm;
4663     yylval.ival = OP_SUBST;
4664     return s;
4665 }
4666
4667 void
4668 hoistmust(pm)
4669 register PMOP *pm;
4670 {
4671     if (!pm->op_pmshort && pm->op_pmregexp->regstart &&
4672         (!pm->op_pmregexp->regmust || pm->op_pmregexp->reganch & ROPT_ANCH)
4673        ) {
4674         if (!(pm->op_pmregexp->reganch & ROPT_ANCH))
4675             pm->op_pmflags |= PMf_SCANFIRST;
4676         pm->op_pmshort = SvREFCNT_inc(pm->op_pmregexp->regstart);
4677         pm->op_pmslen = SvCUR(pm->op_pmshort);
4678     }
4679     else if (pm->op_pmregexp->regmust) {/* is there a better short-circuit? */
4680         if (pm->op_pmshort &&
4681           sv_eq(pm->op_pmshort,pm->op_pmregexp->regmust))
4682         {
4683             if (pm->op_pmflags & PMf_SCANFIRST) {
4684                 SvREFCNT_dec(pm->op_pmshort);
4685                 pm->op_pmshort = Nullsv;
4686             }
4687             else {
4688                 SvREFCNT_dec(pm->op_pmregexp->regmust);
4689                 pm->op_pmregexp->regmust = Nullsv;
4690                 return;
4691             }
4692         }
4693         /* promote the better string */
4694         if ((!pm->op_pmshort &&
4695              !(pm->op_pmregexp->reganch & ROPT_ANCH_GPOS)) ||
4696             ((pm->op_pmflags & PMf_SCANFIRST) &&
4697              (SvCUR(pm->op_pmshort) < SvCUR(pm->op_pmregexp->regmust)))) {
4698             SvREFCNT_dec(pm->op_pmshort);               /* ok if null */
4699             pm->op_pmshort = pm->op_pmregexp->regmust;
4700             pm->op_pmslen = SvCUR(pm->op_pmshort);
4701             pm->op_pmregexp->regmust = Nullsv;
4702             pm->op_pmflags |= PMf_SCANFIRST;
4703         }
4704     }
4705 }
4706
4707 static char *
4708 scan_trans(start)
4709 char *start;
4710 {
4711     register char* s;
4712     OP *op;
4713     short *tbl;
4714     I32 squash;
4715     I32 delete;
4716     I32 complement;
4717
4718     yylval.ival = OP_NULL;
4719
4720     s = scan_str(start);
4721     if (!s) {
4722         if (lex_stuff)
4723             SvREFCNT_dec(lex_stuff);
4724         lex_stuff = Nullsv;
4725         croak("Translation pattern not terminated");
4726     }
4727     if (s[-1] == multi_open)
4728         s--;
4729
4730     s = scan_str(s);
4731     if (!s) {
4732         if (lex_stuff)
4733             SvREFCNT_dec(lex_stuff);
4734         lex_stuff = Nullsv;
4735         if (lex_repl)
4736             SvREFCNT_dec(lex_repl);
4737         lex_repl = Nullsv;
4738         croak("Translation replacement not terminated");
4739     }
4740
4741     New(803,tbl,256,short);
4742     op = newPVOP(OP_TRANS, 0, (char*)tbl);
4743
4744     complement = delete = squash = 0;
4745     while (*s == 'c' || *s == 'd' || *s == 's') {
4746         if (*s == 'c')
4747             complement = OPpTRANS_COMPLEMENT;
4748         else if (*s == 'd')
4749             delete = OPpTRANS_DELETE;
4750         else
4751             squash = OPpTRANS_SQUASH;
4752         s++;
4753     }
4754     op->op_private = delete|squash|complement;
4755
4756     lex_op = op;
4757     yylval.ival = OP_TRANS;
4758     return s;
4759 }
4760
4761 static char *
4762 scan_heredoc(s)
4763 register char *s;
4764 {
4765     SV *herewas;
4766     I32 op_type = OP_SCALAR;
4767     I32 len;
4768     SV *tmpstr;
4769     char term;
4770     register char *d;
4771     register char *e;
4772     char *peek;
4773     int outer = (rsfp && !lex_inwhat);
4774
4775     s += 2;
4776     d = tokenbuf;
4777     e = tokenbuf + sizeof tokenbuf - 1;
4778     if (!outer)
4779         *d++ = '\n';
4780     for (peek = s; *peek == ' ' || *peek == '\t'; peek++) ;
4781     if (*peek && strchr("`'\"",*peek)) {
4782         s = peek;
4783         term = *s++;
4784         s = delimcpy(d, e, s, bufend, term, &len);
4785         d += len;
4786         if (s < bufend)
4787             s++;
4788     }
4789     else {
4790         if (*s == '\\')
4791             s++, term = '\'';
4792         else
4793             term = '"';
4794         if (!isALNUM(*s))
4795             deprecate("bare << to mean <<\"\"");
4796         for (; isALNUM(*s); s++) {
4797             if (d < e)
4798                 *d++ = *s;
4799         }
4800     }
4801     if (d >= tokenbuf + sizeof tokenbuf - 1)
4802         croak("Delimiter for here document is too long");
4803     *d++ = '\n';
4804     *d = '\0';
4805     len = d - tokenbuf;
4806     d = "\n";
4807     if (outer || !(d=ninstr(s,bufend,d,d+1)))
4808         herewas = newSVpv(s,bufend-s);
4809     else
4810         s--, herewas = newSVpv(s,d-s);
4811     s += SvCUR(herewas);
4812
4813     tmpstr = NEWSV(87,80);
4814     sv_upgrade(tmpstr, SVt_PVIV);
4815     if (term == '\'') {
4816         op_type = OP_CONST;
4817         SvIVX(tmpstr) = -1;
4818     }
4819     else if (term == '`') {
4820         op_type = OP_BACKTICK;
4821         SvIVX(tmpstr) = '\\';
4822     }
4823
4824     CLINE;
4825     multi_start = curcop->cop_line;
4826     multi_open = multi_close = '<';
4827     term = *tokenbuf;
4828     if (!outer) {
4829         d = s;
4830         while (s < bufend &&
4831           (*s != term || memNE(s,tokenbuf,len)) ) {
4832             if (*s++ == '\n')
4833                 curcop->cop_line++;
4834         }
4835         if (s >= bufend) {
4836             curcop->cop_line = multi_start;
4837             missingterm(tokenbuf);
4838         }
4839         sv_setpvn(tmpstr,d+1,s-d);
4840         s += len - 1;
4841         sv_catpvn(herewas,s,bufend-s);
4842         sv_setsv(linestr,herewas);
4843         oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
4844         bufend = SvPVX(linestr) + SvCUR(linestr);
4845     }
4846     else
4847         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
4848     while (s >= bufend) {       /* multiple line string? */
4849         if (!outer ||
4850          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4851             curcop->cop_line = multi_start;
4852             missingterm(tokenbuf);
4853         }
4854         curcop->cop_line++;
4855         if (PERLDB_LINE && curstash != debstash) {
4856             SV *sv = NEWSV(88,0);
4857
4858             sv_upgrade(sv, SVt_PVMG);
4859             sv_setsv(sv,linestr);
4860             av_store(GvAV(curcop->cop_filegv),
4861               (I32)curcop->cop_line,sv);
4862         }
4863         bufend = SvPVX(linestr) + SvCUR(linestr);
4864         if (*s == term && memEQ(s,tokenbuf,len)) {
4865             s = bufend - 1;
4866             *s = ' ';
4867             sv_catsv(linestr,herewas);
4868             bufend = SvPVX(linestr) + SvCUR(linestr);
4869         }
4870         else {
4871             s = bufend;
4872             sv_catsv(tmpstr,linestr);
4873         }
4874     }
4875     multi_end = curcop->cop_line;
4876     s++;
4877     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
4878         SvLEN_set(tmpstr, SvCUR(tmpstr) + 1);
4879         Renew(SvPVX(tmpstr), SvLEN(tmpstr), char);
4880     }
4881     SvREFCNT_dec(herewas);
4882     lex_stuff = tmpstr;
4883     yylval.ival = op_type;
4884     return s;
4885 }
4886
4887 static char *
4888 scan_inputsymbol(start)
4889 char *start;
4890 {
4891     register char *s = start;
4892     register char *d;
4893     register char *e;
4894     I32 len;
4895
4896     d = tokenbuf;
4897     e = tokenbuf + sizeof tokenbuf;
4898     s = delimcpy(d, e, s + 1, bufend, '>', &len);
4899     if (len >= sizeof tokenbuf)
4900         croak("Excessively long <> operator");
4901     if (s >= bufend)
4902         croak("Unterminated <> operator");
4903     s++;
4904     if (*d == '$' && d[1]) d++;
4905     while (*d && (isALNUM(*d) || *d == '\'' || *d == ':'))
4906         d++;
4907     if (d - tokenbuf != len) {
4908         yylval.ival = OP_GLOB;
4909         set_csh();
4910         s = scan_str(start);
4911         if (!s)
4912             croak("Glob not terminated");
4913         return s;
4914     }
4915     else {
4916         d = tokenbuf;
4917         if (!len)
4918             (void)strcpy(d,"ARGV");
4919         if (*d == '$') {
4920             I32 tmp;
4921             if (tmp = pad_findmy(d)) {
4922                 OP *op = newOP(OP_PADSV, 0);
4923                 op->op_targ = tmp;
4924                 lex_op = (OP*)newUNOP(OP_READLINE, 0, newUNOP(OP_RV2GV, 0, op));
4925             }
4926             else {
4927                 GV *gv = gv_fetchpv(d+1,TRUE, SVt_PV);
4928                 lex_op = (OP*)newUNOP(OP_READLINE, 0,
4929                                         newUNOP(OP_RV2GV, 0,
4930                                             newUNOP(OP_RV2SV, 0,
4931                                                 newGVOP(OP_GV, 0, gv))));
4932             }
4933             yylval.ival = OP_NULL;
4934         }
4935         else {
4936             GV *gv = gv_fetchpv(d,TRUE, SVt_PVIO);
4937             lex_op = (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
4938             yylval.ival = OP_NULL;
4939         }
4940     }
4941     return s;
4942 }
4943
4944 static char *
4945 scan_str(start)
4946 char *start;
4947 {
4948     SV *sv;
4949     char *tmps;
4950     register char *s = start;
4951     register char term;
4952     register char *to;
4953     I32 brackets = 1;
4954
4955     if (isSPACE(*s))
4956         s = skipspace(s);
4957     CLINE;
4958     term = *s;
4959     multi_start = curcop->cop_line;
4960     multi_open = term;
4961     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4962         term = tmps[5];
4963     multi_close = term;
4964
4965     sv = NEWSV(87,80);
4966     sv_upgrade(sv, SVt_PVIV);
4967     SvIVX(sv) = term;
4968     (void)SvPOK_only(sv);               /* validate pointer */
4969     s++;
4970     for (;;) {
4971         SvGROW(sv, SvCUR(sv) + (bufend - s) + 1);
4972         to = SvPVX(sv)+SvCUR(sv);
4973         if (multi_open == multi_close) {
4974             for (; s < bufend; s++,to++) {
4975                 if (*s == '\n' && !rsfp)
4976                     curcop->cop_line++;
4977                 if (*s == '\\' && s+1 < bufend && term != '\\') {
4978                     if (s[1] == term)
4979                         s++;
4980                     else
4981                         *to++ = *s++;
4982                 }
4983                 else if (*s == term)
4984                     break;
4985                 *to = *s;
4986             }
4987         }
4988         else {
4989             for (; s < bufend; s++,to++) {
4990                 if (*s == '\n' && !rsfp)
4991                     curcop->cop_line++;
4992                 if (*s == '\\' && s+1 < bufend) {
4993                     if ((s[1] == multi_open) || (s[1] == multi_close))
4994                         s++;
4995                     else
4996                         *to++ = *s++;
4997                 }
4998                 else if (*s == multi_close && --brackets <= 0)
4999                     break;
5000                 else if (*s == multi_open)
5001                     brackets++;
5002                 *to = *s;
5003             }
5004         }
5005         *to = '\0';
5006         SvCUR_set(sv, to - SvPVX(sv));
5007
5008     if (s < bufend) break;      /* string ends on this line? */
5009
5010         if (!rsfp ||
5011          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
5012             sv_free(sv);
5013             curcop->cop_line = multi_start;
5014             return Nullch;
5015         }
5016         curcop->cop_line++;
5017         if (PERLDB_LINE && curstash != debstash) {
5018             SV *sv = NEWSV(88,0);
5019
5020             sv_upgrade(sv, SVt_PVMG);
5021             sv_setsv(sv,linestr);
5022             av_store(GvAV(curcop->cop_filegv),
5023               (I32)curcop->cop_line, sv);
5024         }
5025         bufend = SvPVX(linestr) + SvCUR(linestr);
5026     }
5027     multi_end = curcop->cop_line;
5028     s++;
5029     if (SvCUR(sv) + 5 < SvLEN(sv)) {
5030         SvLEN_set(sv, SvCUR(sv) + 1);
5031         Renew(SvPVX(sv), SvLEN(sv), char);
5032     }
5033     if (lex_stuff)
5034         lex_repl = sv;
5035     else
5036         lex_stuff = sv;
5037     return s;
5038 }
5039
5040 char *
5041 scan_num(start)
5042 char *start;
5043 {
5044     register char *s = start;
5045     register char *d;
5046     register char *e;
5047     I32 tryiv;
5048     double value;
5049     SV *sv;
5050     I32 floatit;
5051     char *lastub = 0;
5052     static char number_too_long[] = "Number too long";
5053
5054     switch (*s) {
5055     default:
5056         croak("panic: scan_num");
5057     case '0':
5058         {
5059             UV u;
5060             I32 shift;
5061             bool overflowed = FALSE;
5062
5063             if (s[1] == 'x') {
5064                 shift = 4;
5065                 s += 2;
5066             }
5067             else if (s[1] == '.')
5068                 goto decimal;
5069             else
5070                 shift = 3;
5071             u = 0;
5072             for (;;) {
5073                 UV n, b;
5074
5075                 switch (*s) {
5076                 default:
5077                     goto out;
5078                 case '_':
5079                     s++;
5080                     break;
5081                 case '8': case '9':
5082                     if (shift != 4)
5083                         yyerror("Illegal octal digit");
5084                     /* FALL THROUGH */
5085                 case '0': case '1': case '2': case '3': case '4':
5086                 case '5': case '6': case '7':
5087                     b = *s++ & 15;
5088                     goto digit;
5089                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
5090                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
5091                     if (shift != 4)
5092                         goto out;
5093                     b = (*s++ & 7) + 9;
5094                   digit:
5095                     n = u << shift;
5096                     if (!overflowed && (n >> shift) != u) {
5097                         warn("Integer overflow in %s number",
5098                              (shift == 4) ? "hex" : "octal");
5099                         overflowed = TRUE;
5100                     }
5101                     u = n | b;
5102                     break;
5103                 }
5104             }
5105           out:
5106             sv = NEWSV(92,0);
5107             sv_setuv(sv, u);
5108         }
5109         break;
5110     case '1': case '2': case '3': case '4': case '5':
5111     case '6': case '7': case '8': case '9': case '.':
5112       decimal:
5113         d = tokenbuf;
5114         e = tokenbuf + sizeof tokenbuf - 6; /* room for various punctuation */
5115         floatit = FALSE;
5116         while (isDIGIT(*s) || *s == '_') {
5117             if (*s == '_') {
5118                 if (dowarn && lastub && s - lastub != 3)
5119                     warn("Misplaced _ in number");
5120                 lastub = ++s;
5121             }
5122             else {
5123                 if (d >= e)
5124                     croak(number_too_long);
5125                 *d++ = *s++;
5126             }
5127         }
5128         if (dowarn && lastub && s - lastub != 3)
5129             warn("Misplaced _ in number");
5130         if (*s == '.' && s[1] != '.') {
5131             floatit = TRUE;
5132             *d++ = *s++;
5133             for (; isDIGIT(*s) || *s == '_'; s++) {
5134                 if (d >= e)
5135                     croak(number_too_long);
5136                 if (*s != '_')
5137                     *d++ = *s;
5138             }
5139         }
5140         if (*s && strchr("eE",*s) && strchr("+-0123456789",s[1])) {
5141             floatit = TRUE;
5142             s++;
5143             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
5144             if (*s == '+' || *s == '-')
5145                 *d++ = *s++;
5146             while (isDIGIT(*s)) {
5147                 if (d >= e)
5148                     croak(number_too_long);
5149                 *d++ = *s++;
5150             }
5151         }
5152         *d = '\0';
5153         sv = NEWSV(92,0);
5154         SET_NUMERIC_STANDARD();
5155         value = atof(tokenbuf);
5156         tryiv = I_V(value);
5157         if (!floatit && (double)tryiv == value)
5158             sv_setiv(sv, tryiv);
5159         else
5160             sv_setnv(sv, value);
5161         break;
5162     }
5163
5164     yylval.opval = newSVOP(OP_CONST, 0, sv);
5165
5166     return s;
5167 }
5168
5169 static char *
5170 scan_formline(s)
5171 register char *s;
5172 {
5173     register char *eol;
5174     register char *t;
5175     SV *stuff = newSVpv("",0);
5176     bool needargs = FALSE;
5177
5178     while (!needargs) {
5179         if (*s == '.' || *s == '}') {
5180             /*SUPPRESS 530*/
5181             for (t = s+1; *t == ' ' || *t == '\t'; t++) ;
5182             if (*t == '\n')
5183                 break;
5184         }
5185         if (in_eval && !rsfp) {
5186             eol = strchr(s,'\n');
5187             if (!eol++)
5188                 eol = bufend;
5189         }
5190         else
5191             eol = bufend = SvPVX(linestr) + SvCUR(linestr);
5192         if (*s != '#') {
5193             for (t = s; t < eol; t++) {
5194                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
5195                     needargs = FALSE;
5196                     goto enough;        /* ~~ must be first line in formline */
5197                 }
5198                 if (*t == '@' || *t == '^')
5199                     needargs = TRUE;
5200             }
5201             sv_catpvn(stuff, s, eol-s);
5202         }
5203         s = eol;
5204         if (rsfp) {
5205             s = filter_gets(linestr, rsfp, 0);
5206             oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
5207             bufend = bufptr + SvCUR(linestr);
5208             if (!s) {
5209                 s = bufptr;
5210                 yyerror("Format not terminated");
5211                 break;
5212             }
5213         }
5214         incline(s);
5215     }
5216   enough:
5217     if (SvCUR(stuff)) {
5218         expect = XTERM;
5219         if (needargs) {
5220             lex_state = LEX_NORMAL;
5221             nextval[nexttoke].ival = 0;
5222             force_next(',');
5223         }
5224         else
5225             lex_state = LEX_FORMLINE;
5226         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, stuff);
5227         force_next(THING);
5228         nextval[nexttoke].ival = OP_FORMLINE;
5229         force_next(LSTOP);
5230     }
5231     else {
5232         SvREFCNT_dec(stuff);
5233         lex_formbrack = 0;
5234         bufptr = s;
5235     }
5236     return s;
5237 }
5238
5239 static void
5240 set_csh()
5241 {
5242 #ifdef CSH
5243     if (!cshlen)
5244         cshlen = strlen(cshname);
5245 #endif
5246 }
5247
5248 I32
5249 start_subparse(is_format, flags)
5250 I32 is_format;
5251 U32 flags;
5252 {
5253     I32 oldsavestack_ix = savestack_ix;
5254     CV* outsidecv = compcv;
5255     AV* comppadlist;
5256
5257     if (compcv) {
5258         assert(SvTYPE(compcv) == SVt_PVCV);
5259     }
5260     save_I32(&subline);
5261     save_item(subname);
5262     SAVEI32(padix);
5263     SAVESPTR(curpad);
5264     SAVESPTR(comppad);
5265     SAVESPTR(comppad_name);
5266     SAVESPTR(compcv);
5267     SAVEI32(comppad_name_fill);
5268     SAVEI32(min_intro_pending);
5269     SAVEI32(max_intro_pending);
5270     SAVEI32(pad_reset_pending);
5271
5272     compcv = (CV*)NEWSV(1104,0);
5273     sv_upgrade((SV *)compcv, is_format ? SVt_PVFM : SVt_PVCV);
5274     CvFLAGS(compcv) |= flags;
5275
5276     comppad = newAV();
5277     comppad_name = newAV();
5278     comppad_name_fill = 0;
5279     min_intro_pending = 0;
5280     av_push(comppad, Nullsv);
5281     curpad = AvARRAY(comppad);
5282     padix = 0;
5283     subline = curcop->cop_line;
5284
5285     comppadlist = newAV();
5286     AvREAL_off(comppadlist);
5287     av_store(comppadlist, 0, (SV*)comppad_name);
5288     av_store(comppadlist, 1, (SV*)comppad);
5289
5290     CvPADLIST(compcv) = comppadlist;
5291     CvOUTSIDE(compcv) = (CV*)SvREFCNT_inc((SV*)outsidecv);
5292
5293     return oldsavestack_ix;
5294 }
5295
5296 int
5297 yywarn(s)
5298 char *s;
5299 {
5300     --error_count;
5301     in_eval |= 2;
5302     yyerror(s);
5303     in_eval &= ~2;
5304     return 0;
5305 }
5306
5307 int
5308 yyerror(s)
5309 char *s;
5310 {
5311     char *where = NULL;
5312     char *context = NULL;
5313     int contlen = -1;
5314     SV *msg;
5315
5316     if (!yychar || (yychar == ';' && !rsfp))
5317         where = "at EOF";
5318     else if (bufptr > oldoldbufptr && bufptr - oldoldbufptr < 200 &&
5319       oldoldbufptr != oldbufptr && oldbufptr != bufptr) {
5320         while (isSPACE(*oldoldbufptr))
5321             oldoldbufptr++;
5322         context = oldoldbufptr;
5323         contlen = bufptr - oldoldbufptr;
5324     }
5325     else if (bufptr > oldbufptr && bufptr - oldbufptr < 200 &&
5326       oldbufptr != bufptr) {
5327         while (isSPACE(*oldbufptr))
5328             oldbufptr++;
5329         context = oldbufptr;
5330         contlen = bufptr - oldbufptr;
5331     }
5332     else if (yychar > 255)
5333         where = "next token ???";
5334     else if ((yychar & 127) == 127) {
5335         if (lex_state == LEX_NORMAL ||
5336            (lex_state == LEX_KNOWNEXT && lex_defer == LEX_NORMAL))
5337             where = "at end of line";
5338         else if (lex_inpat)
5339             where = "within pattern";
5340         else
5341             where = "within string";
5342     }
5343     else {
5344         SV *where_sv = sv_2mortal(newSVpv("next char ", 0));
5345         if (yychar < 32)
5346             sv_catpvf(where_sv, "^%c", toCTRL(yychar));
5347         else if (isPRINT_LC(yychar))
5348             sv_catpvf(where_sv, "%c", yychar);
5349         else
5350             sv_catpvf(where_sv, "\\%03o", yychar & 255);
5351         where = SvPVX(where_sv);
5352     }
5353     msg = sv_2mortal(newSVpv(s, 0));
5354     sv_catpvf(msg, " at %_ line %ld, ",
5355               GvSV(curcop->cop_filegv), (long)curcop->cop_line);
5356     if (context)
5357         sv_catpvf(msg, "near \"%.*s\"\n", contlen, context);
5358     else
5359         sv_catpvf(msg, "%s\n", where);
5360     if (multi_start < multi_end && (U32)(curcop->cop_line - multi_end) <= 1) {
5361         sv_catpvf(msg,
5362         "  (Might be a runaway multi-line %c%c string starting on line %ld)\n",
5363                 (int)multi_open,(int)multi_close,(long)multi_start);
5364         multi_end = 0;
5365     }
5366     if (in_eval & 2)
5367         warn("%_", msg);
5368     else if (in_eval)
5369         sv_catsv(GvSV(errgv), msg);
5370     else
5371         PerlIO_write(PerlIO_stderr(), SvPVX(msg), SvCUR(msg));
5372     if (++error_count >= 10)
5373         croak("%_ has too many errors.\n", GvSV(curcop->cop_filegv));
5374     in_my = 0;
5375     return 0;
5376 }