toke.c

   1 /*    toke.c
   2  *
   3  *    Copyright (c) 1991-1997, Larry Wall
   4  *
   5  *    You may distribute under the terms of either the GNU General Public
   6  *    License or the Artistic License, as specified in the README file.
   7  *
   8  */
   9
  10 /*
  11  *   "It all comes from here, the stench and the peril."  --Frodo
  12  */
  13
  14 #include "EXTERN.h"
  15 #include "perl.h"
  16
  17 static void check_uni _((void));
  18 static void  force_next _((I32 type));
  19 static char *force_version _((char *start));
  20 static char *force_word _((char *start, int token, int check_keyword, int allow_pack, int allow_tick));
  21 static SV *q _((SV *sv));
  22 static char *scan_const _((char *start));
  23 static char *scan_formline _((char *s));
  24 static char *scan_heredoc _((char *s));
  25 static char *scan_ident _((char *s, char *send, char *dest, STRLEN destlen,
  26                            I32 ck_uni));
  27 static char *scan_inputsymbol _((char *start));
  28 static char *scan_pat _((char *start));
  29 static char *scan_str _((char *start));
  30 static char *scan_subst _((char *start));
  31 static char *scan_trans _((char *start));
  32 static char *scan_word _((char *s, char *dest, STRLEN destlen,
  33                           int allow_package, STRLEN *slp));
  34 static char *skipspace _((char *s));
  35 static void checkcomma _((char *s, char *name, char *what));
  36 static void force_ident _((char *s, int kind));
  37 static void incline _((char *s));
  38 static int intuit_method _((char *s, GV *gv));
  39 static int intuit_more _((char *s));
  40 static I32 lop _((I32 f, expectation x, char *s));
  41 static void missingterm _((char *s));
  42 static void no_op _((char *what, char *s));
  43 static void set_csh _((void));
  44 static I32 sublex_done _((void));
  45 static I32 sublex_push _((void));
  46 static I32 sublex_start _((void));
  47 #ifdef CRIPPLED_CC
  48 static int uni _((I32 f, char *s));
  49 #endif
  50 static char * filter_gets _((SV *sv, PerlIO *fp, STRLEN append));
  51 static void restore_rsfp _((void *f));
  52
  53 static char ident_too_long[] = "Identifier too long";
  54
  55 static char *linestart;         /* beg. of most recently read line */
  56
  57 static char pending_ident;      /* pending identifier lookup */
  58
  59 static struct {
  60     I32 super_state;    /* lexer state to save */
  61     I32 sub_inwhat;     /* "lex_inwhat" to use */
  62     OP *sub_op;         /* "lex_op" to use */
  63 } sublex_info;
  64
  65 /* The following are arranged oddly so that the guard on the switch statement
  66  * can get by with a single comparison (if the compiler is smart enough).
  67  */
  68
  69 /* #define LEX_NOTPARSING               11 is done in perl.h. */
  70
  71 #define LEX_NORMAL              10
  72 #define LEX_INTERPNORMAL         9
  73 #define LEX_INTERPCASEMOD        8
  74 #define LEX_INTERPPUSH           7
  75 #define LEX_INTERPSTART          6
  76 #define LEX_INTERPEND            5
  77 #define LEX_INTERPENDMAYBE       4
  78 #define LEX_INTERPCONCAT         3
  79 #define LEX_INTERPCONST          2
  80 #define LEX_FORMLINE             1
  81 #define LEX_KNOWNEXT             0
  82
  83 #ifdef I_FCNTL
  84 #include <fcntl.h>
  85 #endif
  86 #ifdef I_SYS_FILE
  87 #include <sys/file.h>
  88 #endif
  89
  90 /* XXX If this causes problems, set i_unistd=undef in the hint file.  */
  91 #ifdef I_UNISTD
  92 #  include <unistd.h> /* Needed for execv() */
  93 #endif
  94
  95
  96 #ifdef ff_next
  97 #undef ff_next
  98 #endif
  99
 100 #include "keywords.h"
 101
 102 #ifdef CLINE
 103 #undef CLINE
 104 #endif
 105 #define CLINE (copline = (curcop->cop_line < copline ? curcop->cop_line : copline))
 106
 107 #define TOKEN(retval) return (bufptr = s,(int)retval)
 108 #define OPERATOR(retval) return (expect = XTERM,bufptr = s,(int)retval)
 109 #define AOPERATOR(retval) return ao((expect = XTERM,bufptr = s,(int)retval))
 110 #define PREBLOCK(retval) return (expect = XBLOCK,bufptr = s,(int)retval)
 111 #define PRETERMBLOCK(retval) return (expect = XTERMBLOCK,bufptr = s,(int)retval)
 112 #define PREREF(retval) return (expect = XREF,bufptr = s,(int)retval)
 113 #define TERM(retval) return (CLINE, expect = XOPERATOR,bufptr = s,(int)retval)
 114 #define LOOPX(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LOOPEX)
 115 #define FTST(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)UNIOP)
 116 #define FUN0(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC0)
 117 #define FUN1(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC1)
 118 #define BOop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITOROP))
 119 #define BAop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITANDOP))
 120 #define SHop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)SHIFTOP))
 121 #define PWop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)POWOP))
 122 #define PMop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)MATCHOP)
 123 #define Aop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)ADDOP))
 124 #define Mop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)MULOP))
 125 #define Eop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)EQOP)
 126 #define Rop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)RELOP)
 127
 128 /* This bit of chicanery makes a unary function followed by
 129  * a parenthesis into a function with one argument, highest precedence.
 130  */
 131 #define UNI(f) return(yylval.ival = f, \
 132         expect = XTERM, \
 133         bufptr = s, \
 134         last_uni = oldbufptr, \
 135         last_lop_op = f, \
 136         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 137
 138 #define UNIBRACK(f) return(yylval.ival = f, \
 139         bufptr = s, \
 140         last_uni = oldbufptr, \
 141         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 142
 143 /* grandfather return to old style */
 144 #define OLDLOP(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LSTOP)
 145
 146 static int
 147 ao(toketype)
 148 int toketype;
 149 {
 150     if (*bufptr == '=') {
 151         bufptr++;
 152         if (toketype == ANDAND)
 153             yylval.ival = OP_ANDASSIGN;
 154         else if (toketype == OROR)
 155             yylval.ival = OP_ORASSIGN;
 156         toketype = ASSIGNOP;
 157     }
 158     return toketype;
 159 }
 160
 161 static void
 162 no_op(what, s)
 163 char *what;
 164 char *s;
 165 {
 166     char *oldbp = bufptr;
 167     bool is_first = (oldbufptr == linestart);
 168
 169     bufptr = s;
 170     yywarn(form("%s found where operator expected", what));
 171     if (is_first)
 172         warn("\t(Missing semicolon on previous line?)\n");
 173     else if (oldoldbufptr && isIDFIRST(*oldoldbufptr)) {
 174         char *t;
 175         for (t = oldoldbufptr; *t && (isALNUM(*t) || *t == ':'); t++) ;
 176         if (t < bufptr && isSPACE(*t))
 177             warn("\t(Do you need to predeclare %.*s?)\n",
 178                 t - oldoldbufptr, oldoldbufptr);
 179
 180     }
 181     else
 182         warn("\t(Missing operator before %.*s?)\n", s - oldbp, oldbp);
 183     bufptr = oldbp;
 184 }
 185
 186 static void
 187 missingterm(s)
 188 char *s;
 189 {
 190     char tmpbuf[3];
 191     char q;
 192     if (s) {
 193         char *nl = strrchr(s,'\n');
 194         if (nl)
 195             *nl = '\0';
 196     }
 197     else if (multi_close < 32 || multi_close == 127) {
 198         *tmpbuf = '^';
 199         tmpbuf[1] = toCTRL(multi_close);
 200         s = "\\n";
 201         tmpbuf[2] = '\0';
 202         s = tmpbuf;
 203     }
 204     else {
 205         *tmpbuf = multi_close;
 206         tmpbuf[1] = '\0';
 207         s = tmpbuf;
 208     }
 209     q = strchr(s,'"') ? '\'' : '"';
 210     croak("Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
 211 }
 212
 213 void
 214 deprecate(s)
 215 char *s;
 216 {
 217     if (dowarn)
 218         warn("Use of %s is deprecated", s);
 219 }
 220
 221 static void
 222 depcom()
 223 {
 224     deprecate("comma-less variable list");
 225 }
 226
 227 void
 228 lex_start(line)
 229 SV *line;
 230 {
 231     dTHR;
 232     char *s;
 233     STRLEN len;
 234
 235     SAVEI32(lex_dojoin);
 236     SAVEI32(lex_brackets);
 237     SAVEI32(lex_fakebrack);
 238     SAVEI32(lex_casemods);
 239     SAVEI32(lex_starts);
 240     SAVEI32(lex_state);
 241     SAVESPTR(lex_inpat);
 242     SAVEI32(lex_inwhat);
 243     SAVEI16(curcop->cop_line);
 244     SAVEPPTR(bufptr);
 245     SAVEPPTR(bufend);
 246     SAVEPPTR(oldbufptr);
 247     SAVEPPTR(oldoldbufptr);
 248     SAVEPPTR(linestart);
 249     SAVESPTR(linestr);
 250     SAVEPPTR(lex_brackstack);
 251     SAVEPPTR(lex_casestack);
 252     SAVEDESTRUCTOR(restore_rsfp, rsfp);
 253
 254     lex_state = LEX_NORMAL;
 255     lex_defer = 0;
 256     expect = XSTATE;
 257     lex_brackets = 0;
 258     lex_fakebrack = 0;
 259     New(899, lex_brackstack, 120, char);
 260     New(899, lex_casestack, 12, char);
 261     SAVEFREEPV(lex_brackstack);
 262     SAVEFREEPV(lex_casestack);
 263     lex_casemods = 0;
 264     *lex_casestack = '\0';
 265     lex_dojoin = 0;
 266     lex_starts = 0;
 267     if (lex_stuff)
 268         SvREFCNT_dec(lex_stuff);
 269     lex_stuff = Nullsv;
 270     if (lex_repl)
 271         SvREFCNT_dec(lex_repl);
 272     lex_repl = Nullsv;
 273     lex_inpat = 0;
 274     lex_inwhat = 0;
 275     linestr = line;
 276     if (SvREADONLY(linestr))
 277         linestr = sv_2mortal(newSVsv(linestr));
 278     s = SvPV(linestr, len);
 279     if (len && s[len-1] != ';') {
 280         if (!(SvFLAGS(linestr) & SVs_TEMP))
 281             linestr = sv_2mortal(newSVsv(linestr));
 282         sv_catpvn(linestr, "\n;", 2);
 283     }
 284     SvTEMP_off(linestr);
 285     oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
 286     bufend = bufptr + SvCUR(linestr);
 287     SvREFCNT_dec(rs);
 288     rs = newSVpv("\n", 1);
 289     rsfp = 0;
 290 }
 291
 292 void
 293 lex_end()
 294 {
 295     doextract = FALSE;
 296 }
 297
 298 static void
 299 restore_rsfp(f)
 300 void *f;
 301 {
 302     PerlIO *fp = (PerlIO*)f;
 303
 304     if (rsfp == PerlIO_stdin())
 305         PerlIO_clearerr(rsfp);
 306     else if (rsfp && (rsfp != fp))
 307         PerlIO_close(rsfp);
 308     rsfp = fp;
 309 }
 310
 311 static void
 312 incline(s)
 313 char *s;
 314 {
 315     dTHR;
 316     char *t;
 317     char *n;
 318     char ch;
 319     int sawline = 0;
 320
 321     curcop->cop_line++;
 322     if (*s++ != '#')
 323         return;
 324     while (*s == ' ' || *s == '\t') s++;
 325     if (strnEQ(s, "line ", 5)) {
 326         s += 5;
 327         sawline = 1;
 328     }
 329     if (!isDIGIT(*s))
 330         return;
 331     n = s;
 332     while (isDIGIT(*s))
 333         s++;
 334     while (*s == ' ' || *s == '\t')
 335         s++;
 336     if (*s == '"' && (t = strchr(s+1, '"')))
 337         s++;
 338     else {
 339         if (!sawline)
 340             return;             /* false alarm */
 341         for (t = s; !isSPACE(*t); t++) ;
 342     }
 343     ch = *t;
 344     *t = '\0';
 345     if (t - s > 0)
 346         curcop->cop_filegv = gv_fetchfile(s);
 347     else
 348         curcop->cop_filegv = gv_fetchfile(origfilename);
 349     *t = ch;
 350     curcop->cop_line = atoi(n)-1;
 351 }
 352
 353 static char *
 354 skipspace(s)
 355 register char *s;
 356 {
 357     dTHR;
 358     if (lex_formbrack && lex_brackets <= lex_formbrack) {
 359         while (s < bufend && (*s == ' ' || *s == '\t'))
 360             s++;
 361         return s;
 362     }
 363     for (;;) {
 364         STRLEN prevlen;
 365         while (s < bufend && isSPACE(*s))
 366             s++;
 367         if (s < bufend && *s == '#') {
 368             while (s < bufend && *s != '\n')
 369                 s++;
 370             if (s < bufend)
 371                 s++;
 372         }
 373         if (s < bufend || !rsfp || lex_state != LEX_NORMAL)
 374             return s;
 375         if ((s = filter_gets(linestr, rsfp, (prevlen = SvCUR(linestr)))) == Nullch) {
 376             if (minus_n || minus_p) {
 377                 sv_setpv(linestr,minus_p ?
 378                          ";}continue{print or die qq(-p destination: $!\\n)" :
 379                          "");
 380                 sv_catpv(linestr,";}");
 381                 minus_n = minus_p = 0;
 382             }
 383             else
 384                 sv_setpv(linestr,";");
 385             oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
 386             bufend = SvPVX(linestr) + SvCUR(linestr);
 387             if (preprocess && !in_eval)
 388                 (void)my_pclose(rsfp);
 389             else if ((PerlIO*)rsfp == PerlIO_stdin())
 390                 PerlIO_clearerr(rsfp);
 391             else
 392                 (void)PerlIO_close(rsfp);
 393             if (e_fp == rsfp)
 394                 e_fp = Nullfp;
 395             rsfp = Nullfp;
 396             return s;
 397         }
 398         linestart = bufptr = s + prevlen;
 399         bufend = s + SvCUR(linestr);
 400         s = bufptr;
 401         incline(s);
 402         if (PERLDB_LINE && curstash != debstash) {
 403             SV *sv = NEWSV(85,0);
 404
 405             sv_upgrade(sv, SVt_PVMG);
 406             sv_setpvn(sv,bufptr,bufend-bufptr);
 407             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
 408         }
 409     }
 410 }
 411
 412 static void
 413 check_uni() {
 414     char *s;
 415     char ch;
 416     char *t;
 417
 418     if (oldoldbufptr != last_uni)
 419         return;
 420     while (isSPACE(*last_uni))
 421         last_uni++;
 422     for (s = last_uni; isALNUM(*s) || *s == '-'; s++) ;
 423     if ((t = strchr(s, '(')) && t < bufptr)
 424         return;
 425     ch = *s;
 426     *s = '\0';
 427     warn("Warning: Use of \"%s\" without parens is ambiguous", last_uni);
 428     *s = ch;
 429 }
 430
 431 #ifdef CRIPPLED_CC
 432
 433 #undef UNI
 434 #define UNI(f) return uni(f,s)
 435
 436 static int
 437 uni(f,s)
 438 I32 f;
 439 char *s;
 440 {
 441     yylval.ival = f;
 442     expect = XTERM;
 443     bufptr = s;
 444     last_uni = oldbufptr;
 445     last_lop_op = f;
 446     if (*s == '(')
 447         return FUNC1;
 448     s = skipspace(s);
 449     if (*s == '(')
 450         return FUNC1;
 451     else
 452         return UNIOP;
 453 }
 454
 455 #endif /* CRIPPLED_CC */
 456
 457 #define LOP(f,x) return lop(f,x,s)
 458
 459 static I32
 460 lop
 461 #ifdef CAN_PROTOTYPE
 462    (I32 f, expectation x, char *s)
 463 #else
 464    (f,x,s)
 465 I32 f;
 466 expectation x;
 467 char *s;
 468 #endif /* CAN_PROTOTYPE */
 469 {
 470     dTHR;
 471     yylval.ival = f;
 472     CLINE;
 473     expect = x;
 474     bufptr = s;
 475     last_lop = oldbufptr;
 476     last_lop_op = f;
 477     if (nexttoke)
 478         return LSTOP;
 479     if (*s == '(')
 480         return FUNC;
 481     s = skipspace(s);
 482     if (*s == '(')
 483         return FUNC;
 484     else
 485         return LSTOP;
 486 }
 487
 488 static void
 489 force_next(type)
 490 I32 type;
 491 {
 492     nexttype[nexttoke] = type;
 493     nexttoke++;
 494     if (lex_state != LEX_KNOWNEXT) {
 495         lex_defer = lex_state;
 496         lex_expect = expect;
 497         lex_state = LEX_KNOWNEXT;
 498     }
 499 }
 500
 501 static char *
 502 force_word(start,token,check_keyword,allow_pack,allow_tick)
 503 register char *start;
 504 int token;
 505 int check_keyword;
 506 int allow_pack;
 507 int allow_tick;
 508 {
 509     register char *s;
 510     STRLEN len;
 511
 512     start = skipspace(start);
 513     s = start;
 514     if (isIDFIRST(*s) ||
 515         (allow_pack && *s == ':') ||
 516         (allow_tick && *s == '\'') )
 517     {
 518         s = scan_word(s, tokenbuf, sizeof tokenbuf, allow_pack, &len);
 519         if (check_keyword && keyword(tokenbuf, len))
 520             return start;
 521         if (token == METHOD) {
 522             s = skipspace(s);
 523             if (*s == '(')
 524                 expect = XTERM;
 525             else {
 526                 expect = XOPERATOR;
 527                 force_next(')');
 528                 force_next('(');
 529             }
 530         }
 531         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST,0, newSVpv(tokenbuf,0));
 532         nextval[nexttoke].opval->op_private |= OPpCONST_BARE;
 533         force_next(token);
 534     }
 535     return s;
 536 }
 537
 538 static void
 539 force_ident(s, kind)
 540 register char *s;
 541 int kind;
 542 {
 543     if (s && *s) {
 544         OP* o = (OP*)newSVOP(OP_CONST, 0, newSVpv(s,0));
 545         nextval[nexttoke].opval = o;
 546         force_next(WORD);
 547         if (kind) {
 548             dTHR;               /* just for in_eval */
 549             o->op_private = OPpCONST_ENTERED;
 550             /* XXX see note in pp_entereval() for why we forgo typo
 551                warnings if the symbol must be introduced in an eval.
 552                GSAR 96-10-12 */
 553             gv_fetchpv(s, in_eval ? GV_ADDMULTI : TRUE,
 554                 kind == '$' ? SVt_PV :
 555                 kind == '@' ? SVt_PVAV :
 556                 kind == '%' ? SVt_PVHV :
 557                               SVt_PVGV
 558                 );
 559         }
 560     }
 561 }
 562
 563 static char *
 564 force_version(s)
 565 char *s;
 566 {
 567     OP *version = Nullop;
 568
 569     s = skipspace(s);
 570
 571     /* default VERSION number -- GBARR */
 572
 573     if(isDIGIT(*s)) {
 574         char *d;
 575         int c;
 576         for( d=s, c = 1; isDIGIT(*d) || *d == '_' || (*d == '.' && c--); d++);
 577         if((*d == ';' || isSPACE(*d)) && *(skipspace(d)) != ',') {
 578             s = scan_num(s);
 579             /* real VERSION number -- GBARR */
 580             version = yylval.opval;
 581         }
 582     }
 583
 584     /* NOTE: The parser sees the package name and the VERSION swapped */
 585     nextval[nexttoke].opval = version;
 586     force_next(WORD);
 587
 588     return (s);
 589 }
 590
 591 static SV *
 592 q(sv)
 593 SV *sv;
 594 {
 595     register char *s;
 596     register char *send;
 597     register char *d;
 598     STRLEN len;
 599
 600     if (!SvLEN(sv))
 601         return sv;
 602
 603     s = SvPV_force(sv, len);
 604     if (SvIVX(sv) == -1)
 605         return sv;
 606     send = s + len;
 607     while (s < send && *s != '\\')
 608         s++;
 609     if (s == send)
 610         return sv;
 611     d = s;
 612     while (s < send) {
 613         if (*s == '\\') {
 614             if (s + 1 < send && (s[1] == '\\'))
 615                 s++;            /* all that, just for this */
 616         }
 617         *d++ = *s++;
 618     }
 619     *d = '\0';
 620     SvCUR_set(sv, d - SvPVX(sv));
 621
 622     return sv;
 623 }
 624
 625 static I32
 626 sublex_start()
 627 {
 628     register I32 op_type = yylval.ival;
 629
 630     if (op_type == OP_NULL) {
 631         yylval.opval = lex_op;
 632         lex_op = Nullop;
 633         return THING;
 634     }
 635     if (op_type == OP_CONST || op_type == OP_READLINE) {
 636         SV *sv = q(lex_stuff);
 637         STRLEN len;
 638         char *p = SvPV(sv, len);
 639         yylval.opval = (OP*)newSVOP(op_type, 0, newSVpv(p, len));
 640         SvREFCNT_dec(sv);
 641         lex_stuff = Nullsv;
 642         return THING;
 643     }
 644
 645     sublex_info.super_state = lex_state;
 646     sublex_info.sub_inwhat = op_type;
 647     sublex_info.sub_op = lex_op;
 648     lex_state = LEX_INTERPPUSH;
 649
 650     expect = XTERM;
 651     if (lex_op) {
 652         yylval.opval = lex_op;
 653         lex_op = Nullop;
 654         return PMFUNC;
 655     }
 656     else
 657         return FUNC;
 658 }
 659
 660 static I32
 661 sublex_push()
 662 {
 663     dTHR;
 664     push_scope();
 665
 666     lex_state = sublex_info.super_state;
 667     SAVEI32(lex_dojoin);
 668     SAVEI32(lex_brackets);
 669     SAVEI32(lex_fakebrack);
 670     SAVEI32(lex_casemods);
 671     SAVEI32(lex_starts);
 672     SAVEI32(lex_state);
 673     SAVESPTR(lex_inpat);
 674     SAVEI32(lex_inwhat);
 675     SAVEI16(curcop->cop_line);
 676     SAVEPPTR(bufptr);
 677     SAVEPPTR(oldbufptr);
 678     SAVEPPTR(oldoldbufptr);
 679     SAVEPPTR(linestart);
 680     SAVESPTR(linestr);
 681     SAVEPPTR(lex_brackstack);
 682     SAVEPPTR(lex_casestack);
 683
 684     linestr = lex_stuff;
 685     lex_stuff = Nullsv;
 686
 687     bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 688     bufend += SvCUR(linestr);
 689     SAVEFREESV(linestr);
 690
 691     lex_dojoin = FALSE;
 692     lex_brackets = 0;
 693     lex_fakebrack = 0;
 694     New(899, lex_brackstack, 120, char);
 695     New(899, lex_casestack, 12, char);
 696     SAVEFREEPV(lex_brackstack);
 697     SAVEFREEPV(lex_casestack);
 698     lex_casemods = 0;
 699     *lex_casestack = '\0';
 700     lex_starts = 0;
 701     lex_state = LEX_INTERPCONCAT;
 702     curcop->cop_line = multi_start;
 703
 704     lex_inwhat = sublex_info.sub_inwhat;
 705     if (lex_inwhat == OP_MATCH || lex_inwhat == OP_SUBST)
 706         lex_inpat = sublex_info.sub_op;
 707     else
 708         lex_inpat = Nullop;
 709
 710     return '(';
 711 }
 712
 713 static I32
 714 sublex_done()
 715 {
 716     if (!lex_starts++) {
 717         expect = XOPERATOR;
 718         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv("",0));
 719         return THING;
 720     }
 721
 722     if (lex_casemods) {         /* oops, we've got some unbalanced parens */
 723         lex_state = LEX_INTERPCASEMOD;
 724         return yylex();
 725     }
 726
 727     /* Is there a right-hand side to take care of? */
 728     if (lex_repl && (lex_inwhat == OP_SUBST || lex_inwhat == OP_TRANS)) {
 729         linestr = lex_repl;
 730         lex_inpat = 0;
 731         bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 732         bufend += SvCUR(linestr);
 733         SAVEFREESV(linestr);
 734         lex_dojoin = FALSE;
 735         lex_brackets = 0;
 736         lex_fakebrack = 0;
 737         lex_casemods = 0;
 738         *lex_casestack = '\0';
 739         lex_starts = 0;
 740         if (SvCOMPILED(lex_repl)) {
 741             lex_state = LEX_INTERPNORMAL;
 742             lex_starts++;
 743         }
 744         else
 745             lex_state = LEX_INTERPCONCAT;
 746         lex_repl = Nullsv;
 747         return ',';
 748     }
 749     else {
 750         pop_scope();
 751         bufend = SvPVX(linestr);
 752         bufend += SvCUR(linestr);
 753         expect = XOPERATOR;
 754         return ')';
 755     }
 756 }
 757
 758 static char *
 759 scan_const(start)
 760 char *start;
 761 {
 762     register char *send = bufend;
 763     SV *sv = NEWSV(93, send - start);
 764     register char *s = start;
 765     register char *d = SvPVX(sv);
 766     bool dorange = FALSE;
 767     I32 len;
 768     char *leaveit =
 769         lex_inpat
 770             ? "\\.^$@AGZdDwWsSbB+*?|()-nrtfeaxc0123456789[{]} \t\n\r\f\v#"
 771             : (lex_inwhat & OP_TRANS)
 772                 ? ""
 773                 : "";
 774
 775     while (s < send || dorange) {
 776         if (lex_inwhat == OP_TRANS) {
 777             if (dorange) {
 778                 I32 i;
 779                 I32 max;
 780                 i = d - SvPVX(sv);
 781                 SvGROW(sv, SvLEN(sv) + 256);
 782                 d = SvPVX(sv) + i;
 783                 d -= 2;
 784                 max = (U8)d[1];
 785                 for (i = (U8)*d; i <= max; i++)
 786                     *d++ = i;
 787                 dorange = FALSE;
 788                 continue;
 789             }
 790             else if (*s == '-' && s+1 < send  && s != start) {
 791                 dorange = TRUE;
 792                 s++;
 793             }
 794         }
 795         else if (*s == '(' && lex_inpat && s[1] == '?' && s[2] == '#') {
 796             while (s < send && *s != ')')
 797                 *d++ = *s++;
 798         }
 799         else if (*s == '#' && lex_inpat &&
 800           ((PMOP*)lex_inpat)->op_pmflags & PMf_EXTENDED) {
 801             while (s+1 < send && *s != '\n')
 802                 *d++ = *s++;
 803         }
 804         else if (*s == '@' && s[1] && (isALNUM(s[1]) || strchr(":'{$", s[1])))
 805             break;
 806         else if (*s == '$') {
 807             if (!lex_inpat)     /* not a regexp, so $ must be var */
 808                 break;
 809             if (s + 1 < send && !strchr(")| \n\t", s[1]))
 810                 break;          /* in regexp, $ might be tail anchor */
 811         }
 812         if (*s == '\\' && s+1 < send) {
 813             s++;
 814             if (*s && strchr(leaveit, *s)) {
 815                 *d++ = '\\';
 816                 *d++ = *s++;
 817                 continue;
 818             }
 819             if (lex_inwhat == OP_SUBST && !lex_inpat &&
 820                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
 821             {
 822                 if (dowarn)
 823                     warn("\\%c better written as $%c", *s, *s);
 824                 *--s = '$';
 825                 break;
 826             }
 827             if (lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
 828                 --s;
 829                 break;
 830             }
 831             switch (*s) {
 832             case '-':
 833                 if (lex_inwhat == OP_TRANS) {
 834                     *d++ = *s++;
 835                     continue;
 836                 }
 837                 /* FALL THROUGH */
 838             default:
 839                 *d++ = *s++;
 840                 continue;
 841             case '0': case '1': case '2': case '3':
 842             case '4': case '5': case '6': case '7':
 843                 *d++ = scan_oct(s, 3, &len);
 844                 s += len;
 845                 continue;
 846             case 'x':
 847                 *d++ = scan_hex(++s, 2, &len);
 848                 s += len;
 849                 continue;
 850             case 'c':
 851                 s++;
 852                 len = *s++;
 853                 *d++ = toCTRL(len);
 854                 continue;
 855             case 'b':
 856                 *d++ = '\b';
 857                 break;
 858             case 'n':
 859                 *d++ = '\n';
 860                 break;
 861             case 'r':
 862                 *d++ = '\r';
 863                 break;
 864             case 'f':
 865                 *d++ = '\f';
 866                 break;
 867             case 't':
 868                 *d++ = '\t';
 869                 break;
 870             case 'e':
 871                 *d++ = '\033';
 872                 break;
 873             case 'a':
 874                 *d++ = '\007';
 875                 break;
 876             }
 877             s++;
 878             continue;
 879         }
 880         *d++ = *s++;
 881     }
 882     *d = '\0';
 883     SvCUR_set(sv, d - SvPVX(sv));
 884     SvPOK_on(sv);
 885
 886     if (SvCUR(sv) + 5 < SvLEN(sv)) {
 887         SvLEN_set(sv, SvCUR(sv) + 1);
 888         Renew(SvPVX(sv), SvLEN(sv), char);
 889     }
 890     if (s > bufptr)
 891         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
 892     else
 893         SvREFCNT_dec(sv);
 894     return s;
 895 }
 896
 897 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
 898 static int
 899 intuit_more(s)
 900 register char *s;
 901 {
 902     if (lex_brackets)
 903         return TRUE;
 904     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
 905         return TRUE;
 906     if (*s != '{' && *s != '[')
 907         return FALSE;
 908     if (!lex_inpat)
 909         return TRUE;
 910
 911     /* In a pattern, so maybe we have {n,m}. */
 912     if (*s == '{') {
 913         s++;
 914         if (!isDIGIT(*s))
 915             return TRUE;
 916         while (isDIGIT(*s))
 917             s++;
 918         if (*s == ',')
 919             s++;
 920         while (isDIGIT(*s))
 921             s++;
 922         if (*s == '}')
 923             return FALSE;
 924         return TRUE;
 925
 926     }
 927
 928     /* On the other hand, maybe we have a character class */
 929
 930     s++;
 931     if (*s == ']' || *s == '^')
 932         return FALSE;
 933     else {
 934         int weight = 2;         /* let's weigh the evidence */
 935         char seen[256];
 936         unsigned char un_char = 0, last_un_char;
 937         char *send = strchr(s,']');
 938         char tmpbuf[sizeof tokenbuf * 4];
 939
 940         if (!send)              /* has to be an expression */
 941             return TRUE;
 942
 943         Zero(seen,256,char);
 944         if (*s == '$')
 945             weight -= 3;
 946         else if (isDIGIT(*s)) {
 947             if (s[1] != ']') {
 948                 if (isDIGIT(s[1]) && s[2] == ']')
 949                     weight -= 10;
 950             }
 951             else
 952                 weight -= 100;
 953         }
 954         for (; s < send; s++) {
 955             last_un_char = un_char;
 956             un_char = (unsigned char)*s;
 957             switch (*s) {
 958             case '@':
 959             case '&':
 960             case '$':
 961                 weight -= seen[un_char] * 10;
 962                 if (isALNUM(s[1])) {
 963                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
 964                     if ((int)strlen(tmpbuf) > 1 && gv_fetchpv(tmpbuf,FALSE, SVt_PV))
 965                         weight -= 100;
 966                     else
 967                         weight -= 10;
 968                 }
 969                 else if (*s == '$' && s[1] &&
 970                   strchr("[#!%*<>()-=",s[1])) {
 971                     if (/*{*/ strchr("])} =",s[2]))
 972                         weight -= 10;
 973                     else
 974                         weight -= 1;
 975                 }
 976                 break;
 977             case '\\':
 978                 un_char = 254;
 979                 if (s[1]) {
 980                     if (strchr("wds]",s[1]))
 981                         weight += 100;
 982                     else if (seen['\''] || seen['"'])
 983                         weight += 1;
 984                     else if (strchr("rnftbxcav",s[1]))
 985                         weight += 40;
 986                     else if (isDIGIT(s[1])) {
 987                         weight += 40;
 988                         while (s[1] && isDIGIT(s[1]))
 989                             s++;
 990                     }
 991                 }
 992                 else
 993                     weight += 100;
 994                 break;
 995             case '-':
 996                 if (s[1] == '\\')
 997                     weight += 50;
 998                 if (strchr("aA01! ",last_un_char))
 999                     weight += 30;
1000                 if (strchr("zZ79~",s[1]))
1001                     weight += 30;
1002                 break;
1003             default:
1004                 if (!isALNUM(last_un_char) && !strchr("$@&",last_un_char) &&
1005                         isALPHA(*s) && s[1] && isALPHA(s[1])) {
1006                     char *d = tmpbuf;
1007                     while (isALPHA(*s))
1008                         *d++ = *s++;
1009                     *d = '\0';
1010                     if (keyword(tmpbuf, d - tmpbuf))
1011                         weight -= 150;
1012                 }
1013                 if (un_char == last_un_char + 1)
1014                     weight += 5;
1015                 weight -= seen[un_char];
1016                 break;
1017             }
1018             seen[un_char]++;
1019         }
1020         if (weight >= 0)        /* probably a character class */
1021             return FALSE;
1022     }
1023
1024     return TRUE;
1025 }
1026
1027 static int
1028 intuit_method(start,gv)
1029 char *start;
1030 GV *gv;
1031 {
1032     char *s = start + (*start == '$');
1033     char tmpbuf[sizeof tokenbuf];
1034     STRLEN len;
1035     GV* indirgv;
1036
1037     if (gv) {
1038         if (GvIO(gv))
1039             return 0;
1040         if (!GvCVu(gv))
1041             gv = 0;
1042     }
1043     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
1044     if (*start == '$') {
1045         if (gv || last_lop_op == OP_PRINT || isUPPER(*tokenbuf))
1046             return 0;
1047         s = skipspace(s);
1048         bufptr = start;
1049         expect = XREF;
1050         return *s == '(' ? FUNCMETH : METHOD;
1051     }
1052     if (!keyword(tmpbuf, len)) {
1053         indirgv = gv_fetchpv(tmpbuf,FALSE, SVt_PVCV);
1054         if (indirgv && GvCVu(indirgv))
1055             return 0;
1056         /* filehandle or package name makes it a method */
1057         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
1058             s = skipspace(s);
1059             if ((bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
1060                 return 0;       /* no assumptions -- "=>" quotes bearword */
1061             nextval[nexttoke].opval =
1062                 (OP*)newSVOP(OP_CONST, 0,
1063                             newSVpv(tmpbuf,0));
1064             nextval[nexttoke].opval->op_private =
1065                 OPpCONST_BARE;
1066             expect = XTERM;
1067             force_next(WORD);
1068             bufptr = s;
1069             return *s == '(' ? FUNCMETH : METHOD;
1070         }
1071     }
1072     return 0;
1073 }
1074
1075 static char*
1076 incl_perldb()
1077 {
1078     if (perldb) {
1079         char *pdb = getenv("PERL5DB");
1080
1081         if (pdb)
1082             return pdb;
1083         return "BEGIN { require 'perl5db.pl' }";
1084     }
1085     return "";
1086 }
1087
1088
1089 /* Encoded script support. filter_add() effectively inserts a
1090  * 'pre-processing' function into the current source input stream.
1091  * Note that the filter function only applies to the current source file
1092  * (e.g., it will not affect files 'require'd or 'use'd by this one).
1093  *
1094  * The datasv parameter (which may be NULL) can be used to pass
1095  * private data to this instance of the filter. The filter function
1096  * can recover the SV using the FILTER_DATA macro and use it to
1097  * store private buffers and state information.
1098  *
1099  * The supplied datasv parameter is upgraded to a PVIO type
1100  * and the IoDIRP field is used to store the function pointer.
1101  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
1102  * private use must be set using malloc'd pointers.
1103  */
1104 static int filter_debug = 0;
1105
1106 SV *
1107 filter_add(funcp, datasv)
1108     filter_t funcp;
1109     SV *datasv;
1110 {
1111     if (!funcp){ /* temporary handy debugging hack to be deleted */
1112         filter_debug = atoi((char*)datasv);
1113         return NULL;
1114     }
1115     if (!rsfp_filters)
1116         rsfp_filters = newAV();
1117     if (!datasv)
1118         datasv = newSV(0);
1119     if (!SvUPGRADE(datasv, SVt_PVIO))
1120         die("Can't upgrade filter_add data to SVt_PVIO");
1121     IoDIRP(datasv) = (DIR*)funcp; /* stash funcp into spare field */
1122     if (filter_debug)
1123         warn("filter_add func %p (%s)", funcp, SvPV(datasv,na));
1124     av_unshift(rsfp_filters, 1);
1125     av_store(rsfp_filters, 0, datasv) ;
1126     return(datasv);
1127 }
1128
1129
1130 /* Delete most recently added instance of this filter function. */
1131 void
1132 filter_del(funcp)
1133     filter_t funcp;
1134 {
1135     if (filter_debug)
1136         warn("filter_del func %p", funcp);
1137     if (!rsfp_filters || AvFILL(rsfp_filters)<0)
1138         return;
1139     /* if filter is on top of stack (usual case) just pop it off */
1140     if (IoDIRP(FILTER_DATA(0)) == (void*)funcp){
1141         /* sv_free(av_pop(rsfp_filters)); */
1142         sv_free(av_shift(rsfp_filters));
1143
1144         return;
1145     }
1146     /* we need to search for the correct entry and clear it     */
1147     die("filter_del can only delete in reverse order (currently)");
1148 }
1149
1150
1151 /* Invoke the n'th filter function for the current rsfp.         */
1152 I32
1153 filter_read(idx, buf_sv, maxlen)
1154     int idx;
1155     SV *buf_sv;
1156     int maxlen;         /* 0 = read one text line */
1157 {
1158     filter_t funcp;
1159     SV *datasv = NULL;
1160
1161     if (!rsfp_filters)
1162         return -1;
1163     if (idx > AvFILL(rsfp_filters)){       /* Any more filters? */
1164         /* Provide a default input filter to make life easy.    */
1165         /* Note that we append to the line. This is handy.      */
1166         if (filter_debug)
1167             warn("filter_read %d: from rsfp\n", idx);
1168         if (maxlen) {
1169             /* Want a block */
1170             int len ;
1171             int old_len = SvCUR(buf_sv) ;
1172
1173             /* ensure buf_sv is large enough */
1174             SvGROW(buf_sv, old_len + maxlen) ;
1175             if ((len = PerlIO_read(rsfp, SvPVX(buf_sv) + old_len, maxlen)) <= 0){
1176                 if (PerlIO_error(rsfp))
1177                     return -1;          /* error */
1178                 else
1179                     return 0 ;          /* end of file */
1180             }
1181             SvCUR_set(buf_sv, old_len + len) ;
1182         } else {
1183             /* Want a line */
1184             if (sv_gets(buf_sv, rsfp, SvCUR(buf_sv)) == NULL) {
1185                 if (PerlIO_error(rsfp))
1186                     return -1;          /* error */
1187                 else
1188                     return 0 ;          /* end of file */
1189             }
1190         }
1191         return SvCUR(buf_sv);
1192     }
1193     /* Skip this filter slot if filter has been deleted */
1194     if ( (datasv = FILTER_DATA(idx)) == &sv_undef){
1195         if (filter_debug)
1196             warn("filter_read %d: skipped (filter deleted)\n", idx);
1197         return FILTER_READ(idx+1, buf_sv, maxlen); /* recurse */
1198     }
1199     /* Get function pointer hidden within datasv        */
1200     funcp = (filter_t)IoDIRP(datasv);
1201     if (filter_debug)
1202         warn("filter_read %d: via function %p (%s)\n",
1203                 idx, funcp, SvPV(datasv,na));
1204     /* Call function. The function is expected to       */
1205     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
1206     /* Return: <0:error, =0:eof, >0:not eof             */
1207     return (*funcp)(idx, buf_sv, maxlen);
1208 }
1209
1210 static char *
1211 filter_gets(sv,fp, append)
1212 register SV *sv;
1213 register PerlIO *fp;
1214 STRLEN append;
1215 {
1216     if (rsfp_filters) {
1217
1218         if (!append)
1219             SvCUR_set(sv, 0);   /* start with empty line        */
1220         if (FILTER_READ(0, sv, 0) > 0)
1221             return ( SvPVX(sv) ) ;
1222         else
1223             return Nullch ;
1224     }
1225     else
1226         return (sv_gets(sv, fp, append));
1227
1228 }
1229
1230
1231 #ifdef DEBUGGING
1232     static char* exp_name[] =
1233         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "TERMBLOCK" };
1234 #endif
1235
1236 EXT int yychar;         /* last token */
1237
1238 int
1239 yylex()
1240 {
1241     dTHR;
1242     register char *s;
1243     register char *d;
1244     register I32 tmp;
1245     STRLEN len;
1246
1247     if (pending_ident) {
1248         char pit = pending_ident;
1249         pending_ident = 0;
1250
1251         if (in_my) {
1252             if (strchr(tokenbuf,':'))
1253                 croak(no_myglob,tokenbuf);
1254             yylval.opval = newOP(OP_PADANY, 0);
1255             yylval.opval->op_targ = pad_allocmy(tokenbuf);
1256             return PRIVATEREF;
1257         }
1258
1259         if (!strchr(tokenbuf,':')
1260             && (tmp = pad_findmy(tokenbuf)) != NOT_IN_PAD) {
1261             if (last_lop_op == OP_SORT &&
1262                 tokenbuf[0] == '$' &&
1263                 (tokenbuf[1] == 'a' || tokenbuf[1] == 'b')
1264                 && !tokenbuf[2])
1265             {
1266                 for (d = in_eval ? oldoldbufptr : linestart;
1267                      d < bufend && *d != '\n';
1268                      d++)
1269                 {
1270                     if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
1271                         croak("Can't use \"my %s\" in sort comparison",
1272                               tokenbuf);
1273                     }
1274                 }
1275             }
1276
1277             yylval.opval = newOP(OP_PADANY, 0);
1278             yylval.opval->op_targ = tmp;
1279             return PRIVATEREF;
1280         }
1281
1282         /* Force them to make up their mind on "@foo". */
1283         if (pit == '@' && lex_state != LEX_NORMAL && !lex_brackets) {
1284             GV *gv = gv_fetchpv(tokenbuf+1, FALSE, SVt_PVAV);
1285             if (!gv || ((tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
1286                 yyerror(form("In string, %s now must be written as \\%s",
1287                              tokenbuf, tokenbuf));
1288         }
1289
1290         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf+1, 0));
1291         yylval.opval->op_private = OPpCONST_ENTERED;
1292         gv_fetchpv(tokenbuf+1, in_eval ? GV_ADDMULTI : TRUE,
1293                    ((tokenbuf[0] == '$') ? SVt_PV
1294                     : (tokenbuf[0] == '@') ? SVt_PVAV
1295                     : SVt_PVHV));
1296         return WORD;
1297     }
1298
1299     switch (lex_state) {
1300 #ifdef COMMENTARY
1301     case LEX_NORMAL:            /* Some compilers will produce faster */
1302     case LEX_INTERPNORMAL:      /* code if we comment these out. */
1303         break;
1304 #endif
1305
1306     case LEX_KNOWNEXT:
1307         nexttoke--;
1308         yylval = nextval[nexttoke];
1309         if (!nexttoke) {
1310             lex_state = lex_defer;
1311             expect = lex_expect;
1312             lex_defer = LEX_NORMAL;
1313         }
1314         return(nexttype[nexttoke]);
1315
1316     case LEX_INTERPCASEMOD:
1317 #ifdef DEBUGGING
1318         if (bufptr != bufend && *bufptr != '\\')
1319             croak("panic: INTERPCASEMOD");
1320 #endif
1321         if (bufptr == bufend || bufptr[1] == 'E') {
1322             char oldmod;
1323             if (lex_casemods) {
1324                 oldmod = lex_casestack[--lex_casemods];
1325                 lex_casestack[lex_casemods] = '\0';
1326                 if (bufptr != bufend && strchr("LUQ", oldmod)) {
1327                     bufptr += 2;
1328                     lex_state = LEX_INTERPCONCAT;
1329                 }
1330                 return ')';
1331             }
1332             if (bufptr != bufend)
1333                 bufptr += 2;
1334             lex_state = LEX_INTERPCONCAT;
1335             return yylex();
1336         }
1337         else {
1338             s = bufptr + 1;
1339             if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
1340                 tmp = *s, *s = s[2], s[2] = tmp;        /* misordered... */
1341             if (strchr("LU", *s) &&
1342                 (strchr(lex_casestack, 'L') || strchr(lex_casestack, 'U')))
1343             {
1344                 lex_casestack[--lex_casemods] = '\0';
1345                 return ')';
1346             }
1347             if (lex_casemods > 10) {
1348                 char* newlb = Renew(lex_casestack, lex_casemods + 2, char);
1349                 if (newlb != lex_casestack) {
1350                     SAVEFREEPV(newlb);
1351                     lex_casestack = newlb;
1352                 }
1353             }
1354             lex_casestack[lex_casemods++] = *s;
1355             lex_casestack[lex_casemods] = '\0';
1356             lex_state = LEX_INTERPCONCAT;
1357             nextval[nexttoke].ival = 0;
1358             force_next('(');
1359             if (*s == 'l')
1360                 nextval[nexttoke].ival = OP_LCFIRST;
1361             else if (*s == 'u')
1362                 nextval[nexttoke].ival = OP_UCFIRST;
1363             else if (*s == 'L')
1364                 nextval[nexttoke].ival = OP_LC;
1365             else if (*s == 'U')
1366                 nextval[nexttoke].ival = OP_UC;
1367             else if (*s == 'Q')
1368                 nextval[nexttoke].ival = OP_QUOTEMETA;
1369             else
1370                 croak("panic: yylex");
1371             bufptr = s + 1;
1372             force_next(FUNC);
1373             if (lex_starts) {
1374                 s = bufptr;
1375                 lex_starts = 0;
1376                 Aop(OP_CONCAT);
1377             }
1378             else
1379                 return yylex();
1380         }
1381
1382     case LEX_INTERPPUSH:
1383         return sublex_push();
1384
1385     case LEX_INTERPSTART:
1386         if (bufptr == bufend)
1387             return sublex_done();
1388         expect = XTERM;
1389         lex_dojoin = (*bufptr == '@');
1390         lex_state = LEX_INTERPNORMAL;
1391         if (lex_dojoin) {
1392             nextval[nexttoke].ival = 0;
1393             force_next(',');
1394             force_ident("\"", '$');
1395             nextval[nexttoke].ival = 0;
1396             force_next('$');
1397             nextval[nexttoke].ival = 0;
1398             force_next('(');
1399             nextval[nexttoke].ival = OP_JOIN;   /* emulate join($", ...) */
1400             force_next(FUNC);
1401         }
1402         if (lex_starts++) {
1403             s = bufptr;
1404             Aop(OP_CONCAT);
1405         }
1406         return yylex();
1407
1408     case LEX_INTERPENDMAYBE:
1409         if (intuit_more(bufptr)) {
1410             lex_state = LEX_INTERPNORMAL;       /* false alarm, more expr */
1411             break;
1412         }
1413         /* FALL THROUGH */
1414
1415     case LEX_INTERPEND:
1416         if (lex_dojoin) {
1417             lex_dojoin = FALSE;
1418             lex_state = LEX_INTERPCONCAT;
1419             return ')';
1420         }
1421         /* FALLTHROUGH */
1422     case LEX_INTERPCONCAT:
1423 #ifdef DEBUGGING
1424         if (lex_brackets)
1425             croak("panic: INTERPCONCAT");
1426 #endif
1427         if (bufptr == bufend)
1428             return sublex_done();
1429
1430         if (SvIVX(linestr) == '\'') {
1431             SV *sv = newSVsv(linestr);
1432             if (!lex_inpat)
1433                 sv = q(sv);
1434             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1435             s = bufend;
1436         }
1437         else {
1438             s = scan_const(bufptr);
1439             if (*s == '\\')
1440                 lex_state = LEX_INTERPCASEMOD;
1441             else
1442                 lex_state = LEX_INTERPSTART;
1443         }
1444
1445         if (s != bufptr) {
1446             nextval[nexttoke] = yylval;
1447             expect = XTERM;
1448             force_next(THING);
1449             if (lex_starts++)
1450                 Aop(OP_CONCAT);
1451             else {
1452                 bufptr = s;
1453                 return yylex();
1454             }
1455         }
1456
1457         return yylex();
1458     case LEX_FORMLINE:
1459         lex_state = LEX_NORMAL;
1460         s = scan_formline(bufptr);
1461         if (!lex_formbrack)
1462             goto rightbracket;
1463         OPERATOR(';');
1464     }
1465
1466     s = bufptr;
1467     oldoldbufptr = oldbufptr;
1468     oldbufptr = s;
1469     DEBUG_p( {
1470         PerlIO_printf(PerlIO_stderr(), "### Tokener expecting %s at %s\n", exp_name[expect], s);
1471     } )
1472
1473   retry:
1474     switch (*s) {
1475     default:
1476         croak("Unrecognized character \\%03o", *s & 255);
1477     case 4:
1478     case 26:
1479         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
1480     case 0:
1481         if (!rsfp) {
1482             last_uni = 0;
1483             last_lop = 0;
1484             if (lex_brackets)
1485                 yyerror("Missing right bracket");
1486             TOKEN(0);
1487         }
1488         if (s++ < bufend)
1489             goto retry;                 /* ignore stray nulls */
1490         last_uni = 0;
1491         last_lop = 0;
1492         if (!in_eval && !preambled) {
1493             preambled = TRUE;
1494             sv_setpv(linestr,incl_perldb());
1495             if (SvCUR(linestr))
1496                 sv_catpv(linestr,";");
1497             if (preambleav){
1498                 while(AvFILL(preambleav) >= 0) {
1499                     SV *tmpsv = av_shift(preambleav);
1500                     sv_catsv(linestr, tmpsv);
1501                     sv_catpv(linestr, ";");
1502                     sv_free(tmpsv);
1503                 }
1504                 sv_free((SV*)preambleav);
1505                 preambleav = NULL;
1506             }
1507             if (minus_n || minus_p) {
1508                 sv_catpv(linestr, "LINE: while (<>) {");
1509                 if (minus_l)
1510                     sv_catpv(linestr,"chomp;");
1511                 if (minus_a) {
1512                     GV* gv = gv_fetchpv("::F", TRUE, SVt_PVAV);
1513                     if (gv)
1514                         GvIMPORTED_AV_on(gv);
1515                     if (minus_F) {
1516                         if (strchr("/'\"", *splitstr)
1517                               && strchr(splitstr + 1, *splitstr))
1518                             sv_catpvf(linestr, "@F=split(%s);", splitstr);
1519                         else {
1520                             char delim;
1521                             s = "'~#\200\1'"; /* surely one char is unused...*/
1522                             while (s[1] && strchr(splitstr, *s))  s++;
1523                             delim = *s;
1524                             sv_catpvf(linestr, "@F=split(%s%c",
1525                                       "q" + (delim == '\''), delim);
1526                             for (s = splitstr; *s; s++) {
1527                                 if (*s == '\\')
1528                                     sv_catpvn(linestr, "\\", 1);
1529                                 sv_catpvn(linestr, s, 1);
1530                             }
1531                             sv_catpvf(linestr, "%c);", delim);
1532                         }
1533                     }
1534                     else
1535                         sv_catpv(linestr,"@F=split(' ');");
1536                 }
1537             }
1538             sv_catpv(linestr, "\n");
1539             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1540             bufend = SvPVX(linestr) + SvCUR(linestr);
1541             if (PERLDB_LINE && curstash != debstash) {
1542                 SV *sv = NEWSV(85,0);
1543
1544                 sv_upgrade(sv, SVt_PVMG);
1545                 sv_setsv(sv,linestr);
1546                 av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1547             }
1548             goto retry;
1549         }
1550         do {
1551             if ((s = filter_gets(linestr, rsfp, 0)) == Nullch) {
1552               fake_eof:
1553                 if (rsfp) {
1554                     if (preprocess && !in_eval)
1555                         (void)my_pclose(rsfp);
1556                     else if ((PerlIO *)rsfp == PerlIO_stdin())
1557                         PerlIO_clearerr(rsfp);
1558                     else
1559                         (void)PerlIO_close(rsfp);
1560                     if (e_fp == rsfp)
1561                         e_fp = Nullfp;
1562                     rsfp = Nullfp;
1563                 }
1564                 if (!in_eval && (minus_n || minus_p)) {
1565                     sv_setpv(linestr,minus_p ? ";}continue{print" : "");
1566                     sv_catpv(linestr,";}");
1567                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1568                     bufend = SvPVX(linestr) + SvCUR(linestr);
1569                     minus_n = minus_p = 0;
1570                     goto retry;
1571                 }
1572                 oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1573                 sv_setpv(linestr,"");
1574                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
1575             }
1576             if (doextract) {
1577                 if (*s == '#' && s[1] == '!' && instr(s,"perl"))
1578                     doextract = FALSE;
1579
1580                 /* Incest with pod. */
1581                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
1582                     sv_setpv(linestr, "");
1583                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1584                     bufend = SvPVX(linestr) + SvCUR(linestr);
1585                     doextract = FALSE;
1586                 }
1587             }
1588             incline(s);
1589         } while (doextract);
1590         oldoldbufptr = oldbufptr = bufptr = linestart = s;
1591         if (PERLDB_LINE && curstash != debstash) {
1592             SV *sv = NEWSV(85,0);
1593
1594             sv_upgrade(sv, SVt_PVMG);
1595             sv_setsv(sv,linestr);
1596             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1597         }
1598         bufend = SvPVX(linestr) + SvCUR(linestr);
1599         if (curcop->cop_line == 1) {
1600             while (s < bufend && isSPACE(*s))
1601                 s++;
1602             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
1603                 s++;
1604             d = Nullch;
1605             if (!in_eval) {
1606                 if (*s == '#' && *(s+1) == '!')
1607                     d = s + 2;
1608 #ifdef ALTERNATE_SHEBANG
1609                 else {
1610                     static char as[] = ALTERNATE_SHEBANG;
1611                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
1612                         d = s + (sizeof(as) - 1);
1613                 }
1614 #endif /* ALTERNATE_SHEBANG */
1615             }
1616             if (d) {
1617                 char *ipath;
1618                 char *ipathend;
1619
1620                 while (isSPACE(*d))
1621                     d++;
1622                 ipath = d;
1623                 while (*d && !isSPACE(*d))
1624                     d++;
1625                 ipathend = d;
1626
1627 #ifdef ARG_ZERO_IS_SCRIPT
1628                 if (ipathend > ipath) {
1629                     /*
1630                      * HP-UX (at least) sets argv[0] to the script name,
1631                      * which makes $^X incorrect.  And Digital UNIX and Linux,
1632                      * at least, set argv[0] to the basename of the Perl
1633                      * interpreter. So, having found "#!", we'll set it right.
1634                      */
1635                     SV *x = GvSV(gv_fetchpv("\030", TRUE, SVt_PV));
1636                     assert(SvPOK(x) || SvGMAGICAL(x));
1637                     if (sv_eq(x, GvSV(curcop->cop_filegv))) {
1638                         sv_setpvn(x, ipath, ipathend - ipath);
1639                         SvSETMAGIC(x);
1640                     }
1641                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
1642                 }
1643 #endif /* ARG_ZERO_IS_SCRIPT */
1644
1645                 /*
1646                  * Look for options.
1647                  */
1648                 d = instr(s,"perl -");
1649                 if (!d)
1650                     d = instr(s,"perl");
1651 #ifdef ALTERNATE_SHEBANG
1652                 /*
1653                  * If the ALTERNATE_SHEBANG on this system starts with a
1654                  * character that can be part of a Perl expression, then if
1655                  * we see it but not "perl", we're probably looking at the
1656                  * start of Perl code, not a request to hand off to some
1657                  * other interpreter.  Similarly, if "perl" is there, but
1658                  * not in the first 'word' of the line, we assume the line
1659                  * contains the start of the Perl program.
1660                  */
1661                 if (d && *s != '#') {
1662                     char *c = ipath;
1663                     while (*c && !strchr("; \t\r\n\f\v#", *c))
1664                         c++;
1665                     if (c < d)
1666                         d = Nullch;     /* "perl" not in first word; ignore */
1667                     else
1668                         *s = '#';       /* Don't try to parse shebang line */
1669                 }
1670 #endif /* ALTERNATE_SHEBANG */
1671                 if (!d &&
1672                     *s == '#' &&
1673                     ipathend > ipath &&
1674                     !minus_c &&
1675                     !instr(s,"indir") &&
1676                     instr(origargv[0],"perl"))
1677                 {
1678                     char **newargv;
1679
1680                     *ipathend = '\0';
1681                     s = ipathend + 1;
1682                     while (s < bufend && isSPACE(*s))
1683                         s++;
1684                     if (s < bufend) {
1685                         Newz(899,newargv,origargc+3,char*);
1686                         newargv[1] = s;
1687                         while (s < bufend && !isSPACE(*s))
1688                             s++;
1689                         *s = '\0';
1690                         Copy(origargv+1, newargv+2, origargc+1, char*);
1691                     }
1692                     else
1693                         newargv = origargv;
1694                     newargv[0] = ipath;
1695                     execv(ipath, newargv);
1696                     croak("Can't exec %s", ipath);
1697                 }
1698                 if (d) {
1699                     U32 oldpdb = perldb;
1700                     bool oldn = minus_n;
1701                     bool oldp = minus_p;
1702
1703                     while (*d && !isSPACE(*d)) d++;
1704                     while (*d == ' ' || *d == '\t') d++;
1705
1706                     if (*d++ == '-') {
1707                         do {
1708                             if (*d == 'M' || *d == 'm') {
1709                                 char *m = d;
1710                                 while (*d && !isSPACE(*d)) d++;
1711                                 croak("Too late for \"-%.*s\" option",
1712                                       (int)(d - m), m);
1713                             }
1714                             d = moreswitches(d);
1715                         } while (d);
1716                         if (PERLDB_LINE && !oldpdb ||
1717                             ( minus_n || minus_p ) && !(oldn || oldp) )
1718                               /* if we have already added "LINE: while (<>) {",
1719                                  we must not do it again */
1720                         {
1721                             sv_setpv(linestr, "");
1722                             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1723                             bufend = SvPVX(linestr) + SvCUR(linestr);
1724                             preambled = FALSE;
1725                             if (PERLDB_LINE)
1726                                 (void)gv_fetchfile(origfilename);
1727                             goto retry;
1728                         }
1729                     }
1730                 }
1731             }
1732         }
1733         if (lex_formbrack && lex_brackets <= lex_formbrack) {
1734             bufptr = s;
1735             lex_state = LEX_FORMLINE;
1736             return yylex();
1737         }
1738         goto retry;
1739     case '\r':
1740         warn("Illegal character \\%03o (carriage return)", '\r');
1741         croak(
1742       "(Maybe you didn't strip carriage returns after a network transfer?)\n");
1743     case ' ': case '\t': case '\f': case 013:
1744         s++;
1745         goto retry;
1746     case '#':
1747     case '\n':
1748         if (lex_state != LEX_NORMAL || (in_eval && !rsfp)) {
1749             d = bufend;
1750             while (s < d && *s != '\n')
1751                 s++;
1752             if (s < d)
1753                 s++;
1754             incline(s);
1755             if (lex_formbrack && lex_brackets <= lex_formbrack) {
1756                 bufptr = s;
1757                 lex_state = LEX_FORMLINE;
1758                 return yylex();
1759             }
1760         }
1761         else {
1762             *s = '\0';
1763             bufend = s;
1764         }
1765         goto retry;
1766     case '-':
1767         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
1768             s++;
1769             bufptr = s;
1770             tmp = *s++;
1771
1772             while (s < bufend && (*s == ' ' || *s == '\t'))
1773                 s++;
1774
1775             if (strnEQ(s,"=>",2)) {
1776                 if (dowarn)
1777                     warn("Ambiguous use of -%c => resolved to \"-%c\" =>",
1778                         (int)tmp, (int)tmp);
1779                 s = force_word(bufptr,WORD,FALSE,FALSE,FALSE);
1780                 OPERATOR('-');          /* unary minus */
1781             }
1782             last_uni = oldbufptr;
1783             last_lop_op = OP_FTEREAD;   /* good enough */
1784             switch (tmp) {
1785             case 'r': FTST(OP_FTEREAD);
1786             case 'w': FTST(OP_FTEWRITE);
1787             case 'x': FTST(OP_FTEEXEC);
1788             case 'o': FTST(OP_FTEOWNED);
1789             case 'R': FTST(OP_FTRREAD);
1790             case 'W': FTST(OP_FTRWRITE);
1791             case 'X': FTST(OP_FTREXEC);
1792             case 'O': FTST(OP_FTROWNED);
1793             case 'e': FTST(OP_FTIS);
1794             case 'z': FTST(OP_FTZERO);
1795             case 's': FTST(OP_FTSIZE);
1796             case 'f': FTST(OP_FTFILE);
1797             case 'd': FTST(OP_FTDIR);
1798             case 'l': FTST(OP_FTLINK);
1799             case 'p': FTST(OP_FTPIPE);
1800             case 'S': FTST(OP_FTSOCK);
1801             case 'u': FTST(OP_FTSUID);
1802             case 'g': FTST(OP_FTSGID);
1803             case 'k': FTST(OP_FTSVTX);
1804             case 'b': FTST(OP_FTBLK);
1805             case 'c': FTST(OP_FTCHR);
1806             case 't': FTST(OP_FTTTY);
1807             case 'T': FTST(OP_FTTEXT);
1808             case 'B': FTST(OP_FTBINARY);
1809             case 'M': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTMTIME);
1810             case 'A': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTATIME);
1811             case 'C': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTCTIME);
1812             default:
1813                 croak("Unrecognized file test: -%c", (int)tmp);
1814                 break;
1815             }
1816         }
1817         tmp = *s++;
1818         if (*s == tmp) {
1819             s++;
1820             if (expect == XOPERATOR)
1821                 TERM(POSTDEC);
1822             else
1823                 OPERATOR(PREDEC);
1824         }
1825         else if (*s == '>') {
1826             s++;
1827             s = skipspace(s);
1828             if (isIDFIRST(*s)) {
1829                 s = force_word(s,METHOD,FALSE,TRUE,FALSE);
1830                 TOKEN(ARROW);
1831             }
1832             else if (*s == '$')
1833                 OPERATOR(ARROW);
1834             else
1835                 TERM(ARROW);
1836         }
1837         if (expect == XOPERATOR)
1838             Aop(OP_SUBTRACT);
1839         else {
1840             if (isSPACE(*s) || !isSPACE(*bufptr))
1841                 check_uni();
1842             OPERATOR('-');              /* unary minus */
1843         }
1844
1845     case '+':
1846         tmp = *s++;
1847         if (*s == tmp) {
1848             s++;
1849             if (expect == XOPERATOR)
1850                 TERM(POSTINC);
1851             else
1852                 OPERATOR(PREINC);
1853         }
1854         if (expect == XOPERATOR)
1855             Aop(OP_ADD);
1856         else {
1857             if (isSPACE(*s) || !isSPACE(*bufptr))
1858                 check_uni();
1859             OPERATOR('+');
1860         }
1861
1862     case '*':
1863         if (expect != XOPERATOR) {
1864             s = scan_ident(s, bufend, tokenbuf, sizeof tokenbuf, TRUE);
1865             expect = XOPERATOR;
1866             force_ident(tokenbuf, '*');
1867             if (!*tokenbuf)
1868                 PREREF('*');
1869             TERM('*');
1870         }
1871         s++;
1872         if (*s == '*') {
1873             s++;
1874             PWop(OP_POW);
1875         }
1876         Mop(OP_MULTIPLY);
1877
1878     case '%':
1879         if (expect == XOPERATOR) {
1880             ++s;
1881             Mop(OP_MODULO);
1882         }
1883         tokenbuf[0] = '%';
1884         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, TRUE);
1885         if (!tokenbuf[1]) {
1886             if (s == bufend)
1887                 yyerror("Final % should be \\% or %name");
1888             PREREF('%');
1889         }
1890         pending_ident = '%';
1891         TERM('%');
1892
1893     case '^':
1894         s++;
1895         BOop(OP_BIT_XOR);
1896     case '[':
1897         lex_brackets++;
1898         /* FALL THROUGH */
1899     case '~':
1900     case ',':
1901         tmp = *s++;
1902         OPERATOR(tmp);
1903     case ':':
1904         if (s[1] == ':') {
1905             len = 0;
1906             goto just_a_word;
1907         }
1908         s++;
1909         OPERATOR(':');
1910     case '(':
1911         s++;
1912         if (last_lop == oldoldbufptr || last_uni == oldoldbufptr)
1913             oldbufptr = oldoldbufptr;           /* allow print(STDOUT 123) */
1914         else
1915             expect = XTERM;
1916         TOKEN('(');
1917     case ';':
1918         if (curcop->cop_line < copline)
1919             copline = curcop->cop_line;
1920         tmp = *s++;
1921         OPERATOR(tmp);
1922     case ')':
1923         tmp = *s++;
1924         s = skipspace(s);
1925         if (*s == '{')
1926             PREBLOCK(tmp);
1927         TERM(tmp);
1928     case ']':
1929         s++;
1930         if (lex_brackets <= 0)
1931             yyerror("Unmatched right bracket");
1932         else
1933             --lex_brackets;
1934         if (lex_state == LEX_INTERPNORMAL) {
1935             if (lex_brackets == 0) {
1936                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
1937                     lex_state = LEX_INTERPEND;
1938             }
1939         }
1940         TERM(']');
1941     case '{':
1942       leftbracket:
1943         s++;
1944         if (lex_brackets > 100) {
1945             char* newlb = Renew(lex_brackstack, lex_brackets + 1, char);
1946             if (newlb != lex_brackstack) {
1947                 SAVEFREEPV(newlb);
1948                 lex_brackstack = newlb;
1949             }
1950         }
1951         switch (expect) {
1952         case XTERM:
1953             if (lex_formbrack) {
1954                 s--;
1955                 PRETERMBLOCK(DO);
1956             }
1957             if (oldoldbufptr == last_lop)
1958                 lex_brackstack[lex_brackets++] = XTERM;
1959             else
1960                 lex_brackstack[lex_brackets++] = XOPERATOR;
1961             OPERATOR(HASHBRACK);
1962         case XOPERATOR:
1963             while (s < bufend && (*s == ' ' || *s == '\t'))
1964                 s++;
1965             d = s;
1966             tokenbuf[0] = '\0';
1967             if (d < bufend && *d == '-') {
1968                 tokenbuf[0] = '-';
1969                 d++;
1970                 while (d < bufend && (*d == ' ' || *d == '\t'))
1971                     d++;
1972             }
1973             if (d < bufend && isIDFIRST(*d)) {
1974                 d = scan_word(d, tokenbuf + 1, sizeof tokenbuf - 1,
1975                               FALSE, &len);
1976                 while (d < bufend && (*d == ' ' || *d == '\t'))
1977                     d++;
1978                 if (*d == '}') {
1979                     char minus = (tokenbuf[0] == '-');
1980                     if (dowarn &&
1981                         (keyword(tokenbuf + 1, len) ||
1982                          (minus && len == 1 && isALPHA(tokenbuf[1])) ||
1983                          perl_get_cv(tokenbuf + 1, FALSE) ))
1984                         warn("Ambiguous use of {%s} resolved to {\"%s\"}",
1985                              tokenbuf + !minus, tokenbuf + !minus);
1986                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
1987                     if (minus)
1988                         force_next('-');
1989                 }
1990             }
1991             /* FALL THROUGH */
1992         case XBLOCK:
1993             lex_brackstack[lex_brackets++] = XSTATE;
1994             expect = XSTATE;
1995             break;
1996         case XTERMBLOCK:
1997             lex_brackstack[lex_brackets++] = XOPERATOR;
1998             expect = XSTATE;
1999             break;
2000         default: {
2001                 char *t;
2002                 if (oldoldbufptr == last_lop)
2003                     lex_brackstack[lex_brackets++] = XTERM;
2004                 else
2005                     lex_brackstack[lex_brackets++] = XOPERATOR;
2006                 s = skipspace(s);
2007                 if (*s == '}')
2008                     OPERATOR(HASHBRACK);
2009                 /* This hack serves to disambiguate a pair of curlies
2010                  * as being a block or an anon hash.  Normally, expectation
2011                  * determines that, but in cases where we're not in a
2012                  * position to expect anything in particular (like inside
2013                  * eval"") we have to resolve the ambiguity.  This code
2014                  * covers the case where the first term in the curlies is a
2015                  * quoted string.  Most other cases need to be explicitly
2016                  * disambiguated by prepending a `+' before the opening
2017                  * curly in order to force resolution as an anon hash.
2018                  *
2019                  * XXX should probably propagate the outer expectation
2020                  * into eval"" to rely less on this hack, but that could
2021                  * potentially break current behavior of eval"".
2022                  * GSAR 97-07-21
2023                  */
2024                 t = s;
2025                 if (*s == '\'' || *s == '"' || *s == '`') {
2026                     /* common case: get past first string, handling escapes */
2027                     for (t++; t < bufend && *t != *s;)
2028                         if (*t++ == '\\' && (*t == '\\' || *t == *s))
2029                             t++;
2030                     t++;
2031                 }
2032                 else if (*s == 'q') {
2033                     if (++t < bufend
2034                         && (!isALNUM(*t)
2035                             || ((*t == 'q' || *t == 'x') && ++t < bufend
2036                                 && !isALNUM(*t)))) {
2037                         char *tmps;
2038                         char open, close, term;
2039                         I32 brackets = 1;
2040
2041                         while (t < bufend && isSPACE(*t))
2042                             t++;
2043                         term = *t;
2044                         open = term;
2045                         if (term && (tmps = strchr("([{< )]}> )]}>",term)))
2046                             term = tmps[5];
2047                         close = term;
2048                         if (open == close)
2049                             for (t++; t < bufend; t++) {
2050                                 if (*t == '\\' && t+1 < bufend && open != '\\')
2051                                     t++;
2052                                 else if (*t == open)
2053                                     break;
2054                             }
2055                         else
2056                             for (t++; t < bufend; t++) {
2057                                 if (*t == '\\' && t+1 < bufend)
2058                                     t++;
2059                                 else if (*t == close && --brackets <= 0)
2060                                     break;
2061                                 else if (*t == open)
2062                                     brackets++;
2063                             }
2064                     }
2065                     t++;
2066                 }
2067                 else if (isALPHA(*s)) {
2068                     for (t++; t < bufend && isALNUM(*t); t++) ;
2069                 }
2070                 while (t < bufend && isSPACE(*t))
2071                     t++;
2072                 /* if comma follows first term, call it an anon hash */
2073                 /* XXX it could be a comma expression with loop modifiers */
2074                 if (t < bufend && ((*t == ',' && (*s == 'q' || !isLOWER(*s)))
2075                                    || (*t == '=' && t[1] == '>')))
2076                     OPERATOR(HASHBRACK);
2077                 if (expect == XREF)
2078                     expect = XTERM;
2079                 else {
2080                     lex_brackstack[lex_brackets-1] = XSTATE;
2081                     expect = XSTATE;
2082                 }
2083             }
2084             break;
2085         }
2086         yylval.ival = curcop->cop_line;
2087         if (isSPACE(*s) || *s == '#')
2088             copline = NOLINE;   /* invalidate current command line number */
2089         TOKEN('{');
2090     case '}':
2091       rightbracket:
2092         s++;
2093         if (lex_brackets <= 0)
2094             yyerror("Unmatched right bracket");
2095         else
2096             expect = (expectation)lex_brackstack[--lex_brackets];
2097         if (lex_brackets < lex_formbrack)
2098             lex_formbrack = 0;
2099         if (lex_state == LEX_INTERPNORMAL) {
2100             if (lex_brackets == 0) {
2101                 if (lex_fakebrack) {
2102                     lex_state = LEX_INTERPEND;
2103                     bufptr = s;
2104                     return yylex();             /* ignore fake brackets */
2105                 }
2106                 if (*s == '-' && s[1] == '>')
2107                     lex_state = LEX_INTERPENDMAYBE;
2108                 else if (*s != '[' && *s != '{')
2109                     lex_state = LEX_INTERPEND;
2110             }
2111         }
2112         if (lex_brackets < lex_fakebrack) {
2113             bufptr = s;
2114             lex_fakebrack = 0;
2115             return yylex();             /* ignore fake brackets */
2116         }
2117         force_next('}');
2118         TOKEN(';');
2119     case '&':
2120         s++;
2121         tmp = *s++;
2122         if (tmp == '&')
2123             AOPERATOR(ANDAND);
2124         s--;
2125         if (expect == XOPERATOR) {
2126             if (dowarn && isALPHA(*s) && bufptr == linestart) {
2127                 curcop->cop_line--;
2128                 warn(warn_nosemi);
2129                 curcop->cop_line++;
2130             }
2131             BAop(OP_BIT_AND);
2132         }
2133
2134         s = scan_ident(s - 1, bufend, tokenbuf, sizeof tokenbuf, TRUE);
2135         if (*tokenbuf) {
2136             expect = XOPERATOR;
2137             force_ident(tokenbuf, '&');
2138         }
2139         else
2140             PREREF('&');
2141         yylval.ival = (OPpENTERSUB_AMPER<<8);
2142         TERM('&');
2143
2144     case '|':
2145         s++;
2146         tmp = *s++;
2147         if (tmp == '|')
2148             AOPERATOR(OROR);
2149         s--;
2150         BOop(OP_BIT_OR);
2151     case '=':
2152         s++;
2153         tmp = *s++;
2154         if (tmp == '=')
2155             Eop(OP_EQ);
2156         if (tmp == '>')
2157             OPERATOR(',');
2158         if (tmp == '~')
2159             PMop(OP_MATCH);
2160         if (dowarn && tmp && isSPACE(*s) && strchr("+-*/%.^&|<",tmp))
2161             warn("Reversed %c= operator",(int)tmp);
2162         s--;
2163         if (expect == XSTATE && isALPHA(tmp) &&
2164                 (s == linestart+1 || s[-2] == '\n') )
2165         {
2166             if (in_eval && !rsfp) {
2167                 d = bufend;
2168                 while (s < d) {
2169                     if (*s++ == '\n') {
2170                         incline(s);
2171                         if (strnEQ(s,"=cut",4)) {
2172                             s = strchr(s,'\n');
2173                             if (s)
2174                                 s++;
2175                             else
2176                                 s = d;
2177                             incline(s);
2178                             goto retry;
2179                         }
2180                     }
2181                 }
2182                 goto retry;
2183             }
2184             s = bufend;
2185             doextract = TRUE;
2186             goto retry;
2187         }
2188         if (lex_brackets < lex_formbrack) {
2189             char *t;
2190             for (t = s; *t == ' ' || *t == '\t'; t++) ;
2191             if (*t == '\n' || *t == '#') {
2192                 s--;
2193                 expect = XBLOCK;
2194                 goto leftbracket;
2195             }
2196         }
2197         yylval.ival = 0;
2198         OPERATOR(ASSIGNOP);
2199     case '!':
2200         s++;
2201         tmp = *s++;
2202         if (tmp == '=')
2203             Eop(OP_NE);
2204         if (tmp == '~')
2205             PMop(OP_NOT);
2206         s--;
2207         OPERATOR('!');
2208     case '<':
2209         if (expect != XOPERATOR) {
2210             if (s[1] != '<' && !strchr(s,'>'))
2211                 check_uni();
2212             if (s[1] == '<')
2213                 s = scan_heredoc(s);
2214             else
2215                 s = scan_inputsymbol(s);
2216             TERM(sublex_start());
2217         }
2218         s++;
2219         tmp = *s++;
2220         if (tmp == '<')
2221             SHop(OP_LEFT_SHIFT);
2222         if (tmp == '=') {
2223             tmp = *s++;
2224             if (tmp == '>')
2225                 Eop(OP_NCMP);
2226             s--;
2227             Rop(OP_LE);
2228         }
2229         s--;
2230         Rop(OP_LT);
2231     case '>':
2232         s++;
2233         tmp = *s++;
2234         if (tmp == '>')
2235             SHop(OP_RIGHT_SHIFT);
2236         if (tmp == '=')
2237             Rop(OP_GE);
2238         s--;
2239         Rop(OP_GT);
2240
2241     case '$':
2242         CLINE;
2243
2244         if (expect == XOPERATOR) {
2245             if (lex_formbrack && lex_brackets == lex_formbrack) {
2246                 expect = XTERM;
2247                 depcom();
2248                 return ','; /* grandfather non-comma-format format */
2249             }
2250         }
2251
2252         if (s[1] == '#' && (isALPHA(s[2]) || strchr("_{$:", s[2]))) {
2253             if (expect == XOPERATOR)
2254                 no_op("Array length", bufptr);
2255             tokenbuf[0] = '@';
2256             s = scan_ident(s + 1, bufend, tokenbuf + 1, sizeof tokenbuf - 1,
2257                            FALSE);
2258             if (!tokenbuf[1])
2259                 PREREF(DOLSHARP);
2260             expect = XOPERATOR;
2261             pending_ident = '#';
2262             TOKEN(DOLSHARP);
2263         }
2264
2265         if (expect == XOPERATOR)
2266             no_op("Scalar", bufptr);
2267         tokenbuf[0] = '$';
2268         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2269         if (!tokenbuf[1]) {
2270             if (s == bufend)
2271                 yyerror("Final $ should be \\$ or $name");
2272             PREREF('$');
2273         }
2274
2275         /* This kludge not intended to be bulletproof. */
2276         if (tokenbuf[1] == '[' && !tokenbuf[2]) {
2277             yylval.opval = newSVOP(OP_CONST, 0,
2278                                    newSViv((IV)compiling.cop_arybase));
2279             yylval.opval->op_private = OPpCONST_ARYBASE;
2280             TERM(THING);
2281         }
2282
2283         d = s;
2284         if (lex_state == LEX_NORMAL)
2285             s = skipspace(s);
2286
2287         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2288             char *t;
2289             if (*s == '[') {
2290                 tokenbuf[0] = '@';
2291                 if (dowarn) {
2292                     for(t = s + 1;
2293                         isSPACE(*t) || isALNUM(*t) || *t == '$';
2294                         t++) ;
2295                     if (*t++ == ',') {
2296                         bufptr = skipspace(bufptr);
2297                         while (t < bufend && *t != ']')
2298                             t++;
2299                         warn("Multidimensional syntax %.*s not supported",
2300                              (t - bufptr) + 1, bufptr);
2301                     }
2302                 }
2303             }
2304             else if (*s == '{') {
2305                 tokenbuf[0] = '%';
2306                 if (dowarn && strEQ(tokenbuf+1, "SIG") &&
2307                     (t = strchr(s, '}')) && (t = strchr(t, '=')))
2308                 {
2309                     char tmpbuf[sizeof tokenbuf];
2310                     STRLEN len;
2311                     for (t++; isSPACE(*t); t++) ;
2312                     if (isIDFIRST(*t)) {
2313                         t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE, &len);
2314                         if (*t != '(' && perl_get_cv(tmpbuf, FALSE))
2315                             warn("You need to quote \"%s\"", tmpbuf);
2316                     }
2317                 }
2318             }
2319         }
2320
2321         expect = XOPERATOR;
2322         if (lex_state == LEX_NORMAL && isSPACE(*d)) {
2323             bool islop = (last_lop == oldoldbufptr);
2324             if (!islop || last_lop_op == OP_GREPSTART)
2325                 expect = XOPERATOR;
2326             else if (strchr("$@\"'`q", *s))
2327                 expect = XTERM;         /* e.g. print $fh "foo" */
2328             else if (strchr("&*<%", *s) && isIDFIRST(s[1]))
2329                 expect = XTERM;         /* e.g. print $fh &sub */
2330             else if (isIDFIRST(*s)) {
2331                 char tmpbuf[sizeof tokenbuf];
2332                 scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2333                 if (tmp = keyword(tmpbuf, len)) {
2334                     /* binary operators exclude handle interpretations */
2335                     switch (tmp) {
2336                     case -KEY_x:
2337                     case -KEY_eq:
2338                     case -KEY_ne:
2339                     case -KEY_gt:
2340                     case -KEY_lt:
2341                     case -KEY_ge:
2342                     case -KEY_le:
2343                     case -KEY_cmp:
2344                         break;
2345                     default:
2346                         expect = XTERM; /* e.g. print $fh length() */
2347                         break;
2348                     }
2349                 }
2350                 else {
2351                     GV *gv = gv_fetchpv(tmpbuf, FALSE, SVt_PVCV);
2352                     if (gv && GvCVu(gv))
2353                         expect = XTERM; /* e.g. print $fh subr() */
2354                 }
2355             }
2356             else if (isDIGIT(*s))
2357                 expect = XTERM;         /* e.g. print $fh 3 */
2358             else if (*s == '.' && isDIGIT(s[1]))
2359                 expect = XTERM;         /* e.g. print $fh .3 */
2360             else if (strchr("/?-+", *s) && !isSPACE(s[1]))
2361                 expect = XTERM;         /* e.g. print $fh -1 */
2362             else if (*s == '<' && s[1] == '<' && !isSPACE(s[2]))
2363                 expect = XTERM;         /* print $fh <<"EOF" */
2364         }
2365         pending_ident = '$';
2366         TOKEN('$');
2367
2368     case '@':
2369         if (expect == XOPERATOR)
2370             no_op("Array", s);
2371         tokenbuf[0] = '@';
2372         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2373         if (!tokenbuf[1]) {
2374             if (s == bufend)
2375                 yyerror("Final @ should be \\@ or @name");
2376             PREREF('@');
2377         }
2378         if (lex_state == LEX_NORMAL)
2379             s = skipspace(s);
2380         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2381             if (*s == '{')
2382                 tokenbuf[0] = '%';
2383
2384             /* Warn about @ where they meant $. */
2385             if (dowarn) {
2386                 if (*s == '[' || *s == '{') {
2387                     char *t = s + 1;
2388                     while (*t && (isALNUM(*t) || strchr(" \t$#+-'\"", *t)))
2389                         t++;
2390                     if (*t == '}' || *t == ']') {
2391                         t++;
2392                         bufptr = skipspace(bufptr);
2393                         warn("Scalar value %.*s better written as $%.*s",
2394                             t-bufptr, bufptr, t-bufptr-1, bufptr+1);
2395                     }
2396                 }
2397             }
2398         }
2399         pending_ident = '@';
2400         TERM('@');
2401
2402     case '/':                   /* may either be division or pattern */
2403     case '?':                   /* may either be conditional or pattern */
2404         if (expect != XOPERATOR) {
2405             check_uni();
2406             s = scan_pat(s);
2407             TERM(sublex_start());
2408         }
2409         tmp = *s++;
2410         if (tmp == '/')
2411             Mop(OP_DIVIDE);
2412         OPERATOR(tmp);
2413
2414     case '.':
2415         if (lex_formbrack && lex_brackets == lex_formbrack && s[1] == '\n' &&
2416                 (s == linestart || s[-1] == '\n') ) {
2417             lex_formbrack = 0;
2418             expect = XSTATE;
2419             goto rightbracket;
2420         }
2421         if (expect == XOPERATOR || !isDIGIT(s[1])) {
2422             tmp = *s++;
2423             if (*s == tmp) {
2424                 s++;
2425                 if (*s == tmp) {
2426                     s++;
2427                     yylval.ival = OPf_SPECIAL;
2428                 }
2429                 else
2430                     yylval.ival = 0;
2431                 OPERATOR(DOTDOT);
2432             }
2433             if (expect != XOPERATOR)
2434                 check_uni();
2435             Aop(OP_CONCAT);
2436         }
2437         /* FALL THROUGH */
2438     case '0': case '1': case '2': case '3': case '4':
2439     case '5': case '6': case '7': case '8': case '9':
2440         s = scan_num(s);
2441         if (expect == XOPERATOR)
2442             no_op("Number",s);
2443         TERM(THING);
2444
2445     case '\'':
2446         s = scan_str(s);
2447         if (expect == XOPERATOR) {
2448             if (lex_formbrack && lex_brackets == lex_formbrack) {
2449                 expect = XTERM;
2450                 depcom();
2451                 return ',';     /* grandfather non-comma-format format */
2452             }
2453             else
2454                 no_op("String",s);
2455         }
2456         if (!s)
2457             missingterm((char*)0);
2458         yylval.ival = OP_CONST;
2459         TERM(sublex_start());
2460
2461     case '"':
2462         s = scan_str(s);
2463         if (expect == XOPERATOR) {
2464             if (lex_formbrack && lex_brackets == lex_formbrack) {
2465                 expect = XTERM;
2466                 depcom();
2467                 return ',';     /* grandfather non-comma-format format */
2468             }
2469             else
2470                 no_op("String",s);
2471         }
2472         if (!s)
2473             missingterm((char*)0);
2474         yylval.ival = OP_CONST;
2475         for (d = SvPV(lex_stuff, len); len; len--, d++) {
2476             if (*d == '$' || *d == '@' || *d == '\\') {
2477                 yylval.ival = OP_STRINGIFY;
2478                 break;
2479             }
2480         }
2481         TERM(sublex_start());
2482
2483     case '`':
2484         s = scan_str(s);
2485         if (expect == XOPERATOR)
2486             no_op("Backticks",s);
2487         if (!s)
2488             missingterm((char*)0);
2489         yylval.ival = OP_BACKTICK;
2490         set_csh();
2491         TERM(sublex_start());
2492
2493     case '\\':
2494         s++;
2495         if (dowarn && lex_inwhat && isDIGIT(*s))
2496             warn("Can't use \\%c to mean $%c in expression", *s, *s);
2497         if (expect == XOPERATOR)
2498             no_op("Backslash",s);
2499         OPERATOR(REFGEN);
2500
2501     case 'x':
2502         if (isDIGIT(s[1]) && expect == XOPERATOR) {
2503             s++;
2504             Mop(OP_REPEAT);
2505         }
2506         goto keylookup;
2507
2508     case '_':
2509     case 'a': case 'A':
2510     case 'b': case 'B':
2511     case 'c': case 'C':
2512     case 'd': case 'D':
2513     case 'e': case 'E':
2514     case 'f': case 'F':
2515     case 'g': case 'G':
2516     case 'h': case 'H':
2517     case 'i': case 'I':
2518     case 'j': case 'J':
2519     case 'k': case 'K':
2520     case 'l': case 'L':
2521     case 'm': case 'M':
2522     case 'n': case 'N':
2523     case 'o': case 'O':
2524     case 'p': case 'P':
2525     case 'q': case 'Q':
2526     case 'r': case 'R':
2527     case 's': case 'S':
2528     case 't': case 'T':
2529     case 'u': case 'U':
2530     case 'v': case 'V':
2531     case 'w': case 'W':
2532               case 'X':
2533     case 'y': case 'Y':
2534     case 'z': case 'Z':
2535
2536       keylookup:
2537         bufptr = s;
2538         s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2539
2540         /* Some keywords can be followed by any delimiter, including ':' */
2541         tmp = (len == 1 && strchr("msyq", tokenbuf[0]) ||
2542                len == 2 && ((tokenbuf[0] == 't' && tokenbuf[1] == 'r') ||
2543                             (tokenbuf[0] == 'q' &&
2544                              strchr("qwx", tokenbuf[1]))));
2545
2546         /* x::* is just a word, unless x is "CORE" */
2547         if (!tmp && *s == ':' && s[1] == ':' && strNE(tokenbuf, "CORE"))
2548             goto just_a_word;
2549
2550         d = s;
2551         while (d < bufend && isSPACE(*d))
2552                 d++;    /* no comments skipped here, or s### is misparsed */
2553
2554         /* Is this a label? */
2555         if (!tmp && expect == XSTATE
2556               && d < bufend && *d == ':' && *(d + 1) != ':') {
2557             s = d + 1;
2558             yylval.pval = savepv(tokenbuf);
2559             CLINE;
2560             TOKEN(LABEL);
2561         }
2562
2563         /* Check for keywords */
2564         tmp = keyword(tokenbuf, len);
2565
2566         /* Is this a word before a => operator? */
2567         if (strnEQ(d,"=>",2)) {
2568             CLINE;
2569             if (dowarn && (tmp || perl_get_cv(tokenbuf, FALSE)))
2570                 warn("Ambiguous use of %s => resolved to \"%s\" =>",
2571                         tokenbuf, tokenbuf);
2572             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2573             yylval.opval->op_private = OPpCONST_BARE;
2574             TERM(WORD);
2575         }
2576
2577         if (tmp < 0) {                  /* second-class keyword? */
2578             GV* gv;
2579             if (expect != XOPERATOR &&
2580                 (*s != ':' || s[1] != ':') &&
2581                 (gv = gv_fetchpv(tokenbuf, FALSE, SVt_PVCV)) &&
2582                 GvIMPORTED_CV(gv))
2583             {
2584                 tmp = 0;
2585             }
2586             else
2587                 tmp = -tmp;
2588         }
2589
2590       reserved_word:
2591         switch (tmp) {
2592
2593         default:                        /* not a keyword */
2594           just_a_word: {
2595                 GV *gv;
2596                 SV *sv;
2597                 char lastchar = (bufptr == oldoldbufptr ? 0 : bufptr[-1]);
2598
2599                 /* Get the rest if it looks like a package qualifier */
2600
2601                 if (*s == '\'' || *s == ':' && s[1] == ':') {
2602                     s = scan_word(s, tokenbuf + len, sizeof tokenbuf - len,
2603                                   TRUE, &len);
2604                     if (!len)
2605                         croak("Bad name after %s::", tokenbuf);
2606                 }
2607
2608                 if (expect == XOPERATOR) {
2609                     if (bufptr == linestart) {
2610                         curcop->cop_line--;
2611                         warn(warn_nosemi);
2612                         curcop->cop_line++;
2613                     }
2614                     else
2615                         no_op("Bareword",s);
2616                 }
2617
2618                 /* Look for a subroutine with this name in current package. */
2619
2620                 gv = gv_fetchpv(tokenbuf,FALSE, SVt_PVCV);
2621
2622                 /* Presume this is going to be a bareword of some sort. */
2623
2624                 CLINE;
2625                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2626                 yylval.opval->op_private = OPpCONST_BARE;
2627
2628                 /* See if it's the indirect object for a list operator. */
2629
2630                 if (oldoldbufptr &&
2631                     oldoldbufptr < bufptr &&
2632                     (oldoldbufptr == last_lop || oldoldbufptr == last_uni) &&
2633                     /* NO SKIPSPACE BEFORE HERE! */
2634                     (expect == XREF ||
2635                      (opargs[last_lop_op] >> OASHIFT & 7) == OA_FILEREF) )
2636                 {
2637                     bool immediate_paren = *s == '(';
2638
2639                     /* (Now we can afford to cross potential line boundary.) */
2640                     s = skipspace(s);
2641
2642                     /* Two barewords in a row may indicate method call. */
2643
2644                     if ((isALPHA(*s) || *s == '$') && (tmp=intuit_method(s,gv)))
2645                         return tmp;
2646
2647                     /* If not a declared subroutine, it's an indirect object. */
2648                     /* (But it's an indir obj regardless for sort.) */
2649
2650                     if ((last_lop_op == OP_SORT ||
2651                          (!immediate_paren && (!gv || !GvCVu(gv))) ) &&
2652                         (last_lop_op != OP_MAPSTART && last_lop_op != OP_GREPSTART)){
2653                         expect = (last_lop == oldoldbufptr) ? XTERM : XOPERATOR;
2654                         goto bareword;
2655                     }
2656                 }
2657
2658                 /* If followed by a paren, it's certainly a subroutine. */
2659
2660                 expect = XOPERATOR;
2661                 s = skipspace(s);
2662                 if (*s == '(') {
2663                     CLINE;
2664                     if (gv && GvCVu(gv)) {
2665                         for (d = s + 1; *d == ' ' || *d == '\t'; d++) ;
2666                         if (*d == ')' && (sv = cv_const_sv(GvCV(gv)))) {
2667                             s = d + 1;
2668                             goto its_constant;
2669                         }
2670                     }
2671                     nextval[nexttoke].opval = yylval.opval;
2672                     expect = XOPERATOR;
2673                     force_next(WORD);
2674                     yylval.ival = 0;
2675                     TOKEN('&');
2676                 }
2677
2678                 /* If followed by var or block, call it a method (unless sub) */
2679
2680                 if ((*s == '$' || *s == '{') && (!gv || !GvCVu(gv))) {
2681                     last_lop = oldbufptr;
2682                     last_lop_op = OP_METHOD;
2683                     PREBLOCK(METHOD);
2684                 }
2685
2686                 /* If followed by a bareword, see if it looks like indir obj. */
2687
2688                 if ((isALPHA(*s) || *s == '$') && (tmp = intuit_method(s,gv)))
2689                     return tmp;
2690
2691                 /* Not a method, so call it a subroutine (if defined) */
2692
2693                 if (gv && GvCVu(gv)) {
2694                     CV* cv;
2695                     if (lastchar == '-')
2696                         warn("Ambiguous use of -%s resolved as -&%s()",
2697                                 tokenbuf, tokenbuf);
2698                     last_lop = oldbufptr;
2699                     last_lop_op = OP_ENTERSUB;
2700                     /* Check for a constant sub */
2701                     cv = GvCV(gv);
2702                     if ((sv = cv_const_sv(cv))) {
2703                   its_constant:
2704                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
2705                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc(sv);
2706                         yylval.opval->op_private = 0;
2707                         TOKEN(WORD);
2708                     }
2709
2710                     /* Resolve to GV now. */
2711                     op_free(yylval.opval);
2712                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
2713                     /* Is there a prototype? */
2714                     if (SvPOK(cv)) {
2715                         STRLEN len;
2716                         char *proto = SvPV((SV*)cv, len);
2717                         if (!len)
2718                             TERM(FUNC0SUB);
2719                         if (strEQ(proto, "$"))
2720                             OPERATOR(UNIOPSUB);
2721                         if (*proto == '&' && *s == '{') {
2722                             sv_setpv(subname,"__ANON__");
2723                             PREBLOCK(LSTOPSUB);
2724                         }
2725                     }
2726                     nextval[nexttoke].opval = yylval.opval;
2727                     expect = XTERM;
2728                     force_next(WORD);
2729                     TOKEN(NOAMP);
2730                 }
2731
2732                 if (hints & HINT_STRICT_SUBS &&
2733                     lastchar != '-' &&
2734                     strnNE(s,"->",2) &&
2735                     last_lop_op != OP_TRUNCATE &&  /* S/F prototype in opcode.pl */
2736                     last_lop_op != OP_ACCEPT &&
2737                     last_lop_op != OP_PIPE_OP &&
2738                     last_lop_op != OP_SOCKPAIR)
2739                 {
2740                     warn(
2741                      "Bareword \"%s\" not allowed while \"strict subs\" in use",
2742                         tokenbuf);
2743                     ++error_count;
2744                 }
2745
2746                 /* Call it a bare word */
2747
2748             bareword:
2749                 if (dowarn) {
2750                     if (lastchar != '-') {
2751                         for (d = tokenbuf; *d && isLOWER(*d); d++) ;
2752                         if (!*d)
2753                             warn(warn_reserved, tokenbuf);
2754                     }
2755                 }
2756                 if (lastchar && strchr("*%&", lastchar)) {
2757                     warn("Operator or semicolon missing before %c%s",
2758                         lastchar, tokenbuf);
2759                     warn("Ambiguous use of %c resolved as operator %c",
2760                         lastchar, lastchar);
2761                 }
2762                 TOKEN(WORD);
2763             }
2764
2765         case KEY___FILE__:
2766             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2767                                         newSVsv(GvSV(curcop->cop_filegv)));
2768             TERM(THING);
2769
2770         case KEY___LINE__:
2771             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2772                                     newSVpvf("%ld", (long)curcop->cop_line));
2773             TERM(THING);
2774
2775         case KEY___PACKAGE__:
2776             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2777                                         (curstash
2778                                          ? newSVsv(curstname)
2779                                          : &sv_undef));
2780             TERM(THING);
2781
2782         case KEY___DATA__:
2783         case KEY___END__: {
2784             GV *gv;
2785
2786             /*SUPPRESS 560*/
2787             if (rsfp && (!in_eval || tokenbuf[2] == 'D')) {
2788                 char *pname = "main";
2789                 if (tokenbuf[2] == 'D')
2790                     pname = HvNAME(curstash ? curstash : defstash);
2791                 gv = gv_fetchpv(form("%s::DATA", pname), TRUE, SVt_PVIO);
2792                 GvMULTI_on(gv);
2793                 if (!GvIO(gv))
2794                     GvIOp(gv) = newIO();
2795                 IoIFP(GvIOp(gv)) = rsfp;
2796 #if defined(HAS_FCNTL) && defined(F_SETFD)
2797                 {
2798                     int fd = PerlIO_fileno(rsfp);
2799                     fcntl(fd,F_SETFD,fd >= 3);
2800                 }
2801 #endif
2802                 /* Mark this internal pseudo-handle as clean */
2803                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
2804                 if (preprocess)
2805                     IoTYPE(GvIOp(gv)) = '|';
2806                 else if ((PerlIO*)rsfp == PerlIO_stdin())
2807                     IoTYPE(GvIOp(gv)) = '-';
2808                 else
2809                     IoTYPE(GvIOp(gv)) = '<';
2810                 rsfp = Nullfp;
2811             }
2812             goto fake_eof;
2813         }
2814
2815         case KEY_AUTOLOAD:
2816         case KEY_DESTROY:
2817         case KEY_BEGIN:
2818         case KEY_END:
2819         case KEY_INIT:
2820             if (expect == XSTATE) {
2821                 s = bufptr;
2822                 goto really_sub;
2823             }
2824             goto just_a_word;
2825
2826         case KEY_CORE:
2827             if (*s == ':' && s[1] == ':') {
2828                 s += 2;
2829                 d = s;
2830                 s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2831                 tmp = keyword(tokenbuf, len);
2832                 if (tmp < 0)
2833                     tmp = -tmp;
2834                 goto reserved_word;
2835             }
2836             goto just_a_word;
2837
2838         case KEY_abs:
2839             UNI(OP_ABS);
2840
2841         case KEY_alarm:
2842             UNI(OP_ALARM);
2843
2844         case KEY_accept:
2845             LOP(OP_ACCEPT,XTERM);
2846
2847         case KEY_and:
2848             OPERATOR(ANDOP);
2849
2850         case KEY_atan2:
2851             LOP(OP_ATAN2,XTERM);
2852
2853         case KEY_bind:
2854             LOP(OP_BIND,XTERM);
2855
2856         case KEY_binmode:
2857             UNI(OP_BINMODE);
2858
2859         case KEY_bless:
2860             LOP(OP_BLESS,XTERM);
2861
2862         case KEY_chop:
2863             UNI(OP_CHOP);
2864
2865         case KEY_continue:
2866             PREBLOCK(CONTINUE);
2867
2868         case KEY_chdir:
2869             (void)gv_fetchpv("ENV",TRUE, SVt_PVHV);     /* may use HOME */
2870             UNI(OP_CHDIR);
2871
2872         case KEY_close:
2873             UNI(OP_CLOSE);
2874
2875         case KEY_closedir:
2876             UNI(OP_CLOSEDIR);
2877
2878         case KEY_cmp:
2879             Eop(OP_SCMP);
2880
2881         case KEY_caller:
2882             UNI(OP_CALLER);
2883
2884         case KEY_crypt:
2885 #ifdef FCRYPT
2886             if (!cryptseen++)
2887                 init_des();
2888 #endif
2889             LOP(OP_CRYPT,XTERM);
2890
2891         case KEY_chmod:
2892             if (dowarn) {
2893                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
2894                 if (*d != '0' && isDIGIT(*d))
2895                     yywarn("chmod: mode argument is missing initial 0");
2896             }
2897             LOP(OP_CHMOD,XTERM);
2898
2899         case KEY_chown:
2900             LOP(OP_CHOWN,XTERM);
2901
2902         case KEY_connect:
2903             LOP(OP_CONNECT,XTERM);
2904
2905         case KEY_chr:
2906             UNI(OP_CHR);
2907
2908         case KEY_cos:
2909             UNI(OP_COS);
2910
2911         case KEY_chroot:
2912             UNI(OP_CHROOT);
2913
2914         case KEY_do:
2915             s = skipspace(s);
2916             if (*s == '{')
2917                 PRETERMBLOCK(DO);
2918             if (*s != '\'')
2919                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
2920             OPERATOR(DO);
2921
2922         case KEY_die:
2923             hints |= HINT_BLOCK_SCOPE;
2924             LOP(OP_DIE,XTERM);
2925
2926         case KEY_defined:
2927             UNI(OP_DEFINED);
2928
2929         case KEY_delete:
2930             UNI(OP_DELETE);
2931
2932         case KEY_dbmopen:
2933             gv_fetchpv("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
2934             LOP(OP_DBMOPEN,XTERM);
2935
2936         case KEY_dbmclose:
2937             UNI(OP_DBMCLOSE);
2938
2939         case KEY_dump:
2940             s = force_word(s,WORD,TRUE,FALSE,FALSE);
2941             LOOPX(OP_DUMP);
2942
2943         case KEY_else:
2944             PREBLOCK(ELSE);
2945
2946         case KEY_elsif:
2947             yylval.ival = curcop->cop_line;
2948             OPERATOR(ELSIF);
2949
2950         case KEY_eq:
2951             Eop(OP_SEQ);
2952
2953         case KEY_exists:
2954             UNI(OP_EXISTS);
2955
2956         case KEY_exit:
2957             UNI(OP_EXIT);
2958
2959         case KEY_eval:
2960             s = skipspace(s);
2961             expect = (*s == '{') ? XTERMBLOCK : XTERM;
2962             UNIBRACK(OP_ENTEREVAL);
2963
2964         case KEY_eof:
2965             UNI(OP_EOF);
2966
2967         case KEY_exp:
2968             UNI(OP_EXP);
2969
2970         case KEY_each:
2971             UNI(OP_EACH);
2972
2973         case KEY_exec:
2974             set_csh();
2975             LOP(OP_EXEC,XREF);
2976
2977         case KEY_endhostent:
2978             FUN0(OP_EHOSTENT);
2979
2980         case KEY_endnetent:
2981             FUN0(OP_ENETENT);
2982
2983         case KEY_endservent:
2984             FUN0(OP_ESERVENT);
2985
2986         case KEY_endprotoent:
2987             FUN0(OP_EPROTOENT);
2988
2989         case KEY_endpwent:
2990             FUN0(OP_EPWENT);
2991
2992         case KEY_endgrent:
2993             FUN0(OP_EGRENT);
2994
2995         case KEY_for:
2996         case KEY_foreach:
2997             yylval.ival = curcop->cop_line;
2998             s = skipspace(s);
2999             if (isIDFIRST(*s)) {
3000                 char *p = s;
3001                 if ((bufend - p) >= 3 &&
3002                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
3003                     p += 2;
3004                 p = skipspace(p);
3005                 if (isIDFIRST(*p))
3006                     croak("Missing $ on loop variable");
3007             }
3008             OPERATOR(FOR);
3009
3010         case KEY_formline:
3011             LOP(OP_FORMLINE,XTERM);
3012
3013         case KEY_fork:
3014             FUN0(OP_FORK);
3015
3016         case KEY_fcntl:
3017             LOP(OP_FCNTL,XTERM);
3018
3019         case KEY_fileno:
3020             UNI(OP_FILENO);
3021
3022         case KEY_flock:
3023             LOP(OP_FLOCK,XTERM);
3024
3025         case KEY_gt:
3026             Rop(OP_SGT);
3027
3028         case KEY_ge:
3029             Rop(OP_SGE);
3030
3031         case KEY_grep:
3032             LOP(OP_GREPSTART, *s == '(' ? XTERM : XREF);
3033
3034         case KEY_goto:
3035             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3036             LOOPX(OP_GOTO);
3037
3038         case KEY_gmtime:
3039             UNI(OP_GMTIME);
3040
3041         case KEY_getc:
3042             UNI(OP_GETC);
3043
3044         case KEY_getppid:
3045             FUN0(OP_GETPPID);
3046
3047         case KEY_getpgrp:
3048             UNI(OP_GETPGRP);
3049
3050         case KEY_getpriority:
3051             LOP(OP_GETPRIORITY,XTERM);
3052
3053         case KEY_getprotobyname:
3054             UNI(OP_GPBYNAME);
3055
3056         case KEY_getprotobynumber:
3057             LOP(OP_GPBYNUMBER,XTERM);
3058
3059         case KEY_getprotoent:
3060             FUN0(OP_GPROTOENT);
3061
3062         case KEY_getpwent:
3063             FUN0(OP_GPWENT);
3064
3065         case KEY_getpwnam:
3066             UNI(OP_GPWNAM);
3067
3068         case KEY_getpwuid:
3069             UNI(OP_GPWUID);
3070
3071         case KEY_getpeername:
3072             UNI(OP_GETPEERNAME);
3073
3074         case KEY_gethostbyname:
3075             UNI(OP_GHBYNAME);
3076
3077         case KEY_gethostbyaddr:
3078             LOP(OP_GHBYADDR,XTERM);
3079
3080         case KEY_gethostent:
3081             FUN0(OP_GHOSTENT);
3082
3083         case KEY_getnetbyname:
3084             UNI(OP_GNBYNAME);
3085
3086         case KEY_getnetbyaddr:
3087             LOP(OP_GNBYADDR,XTERM);
3088
3089         case KEY_getnetent:
3090             FUN0(OP_GNETENT);
3091
3092         case KEY_getservbyname:
3093             LOP(OP_GSBYNAME,XTERM);
3094
3095         case KEY_getservbyport:
3096             LOP(OP_GSBYPORT,XTERM);
3097
3098         case KEY_getservent:
3099             FUN0(OP_GSERVENT);
3100
3101         case KEY_getsockname:
3102             UNI(OP_GETSOCKNAME);
3103
3104         case KEY_getsockopt:
3105             LOP(OP_GSOCKOPT,XTERM);
3106
3107         case KEY_getgrent:
3108             FUN0(OP_GGRENT);
3109
3110         case KEY_getgrnam:
3111             UNI(OP_GGRNAM);
3112
3113         case KEY_getgrgid:
3114             UNI(OP_GGRGID);
3115
3116         case KEY_getlogin:
3117             FUN0(OP_GETLOGIN);
3118
3119         case KEY_glob:
3120             set_csh();
3121             LOP(OP_GLOB,XTERM);
3122
3123         case KEY_hex:
3124             UNI(OP_HEX);
3125
3126         case KEY_if:
3127             yylval.ival = curcop->cop_line;
3128             OPERATOR(IF);
3129
3130         case KEY_index:
3131             LOP(OP_INDEX,XTERM);
3132
3133         case KEY_int:
3134             UNI(OP_INT);
3135
3136         case KEY_ioctl:
3137             LOP(OP_IOCTL,XTERM);
3138
3139         case KEY_join:
3140             LOP(OP_JOIN,XTERM);
3141
3142         case KEY_keys:
3143             UNI(OP_KEYS);
3144
3145         case KEY_kill:
3146             LOP(OP_KILL,XTERM);
3147
3148         case KEY_last:
3149             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3150             LOOPX(OP_LAST);
3151
3152         case KEY_lc:
3153             UNI(OP_LC);
3154
3155         case KEY_lcfirst:
3156             UNI(OP_LCFIRST);
3157
3158         case KEY_local:
3159             OPERATOR(LOCAL);
3160
3161         case KEY_length:
3162             UNI(OP_LENGTH);
3163
3164         case KEY_lt:
3165             Rop(OP_SLT);
3166
3167         case KEY_le:
3168             Rop(OP_SLE);
3169
3170         case KEY_localtime:
3171             UNI(OP_LOCALTIME);
3172
3173         case KEY_log:
3174             UNI(OP_LOG);
3175
3176         case KEY_link:
3177             LOP(OP_LINK,XTERM);
3178
3179         case KEY_listen:
3180             LOP(OP_LISTEN,XTERM);
3181
3182         case KEY_lock:
3183             UNI(OP_LOCK);
3184
3185         case KEY_lstat:
3186             UNI(OP_LSTAT);
3187
3188         case KEY_m:
3189             s = scan_pat(s);
3190             TERM(sublex_start());
3191
3192         case KEY_map:
3193             LOP(OP_MAPSTART,XREF);
3194
3195         case KEY_mkdir:
3196             LOP(OP_MKDIR,XTERM);
3197
3198         case KEY_msgctl:
3199             LOP(OP_MSGCTL,XTERM);
3200
3201         case KEY_msgget:
3202             LOP(OP_MSGGET,XTERM);
3203
3204         case KEY_msgrcv:
3205             LOP(OP_MSGRCV,XTERM);
3206
3207         case KEY_msgsnd:
3208             LOP(OP_MSGSND,XTERM);
3209
3210         case KEY_my:
3211             in_my = TRUE;
3212             s = skipspace(s);
3213             if (isIDFIRST(*s)) {
3214                 s = scan_word(s, tokenbuf, sizeof tokenbuf, TRUE, &len);
3215                 in_my_stash = gv_stashpv(tokenbuf, FALSE);
3216                 if (!in_my_stash) {
3217                     char tmpbuf[1024];
3218                     bufptr = s;
3219                     sprintf(tmpbuf, "No such class %.1000s", tokenbuf);
3220                     yyerror(tmpbuf);
3221                 }
3222             }
3223             OPERATOR(MY);
3224
3225         case KEY_next:
3226             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3227             LOOPX(OP_NEXT);
3228
3229         case KEY_ne:
3230             Eop(OP_SNE);
3231
3232         case KEY_no:
3233             if (expect != XSTATE)
3234                 yyerror("\"no\" not allowed in expression");
3235             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3236             s = force_version(s);
3237             yylval.ival = 0;
3238             OPERATOR(USE);
3239
3240         case KEY_not:
3241             OPERATOR(NOTOP);
3242
3243         case KEY_open:
3244             s = skipspace(s);
3245             if (isIDFIRST(*s)) {
3246                 char *t;
3247                 for (d = s; isALNUM(*d); d++) ;
3248                 t = skipspace(d);
3249                 if (strchr("|&*+-=!?:.", *t))
3250                     warn("Precedence problem: open %.*s should be open(%.*s)",
3251                         d-s,s, d-s,s);
3252             }
3253             LOP(OP_OPEN,XTERM);
3254
3255         case KEY_or:
3256             yylval.ival = OP_OR;
3257             OPERATOR(OROP);
3258
3259         case KEY_ord:
3260             UNI(OP_ORD);
3261
3262         case KEY_oct:
3263             UNI(OP_OCT);
3264
3265         case KEY_opendir:
3266             LOP(OP_OPEN_DIR,XTERM);
3267
3268         case KEY_print:
3269             checkcomma(s,tokenbuf,"filehandle");
3270             LOP(OP_PRINT,XREF);
3271
3272         case KEY_printf:
3273             checkcomma(s,tokenbuf,"filehandle");
3274             LOP(OP_PRTF,XREF);
3275
3276         case KEY_prototype:
3277             UNI(OP_PROTOTYPE);
3278
3279         case KEY_push:
3280             LOP(OP_PUSH,XTERM);
3281
3282         case KEY_pop:
3283             UNI(OP_POP);
3284
3285         case KEY_pos:
3286             UNI(OP_POS);
3287
3288         case KEY_pack:
3289             LOP(OP_PACK,XTERM);
3290
3291         case KEY_package:
3292             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3293             OPERATOR(PACKAGE);
3294
3295         case KEY_pipe:
3296             LOP(OP_PIPE_OP,XTERM);
3297
3298         case KEY_q:
3299             s = scan_str(s);
3300             if (!s)
3301                 missingterm((char*)0);
3302             yylval.ival = OP_CONST;
3303             TERM(sublex_start());
3304
3305         case KEY_quotemeta:
3306             UNI(OP_QUOTEMETA);
3307
3308         case KEY_qw:
3309             s = scan_str(s);
3310             if (!s)
3311                 missingterm((char*)0);
3312             if (dowarn && SvLEN(lex_stuff)) {
3313                 d = SvPV_force(lex_stuff, len);
3314                 for (; len; --len, ++d) {
3315                     if (*d == ',') {
3316                         warn("Possible attempt to separate words with commas");
3317                         break;
3318                     }
3319                     if (*d == '#') {
3320                         warn("Possible attempt to put comments in qw() list");
3321                         break;
3322                     }
3323                 }
3324             }
3325             force_next(')');
3326             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, q(lex_stuff));
3327             lex_stuff = Nullsv;
3328             force_next(THING);
3329             force_next(',');
3330             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(" ",1));
3331             force_next(THING);
3332             force_next('(');
3333             yylval.ival = OP_SPLIT;
3334             CLINE;
3335             expect = XTERM;
3336             bufptr = s;
3337             last_lop = oldbufptr;
3338             last_lop_op = OP_SPLIT;
3339             return FUNC;
3340
3341         case KEY_qq:
3342             s = scan_str(s);
3343             if (!s)
3344                 missingterm((char*)0);
3345             yylval.ival = OP_STRINGIFY;
3346             if (SvIVX(lex_stuff) == '\'')
3347                 SvIVX(lex_stuff) = 0;   /* qq'$foo' should intepolate */
3348             TERM(sublex_start());
3349
3350         case KEY_qx:
3351             s = scan_str(s);
3352             if (!s)
3353                 missingterm((char*)0);
3354             yylval.ival = OP_BACKTICK;
3355             set_csh();
3356             TERM(sublex_start());
3357
3358         case KEY_return:
3359             OLDLOP(OP_RETURN);
3360
3361         case KEY_require:
3362             *tokenbuf = '\0';
3363             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3364             if (isIDFIRST(*tokenbuf))
3365                 gv_stashpvn(tokenbuf, strlen(tokenbuf), TRUE);
3366             else if (*s == '<')
3367                 yyerror("<> should be quotes");
3368             UNI(OP_REQUIRE);
3369
3370         case KEY_reset:
3371             UNI(OP_RESET);
3372
3373         case KEY_redo:
3374             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3375             LOOPX(OP_REDO);
3376
3377         case KEY_rename:
3378             LOP(OP_RENAME,XTERM);
3379
3380         case KEY_rand:
3381             UNI(OP_RAND);
3382
3383         case KEY_rmdir:
3384             UNI(OP_RMDIR);
3385
3386         case KEY_rindex:
3387             LOP(OP_RINDEX,XTERM);
3388
3389         case KEY_read:
3390             LOP(OP_READ,XTERM);
3391
3392         case KEY_readdir:
3393             UNI(OP_READDIR);
3394
3395         case KEY_readline:
3396             set_csh();
3397             UNI(OP_READLINE);
3398
3399         case KEY_readpipe:
3400             set_csh();
3401             UNI(OP_BACKTICK);
3402
3403         case KEY_rewinddir:
3404             UNI(OP_REWINDDIR);
3405
3406         case KEY_recv:
3407             LOP(OP_RECV,XTERM);
3408
3409         case KEY_reverse:
3410             LOP(OP_REVERSE,XTERM);
3411
3412         case KEY_readlink:
3413             UNI(OP_READLINK);
3414
3415         case KEY_ref:
3416             UNI(OP_REF);
3417
3418         case KEY_s:
3419             s = scan_subst(s);
3420             if (yylval.opval)
3421                 TERM(sublex_start());
3422             else
3423                 TOKEN(1);       /* force error */
3424
3425         case KEY_chomp:
3426             UNI(OP_CHOMP);
3427
3428         case KEY_scalar:
3429             UNI(OP_SCALAR);
3430
3431         case KEY_select:
3432             LOP(OP_SELECT,XTERM);
3433
3434         case KEY_seek:
3435             LOP(OP_SEEK,XTERM);
3436
3437         case KEY_semctl:
3438             LOP(OP_SEMCTL,XTERM);
3439
3440         case KEY_semget:
3441             LOP(OP_SEMGET,XTERM);
3442
3443         case KEY_semop:
3444             LOP(OP_SEMOP,XTERM);
3445
3446         case KEY_send:
3447             LOP(OP_SEND,XTERM);
3448
3449         case KEY_setpgrp:
3450             LOP(OP_SETPGRP,XTERM);
3451
3452         case KEY_setpriority:
3453             LOP(OP_SETPRIORITY,XTERM);
3454
3455         case KEY_sethostent:
3456             UNI(OP_SHOSTENT);
3457
3458         case KEY_setnetent:
3459             UNI(OP_SNETENT);
3460
3461         case KEY_setservent:
3462             UNI(OP_SSERVENT);
3463
3464         case KEY_setprotoent:
3465             UNI(OP_SPROTOENT);
3466
3467         case KEY_setpwent:
3468             FUN0(OP_SPWENT);
3469
3470         case KEY_setgrent:
3471             FUN0(OP_SGRENT);
3472
3473         case KEY_seekdir:
3474             LOP(OP_SEEKDIR,XTERM);
3475
3476         case KEY_setsockopt:
3477             LOP(OP_SSOCKOPT,XTERM);
3478
3479         case KEY_shift:
3480             UNI(OP_SHIFT);
3481
3482         case KEY_shmctl:
3483             LOP(OP_SHMCTL,XTERM);
3484
3485         case KEY_shmget:
3486             LOP(OP_SHMGET,XTERM);
3487
3488         case KEY_shmread:
3489             LOP(OP_SHMREAD,XTERM);
3490
3491         case KEY_shmwrite:
3492             LOP(OP_SHMWRITE,XTERM);
3493
3494         case KEY_shutdown:
3495             LOP(OP_SHUTDOWN,XTERM);
3496
3497         case KEY_sin:
3498             UNI(OP_SIN);
3499
3500         case KEY_sleep:
3501             UNI(OP_SLEEP);
3502
3503         case KEY_socket:
3504             LOP(OP_SOCKET,XTERM);
3505
3506         case KEY_socketpair:
3507             LOP(OP_SOCKPAIR,XTERM);
3508
3509         case KEY_sort:
3510             checkcomma(s,tokenbuf,"subroutine name");
3511             s = skipspace(s);
3512             if (*s == ';' || *s == ')')         /* probably a close */
3513                 croak("sort is now a reserved word");
3514             expect = XTERM;
3515             s = force_word(s,WORD,TRUE,TRUE,TRUE);
3516             LOP(OP_SORT,XREF);
3517
3518         case KEY_split:
3519             LOP(OP_SPLIT,XTERM);
3520
3521         case KEY_sprintf:
3522             LOP(OP_SPRINTF,XTERM);
3523
3524         case KEY_splice:
3525             LOP(OP_SPLICE,XTERM);
3526
3527         case KEY_sqrt:
3528             UNI(OP_SQRT);
3529
3530         case KEY_srand:
3531             UNI(OP_SRAND);
3532
3533         case KEY_stat:
3534             UNI(OP_STAT);
3535
3536         case KEY_study:
3537             sawstudy++;
3538             UNI(OP_STUDY);
3539
3540         case KEY_substr:
3541             LOP(OP_SUBSTR,XTERM);
3542
3543         case KEY_format:
3544         case KEY_sub:
3545           really_sub:
3546             s = skipspace(s);
3547
3548             if (isIDFIRST(*s) || *s == '\'' || *s == ':') {
3549                 char tmpbuf[sizeof tokenbuf];
3550                 expect = XBLOCK;
3551                 d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
3552                 if (strchr(tmpbuf, ':'))
3553                     sv_setpv(subname, tmpbuf);
3554                 else {
3555                     sv_setsv(subname,curstname);
3556                     sv_catpvn(subname,"::",2);
3557                     sv_catpvn(subname,tmpbuf,len);
3558                 }
3559                 s = force_word(s,WORD,FALSE,TRUE,TRUE);
3560                 s = skipspace(s);
3561             }
3562             else {
3563                 expect = XTERMBLOCK;
3564                 sv_setpv(subname,"?");
3565             }
3566
3567             if (tmp == KEY_format) {
3568                 s = skipspace(s);
3569                 if (*s == '=')
3570                     lex_formbrack = lex_brackets + 1;
3571                 OPERATOR(FORMAT);
3572             }
3573
3574             /* Look for a prototype */
3575             if (*s == '(') {
3576                 char *p;
3577
3578                 s = scan_str(s);
3579                 if (!s) {
3580                     if (lex_stuff)
3581                         SvREFCNT_dec(lex_stuff);
3582                     lex_stuff = Nullsv;
3583                     croak("Prototype not terminated");
3584                 }
3585                 /* strip spaces */
3586                 d = SvPVX(lex_stuff);
3587                 tmp = 0;
3588                 for (p = d; *p; ++p) {
3589                     if (!isSPACE(*p))
3590                         d[tmp++] = *p;
3591                 }
3592                 d[tmp] = '\0';
3593                 SvCUR(lex_stuff) = tmp;
3594
3595                 nexttoke++;
3596                 nextval[1] = nextval[0];
3597                 nexttype[1] = nexttype[0];
3598                 nextval[0].opval = (OP*)newSVOP(OP_CONST, 0, lex_stuff);
3599                 nexttype[0] = THING;
3600                 if (nexttoke == 1) {
3601                     lex_defer = lex_state;
3602                     lex_expect = expect;
3603                     lex_state = LEX_KNOWNEXT;
3604                 }
3605                 lex_stuff = Nullsv;
3606             }
3607
3608             if (*SvPV(subname,na) == '?') {
3609                 sv_setpv(subname,"__ANON__");
3610                 TOKEN(ANONSUB);
3611             }
3612             PREBLOCK(SUB);
3613
3614         case KEY_system:
3615             set_csh();
3616             LOP(OP_SYSTEM,XREF);
3617
3618         case KEY_symlink:
3619             LOP(OP_SYMLINK,XTERM);
3620
3621         case KEY_syscall:
3622             LOP(OP_SYSCALL,XTERM);
3623
3624         case KEY_sysopen:
3625             LOP(OP_SYSOPEN,XTERM);
3626
3627         case KEY_sysseek:
3628             LOP(OP_SYSSEEK,XTERM);
3629
3630         case KEY_sysread:
3631             LOP(OP_SYSREAD,XTERM);
3632
3633         case KEY_syswrite:
3634             LOP(OP_SYSWRITE,XTERM);
3635
3636         case KEY_tr:
3637             s = scan_trans(s);
3638             TERM(sublex_start());
3639
3640         case KEY_tell:
3641             UNI(OP_TELL);
3642
3643         case KEY_telldir:
3644             UNI(OP_TELLDIR);
3645
3646         case KEY_tie:
3647             LOP(OP_TIE,XTERM);
3648
3649         case KEY_tied:
3650             UNI(OP_TIED);
3651
3652         case KEY_time:
3653             FUN0(OP_TIME);
3654
3655         case KEY_times:
3656             FUN0(OP_TMS);
3657
3658         case KEY_truncate:
3659             LOP(OP_TRUNCATE,XTERM);
3660
3661         case KEY_uc:
3662             UNI(OP_UC);
3663
3664         case KEY_ucfirst:
3665             UNI(OP_UCFIRST);
3666
3667         case KEY_untie:
3668             UNI(OP_UNTIE);
3669
3670         case KEY_until:
3671             yylval.ival = curcop->cop_line;
3672             OPERATOR(UNTIL);
3673
3674         case KEY_unless:
3675             yylval.ival = curcop->cop_line;
3676             OPERATOR(UNLESS);
3677
3678         case KEY_unlink:
3679             LOP(OP_UNLINK,XTERM);
3680
3681         case KEY_undef:
3682             UNI(OP_UNDEF);
3683
3684         case KEY_unpack:
3685             LOP(OP_UNPACK,XTERM);
3686
3687         case KEY_utime:
3688             LOP(OP_UTIME,XTERM);
3689
3690         case KEY_umask:
3691             if (dowarn) {
3692                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
3693                 if (*d != '0' && isDIGIT(*d))
3694                     yywarn("umask: argument is missing initial 0");
3695             }
3696             UNI(OP_UMASK);
3697
3698         case KEY_unshift:
3699             LOP(OP_UNSHIFT,XTERM);
3700
3701         case KEY_use:
3702             if (expect != XSTATE)
3703                 yyerror("\"use\" not allowed in expression");
3704             s = skipspace(s);
3705             if(isDIGIT(*s)) {
3706                 s = force_version(s);
3707                 if(*s == ';' || (s = skipspace(s), *s == ';')) {
3708                     nextval[nexttoke].opval = Nullop;
3709                     force_next(WORD);
3710                 }
3711             }
3712             else {
3713                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
3714                 s = force_version(s);
3715             }
3716             yylval.ival = 1;
3717             OPERATOR(USE);
3718
3719         case KEY_values:
3720             UNI(OP_VALUES);
3721
3722         case KEY_vec:
3723             sawvec = TRUE;
3724             LOP(OP_VEC,XTERM);
3725
3726         case KEY_while:
3727             yylval.ival = curcop->cop_line;
3728             OPERATOR(WHILE);
3729
3730         case KEY_warn:
3731             hints |= HINT_BLOCK_SCOPE;
3732             LOP(OP_WARN,XTERM);
3733
3734         case KEY_wait:
3735             FUN0(OP_WAIT);
3736
3737         case KEY_waitpid:
3738             LOP(OP_WAITPID,XTERM);
3739
3740         case KEY_wantarray:
3741             FUN0(OP_WANTARRAY);
3742
3743         case KEY_write:
3744             gv_fetchpv("\f",TRUE, SVt_PV);      /* Make sure $^L is defined */
3745             UNI(OP_ENTERWRITE);
3746
3747         case KEY_x:
3748             if (expect == XOPERATOR)
3749                 Mop(OP_REPEAT);
3750             check_uni();
3751             goto just_a_word;
3752
3753         case KEY_xor:
3754             yylval.ival = OP_XOR;
3755             OPERATOR(OROP);
3756
3757         case KEY_y:
3758             s = scan_trans(s);
3759             TERM(sublex_start());
3760         }
3761     }
3762 }
3763
3764 I32
3765 keyword(d, len)
3766 register char *d;
3767 I32 len;
3768 {
3769     switch (*d) {
3770     case '_':
3771         if (d[1] == '_') {
3772             if (strEQ(d,"__FILE__"))            return -KEY___FILE__;
3773             if (strEQ(d,"__LINE__"))            return -KEY___LINE__;
3774             if (strEQ(d,"__PACKAGE__"))         return -KEY___PACKAGE__;
3775             if (strEQ(d,"__DATA__"))            return KEY___DATA__;
3776             if (strEQ(d,"__END__"))             return KEY___END__;
3777         }
3778         break;
3779     case 'A':
3780         if (strEQ(d,"AUTOLOAD"))                return KEY_AUTOLOAD;
3781         break;
3782     case 'a':
3783         switch (len) {
3784         case 3:
3785             if (strEQ(d,"and"))                 return -KEY_and;
3786             if (strEQ(d,"abs"))                 return -KEY_abs;
3787             break;
3788         case 5:
3789             if (strEQ(d,"alarm"))               return -KEY_alarm;
3790             if (strEQ(d,"atan2"))               return -KEY_atan2;
3791             break;
3792         case 6:
3793             if (strEQ(d,"accept"))              return -KEY_accept;
3794             break;
3795         }
3796         break;
3797     case 'B':
3798         if (strEQ(d,"BEGIN"))                   return KEY_BEGIN;
3799         break;
3800     case 'b':
3801         if (strEQ(d,"bless"))                   return -KEY_bless;
3802         if (strEQ(d,"bind"))                    return -KEY_bind;
3803         if (strEQ(d,"binmode"))                 return -KEY_binmode;
3804         break;
3805     case 'C':
3806         if (strEQ(d,"CORE"))                    return -KEY_CORE;
3807         break;
3808     case 'c':
3809         switch (len) {
3810         case 3:
3811             if (strEQ(d,"cmp"))                 return -KEY_cmp;
3812             if (strEQ(d,"chr"))                 return -KEY_chr;
3813             if (strEQ(d,"cos"))                 return -KEY_cos;
3814             break;
3815         case 4:
3816             if (strEQ(d,"chop"))                return KEY_chop;
3817             break;
3818         case 5:
3819             if (strEQ(d,"close"))               return -KEY_close;
3820             if (strEQ(d,"chdir"))               return -KEY_chdir;
3821             if (strEQ(d,"chomp"))               return KEY_chomp;
3822             if (strEQ(d,"chmod"))               return -KEY_chmod;
3823             if (strEQ(d,"chown"))               return -KEY_chown;
3824             if (strEQ(d,"crypt"))               return -KEY_crypt;
3825             break;
3826         case 6:
3827             if (strEQ(d,"chroot"))              return -KEY_chroot;
3828             if (strEQ(d,"caller"))              return -KEY_caller;
3829             break;
3830         case 7:
3831             if (strEQ(d,"connect"))             return -KEY_connect;
3832             break;
3833         case 8:
3834             if (strEQ(d,"closedir"))            return -KEY_closedir;
3835             if (strEQ(d,"continue"))            return -KEY_continue;
3836             break;
3837         }
3838         break;
3839     case 'D':
3840         if (strEQ(d,"DESTROY"))                 return KEY_DESTROY;
3841         break;
3842     case 'd':
3843         switch (len) {
3844         case 2:
3845             if (strEQ(d,"do"))                  return KEY_do;
3846             break;
3847         case 3:
3848             if (strEQ(d,"die"))                 return -KEY_die;
3849             break;
3850         case 4:
3851             if (strEQ(d,"dump"))                return -KEY_dump;
3852             break;
3853         case 6:
3854             if (strEQ(d,"delete"))              return KEY_delete;
3855             break;
3856         case 7:
3857             if (strEQ(d,"defined"))             return KEY_defined;
3858             if (strEQ(d,"dbmopen"))             return -KEY_dbmopen;
3859             break;
3860         case 8:
3861             if (strEQ(d,"dbmclose"))            return -KEY_dbmclose;
3862             break;
3863         }
3864         break;
3865     case 'E':
3866         if (strEQ(d,"EQ")) { deprecate(d);      return -KEY_eq;}
3867         if (strEQ(d,"END"))                     return KEY_END;
3868         break;
3869     case 'e':
3870         switch (len) {
3871         case 2:
3872             if (strEQ(d,"eq"))                  return -KEY_eq;
3873             break;
3874         case 3:
3875             if (strEQ(d,"eof"))                 return -KEY_eof;
3876             if (strEQ(d,"exp"))                 return -KEY_exp;
3877             break;
3878         case 4:
3879             if (strEQ(d,"else"))                return KEY_else;
3880             if (strEQ(d,"exit"))                return -KEY_exit;
3881             if (strEQ(d,"eval"))                return KEY_eval;
3882             if (strEQ(d,"exec"))                return -KEY_exec;
3883             if (strEQ(d,"each"))                return KEY_each;
3884             break;
3885         case 5:
3886             if (strEQ(d,"elsif"))               return KEY_elsif;
3887             break;
3888         case 6:
3889             if (strEQ(d,"exists"))              return KEY_exists;
3890             if (strEQ(d,"elseif")) warn("elseif should be elsif");
3891             break;
3892         case 8:
3893             if (strEQ(d,"endgrent"))            return -KEY_endgrent;
3894             if (strEQ(d,"endpwent"))            return -KEY_endpwent;
3895             break;
3896         case 9:
3897             if (strEQ(d,"endnetent"))           return -KEY_endnetent;
3898             break;
3899         case 10:
3900             if (strEQ(d,"endhostent"))          return -KEY_endhostent;
3901             if (strEQ(d,"endservent"))          return -KEY_endservent;
3902             break;
3903         case 11:
3904             if (strEQ(d,"endprotoent"))         return -KEY_endprotoent;
3905             break;
3906         }
3907         break;
3908     case 'f':
3909         switch (len) {
3910         case 3:
3911             if (strEQ(d,"for"))                 return KEY_for;
3912             break;
3913         case 4:
3914             if (strEQ(d,"fork"))                return -KEY_fork;
3915             break;
3916         case 5:
3917             if (strEQ(d,"fcntl"))               return -KEY_fcntl;
3918             if (strEQ(d,"flock"))               return -KEY_flock;
3919             break;
3920         case 6:
3921             if (strEQ(d,"format"))              return KEY_format;
3922             if (strEQ(d,"fileno"))              return -KEY_fileno;
3923             break;
3924         case 7:
3925             if (strEQ(d,"foreach"))             return KEY_foreach;
3926             break;
3927         case 8:
3928             if (strEQ(d,"formline"))            return -KEY_formline;
3929             break;
3930         }
3931         break;
3932     case 'G':
3933         if (len == 2) {
3934             if (strEQ(d,"GT")) { deprecate(d);  return -KEY_gt;}
3935             if (strEQ(d,"GE")) { deprecate(d);  return -KEY_ge;}
3936         }
3937         break;
3938     case 'g':
3939         if (strnEQ(d,"get",3)) {
3940             d += 3;
3941             if (*d == 'p') {
3942                 switch (len) {
3943                 case 7:
3944                     if (strEQ(d,"ppid"))        return -KEY_getppid;
3945                     if (strEQ(d,"pgrp"))        return -KEY_getpgrp;
3946                     break;
3947                 case 8:
3948                     if (strEQ(d,"pwent"))       return -KEY_getpwent;
3949                     if (strEQ(d,"pwnam"))       return -KEY_getpwnam;
3950                     if (strEQ(d,"pwuid"))       return -KEY_getpwuid;
3951                     break;
3952                 case 11:
3953                     if (strEQ(d,"peername"))    return -KEY_getpeername;
3954                     if (strEQ(d,"protoent"))    return -KEY_getprotoent;
3955                     if (strEQ(d,"priority"))    return -KEY_getpriority;
3956                     break;
3957                 case 14:
3958                     if (strEQ(d,"protobyname")) return -KEY_getprotobyname;
3959                     break;
3960                 case 16:
3961                     if (strEQ(d,"protobynumber"))return -KEY_getprotobynumber;
3962                     break;
3963                 }
3964             }
3965             else if (*d == 'h') {
3966                 if (strEQ(d,"hostbyname"))      return -KEY_gethostbyname;
3967                 if (strEQ(d,"hostbyaddr"))      return -KEY_gethostbyaddr;
3968                 if (strEQ(d,"hostent"))         return -KEY_gethostent;
3969             }
3970             else if (*d == 'n') {
3971                 if (strEQ(d,"netbyname"))       return -KEY_getnetbyname;
3972                 if (strEQ(d,"netbyaddr"))       return -KEY_getnetbyaddr;
3973                 if (strEQ(d,"netent"))          return -KEY_getnetent;
3974             }
3975             else if (*d == 's') {
3976                 if (strEQ(d,"servbyname"))      return -KEY_getservbyname;
3977                 if (strEQ(d,"servbyport"))      return -KEY_getservbyport;
3978                 if (strEQ(d,"servent"))         return -KEY_getservent;
3979                 if (strEQ(d,"sockname"))        return -KEY_getsockname;
3980                 if (strEQ(d,"sockopt"))         return -KEY_getsockopt;
3981             }
3982             else if (*d == 'g') {
3983                 if (strEQ(d,"grent"))           return -KEY_getgrent;
3984                 if (strEQ(d,"grnam"))           return -KEY_getgrnam;
3985                 if (strEQ(d,"grgid"))           return -KEY_getgrgid;
3986             }
3987             else if (*d == 'l') {
3988                 if (strEQ(d,"login"))           return -KEY_getlogin;
3989             }
3990             else if (strEQ(d,"c"))              return -KEY_getc;
3991             break;
3992         }
3993         switch (len) {
3994         case 2:
3995             if (strEQ(d,"gt"))                  return -KEY_gt;
3996             if (strEQ(d,"ge"))                  return -KEY_ge;
3997             break;
3998         case 4:
3999             if (strEQ(d,"grep"))                return KEY_grep;
4000             if (strEQ(d,"goto"))                return KEY_goto;
4001             if (strEQ(d,"glob"))                return KEY_glob;
4002             break;
4003         case 6:
4004             if (strEQ(d,"gmtime"))              return -KEY_gmtime;
4005             break;
4006         }
4007         break;
4008     case 'h':
4009         if (strEQ(d,"hex"))                     return -KEY_hex;
4010         break;
4011     case 'I':
4012         if (strEQ(d,"INIT"))                    return KEY_INIT;
4013         break;
4014     case 'i':
4015         switch (len) {
4016         case 2:
4017             if (strEQ(d,"if"))                  return KEY_if;
4018             break;
4019         case 3:
4020             if (strEQ(d,"int"))                 return -KEY_int;
4021             break;
4022         case 5:
4023             if (strEQ(d,"index"))               return -KEY_index;
4024             if (strEQ(d,"ioctl"))               return -KEY_ioctl;
4025             break;
4026         }
4027         break;
4028     case 'j':
4029         if (strEQ(d,"join"))                    return -KEY_join;
4030         break;
4031     case 'k':
4032         if (len == 4) {
4033             if (strEQ(d,"keys"))                return KEY_keys;
4034             if (strEQ(d,"kill"))                return -KEY_kill;
4035         }
4036         break;
4037     case 'L':
4038         if (len == 2) {
4039             if (strEQ(d,"LT")) { deprecate(d);  return -KEY_lt;}
4040             if (strEQ(d,"LE")) { deprecate(d);  return -KEY_le;}
4041         }
4042         break;
4043     case 'l':
4044         switch (len) {
4045         case 2:
4046             if (strEQ(d,"lt"))                  return -KEY_lt;
4047             if (strEQ(d,"le"))                  return -KEY_le;
4048             if (strEQ(d,"lc"))                  return -KEY_lc;
4049             break;
4050         case 3:
4051             if (strEQ(d,"log"))                 return -KEY_log;
4052             break;
4053         case 4:
4054             if (strEQ(d,"last"))                return KEY_last;
4055             if (strEQ(d,"link"))                return -KEY_link;
4056             if (strEQ(d,"lock"))                return -KEY_lock;
4057             break;
4058         case 5:
4059             if (strEQ(d,"local"))               return KEY_local;
4060             if (strEQ(d,"lstat"))               return -KEY_lstat;
4061             break;
4062         case 6:
4063             if (strEQ(d,"length"))              return -KEY_length;
4064             if (strEQ(d,"listen"))              return -KEY_listen;
4065             break;
4066         case 7:
4067             if (strEQ(d,"lcfirst"))             return -KEY_lcfirst;
4068             break;
4069         case 9:
4070             if (strEQ(d,"localtime"))           return -KEY_localtime;
4071             break;
4072         }
4073         break;
4074     case 'm':
4075         switch (len) {
4076         case 1:                                 return KEY_m;
4077         case 2:
4078             if (strEQ(d,"my"))                  return KEY_my;
4079             break;
4080         case 3:
4081             if (strEQ(d,"map"))                 return KEY_map;
4082             break;
4083         case 5:
4084             if (strEQ(d,"mkdir"))               return -KEY_mkdir;
4085             break;
4086         case 6:
4087             if (strEQ(d,"msgctl"))              return -KEY_msgctl;
4088             if (strEQ(d,"msgget"))              return -KEY_msgget;
4089             if (strEQ(d,"msgrcv"))              return -KEY_msgrcv;
4090             if (strEQ(d,"msgsnd"))              return -KEY_msgsnd;
4091             break;
4092         }
4093         break;
4094     case 'N':
4095         if (strEQ(d,"NE")) { deprecate(d);      return -KEY_ne;}
4096         break;
4097     case 'n':
4098         if (strEQ(d,"next"))                    return KEY_next;
4099         if (strEQ(d,"ne"))                      return -KEY_ne;
4100         if (strEQ(d,"not"))                     return -KEY_not;
4101         if (strEQ(d,"no"))                      return KEY_no;
4102         break;
4103     case 'o':
4104         switch (len) {
4105         case 2:
4106             if (strEQ(d,"or"))                  return -KEY_or;
4107             break;
4108         case 3:
4109             if (strEQ(d,"ord"))                 return -KEY_ord;
4110             if (strEQ(d,"oct"))                 return -KEY_oct;
4111             break;
4112         case 4:
4113             if (strEQ(d,"open"))                return -KEY_open;
4114             break;
4115         case 7:
4116             if (strEQ(d,"opendir"))             return -KEY_opendir;
4117             break;
4118         }
4119         break;
4120     case 'p':
4121         switch (len) {
4122         case 3:
4123             if (strEQ(d,"pop"))                 return KEY_pop;
4124             if (strEQ(d,"pos"))                 return KEY_pos;
4125             break;
4126         case 4:
4127             if (strEQ(d,"push"))                return KEY_push;
4128             if (strEQ(d,"pack"))                return -KEY_pack;
4129             if (strEQ(d,"pipe"))                return -KEY_pipe;
4130             break;
4131         case 5:
4132             if (strEQ(d,"print"))               return KEY_print;
4133             break;
4134         case 6:
4135             if (strEQ(d,"printf"))              return KEY_printf;
4136             break;
4137         case 7:
4138             if (strEQ(d,"package"))             return KEY_package;
4139             break;
4140         case 9:
4141             if (strEQ(d,"prototype"))           return KEY_prototype;
4142         }
4143         break;
4144     case 'q':
4145         if (len <= 2) {
4146             if (strEQ(d,"q"))                   return KEY_q;
4147             if (strEQ(d,"qq"))                  return KEY_qq;
4148             if (strEQ(d,"qw"))                  return KEY_qw;
4149             if (strEQ(d,"qx"))                  return KEY_qx;
4150         }
4151         else if (strEQ(d,"quotemeta"))          return -KEY_quotemeta;
4152         break;
4153     case 'r':
4154         switch (len) {
4155         case 3:
4156             if (strEQ(d,"ref"))                 return -KEY_ref;
4157             break;
4158         case 4:
4159             if (strEQ(d,"read"))                return -KEY_read;
4160             if (strEQ(d,"rand"))                return -KEY_rand;
4161             if (strEQ(d,"recv"))                return -KEY_recv;
4162             if (strEQ(d,"redo"))                return KEY_redo;
4163             break;
4164         case 5:
4165             if (strEQ(d,"rmdir"))               return -KEY_rmdir;
4166             if (strEQ(d,"reset"))               return -KEY_reset;
4167             break;
4168         case 6:
4169             if (strEQ(d,"return"))              return KEY_return;
4170             if (strEQ(d,"rename"))              return -KEY_rename;
4171             if (strEQ(d,"rindex"))              return -KEY_rindex;
4172             break;
4173         case 7:
4174             if (strEQ(d,"require"))             return -KEY_require;
4175             if (strEQ(d,"reverse"))             return -KEY_reverse;
4176             if (strEQ(d,"readdir"))             return -KEY_readdir;
4177             break;
4178         case 8:
4179             if (strEQ(d,"readlink"))            return -KEY_readlink;
4180             if (strEQ(d,"readline"))            return -KEY_readline;
4181             if (strEQ(d,"readpipe"))            return -KEY_readpipe;
4182             break;
4183         case 9:
4184             if (strEQ(d,"rewinddir"))           return -KEY_rewinddir;
4185             break;
4186         }
4187         break;
4188     case 's':
4189         switch (d[1]) {
4190         case 0:                                 return KEY_s;
4191         case 'c':
4192             if (strEQ(d,"scalar"))              return KEY_scalar;
4193             break;
4194         case 'e':
4195             switch (len) {
4196             case 4:
4197                 if (strEQ(d,"seek"))            return -KEY_seek;
4198                 if (strEQ(d,"send"))            return -KEY_send;
4199                 break;
4200             case 5:
4201                 if (strEQ(d,"semop"))           return -KEY_semop;
4202                 break;
4203             case 6:
4204                 if (strEQ(d,"select"))          return -KEY_select;
4205                 if (strEQ(d,"semctl"))          return -KEY_semctl;
4206                 if (strEQ(d,"semget"))          return -KEY_semget;
4207                 break;
4208             case 7:
4209                 if (strEQ(d,"setpgrp"))         return -KEY_setpgrp;
4210                 if (strEQ(d,"seekdir"))         return -KEY_seekdir;
4211                 break;
4212             case 8:
4213                 if (strEQ(d,"setpwent"))        return -KEY_setpwent;
4214                 if (strEQ(d,"setgrent"))        return -KEY_setgrent;
4215                 break;
4216             case 9:
4217                 if (strEQ(d,"setnetent"))       return -KEY_setnetent;
4218                 break;
4219             case 10:
4220                 if (strEQ(d,"setsockopt"))      return -KEY_setsockopt;
4221                 if (strEQ(d,"sethostent"))      return -KEY_sethostent;
4222                 if (strEQ(d,"setservent"))      return -KEY_setservent;
4223                 break;
4224             case 11:
4225                 if (strEQ(d,"setpriority"))     return -KEY_setpriority;
4226                 if (strEQ(d,"setprotoent"))     return -KEY_setprotoent;
4227                 break;
4228             }
4229             break;
4230         case 'h':
4231             switch (len) {
4232             case 5:
4233                 if (strEQ(d,"shift"))           return KEY_shift;
4234                 break;
4235             case 6:
4236                 if (strEQ(d,"shmctl"))          return -KEY_shmctl;
4237                 if (strEQ(d,"shmget"))          return -KEY_shmget;
4238                 break;
4239             case 7:
4240                 if (strEQ(d,"shmread"))         return -KEY_shmread;
4241                 break;
4242             case 8:
4243                 if (strEQ(d,"shmwrite"))        return -KEY_shmwrite;
4244                 if (strEQ(d,"shutdown"))        return -KEY_shutdown;
4245                 break;
4246             }
4247             break;
4248         case 'i':
4249             if (strEQ(d,"sin"))                 return -KEY_sin;
4250             break;
4251         case 'l':
4252             if (strEQ(d,"sleep"))               return -KEY_sleep;
4253             break;
4254         case 'o':
4255             if (strEQ(d,"sort"))                return KEY_sort;
4256             if (strEQ(d,"socket"))              return -KEY_socket;
4257             if (strEQ(d,"socketpair"))          return -KEY_socketpair;
4258             break;
4259         case 'p':
4260             if (strEQ(d,"split"))               return KEY_split;
4261             if (strEQ(d,"sprintf"))             return -KEY_sprintf;
4262             if (strEQ(d,"splice"))              return KEY_splice;
4263             break;
4264         case 'q':
4265             if (strEQ(d,"sqrt"))                return -KEY_sqrt;
4266             break;
4267         case 'r':
4268             if (strEQ(d,"srand"))               return -KEY_srand;
4269             break;
4270         case 't':
4271             if (strEQ(d,"stat"))                return -KEY_stat;
4272             if (strEQ(d,"study"))               return KEY_study;
4273             break;
4274         case 'u':
4275             if (strEQ(d,"substr"))              return -KEY_substr;
4276             if (strEQ(d,"sub"))                 return KEY_sub;
4277             break;
4278         case 'y':
4279             switch (len) {
4280             case 6:
4281                 if (strEQ(d,"system"))          return -KEY_system;
4282                 break;
4283             case 7:
4284                 if (strEQ(d,"symlink"))         return -KEY_symlink;
4285                 if (strEQ(d,"syscall"))         return -KEY_syscall;
4286                 if (strEQ(d,"sysopen"))         return -KEY_sysopen;
4287                 if (strEQ(d,"sysread"))         return -KEY_sysread;
4288                 if (strEQ(d,"sysseek"))         return -KEY_sysseek;
4289                 break;
4290             case 8:
4291                 if (strEQ(d,"syswrite"))        return -KEY_syswrite;
4292                 break;
4293             }
4294             break;
4295         }
4296         break;
4297     case 't':
4298         switch (len) {
4299         case 2:
4300             if (strEQ(d,"tr"))                  return KEY_tr;
4301             break;
4302         case 3:
4303             if (strEQ(d,"tie"))                 return KEY_tie;
4304             break;
4305         case 4:
4306             if (strEQ(d,"tell"))                return -KEY_tell;
4307             if (strEQ(d,"tied"))                return KEY_tied;
4308             if (strEQ(d,"time"))                return -KEY_time;
4309             break;
4310         case 5:
4311             if (strEQ(d,"times"))               return -KEY_times;
4312             break;
4313         case 7:
4314             if (strEQ(d,"telldir"))             return -KEY_telldir;
4315             break;
4316         case 8:
4317             if (strEQ(d,"truncate"))            return -KEY_truncate;
4318             break;
4319         }
4320         break;
4321     case 'u':
4322         switch (len) {
4323         case 2:
4324             if (strEQ(d,"uc"))                  return -KEY_uc;
4325             break;
4326         case 3:
4327             if (strEQ(d,"use"))                 return KEY_use;
4328             break;
4329         case 5:
4330             if (strEQ(d,"undef"))               return KEY_undef;
4331             if (strEQ(d,"until"))               return KEY_until;
4332             if (strEQ(d,"untie"))               return KEY_untie;
4333             if (strEQ(d,"utime"))               return -KEY_utime;
4334             if (strEQ(d,"umask"))               return -KEY_umask;
4335             break;
4336         case 6:
4337             if (strEQ(d,"unless"))              return KEY_unless;
4338             if (strEQ(d,"unpack"))              return -KEY_unpack;
4339             if (strEQ(d,"unlink"))              return -KEY_unlink;
4340             break;
4341         case 7:
4342             if (strEQ(d,"unshift"))             return KEY_unshift;
4343             if (strEQ(d,"ucfirst"))             return -KEY_ucfirst;
4344             break;
4345         }
4346         break;
4347     case 'v':
4348         if (strEQ(d,"values"))                  return -KEY_values;
4349         if (strEQ(d,"vec"))                     return -KEY_vec;
4350         break;
4351     case 'w':
4352         switch (len) {
4353         case 4:
4354             if (strEQ(d,"warn"))                return -KEY_warn;
4355             if (strEQ(d,"wait"))                return -KEY_wait;
4356             break;
4357         case 5:
4358             if (strEQ(d,"while"))               return KEY_while;
4359             if (strEQ(d,"write"))               return -KEY_write;
4360             break;
4361         case 7:
4362             if (strEQ(d,"waitpid"))             return -KEY_waitpid;
4363             break;
4364         case 9:
4365             if (strEQ(d,"wantarray"))           return -KEY_wantarray;
4366             break;
4367         }
4368         break;
4369     case 'x':
4370         if (len == 1)                           return -KEY_x;
4371         if (strEQ(d,"xor"))                     return -KEY_xor;
4372         break;
4373     case 'y':
4374         if (len == 1)                           return KEY_y;
4375         break;
4376     case 'z':
4377         break;
4378     }
4379     return 0;
4380 }
4381
4382 static void
4383 checkcomma(s,name,what)
4384 register char *s;
4385 char *name;
4386 char *what;
4387 {
4388     char *w;
4389
4390     if (dowarn && *s == ' ' && s[1] == '(') {   /* XXX gotta be a better way */
4391         int level = 1;
4392         for (w = s+2; *w && level; w++) {
4393             if (*w == '(')
4394                 ++level;
4395             else if (*w == ')')
4396                 --level;
4397         }
4398         if (*w)
4399             for (; *w && isSPACE(*w); w++) ;
4400         if (!*w || !strchr(";|})]oaiuw!=", *w)) /* an advisory hack only... */
4401             warn("%s (...) interpreted as function",name);
4402     }
4403     while (s < bufend && isSPACE(*s))
4404         s++;
4405     if (*s == '(')
4406         s++;
4407     while (s < bufend && isSPACE(*s))
4408         s++;
4409     if (isIDFIRST(*s)) {
4410         w = s++;
4411         while (isALNUM(*s))
4412             s++;
4413         while (s < bufend && isSPACE(*s))
4414             s++;
4415         if (*s == ',') {
4416             int kw;
4417             *s = '\0';
4418             kw = keyword(w, s - w) || perl_get_cv(w, FALSE) != 0;
4419             *s = ',';
4420             if (kw)
4421                 return;
4422             croak("No comma allowed after %s", what);
4423         }
4424     }
4425 }
4426
4427 static char *
4428 scan_word(s, dest, destlen, allow_package, slp)
4429 register char *s;
4430 char *dest;
4431 STRLEN destlen;
4432 int allow_package;
4433 STRLEN *slp;
4434 {
4435     register char *d = dest;
4436     register char *e = d + destlen - 3;  /* two-character token, ending NUL */
4437     for (;;) {
4438         if (d >= e)
4439             croak(ident_too_long);
4440         if (isALNUM(*s))
4441             *d++ = *s++;
4442         else if (*s == '\'' && allow_package && isIDFIRST(s[1])) {
4443             *d++ = ':';
4444             *d++ = ':';
4445             s++;
4446         }
4447         else if (*s == ':' && s[1] == ':' && allow_package && isIDFIRST(s[2])) {
4448             *d++ = *s++;
4449             *d++ = *s++;
4450         }
4451         else {
4452             *d = '\0';
4453             *slp = d - dest;
4454             return s;
4455         }
4456     }
4457 }
4458
4459 static char *
4460 scan_ident(s, send, dest, destlen, ck_uni)
4461 register char *s;
4462 register char *send;
4463 char *dest;
4464 STRLEN destlen;
4465 I32 ck_uni;
4466 {
4467     register char *d;
4468     register char *e;
4469     char *bracket = 0;
4470     char funny = *s++;
4471
4472     if (lex_brackets == 0)
4473         lex_fakebrack = 0;
4474     if (isSPACE(*s))
4475         s = skipspace(s);
4476     d = dest;
4477     e = d + destlen - 3;        /* two-character token, ending NUL */
4478     if (isDIGIT(*s)) {
4479         while (isDIGIT(*s)) {
4480             if (d >= e)
4481                 croak(ident_too_long);
4482             *d++ = *s++;
4483         }
4484     }
4485     else {
4486         for (;;) {
4487             if (d >= e)
4488                 croak(ident_too_long);
4489             if (isALNUM(*s))
4490                 *d++ = *s++;
4491             else if (*s == '\'' && isIDFIRST(s[1])) {
4492                 *d++ = ':';
4493                 *d++ = ':';
4494                 s++;
4495             }
4496             else if (*s == ':' && s[1] == ':') {
4497                 *d++ = *s++;
4498                 *d++ = *s++;
4499             }
4500             else
4501                 break;
4502         }
4503     }
4504     *d = '\0';
4505     d = dest;
4506     if (*d) {
4507         if (lex_state != LEX_NORMAL)
4508             lex_state = LEX_INTERPENDMAYBE;
4509         return s;
4510     }
4511     if (*s == '$' && s[1] &&
4512       (isALNUM(s[1]) || strchr("${", s[1]) || strnEQ(s+1,"::",2)) )
4513     {
4514         if (isDIGIT(s[1]) && lex_state == LEX_INTERPNORMAL)
4515             deprecate("\"$$<digit>\" to mean \"${$}<digit>\"");
4516         else
4517             return s;
4518     }
4519     if (*s == '{') {
4520         bracket = s;
4521         s++;
4522     }
4523     else if (ck_uni)
4524         check_uni();
4525     if (s < send)
4526         *d = *s++;
4527     d[1] = '\0';
4528     if (*d == '^' && *s && (isUPPER(*s) || strchr("[\\]^_?", *s))) {
4529         *d = toCTRL(*s);
4530         s++;
4531     }
4532     if (bracket) {
4533         if (isSPACE(s[-1])) {
4534             while (s < send) {
4535                 char ch = *s++;
4536                 if (ch != ' ' && ch != '\t') {
4537                     *d = ch;
4538                     break;
4539                 }
4540             }
4541         }
4542         if (isIDFIRST(*d)) {
4543             d++;
4544             while (isALNUM(*s) || *s == ':')
4545                 *d++ = *s++;
4546             *d = '\0';
4547             while (s < send && (*s == ' ' || *s == '\t')) s++;
4548             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
4549                 if (dowarn && keyword(dest, d - dest)) {
4550                     char *brack = *s == '[' ? "[...]" : "{...}";
4551                     warn("Ambiguous use of %c{%s%s} resolved to %c%s%s",
4552                         funny, dest, brack, funny, dest, brack);
4553                 }
4554                 lex_fakebrack = lex_brackets+1;
4555                 bracket++;
4556                 lex_brackstack[lex_brackets++] = XOPERATOR;
4557                 return s;
4558             }
4559         }
4560         if (*s == '}') {
4561             s++;
4562             if (lex_state == LEX_INTERPNORMAL && !lex_brackets)
4563                 lex_state = LEX_INTERPEND;
4564             if (funny == '#')
4565                 funny = '@';
4566             if (dowarn && lex_state == LEX_NORMAL &&
4567               (keyword(dest, d - dest) || perl_get_cv(dest, FALSE)))
4568                 warn("Ambiguous use of %c{%s} resolved to %c%s",
4569                     funny, dest, funny, dest);
4570         }
4571         else {
4572             s = bracket;                /* let the parser handle it */
4573             *dest = '\0';
4574         }
4575     }
4576     else if (lex_state == LEX_INTERPNORMAL && !lex_brackets && !intuit_more(s))
4577         lex_state = LEX_INTERPEND;
4578     return s;
4579 }
4580
4581 void pmflag(pmfl,ch)
4582 U16* pmfl;
4583 int ch;
4584 {
4585     if (ch == 'i')
4586         *pmfl |= PMf_FOLD;
4587     else if (ch == 'g')
4588         *pmfl |= PMf_GLOBAL;
4589     else if (ch == 'c')
4590         *pmfl |= PMf_CONTINUE;
4591     else if (ch == 'o')
4592         *pmfl |= PMf_KEEP;
4593     else if (ch == 'm')
4594         *pmfl |= PMf_MULTILINE;
4595     else if (ch == 's')
4596         *pmfl |= PMf_SINGLELINE;
4597     else if (ch == 'x')
4598         *pmfl |= PMf_EXTENDED;
4599 }
4600
4601 static char *
4602 scan_pat(start)
4603 char *start;
4604 {
4605     PMOP *pm;
4606     char *s;
4607
4608     s = scan_str(start);
4609     if (!s) {
4610         if (lex_stuff)
4611             SvREFCNT_dec(lex_stuff);
4612         lex_stuff = Nullsv;
4613         croak("Search pattern not terminated");
4614     }
4615
4616     pm = (PMOP*)newPMOP(OP_MATCH, 0);
4617     if (multi_open == '?')
4618         pm->op_pmflags |= PMf_ONCE;
4619     while (*s && strchr("iogcmsx", *s))
4620         pmflag(&pm->op_pmflags,*s++);
4621     pm->op_pmpermflags = pm->op_pmflags;
4622
4623     lex_op = (OP*)pm;
4624     yylval.ival = OP_MATCH;
4625     return s;
4626 }
4627
4628 static char *
4629 scan_subst(start)
4630 char *start;
4631 {
4632     register char *s;
4633     register PMOP *pm;
4634     I32 first_start;
4635     I32 es = 0;
4636
4637     yylval.ival = OP_NULL;
4638
4639     s = scan_str(start);
4640
4641     if (!s) {
4642         if (lex_stuff)
4643             SvREFCNT_dec(lex_stuff);
4644         lex_stuff = Nullsv;
4645         croak("Substitution pattern not terminated");
4646     }
4647
4648     if (s[-1] == multi_open)
4649         s--;
4650
4651     first_start = multi_start;
4652     s = scan_str(s);
4653     if (!s) {
4654         if (lex_stuff)
4655             SvREFCNT_dec(lex_stuff);
4656         lex_stuff = Nullsv;
4657         if (lex_repl)
4658             SvREFCNT_dec(lex_repl);
4659         lex_repl = Nullsv;
4660         croak("Substitution replacement not terminated");
4661     }
4662     multi_start = first_start;  /* so whole substitution is taken together */
4663
4664     pm = (PMOP*)newPMOP(OP_SUBST, 0);
4665     while (*s && strchr("iogcmsex", *s)) {
4666         if (*s == 'e') {
4667             s++;
4668             es++;
4669         }
4670         else
4671             pmflag(&pm->op_pmflags,*s++);
4672     }
4673
4674     if (es) {
4675         SV *repl;
4676         pm->op_pmflags |= PMf_EVAL;
4677         repl = newSVpv("",0);
4678         while (es-- > 0)
4679             sv_catpv(repl, es ? "eval " : "do ");
4680         sv_catpvn(repl, "{ ", 2);
4681         sv_catsv(repl, lex_repl);
4682         sv_catpvn(repl, " };", 2);
4683         SvCOMPILED_on(repl);
4684         SvREFCNT_dec(lex_repl);
4685         lex_repl = repl;
4686     }
4687
4688     pm->op_pmpermflags = pm->op_pmflags;
4689     lex_op = (OP*)pm;
4690     yylval.ival = OP_SUBST;
4691     return s;
4692 }
4693
4694 void
4695 hoistmust(pm)
4696 register PMOP *pm;
4697 {
4698     dTHR;
4699     if (!pm->op_pmshort && pm->op_pmregexp->regstart &&
4700         (!pm->op_pmregexp->regmust || pm->op_pmregexp->reganch & ROPT_ANCH)
4701        ) {
4702         if (!(pm->op_pmregexp->reganch & ROPT_ANCH))
4703             pm->op_pmflags |= PMf_SCANFIRST;
4704         pm->op_pmshort = SvREFCNT_inc(pm->op_pmregexp->regstart);
4705         pm->op_pmslen = SvCUR(pm->op_pmshort);
4706     }
4707     else if (pm->op_pmregexp->regmust) {/* is there a better short-circuit? */
4708         if (pm->op_pmshort &&
4709           sv_eq(pm->op_pmshort,pm->op_pmregexp->regmust))
4710         {
4711             if (pm->op_pmflags & PMf_SCANFIRST) {
4712                 SvREFCNT_dec(pm->op_pmshort);
4713                 pm->op_pmshort = Nullsv;
4714             }
4715             else {
4716                 SvREFCNT_dec(pm->op_pmregexp->regmust);
4717                 pm->op_pmregexp->regmust = Nullsv;
4718                 return;
4719             }
4720         }
4721         /* promote the better string */
4722         if ((!pm->op_pmshort &&
4723              !(pm->op_pmregexp->reganch & ROPT_ANCH_GPOS)) ||
4724             ((pm->op_pmflags & PMf_SCANFIRST) &&
4725              (SvCUR(pm->op_pmshort) < SvCUR(pm->op_pmregexp->regmust)))) {
4726             SvREFCNT_dec(pm->op_pmshort);               /* ok if null */
4727             pm->op_pmshort = pm->op_pmregexp->regmust;
4728             pm->op_pmslen = SvCUR(pm->op_pmshort);
4729             pm->op_pmregexp->regmust = Nullsv;
4730             pm->op_pmflags |= PMf_SCANFIRST;
4731         }
4732     }
4733 }
4734
4735 static char *
4736 scan_trans(start)
4737 char *start;
4738 {
4739     register char* s;
4740     OP *o;
4741     short *tbl;
4742     I32 squash;
4743     I32 delete;
4744     I32 complement;
4745
4746     yylval.ival = OP_NULL;
4747
4748     s = scan_str(start);
4749     if (!s) {
4750         if (lex_stuff)
4751             SvREFCNT_dec(lex_stuff);
4752         lex_stuff = Nullsv;
4753         croak("Translation pattern not terminated");
4754     }
4755     if (s[-1] == multi_open)
4756         s--;
4757
4758     s = scan_str(s);
4759     if (!s) {
4760         if (lex_stuff)
4761             SvREFCNT_dec(lex_stuff);
4762         lex_stuff = Nullsv;
4763         if (lex_repl)
4764             SvREFCNT_dec(lex_repl);
4765         lex_repl = Nullsv;
4766         croak("Translation replacement not terminated");
4767     }
4768
4769     New(803,tbl,256,short);
4770     o = newPVOP(OP_TRANS, 0, (char*)tbl);
4771
4772     complement = delete = squash = 0;
4773     while (*s == 'c' || *s == 'd' || *s == 's') {
4774         if (*s == 'c')
4775             complement = OPpTRANS_COMPLEMENT;
4776         else if (*s == 'd')
4777             delete = OPpTRANS_DELETE;
4778         else
4779             squash = OPpTRANS_SQUASH;
4780         s++;
4781     }
4782     o->op_private = delete|squash|complement;
4783
4784     lex_op = o;
4785     yylval.ival = OP_TRANS;
4786     return s;
4787 }
4788
4789 static char *
4790 scan_heredoc(s)
4791 register char *s;
4792 {
4793     dTHR;
4794     SV *herewas;
4795     I32 op_type = OP_SCALAR;
4796     I32 len;
4797     SV *tmpstr;
4798     char term;
4799     register char *d;
4800     register char *e;
4801     char *peek;
4802     int outer = (rsfp && !lex_inwhat);
4803
4804     s += 2;
4805     d = tokenbuf;
4806     e = tokenbuf + sizeof tokenbuf - 1;
4807     if (!outer)
4808         *d++ = '\n';
4809     for (peek = s; *peek == ' ' || *peek == '\t'; peek++) ;
4810     if (*peek && strchr("`'\"",*peek)) {
4811         s = peek;
4812         term = *s++;
4813         s = delimcpy(d, e, s, bufend, term, &len);
4814         d += len;
4815         if (s < bufend)
4816             s++;
4817     }
4818     else {
4819         if (*s == '\\')
4820             s++, term = '\'';
4821         else
4822             term = '"';
4823         if (!isALNUM(*s))
4824             deprecate("bare << to mean <<\"\"");
4825         for (; isALNUM(*s); s++) {
4826             if (d < e)
4827                 *d++ = *s;
4828         }
4829     }
4830     if (d >= tokenbuf + sizeof tokenbuf - 1)
4831         croak("Delimiter for here document is too long");
4832     *d++ = '\n';
4833     *d = '\0';
4834     len = d - tokenbuf;
4835     d = "\n";
4836     if (outer || !(d=ninstr(s,bufend,d,d+1)))
4837         herewas = newSVpv(s,bufend-s);
4838     else
4839         s--, herewas = newSVpv(s,d-s);
4840     s += SvCUR(herewas);
4841
4842     tmpstr = NEWSV(87,80);
4843     sv_upgrade(tmpstr, SVt_PVIV);
4844     if (term == '\'') {
4845         op_type = OP_CONST;
4846         SvIVX(tmpstr) = -1;
4847     }
4848     else if (term == '`') {
4849         op_type = OP_BACKTICK;
4850         SvIVX(tmpstr) = '\\';
4851     }
4852
4853     CLINE;
4854     multi_start = curcop->cop_line;
4855     multi_open = multi_close = '<';
4856     term = *tokenbuf;
4857     if (!outer) {
4858         d = s;
4859         while (s < bufend &&
4860           (*s != term || memNE(s,tokenbuf,len)) ) {
4861             if (*s++ == '\n')
4862                 curcop->cop_line++;
4863         }
4864         if (s >= bufend) {
4865             curcop->cop_line = multi_start;
4866             missingterm(tokenbuf);
4867         }
4868         sv_setpvn(tmpstr,d+1,s-d);
4869         s += len - 1;
4870         sv_catpvn(herewas,s,bufend-s);
4871         sv_setsv(linestr,herewas);
4872         oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
4873         bufend = SvPVX(linestr) + SvCUR(linestr);
4874     }
4875     else
4876         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
4877     while (s >= bufend) {       /* multiple line string? */
4878         if (!outer ||
4879          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4880             curcop->cop_line = multi_start;
4881             missingterm(tokenbuf);
4882         }
4883         curcop->cop_line++;
4884         if (PERLDB_LINE && curstash != debstash) {
4885             SV *sv = NEWSV(88,0);
4886
4887             sv_upgrade(sv, SVt_PVMG);
4888             sv_setsv(sv,linestr);
4889             av_store(GvAV(curcop->cop_filegv),
4890               (I32)curcop->cop_line,sv);
4891         }
4892         bufend = SvPVX(linestr) + SvCUR(linestr);
4893         if (*s == term && memEQ(s,tokenbuf,len)) {
4894             s = bufend - 1;
4895             *s = ' ';
4896             sv_catsv(linestr,herewas);
4897             bufend = SvPVX(linestr) + SvCUR(linestr);
4898         }
4899         else {
4900             s = bufend;
4901             sv_catsv(tmpstr,linestr);
4902         }
4903     }
4904     multi_end = curcop->cop_line;
4905     s++;
4906     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
4907         SvLEN_set(tmpstr, SvCUR(tmpstr) + 1);
4908         Renew(SvPVX(tmpstr), SvLEN(tmpstr), char);
4909     }
4910     SvREFCNT_dec(herewas);
4911     lex_stuff = tmpstr;
4912     yylval.ival = op_type;
4913     return s;
4914 }
4915
4916 static char *
4917 scan_inputsymbol(start)
4918 char *start;
4919 {
4920     register char *s = start;
4921     register char *d;
4922     register char *e;
4923     I32 len;
4924
4925     d = tokenbuf;
4926     e = tokenbuf + sizeof tokenbuf;
4927     s = delimcpy(d, e, s + 1, bufend, '>', &len);
4928     if (len >= sizeof tokenbuf)
4929         croak("Excessively long <> operator");
4930     if (s >= bufend)
4931         croak("Unterminated <> operator");
4932     s++;
4933     if (*d == '$' && d[1]) d++;
4934     while (*d && (isALNUM(*d) || *d == '\'' || *d == ':'))
4935         d++;
4936     if (d - tokenbuf != len) {
4937         yylval.ival = OP_GLOB;
4938         set_csh();
4939         s = scan_str(start);
4940         if (!s)
4941             croak("Glob not terminated");
4942         return s;
4943     }
4944     else {
4945         d = tokenbuf;
4946         if (!len)
4947             (void)strcpy(d,"ARGV");
4948         if (*d == '$') {
4949             I32 tmp;
4950             if ((tmp = pad_findmy(d)) != NOT_IN_PAD) {
4951                 OP *o = newOP(OP_PADSV, 0);
4952                 o->op_targ = tmp;
4953                 lex_op = (OP*)newUNOP(OP_READLINE, 0, newUNOP(OP_RV2GV, 0, o));
4954             }
4955             else {
4956                 GV *gv = gv_fetchpv(d+1,TRUE, SVt_PV);
4957                 lex_op = (OP*)newUNOP(OP_READLINE, 0,
4958                                         newUNOP(OP_RV2GV, 0,
4959                                             newUNOP(OP_RV2SV, 0,
4960                                                 newGVOP(OP_GV, 0, gv))));
4961             }
4962             yylval.ival = OP_NULL;
4963         }
4964         else {
4965             GV *gv = gv_fetchpv(d,TRUE, SVt_PVIO);
4966             lex_op = (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
4967             yylval.ival = OP_NULL;
4968         }
4969     }
4970     return s;
4971 }
4972
4973 static char *
4974 scan_str(start)
4975 char *start;
4976 {
4977     dTHR;
4978     SV *sv;
4979     char *tmps;
4980     register char *s = start;
4981     register char term;
4982     register char *to;
4983     I32 brackets = 1;
4984
4985     if (isSPACE(*s))
4986         s = skipspace(s);
4987     CLINE;
4988     term = *s;
4989     multi_start = curcop->cop_line;
4990     multi_open = term;
4991     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4992         term = tmps[5];
4993     multi_close = term;
4994
4995     sv = NEWSV(87,80);
4996     sv_upgrade(sv, SVt_PVIV);
4997     SvIVX(sv) = term;
4998     (void)SvPOK_only(sv);               /* validate pointer */
4999     s++;
5000     for (;;) {
5001         SvGROW(sv, SvCUR(sv) + (bufend - s) + 1);
5002         to = SvPVX(sv)+SvCUR(sv);
5003         if (multi_open == multi_close) {
5004             for (; s < bufend; s++,to++) {
5005                 if (*s == '\n' && !rsfp)
5006                     curcop->cop_line++;
5007                 if (*s == '\\' && s+1 < bufend && term != '\\') {
5008                     if (s[1] == term)
5009                         s++;
5010                     else
5011                         *to++ = *s++;
5012                 }
5013                 else if (*s == term)
5014                     break;
5015                 *to = *s;
5016             }
5017         }
5018         else {
5019             for (; s < bufend; s++,to++) {
5020                 if (*s == '\n' && !rsfp)
5021                     curcop->cop_line++;
5022                 if (*s == '\\' && s+1 < bufend) {
5023                     if ((s[1] == multi_open) || (s[1] == multi_close))
5024                         s++;
5025                     else
5026                         *to++ = *s++;
5027                 }
5028                 else if (*s == multi_close && --brackets <= 0)
5029                     break;
5030                 else if (*s == multi_open)
5031                     brackets++;
5032                 *to = *s;
5033             }
5034         }
5035         *to = '\0';
5036         SvCUR_set(sv, to - SvPVX(sv));
5037
5038     if (s < bufend) break;      /* string ends on this line? */
5039
5040         if (!rsfp ||
5041          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
5042             sv_free(sv);
5043             curcop->cop_line = multi_start;
5044             return Nullch;
5045         }
5046         curcop->cop_line++;
5047         if (PERLDB_LINE && curstash != debstash) {
5048             SV *sv = NEWSV(88,0);
5049
5050             sv_upgrade(sv, SVt_PVMG);
5051             sv_setsv(sv,linestr);
5052             av_store(GvAV(curcop->cop_filegv),
5053               (I32)curcop->cop_line, sv);
5054         }
5055         bufend = SvPVX(linestr) + SvCUR(linestr);
5056     }
5057     multi_end = curcop->cop_line;
5058     s++;
5059     if (SvCUR(sv) + 5 < SvLEN(sv)) {
5060         SvLEN_set(sv, SvCUR(sv) + 1);
5061         Renew(SvPVX(sv), SvLEN(sv), char);
5062     }
5063     if (lex_stuff)
5064         lex_repl = sv;
5065     else
5066         lex_stuff = sv;
5067     return s;
5068 }
5069
5070 char *
5071 scan_num(start)
5072 char *start;
5073 {
5074     register char *s = start;
5075     register char *d;
5076     register char *e;
5077     I32 tryiv;
5078     double value;
5079     SV *sv;
5080     I32 floatit;
5081     char *lastub = 0;
5082     static char number_too_long[] = "Number too long";
5083
5084     switch (*s) {
5085     default:
5086         croak("panic: scan_num");
5087     case '0':
5088         {
5089             UV u;
5090             I32 shift;
5091             bool overflowed = FALSE;
5092
5093             if (s[1] == 'x') {
5094                 shift = 4;
5095                 s += 2;
5096             }
5097             else if (s[1] == '.')
5098                 goto decimal;
5099             else
5100                 shift = 3;
5101             u = 0;
5102             for (;;) {
5103                 UV n, b;
5104
5105                 switch (*s) {
5106                 default:
5107                     goto out;
5108                 case '_':
5109                     s++;
5110                     break;
5111                 case '8': case '9':
5112                     if (shift != 4)
5113                         yyerror("Illegal octal digit");
5114                     /* FALL THROUGH */
5115                 case '0': case '1': case '2': case '3': case '4':
5116                 case '5': case '6': case '7':
5117                     b = *s++ & 15;
5118                     goto digit;
5119                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
5120                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
5121                     if (shift != 4)
5122                         goto out;
5123                     b = (*s++ & 7) + 9;
5124                   digit:
5125                     n = u << shift;
5126                     if (!overflowed && (n >> shift) != u) {
5127                         warn("Integer overflow in %s number",
5128                              (shift == 4) ? "hex" : "octal");
5129                         overflowed = TRUE;
5130                     }
5131                     u = n | b;
5132                     break;
5133                 }
5134             }
5135           out:
5136             sv = NEWSV(92,0);
5137             sv_setuv(sv, u);
5138         }
5139         break;
5140     case '1': case '2': case '3': case '4': case '5':
5141     case '6': case '7': case '8': case '9': case '.':
5142       decimal:
5143         d = tokenbuf;
5144         e = tokenbuf + sizeof tokenbuf - 6; /* room for various punctuation */
5145         floatit = FALSE;
5146         while (isDIGIT(*s) || *s == '_') {
5147             if (*s == '_') {
5148                 if (dowarn && lastub && s - lastub != 3)
5149                     warn("Misplaced _ in number");
5150                 lastub = ++s;
5151             }
5152             else {
5153                 if (d >= e)
5154                     croak(number_too_long);
5155                 *d++ = *s++;
5156             }
5157         }
5158         if (dowarn && lastub && s - lastub != 3)
5159             warn("Misplaced _ in number");
5160         if (*s == '.' && s[1] != '.') {
5161             floatit = TRUE;
5162             *d++ = *s++;
5163             for (; isDIGIT(*s) || *s == '_'; s++) {
5164                 if (d >= e)
5165                     croak(number_too_long);
5166                 if (*s != '_')
5167                     *d++ = *s;
5168             }
5169         }
5170         if (*s && strchr("eE",*s) && strchr("+-0123456789",s[1])) {
5171             floatit = TRUE;
5172             s++;
5173             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
5174             if (*s == '+' || *s == '-')
5175                 *d++ = *s++;
5176             while (isDIGIT(*s)) {
5177                 if (d >= e)
5178                     croak(number_too_long);
5179                 *d++ = *s++;
5180             }
5181         }
5182         *d = '\0';
5183         sv = NEWSV(92,0);
5184         SET_NUMERIC_STANDARD();
5185         value = atof(tokenbuf);
5186         tryiv = I_V(value);
5187         if (!floatit && (double)tryiv == value)
5188             sv_setiv(sv, tryiv);
5189         else
5190             sv_setnv(sv, value);
5191         break;
5192     }
5193
5194     yylval.opval = newSVOP(OP_CONST, 0, sv);
5195
5196     return s;
5197 }
5198
5199 static char *
5200 scan_formline(s)
5201 register char *s;
5202 {
5203     dTHR;
5204     register char *eol;
5205     register char *t;
5206     SV *stuff = newSVpv("",0);
5207     bool needargs = FALSE;
5208
5209     while (!needargs) {
5210         if (*s == '.' || *s == '}') {
5211             /*SUPPRESS 530*/
5212             for (t = s+1; *t == ' ' || *t == '\t'; t++) ;
5213             if (*t == '\n')
5214                 break;
5215         }
5216         if (in_eval && !rsfp) {
5217             eol = strchr(s,'\n');
5218             if (!eol++)
5219                 eol = bufend;
5220         }
5221         else
5222             eol = bufend = SvPVX(linestr) + SvCUR(linestr);
5223         if (*s != '#') {
5224             for (t = s; t < eol; t++) {
5225                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
5226                     needargs = FALSE;
5227                     goto enough;        /* ~~ must be first line in formline */
5228                 }
5229                 if (*t == '@' || *t == '^')
5230                     needargs = TRUE;
5231             }
5232             sv_catpvn(stuff, s, eol-s);
5233         }
5234         s = eol;
5235         if (rsfp) {
5236             s = filter_gets(linestr, rsfp, 0);
5237             oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
5238             bufend = bufptr + SvCUR(linestr);
5239             if (!s) {
5240                 s = bufptr;
5241                 yyerror("Format not terminated");
5242                 break;
5243             }
5244         }
5245         incline(s);
5246     }
5247   enough:
5248     if (SvCUR(stuff)) {
5249         expect = XTERM;
5250         if (needargs) {
5251             lex_state = LEX_NORMAL;
5252             nextval[nexttoke].ival = 0;
5253             force_next(',');
5254         }
5255         else
5256             lex_state = LEX_FORMLINE;
5257         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, stuff);
5258         force_next(THING);
5259         nextval[nexttoke].ival = OP_FORMLINE;
5260         force_next(LSTOP);
5261     }
5262     else {
5263         SvREFCNT_dec(stuff);
5264         lex_formbrack = 0;
5265         bufptr = s;
5266     }
5267     return s;
5268 }
5269
5270 static void
5271 set_csh()
5272 {
5273 #ifdef CSH
5274     if (!cshlen)
5275         cshlen = strlen(cshname);
5276 #endif
5277 }
5278
5279 I32
5280 start_subparse(is_format, flags)
5281 I32 is_format;
5282 U32 flags;
5283 {
5284     dTHR;
5285     I32 oldsavestack_ix = savestack_ix;
5286     CV* outsidecv = compcv;
5287     AV* comppadlist;
5288
5289     if (compcv) {
5290         assert(SvTYPE(compcv) == SVt_PVCV);
5291     }
5292     save_I32(&subline);
5293     save_item(subname);
5294     SAVEI32(padix);
5295     SAVESPTR(curpad);
5296     SAVESPTR(comppad);
5297     SAVESPTR(comppad_name);
5298     SAVESPTR(compcv);
5299     SAVEI32(comppad_name_fill);
5300     SAVEI32(min_intro_pending);
5301     SAVEI32(max_intro_pending);
5302     SAVEI32(pad_reset_pending);
5303
5304     compcv = (CV*)NEWSV(1104,0);
5305     sv_upgrade((SV *)compcv, is_format ? SVt_PVFM : SVt_PVCV);
5306     CvFLAGS(compcv) |= flags;
5307
5308     comppad = newAV();
5309     av_push(comppad, Nullsv);
5310     curpad = AvARRAY(comppad);
5311     comppad_name = newAV();
5312     comppad_name_fill = 0;
5313     min_intro_pending = 0;
5314     padix = 0;
5315     subline = curcop->cop_line;
5316 #ifdef USE_THREADS
5317     av_store(comppad_name, 0, newSVpv("@_", 2));
5318     curpad[0] = (SV*)newAV();
5319     SvPADMY_on(curpad[0]);      /* XXX Needed? */
5320     CvOWNER(compcv) = 0;
5321     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5322     MUTEX_INIT(CvMUTEXP(compcv));
5323 #endif /* USE_THREADS */
5324
5325     comppadlist = newAV();
5326     AvREAL_off(comppadlist);
5327     av_store(comppadlist, 0, (SV*)comppad_name);
5328     av_store(comppadlist, 1, (SV*)comppad);
5329
5330     CvPADLIST(compcv) = comppadlist;
5331     CvOUTSIDE(compcv) = (CV*)SvREFCNT_inc((SV*)outsidecv);
5332 #ifdef USE_THREADS
5333     CvOWNER(compcv) = 0;
5334     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5335     MUTEX_INIT(CvMUTEXP(compcv));
5336 #endif /* USE_THREADS */
5337
5338     return oldsavestack_ix;
5339 }
5340
5341 int
5342 yywarn(s)
5343 char *s;
5344 {
5345     dTHR;
5346     --error_count;
5347     in_eval |= 2;
5348     yyerror(s);
5349     in_eval &= ~2;
5350     return 0;
5351 }
5352
5353 int
5354 yyerror(s)
5355 char *s;
5356 {
5357     dTHR;
5358     char *where = NULL;
5359     char *context = NULL;
5360     int contlen = -1;
5361     SV *msg;
5362
5363     if (!yychar || (yychar == ';' && !rsfp))
5364         where = "at EOF";
5365     else if (bufptr > oldoldbufptr && bufptr - oldoldbufptr < 200 &&
5366       oldoldbufptr != oldbufptr && oldbufptr != bufptr) {
5367         while (isSPACE(*oldoldbufptr))
5368             oldoldbufptr++;
5369         context = oldoldbufptr;
5370         contlen = bufptr - oldoldbufptr;
5371     }
5372     else if (bufptr > oldbufptr && bufptr - oldbufptr < 200 &&
5373       oldbufptr != bufptr) {
5374         while (isSPACE(*oldbufptr))
5375             oldbufptr++;
5376         context = oldbufptr;
5377         contlen = bufptr - oldbufptr;
5378     }
5379     else if (yychar > 255)
5380         where = "next token ???";
5381     else if ((yychar & 127) == 127) {
5382         if (lex_state == LEX_NORMAL ||
5383            (lex_state == LEX_KNOWNEXT && lex_defer == LEX_NORMAL))
5384             where = "at end of line";
5385         else if (lex_inpat)
5386             where = "within pattern";
5387         else
5388             where = "within string";
5389     }
5390     else {
5391         SV *where_sv = sv_2mortal(newSVpv("next char ", 0));
5392         if (yychar < 32)
5393             sv_catpvf(where_sv, "^%c", toCTRL(yychar));
5394         else if (isPRINT_LC(yychar))
5395             sv_catpvf(where_sv, "%c", yychar);
5396         else
5397             sv_catpvf(where_sv, "\\%03o", yychar & 255);
5398         where = SvPVX(where_sv);
5399     }
5400     msg = sv_2mortal(newSVpv(s, 0));
5401     sv_catpvf(msg, " at %_ line %ld, ",
5402               GvSV(curcop->cop_filegv), (long)curcop->cop_line);
5403     if (context)
5404         sv_catpvf(msg, "near \"%.*s\"\n", contlen, context);
5405     else
5406         sv_catpvf(msg, "%s\n", where);
5407     if (multi_start < multi_end && (U32)(curcop->cop_line - multi_end) <= 1) {
5408         sv_catpvf(msg,
5409         "  (Might be a runaway multi-line %c%c string starting on line %ld)\n",
5410                 (int)multi_open,(int)multi_close,(long)multi_start);
5411         multi_end = 0;
5412     }
5413     if (in_eval & 2)
5414         warn("%_", msg);
5415     else if (in_eval)
5416         sv_catsv(GvSV(errgv), msg);
5417     else
5418         PerlIO_write(PerlIO_stderr(), SvPVX(msg), SvCUR(msg));
5419     if (++error_count >= 10)
5420         croak("%_ has too many errors.\n", GvSV(curcop->cop_filegv));
5421     in_my = 0;
5422     in_my_stash = Nullhv;
5423     return 0;
5424 }