toke.c

   1 /*    toke.c
   2  *
   3  *    Copyright (c) 1991-1997, Larry Wall
   4  *
   5  *    You may distribute under the terms of either the GNU General Public
   6  *    License or the Artistic License, as specified in the README file.
   7  *
   8  */
   9
  10 /*
  11  *   "It all comes from here, the stench and the peril."  --Frodo
  12  */
  13
  14 #include "EXTERN.h"
  15 #include "perl.h"
  16
  17 #ifndef PERL_OBJECT
  18 static void check_uni _((void));
  19 static void  force_next _((I32 type));
  20 static char *force_version _((char *start));
  21 static char *force_word _((char *start, int token, int check_keyword, int allow_pack, int allow_tick));
  22 static SV *tokeq _((SV *sv));
  23 static char *scan_const _((char *start));
  24 static char *scan_formline _((char *s));
  25 static char *scan_heredoc _((char *s));
  26 static char *scan_ident _((char *s, char *send, char *dest, STRLEN destlen,
  27                            I32 ck_uni));
  28 static char *scan_inputsymbol _((char *start));
  29 static char *scan_pat _((char *start));
  30 static char *scan_str _((char *start));
  31 static char *scan_subst _((char *start));
  32 static char *scan_trans _((char *start));
  33 static char *scan_word _((char *s, char *dest, STRLEN destlen,
  34                           int allow_package, STRLEN *slp));
  35 static char *skipspace _((char *s));
  36 static void checkcomma _((char *s, char *name, char *what));
  37 static void force_ident _((char *s, int kind));
  38 static void incline _((char *s));
  39 static int intuit_method _((char *s, GV *gv));
  40 static int intuit_more _((char *s));
  41 static I32 lop _((I32 f, expectation x, char *s));
  42 static void missingterm _((char *s));
  43 static void no_op _((char *what, char *s));
  44 static void set_csh _((void));
  45 static I32 sublex_done _((void));
  46 static I32 sublex_push _((void));
  47 static I32 sublex_start _((void));
  48 #ifdef CRIPPLED_CC
  49 static int uni _((I32 f, char *s));
  50 #endif
  51 static char * filter_gets _((SV *sv, PerlIO *fp, STRLEN append));
  52 static void restore_rsfp _((void *f));
  53 static void restore_expect _((void *e));
  54 static void restore_lex_expect _((void *e));
  55 #endif /* PERL_OBJECT */
  56
  57 static char ident_too_long[] = "Identifier too long";
  58
  59 static char *linestart;         /* beg. of most recently read line */
  60
  61 static char pending_ident;      /* pending identifier lookup */
  62
  63 static struct {
  64     I32 super_state;    /* lexer state to save */
  65     I32 sub_inwhat;     /* "lex_inwhat" to use */
  66     OP *sub_op;         /* "lex_op" to use */
  67 } sublex_info;
  68
  69 /* The following are arranged oddly so that the guard on the switch statement
  70  * can get by with a single comparison (if the compiler is smart enough).
  71  */
  72
  73 /* #define LEX_NOTPARSING               11 is done in perl.h. */
  74
  75 #define LEX_NORMAL              10
  76 #define LEX_INTERPNORMAL         9
  77 #define LEX_INTERPCASEMOD        8
  78 #define LEX_INTERPPUSH           7
  79 #define LEX_INTERPSTART          6
  80 #define LEX_INTERPEND            5
  81 #define LEX_INTERPENDMAYBE       4
  82 #define LEX_INTERPCONCAT         3
  83 #define LEX_INTERPCONST          2
  84 #define LEX_FORMLINE             1
  85 #define LEX_KNOWNEXT             0
  86
  87 #ifdef I_FCNTL
  88 #include <fcntl.h>
  89 #endif
  90 #ifdef I_SYS_FILE
  91 #include <sys/file.h>
  92 #endif
  93
  94 /* XXX If this causes problems, set i_unistd=undef in the hint file.  */
  95 #ifdef I_UNISTD
  96 #  include <unistd.h> /* Needed for execv() */
  97 #endif
  98
  99
 100 #ifdef ff_next
 101 #undef ff_next
 102 #endif
 103
 104 #include "keywords.h"
 105
 106 #ifdef CLINE
 107 #undef CLINE
 108 #endif
 109 #define CLINE (copline = (curcop->cop_line < copline ? curcop->cop_line : copline))
 110
 111 #define TOKEN(retval) return (bufptr = s,(int)retval)
 112 #define OPERATOR(retval) return (expect = XTERM,bufptr = s,(int)retval)
 113 #define AOPERATOR(retval) return ao((expect = XTERM,bufptr = s,(int)retval))
 114 #define PREBLOCK(retval) return (expect = XBLOCK,bufptr = s,(int)retval)
 115 #define PRETERMBLOCK(retval) return (expect = XTERMBLOCK,bufptr = s,(int)retval)
 116 #define PREREF(retval) return (expect = XREF,bufptr = s,(int)retval)
 117 #define TERM(retval) return (CLINE, expect = XOPERATOR,bufptr = s,(int)retval)
 118 #define LOOPX(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LOOPEX)
 119 #define FTST(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)UNIOP)
 120 #define FUN0(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC0)
 121 #define FUN1(f) return(yylval.ival = f,expect = XOPERATOR,bufptr = s,(int)FUNC1)
 122 #define BOop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITOROP))
 123 #define BAop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)BITANDOP))
 124 #define SHop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)SHIFTOP))
 125 #define PWop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)POWOP))
 126 #define PMop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)MATCHOP)
 127 #define Aop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)ADDOP))
 128 #define Mop(f) return ao((yylval.ival=f,expect = XTERM,bufptr = s,(int)MULOP))
 129 #define Eop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)EQOP)
 130 #define Rop(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)RELOP)
 131
 132 /* This bit of chicanery makes a unary function followed by
 133  * a parenthesis into a function with one argument, highest precedence.
 134  */
 135 #define UNI(f) return(yylval.ival = f, \
 136         expect = XTERM, \
 137         bufptr = s, \
 138         last_uni = oldbufptr, \
 139         last_lop_op = f, \
 140         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 141
 142 #define UNIBRACK(f) return(yylval.ival = f, \
 143         bufptr = s, \
 144         last_uni = oldbufptr, \
 145         (*s == '(' || (s = skipspace(s), *s == '(') ? (int)FUNC1 : (int)UNIOP) )
 146
 147 /* grandfather return to old style */
 148 #define OLDLOP(f) return(yylval.ival=f,expect = XTERM,bufptr = s,(int)LSTOP)
 149
 150 STATIC int
 151 ao(int toketype)
 152 {
 153     if (*bufptr == '=') {
 154         bufptr++;
 155         if (toketype == ANDAND)
 156             yylval.ival = OP_ANDASSIGN;
 157         else if (toketype == OROR)
 158             yylval.ival = OP_ORASSIGN;
 159         toketype = ASSIGNOP;
 160     }
 161     return toketype;
 162 }
 163
 164 STATIC void
 165 no_op(char *what, char *s)
 166 {
 167     char *oldbp = bufptr;
 168     bool is_first = (oldbufptr == linestart);
 169
 170     bufptr = s;
 171     yywarn(form("%s found where operator expected", what));
 172     if (is_first)
 173         warn("\t(Missing semicolon on previous line?)\n");
 174     else if (oldoldbufptr && isIDFIRST(*oldoldbufptr)) {
 175         char *t;
 176         for (t = oldoldbufptr; *t && (isALNUM(*t) || *t == ':'); t++) ;
 177         if (t < bufptr && isSPACE(*t))
 178             warn("\t(Do you need to predeclare %.*s?)\n",
 179                 t - oldoldbufptr, oldoldbufptr);
 180
 181     }
 182     else
 183         warn("\t(Missing operator before %.*s?)\n", s - oldbp, oldbp);
 184     bufptr = oldbp;
 185 }
 186
 187 STATIC void
 188 missingterm(char *s)
 189 {
 190     char tmpbuf[3];
 191     char q;
 192     if (s) {
 193         char *nl = strrchr(s,'\n');
 194         if (nl)
 195             *nl = '\0';
 196     }
 197     else if (multi_close < 32 || multi_close == 127) {
 198         *tmpbuf = '^';
 199         tmpbuf[1] = toCTRL(multi_close);
 200         s = "\\n";
 201         tmpbuf[2] = '\0';
 202         s = tmpbuf;
 203     }
 204     else {
 205         *tmpbuf = multi_close;
 206         tmpbuf[1] = '\0';
 207         s = tmpbuf;
 208     }
 209     q = strchr(s,'"') ? '\'' : '"';
 210     croak("Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
 211 }
 212
 213 void
 214 deprecate(char *s)
 215 {
 216     if (dowarn)
 217         warn("Use of %s is deprecated", s);
 218 }
 219
 220 STATIC void
 221 depcom(void)
 222 {
 223     deprecate("comma-less variable list");
 224 }
 225
 226 #ifdef WIN32
 227
 228 STATIC I32
 229 win32_textfilter(int idx, SV *sv, int maxlen)
 230 {
 231  I32 count = FILTER_READ(idx+1, sv, maxlen);
 232  if (count > 0 && !maxlen)
 233   win32_strip_return(sv);
 234  return count;
 235 }
 236 #endif
 237
 238
 239 void
 240 lex_start(SV *line)
 241 {
 242     dTHR;
 243     char *s;
 244     STRLEN len;
 245
 246     SAVEI32(lex_dojoin);
 247     SAVEI32(lex_brackets);
 248     SAVEI32(lex_fakebrack);
 249     SAVEI32(lex_casemods);
 250     SAVEI32(lex_starts);
 251     SAVEI32(lex_state);
 252     SAVESPTR(lex_inpat);
 253     SAVEI32(lex_inwhat);
 254     SAVEI16(curcop->cop_line);
 255     SAVEPPTR(bufptr);
 256     SAVEPPTR(bufend);
 257     SAVEPPTR(oldbufptr);
 258     SAVEPPTR(oldoldbufptr);
 259     SAVEPPTR(linestart);
 260     SAVESPTR(linestr);
 261     SAVEPPTR(lex_brackstack);
 262     SAVEPPTR(lex_casestack);
 263     SAVEDESTRUCTOR(restore_rsfp, rsfp);
 264     SAVESPTR(lex_stuff);
 265     SAVEI32(lex_defer);
 266     SAVESPTR(lex_repl);
 267     SAVEDESTRUCTOR(restore_expect, tokenbuf + expect); /* encode as pointer */
 268     SAVEDESTRUCTOR(restore_lex_expect, tokenbuf + expect);
 269
 270     lex_state = LEX_NORMAL;
 271     lex_defer = 0;
 272     expect = XSTATE;
 273     lex_brackets = 0;
 274     lex_fakebrack = 0;
 275     New(899, lex_brackstack, 120, char);
 276     New(899, lex_casestack, 12, char);
 277     SAVEFREEPV(lex_brackstack);
 278     SAVEFREEPV(lex_casestack);
 279     lex_casemods = 0;
 280     *lex_casestack = '\0';
 281     lex_dojoin = 0;
 282     lex_starts = 0;
 283     lex_stuff = Nullsv;
 284     lex_repl = Nullsv;
 285     lex_inpat = 0;
 286     lex_inwhat = 0;
 287     linestr = line;
 288     if (SvREADONLY(linestr))
 289         linestr = sv_2mortal(newSVsv(linestr));
 290     s = SvPV(linestr, len);
 291     if (len && s[len-1] != ';') {
 292         if (!(SvFLAGS(linestr) & SVs_TEMP))
 293             linestr = sv_2mortal(newSVsv(linestr));
 294         sv_catpvn(linestr, "\n;", 2);
 295     }
 296     SvTEMP_off(linestr);
 297     oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
 298     bufend = bufptr + SvCUR(linestr);
 299     SvREFCNT_dec(rs);
 300     rs = newSVpv("\n", 1);
 301     rsfp = 0;
 302 }
 303
 304 void
 305 lex_end(void)
 306 {
 307     doextract = FALSE;
 308 }
 309
 310 STATIC void
 311 restore_rsfp(void *f)
 312 {
 313     PerlIO *fp = (PerlIO*)f;
 314
 315     if (rsfp == PerlIO_stdin())
 316         PerlIO_clearerr(rsfp);
 317     else if (rsfp && (rsfp != fp))
 318         PerlIO_close(rsfp);
 319     rsfp = fp;
 320 }
 321
 322 STATIC void
 323 restore_expect(e)
 324 void *e;
 325 {
 326     /* a safe way to store a small integer in a pointer */
 327     expect = (expectation)((char *)e - tokenbuf);
 328 }
 329
 330 STATIC void
 331 restore_lex_expect(e)
 332 void *e;
 333 {
 334     /* a safe way to store a small integer in a pointer */
 335     lex_expect = (expectation)((char *)e - tokenbuf);
 336 }
 337
 338 STATIC void
 339 incline(char *s)
 340 {
 341     dTHR;
 342     char *t;
 343     char *n;
 344     char ch;
 345     int sawline = 0;
 346
 347     curcop->cop_line++;
 348     if (*s++ != '#')
 349         return;
 350     while (*s == ' ' || *s == '\t') s++;
 351     if (strnEQ(s, "line ", 5)) {
 352         s += 5;
 353         sawline = 1;
 354     }
 355     if (!isDIGIT(*s))
 356         return;
 357     n = s;
 358     while (isDIGIT(*s))
 359         s++;
 360     while (*s == ' ' || *s == '\t')
 361         s++;
 362     if (*s == '"' && (t = strchr(s+1, '"')))
 363         s++;
 364     else {
 365         if (!sawline)
 366             return;             /* false alarm */
 367         for (t = s; !isSPACE(*t); t++) ;
 368     }
 369     ch = *t;
 370     *t = '\0';
 371     if (t - s > 0)
 372         curcop->cop_filegv = gv_fetchfile(s);
 373     else
 374         curcop->cop_filegv = gv_fetchfile(origfilename);
 375     *t = ch;
 376     curcop->cop_line = atoi(n)-1;
 377 }
 378
 379 STATIC char *
 380 skipspace(register char *s)
 381 {
 382     dTHR;
 383     if (lex_formbrack && lex_brackets <= lex_formbrack) {
 384         while (s < bufend && (*s == ' ' || *s == '\t'))
 385             s++;
 386         return s;
 387     }
 388     for (;;) {
 389         STRLEN prevlen;
 390         while (s < bufend && isSPACE(*s))
 391             s++;
 392         if (s < bufend && *s == '#') {
 393             while (s < bufend && *s != '\n')
 394                 s++;
 395             if (s < bufend)
 396                 s++;
 397         }
 398         if (s < bufend || !rsfp || lex_state != LEX_NORMAL)
 399             return s;
 400         if ((s = filter_gets(linestr, rsfp, (prevlen = SvCUR(linestr)))) == Nullch) {
 401             if (minus_n || minus_p) {
 402                 sv_setpv(linestr,minus_p ?
 403                          ";}continue{print or die qq(-p destination: $!\\n)" :
 404                          "");
 405                 sv_catpv(linestr,";}");
 406                 minus_n = minus_p = 0;
 407             }
 408             else
 409                 sv_setpv(linestr,";");
 410             oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
 411             bufend = SvPVX(linestr) + SvCUR(linestr);
 412             if (preprocess && !in_eval)
 413                 (void)PerlProc_pclose(rsfp);
 414             else if ((PerlIO*)rsfp == PerlIO_stdin())
 415                 PerlIO_clearerr(rsfp);
 416             else
 417                 (void)PerlIO_close(rsfp);
 418             if (e_fp == rsfp)
 419                 e_fp = Nullfp;
 420             rsfp = Nullfp;
 421             return s;
 422         }
 423         linestart = bufptr = s + prevlen;
 424         bufend = s + SvCUR(linestr);
 425         s = bufptr;
 426         incline(s);
 427         if (PERLDB_LINE && curstash != debstash) {
 428             SV *sv = NEWSV(85,0);
 429
 430             sv_upgrade(sv, SVt_PVMG);
 431             sv_setpvn(sv,bufptr,bufend-bufptr);
 432             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
 433         }
 434     }
 435 }
 436
 437 STATIC void
 438 check_uni(void) {
 439     char *s;
 440     char ch;
 441     char *t;
 442
 443     if (oldoldbufptr != last_uni)
 444         return;
 445     while (isSPACE(*last_uni))
 446         last_uni++;
 447     for (s = last_uni; isALNUM(*s) || *s == '-'; s++) ;
 448     if ((t = strchr(s, '(')) && t < bufptr)
 449         return;
 450     ch = *s;
 451     *s = '\0';
 452     warn("Warning: Use of \"%s\" without parens is ambiguous", last_uni);
 453     *s = ch;
 454 }
 455
 456 #ifdef CRIPPLED_CC
 457
 458 #undef UNI
 459 #define UNI(f) return uni(f,s)
 460
 461 STATIC int
 462 uni(I32 f, char *s)
 463 {
 464     yylval.ival = f;
 465     expect = XTERM;
 466     bufptr = s;
 467     last_uni = oldbufptr;
 468     last_lop_op = f;
 469     if (*s == '(')
 470         return FUNC1;
 471     s = skipspace(s);
 472     if (*s == '(')
 473         return FUNC1;
 474     else
 475         return UNIOP;
 476 }
 477
 478 #endif /* CRIPPLED_CC */
 479
 480 #define LOP(f,x) return lop(f,x,s)
 481
 482 STATIC I32
 483 lop
 484 #ifdef CAN_PROTOTYPE
 485    (I32 f, expectation x, char *s)
 486 #else
 487    (f,x,s)
 488 I32 f;
 489 expectation x;
 490 char *s;
 491 #endif /* CAN_PROTOTYPE */
 492 {
 493     dTHR;
 494     yylval.ival = f;
 495     CLINE;
 496     expect = x;
 497     bufptr = s;
 498     last_lop = oldbufptr;
 499     last_lop_op = f;
 500     if (nexttoke)
 501         return LSTOP;
 502     if (*s == '(')
 503         return FUNC;
 504     s = skipspace(s);
 505     if (*s == '(')
 506         return FUNC;
 507     else
 508         return LSTOP;
 509 }
 510
 511 STATIC void
 512 force_next(I32 type)
 513 {
 514     nexttype[nexttoke] = type;
 515     nexttoke++;
 516     if (lex_state != LEX_KNOWNEXT) {
 517         lex_defer = lex_state;
 518         lex_expect = expect;
 519         lex_state = LEX_KNOWNEXT;
 520     }
 521 }
 522
 523 STATIC char *
 524 force_word(register char *start, int token, int check_keyword, int allow_pack, int allow_initial_tick)
 525 {
 526     register char *s;
 527     STRLEN len;
 528
 529     start = skipspace(start);
 530     s = start;
 531     if (isIDFIRST(*s) ||
 532         (allow_pack && *s == ':') ||
 533         (allow_initial_tick && *s == '\'') )
 534     {
 535         s = scan_word(s, tokenbuf, sizeof tokenbuf, allow_pack, &len);
 536         if (check_keyword && keyword(tokenbuf, len))
 537             return start;
 538         if (token == METHOD) {
 539             s = skipspace(s);
 540             if (*s == '(')
 541                 expect = XTERM;
 542             else {
 543                 expect = XOPERATOR;
 544                 force_next(')');
 545                 force_next('(');
 546             }
 547         }
 548         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST,0, newSVpv(tokenbuf,0));
 549         nextval[nexttoke].opval->op_private |= OPpCONST_BARE;
 550         force_next(token);
 551     }
 552     return s;
 553 }
 554
 555 STATIC void
 556 force_ident(register char *s, int kind)
 557 {
 558     if (s && *s) {
 559         OP* o = (OP*)newSVOP(OP_CONST, 0, newSVpv(s,0));
 560         nextval[nexttoke].opval = o;
 561         force_next(WORD);
 562         if (kind) {
 563             dTHR;               /* just for in_eval */
 564             o->op_private = OPpCONST_ENTERED;
 565             /* XXX see note in pp_entereval() for why we forgo typo
 566                warnings if the symbol must be introduced in an eval.
 567                GSAR 96-10-12 */
 568             gv_fetchpv(s, in_eval ? GV_ADDMULTI : TRUE,
 569                 kind == '$' ? SVt_PV :
 570                 kind == '@' ? SVt_PVAV :
 571                 kind == '%' ? SVt_PVHV :
 572                               SVt_PVGV
 573                 );
 574         }
 575     }
 576 }
 577
 578 STATIC char *
 579 force_version(char *s)
 580 {
 581     OP *version = Nullop;
 582
 583     s = skipspace(s);
 584
 585     /* default VERSION number -- GBARR */
 586
 587     if(isDIGIT(*s)) {
 588         char *d;
 589         int c;
 590         for( d=s, c = 1; isDIGIT(*d) || *d == '_' || (*d == '.' && c--); d++);
 591         if((*d == ';' || isSPACE(*d)) && *(skipspace(d)) != ',') {
 592             s = scan_num(s);
 593             /* real VERSION number -- GBARR */
 594             version = yylval.opval;
 595         }
 596     }
 597
 598     /* NOTE: The parser sees the package name and the VERSION swapped */
 599     nextval[nexttoke].opval = version;
 600     force_next(WORD);
 601
 602     return (s);
 603 }
 604
 605 STATIC SV *
 606 tokeq(SV *sv)
 607 {
 608     register char *s;
 609     register char *send;
 610     register char *d;
 611     STRLEN len;
 612
 613     if (!SvLEN(sv))
 614         return sv;
 615
 616     s = SvPV_force(sv, len);
 617     if (SvIVX(sv) == -1)
 618         return sv;
 619     send = s + len;
 620     while (s < send && *s != '\\')
 621         s++;
 622     if (s == send)
 623         return sv;
 624     d = s;
 625     while (s < send) {
 626         if (*s == '\\') {
 627             if (s + 1 < send && (s[1] == '\\'))
 628                 s++;            /* all that, just for this */
 629         }
 630         *d++ = *s++;
 631     }
 632     *d = '\0';
 633     SvCUR_set(sv, d - SvPVX(sv));
 634
 635     return sv;
 636 }
 637
 638 STATIC I32
 639 sublex_start(void)
 640 {
 641     register I32 op_type = yylval.ival;
 642
 643     if (op_type == OP_NULL) {
 644         yylval.opval = lex_op;
 645         lex_op = Nullop;
 646         return THING;
 647     }
 648     if (op_type == OP_CONST || op_type == OP_READLINE) {
 649         SV *sv = tokeq(lex_stuff);
 650         STRLEN len;
 651         char *p = SvPV(sv, len);
 652         yylval.opval = (OP*)newSVOP(op_type, 0, newSVpv(p, len));
 653         SvREFCNT_dec(sv);
 654         lex_stuff = Nullsv;
 655         return THING;
 656     }
 657
 658     sublex_info.super_state = lex_state;
 659     sublex_info.sub_inwhat = op_type;
 660     sublex_info.sub_op = lex_op;
 661     lex_state = LEX_INTERPPUSH;
 662
 663     expect = XTERM;
 664     if (lex_op) {
 665         yylval.opval = lex_op;
 666         lex_op = Nullop;
 667         return PMFUNC;
 668     }
 669     else
 670         return FUNC;
 671 }
 672
 673 STATIC I32
 674 sublex_push(void)
 675 {
 676     dTHR;
 677     push_scope();
 678
 679     lex_state = sublex_info.super_state;
 680     SAVEI32(lex_dojoin);
 681     SAVEI32(lex_brackets);
 682     SAVEI32(lex_fakebrack);
 683     SAVEI32(lex_casemods);
 684     SAVEI32(lex_starts);
 685     SAVEI32(lex_state);
 686     SAVESPTR(lex_inpat);
 687     SAVEI32(lex_inwhat);
 688     SAVEI16(curcop->cop_line);
 689     SAVEPPTR(bufptr);
 690     SAVEPPTR(oldbufptr);
 691     SAVEPPTR(oldoldbufptr);
 692     SAVEPPTR(linestart);
 693     SAVESPTR(linestr);
 694     SAVEPPTR(lex_brackstack);
 695     SAVEPPTR(lex_casestack);
 696
 697     linestr = lex_stuff;
 698     lex_stuff = Nullsv;
 699
 700     bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 701     bufend += SvCUR(linestr);
 702     SAVEFREESV(linestr);
 703
 704     lex_dojoin = FALSE;
 705     lex_brackets = 0;
 706     lex_fakebrack = 0;
 707     New(899, lex_brackstack, 120, char);
 708     New(899, lex_casestack, 12, char);
 709     SAVEFREEPV(lex_brackstack);
 710     SAVEFREEPV(lex_casestack);
 711     lex_casemods = 0;
 712     *lex_casestack = '\0';
 713     lex_starts = 0;
 714     lex_state = LEX_INTERPCONCAT;
 715     curcop->cop_line = multi_start;
 716
 717     lex_inwhat = sublex_info.sub_inwhat;
 718     if (lex_inwhat == OP_MATCH || lex_inwhat == OP_SUBST)
 719         lex_inpat = sublex_info.sub_op;
 720     else
 721         lex_inpat = Nullop;
 722
 723     return '(';
 724 }
 725
 726 STATIC I32
 727 sublex_done(void)
 728 {
 729     if (!lex_starts++) {
 730         expect = XOPERATOR;
 731         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv("",0));
 732         return THING;
 733     }
 734
 735     if (lex_casemods) {         /* oops, we've got some unbalanced parens */
 736         lex_state = LEX_INTERPCASEMOD;
 737         return yylex();
 738     }
 739
 740     /* Is there a right-hand side to take care of? */
 741     if (lex_repl && (lex_inwhat == OP_SUBST || lex_inwhat == OP_TRANS)) {
 742         linestr = lex_repl;
 743         lex_inpat = 0;
 744         bufend = bufptr = oldbufptr = oldoldbufptr = linestart = SvPVX(linestr);
 745         bufend += SvCUR(linestr);
 746         SAVEFREESV(linestr);
 747         lex_dojoin = FALSE;
 748         lex_brackets = 0;
 749         lex_fakebrack = 0;
 750         lex_casemods = 0;
 751         *lex_casestack = '\0';
 752         lex_starts = 0;
 753         if (SvCOMPILED(lex_repl)) {
 754             lex_state = LEX_INTERPNORMAL;
 755             lex_starts++;
 756         }
 757         else
 758             lex_state = LEX_INTERPCONCAT;
 759         lex_repl = Nullsv;
 760         return ',';
 761     }
 762     else {
 763         pop_scope();
 764         bufend = SvPVX(linestr);
 765         bufend += SvCUR(linestr);
 766         expect = XOPERATOR;
 767         return ')';
 768     }
 769 }
 770
 771 STATIC char *
 772 scan_const(char *start)
 773 {
 774     register char *send = bufend;
 775     SV *sv = NEWSV(93, send - start);
 776     register char *s = start;
 777     register char *d = SvPVX(sv);
 778     bool dorange = FALSE;
 779     I32 len;
 780     char *leaveit =
 781         lex_inpat
 782             ? "\\.^$@AGZdDwWsSbB+*?|()-nrtfeaxc0123456789[{]} \t\n\r\f\v#"
 783             : (lex_inwhat & OP_TRANS)
 784                 ? ""
 785                 : "";
 786
 787     while (s < send || dorange) {
 788         if (lex_inwhat == OP_TRANS) {
 789             if (dorange) {
 790                 I32 i;
 791                 I32 max;
 792                 i = d - SvPVX(sv);
 793                 SvGROW(sv, SvLEN(sv) + 256);
 794                 d = SvPVX(sv) + i;
 795                 d -= 2;
 796                 max = (U8)d[1];
 797                 for (i = (U8)*d; i <= max; i++)
 798                     *d++ = i;
 799                 dorange = FALSE;
 800                 continue;
 801             }
 802             else if (*s == '-' && s+1 < send  && s != start) {
 803                 dorange = TRUE;
 804                 s++;
 805             }
 806         }
 807         else if (*s == '(' && lex_inpat && s[1] == '?') {
 808             if (s[2] == '#') {
 809                 while (s < send && *s != ')')
 810                     *d++ = *s++;
 811             } else if (s[2] == '{') {   /* This should march regcomp.c */
 812                 I32 count = 1;
 813                 char *regparse = s + 3;
 814                 char c;
 815
 816                 while (count && (c = *regparse)) {
 817                     if (c == '\\' && regparse[1])
 818                         regparse++;
 819                     else if (c == '{')
 820                         count++;
 821                     else if (c == '}')
 822                         count--;
 823                     regparse++;
 824                 }
 825                 if (*regparse == ')')
 826                     regparse++;
 827                 else
 828                     yyerror("Sequence (?{...}) not terminated or not {}-balanced");
 829                 while (s < regparse && *s != ')')
 830                     *d++ = *s++;
 831             }
 832         }
 833         else if (*s == '#' && lex_inpat &&
 834           ((PMOP*)lex_inpat)->op_pmflags & PMf_EXTENDED) {
 835             while (s+1 < send && *s != '\n')
 836                 *d++ = *s++;
 837         }
 838         else if (*s == '@' && s[1] && (isALNUM(s[1]) || strchr(":'{$", s[1])))
 839             break;
 840         else if (*s == '$') {
 841             if (!lex_inpat)     /* not a regexp, so $ must be var */
 842                 break;
 843             if (s + 1 < send && !strchr("()| \n\t", s[1]))
 844                 break;          /* in regexp, $ might be tail anchor */
 845         }
 846         if (*s == '\\' && s+1 < send) {
 847             s++;
 848             if (*s && strchr(leaveit, *s)) {
 849                 *d++ = '\\';
 850                 *d++ = *s++;
 851                 continue;
 852             }
 853             if (lex_inwhat == OP_SUBST && !lex_inpat &&
 854                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
 855             {
 856                 if (dowarn)
 857                     warn("\\%c better written as $%c", *s, *s);
 858                 *--s = '$';
 859                 break;
 860             }
 861             if (lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
 862                 --s;
 863                 break;
 864             }
 865             switch (*s) {
 866             case '-':
 867                 if (lex_inwhat == OP_TRANS) {
 868                     *d++ = *s++;
 869                     continue;
 870                 }
 871                 /* FALL THROUGH */
 872             default:
 873                 *d++ = *s++;
 874                 continue;
 875             case '0': case '1': case '2': case '3':
 876             case '4': case '5': case '6': case '7':
 877                 *d++ = scan_oct(s, 3, &len);
 878                 s += len;
 879                 continue;
 880             case 'x':
 881                 *d++ = scan_hex(++s, 2, &len);
 882                 s += len;
 883                 continue;
 884             case 'c':
 885                 s++;
 886                 len = *s++;
 887                 *d++ = toCTRL(len);
 888                 continue;
 889             case 'b':
 890                 *d++ = '\b';
 891                 break;
 892             case 'n':
 893                 *d++ = '\n';
 894                 break;
 895             case 'r':
 896                 *d++ = '\r';
 897                 break;
 898             case 'f':
 899                 *d++ = '\f';
 900                 break;
 901             case 't':
 902                 *d++ = '\t';
 903                 break;
 904             case 'e':
 905                 *d++ = '\033';
 906                 break;
 907             case 'a':
 908                 *d++ = '\007';
 909                 break;
 910             }
 911             s++;
 912             continue;
 913         }
 914         *d++ = *s++;
 915     }
 916     *d = '\0';
 917     SvCUR_set(sv, d - SvPVX(sv));
 918     SvPOK_on(sv);
 919
 920     if (SvCUR(sv) + 5 < SvLEN(sv)) {
 921         SvLEN_set(sv, SvCUR(sv) + 1);
 922         Renew(SvPVX(sv), SvLEN(sv), char);
 923     }
 924     if (s > bufptr)
 925         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
 926     else
 927         SvREFCNT_dec(sv);
 928     return s;
 929 }
 930
 931 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
 932 STATIC int
 933 intuit_more(register char *s)
 934 {
 935     if (lex_brackets)
 936         return TRUE;
 937     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
 938         return TRUE;
 939     if (*s != '{' && *s != '[')
 940         return FALSE;
 941     if (!lex_inpat)
 942         return TRUE;
 943
 944     /* In a pattern, so maybe we have {n,m}. */
 945     if (*s == '{') {
 946         s++;
 947         if (!isDIGIT(*s))
 948             return TRUE;
 949         while (isDIGIT(*s))
 950             s++;
 951         if (*s == ',')
 952             s++;
 953         while (isDIGIT(*s))
 954             s++;
 955         if (*s == '}')
 956             return FALSE;
 957         return TRUE;
 958
 959     }
 960
 961     /* On the other hand, maybe we have a character class */
 962
 963     s++;
 964     if (*s == ']' || *s == '^')
 965         return FALSE;
 966     else {
 967         int weight = 2;         /* let's weigh the evidence */
 968         char seen[256];
 969         unsigned char un_char = 0, last_un_char;
 970         char *send = strchr(s,']');
 971         char tmpbuf[sizeof tokenbuf * 4];
 972
 973         if (!send)              /* has to be an expression */
 974             return TRUE;
 975
 976         Zero(seen,256,char);
 977         if (*s == '$')
 978             weight -= 3;
 979         else if (isDIGIT(*s)) {
 980             if (s[1] != ']') {
 981                 if (isDIGIT(s[1]) && s[2] == ']')
 982                     weight -= 10;
 983             }
 984             else
 985                 weight -= 100;
 986         }
 987         for (; s < send; s++) {
 988             last_un_char = un_char;
 989             un_char = (unsigned char)*s;
 990             switch (*s) {
 991             case '@':
 992             case '&':
 993             case '$':
 994                 weight -= seen[un_char] * 10;
 995                 if (isALNUM(s[1])) {
 996                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
 997                     if ((int)strlen(tmpbuf) > 1 && gv_fetchpv(tmpbuf,FALSE, SVt_PV))
 998                         weight -= 100;
 999                     else
1000                         weight -= 10;
1001                 }
1002                 else if (*s == '$' && s[1] &&
1003                   strchr("[#!%*<>()-=",s[1])) {
1004                     if (/*{*/ strchr("])} =",s[2]))
1005                         weight -= 10;
1006                     else
1007                         weight -= 1;
1008                 }
1009                 break;
1010             case '\\':
1011                 un_char = 254;
1012                 if (s[1]) {
1013                     if (strchr("wds]",s[1]))
1014                         weight += 100;
1015                     else if (seen['\''] || seen['"'])
1016                         weight += 1;
1017                     else if (strchr("rnftbxcav",s[1]))
1018                         weight += 40;
1019                     else if (isDIGIT(s[1])) {
1020                         weight += 40;
1021                         while (s[1] && isDIGIT(s[1]))
1022                             s++;
1023                     }
1024                 }
1025                 else
1026                     weight += 100;
1027                 break;
1028             case '-':
1029                 if (s[1] == '\\')
1030                     weight += 50;
1031                 if (strchr("aA01! ",last_un_char))
1032                     weight += 30;
1033                 if (strchr("zZ79~",s[1]))
1034                     weight += 30;
1035                 break;
1036             default:
1037                 if (!isALNUM(last_un_char) && !strchr("$@&",last_un_char) &&
1038                         isALPHA(*s) && s[1] && isALPHA(s[1])) {
1039                     char *d = tmpbuf;
1040                     while (isALPHA(*s))
1041                         *d++ = *s++;
1042                     *d = '\0';
1043                     if (keyword(tmpbuf, d - tmpbuf))
1044                         weight -= 150;
1045                 }
1046                 if (un_char == last_un_char + 1)
1047                     weight += 5;
1048                 weight -= seen[un_char];
1049                 break;
1050             }
1051             seen[un_char]++;
1052         }
1053         if (weight >= 0)        /* probably a character class */
1054             return FALSE;
1055     }
1056
1057     return TRUE;
1058 }
1059
1060 STATIC int
1061 intuit_method(char *start, GV *gv)
1062 {
1063     char *s = start + (*start == '$');
1064     char tmpbuf[sizeof tokenbuf];
1065     STRLEN len;
1066     GV* indirgv;
1067
1068     if (gv) {
1069         CV *cv;
1070         if (GvIO(gv))
1071             return 0;
1072         if ((cv = GvCVu(gv))) {
1073             char *proto = SvPVX(cv);
1074             if (proto) {
1075                 if (*proto == ';')
1076                     proto++;
1077                 if (*proto == '*')
1078                     return 0;
1079             }
1080         } else
1081             gv = 0;
1082     }
1083     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
1084     if (*start == '$') {
1085         if (gv || last_lop_op == OP_PRINT || isUPPER(*tokenbuf))
1086             return 0;
1087         s = skipspace(s);
1088         bufptr = start;
1089         expect = XREF;
1090         return *s == '(' ? FUNCMETH : METHOD;
1091     }
1092     if (!keyword(tmpbuf, len)) {
1093         indirgv = gv_fetchpv(tmpbuf,FALSE, SVt_PVCV);
1094         if (indirgv && GvCVu(indirgv))
1095             return 0;
1096         /* filehandle or package name makes it a method */
1097         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
1098             s = skipspace(s);
1099             if ((bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
1100                 return 0;       /* no assumptions -- "=>" quotes bearword */
1101             nextval[nexttoke].opval =
1102                 (OP*)newSVOP(OP_CONST, 0,
1103                             newSVpv(tmpbuf,0));
1104             nextval[nexttoke].opval->op_private =
1105                 OPpCONST_BARE;
1106             expect = XTERM;
1107             force_next(WORD);
1108             bufptr = s;
1109             return *s == '(' ? FUNCMETH : METHOD;
1110         }
1111     }
1112     return 0;
1113 }
1114
1115 STATIC char*
1116 incl_perldb(void)
1117 {
1118     if (perldb) {
1119         char *pdb = PerlEnv_getenv("PERL5DB");
1120
1121         if (pdb)
1122             return pdb;
1123         SETERRNO(0,SS$_NORMAL);
1124         return "BEGIN { require 'perl5db.pl' }";
1125     }
1126     return "";
1127 }
1128
1129
1130 /* Encoded script support. filter_add() effectively inserts a
1131  * 'pre-processing' function into the current source input stream.
1132  * Note that the filter function only applies to the current source file
1133  * (e.g., it will not affect files 'require'd or 'use'd by this one).
1134  *
1135  * The datasv parameter (which may be NULL) can be used to pass
1136  * private data to this instance of the filter. The filter function
1137  * can recover the SV using the FILTER_DATA macro and use it to
1138  * store private buffers and state information.
1139  *
1140  * The supplied datasv parameter is upgraded to a PVIO type
1141  * and the IoDIRP field is used to store the function pointer.
1142  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
1143  * private use must be set using malloc'd pointers.
1144  */
1145 static int filter_debug = 0;
1146
1147 SV *
1148 filter_add(filter_t funcp, SV *datasv)
1149 {
1150     if (!funcp){ /* temporary handy debugging hack to be deleted */
1151         filter_debug = atoi((char*)datasv);
1152         return NULL;
1153     }
1154     if (!rsfp_filters)
1155         rsfp_filters = newAV();
1156     if (!datasv)
1157         datasv = NEWSV(255,0);
1158     if (!SvUPGRADE(datasv, SVt_PVIO))
1159         die("Can't upgrade filter_add data to SVt_PVIO");
1160     IoDIRP(datasv) = (DIR*)funcp; /* stash funcp into spare field */
1161     if (filter_debug)
1162         warn("filter_add func %p (%s)", funcp, SvPV(datasv,na));
1163     av_unshift(rsfp_filters, 1);
1164     av_store(rsfp_filters, 0, datasv) ;
1165     return(datasv);
1166 }
1167
1168
1169 /* Delete most recently added instance of this filter function. */
1170 void
1171 filter_del(filter_t funcp)
1172 {
1173     if (filter_debug)
1174         warn("filter_del func %p", funcp);
1175     if (!rsfp_filters || AvFILLp(rsfp_filters)<0)
1176         return;
1177     /* if filter is on top of stack (usual case) just pop it off */
1178     if (IoDIRP(FILTER_DATA(AvFILLp(rsfp_filters))) == (void*)funcp){
1179         sv_free(av_pop(rsfp_filters));
1180
1181         return;
1182     }
1183     /* we need to search for the correct entry and clear it     */
1184     die("filter_del can only delete in reverse order (currently)");
1185 }
1186
1187
1188 /* Invoke the n'th filter function for the current rsfp.         */
1189 I32
1190 filter_read(int idx, SV *buf_sv, int maxlen)
1191
1192
1193                         /* 0 = read one text line */
1194 {
1195     filter_t funcp;
1196     SV *datasv = NULL;
1197
1198     if (!rsfp_filters)
1199         return -1;
1200     if (idx > AvFILLp(rsfp_filters)){       /* Any more filters?        */
1201         /* Provide a default input filter to make life easy.    */
1202         /* Note that we append to the line. This is handy.      */
1203         if (filter_debug)
1204             warn("filter_read %d: from rsfp\n", idx);
1205         if (maxlen) {
1206             /* Want a block */
1207             int len ;
1208             int old_len = SvCUR(buf_sv) ;
1209
1210             /* ensure buf_sv is large enough */
1211             SvGROW(buf_sv, old_len + maxlen) ;
1212             if ((len = PerlIO_read(rsfp, SvPVX(buf_sv) + old_len, maxlen)) <= 0){
1213                 if (PerlIO_error(rsfp))
1214                     return -1;          /* error */
1215                 else
1216                     return 0 ;          /* end of file */
1217             }
1218             SvCUR_set(buf_sv, old_len + len) ;
1219         } else {
1220             /* Want a line */
1221             if (sv_gets(buf_sv, rsfp, SvCUR(buf_sv)) == NULL) {
1222                 if (PerlIO_error(rsfp))
1223                     return -1;          /* error */
1224                 else
1225                     return 0 ;          /* end of file */
1226             }
1227
1228         }
1229         return SvCUR(buf_sv);
1230     }
1231     /* Skip this filter slot if filter has been deleted */
1232     if ( (datasv = FILTER_DATA(idx)) == &sv_undef){
1233         if (filter_debug)
1234             warn("filter_read %d: skipped (filter deleted)\n", idx);
1235         return FILTER_READ(idx+1, buf_sv, maxlen); /* recurse */
1236     }
1237     /* Get function pointer hidden within datasv        */
1238     funcp = (filter_t)IoDIRP(datasv);
1239     if (filter_debug)
1240         warn("filter_read %d: via function %p (%s)\n",
1241                 idx, funcp, SvPV(datasv,na));
1242     /* Call function. The function is expected to       */
1243     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
1244     /* Return: <0:error, =0:eof, >0:not eof             */
1245     return (*funcp)(idx, buf_sv, maxlen);
1246 }
1247
1248
1249 STATIC char *
1250 filter_gets(register SV *sv, register PerlIO *fp, STRLEN append)
1251 {
1252 #ifdef WIN32FILTER
1253     if (!rsfp_filters) {
1254         filter_add(win32_textfilter,NULL);
1255     }
1256 #endif
1257     if (rsfp_filters) {
1258
1259         if (!append)
1260             SvCUR_set(sv, 0);   /* start with empty line        */
1261         if (FILTER_READ(0, sv, 0) > 0)
1262             return ( SvPVX(sv) ) ;
1263         else
1264             return Nullch ;
1265     }
1266     else
1267         return (sv_gets(sv, fp, append));
1268 }
1269
1270
1271 #ifdef DEBUGGING
1272     static char* exp_name[] =
1273         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "TERMBLOCK" };
1274 #endif
1275
1276 EXT int yychar;         /* last token */
1277
1278 int
1279 yylex(void)
1280 {
1281     dTHR;
1282     register char *s;
1283     register char *d;
1284     register I32 tmp;
1285     STRLEN len;
1286     GV *gv = Nullgv;
1287     GV **gvp = 0;
1288
1289     if (pending_ident) {
1290         char pit = pending_ident;
1291         pending_ident = 0;
1292
1293         if (in_my) {
1294             if (strchr(tokenbuf,':'))
1295                 croak(no_myglob,tokenbuf);
1296             yylval.opval = newOP(OP_PADANY, 0);
1297             yylval.opval->op_targ = pad_allocmy(tokenbuf);
1298             return PRIVATEREF;
1299         }
1300
1301         if (!strchr(tokenbuf,':')) {
1302 #ifdef USE_THREADS
1303             /* Check for single character per-thread SVs */
1304             if (tokenbuf[0] == '$' && tokenbuf[2] == '\0'
1305                 && !isALPHA(tokenbuf[1]) /* Rule out obvious non-threadsvs */
1306                 && (tmp = find_threadsv(&tokenbuf[1])) != NOT_IN_PAD)
1307             {
1308                 yylval.opval = newOP(OP_THREADSV, 0);
1309                 yylval.opval->op_targ = tmp;
1310                 return PRIVATEREF;
1311             }
1312 #endif /* USE_THREADS */
1313             if ((tmp = pad_findmy(tokenbuf)) != NOT_IN_PAD) {
1314                 if (last_lop_op == OP_SORT &&
1315                     tokenbuf[0] == '$' &&
1316                     (tokenbuf[1] == 'a' || tokenbuf[1] == 'b')
1317                     && !tokenbuf[2])
1318                 {
1319                     for (d = in_eval ? oldoldbufptr : linestart;
1320                          d < bufend && *d != '\n';
1321                          d++)
1322                     {
1323                         if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
1324                             croak("Can't use \"my %s\" in sort comparison",
1325                                   tokenbuf);
1326                         }
1327                     }
1328                 }
1329
1330                 yylval.opval = newOP(OP_PADANY, 0);
1331                 yylval.opval->op_targ = tmp;
1332                 return PRIVATEREF;
1333             }
1334         }
1335
1336         /* Force them to make up their mind on "@foo". */
1337         if (pit == '@' && lex_state != LEX_NORMAL && !lex_brackets) {
1338             GV *gv = gv_fetchpv(tokenbuf+1, FALSE, SVt_PVAV);
1339             if (!gv || ((tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
1340                 yyerror(form("In string, %s now must be written as \\%s",
1341                              tokenbuf, tokenbuf));
1342         }
1343
1344         yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf+1, 0));
1345         yylval.opval->op_private = OPpCONST_ENTERED;
1346         gv_fetchpv(tokenbuf+1, in_eval ? GV_ADDMULTI : TRUE,
1347                    ((tokenbuf[0] == '$') ? SVt_PV
1348                     : (tokenbuf[0] == '@') ? SVt_PVAV
1349                     : SVt_PVHV));
1350         return WORD;
1351     }
1352
1353     switch (lex_state) {
1354 #ifdef COMMENTARY
1355     case LEX_NORMAL:            /* Some compilers will produce faster */
1356     case LEX_INTERPNORMAL:      /* code if we comment these out. */
1357         break;
1358 #endif
1359
1360     case LEX_KNOWNEXT:
1361         nexttoke--;
1362         yylval = nextval[nexttoke];
1363         if (!nexttoke) {
1364             lex_state = lex_defer;
1365             expect = lex_expect;
1366             lex_defer = LEX_NORMAL;
1367         }
1368         return(nexttype[nexttoke]);
1369
1370     case LEX_INTERPCASEMOD:
1371 #ifdef DEBUGGING
1372         if (bufptr != bufend && *bufptr != '\\')
1373             croak("panic: INTERPCASEMOD");
1374 #endif
1375         if (bufptr == bufend || bufptr[1] == 'E') {
1376             char oldmod;
1377             if (lex_casemods) {
1378                 oldmod = lex_casestack[--lex_casemods];
1379                 lex_casestack[lex_casemods] = '\0';
1380                 if (bufptr != bufend && strchr("LUQ", oldmod)) {
1381                     bufptr += 2;
1382                     lex_state = LEX_INTERPCONCAT;
1383                 }
1384                 return ')';
1385             }
1386             if (bufptr != bufend)
1387                 bufptr += 2;
1388             lex_state = LEX_INTERPCONCAT;
1389             return yylex();
1390         }
1391         else {
1392             s = bufptr + 1;
1393             if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
1394                 tmp = *s, *s = s[2], s[2] = tmp;        /* misordered... */
1395             if (strchr("LU", *s) &&
1396                 (strchr(lex_casestack, 'L') || strchr(lex_casestack, 'U')))
1397             {
1398                 lex_casestack[--lex_casemods] = '\0';
1399                 return ')';
1400             }
1401             if (lex_casemods > 10) {
1402                 char* newlb = Renew(lex_casestack, lex_casemods + 2, char);
1403                 if (newlb != lex_casestack) {
1404                     SAVEFREEPV(newlb);
1405                     lex_casestack = newlb;
1406                 }
1407             }
1408             lex_casestack[lex_casemods++] = *s;
1409             lex_casestack[lex_casemods] = '\0';
1410             lex_state = LEX_INTERPCONCAT;
1411             nextval[nexttoke].ival = 0;
1412             force_next('(');
1413             if (*s == 'l')
1414                 nextval[nexttoke].ival = OP_LCFIRST;
1415             else if (*s == 'u')
1416                 nextval[nexttoke].ival = OP_UCFIRST;
1417             else if (*s == 'L')
1418                 nextval[nexttoke].ival = OP_LC;
1419             else if (*s == 'U')
1420                 nextval[nexttoke].ival = OP_UC;
1421             else if (*s == 'Q')
1422                 nextval[nexttoke].ival = OP_QUOTEMETA;
1423             else
1424                 croak("panic: yylex");
1425             bufptr = s + 1;
1426             force_next(FUNC);
1427             if (lex_starts) {
1428                 s = bufptr;
1429                 lex_starts = 0;
1430                 Aop(OP_CONCAT);
1431             }
1432             else
1433                 return yylex();
1434         }
1435
1436     case LEX_INTERPPUSH:
1437         return sublex_push();
1438
1439     case LEX_INTERPSTART:
1440         if (bufptr == bufend)
1441             return sublex_done();
1442         expect = XTERM;
1443         lex_dojoin = (*bufptr == '@');
1444         lex_state = LEX_INTERPNORMAL;
1445         if (lex_dojoin) {
1446             nextval[nexttoke].ival = 0;
1447             force_next(',');
1448 #ifdef USE_THREADS
1449             nextval[nexttoke].opval = newOP(OP_THREADSV, 0);
1450             nextval[nexttoke].opval->op_targ = find_threadsv("\"");
1451             force_next(PRIVATEREF);
1452 #else
1453             force_ident("\"", '$');
1454 #endif /* USE_THREADS */
1455             nextval[nexttoke].ival = 0;
1456             force_next('$');
1457             nextval[nexttoke].ival = 0;
1458             force_next('(');
1459             nextval[nexttoke].ival = OP_JOIN;   /* emulate join($", ...) */
1460             force_next(FUNC);
1461         }
1462         if (lex_starts++) {
1463             s = bufptr;
1464             Aop(OP_CONCAT);
1465         }
1466         return yylex();
1467
1468     case LEX_INTERPENDMAYBE:
1469         if (intuit_more(bufptr)) {
1470             lex_state = LEX_INTERPNORMAL;       /* false alarm, more expr */
1471             break;
1472         }
1473         /* FALL THROUGH */
1474
1475     case LEX_INTERPEND:
1476         if (lex_dojoin) {
1477             lex_dojoin = FALSE;
1478             lex_state = LEX_INTERPCONCAT;
1479             return ')';
1480         }
1481         /* FALLTHROUGH */
1482     case LEX_INTERPCONCAT:
1483 #ifdef DEBUGGING
1484         if (lex_brackets)
1485             croak("panic: INTERPCONCAT");
1486 #endif
1487         if (bufptr == bufend)
1488             return sublex_done();
1489
1490         if (SvIVX(linestr) == '\'') {
1491             SV *sv = newSVsv(linestr);
1492             if (!lex_inpat)
1493                 sv = tokeq(sv);
1494             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1495             s = bufend;
1496         }
1497         else {
1498             s = scan_const(bufptr);
1499             if (*s == '\\')
1500                 lex_state = LEX_INTERPCASEMOD;
1501             else
1502                 lex_state = LEX_INTERPSTART;
1503         }
1504
1505         if (s != bufptr) {
1506             nextval[nexttoke] = yylval;
1507             expect = XTERM;
1508             force_next(THING);
1509             if (lex_starts++)
1510                 Aop(OP_CONCAT);
1511             else {
1512                 bufptr = s;
1513                 return yylex();
1514             }
1515         }
1516
1517         return yylex();
1518     case LEX_FORMLINE:
1519         lex_state = LEX_NORMAL;
1520         s = scan_formline(bufptr);
1521         if (!lex_formbrack)
1522             goto rightbracket;
1523         OPERATOR(';');
1524     }
1525
1526     s = bufptr;
1527     oldoldbufptr = oldbufptr;
1528     oldbufptr = s;
1529     DEBUG_p( {
1530         PerlIO_printf(PerlIO_stderr(), "### Tokener expecting %s at %s\n", exp_name[expect], s);
1531     } )
1532
1533   retry:
1534     switch (*s) {
1535     default:
1536         croak("Unrecognized character \\%03o", *s & 255);
1537     case 4:
1538     case 26:
1539         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
1540     case 0:
1541         if (!rsfp) {
1542             last_uni = 0;
1543             last_lop = 0;
1544             if (lex_brackets)
1545                 yyerror("Missing right bracket");
1546             TOKEN(0);
1547         }
1548         if (s++ < bufend)
1549             goto retry;                 /* ignore stray nulls */
1550         last_uni = 0;
1551         last_lop = 0;
1552         if (!in_eval && !preambled) {
1553             preambled = TRUE;
1554             sv_setpv(linestr,incl_perldb());
1555             if (SvCUR(linestr))
1556                 sv_catpv(linestr,";");
1557             if (preambleav){
1558                 while(AvFILLp(preambleav) >= 0) {
1559                     SV *tmpsv = av_shift(preambleav);
1560                     sv_catsv(linestr, tmpsv);
1561                     sv_catpv(linestr, ";");
1562                     sv_free(tmpsv);
1563                 }
1564                 sv_free((SV*)preambleav);
1565                 preambleav = NULL;
1566             }
1567             if (minus_n || minus_p) {
1568                 sv_catpv(linestr, "LINE: while (<>) {");
1569                 if (minus_l)
1570                     sv_catpv(linestr,"chomp;");
1571                 if (minus_a) {
1572                     GV* gv = gv_fetchpv("::F", TRUE, SVt_PVAV);
1573                     if (gv)
1574                         GvIMPORTED_AV_on(gv);
1575                     if (minus_F) {
1576                         if (strchr("/'\"", *splitstr)
1577                               && strchr(splitstr + 1, *splitstr))
1578                             sv_catpvf(linestr, "@F=split(%s);", splitstr);
1579                         else {
1580                             char delim;
1581                             s = "'~#\200\1'"; /* surely one char is unused...*/
1582                             while (s[1] && strchr(splitstr, *s))  s++;
1583                             delim = *s;
1584                             sv_catpvf(linestr, "@F=split(%s%c",
1585                                       "q" + (delim == '\''), delim);
1586                             for (s = splitstr; *s; s++) {
1587                                 if (*s == '\\')
1588                                     sv_catpvn(linestr, "\\", 1);
1589                                 sv_catpvn(linestr, s, 1);
1590                             }
1591                             sv_catpvf(linestr, "%c);", delim);
1592                         }
1593                     }
1594                     else
1595                         sv_catpv(linestr,"@F=split(' ');");
1596                 }
1597             }
1598             sv_catpv(linestr, "\n");
1599             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1600             bufend = SvPVX(linestr) + SvCUR(linestr);
1601             if (PERLDB_LINE && curstash != debstash) {
1602                 SV *sv = NEWSV(85,0);
1603
1604                 sv_upgrade(sv, SVt_PVMG);
1605                 sv_setsv(sv,linestr);
1606                 av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1607             }
1608             goto retry;
1609         }
1610         do {
1611             if ((s = filter_gets(linestr, rsfp, 0)) == Nullch) {
1612               fake_eof:
1613                 if (rsfp) {
1614                     if (preprocess && !in_eval)
1615                         (void)PerlProc_pclose(rsfp);
1616                     else if ((PerlIO *)rsfp == PerlIO_stdin())
1617                         PerlIO_clearerr(rsfp);
1618                     else
1619                         (void)PerlIO_close(rsfp);
1620                     if (e_fp == rsfp)
1621                         e_fp = Nullfp;
1622                     rsfp = Nullfp;
1623                 }
1624                 if (!in_eval && (minus_n || minus_p)) {
1625                     sv_setpv(linestr,minus_p ? ";}continue{print" : "");
1626                     sv_catpv(linestr,";}");
1627                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1628                     bufend = SvPVX(linestr) + SvCUR(linestr);
1629                     minus_n = minus_p = 0;
1630                     goto retry;
1631                 }
1632                 oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1633                 sv_setpv(linestr,"");
1634                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
1635             }
1636             if (doextract) {
1637                 if (*s == '#' && s[1] == '!' && instr(s,"perl"))
1638                     doextract = FALSE;
1639
1640                 /* Incest with pod. */
1641                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
1642                     sv_setpv(linestr, "");
1643                     oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1644                     bufend = SvPVX(linestr) + SvCUR(linestr);
1645                     doextract = FALSE;
1646                 }
1647             }
1648             incline(s);
1649         } while (doextract);
1650         oldoldbufptr = oldbufptr = bufptr = linestart = s;
1651         if (PERLDB_LINE && curstash != debstash) {
1652             SV *sv = NEWSV(85,0);
1653
1654             sv_upgrade(sv, SVt_PVMG);
1655             sv_setsv(sv,linestr);
1656             av_store(GvAV(curcop->cop_filegv),(I32)curcop->cop_line,sv);
1657         }
1658         bufend = SvPVX(linestr) + SvCUR(linestr);
1659         if (curcop->cop_line == 1) {
1660             while (s < bufend && isSPACE(*s))
1661                 s++;
1662             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
1663                 s++;
1664             d = Nullch;
1665             if (!in_eval) {
1666                 if (*s == '#' && *(s+1) == '!')
1667                     d = s + 2;
1668 #ifdef ALTERNATE_SHEBANG
1669                 else {
1670                     static char as[] = ALTERNATE_SHEBANG;
1671                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
1672                         d = s + (sizeof(as) - 1);
1673                 }
1674 #endif /* ALTERNATE_SHEBANG */
1675             }
1676             if (d) {
1677                 char *ipath;
1678                 char *ipathend;
1679
1680                 while (isSPACE(*d))
1681                     d++;
1682                 ipath = d;
1683                 while (*d && !isSPACE(*d))
1684                     d++;
1685                 ipathend = d;
1686
1687 #ifdef ARG_ZERO_IS_SCRIPT
1688                 if (ipathend > ipath) {
1689                     /*
1690                      * HP-UX (at least) sets argv[0] to the script name,
1691                      * which makes $^X incorrect.  And Digital UNIX and Linux,
1692                      * at least, set argv[0] to the basename of the Perl
1693                      * interpreter. So, having found "#!", we'll set it right.
1694                      */
1695                     SV *x = GvSV(gv_fetchpv("\030", TRUE, SVt_PV));
1696                     assert(SvPOK(x) || SvGMAGICAL(x));
1697                     if (sv_eq(x, GvSV(curcop->cop_filegv))) {
1698                         sv_setpvn(x, ipath, ipathend - ipath);
1699                         SvSETMAGIC(x);
1700                     }
1701                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
1702                 }
1703 #endif /* ARG_ZERO_IS_SCRIPT */
1704
1705                 /*
1706                  * Look for options.
1707                  */
1708                 d = instr(s,"perl -");
1709                 if (!d)
1710                     d = instr(s,"perl");
1711 #ifdef ALTERNATE_SHEBANG
1712                 /*
1713                  * If the ALTERNATE_SHEBANG on this system starts with a
1714                  * character that can be part of a Perl expression, then if
1715                  * we see it but not "perl", we're probably looking at the
1716                  * start of Perl code, not a request to hand off to some
1717                  * other interpreter.  Similarly, if "perl" is there, but
1718                  * not in the first 'word' of the line, we assume the line
1719                  * contains the start of the Perl program.
1720                  */
1721                 if (d && *s != '#') {
1722                     char *c = ipath;
1723                     while (*c && !strchr("; \t\r\n\f\v#", *c))
1724                         c++;
1725                     if (c < d)
1726                         d = Nullch;     /* "perl" not in first word; ignore */
1727                     else
1728                         *s = '#';       /* Don't try to parse shebang line */
1729                 }
1730 #endif /* ALTERNATE_SHEBANG */
1731                 if (!d &&
1732                     *s == '#' &&
1733                     ipathend > ipath &&
1734                     !minus_c &&
1735                     !instr(s,"indir") &&
1736                     instr(origargv[0],"perl"))
1737                 {
1738                     char **newargv;
1739
1740                     *ipathend = '\0';
1741                     s = ipathend + 1;
1742                     while (s < bufend && isSPACE(*s))
1743                         s++;
1744                     if (s < bufend) {
1745                         Newz(899,newargv,origargc+3,char*);
1746                         newargv[1] = s;
1747                         while (s < bufend && !isSPACE(*s))
1748                             s++;
1749                         *s = '\0';
1750                         Copy(origargv+1, newargv+2, origargc+1, char*);
1751                     }
1752                     else
1753                         newargv = origargv;
1754                     newargv[0] = ipath;
1755                     execv(ipath, newargv);
1756                     croak("Can't exec %s", ipath);
1757                 }
1758                 if (d) {
1759                     U32 oldpdb = perldb;
1760                     bool oldn = minus_n;
1761                     bool oldp = minus_p;
1762
1763                     while (*d && !isSPACE(*d)) d++;
1764                     while (*d == ' ' || *d == '\t') d++;
1765
1766                     if (*d++ == '-') {
1767                         do {
1768                             if (*d == 'M' || *d == 'm') {
1769                                 char *m = d;
1770                                 while (*d && !isSPACE(*d)) d++;
1771                                 croak("Too late for \"-%.*s\" option",
1772                                       (int)(d - m), m);
1773                             }
1774                             d = moreswitches(d);
1775                         } while (d);
1776                         if (PERLDB_LINE && !oldpdb ||
1777                             ( minus_n || minus_p ) && !(oldn || oldp) )
1778                               /* if we have already added "LINE: while (<>) {",
1779                                  we must not do it again */
1780                         {
1781                             sv_setpv(linestr, "");
1782                             oldoldbufptr = oldbufptr = s = linestart = SvPVX(linestr);
1783                             bufend = SvPVX(linestr) + SvCUR(linestr);
1784                             preambled = FALSE;
1785                             if (PERLDB_LINE)
1786                                 (void)gv_fetchfile(origfilename);
1787                             goto retry;
1788                         }
1789                     }
1790                 }
1791             }
1792         }
1793         if (lex_formbrack && lex_brackets <= lex_formbrack) {
1794             bufptr = s;
1795             lex_state = LEX_FORMLINE;
1796             return yylex();
1797         }
1798         goto retry;
1799     case '\r':
1800 #ifndef WIN32CHEAT
1801         warn("Illegal character \\%03o (carriage return)", '\r');
1802         croak(
1803       "(Maybe you didn't strip carriage returns after a network transfer?)\n");
1804 #endif
1805     case ' ': case '\t': case '\f': case 013:
1806         s++;
1807         goto retry;
1808     case '#':
1809     case '\n':
1810         if (lex_state != LEX_NORMAL || (in_eval && !rsfp)) {
1811             d = bufend;
1812             while (s < d && *s != '\n')
1813                 s++;
1814             if (s < d)
1815                 s++;
1816             incline(s);
1817             if (lex_formbrack && lex_brackets <= lex_formbrack) {
1818                 bufptr = s;
1819                 lex_state = LEX_FORMLINE;
1820                 return yylex();
1821             }
1822         }
1823         else {
1824             *s = '\0';
1825             bufend = s;
1826         }
1827         goto retry;
1828     case '-':
1829         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
1830             s++;
1831             bufptr = s;
1832             tmp = *s++;
1833
1834             while (s < bufend && (*s == ' ' || *s == '\t'))
1835                 s++;
1836
1837             if (strnEQ(s,"=>",2)) {
1838                 if (dowarn)
1839                     warn("Ambiguous use of -%c => resolved to \"-%c\" =>",
1840                         (int)tmp, (int)tmp);
1841                 s = force_word(bufptr,WORD,FALSE,FALSE,FALSE);
1842                 OPERATOR('-');          /* unary minus */
1843             }
1844             last_uni = oldbufptr;
1845             last_lop_op = OP_FTEREAD;   /* good enough */
1846             switch (tmp) {
1847             case 'r': FTST(OP_FTEREAD);
1848             case 'w': FTST(OP_FTEWRITE);
1849             case 'x': FTST(OP_FTEEXEC);
1850             case 'o': FTST(OP_FTEOWNED);
1851             case 'R': FTST(OP_FTRREAD);
1852             case 'W': FTST(OP_FTRWRITE);
1853             case 'X': FTST(OP_FTREXEC);
1854             case 'O': FTST(OP_FTROWNED);
1855             case 'e': FTST(OP_FTIS);
1856             case 'z': FTST(OP_FTZERO);
1857             case 's': FTST(OP_FTSIZE);
1858             case 'f': FTST(OP_FTFILE);
1859             case 'd': FTST(OP_FTDIR);
1860             case 'l': FTST(OP_FTLINK);
1861             case 'p': FTST(OP_FTPIPE);
1862             case 'S': FTST(OP_FTSOCK);
1863             case 'u': FTST(OP_FTSUID);
1864             case 'g': FTST(OP_FTSGID);
1865             case 'k': FTST(OP_FTSVTX);
1866             case 'b': FTST(OP_FTBLK);
1867             case 'c': FTST(OP_FTCHR);
1868             case 't': FTST(OP_FTTTY);
1869             case 'T': FTST(OP_FTTEXT);
1870             case 'B': FTST(OP_FTBINARY);
1871             case 'M': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTMTIME);
1872             case 'A': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTATIME);
1873             case 'C': gv_fetchpv("\024",TRUE, SVt_PV); FTST(OP_FTCTIME);
1874             default:
1875                 croak("Unrecognized file test: -%c", (int)tmp);
1876                 break;
1877             }
1878         }
1879         tmp = *s++;
1880         if (*s == tmp) {
1881             s++;
1882             if (expect == XOPERATOR)
1883                 TERM(POSTDEC);
1884             else
1885                 OPERATOR(PREDEC);
1886         }
1887         else if (*s == '>') {
1888             s++;
1889             s = skipspace(s);
1890             if (isIDFIRST(*s)) {
1891                 s = force_word(s,METHOD,FALSE,TRUE,FALSE);
1892                 TOKEN(ARROW);
1893             }
1894             else if (*s == '$')
1895                 OPERATOR(ARROW);
1896             else
1897                 TERM(ARROW);
1898         }
1899         if (expect == XOPERATOR)
1900             Aop(OP_SUBTRACT);
1901         else {
1902             if (isSPACE(*s) || !isSPACE(*bufptr))
1903                 check_uni();
1904             OPERATOR('-');              /* unary minus */
1905         }
1906
1907     case '+':
1908         tmp = *s++;
1909         if (*s == tmp) {
1910             s++;
1911             if (expect == XOPERATOR)
1912                 TERM(POSTINC);
1913             else
1914                 OPERATOR(PREINC);
1915         }
1916         if (expect == XOPERATOR)
1917             Aop(OP_ADD);
1918         else {
1919             if (isSPACE(*s) || !isSPACE(*bufptr))
1920                 check_uni();
1921             OPERATOR('+');
1922         }
1923
1924     case '*':
1925         if (expect != XOPERATOR) {
1926             s = scan_ident(s, bufend, tokenbuf, sizeof tokenbuf, TRUE);
1927             expect = XOPERATOR;
1928             force_ident(tokenbuf, '*');
1929             if (!*tokenbuf)
1930                 PREREF('*');
1931             TERM('*');
1932         }
1933         s++;
1934         if (*s == '*') {
1935             s++;
1936             PWop(OP_POW);
1937         }
1938         Mop(OP_MULTIPLY);
1939
1940     case '%':
1941         if (expect == XOPERATOR) {
1942             ++s;
1943             Mop(OP_MODULO);
1944         }
1945         tokenbuf[0] = '%';
1946         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, TRUE);
1947         if (!tokenbuf[1]) {
1948             if (s == bufend)
1949                 yyerror("Final % should be \\% or %name");
1950             PREREF('%');
1951         }
1952         pending_ident = '%';
1953         TERM('%');
1954
1955     case '^':
1956         s++;
1957         BOop(OP_BIT_XOR);
1958     case '[':
1959         lex_brackets++;
1960         /* FALL THROUGH */
1961     case '~':
1962     case ',':
1963         tmp = *s++;
1964         OPERATOR(tmp);
1965     case ':':
1966         if (s[1] == ':') {
1967             len = 0;
1968             goto just_a_word;
1969         }
1970         s++;
1971         OPERATOR(':');
1972     case '(':
1973         s++;
1974         if (last_lop == oldoldbufptr || last_uni == oldoldbufptr)
1975             oldbufptr = oldoldbufptr;           /* allow print(STDOUT 123) */
1976         else
1977             expect = XTERM;
1978         TOKEN('(');
1979     case ';':
1980         if (curcop->cop_line < copline)
1981             copline = curcop->cop_line;
1982         tmp = *s++;
1983         OPERATOR(tmp);
1984     case ')':
1985         tmp = *s++;
1986         s = skipspace(s);
1987         if (*s == '{')
1988             PREBLOCK(tmp);
1989         TERM(tmp);
1990     case ']':
1991         s++;
1992         if (lex_brackets <= 0)
1993             yyerror("Unmatched right bracket");
1994         else
1995             --lex_brackets;
1996         if (lex_state == LEX_INTERPNORMAL) {
1997             if (lex_brackets == 0) {
1998                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
1999                     lex_state = LEX_INTERPEND;
2000             }
2001         }
2002         TERM(']');
2003     case '{':
2004       leftbracket:
2005         s++;
2006         if (lex_brackets > 100) {
2007             char* newlb = Renew(lex_brackstack, lex_brackets + 1, char);
2008             if (newlb != lex_brackstack) {
2009                 SAVEFREEPV(newlb);
2010                 lex_brackstack = newlb;
2011             }
2012         }
2013         switch (expect) {
2014         case XTERM:
2015             if (lex_formbrack) {
2016                 s--;
2017                 PRETERMBLOCK(DO);
2018             }
2019             if (oldoldbufptr == last_lop)
2020                 lex_brackstack[lex_brackets++] = XTERM;
2021             else
2022                 lex_brackstack[lex_brackets++] = XOPERATOR;
2023             OPERATOR(HASHBRACK);
2024         case XOPERATOR:
2025             while (s < bufend && (*s == ' ' || *s == '\t'))
2026                 s++;
2027             d = s;
2028             tokenbuf[0] = '\0';
2029             if (d < bufend && *d == '-') {
2030                 tokenbuf[0] = '-';
2031                 d++;
2032                 while (d < bufend && (*d == ' ' || *d == '\t'))
2033                     d++;
2034             }
2035             if (d < bufend && isIDFIRST(*d)) {
2036                 d = scan_word(d, tokenbuf + 1, sizeof tokenbuf - 1,
2037                               FALSE, &len);
2038                 while (d < bufend && (*d == ' ' || *d == '\t'))
2039                     d++;
2040                 if (*d == '}') {
2041                     char minus = (tokenbuf[0] == '-');
2042                     if (dowarn &&
2043                         (keyword(tokenbuf + 1, len) ||
2044                          (minus && len == 1 && isALPHA(tokenbuf[1])) ||
2045                          perl_get_cv(tokenbuf + 1, FALSE) ))
2046                         warn("Ambiguous use of {%s} resolved to {\"%s\"}",
2047                              tokenbuf + !minus, tokenbuf + !minus);
2048                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
2049                     if (minus)
2050                         force_next('-');
2051                 }
2052             }
2053             /* FALL THROUGH */
2054         case XBLOCK:
2055             lex_brackstack[lex_brackets++] = XSTATE;
2056             expect = XSTATE;
2057             break;
2058         case XTERMBLOCK:
2059             lex_brackstack[lex_brackets++] = XOPERATOR;
2060             expect = XSTATE;
2061             break;
2062         default: {
2063                 char *t;
2064                 if (oldoldbufptr == last_lop)
2065                     lex_brackstack[lex_brackets++] = XTERM;
2066                 else
2067                     lex_brackstack[lex_brackets++] = XOPERATOR;
2068                 s = skipspace(s);
2069                 if (*s == '}') {
2070                     if (expect == XSTATE) {
2071                         lex_brackstack[lex_brackets-1] = XSTATE;
2072                         break;
2073                     }
2074                     OPERATOR(HASHBRACK);
2075                 }
2076                 /* This hack serves to disambiguate a pair of curlies
2077                  * as being a block or an anon hash.  Normally, expectation
2078                  * determines that, but in cases where we're not in a
2079                  * position to expect anything in particular (like inside
2080                  * eval"") we have to resolve the ambiguity.  This code
2081                  * covers the case where the first term in the curlies is a
2082                  * quoted string.  Most other cases need to be explicitly
2083                  * disambiguated by prepending a `+' before the opening
2084                  * curly in order to force resolution as an anon hash.
2085                  *
2086                  * XXX should probably propagate the outer expectation
2087                  * into eval"" to rely less on this hack, but that could
2088                  * potentially break current behavior of eval"".
2089                  * GSAR 97-07-21
2090                  */
2091                 t = s;
2092                 if (*s == '\'' || *s == '"' || *s == '`') {
2093                     /* common case: get past first string, handling escapes */
2094                     for (t++; t < bufend && *t != *s;)
2095                         if (*t++ == '\\' && (*t == '\\' || *t == *s))
2096                             t++;
2097                     t++;
2098                 }
2099                 else if (*s == 'q') {
2100                     if (++t < bufend
2101                         && (!isALNUM(*t)
2102                             || ((*t == 'q' || *t == 'x') && ++t < bufend
2103                                 && !isALNUM(*t)))) {
2104                         char *tmps;
2105                         char open, close, term;
2106                         I32 brackets = 1;
2107
2108                         while (t < bufend && isSPACE(*t))
2109                             t++;
2110                         term = *t;
2111                         open = term;
2112                         if (term && (tmps = strchr("([{< )]}> )]}>",term)))
2113                             term = tmps[5];
2114                         close = term;
2115                         if (open == close)
2116                             for (t++; t < bufend; t++) {
2117                                 if (*t == '\\' && t+1 < bufend && open != '\\')
2118                                     t++;
2119                                 else if (*t == open)
2120                                     break;
2121                             }
2122                         else
2123                             for (t++; t < bufend; t++) {
2124                                 if (*t == '\\' && t+1 < bufend)
2125                                     t++;
2126                                 else if (*t == close && --brackets <= 0)
2127                                     break;
2128                                 else if (*t == open)
2129                                     brackets++;
2130                             }
2131                     }
2132                     t++;
2133                 }
2134                 else if (isALPHA(*s)) {
2135                     for (t++; t < bufend && isALNUM(*t); t++) ;
2136                 }
2137                 while (t < bufend && isSPACE(*t))
2138                     t++;
2139                 /* if comma follows first term, call it an anon hash */
2140                 /* XXX it could be a comma expression with loop modifiers */
2141                 if (t < bufend && ((*t == ',' && (*s == 'q' || !isLOWER(*s)))
2142                                    || (*t == '=' && t[1] == '>')))
2143                     OPERATOR(HASHBRACK);
2144                 if (expect == XREF)
2145                     expect = XTERM;
2146                 else {
2147                     lex_brackstack[lex_brackets-1] = XSTATE;
2148                     expect = XSTATE;
2149                 }
2150             }
2151             break;
2152         }
2153         yylval.ival = curcop->cop_line;
2154         if (isSPACE(*s) || *s == '#')
2155             copline = NOLINE;   /* invalidate current command line number */
2156         TOKEN('{');
2157     case '}':
2158       rightbracket:
2159         s++;
2160         if (lex_brackets <= 0)
2161             yyerror("Unmatched right bracket");
2162         else
2163             expect = (expectation)lex_brackstack[--lex_brackets];
2164         if (lex_brackets < lex_formbrack)
2165             lex_formbrack = 0;
2166         if (lex_state == LEX_INTERPNORMAL) {
2167             if (lex_brackets == 0) {
2168                 if (lex_fakebrack) {
2169                     lex_state = LEX_INTERPEND;
2170                     bufptr = s;
2171                     return yylex();             /* ignore fake brackets */
2172                 }
2173                 if (*s == '-' && s[1] == '>')
2174                     lex_state = LEX_INTERPENDMAYBE;
2175                 else if (*s != '[' && *s != '{')
2176                     lex_state = LEX_INTERPEND;
2177             }
2178         }
2179         if (lex_brackets < lex_fakebrack) {
2180             bufptr = s;
2181             lex_fakebrack = 0;
2182             return yylex();             /* ignore fake brackets */
2183         }
2184         force_next('}');
2185         TOKEN(';');
2186     case '&':
2187         s++;
2188         tmp = *s++;
2189         if (tmp == '&')
2190             AOPERATOR(ANDAND);
2191         s--;
2192         if (expect == XOPERATOR) {
2193             if (dowarn && isALPHA(*s) && bufptr == linestart) {
2194                 curcop->cop_line--;
2195                 warn(warn_nosemi);
2196                 curcop->cop_line++;
2197             }
2198             BAop(OP_BIT_AND);
2199         }
2200
2201         s = scan_ident(s - 1, bufend, tokenbuf, sizeof tokenbuf, TRUE);
2202         if (*tokenbuf) {
2203             expect = XOPERATOR;
2204             force_ident(tokenbuf, '&');
2205         }
2206         else
2207             PREREF('&');
2208         yylval.ival = (OPpENTERSUB_AMPER<<8);
2209         TERM('&');
2210
2211     case '|':
2212         s++;
2213         tmp = *s++;
2214         if (tmp == '|')
2215             AOPERATOR(OROR);
2216         s--;
2217         BOop(OP_BIT_OR);
2218     case '=':
2219         s++;
2220         tmp = *s++;
2221         if (tmp == '=')
2222             Eop(OP_EQ);
2223         if (tmp == '>')
2224             OPERATOR(',');
2225         if (tmp == '~')
2226             PMop(OP_MATCH);
2227         if (dowarn && tmp && isSPACE(*s) && strchr("+-*/%.^&|<",tmp))
2228             warn("Reversed %c= operator",(int)tmp);
2229         s--;
2230         if (expect == XSTATE && isALPHA(tmp) &&
2231                 (s == linestart+1 || s[-2] == '\n') )
2232         {
2233             if (in_eval && !rsfp) {
2234                 d = bufend;
2235                 while (s < d) {
2236                     if (*s++ == '\n') {
2237                         incline(s);
2238                         if (strnEQ(s,"=cut",4)) {
2239                             s = strchr(s,'\n');
2240                             if (s)
2241                                 s++;
2242                             else
2243                                 s = d;
2244                             incline(s);
2245                             goto retry;
2246                         }
2247                     }
2248                 }
2249                 goto retry;
2250             }
2251             s = bufend;
2252             doextract = TRUE;
2253             goto retry;
2254         }
2255         if (lex_brackets < lex_formbrack) {
2256             char *t;
2257             for (t = s; *t == ' ' || *t == '\t'; t++) ;
2258             if (*t == '\n' || *t == '#') {
2259                 s--;
2260                 expect = XBLOCK;
2261                 goto leftbracket;
2262             }
2263         }
2264         yylval.ival = 0;
2265         OPERATOR(ASSIGNOP);
2266     case '!':
2267         s++;
2268         tmp = *s++;
2269         if (tmp == '=')
2270             Eop(OP_NE);
2271         if (tmp == '~')
2272             PMop(OP_NOT);
2273         s--;
2274         OPERATOR('!');
2275     case '<':
2276         if (expect != XOPERATOR) {
2277             if (s[1] != '<' && !strchr(s,'>'))
2278                 check_uni();
2279             if (s[1] == '<')
2280                 s = scan_heredoc(s);
2281             else
2282                 s = scan_inputsymbol(s);
2283             TERM(sublex_start());
2284         }
2285         s++;
2286         tmp = *s++;
2287         if (tmp == '<')
2288             SHop(OP_LEFT_SHIFT);
2289         if (tmp == '=') {
2290             tmp = *s++;
2291             if (tmp == '>')
2292                 Eop(OP_NCMP);
2293             s--;
2294             Rop(OP_LE);
2295         }
2296         s--;
2297         Rop(OP_LT);
2298     case '>':
2299         s++;
2300         tmp = *s++;
2301         if (tmp == '>')
2302             SHop(OP_RIGHT_SHIFT);
2303         if (tmp == '=')
2304             Rop(OP_GE);
2305         s--;
2306         Rop(OP_GT);
2307
2308     case '$':
2309         CLINE;
2310
2311         if (expect == XOPERATOR) {
2312             if (lex_formbrack && lex_brackets == lex_formbrack) {
2313                 expect = XTERM;
2314                 depcom();
2315                 return ','; /* grandfather non-comma-format format */
2316             }
2317         }
2318
2319         if (s[1] == '#' && (isALPHA(s[2]) || strchr("_{$:", s[2]))) {
2320             if (expect == XOPERATOR)
2321                 no_op("Array length", bufptr);
2322             tokenbuf[0] = '@';
2323             s = scan_ident(s + 1, bufend, tokenbuf + 1, sizeof tokenbuf - 1,
2324                            FALSE);
2325             if (!tokenbuf[1])
2326                 PREREF(DOLSHARP);
2327             expect = XOPERATOR;
2328             pending_ident = '#';
2329             TOKEN(DOLSHARP);
2330         }
2331
2332         if (expect == XOPERATOR)
2333             no_op("Scalar", bufptr);
2334         tokenbuf[0] = '$';
2335         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2336         if (!tokenbuf[1]) {
2337             if (s == bufend)
2338                 yyerror("Final $ should be \\$ or $name");
2339             PREREF('$');
2340         }
2341
2342         /* This kludge not intended to be bulletproof. */
2343         if (tokenbuf[1] == '[' && !tokenbuf[2]) {
2344             yylval.opval = newSVOP(OP_CONST, 0,
2345                                    newSViv((IV)compiling.cop_arybase));
2346             yylval.opval->op_private = OPpCONST_ARYBASE;
2347             TERM(THING);
2348         }
2349
2350         d = s;
2351         if (lex_state == LEX_NORMAL)
2352             s = skipspace(s);
2353
2354         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2355             char *t;
2356             if (*s == '[') {
2357                 tokenbuf[0] = '@';
2358                 if (dowarn) {
2359                     for(t = s + 1;
2360                         isSPACE(*t) || isALNUM(*t) || *t == '$';
2361                         t++) ;
2362                     if (*t++ == ',') {
2363                         bufptr = skipspace(bufptr);
2364                         while (t < bufend && *t != ']')
2365                             t++;
2366                         warn("Multidimensional syntax %.*s not supported",
2367                              (t - bufptr) + 1, bufptr);
2368                     }
2369                 }
2370             }
2371             else if (*s == '{') {
2372                 tokenbuf[0] = '%';
2373                 if (dowarn && strEQ(tokenbuf+1, "SIG") &&
2374                     (t = strchr(s, '}')) && (t = strchr(t, '=')))
2375                 {
2376                     char tmpbuf[sizeof tokenbuf];
2377                     STRLEN len;
2378                     for (t++; isSPACE(*t); t++) ;
2379                     if (isIDFIRST(*t)) {
2380                         t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE, &len);
2381                         if (*t != '(' && perl_get_cv(tmpbuf, FALSE))
2382                             warn("You need to quote \"%s\"", tmpbuf);
2383                     }
2384                 }
2385             }
2386         }
2387
2388         expect = XOPERATOR;
2389         if (lex_state == LEX_NORMAL && isSPACE(*d)) {
2390             bool islop = (last_lop == oldoldbufptr);
2391             if (!islop || last_lop_op == OP_GREPSTART)
2392                 expect = XOPERATOR;
2393             else if (strchr("$@\"'`q", *s))
2394                 expect = XTERM;         /* e.g. print $fh "foo" */
2395             else if (strchr("&*<%", *s) && isIDFIRST(s[1]))
2396                 expect = XTERM;         /* e.g. print $fh &sub */
2397             else if (isIDFIRST(*s)) {
2398                 char tmpbuf[sizeof tokenbuf];
2399                 scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2400                 if (tmp = keyword(tmpbuf, len)) {
2401                     /* binary operators exclude handle interpretations */
2402                     switch (tmp) {
2403                     case -KEY_x:
2404                     case -KEY_eq:
2405                     case -KEY_ne:
2406                     case -KEY_gt:
2407                     case -KEY_lt:
2408                     case -KEY_ge:
2409                     case -KEY_le:
2410                     case -KEY_cmp:
2411                         break;
2412                     default:
2413                         expect = XTERM; /* e.g. print $fh length() */
2414                         break;
2415                     }
2416                 }
2417                 else {
2418                     GV *gv = gv_fetchpv(tmpbuf, FALSE, SVt_PVCV);
2419                     if (gv && GvCVu(gv))
2420                         expect = XTERM; /* e.g. print $fh subr() */
2421                 }
2422             }
2423             else if (isDIGIT(*s))
2424                 expect = XTERM;         /* e.g. print $fh 3 */
2425             else if (*s == '.' && isDIGIT(s[1]))
2426                 expect = XTERM;         /* e.g. print $fh .3 */
2427             else if (strchr("/?-+", *s) && !isSPACE(s[1]))
2428                 expect = XTERM;         /* e.g. print $fh -1 */
2429             else if (*s == '<' && s[1] == '<' && !isSPACE(s[2]))
2430                 expect = XTERM;         /* print $fh <<"EOF" */
2431         }
2432         pending_ident = '$';
2433         TOKEN('$');
2434
2435     case '@':
2436         if (expect == XOPERATOR)
2437             no_op("Array", s);
2438         tokenbuf[0] = '@';
2439         s = scan_ident(s, bufend, tokenbuf + 1, sizeof tokenbuf - 1, FALSE);
2440         if (!tokenbuf[1]) {
2441             if (s == bufend)
2442                 yyerror("Final @ should be \\@ or @name");
2443             PREREF('@');
2444         }
2445         if (lex_state == LEX_NORMAL)
2446             s = skipspace(s);
2447         if ((expect != XREF || oldoldbufptr == last_lop) && intuit_more(s)) {
2448             if (*s == '{')
2449                 tokenbuf[0] = '%';
2450
2451             /* Warn about @ where they meant $. */
2452             if (dowarn) {
2453                 if (*s == '[' || *s == '{') {
2454                     char *t = s + 1;
2455                     while (*t && (isALNUM(*t) || strchr(" \t$#+-'\"", *t)))
2456                         t++;
2457                     if (*t == '}' || *t == ']') {
2458                         t++;
2459                         bufptr = skipspace(bufptr);
2460                         warn("Scalar value %.*s better written as $%.*s",
2461                             t-bufptr, bufptr, t-bufptr-1, bufptr+1);
2462                     }
2463                 }
2464             }
2465         }
2466         pending_ident = '@';
2467         TERM('@');
2468
2469     case '/':                   /* may either be division or pattern */
2470     case '?':                   /* may either be conditional or pattern */
2471         if (expect != XOPERATOR) {
2472             /* Disable warning on "study /blah/" */
2473             if (oldoldbufptr == last_uni
2474                 && (*last_uni != 's' || s - last_uni < 5
2475                     || memNE(last_uni, "study", 5) || isALNUM(last_uni[5])))
2476                 check_uni();
2477             s = scan_pat(s);
2478             TERM(sublex_start());
2479         }
2480         tmp = *s++;
2481         if (tmp == '/')
2482             Mop(OP_DIVIDE);
2483         OPERATOR(tmp);
2484
2485     case '.':
2486         if (lex_formbrack && lex_brackets == lex_formbrack && s[1] == '\n' &&
2487                 (s == linestart || s[-1] == '\n') ) {
2488             lex_formbrack = 0;
2489             expect = XSTATE;
2490             goto rightbracket;
2491         }
2492         if (expect == XOPERATOR || !isDIGIT(s[1])) {
2493             tmp = *s++;
2494             if (*s == tmp) {
2495                 s++;
2496                 if (*s == tmp) {
2497                     s++;
2498                     yylval.ival = OPf_SPECIAL;
2499                 }
2500                 else
2501                     yylval.ival = 0;
2502                 OPERATOR(DOTDOT);
2503             }
2504             if (expect != XOPERATOR)
2505                 check_uni();
2506             Aop(OP_CONCAT);
2507         }
2508         /* FALL THROUGH */
2509     case '0': case '1': case '2': case '3': case '4':
2510     case '5': case '6': case '7': case '8': case '9':
2511         s = scan_num(s);
2512         if (expect == XOPERATOR)
2513             no_op("Number",s);
2514         TERM(THING);
2515
2516     case '\'':
2517         s = scan_str(s);
2518         if (expect == XOPERATOR) {
2519             if (lex_formbrack && lex_brackets == lex_formbrack) {
2520                 expect = XTERM;
2521                 depcom();
2522                 return ',';     /* grandfather non-comma-format format */
2523             }
2524             else
2525                 no_op("String",s);
2526         }
2527         if (!s)
2528             missingterm((char*)0);
2529         yylval.ival = OP_CONST;
2530         TERM(sublex_start());
2531
2532     case '"':
2533         s = scan_str(s);
2534         if (expect == XOPERATOR) {
2535             if (lex_formbrack && lex_brackets == lex_formbrack) {
2536                 expect = XTERM;
2537                 depcom();
2538                 return ',';     /* grandfather non-comma-format format */
2539             }
2540             else
2541                 no_op("String",s);
2542         }
2543         if (!s)
2544             missingterm((char*)0);
2545         yylval.ival = OP_CONST;
2546         for (d = SvPV(lex_stuff, len); len; len--, d++) {
2547             if (*d == '$' || *d == '@' || *d == '\\') {
2548                 yylval.ival = OP_STRINGIFY;
2549                 break;
2550             }
2551         }
2552         TERM(sublex_start());
2553
2554     case '`':
2555         s = scan_str(s);
2556         if (expect == XOPERATOR)
2557             no_op("Backticks",s);
2558         if (!s)
2559             missingterm((char*)0);
2560         yylval.ival = OP_BACKTICK;
2561         set_csh();
2562         TERM(sublex_start());
2563
2564     case '\\':
2565         s++;
2566         if (dowarn && lex_inwhat && isDIGIT(*s))
2567             warn("Can't use \\%c to mean $%c in expression", *s, *s);
2568         if (expect == XOPERATOR)
2569             no_op("Backslash",s);
2570         OPERATOR(REFGEN);
2571
2572     case 'x':
2573         if (isDIGIT(s[1]) && expect == XOPERATOR) {
2574             s++;
2575             Mop(OP_REPEAT);
2576         }
2577         goto keylookup;
2578
2579     case '_':
2580     case 'a': case 'A':
2581     case 'b': case 'B':
2582     case 'c': case 'C':
2583     case 'd': case 'D':
2584     case 'e': case 'E':
2585     case 'f': case 'F':
2586     case 'g': case 'G':
2587     case 'h': case 'H':
2588     case 'i': case 'I':
2589     case 'j': case 'J':
2590     case 'k': case 'K':
2591     case 'l': case 'L':
2592     case 'm': case 'M':
2593     case 'n': case 'N':
2594     case 'o': case 'O':
2595     case 'p': case 'P':
2596     case 'q': case 'Q':
2597     case 'r': case 'R':
2598     case 's': case 'S':
2599     case 't': case 'T':
2600     case 'u': case 'U':
2601     case 'v': case 'V':
2602     case 'w': case 'W':
2603               case 'X':
2604     case 'y': case 'Y':
2605     case 'z': case 'Z':
2606
2607       keylookup: {
2608         gv = Nullgv;
2609         gvp = 0;
2610
2611         bufptr = s;
2612         s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2613
2614         /* Some keywords can be followed by any delimiter, including ':' */
2615         tmp = (len == 1 && strchr("msyq", tokenbuf[0]) ||
2616                len == 2 && ((tokenbuf[0] == 't' && tokenbuf[1] == 'r') ||
2617                             (tokenbuf[0] == 'q' &&
2618                              strchr("qwx", tokenbuf[1]))));
2619
2620         /* x::* is just a word, unless x is "CORE" */
2621         if (!tmp && *s == ':' && s[1] == ':' && strNE(tokenbuf, "CORE"))
2622             goto just_a_word;
2623
2624         d = s;
2625         while (d < bufend && isSPACE(*d))
2626                 d++;    /* no comments skipped here, or s### is misparsed */
2627
2628         /* Is this a label? */
2629         if (!tmp && expect == XSTATE
2630               && d < bufend && *d == ':' && *(d + 1) != ':') {
2631             s = d + 1;
2632             yylval.pval = savepv(tokenbuf);
2633             CLINE;
2634             TOKEN(LABEL);
2635         }
2636
2637         /* Check for keywords */
2638         tmp = keyword(tokenbuf, len);
2639
2640         /* Is this a word before a => operator? */
2641         if (strnEQ(d,"=>",2)) {
2642             CLINE;
2643             if (dowarn && (tmp || perl_get_cv(tokenbuf, FALSE)))
2644                 warn("Ambiguous use of %s => resolved to \"%s\" =>",
2645                         tokenbuf, tokenbuf);
2646             yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(tokenbuf,0));
2647             yylval.opval->op_private = OPpCONST_BARE;
2648             TERM(WORD);
2649         }
2650
2651         if (tmp < 0) {                  /* second-class keyword? */
2652             if (expect != XOPERATOR && (*s != ':' || s[1] != ':') &&
2653                 (((gv = gv_fetchpv(tokenbuf, FALSE, SVt_PVCV)) &&
2654                   GvCVu(gv) && GvIMPORTED_CV(gv)) ||
2655                  ((gvp = (GV**)hv_fetch(globalstash,tokenbuf,len,FALSE)) &&
2656                   (gv = *gvp) != (GV*)&sv_undef &&
2657                   GvCVu(gv) && GvIMPORTED_CV(gv))))
2658             {
2659                 tmp = 0;                /* overridden by importation */
2660             }
2661             else if (gv && !gvp
2662                      && -tmp==KEY_lock  /* XXX generalizable kludge */
2663                      && !hv_fetch(GvHVn(incgv), "Thread.pm", 9, FALSE))
2664             {
2665                 tmp = 0;                /* any sub overrides "weak" keyword */
2666             }
2667             else {
2668                 tmp = -tmp; gv = Nullgv; gvp = 0;
2669             }
2670         }
2671
2672       reserved_word:
2673         switch (tmp) {
2674
2675         default:                        /* not a keyword */
2676           just_a_word: {
2677                 SV *sv;
2678                 char lastchar = (bufptr == oldoldbufptr ? 0 : bufptr[-1]);
2679
2680                 /* Get the rest if it looks like a package qualifier */
2681
2682                 if (*s == '\'' || *s == ':' && s[1] == ':') {
2683                     s = scan_word(s, tokenbuf + len, sizeof tokenbuf - len,
2684                                   TRUE, &len);
2685                     if (!len)
2686                         croak("Bad name after %s::", tokenbuf);
2687                 }
2688
2689                 if (expect == XOPERATOR) {
2690                     if (bufptr == linestart) {
2691                         curcop->cop_line--;
2692                         warn(warn_nosemi);
2693                         curcop->cop_line++;
2694                     }
2695                     else
2696                         no_op("Bareword",s);
2697                 }
2698
2699                 /* Look for a subroutine with this name in current package. */
2700
2701                 if (gvp) {
2702                     sv = newSVpv("CORE::GLOBAL::",14);
2703                     sv_catpv(sv,tokenbuf);
2704                 }
2705                 else
2706                     sv = newSVpv(tokenbuf,0);
2707                 if (!gv)
2708                     gv = gv_fetchpv(tokenbuf,FALSE, SVt_PVCV);
2709
2710                 /* Presume this is going to be a bareword of some sort. */
2711
2712                 CLINE;
2713                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
2714                 yylval.opval->op_private = OPpCONST_BARE;
2715
2716                 /* See if it's the indirect object for a list operator. */
2717
2718                 if (oldoldbufptr &&
2719                     oldoldbufptr < bufptr &&
2720                     (oldoldbufptr == last_lop || oldoldbufptr == last_uni) &&
2721                     /* NO SKIPSPACE BEFORE HERE! */
2722                     (expect == XREF ||
2723                      ((opargs[last_lop_op] >> OASHIFT)& 7) == OA_FILEREF) )
2724                 {
2725                     bool immediate_paren = *s == '(';
2726
2727                     /* (Now we can afford to cross potential line boundary.) */
2728                     s = skipspace(s);
2729
2730                     /* Two barewords in a row may indicate method call. */
2731
2732                     if ((isALPHA(*s) || *s == '$') && (tmp=intuit_method(s,gv)))
2733                         return tmp;
2734
2735                     /* If not a declared subroutine, it's an indirect object. */
2736                     /* (But it's an indir obj regardless for sort.) */
2737
2738                     if ((last_lop_op == OP_SORT ||
2739                          (!immediate_paren && (!gv || !GvCVu(gv))) ) &&
2740                         (last_lop_op != OP_MAPSTART && last_lop_op != OP_GREPSTART)){
2741                         expect = (last_lop == oldoldbufptr) ? XTERM : XOPERATOR;
2742                         goto bareword;
2743                     }
2744                 }
2745
2746                 /* If followed by a paren, it's certainly a subroutine. */
2747
2748                 expect = XOPERATOR;
2749                 s = skipspace(s);
2750                 if (*s == '(') {
2751                     CLINE;
2752                     if (gv && GvCVu(gv)) {
2753                         for (d = s + 1; *d == ' ' || *d == '\t'; d++) ;
2754                         if (*d == ')' && (sv = cv_const_sv(GvCV(gv)))) {
2755                             s = d + 1;
2756                             goto its_constant;
2757                         }
2758                     }
2759                     nextval[nexttoke].opval = yylval.opval;
2760                     expect = XOPERATOR;
2761                     force_next(WORD);
2762                     yylval.ival = 0;
2763                     TOKEN('&');
2764                 }
2765
2766                 /* If followed by var or block, call it a method (unless sub) */
2767
2768                 if ((*s == '$' || *s == '{') && (!gv || !GvCVu(gv))) {
2769                     last_lop = oldbufptr;
2770                     last_lop_op = OP_METHOD;
2771                     PREBLOCK(METHOD);
2772                 }
2773
2774                 /* If followed by a bareword, see if it looks like indir obj. */
2775
2776                 if ((isALPHA(*s) || *s == '$') && (tmp = intuit_method(s,gv)))
2777                     return tmp;
2778
2779                 /* Not a method, so call it a subroutine (if defined) */
2780
2781                 if (gv && GvCVu(gv)) {
2782                     CV* cv;
2783                     if (lastchar == '-')
2784                         warn("Ambiguous use of -%s resolved as -&%s()",
2785                                 tokenbuf, tokenbuf);
2786                     last_lop = oldbufptr;
2787                     last_lop_op = OP_ENTERSUB;
2788                     /* Check for a constant sub */
2789                     cv = GvCV(gv);
2790                     if ((sv = cv_const_sv(cv))) {
2791                   its_constant:
2792                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
2793                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc(sv);
2794                         yylval.opval->op_private = 0;
2795                         TOKEN(WORD);
2796                     }
2797
2798                     /* Resolve to GV now. */
2799                     op_free(yylval.opval);
2800                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
2801                     /* Is there a prototype? */
2802                     if (SvPOK(cv)) {
2803                         STRLEN len;
2804                         char *proto = SvPV((SV*)cv, len);
2805                         if (!len)
2806                             TERM(FUNC0SUB);
2807                         if (strEQ(proto, "$"))
2808                             OPERATOR(UNIOPSUB);
2809                         if (*proto == '&' && *s == '{') {
2810                             sv_setpv(subname,"__ANON__");
2811                             PREBLOCK(LSTOPSUB);
2812                         }
2813                     }
2814                     nextval[nexttoke].opval = yylval.opval;
2815                     expect = XTERM;
2816                     force_next(WORD);
2817                     TOKEN(NOAMP);
2818                 }
2819
2820                 if (hints & HINT_STRICT_SUBS &&
2821                     lastchar != '-' &&
2822                     strnNE(s,"->",2) &&
2823                     last_lop_op != OP_TRUNCATE &&  /* S/F prototype in opcode.pl */
2824                     last_lop_op != OP_ACCEPT &&
2825                     last_lop_op != OP_PIPE_OP &&
2826                     last_lop_op != OP_SOCKPAIR)
2827                 {
2828                     warn(
2829                      "Bareword \"%s\" not allowed while \"strict subs\" in use",
2830                         tokenbuf);
2831                     ++error_count;
2832                 }
2833
2834                 /* Call it a bare word */
2835
2836             bareword:
2837                 if (dowarn) {
2838                     if (lastchar != '-') {
2839                         for (d = tokenbuf; *d && isLOWER(*d); d++) ;
2840                         if (!*d)
2841                             warn(warn_reserved, tokenbuf);
2842                     }
2843                 }
2844                 if (lastchar && strchr("*%&", lastchar)) {
2845                     warn("Operator or semicolon missing before %c%s",
2846                         lastchar, tokenbuf);
2847                     warn("Ambiguous use of %c resolved as operator %c",
2848                         lastchar, lastchar);
2849                 }
2850                 TOKEN(WORD);
2851             }
2852
2853         case KEY___FILE__:
2854             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2855                                         newSVsv(GvSV(curcop->cop_filegv)));
2856             TERM(THING);
2857
2858         case KEY___LINE__:
2859             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2860                                     newSVpvf("%ld", (long)curcop->cop_line));
2861             TERM(THING);
2862
2863         case KEY___PACKAGE__:
2864             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
2865                                         (curstash
2866                                          ? newSVsv(curstname)
2867                                          : &sv_undef));
2868             TERM(THING);
2869
2870         case KEY___DATA__:
2871         case KEY___END__: {
2872             GV *gv;
2873
2874             /*SUPPRESS 560*/
2875             if (rsfp && (!in_eval || tokenbuf[2] == 'D')) {
2876                 char *pname = "main";
2877                 if (tokenbuf[2] == 'D')
2878                     pname = HvNAME(curstash ? curstash : defstash);
2879                 gv = gv_fetchpv(form("%s::DATA", pname), TRUE, SVt_PVIO);
2880                 GvMULTI_on(gv);
2881                 if (!GvIO(gv))
2882                     GvIOp(gv) = newIO();
2883                 IoIFP(GvIOp(gv)) = rsfp;
2884 #if defined(HAS_FCNTL) && defined(F_SETFD)
2885                 {
2886                     int fd = PerlIO_fileno(rsfp);
2887                     fcntl(fd,F_SETFD,fd >= 3);
2888                 }
2889 #endif
2890                 /* Mark this internal pseudo-handle as clean */
2891                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
2892                 if (preprocess)
2893                     IoTYPE(GvIOp(gv)) = '|';
2894                 else if ((PerlIO*)rsfp == PerlIO_stdin())
2895                     IoTYPE(GvIOp(gv)) = '-';
2896                 else
2897                     IoTYPE(GvIOp(gv)) = '<';
2898                 rsfp = Nullfp;
2899             }
2900             goto fake_eof;
2901         }
2902
2903         case KEY_AUTOLOAD:
2904         case KEY_DESTROY:
2905         case KEY_BEGIN:
2906         case KEY_END:
2907         case KEY_INIT:
2908             if (expect == XSTATE) {
2909                 s = bufptr;
2910                 goto really_sub;
2911             }
2912             goto just_a_word;
2913
2914         case KEY_CORE:
2915             if (*s == ':' && s[1] == ':') {
2916                 s += 2;
2917                 d = s;
2918                 s = scan_word(s, tokenbuf, sizeof tokenbuf, FALSE, &len);
2919                 tmp = keyword(tokenbuf, len);
2920                 if (tmp < 0)
2921                     tmp = -tmp;
2922                 goto reserved_word;
2923             }
2924             goto just_a_word;
2925
2926         case KEY_abs:
2927             UNI(OP_ABS);
2928
2929         case KEY_alarm:
2930             UNI(OP_ALARM);
2931
2932         case KEY_accept:
2933             LOP(OP_ACCEPT,XTERM);
2934
2935         case KEY_and:
2936             OPERATOR(ANDOP);
2937
2938         case KEY_atan2:
2939             LOP(OP_ATAN2,XTERM);
2940
2941         case KEY_bind:
2942             LOP(OP_BIND,XTERM);
2943
2944         case KEY_binmode:
2945             UNI(OP_BINMODE);
2946
2947         case KEY_bless:
2948             LOP(OP_BLESS,XTERM);
2949
2950         case KEY_chop:
2951             UNI(OP_CHOP);
2952
2953         case KEY_continue:
2954             PREBLOCK(CONTINUE);
2955
2956         case KEY_chdir:
2957             (void)gv_fetchpv("ENV",TRUE, SVt_PVHV);     /* may use HOME */
2958             UNI(OP_CHDIR);
2959
2960         case KEY_close:
2961             UNI(OP_CLOSE);
2962
2963         case KEY_closedir:
2964             UNI(OP_CLOSEDIR);
2965
2966         case KEY_cmp:
2967             Eop(OP_SCMP);
2968
2969         case KEY_caller:
2970             UNI(OP_CALLER);
2971
2972         case KEY_crypt:
2973 #ifdef FCRYPT
2974             if (!cryptseen++)
2975                 init_des();
2976 #endif
2977             LOP(OP_CRYPT,XTERM);
2978
2979         case KEY_chmod:
2980             if (dowarn) {
2981                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
2982                 if (*d != '0' && isDIGIT(*d))
2983                     yywarn("chmod: mode argument is missing initial 0");
2984             }
2985             LOP(OP_CHMOD,XTERM);
2986
2987         case KEY_chown:
2988             LOP(OP_CHOWN,XTERM);
2989
2990         case KEY_connect:
2991             LOP(OP_CONNECT,XTERM);
2992
2993         case KEY_chr:
2994             UNI(OP_CHR);
2995
2996         case KEY_cos:
2997             UNI(OP_COS);
2998
2999         case KEY_chroot:
3000             UNI(OP_CHROOT);
3001
3002         case KEY_do:
3003             s = skipspace(s);
3004             if (*s == '{')
3005                 PRETERMBLOCK(DO);
3006             if (*s != '\'')
3007                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
3008             OPERATOR(DO);
3009
3010         case KEY_die:
3011             hints |= HINT_BLOCK_SCOPE;
3012             LOP(OP_DIE,XTERM);
3013
3014         case KEY_defined:
3015             UNI(OP_DEFINED);
3016
3017         case KEY_delete:
3018             UNI(OP_DELETE);
3019
3020         case KEY_dbmopen:
3021             gv_fetchpv("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
3022             LOP(OP_DBMOPEN,XTERM);
3023
3024         case KEY_dbmclose:
3025             UNI(OP_DBMCLOSE);
3026
3027         case KEY_dump:
3028             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3029             LOOPX(OP_DUMP);
3030
3031         case KEY_else:
3032             PREBLOCK(ELSE);
3033
3034         case KEY_elsif:
3035             yylval.ival = curcop->cop_line;
3036             OPERATOR(ELSIF);
3037
3038         case KEY_eq:
3039             Eop(OP_SEQ);
3040
3041         case KEY_exists:
3042             UNI(OP_EXISTS);
3043
3044         case KEY_exit:
3045             UNI(OP_EXIT);
3046
3047         case KEY_eval:
3048             s = skipspace(s);
3049             expect = (*s == '{') ? XTERMBLOCK : XTERM;
3050             UNIBRACK(OP_ENTEREVAL);
3051
3052         case KEY_eof:
3053             UNI(OP_EOF);
3054
3055         case KEY_exp:
3056             UNI(OP_EXP);
3057
3058         case KEY_each:
3059             UNI(OP_EACH);
3060
3061         case KEY_exec:
3062             set_csh();
3063             LOP(OP_EXEC,XREF);
3064
3065         case KEY_endhostent:
3066             FUN0(OP_EHOSTENT);
3067
3068         case KEY_endnetent:
3069             FUN0(OP_ENETENT);
3070
3071         case KEY_endservent:
3072             FUN0(OP_ESERVENT);
3073
3074         case KEY_endprotoent:
3075             FUN0(OP_EPROTOENT);
3076
3077         case KEY_endpwent:
3078             FUN0(OP_EPWENT);
3079
3080         case KEY_endgrent:
3081             FUN0(OP_EGRENT);
3082
3083         case KEY_for:
3084         case KEY_foreach:
3085             yylval.ival = curcop->cop_line;
3086             s = skipspace(s);
3087             if (isIDFIRST(*s)) {
3088                 char *p = s;
3089                 if ((bufend - p) >= 3 &&
3090                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
3091                     p += 2;
3092                 p = skipspace(p);
3093                 if (isIDFIRST(*p))
3094                     croak("Missing $ on loop variable");
3095             }
3096             OPERATOR(FOR);
3097
3098         case KEY_formline:
3099             LOP(OP_FORMLINE,XTERM);
3100
3101         case KEY_fork:
3102             FUN0(OP_FORK);
3103
3104         case KEY_fcntl:
3105             LOP(OP_FCNTL,XTERM);
3106
3107         case KEY_fileno:
3108             UNI(OP_FILENO);
3109
3110         case KEY_flock:
3111             LOP(OP_FLOCK,XTERM);
3112
3113         case KEY_gt:
3114             Rop(OP_SGT);
3115
3116         case KEY_ge:
3117             Rop(OP_SGE);
3118
3119         case KEY_grep:
3120             LOP(OP_GREPSTART, *s == '(' ? XTERM : XREF);
3121
3122         case KEY_goto:
3123             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3124             LOOPX(OP_GOTO);
3125
3126         case KEY_gmtime:
3127             UNI(OP_GMTIME);
3128
3129         case KEY_getc:
3130             UNI(OP_GETC);
3131
3132         case KEY_getppid:
3133             FUN0(OP_GETPPID);
3134
3135         case KEY_getpgrp:
3136             UNI(OP_GETPGRP);
3137
3138         case KEY_getpriority:
3139             LOP(OP_GETPRIORITY,XTERM);
3140
3141         case KEY_getprotobyname:
3142             UNI(OP_GPBYNAME);
3143
3144         case KEY_getprotobynumber:
3145             LOP(OP_GPBYNUMBER,XTERM);
3146
3147         case KEY_getprotoent:
3148             FUN0(OP_GPROTOENT);
3149
3150         case KEY_getpwent:
3151             FUN0(OP_GPWENT);
3152
3153         case KEY_getpwnam:
3154             UNI(OP_GPWNAM);
3155
3156         case KEY_getpwuid:
3157             UNI(OP_GPWUID);
3158
3159         case KEY_getpeername:
3160             UNI(OP_GETPEERNAME);
3161
3162         case KEY_gethostbyname:
3163             UNI(OP_GHBYNAME);
3164
3165         case KEY_gethostbyaddr:
3166             LOP(OP_GHBYADDR,XTERM);
3167
3168         case KEY_gethostent:
3169             FUN0(OP_GHOSTENT);
3170
3171         case KEY_getnetbyname:
3172             UNI(OP_GNBYNAME);
3173
3174         case KEY_getnetbyaddr:
3175             LOP(OP_GNBYADDR,XTERM);
3176
3177         case KEY_getnetent:
3178             FUN0(OP_GNETENT);
3179
3180         case KEY_getservbyname:
3181             LOP(OP_GSBYNAME,XTERM);
3182
3183         case KEY_getservbyport:
3184             LOP(OP_GSBYPORT,XTERM);
3185
3186         case KEY_getservent:
3187             FUN0(OP_GSERVENT);
3188
3189         case KEY_getsockname:
3190             UNI(OP_GETSOCKNAME);
3191
3192         case KEY_getsockopt:
3193             LOP(OP_GSOCKOPT,XTERM);
3194
3195         case KEY_getgrent:
3196             FUN0(OP_GGRENT);
3197
3198         case KEY_getgrnam:
3199             UNI(OP_GGRNAM);
3200
3201         case KEY_getgrgid:
3202             UNI(OP_GGRGID);
3203
3204         case KEY_getlogin:
3205             FUN0(OP_GETLOGIN);
3206
3207         case KEY_glob:
3208             set_csh();
3209             LOP(OP_GLOB,XTERM);
3210
3211         case KEY_hex:
3212             UNI(OP_HEX);
3213
3214         case KEY_if:
3215             yylval.ival = curcop->cop_line;
3216             OPERATOR(IF);
3217
3218         case KEY_index:
3219             LOP(OP_INDEX,XTERM);
3220
3221         case KEY_int:
3222             UNI(OP_INT);
3223
3224         case KEY_ioctl:
3225             LOP(OP_IOCTL,XTERM);
3226
3227         case KEY_join:
3228             LOP(OP_JOIN,XTERM);
3229
3230         case KEY_keys:
3231             UNI(OP_KEYS);
3232
3233         case KEY_kill:
3234             LOP(OP_KILL,XTERM);
3235
3236         case KEY_last:
3237             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3238             LOOPX(OP_LAST);
3239
3240         case KEY_lc:
3241             UNI(OP_LC);
3242
3243         case KEY_lcfirst:
3244             UNI(OP_LCFIRST);
3245
3246         case KEY_local:
3247             OPERATOR(LOCAL);
3248
3249         case KEY_length:
3250             UNI(OP_LENGTH);
3251
3252         case KEY_lt:
3253             Rop(OP_SLT);
3254
3255         case KEY_le:
3256             Rop(OP_SLE);
3257
3258         case KEY_localtime:
3259             UNI(OP_LOCALTIME);
3260
3261         case KEY_log:
3262             UNI(OP_LOG);
3263
3264         case KEY_link:
3265             LOP(OP_LINK,XTERM);
3266
3267         case KEY_listen:
3268             LOP(OP_LISTEN,XTERM);
3269
3270         case KEY_lock:
3271             UNI(OP_LOCK);
3272
3273         case KEY_lstat:
3274             UNI(OP_LSTAT);
3275
3276         case KEY_m:
3277             s = scan_pat(s);
3278             TERM(sublex_start());
3279
3280         case KEY_map:
3281             LOP(OP_MAPSTART,XREF);
3282
3283         case KEY_mkdir:
3284             LOP(OP_MKDIR,XTERM);
3285
3286         case KEY_msgctl:
3287             LOP(OP_MSGCTL,XTERM);
3288
3289         case KEY_msgget:
3290             LOP(OP_MSGGET,XTERM);
3291
3292         case KEY_msgrcv:
3293             LOP(OP_MSGRCV,XTERM);
3294
3295         case KEY_msgsnd:
3296             LOP(OP_MSGSND,XTERM);
3297
3298         case KEY_my:
3299             in_my = TRUE;
3300             s = skipspace(s);
3301             if (isIDFIRST(*s)) {
3302                 s = scan_word(s, tokenbuf, sizeof tokenbuf, TRUE, &len);
3303                 in_my_stash = gv_stashpv(tokenbuf, FALSE);
3304                 if (!in_my_stash) {
3305                     char tmpbuf[1024];
3306                     bufptr = s;
3307                     sprintf(tmpbuf, "No such class %.1000s", tokenbuf);
3308                     yyerror(tmpbuf);
3309                 }
3310             }
3311             OPERATOR(MY);
3312
3313         case KEY_next:
3314             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3315             LOOPX(OP_NEXT);
3316
3317         case KEY_ne:
3318             Eop(OP_SNE);
3319
3320         case KEY_no:
3321             if (expect != XSTATE)
3322                 yyerror("\"no\" not allowed in expression");
3323             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3324             s = force_version(s);
3325             yylval.ival = 0;
3326             OPERATOR(USE);
3327
3328         case KEY_not:
3329             OPERATOR(NOTOP);
3330
3331         case KEY_open:
3332             s = skipspace(s);
3333             if (isIDFIRST(*s)) {
3334                 char *t;
3335                 for (d = s; isALNUM(*d); d++) ;
3336                 t = skipspace(d);
3337                 if (strchr("|&*+-=!?:.", *t))
3338                     warn("Precedence problem: open %.*s should be open(%.*s)",
3339                         d-s,s, d-s,s);
3340             }
3341             LOP(OP_OPEN,XTERM);
3342
3343         case KEY_or:
3344             yylval.ival = OP_OR;
3345             OPERATOR(OROP);
3346
3347         case KEY_ord:
3348             UNI(OP_ORD);
3349
3350         case KEY_oct:
3351             UNI(OP_OCT);
3352
3353         case KEY_opendir:
3354             LOP(OP_OPEN_DIR,XTERM);
3355
3356         case KEY_print:
3357             checkcomma(s,tokenbuf,"filehandle");
3358             LOP(OP_PRINT,XREF);
3359
3360         case KEY_printf:
3361             checkcomma(s,tokenbuf,"filehandle");
3362             LOP(OP_PRTF,XREF);
3363
3364         case KEY_prototype:
3365             UNI(OP_PROTOTYPE);
3366
3367         case KEY_push:
3368             LOP(OP_PUSH,XTERM);
3369
3370         case KEY_pop:
3371             UNI(OP_POP);
3372
3373         case KEY_pos:
3374             UNI(OP_POS);
3375
3376         case KEY_pack:
3377             LOP(OP_PACK,XTERM);
3378
3379         case KEY_package:
3380             s = force_word(s,WORD,FALSE,TRUE,FALSE);
3381             OPERATOR(PACKAGE);
3382
3383         case KEY_pipe:
3384             LOP(OP_PIPE_OP,XTERM);
3385
3386         case KEY_q:
3387             s = scan_str(s);
3388             if (!s)
3389                 missingterm((char*)0);
3390             yylval.ival = OP_CONST;
3391             TERM(sublex_start());
3392
3393         case KEY_quotemeta:
3394             UNI(OP_QUOTEMETA);
3395
3396         case KEY_qw:
3397             s = scan_str(s);
3398             if (!s)
3399                 missingterm((char*)0);
3400             if (dowarn && SvLEN(lex_stuff)) {
3401                 d = SvPV_force(lex_stuff, len);
3402                 for (; len; --len, ++d) {
3403                     if (*d == ',') {
3404                         warn("Possible attempt to separate words with commas");
3405                         break;
3406                     }
3407                     if (*d == '#') {
3408                         warn("Possible attempt to put comments in qw() list");
3409                         break;
3410                     }
3411                 }
3412             }
3413             force_next(')');
3414             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, tokeq(lex_stuff));
3415             lex_stuff = Nullsv;
3416             force_next(THING);
3417             force_next(',');
3418             nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(" ",1));
3419             force_next(THING);
3420             force_next('(');
3421             yylval.ival = OP_SPLIT;
3422             CLINE;
3423             expect = XTERM;
3424             bufptr = s;
3425             last_lop = oldbufptr;
3426             last_lop_op = OP_SPLIT;
3427             return FUNC;
3428
3429         case KEY_qq:
3430             s = scan_str(s);
3431             if (!s)
3432                 missingterm((char*)0);
3433             yylval.ival = OP_STRINGIFY;
3434             if (SvIVX(lex_stuff) == '\'')
3435                 SvIVX(lex_stuff) = 0;   /* qq'$foo' should intepolate */
3436             TERM(sublex_start());
3437
3438         case KEY_qx:
3439             s = scan_str(s);
3440             if (!s)
3441                 missingterm((char*)0);
3442             yylval.ival = OP_BACKTICK;
3443             set_csh();
3444             TERM(sublex_start());
3445
3446         case KEY_return:
3447             OLDLOP(OP_RETURN);
3448
3449         case KEY_require:
3450             *tokenbuf = '\0';
3451             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3452             if (isIDFIRST(*tokenbuf))
3453                 gv_stashpvn(tokenbuf, strlen(tokenbuf), TRUE);
3454             else if (*s == '<')
3455                 yyerror("<> should be quotes");
3456             UNI(OP_REQUIRE);
3457
3458         case KEY_reset:
3459             UNI(OP_RESET);
3460
3461         case KEY_redo:
3462             s = force_word(s,WORD,TRUE,FALSE,FALSE);
3463             LOOPX(OP_REDO);
3464
3465         case KEY_rename:
3466             LOP(OP_RENAME,XTERM);
3467
3468         case KEY_rand:
3469             UNI(OP_RAND);
3470
3471         case KEY_rmdir:
3472             UNI(OP_RMDIR);
3473
3474         case KEY_rindex:
3475             LOP(OP_RINDEX,XTERM);
3476
3477         case KEY_read:
3478             LOP(OP_READ,XTERM);
3479
3480         case KEY_readdir:
3481             UNI(OP_READDIR);
3482
3483         case KEY_readline:
3484             set_csh();
3485             UNI(OP_READLINE);
3486
3487         case KEY_readpipe:
3488             set_csh();
3489             UNI(OP_BACKTICK);
3490
3491         case KEY_rewinddir:
3492             UNI(OP_REWINDDIR);
3493
3494         case KEY_recv:
3495             LOP(OP_RECV,XTERM);
3496
3497         case KEY_reverse:
3498             LOP(OP_REVERSE,XTERM);
3499
3500         case KEY_readlink:
3501             UNI(OP_READLINK);
3502
3503         case KEY_ref:
3504             UNI(OP_REF);
3505
3506         case KEY_s:
3507             s = scan_subst(s);
3508             if (yylval.opval)
3509                 TERM(sublex_start());
3510             else
3511                 TOKEN(1);       /* force error */
3512
3513         case KEY_chomp:
3514             UNI(OP_CHOMP);
3515
3516         case KEY_scalar:
3517             UNI(OP_SCALAR);
3518
3519         case KEY_select:
3520             LOP(OP_SELECT,XTERM);
3521
3522         case KEY_seek:
3523             LOP(OP_SEEK,XTERM);
3524
3525         case KEY_semctl:
3526             LOP(OP_SEMCTL,XTERM);
3527
3528         case KEY_semget:
3529             LOP(OP_SEMGET,XTERM);
3530
3531         case KEY_semop:
3532             LOP(OP_SEMOP,XTERM);
3533
3534         case KEY_send:
3535             LOP(OP_SEND,XTERM);
3536
3537         case KEY_setpgrp:
3538             LOP(OP_SETPGRP,XTERM);
3539
3540         case KEY_setpriority:
3541             LOP(OP_SETPRIORITY,XTERM);
3542
3543         case KEY_sethostent:
3544             UNI(OP_SHOSTENT);
3545
3546         case KEY_setnetent:
3547             UNI(OP_SNETENT);
3548
3549         case KEY_setservent:
3550             UNI(OP_SSERVENT);
3551
3552         case KEY_setprotoent:
3553             UNI(OP_SPROTOENT);
3554
3555         case KEY_setpwent:
3556             FUN0(OP_SPWENT);
3557
3558         case KEY_setgrent:
3559             FUN0(OP_SGRENT);
3560
3561         case KEY_seekdir:
3562             LOP(OP_SEEKDIR,XTERM);
3563
3564         case KEY_setsockopt:
3565             LOP(OP_SSOCKOPT,XTERM);
3566
3567         case KEY_shift:
3568             UNI(OP_SHIFT);
3569
3570         case KEY_shmctl:
3571             LOP(OP_SHMCTL,XTERM);
3572
3573         case KEY_shmget:
3574             LOP(OP_SHMGET,XTERM);
3575
3576         case KEY_shmread:
3577             LOP(OP_SHMREAD,XTERM);
3578
3579         case KEY_shmwrite:
3580             LOP(OP_SHMWRITE,XTERM);
3581
3582         case KEY_shutdown:
3583             LOP(OP_SHUTDOWN,XTERM);
3584
3585         case KEY_sin:
3586             UNI(OP_SIN);
3587
3588         case KEY_sleep:
3589             UNI(OP_SLEEP);
3590
3591         case KEY_socket:
3592             LOP(OP_SOCKET,XTERM);
3593
3594         case KEY_socketpair:
3595             LOP(OP_SOCKPAIR,XTERM);
3596
3597         case KEY_sort:
3598             checkcomma(s,tokenbuf,"subroutine name");
3599             s = skipspace(s);
3600             if (*s == ';' || *s == ')')         /* probably a close */
3601                 croak("sort is now a reserved word");
3602             expect = XTERM;
3603             s = force_word(s,WORD,TRUE,TRUE,FALSE);
3604             LOP(OP_SORT,XREF);
3605
3606         case KEY_split:
3607             LOP(OP_SPLIT,XTERM);
3608
3609         case KEY_sprintf:
3610             LOP(OP_SPRINTF,XTERM);
3611
3612         case KEY_splice:
3613             LOP(OP_SPLICE,XTERM);
3614
3615         case KEY_sqrt:
3616             UNI(OP_SQRT);
3617
3618         case KEY_srand:
3619             UNI(OP_SRAND);
3620
3621         case KEY_stat:
3622             UNI(OP_STAT);
3623
3624         case KEY_study:
3625             sawstudy++;
3626             UNI(OP_STUDY);
3627
3628         case KEY_substr:
3629             LOP(OP_SUBSTR,XTERM);
3630
3631         case KEY_format:
3632         case KEY_sub:
3633           really_sub:
3634             s = skipspace(s);
3635
3636             if (isIDFIRST(*s) || *s == '\'' || *s == ':') {
3637                 char tmpbuf[sizeof tokenbuf];
3638                 expect = XBLOCK;
3639                 d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
3640                 if (strchr(tmpbuf, ':'))
3641                     sv_setpv(subname, tmpbuf);
3642                 else {
3643                     sv_setsv(subname,curstname);
3644                     sv_catpvn(subname,"::",2);
3645                     sv_catpvn(subname,tmpbuf,len);
3646                 }
3647                 s = force_word(s,WORD,FALSE,TRUE,TRUE);
3648                 s = skipspace(s);
3649             }
3650             else {
3651                 expect = XTERMBLOCK;
3652                 sv_setpv(subname,"?");
3653             }
3654
3655             if (tmp == KEY_format) {
3656                 s = skipspace(s);
3657                 if (*s == '=')
3658                     lex_formbrack = lex_brackets + 1;
3659                 OPERATOR(FORMAT);
3660             }
3661
3662             /* Look for a prototype */
3663             if (*s == '(') {
3664                 char *p;
3665
3666                 s = scan_str(s);
3667                 if (!s) {
3668                     if (lex_stuff)
3669                         SvREFCNT_dec(lex_stuff);
3670                     lex_stuff = Nullsv;
3671                     croak("Prototype not terminated");
3672                 }
3673                 /* strip spaces */
3674                 d = SvPVX(lex_stuff);
3675                 tmp = 0;
3676                 for (p = d; *p; ++p) {
3677                     if (!isSPACE(*p))
3678                         d[tmp++] = *p;
3679                 }
3680                 d[tmp] = '\0';
3681                 SvCUR(lex_stuff) = tmp;
3682
3683                 nexttoke++;
3684                 nextval[1] = nextval[0];
3685                 nexttype[1] = nexttype[0];
3686                 nextval[0].opval = (OP*)newSVOP(OP_CONST, 0, lex_stuff);
3687                 nexttype[0] = THING;
3688                 if (nexttoke == 1) {
3689                     lex_defer = lex_state;
3690                     lex_expect = expect;
3691                     lex_state = LEX_KNOWNEXT;
3692                 }
3693                 lex_stuff = Nullsv;
3694             }
3695
3696             if (*SvPV(subname,na) == '?') {
3697                 sv_setpv(subname,"__ANON__");
3698                 TOKEN(ANONSUB);
3699             }
3700             PREBLOCK(SUB);
3701
3702         case KEY_system:
3703             set_csh();
3704             LOP(OP_SYSTEM,XREF);
3705
3706         case KEY_symlink:
3707             LOP(OP_SYMLINK,XTERM);
3708
3709         case KEY_syscall:
3710             LOP(OP_SYSCALL,XTERM);
3711
3712         case KEY_sysopen:
3713             LOP(OP_SYSOPEN,XTERM);
3714
3715         case KEY_sysseek:
3716             LOP(OP_SYSSEEK,XTERM);
3717
3718         case KEY_sysread:
3719             LOP(OP_SYSREAD,XTERM);
3720
3721         case KEY_syswrite:
3722             LOP(OP_SYSWRITE,XTERM);
3723
3724         case KEY_tr:
3725             s = scan_trans(s);
3726             TERM(sublex_start());
3727
3728         case KEY_tell:
3729             UNI(OP_TELL);
3730
3731         case KEY_telldir:
3732             UNI(OP_TELLDIR);
3733
3734         case KEY_tie:
3735             LOP(OP_TIE,XTERM);
3736
3737         case KEY_tied:
3738             UNI(OP_TIED);
3739
3740         case KEY_time:
3741             FUN0(OP_TIME);
3742
3743         case KEY_times:
3744             FUN0(OP_TMS);
3745
3746         case KEY_truncate:
3747             LOP(OP_TRUNCATE,XTERM);
3748
3749         case KEY_uc:
3750             UNI(OP_UC);
3751
3752         case KEY_ucfirst:
3753             UNI(OP_UCFIRST);
3754
3755         case KEY_untie:
3756             UNI(OP_UNTIE);
3757
3758         case KEY_until:
3759             yylval.ival = curcop->cop_line;
3760             OPERATOR(UNTIL);
3761
3762         case KEY_unless:
3763             yylval.ival = curcop->cop_line;
3764             OPERATOR(UNLESS);
3765
3766         case KEY_unlink:
3767             LOP(OP_UNLINK,XTERM);
3768
3769         case KEY_undef:
3770             UNI(OP_UNDEF);
3771
3772         case KEY_unpack:
3773             LOP(OP_UNPACK,XTERM);
3774
3775         case KEY_utime:
3776             LOP(OP_UTIME,XTERM);
3777
3778         case KEY_umask:
3779             if (dowarn) {
3780                 for (d = s; d < bufend && (isSPACE(*d) || *d == '('); d++) ;
3781                 if (*d != '0' && isDIGIT(*d))
3782                     yywarn("umask: argument is missing initial 0");
3783             }
3784             UNI(OP_UMASK);
3785
3786         case KEY_unshift:
3787             LOP(OP_UNSHIFT,XTERM);
3788
3789         case KEY_use:
3790             if (expect != XSTATE)
3791                 yyerror("\"use\" not allowed in expression");
3792             s = skipspace(s);
3793             if(isDIGIT(*s)) {
3794                 s = force_version(s);
3795                 if(*s == ';' || (s = skipspace(s), *s == ';')) {
3796                     nextval[nexttoke].opval = Nullop;
3797                     force_next(WORD);
3798                 }
3799             }
3800             else {
3801                 s = force_word(s,WORD,FALSE,TRUE,FALSE);
3802                 s = force_version(s);
3803             }
3804             yylval.ival = 1;
3805             OPERATOR(USE);
3806
3807         case KEY_values:
3808             UNI(OP_VALUES);
3809
3810         case KEY_vec:
3811             sawvec = TRUE;
3812             LOP(OP_VEC,XTERM);
3813
3814         case KEY_while:
3815             yylval.ival = curcop->cop_line;
3816             OPERATOR(WHILE);
3817
3818         case KEY_warn:
3819             hints |= HINT_BLOCK_SCOPE;
3820             LOP(OP_WARN,XTERM);
3821
3822         case KEY_wait:
3823             FUN0(OP_WAIT);
3824
3825         case KEY_waitpid:
3826             LOP(OP_WAITPID,XTERM);
3827
3828         case KEY_wantarray:
3829             FUN0(OP_WANTARRAY);
3830
3831         case KEY_write:
3832             gv_fetchpv("\f",TRUE, SVt_PV);      /* Make sure $^L is defined */
3833             UNI(OP_ENTERWRITE);
3834
3835         case KEY_x:
3836             if (expect == XOPERATOR)
3837                 Mop(OP_REPEAT);
3838             check_uni();
3839             goto just_a_word;
3840
3841         case KEY_xor:
3842             yylval.ival = OP_XOR;
3843             OPERATOR(OROP);
3844
3845         case KEY_y:
3846             s = scan_trans(s);
3847             TERM(sublex_start());
3848         }
3849     }}
3850 }
3851
3852 I32
3853 keyword(register char *d, I32 len)
3854 {
3855     switch (*d) {
3856     case '_':
3857         if (d[1] == '_') {
3858             if (strEQ(d,"__FILE__"))            return -KEY___FILE__;
3859             if (strEQ(d,"__LINE__"))            return -KEY___LINE__;
3860             if (strEQ(d,"__PACKAGE__"))         return -KEY___PACKAGE__;
3861             if (strEQ(d,"__DATA__"))            return KEY___DATA__;
3862             if (strEQ(d,"__END__"))             return KEY___END__;
3863         }
3864         break;
3865     case 'A':
3866         if (strEQ(d,"AUTOLOAD"))                return KEY_AUTOLOAD;
3867         break;
3868     case 'a':
3869         switch (len) {
3870         case 3:
3871             if (strEQ(d,"and"))                 return -KEY_and;
3872             if (strEQ(d,"abs"))                 return -KEY_abs;
3873             break;
3874         case 5:
3875             if (strEQ(d,"alarm"))               return -KEY_alarm;
3876             if (strEQ(d,"atan2"))               return -KEY_atan2;
3877             break;
3878         case 6:
3879             if (strEQ(d,"accept"))              return -KEY_accept;
3880             break;
3881         }
3882         break;
3883     case 'B':
3884         if (strEQ(d,"BEGIN"))                   return KEY_BEGIN;
3885         break;
3886     case 'b':
3887         if (strEQ(d,"bless"))                   return -KEY_bless;
3888         if (strEQ(d,"bind"))                    return -KEY_bind;
3889         if (strEQ(d,"binmode"))                 return -KEY_binmode;
3890         break;
3891     case 'C':
3892         if (strEQ(d,"CORE"))                    return -KEY_CORE;
3893         break;
3894     case 'c':
3895         switch (len) {
3896         case 3:
3897             if (strEQ(d,"cmp"))                 return -KEY_cmp;
3898             if (strEQ(d,"chr"))                 return -KEY_chr;
3899             if (strEQ(d,"cos"))                 return -KEY_cos;
3900             break;
3901         case 4:
3902             if (strEQ(d,"chop"))                return KEY_chop;
3903             break;
3904         case 5:
3905             if (strEQ(d,"close"))               return -KEY_close;
3906             if (strEQ(d,"chdir"))               return -KEY_chdir;
3907             if (strEQ(d,"chomp"))               return KEY_chomp;
3908             if (strEQ(d,"chmod"))               return -KEY_chmod;
3909             if (strEQ(d,"chown"))               return -KEY_chown;
3910             if (strEQ(d,"crypt"))               return -KEY_crypt;
3911             break;
3912         case 6:
3913             if (strEQ(d,"chroot"))              return -KEY_chroot;
3914             if (strEQ(d,"caller"))              return -KEY_caller;
3915             break;
3916         case 7:
3917             if (strEQ(d,"connect"))             return -KEY_connect;
3918             break;
3919         case 8:
3920             if (strEQ(d,"closedir"))            return -KEY_closedir;
3921             if (strEQ(d,"continue"))            return -KEY_continue;
3922             break;
3923         }
3924         break;
3925     case 'D':
3926         if (strEQ(d,"DESTROY"))                 return KEY_DESTROY;
3927         break;
3928     case 'd':
3929         switch (len) {
3930         case 2:
3931             if (strEQ(d,"do"))                  return KEY_do;
3932             break;
3933         case 3:
3934             if (strEQ(d,"die"))                 return -KEY_die;
3935             break;
3936         case 4:
3937             if (strEQ(d,"dump"))                return -KEY_dump;
3938             break;
3939         case 6:
3940             if (strEQ(d,"delete"))              return KEY_delete;
3941             break;
3942         case 7:
3943             if (strEQ(d,"defined"))             return KEY_defined;
3944             if (strEQ(d,"dbmopen"))             return -KEY_dbmopen;
3945             break;
3946         case 8:
3947             if (strEQ(d,"dbmclose"))            return -KEY_dbmclose;
3948             break;
3949         }
3950         break;
3951     case 'E':
3952         if (strEQ(d,"EQ")) { deprecate(d);      return -KEY_eq;}
3953         if (strEQ(d,"END"))                     return KEY_END;
3954         break;
3955     case 'e':
3956         switch (len) {
3957         case 2:
3958             if (strEQ(d,"eq"))                  return -KEY_eq;
3959             break;
3960         case 3:
3961             if (strEQ(d,"eof"))                 return -KEY_eof;
3962             if (strEQ(d,"exp"))                 return -KEY_exp;
3963             break;
3964         case 4:
3965             if (strEQ(d,"else"))                return KEY_else;
3966             if (strEQ(d,"exit"))                return -KEY_exit;
3967             if (strEQ(d,"eval"))                return KEY_eval;
3968             if (strEQ(d,"exec"))                return -KEY_exec;
3969             if (strEQ(d,"each"))                return KEY_each;
3970             break;
3971         case 5:
3972             if (strEQ(d,"elsif"))               return KEY_elsif;
3973             break;
3974         case 6:
3975             if (strEQ(d,"exists"))              return KEY_exists;
3976             if (strEQ(d,"elseif")) warn("elseif should be elsif");
3977             break;
3978         case 8:
3979             if (strEQ(d,"endgrent"))            return -KEY_endgrent;
3980             if (strEQ(d,"endpwent"))            return -KEY_endpwent;
3981             break;
3982         case 9:
3983             if (strEQ(d,"endnetent"))           return -KEY_endnetent;
3984             break;
3985         case 10:
3986             if (strEQ(d,"endhostent"))          return -KEY_endhostent;
3987             if (strEQ(d,"endservent"))          return -KEY_endservent;
3988             break;
3989         case 11:
3990             if (strEQ(d,"endprotoent"))         return -KEY_endprotoent;
3991             break;
3992         }
3993         break;
3994     case 'f':
3995         switch (len) {
3996         case 3:
3997             if (strEQ(d,"for"))                 return KEY_for;
3998             break;
3999         case 4:
4000             if (strEQ(d,"fork"))                return -KEY_fork;
4001             break;
4002         case 5:
4003             if (strEQ(d,"fcntl"))               return -KEY_fcntl;
4004             if (strEQ(d,"flock"))               return -KEY_flock;
4005             break;
4006         case 6:
4007             if (strEQ(d,"format"))              return KEY_format;
4008             if (strEQ(d,"fileno"))              return -KEY_fileno;
4009             break;
4010         case 7:
4011             if (strEQ(d,"foreach"))             return KEY_foreach;
4012             break;
4013         case 8:
4014             if (strEQ(d,"formline"))            return -KEY_formline;
4015             break;
4016         }
4017         break;
4018     case 'G':
4019         if (len == 2) {
4020             if (strEQ(d,"GT")) { deprecate(d);  return -KEY_gt;}
4021             if (strEQ(d,"GE")) { deprecate(d);  return -KEY_ge;}
4022         }
4023         break;
4024     case 'g':
4025         if (strnEQ(d,"get",3)) {
4026             d += 3;
4027             if (*d == 'p') {
4028                 switch (len) {
4029                 case 7:
4030                     if (strEQ(d,"ppid"))        return -KEY_getppid;
4031                     if (strEQ(d,"pgrp"))        return -KEY_getpgrp;
4032                     break;
4033                 case 8:
4034                     if (strEQ(d,"pwent"))       return -KEY_getpwent;
4035                     if (strEQ(d,"pwnam"))       return -KEY_getpwnam;
4036                     if (strEQ(d,"pwuid"))       return -KEY_getpwuid;
4037                     break;
4038                 case 11:
4039                     if (strEQ(d,"peername"))    return -KEY_getpeername;
4040                     if (strEQ(d,"protoent"))    return -KEY_getprotoent;
4041                     if (strEQ(d,"priority"))    return -KEY_getpriority;
4042                     break;
4043                 case 14:
4044                     if (strEQ(d,"protobyname")) return -KEY_getprotobyname;
4045                     break;
4046                 case 16:
4047                     if (strEQ(d,"protobynumber"))return -KEY_getprotobynumber;
4048                     break;
4049                 }
4050             }
4051             else if (*d == 'h') {
4052                 if (strEQ(d,"hostbyname"))      return -KEY_gethostbyname;
4053                 if (strEQ(d,"hostbyaddr"))      return -KEY_gethostbyaddr;
4054                 if (strEQ(d,"hostent"))         return -KEY_gethostent;
4055             }
4056             else if (*d == 'n') {
4057                 if (strEQ(d,"netbyname"))       return -KEY_getnetbyname;
4058                 if (strEQ(d,"netbyaddr"))       return -KEY_getnetbyaddr;
4059                 if (strEQ(d,"netent"))          return -KEY_getnetent;
4060             }
4061             else if (*d == 's') {
4062                 if (strEQ(d,"servbyname"))      return -KEY_getservbyname;
4063                 if (strEQ(d,"servbyport"))      return -KEY_getservbyport;
4064                 if (strEQ(d,"servent"))         return -KEY_getservent;
4065                 if (strEQ(d,"sockname"))        return -KEY_getsockname;
4066                 if (strEQ(d,"sockopt"))         return -KEY_getsockopt;
4067             }
4068             else if (*d == 'g') {
4069                 if (strEQ(d,"grent"))           return -KEY_getgrent;
4070                 if (strEQ(d,"grnam"))           return -KEY_getgrnam;
4071                 if (strEQ(d,"grgid"))           return -KEY_getgrgid;
4072             }
4073             else if (*d == 'l') {
4074                 if (strEQ(d,"login"))           return -KEY_getlogin;
4075             }
4076             else if (strEQ(d,"c"))              return -KEY_getc;
4077             break;
4078         }
4079         switch (len) {
4080         case 2:
4081             if (strEQ(d,"gt"))                  return -KEY_gt;
4082             if (strEQ(d,"ge"))                  return -KEY_ge;
4083             break;
4084         case 4:
4085             if (strEQ(d,"grep"))                return KEY_grep;
4086             if (strEQ(d,"goto"))                return KEY_goto;
4087             if (strEQ(d,"glob"))                return KEY_glob;
4088             break;
4089         case 6:
4090             if (strEQ(d,"gmtime"))              return -KEY_gmtime;
4091             break;
4092         }
4093         break;
4094     case 'h':
4095         if (strEQ(d,"hex"))                     return -KEY_hex;
4096         break;
4097     case 'I':
4098         if (strEQ(d,"INIT"))                    return KEY_INIT;
4099         break;
4100     case 'i':
4101         switch (len) {
4102         case 2:
4103             if (strEQ(d,"if"))                  return KEY_if;
4104             break;
4105         case 3:
4106             if (strEQ(d,"int"))                 return -KEY_int;
4107             break;
4108         case 5:
4109             if (strEQ(d,"index"))               return -KEY_index;
4110             if (strEQ(d,"ioctl"))               return -KEY_ioctl;
4111             break;
4112         }
4113         break;
4114     case 'j':
4115         if (strEQ(d,"join"))                    return -KEY_join;
4116         break;
4117     case 'k':
4118         if (len == 4) {
4119             if (strEQ(d,"keys"))                return KEY_keys;
4120             if (strEQ(d,"kill"))                return -KEY_kill;
4121         }
4122         break;
4123     case 'L':
4124         if (len == 2) {
4125             if (strEQ(d,"LT")) { deprecate(d);  return -KEY_lt;}
4126             if (strEQ(d,"LE")) { deprecate(d);  return -KEY_le;}
4127         }
4128         break;
4129     case 'l':
4130         switch (len) {
4131         case 2:
4132             if (strEQ(d,"lt"))                  return -KEY_lt;
4133             if (strEQ(d,"le"))                  return -KEY_le;
4134             if (strEQ(d,"lc"))                  return -KEY_lc;
4135             break;
4136         case 3:
4137             if (strEQ(d,"log"))                 return -KEY_log;
4138             break;
4139         case 4:
4140             if (strEQ(d,"last"))                return KEY_last;
4141             if (strEQ(d,"link"))                return -KEY_link;
4142             if (strEQ(d,"lock"))                return -KEY_lock;
4143             break;
4144         case 5:
4145             if (strEQ(d,"local"))               return KEY_local;
4146             if (strEQ(d,"lstat"))               return -KEY_lstat;
4147             break;
4148         case 6:
4149             if (strEQ(d,"length"))              return -KEY_length;
4150             if (strEQ(d,"listen"))              return -KEY_listen;
4151             break;
4152         case 7:
4153             if (strEQ(d,"lcfirst"))             return -KEY_lcfirst;
4154             break;
4155         case 9:
4156             if (strEQ(d,"localtime"))           return -KEY_localtime;
4157             break;
4158         }
4159         break;
4160     case 'm':
4161         switch (len) {
4162         case 1:                                 return KEY_m;
4163         case 2:
4164             if (strEQ(d,"my"))                  return KEY_my;
4165             break;
4166         case 3:
4167             if (strEQ(d,"map"))                 return KEY_map;
4168             break;
4169         case 5:
4170             if (strEQ(d,"mkdir"))               return -KEY_mkdir;
4171             break;
4172         case 6:
4173             if (strEQ(d,"msgctl"))              return -KEY_msgctl;
4174             if (strEQ(d,"msgget"))              return -KEY_msgget;
4175             if (strEQ(d,"msgrcv"))              return -KEY_msgrcv;
4176             if (strEQ(d,"msgsnd"))              return -KEY_msgsnd;
4177             break;
4178         }
4179         break;
4180     case 'N':
4181         if (strEQ(d,"NE")) { deprecate(d);      return -KEY_ne;}
4182         break;
4183     case 'n':
4184         if (strEQ(d,"next"))                    return KEY_next;
4185         if (strEQ(d,"ne"))                      return -KEY_ne;
4186         if (strEQ(d,"not"))                     return -KEY_not;
4187         if (strEQ(d,"no"))                      return KEY_no;
4188         break;
4189     case 'o':
4190         switch (len) {
4191         case 2:
4192             if (strEQ(d,"or"))                  return -KEY_or;
4193             break;
4194         case 3:
4195             if (strEQ(d,"ord"))                 return -KEY_ord;
4196             if (strEQ(d,"oct"))                 return -KEY_oct;
4197             break;
4198         case 4:
4199             if (strEQ(d,"open"))                return -KEY_open;
4200             break;
4201         case 7:
4202             if (strEQ(d,"opendir"))             return -KEY_opendir;
4203             break;
4204         }
4205         break;
4206     case 'p':
4207         switch (len) {
4208         case 3:
4209             if (strEQ(d,"pop"))                 return KEY_pop;
4210             if (strEQ(d,"pos"))                 return KEY_pos;
4211             break;
4212         case 4:
4213             if (strEQ(d,"push"))                return KEY_push;
4214             if (strEQ(d,"pack"))                return -KEY_pack;
4215             if (strEQ(d,"pipe"))                return -KEY_pipe;
4216             break;
4217         case 5:
4218             if (strEQ(d,"print"))               return KEY_print;
4219             break;
4220         case 6:
4221             if (strEQ(d,"printf"))              return KEY_printf;
4222             break;
4223         case 7:
4224             if (strEQ(d,"package"))             return KEY_package;
4225             break;
4226         case 9:
4227             if (strEQ(d,"prototype"))           return KEY_prototype;
4228         }
4229         break;
4230     case 'q':
4231         if (len <= 2) {
4232             if (strEQ(d,"q"))                   return KEY_q;
4233             if (strEQ(d,"qq"))                  return KEY_qq;
4234             if (strEQ(d,"qw"))                  return KEY_qw;
4235             if (strEQ(d,"qx"))                  return KEY_qx;
4236         }
4237         else if (strEQ(d,"quotemeta"))          return -KEY_quotemeta;
4238         break;
4239     case 'r':
4240         switch (len) {
4241         case 3:
4242             if (strEQ(d,"ref"))                 return -KEY_ref;
4243             break;
4244         case 4:
4245             if (strEQ(d,"read"))                return -KEY_read;
4246             if (strEQ(d,"rand"))                return -KEY_rand;
4247             if (strEQ(d,"recv"))                return -KEY_recv;
4248             if (strEQ(d,"redo"))                return KEY_redo;
4249             break;
4250         case 5:
4251             if (strEQ(d,"rmdir"))               return -KEY_rmdir;
4252             if (strEQ(d,"reset"))               return -KEY_reset;
4253             break;
4254         case 6:
4255             if (strEQ(d,"return"))              return KEY_return;
4256             if (strEQ(d,"rename"))              return -KEY_rename;
4257             if (strEQ(d,"rindex"))              return -KEY_rindex;
4258             break;
4259         case 7:
4260             if (strEQ(d,"require"))             return -KEY_require;
4261             if (strEQ(d,"reverse"))             return -KEY_reverse;
4262             if (strEQ(d,"readdir"))             return -KEY_readdir;
4263             break;
4264         case 8:
4265             if (strEQ(d,"readlink"))            return -KEY_readlink;
4266             if (strEQ(d,"readline"))            return -KEY_readline;
4267             if (strEQ(d,"readpipe"))            return -KEY_readpipe;
4268             break;
4269         case 9:
4270             if (strEQ(d,"rewinddir"))           return -KEY_rewinddir;
4271             break;
4272         }
4273         break;
4274     case 's':
4275         switch (d[1]) {
4276         case 0:                                 return KEY_s;
4277         case 'c':
4278             if (strEQ(d,"scalar"))              return KEY_scalar;
4279             break;
4280         case 'e':
4281             switch (len) {
4282             case 4:
4283                 if (strEQ(d,"seek"))            return -KEY_seek;
4284                 if (strEQ(d,"send"))            return -KEY_send;
4285                 break;
4286             case 5:
4287                 if (strEQ(d,"semop"))           return -KEY_semop;
4288                 break;
4289             case 6:
4290                 if (strEQ(d,"select"))          return -KEY_select;
4291                 if (strEQ(d,"semctl"))          return -KEY_semctl;
4292                 if (strEQ(d,"semget"))          return -KEY_semget;
4293                 break;
4294             case 7:
4295                 if (strEQ(d,"setpgrp"))         return -KEY_setpgrp;
4296                 if (strEQ(d,"seekdir"))         return -KEY_seekdir;
4297                 break;
4298             case 8:
4299                 if (strEQ(d,"setpwent"))        return -KEY_setpwent;
4300                 if (strEQ(d,"setgrent"))        return -KEY_setgrent;
4301                 break;
4302             case 9:
4303                 if (strEQ(d,"setnetent"))       return -KEY_setnetent;
4304                 break;
4305             case 10:
4306                 if (strEQ(d,"setsockopt"))      return -KEY_setsockopt;
4307                 if (strEQ(d,"sethostent"))      return -KEY_sethostent;
4308                 if (strEQ(d,"setservent"))      return -KEY_setservent;
4309                 break;
4310             case 11:
4311                 if (strEQ(d,"setpriority"))     return -KEY_setpriority;
4312                 if (strEQ(d,"setprotoent"))     return -KEY_setprotoent;
4313                 break;
4314             }
4315             break;
4316         case 'h':
4317             switch (len) {
4318             case 5:
4319                 if (strEQ(d,"shift"))           return KEY_shift;
4320                 break;
4321             case 6:
4322                 if (strEQ(d,"shmctl"))          return -KEY_shmctl;
4323                 if (strEQ(d,"shmget"))          return -KEY_shmget;
4324                 break;
4325             case 7:
4326                 if (strEQ(d,"shmread"))         return -KEY_shmread;
4327                 break;
4328             case 8:
4329                 if (strEQ(d,"shmwrite"))        return -KEY_shmwrite;
4330                 if (strEQ(d,"shutdown"))        return -KEY_shutdown;
4331                 break;
4332             }
4333             break;
4334         case 'i':
4335             if (strEQ(d,"sin"))                 return -KEY_sin;
4336             break;
4337         case 'l':
4338             if (strEQ(d,"sleep"))               return -KEY_sleep;
4339             break;
4340         case 'o':
4341             if (strEQ(d,"sort"))                return KEY_sort;
4342             if (strEQ(d,"socket"))              return -KEY_socket;
4343             if (strEQ(d,"socketpair"))          return -KEY_socketpair;
4344             break;
4345         case 'p':
4346             if (strEQ(d,"split"))               return KEY_split;
4347             if (strEQ(d,"sprintf"))             return -KEY_sprintf;
4348             if (strEQ(d,"splice"))              return KEY_splice;
4349             break;
4350         case 'q':
4351             if (strEQ(d,"sqrt"))                return -KEY_sqrt;
4352             break;
4353         case 'r':
4354             if (strEQ(d,"srand"))               return -KEY_srand;
4355             break;
4356         case 't':
4357             if (strEQ(d,"stat"))                return -KEY_stat;
4358             if (strEQ(d,"study"))               return KEY_study;
4359             break;
4360         case 'u':
4361             if (strEQ(d,"substr"))              return -KEY_substr;
4362             if (strEQ(d,"sub"))                 return KEY_sub;
4363             break;
4364         case 'y':
4365             switch (len) {
4366             case 6:
4367                 if (strEQ(d,"system"))          return -KEY_system;
4368                 break;
4369             case 7:
4370                 if (strEQ(d,"symlink"))         return -KEY_symlink;
4371                 if (strEQ(d,"syscall"))         return -KEY_syscall;
4372                 if (strEQ(d,"sysopen"))         return -KEY_sysopen;
4373                 if (strEQ(d,"sysread"))         return -KEY_sysread;
4374                 if (strEQ(d,"sysseek"))         return -KEY_sysseek;
4375                 break;
4376             case 8:
4377                 if (strEQ(d,"syswrite"))        return -KEY_syswrite;
4378                 break;
4379             }
4380             break;
4381         }
4382         break;
4383     case 't':
4384         switch (len) {
4385         case 2:
4386             if (strEQ(d,"tr"))                  return KEY_tr;
4387             break;
4388         case 3:
4389             if (strEQ(d,"tie"))                 return KEY_tie;
4390             break;
4391         case 4:
4392             if (strEQ(d,"tell"))                return -KEY_tell;
4393             if (strEQ(d,"tied"))                return KEY_tied;
4394             if (strEQ(d,"time"))                return -KEY_time;
4395             break;
4396         case 5:
4397             if (strEQ(d,"times"))               return -KEY_times;
4398             break;
4399         case 7:
4400             if (strEQ(d,"telldir"))             return -KEY_telldir;
4401             break;
4402         case 8:
4403             if (strEQ(d,"truncate"))            return -KEY_truncate;
4404             break;
4405         }
4406         break;
4407     case 'u':
4408         switch (len) {
4409         case 2:
4410             if (strEQ(d,"uc"))                  return -KEY_uc;
4411             break;
4412         case 3:
4413             if (strEQ(d,"use"))                 return KEY_use;
4414             break;
4415         case 5:
4416             if (strEQ(d,"undef"))               return KEY_undef;
4417             if (strEQ(d,"until"))               return KEY_until;
4418             if (strEQ(d,"untie"))               return KEY_untie;
4419             if (strEQ(d,"utime"))               return -KEY_utime;
4420             if (strEQ(d,"umask"))               return -KEY_umask;
4421             break;
4422         case 6:
4423             if (strEQ(d,"unless"))              return KEY_unless;
4424             if (strEQ(d,"unpack"))              return -KEY_unpack;
4425             if (strEQ(d,"unlink"))              return -KEY_unlink;
4426             break;
4427         case 7:
4428             if (strEQ(d,"unshift"))             return KEY_unshift;
4429             if (strEQ(d,"ucfirst"))             return -KEY_ucfirst;
4430             break;
4431         }
4432         break;
4433     case 'v':
4434         if (strEQ(d,"values"))                  return -KEY_values;
4435         if (strEQ(d,"vec"))                     return -KEY_vec;
4436         break;
4437     case 'w':
4438         switch (len) {
4439         case 4:
4440             if (strEQ(d,"warn"))                return -KEY_warn;
4441             if (strEQ(d,"wait"))                return -KEY_wait;
4442             break;
4443         case 5:
4444             if (strEQ(d,"while"))               return KEY_while;
4445             if (strEQ(d,"write"))               return -KEY_write;
4446             break;
4447         case 7:
4448             if (strEQ(d,"waitpid"))             return -KEY_waitpid;
4449             break;
4450         case 9:
4451             if (strEQ(d,"wantarray"))           return -KEY_wantarray;
4452             break;
4453         }
4454         break;
4455     case 'x':
4456         if (len == 1)                           return -KEY_x;
4457         if (strEQ(d,"xor"))                     return -KEY_xor;
4458         break;
4459     case 'y':
4460         if (len == 1)                           return KEY_y;
4461         break;
4462     case 'z':
4463         break;
4464     }
4465     return 0;
4466 }
4467
4468 STATIC void
4469 checkcomma(register char *s, char *name, char *what)
4470 {
4471     char *w;
4472
4473     if (dowarn && *s == ' ' && s[1] == '(') {   /* XXX gotta be a better way */
4474         int level = 1;
4475         for (w = s+2; *w && level; w++) {
4476             if (*w == '(')
4477                 ++level;
4478             else if (*w == ')')
4479                 --level;
4480         }
4481         if (*w)
4482             for (; *w && isSPACE(*w); w++) ;
4483         if (!*w || !strchr(";|})]oaiuw!=", *w)) /* an advisory hack only... */
4484             warn("%s (...) interpreted as function",name);
4485     }
4486     while (s < bufend && isSPACE(*s))
4487         s++;
4488     if (*s == '(')
4489         s++;
4490     while (s < bufend && isSPACE(*s))
4491         s++;
4492     if (isIDFIRST(*s)) {
4493         w = s++;
4494         while (isALNUM(*s))
4495             s++;
4496         while (s < bufend && isSPACE(*s))
4497             s++;
4498         if (*s == ',') {
4499             int kw;
4500             *s = '\0';
4501             kw = keyword(w, s - w) || perl_get_cv(w, FALSE) != 0;
4502             *s = ',';
4503             if (kw)
4504                 return;
4505             croak("No comma allowed after %s", what);
4506         }
4507     }
4508 }
4509
4510 STATIC char *
4511 scan_word(register char *s, char *dest, STRLEN destlen, int allow_package, STRLEN *slp)
4512 {
4513     register char *d = dest;
4514     register char *e = d + destlen - 3;  /* two-character token, ending NUL */
4515     for (;;) {
4516         if (d >= e)
4517             croak(ident_too_long);
4518         if (isALNUM(*s))
4519             *d++ = *s++;
4520         else if (*s == '\'' && allow_package && isIDFIRST(s[1])) {
4521             *d++ = ':';
4522             *d++ = ':';
4523             s++;
4524         }
4525         else if (*s == ':' && s[1] == ':' && allow_package && isIDFIRST(s[2])) {
4526             *d++ = *s++;
4527             *d++ = *s++;
4528         }
4529         else {
4530             *d = '\0';
4531             *slp = d - dest;
4532             return s;
4533         }
4534     }
4535 }
4536
4537 STATIC char *
4538 scan_ident(register char *s, register char *send, char *dest, STRLEN destlen, I32 ck_uni)
4539 {
4540     register char *d;
4541     register char *e;
4542     char *bracket = 0;
4543     char funny = *s++;
4544
4545     if (lex_brackets == 0)
4546         lex_fakebrack = 0;
4547     if (isSPACE(*s))
4548         s = skipspace(s);
4549     d = dest;
4550     e = d + destlen - 3;        /* two-character token, ending NUL */
4551     if (isDIGIT(*s)) {
4552         while (isDIGIT(*s)) {
4553             if (d >= e)
4554                 croak(ident_too_long);
4555             *d++ = *s++;
4556         }
4557     }
4558     else {
4559         for (;;) {
4560             if (d >= e)
4561                 croak(ident_too_long);
4562             if (isALNUM(*s))
4563                 *d++ = *s++;
4564             else if (*s == '\'' && isIDFIRST(s[1])) {
4565                 *d++ = ':';
4566                 *d++ = ':';
4567                 s++;
4568             }
4569             else if (*s == ':' && s[1] == ':') {
4570                 *d++ = *s++;
4571                 *d++ = *s++;
4572             }
4573             else
4574                 break;
4575         }
4576     }
4577     *d = '\0';
4578     d = dest;
4579     if (*d) {
4580         if (lex_state != LEX_NORMAL)
4581             lex_state = LEX_INTERPENDMAYBE;
4582         return s;
4583     }
4584     if (*s == '$' && s[1] &&
4585       (isALNUM(s[1]) || strchr("${", s[1]) || strnEQ(s+1,"::",2)) )
4586     {
4587         if (isDIGIT(s[1]) && lex_state == LEX_INTERPNORMAL)
4588             deprecate("\"$$<digit>\" to mean \"${$}<digit>\"");
4589         else
4590             return s;
4591     }
4592     if (*s == '{') {
4593         bracket = s;
4594         s++;
4595     }
4596     else if (ck_uni)
4597         check_uni();
4598     if (s < send)
4599         *d = *s++;
4600     d[1] = '\0';
4601     if (*d == '^' && *s && (isUPPER(*s) || strchr("[\\]^_?", *s))) {
4602         *d = toCTRL(*s);
4603         s++;
4604     }
4605     if (bracket) {
4606         if (isSPACE(s[-1])) {
4607             while (s < send) {
4608                 char ch = *s++;
4609                 if (ch != ' ' && ch != '\t') {
4610                     *d = ch;
4611                     break;
4612                 }
4613             }
4614         }
4615         if (isIDFIRST(*d)) {
4616             d++;
4617             while (isALNUM(*s) || *s == ':')
4618                 *d++ = *s++;
4619             *d = '\0';
4620             while (s < send && (*s == ' ' || *s == '\t')) s++;
4621             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
4622                 if (dowarn && keyword(dest, d - dest)) {
4623                     char *brack = *s == '[' ? "[...]" : "{...}";
4624                     warn("Ambiguous use of %c{%s%s} resolved to %c%s%s",
4625                         funny, dest, brack, funny, dest, brack);
4626                 }
4627                 lex_fakebrack = lex_brackets+1;
4628                 bracket++;
4629                 lex_brackstack[lex_brackets++] = XOPERATOR;
4630                 return s;
4631             }
4632         }
4633         if (*s == '}') {
4634             s++;
4635             if (lex_state == LEX_INTERPNORMAL && !lex_brackets)
4636                 lex_state = LEX_INTERPEND;
4637             if (funny == '#')
4638                 funny = '@';
4639             if (dowarn && lex_state == LEX_NORMAL &&
4640               (keyword(dest, d - dest) || perl_get_cv(dest, FALSE)))
4641                 warn("Ambiguous use of %c{%s} resolved to %c%s",
4642                     funny, dest, funny, dest);
4643         }
4644         else {
4645             s = bracket;                /* let the parser handle it */
4646             *dest = '\0';
4647         }
4648     }
4649     else if (lex_state == LEX_INTERPNORMAL && !lex_brackets && !intuit_more(s))
4650         lex_state = LEX_INTERPEND;
4651     return s;
4652 }
4653
4654 void pmflag(U16 *pmfl, int ch)
4655 {
4656     if (ch == 'i')
4657         *pmfl |= PMf_FOLD;
4658     else if (ch == 'g')
4659         *pmfl |= PMf_GLOBAL;
4660     else if (ch == 'c')
4661         *pmfl |= PMf_CONTINUE;
4662     else if (ch == 'o')
4663         *pmfl |= PMf_KEEP;
4664     else if (ch == 'm')
4665         *pmfl |= PMf_MULTILINE;
4666     else if (ch == 's')
4667         *pmfl |= PMf_SINGLELINE;
4668     else if (ch == 'x')
4669         *pmfl |= PMf_EXTENDED;
4670 }
4671
4672 STATIC char *
4673 scan_pat(char *start)
4674 {
4675     PMOP *pm;
4676     char *s;
4677
4678     s = scan_str(start);
4679     if (!s) {
4680         if (lex_stuff)
4681             SvREFCNT_dec(lex_stuff);
4682         lex_stuff = Nullsv;
4683         croak("Search pattern not terminated");
4684     }
4685
4686     pm = (PMOP*)newPMOP(OP_MATCH, 0);
4687     if (multi_open == '?')
4688         pm->op_pmflags |= PMf_ONCE;
4689     while (*s && strchr("iogcmsx", *s))
4690         pmflag(&pm->op_pmflags,*s++);
4691     pm->op_pmpermflags = pm->op_pmflags;
4692
4693     lex_op = (OP*)pm;
4694     yylval.ival = OP_MATCH;
4695     return s;
4696 }
4697
4698 STATIC char *
4699 scan_subst(char *start)
4700 {
4701     register char *s;
4702     register PMOP *pm;
4703     I32 first_start;
4704     I32 es = 0;
4705
4706     yylval.ival = OP_NULL;
4707
4708     s = scan_str(start);
4709
4710     if (!s) {
4711         if (lex_stuff)
4712             SvREFCNT_dec(lex_stuff);
4713         lex_stuff = Nullsv;
4714         croak("Substitution pattern not terminated");
4715     }
4716
4717     if (s[-1] == multi_open)
4718         s--;
4719
4720     first_start = multi_start;
4721     s = scan_str(s);
4722     if (!s) {
4723         if (lex_stuff)
4724             SvREFCNT_dec(lex_stuff);
4725         lex_stuff = Nullsv;
4726         if (lex_repl)
4727             SvREFCNT_dec(lex_repl);
4728         lex_repl = Nullsv;
4729         croak("Substitution replacement not terminated");
4730     }
4731     multi_start = first_start;  /* so whole substitution is taken together */
4732
4733     pm = (PMOP*)newPMOP(OP_SUBST, 0);
4734     while (*s && strchr("iogcmsex", *s)) {
4735         if (*s == 'e') {
4736             s++;
4737             es++;
4738         }
4739         else
4740             pmflag(&pm->op_pmflags,*s++);
4741     }
4742
4743     if (es) {
4744         SV *repl;
4745         pm->op_pmflags |= PMf_EVAL;
4746         repl = newSVpv("",0);
4747         while (es-- > 0)
4748             sv_catpv(repl, es ? "eval " : "do ");
4749         sv_catpvn(repl, "{ ", 2);
4750         sv_catsv(repl, lex_repl);
4751         sv_catpvn(repl, " };", 2);
4752         SvCOMPILED_on(repl);
4753         SvREFCNT_dec(lex_repl);
4754         lex_repl = repl;
4755     }
4756
4757     pm->op_pmpermflags = pm->op_pmflags;
4758     lex_op = (OP*)pm;
4759     yylval.ival = OP_SUBST;
4760     return s;
4761 }
4762
4763 STATIC char *
4764 scan_trans(char *start)
4765 {
4766     register char* s;
4767     OP *o;
4768     short *tbl;
4769     I32 squash;
4770     I32 Delete;
4771     I32 complement;
4772
4773     yylval.ival = OP_NULL;
4774
4775     s = scan_str(start);
4776     if (!s) {
4777         if (lex_stuff)
4778             SvREFCNT_dec(lex_stuff);
4779         lex_stuff = Nullsv;
4780         croak("Translation pattern not terminated");
4781     }
4782     if (s[-1] == multi_open)
4783         s--;
4784
4785     s = scan_str(s);
4786     if (!s) {
4787         if (lex_stuff)
4788             SvREFCNT_dec(lex_stuff);
4789         lex_stuff = Nullsv;
4790         if (lex_repl)
4791             SvREFCNT_dec(lex_repl);
4792         lex_repl = Nullsv;
4793         croak("Translation replacement not terminated");
4794     }
4795
4796     New(803,tbl,256,short);
4797     o = newPVOP(OP_TRANS, 0, (char*)tbl);
4798
4799     complement = Delete = squash = 0;
4800     while (*s == 'c' || *s == 'd' || *s == 's') {
4801         if (*s == 'c')
4802             complement = OPpTRANS_COMPLEMENT;
4803         else if (*s == 'd')
4804             Delete = OPpTRANS_DELETE;
4805         else
4806             squash = OPpTRANS_SQUASH;
4807         s++;
4808     }
4809     o->op_private = Delete|squash|complement;
4810
4811     lex_op = o;
4812     yylval.ival = OP_TRANS;
4813     return s;
4814 }
4815
4816 STATIC char *
4817 scan_heredoc(register char *s)
4818 {
4819     dTHR;
4820     SV *herewas;
4821     I32 op_type = OP_SCALAR;
4822     I32 len;
4823     SV *tmpstr;
4824     char term;
4825     register char *d;
4826     register char *e;
4827     char *peek;
4828     int outer = (rsfp && !lex_inwhat);
4829
4830     s += 2;
4831     d = tokenbuf;
4832     e = tokenbuf + sizeof tokenbuf - 1;
4833     if (!outer)
4834         *d++ = '\n';
4835     for (peek = s; *peek == ' ' || *peek == '\t'; peek++) ;
4836     if (*peek && strchr("`'\"",*peek)) {
4837         s = peek;
4838         term = *s++;
4839         s = delimcpy(d, e, s, bufend, term, &len);
4840         d += len;
4841         if (s < bufend)
4842             s++;
4843     }
4844     else {
4845         if (*s == '\\')
4846             s++, term = '\'';
4847         else
4848             term = '"';
4849         if (!isALNUM(*s))
4850             deprecate("bare << to mean <<\"\"");
4851         for (; isALNUM(*s); s++) {
4852             if (d < e)
4853                 *d++ = *s;
4854         }
4855     }
4856     if (d >= tokenbuf + sizeof tokenbuf - 1)
4857         croak("Delimiter for here document is too long");
4858     *d++ = '\n';
4859     *d = '\0';
4860     len = d - tokenbuf;
4861     d = "\n";
4862     if (outer || !(d=ninstr(s,bufend,d,d+1)))
4863         herewas = newSVpv(s,bufend-s);
4864     else
4865         s--, herewas = newSVpv(s,d-s);
4866     s += SvCUR(herewas);
4867
4868     tmpstr = NEWSV(87,80);
4869     sv_upgrade(tmpstr, SVt_PVIV);
4870     if (term == '\'') {
4871         op_type = OP_CONST;
4872         SvIVX(tmpstr) = -1;
4873     }
4874     else if (term == '`') {
4875         op_type = OP_BACKTICK;
4876         SvIVX(tmpstr) = '\\';
4877     }
4878
4879     CLINE;
4880     multi_start = curcop->cop_line;
4881     multi_open = multi_close = '<';
4882     term = *tokenbuf;
4883     if (!outer) {
4884         d = s;
4885         while (s < bufend &&
4886           (*s != term || memNE(s,tokenbuf,len)) ) {
4887             if (*s++ == '\n')
4888                 curcop->cop_line++;
4889         }
4890         if (s >= bufend) {
4891             curcop->cop_line = multi_start;
4892             missingterm(tokenbuf);
4893         }
4894         sv_setpvn(tmpstr,d+1,s-d);
4895         s += len - 1;
4896         curcop->cop_line++;     /* the preceding stmt passes a newline */
4897
4898         sv_catpvn(herewas,s,bufend-s);
4899         sv_setsv(linestr,herewas);
4900         oldoldbufptr = oldbufptr = bufptr = s = linestart = SvPVX(linestr);
4901         bufend = SvPVX(linestr) + SvCUR(linestr);
4902     }
4903     else
4904         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
4905     while (s >= bufend) {       /* multiple line string? */
4906         if (!outer ||
4907          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
4908             curcop->cop_line = multi_start;
4909             missingterm(tokenbuf);
4910         }
4911         curcop->cop_line++;
4912         if (PERLDB_LINE && curstash != debstash) {
4913             SV *sv = NEWSV(88,0);
4914
4915             sv_upgrade(sv, SVt_PVMG);
4916             sv_setsv(sv,linestr);
4917             av_store(GvAV(curcop->cop_filegv),
4918               (I32)curcop->cop_line,sv);
4919         }
4920         bufend = SvPVX(linestr) + SvCUR(linestr);
4921         if (*s == term && memEQ(s,tokenbuf,len)) {
4922             s = bufend - 1;
4923             *s = ' ';
4924             sv_catsv(linestr,herewas);
4925             bufend = SvPVX(linestr) + SvCUR(linestr);
4926         }
4927         else {
4928             s = bufend;
4929             sv_catsv(tmpstr,linestr);
4930         }
4931     }
4932     multi_end = curcop->cop_line;
4933     s++;
4934     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
4935         SvLEN_set(tmpstr, SvCUR(tmpstr) + 1);
4936         Renew(SvPVX(tmpstr), SvLEN(tmpstr), char);
4937     }
4938     SvREFCNT_dec(herewas);
4939     lex_stuff = tmpstr;
4940     yylval.ival = op_type;
4941     return s;
4942 }
4943
4944 STATIC char *
4945 scan_inputsymbol(char *start)
4946 {
4947     register char *s = start;
4948     register char *d;
4949     register char *e;
4950     I32 len;
4951
4952     d = tokenbuf;
4953     e = tokenbuf + sizeof tokenbuf;
4954     s = delimcpy(d, e, s + 1, bufend, '>', &len);
4955     if (len >= sizeof tokenbuf)
4956         croak("Excessively long <> operator");
4957     if (s >= bufend)
4958         croak("Unterminated <> operator");
4959     s++;
4960     if (*d == '$' && d[1]) d++;
4961     while (*d && (isALNUM(*d) || *d == '\'' || *d == ':'))
4962         d++;
4963     if (d - tokenbuf != len) {
4964         yylval.ival = OP_GLOB;
4965         set_csh();
4966         s = scan_str(start);
4967         if (!s)
4968             croak("Glob not terminated");
4969         return s;
4970     }
4971     else {
4972         d = tokenbuf;
4973         if (!len)
4974             (void)strcpy(d,"ARGV");
4975         if (*d == '$') {
4976             I32 tmp;
4977             if ((tmp = pad_findmy(d)) != NOT_IN_PAD) {
4978                 OP *o = newOP(OP_PADSV, 0);
4979                 o->op_targ = tmp;
4980                 lex_op = (OP*)newUNOP(OP_READLINE, 0, newUNOP(OP_RV2GV, 0, o));
4981             }
4982             else {
4983                 GV *gv = gv_fetchpv(d+1,TRUE, SVt_PV);
4984                 lex_op = (OP*)newUNOP(OP_READLINE, 0,
4985                                         newUNOP(OP_RV2GV, 0,
4986                                             newUNOP(OP_RV2SV, 0,
4987                                                 newGVOP(OP_GV, 0, gv))));
4988             }
4989             yylval.ival = OP_NULL;
4990         }
4991         else {
4992             GV *gv = gv_fetchpv(d,TRUE, SVt_PVIO);
4993             lex_op = (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
4994             yylval.ival = OP_NULL;
4995         }
4996     }
4997     return s;
4998 }
4999
5000 STATIC char *
5001 scan_str(char *start)
5002 {
5003     dTHR;
5004     SV *sv;
5005     char *tmps;
5006     register char *s = start;
5007     register char term;
5008     register char *to;
5009     I32 brackets = 1;
5010
5011     if (isSPACE(*s))
5012         s = skipspace(s);
5013     CLINE;
5014     term = *s;
5015     multi_start = curcop->cop_line;
5016     multi_open = term;
5017     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
5018         term = tmps[5];
5019     multi_close = term;
5020
5021     sv = NEWSV(87,80);
5022     sv_upgrade(sv, SVt_PVIV);
5023     SvIVX(sv) = term;
5024     (void)SvPOK_only(sv);               /* validate pointer */
5025     s++;
5026     for (;;) {
5027         SvGROW(sv, SvCUR(sv) + (bufend - s) + 1);
5028         to = SvPVX(sv)+SvCUR(sv);
5029         if (multi_open == multi_close) {
5030             for (; s < bufend; s++,to++) {
5031                 if (*s == '\n' && !rsfp)
5032                     curcop->cop_line++;
5033                 if (*s == '\\' && s+1 < bufend && term != '\\') {
5034                     if (s[1] == term)
5035                         s++;
5036                     else
5037                         *to++ = *s++;
5038                 }
5039                 else if (*s == term)
5040                     break;
5041                 *to = *s;
5042             }
5043         }
5044         else {
5045             for (; s < bufend; s++,to++) {
5046                 if (*s == '\n' && !rsfp)
5047                     curcop->cop_line++;
5048                 if (*s == '\\' && s+1 < bufend) {
5049                     if ((s[1] == multi_open) || (s[1] == multi_close))
5050                         s++;
5051                     else
5052                         *to++ = *s++;
5053                 }
5054                 else if (*s == multi_close && --brackets <= 0)
5055                     break;
5056                 else if (*s == multi_open)
5057                     brackets++;
5058                 *to = *s;
5059             }
5060         }
5061         *to = '\0';
5062         SvCUR_set(sv, to - SvPVX(sv));
5063
5064     if (s < bufend) break;      /* string ends on this line? */
5065
5066         if (!rsfp ||
5067          !(oldoldbufptr = oldbufptr = s = linestart = filter_gets(linestr, rsfp, 0))) {
5068             sv_free(sv);
5069             curcop->cop_line = multi_start;
5070             return Nullch;
5071         }
5072         curcop->cop_line++;
5073         if (PERLDB_LINE && curstash != debstash) {
5074             SV *sv = NEWSV(88,0);
5075
5076             sv_upgrade(sv, SVt_PVMG);
5077             sv_setsv(sv,linestr);
5078             av_store(GvAV(curcop->cop_filegv),
5079               (I32)curcop->cop_line, sv);
5080         }
5081         bufend = SvPVX(linestr) + SvCUR(linestr);
5082     }
5083     multi_end = curcop->cop_line;
5084     s++;
5085     if (SvCUR(sv) + 5 < SvLEN(sv)) {
5086         SvLEN_set(sv, SvCUR(sv) + 1);
5087         Renew(SvPVX(sv), SvLEN(sv), char);
5088     }
5089     if (lex_stuff)
5090         lex_repl = sv;
5091     else
5092         lex_stuff = sv;
5093     return s;
5094 }
5095
5096 char *
5097 scan_num(char *start)
5098 {
5099     register char *s = start;
5100     register char *d;
5101     register char *e;
5102     I32 tryiv;
5103     double value;
5104     SV *sv;
5105     I32 floatit;
5106     char *lastub = 0;
5107     static char number_too_long[] = "Number too long";
5108
5109     switch (*s) {
5110     default:
5111         croak("panic: scan_num");
5112     case '0':
5113         {
5114             UV u;
5115             I32 shift;
5116             bool overflowed = FALSE;
5117
5118             if (s[1] == 'x') {
5119                 shift = 4;
5120                 s += 2;
5121             }
5122             else if (s[1] == '.')
5123                 goto decimal;
5124             else
5125                 shift = 3;
5126             u = 0;
5127             for (;;) {
5128                 UV n, b;
5129
5130                 switch (*s) {
5131                 default:
5132                     goto out;
5133                 case '_':
5134                     s++;
5135                     break;
5136                 case '8': case '9':
5137                     if (shift != 4)
5138                         yyerror("Illegal octal digit");
5139                     /* FALL THROUGH */
5140                 case '0': case '1': case '2': case '3': case '4':
5141                 case '5': case '6': case '7':
5142                     b = *s++ & 15;
5143                     goto digit;
5144                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
5145                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
5146                     if (shift != 4)
5147                         goto out;
5148                     b = (*s++ & 7) + 9;
5149                   digit:
5150                     n = u << shift;
5151                     if (!overflowed && (n >> shift) != u) {
5152                         warn("Integer overflow in %s number",
5153                              (shift == 4) ? "hex" : "octal");
5154                         overflowed = TRUE;
5155                     }
5156                     u = n | b;
5157                     break;
5158                 }
5159             }
5160           out:
5161             sv = NEWSV(92,0);
5162             sv_setuv(sv, u);
5163         }
5164         break;
5165     case '1': case '2': case '3': case '4': case '5':
5166     case '6': case '7': case '8': case '9': case '.':
5167       decimal:
5168         d = tokenbuf;
5169         e = tokenbuf + sizeof tokenbuf - 6; /* room for various punctuation */
5170         floatit = FALSE;
5171         while (isDIGIT(*s) || *s == '_') {
5172             if (*s == '_') {
5173                 if (dowarn && lastub && s - lastub != 3)
5174                     warn("Misplaced _ in number");
5175                 lastub = ++s;
5176             }
5177             else {
5178                 if (d >= e)
5179                     croak(number_too_long);
5180                 *d++ = *s++;
5181             }
5182         }
5183         if (dowarn && lastub && s - lastub != 3)
5184             warn("Misplaced _ in number");
5185         if (*s == '.' && s[1] != '.') {
5186             floatit = TRUE;
5187             *d++ = *s++;
5188             for (; isDIGIT(*s) || *s == '_'; s++) {
5189                 if (d >= e)
5190                     croak(number_too_long);
5191                 if (*s != '_')
5192                     *d++ = *s;
5193             }
5194         }
5195         if (*s && strchr("eE",*s) && strchr("+-0123456789",s[1])) {
5196             floatit = TRUE;
5197             s++;
5198             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
5199             if (*s == '+' || *s == '-')
5200                 *d++ = *s++;
5201             while (isDIGIT(*s)) {
5202                 if (d >= e)
5203                     croak(number_too_long);
5204                 *d++ = *s++;
5205             }
5206         }
5207         *d = '\0';
5208         sv = NEWSV(92,0);
5209         SET_NUMERIC_STANDARD();
5210         value = atof(tokenbuf);
5211         tryiv = I_V(value);
5212         if (!floatit && (double)tryiv == value)
5213             sv_setiv(sv, tryiv);
5214         else
5215             sv_setnv(sv, value);
5216         break;
5217     }
5218
5219     yylval.opval = newSVOP(OP_CONST, 0, sv);
5220
5221     return s;
5222 }
5223
5224 STATIC char *
5225 scan_formline(register char *s)
5226 {
5227     dTHR;
5228     register char *eol;
5229     register char *t;
5230     SV *stuff = newSVpv("",0);
5231     bool needargs = FALSE;
5232
5233     while (!needargs) {
5234         if (*s == '.' || *s == '}') {
5235             /*SUPPRESS 530*/
5236             for (t = s+1; *t == ' ' || *t == '\t'; t++) ;
5237             if (*t == '\n')
5238                 break;
5239         }
5240         if (in_eval && !rsfp) {
5241             eol = strchr(s,'\n');
5242             if (!eol++)
5243                 eol = bufend;
5244         }
5245         else
5246             eol = bufend = SvPVX(linestr) + SvCUR(linestr);
5247         if (*s != '#') {
5248             for (t = s; t < eol; t++) {
5249                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
5250                     needargs = FALSE;
5251                     goto enough;        /* ~~ must be first line in formline */
5252                 }
5253                 if (*t == '@' || *t == '^')
5254                     needargs = TRUE;
5255             }
5256             sv_catpvn(stuff, s, eol-s);
5257         }
5258         s = eol;
5259         if (rsfp) {
5260             s = filter_gets(linestr, rsfp, 0);
5261             oldoldbufptr = oldbufptr = bufptr = linestart = SvPVX(linestr);
5262             bufend = bufptr + SvCUR(linestr);
5263             if (!s) {
5264                 s = bufptr;
5265                 yyerror("Format not terminated");
5266                 break;
5267             }
5268         }
5269         incline(s);
5270     }
5271   enough:
5272     if (SvCUR(stuff)) {
5273         expect = XTERM;
5274         if (needargs) {
5275             lex_state = LEX_NORMAL;
5276             nextval[nexttoke].ival = 0;
5277             force_next(',');
5278         }
5279         else
5280             lex_state = LEX_FORMLINE;
5281         nextval[nexttoke].opval = (OP*)newSVOP(OP_CONST, 0, stuff);
5282         force_next(THING);
5283         nextval[nexttoke].ival = OP_FORMLINE;
5284         force_next(LSTOP);
5285     }
5286     else {
5287         SvREFCNT_dec(stuff);
5288         lex_formbrack = 0;
5289         bufptr = s;
5290     }
5291     return s;
5292 }
5293
5294 STATIC void
5295 set_csh(void)
5296 {
5297 #ifdef CSH
5298     if (!cshlen)
5299         cshlen = strlen(cshname);
5300 #endif
5301 }
5302
5303 I32
5304 start_subparse(I32 is_format, U32 flags)
5305 {
5306     dTHR;
5307     I32 oldsavestack_ix = savestack_ix;
5308     CV* outsidecv = compcv;
5309     AV* comppadlist;
5310
5311     if (compcv) {
5312         assert(SvTYPE(compcv) == SVt_PVCV);
5313     }
5314     save_I32(&subline);
5315     save_item(subname);
5316     SAVEI32(padix);
5317     SAVESPTR(curpad);
5318     SAVESPTR(comppad);
5319     SAVESPTR(comppad_name);
5320     SAVESPTR(compcv);
5321     SAVEI32(comppad_name_fill);
5322     SAVEI32(min_intro_pending);
5323     SAVEI32(max_intro_pending);
5324     SAVEI32(pad_reset_pending);
5325
5326     compcv = (CV*)NEWSV(1104,0);
5327     sv_upgrade((SV *)compcv, is_format ? SVt_PVFM : SVt_PVCV);
5328     CvFLAGS(compcv) |= flags;
5329
5330     comppad = newAV();
5331     av_push(comppad, Nullsv);
5332     curpad = AvARRAY(comppad);
5333     comppad_name = newAV();
5334     comppad_name_fill = 0;
5335     min_intro_pending = 0;
5336     padix = 0;
5337     subline = curcop->cop_line;
5338 #ifdef USE_THREADS
5339     av_store(comppad_name, 0, newSVpv("@_", 2));
5340     curpad[0] = (SV*)newAV();
5341     SvPADMY_on(curpad[0]);      /* XXX Needed? */
5342     CvOWNER(compcv) = 0;
5343     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5344     MUTEX_INIT(CvMUTEXP(compcv));
5345 #endif /* USE_THREADS */
5346
5347     comppadlist = newAV();
5348     AvREAL_off(comppadlist);
5349     av_store(comppadlist, 0, (SV*)comppad_name);
5350     av_store(comppadlist, 1, (SV*)comppad);
5351
5352     CvPADLIST(compcv) = comppadlist;
5353     CvOUTSIDE(compcv) = (CV*)SvREFCNT_inc(outsidecv);
5354 #ifdef USE_THREADS
5355     CvOWNER(compcv) = 0;
5356     New(666, CvMUTEXP(compcv), 1, perl_mutex);
5357     MUTEX_INIT(CvMUTEXP(compcv));
5358 #endif /* USE_THREADS */
5359
5360     return oldsavestack_ix;
5361 }
5362
5363 int
5364 yywarn(char *s)
5365 {
5366     dTHR;
5367     --error_count;
5368     in_eval |= 2;
5369     yyerror(s);
5370     in_eval &= ~2;
5371     return 0;
5372 }
5373
5374 int
5375 yyerror(char *s)
5376 {
5377     dTHR;
5378     char *where = NULL;
5379     char *context = NULL;
5380     int contlen = -1;
5381     SV *msg;
5382
5383     if (!yychar || (yychar == ';' && !rsfp))
5384         where = "at EOF";
5385     else if (bufptr > oldoldbufptr && bufptr - oldoldbufptr < 200 &&
5386       oldoldbufptr != oldbufptr && oldbufptr != bufptr) {
5387         while (isSPACE(*oldoldbufptr))
5388             oldoldbufptr++;
5389         context = oldoldbufptr;
5390         contlen = bufptr - oldoldbufptr;
5391     }
5392     else if (bufptr > oldbufptr && bufptr - oldbufptr < 200 &&
5393       oldbufptr != bufptr) {
5394         while (isSPACE(*oldbufptr))
5395             oldbufptr++;
5396         context = oldbufptr;
5397         contlen = bufptr - oldbufptr;
5398     }
5399     else if (yychar > 255)
5400         where = "next token ???";
5401     else if ((yychar & 127) == 127) {
5402         if (lex_state == LEX_NORMAL ||
5403            (lex_state == LEX_KNOWNEXT && lex_defer == LEX_NORMAL))
5404             where = "at end of line";
5405         else if (lex_inpat)
5406             where = "within pattern";
5407         else
5408             where = "within string";
5409     }
5410     else {
5411         SV *where_sv = sv_2mortal(newSVpv("next char ", 0));
5412         if (yychar < 32)
5413             sv_catpvf(where_sv, "^%c", toCTRL(yychar));
5414         else if (isPRINT_LC(yychar))
5415             sv_catpvf(where_sv, "%c", yychar);
5416         else
5417             sv_catpvf(where_sv, "\\%03o", yychar & 255);
5418         where = SvPVX(where_sv);
5419     }
5420     msg = sv_2mortal(newSVpv(s, 0));
5421     sv_catpvf(msg, " at %_ line %ld, ",
5422               GvSV(curcop->cop_filegv), (long)curcop->cop_line);
5423     if (context)
5424         sv_catpvf(msg, "near \"%.*s\"\n", contlen, context);
5425     else
5426         sv_catpvf(msg, "%s\n", where);
5427     if (multi_start < multi_end && (U32)(curcop->cop_line - multi_end) <= 1) {
5428         sv_catpvf(msg,
5429         "  (Might be a runaway multi-line %c%c string starting on line %ld)\n",
5430                 (int)multi_open,(int)multi_close,(long)multi_start);
5431         multi_end = 0;
5432     }
5433     if (in_eval & 2)
5434         warn("%_", msg);
5435     else if (in_eval)
5436         sv_catsv(ERRSV, msg);
5437     else
5438         PerlIO_write(PerlIO_stderr(), SvPVX(msg), SvCUR(msg));
5439     if (++error_count >= 10)
5440         croak("%_ has too many errors.\n", GvSV(curcop->cop_filegv));
5441     in_my = 0;
5442     in_my_stash = Nullhv;
5443     return 0;
5444 }
5445
5446