toke.c

   1 /*    toke.c
   2  *
   3  *    Copyright (C) 1991, 1992, 1993, 1994, 1995, 1996, 1997, 1998, 1999,
   4  *    2000, 2001, 2002, 2003, 2004, 2005, 2006, by Larry Wall and others
   5  *
   6  *    You may distribute under the terms of either the GNU General Public
   7  *    License or the Artistic License, as specified in the README file.
   8  *
   9  */
  10
  11 /*
  12  *   "It all comes from here, the stench and the peril."  --Frodo
  13  */
  14
  15 /*
  16  * This file is the lexer for Perl.  It's closely linked to the
  17  * parser, perly.y.
  18  *
  19  * The main routine is yylex(), which returns the next token.
  20  */
  21
  22 #include "EXTERN.h"
  23 #define PERL_IN_TOKE_C
  24 #include "perl.h"
  25
  26 #define yychar  (*PL_yycharp)
  27 #define yylval  (*PL_yylvalp)
  28
  29 static const char ident_too_long[] = "Identifier too long";
  30 static const char commaless_variable_list[] = "comma-less variable list";
  31
  32 static void restore_rsfp(pTHX_ void *f);
  33 #ifndef PERL_NO_UTF16_FILTER
  34 static I32 utf16_textfilter(pTHX_ int idx, SV *sv, int maxlen);
  35 static I32 utf16rev_textfilter(pTHX_ int idx, SV *sv, int maxlen);
  36 #endif
  37
  38 #ifdef PERL_MAD
  39 #  define CURMAD(slot,sv) if (PL_madskills) { curmad(slot,sv); sv = 0; }
  40 #  define NEXTVAL_NEXTTOKE PL_nexttoke[PL_curforce].next_val
  41 #else
  42 #  define CURMAD(slot,sv)
  43 #  define NEXTVAL_NEXTTOKE PL_nextval[PL_nexttoke]
  44 #endif
  45
  46 #define XFAKEBRACK 128
  47 #define XENUMMASK 127
  48
  49 #ifdef USE_UTF8_SCRIPTS
  50 #   define UTF (!IN_BYTES)
  51 #else
  52 #   define UTF ((PL_linestr && DO_UTF8(PL_linestr)) || (PL_hints & HINT_UTF8))
  53 #endif
  54
  55 /* In variables named $^X, these are the legal values for X.
  56  * 1999-02-27 mjd-perl-patch@plover.com */
  57 #define isCONTROLVAR(x) (isUPPER(x) || strchr("[\\]^_?", (x)))
  58
  59 /* On MacOS, respect nonbreaking spaces */
  60 #ifdef MACOS_TRADITIONAL
  61 #define SPACE_OR_TAB(c) ((c)==' '||(c)=='\312'||(c)=='\t')
  62 #else
  63 #define SPACE_OR_TAB(c) ((c)==' '||(c)=='\t')
  64 #endif
  65
  66 /* LEX_* are values for PL_lex_state, the state of the lexer.
  67  * They are arranged oddly so that the guard on the switch statement
  68  * can get by with a single comparison (if the compiler is smart enough).
  69  */
  70
  71 /* #define LEX_NOTPARSING               11 is done in perl.h. */
  72
  73 #define LEX_NORMAL              10 /* normal code (ie not within "...")     */
  74 #define LEX_INTERPNORMAL         9 /* code within a string, eg "$foo[$x+1]" */
  75 #define LEX_INTERPCASEMOD        8 /* expecting a \U, \Q or \E etc          */
  76 #define LEX_INTERPPUSH           7 /* starting a new sublex parse level     */
  77 #define LEX_INTERPSTART          6 /* expecting the start of a $var         */
  78
  79                                    /* at end of code, eg "$x" followed by:  */
  80 #define LEX_INTERPEND            5 /* ... eg not one of [, { or ->          */
  81 #define LEX_INTERPENDMAYBE       4 /* ... eg one of [, { or ->              */
  82
  83 #define LEX_INTERPCONCAT         3 /* expecting anything, eg at start of
  84                                         string or after \E, $foo, etc       */
  85 #define LEX_INTERPCONST          2 /* NOT USED */
  86 #define LEX_FORMLINE             1 /* expecting a format line               */
  87 #define LEX_KNOWNEXT             0 /* next token known; just return it      */
  88
  89
  90 #ifdef DEBUGGING
  91 static const char* const lex_state_names[] = {
  92     "KNOWNEXT",
  93     "FORMLINE",
  94     "INTERPCONST",
  95     "INTERPCONCAT",
  96     "INTERPENDMAYBE",
  97     "INTERPEND",
  98     "INTERPSTART",
  99     "INTERPPUSH",
 100     "INTERPCASEMOD",
 101     "INTERPNORMAL",
 102     "NORMAL"
 103 };
 104 #endif
 105
 106 #ifdef ff_next
 107 #undef ff_next
 108 #endif
 109
 110 #include "keywords.h"
 111
 112 /* CLINE is a macro that ensures PL_copline has a sane value */
 113
 114 #ifdef CLINE
 115 #undef CLINE
 116 #endif
 117 #define CLINE (PL_copline = (CopLINE(PL_curcop) < PL_copline ? CopLINE(PL_curcop) : PL_copline))
 118
 119 #ifdef PERL_MAD
 120 #  define SKIPSPACE0(s) skipspace0(s)
 121 #  define SKIPSPACE1(s) skipspace1(s)
 122 #  define SKIPSPACE2(s,tsv) skipspace2(s,&tsv)
 123 #  define PEEKSPACE(s) skipspace2(s,0)
 124 #else
 125 #  define SKIPSPACE0(s) skipspace(s)
 126 #  define SKIPSPACE1(s) skipspace(s)
 127 #  define SKIPSPACE2(s,tsv) skipspace(s)
 128 #  define PEEKSPACE(s) skipspace(s)
 129 #endif
 130
 131 /*
 132  * Convenience functions to return different tokens and prime the
 133  * lexer for the next token.  They all take an argument.
 134  *
 135  * TOKEN        : generic token (used for '(', DOLSHARP, etc)
 136  * OPERATOR     : generic operator
 137  * AOPERATOR    : assignment operator
 138  * PREBLOCK     : beginning the block after an if, while, foreach, ...
 139  * PRETERMBLOCK : beginning a non-code-defining {} block (eg, hash ref)
 140  * PREREF       : *EXPR where EXPR is not a simple identifier
 141  * TERM         : expression term
 142  * LOOPX        : loop exiting command (goto, last, dump, etc)
 143  * FTST         : file test operator
 144  * FUN0         : zero-argument function
 145  * FUN1         : not used, except for not, which isn't a UNIOP
 146  * BOop         : bitwise or or xor
 147  * BAop         : bitwise and
 148  * SHop         : shift operator
 149  * PWop         : power operator
 150  * PMop         : pattern-matching operator
 151  * Aop          : addition-level operator
 152  * Mop          : multiplication-level operator
 153  * Eop          : equality-testing operator
 154  * Rop          : relational operator <= != gt
 155  *
 156  * Also see LOP and lop() below.
 157  */
 158
 159 #ifdef DEBUGGING /* Serve -DT. */
 160 #   define REPORT(retval) tokereport((I32)retval)
 161 #else
 162 #   define REPORT(retval) (retval)
 163 #endif
 164
 165 #define TOKEN(retval) return ( PL_bufptr = s, REPORT(retval))
 166 #define OPERATOR(retval) return (PL_expect = XTERM, PL_bufptr = s, REPORT(retval))
 167 #define AOPERATOR(retval) return ao((PL_expect = XTERM, PL_bufptr = s, REPORT(retval)))
 168 #define PREBLOCK(retval) return (PL_expect = XBLOCK,PL_bufptr = s, REPORT(retval))
 169 #define PRETERMBLOCK(retval) return (PL_expect = XTERMBLOCK,PL_bufptr = s, REPORT(retval))
 170 #define PREREF(retval) return (PL_expect = XREF,PL_bufptr = s, REPORT(retval))
 171 #define TERM(retval) return (CLINE, PL_expect = XOPERATOR, PL_bufptr = s, REPORT(retval))
 172 #define LOOPX(f) return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)LOOPEX))
 173 #define FTST(f)  return (yylval.ival=f, PL_expect=XTERMORDORDOR, PL_bufptr=s, REPORT((int)UNIOP))
 174 #define FUN0(f)  return (yylval.ival=f, PL_expect=XOPERATOR, PL_bufptr=s, REPORT((int)FUNC0))
 175 #define FUN1(f)  return (yylval.ival=f, PL_expect=XOPERATOR, PL_bufptr=s, REPORT((int)FUNC1))
 176 #define BOop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)BITOROP)))
 177 #define BAop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)BITANDOP)))
 178 #define SHop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)SHIFTOP)))
 179 #define PWop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)POWOP)))
 180 #define PMop(f)  return(yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)MATCHOP))
 181 #define Aop(f)   return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)ADDOP)))
 182 #define Mop(f)   return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)MULOP)))
 183 #define Eop(f)   return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)EQOP))
 184 #define Rop(f)   return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)RELOP))
 185
 186 /* This bit of chicanery makes a unary function followed by
 187  * a parenthesis into a function with one argument, highest precedence.
 188  * The UNIDOR macro is for unary functions that can be followed by the //
 189  * operator (such as C<shift // 0>).
 190  */
 191 #define UNI2(f,x) { \
 192         yylval.ival = f; \
 193         PL_expect = x; \
 194         PL_bufptr = s; \
 195         PL_last_uni = PL_oldbufptr; \
 196         PL_last_lop_op = f; \
 197         if (*s == '(') \
 198             return REPORT( (int)FUNC1 ); \
 199         s = PEEKSPACE(s); \
 200         return REPORT( *s=='(' ? (int)FUNC1 : (int)UNIOP ); \
 201         }
 202 #define UNI(f)    UNI2(f,XTERM)
 203 #define UNIDOR(f) UNI2(f,XTERMORDORDOR)
 204
 205 #define UNIBRACK(f) { \
 206         yylval.ival = f; \
 207         PL_bufptr = s; \
 208         PL_last_uni = PL_oldbufptr; \
 209         if (*s == '(') \
 210             return REPORT( (int)FUNC1 ); \
 211         s = PEEKSPACE(s); \
 212         return REPORT( (*s == '(') ? (int)FUNC1 : (int)UNIOP ); \
 213         }
 214
 215 /* grandfather return to old style */
 216 #define OLDLOP(f) return(yylval.ival=f,PL_expect = XTERM,PL_bufptr = s,(int)LSTOP)
 217
 218 #ifdef DEBUGGING
 219
 220 /* how to interpret the yylval associated with the token */
 221 enum token_type {
 222     TOKENTYPE_NONE,
 223     TOKENTYPE_IVAL,
 224     TOKENTYPE_OPNUM, /* yylval.ival contains an opcode number */
 225     TOKENTYPE_PVAL,
 226     TOKENTYPE_OPVAL,
 227     TOKENTYPE_GVVAL
 228 };
 229
 230 static struct debug_tokens {
 231     const int token;
 232     enum token_type type;
 233     const char *name;
 234 } const debug_tokens[] =
 235 {
 236     { ADDOP,            TOKENTYPE_OPNUM,        "ADDOP" },
 237     { ANDAND,           TOKENTYPE_NONE,         "ANDAND" },
 238     { ANDOP,            TOKENTYPE_NONE,         "ANDOP" },
 239     { ANONSUB,          TOKENTYPE_IVAL,         "ANONSUB" },
 240     { ARROW,            TOKENTYPE_NONE,         "ARROW" },
 241     { ASSIGNOP,         TOKENTYPE_OPNUM,        "ASSIGNOP" },
 242     { BITANDOP,         TOKENTYPE_OPNUM,        "BITANDOP" },
 243     { BITOROP,          TOKENTYPE_OPNUM,        "BITOROP" },
 244     { COLONATTR,        TOKENTYPE_NONE,         "COLONATTR" },
 245     { CONTINUE,         TOKENTYPE_NONE,         "CONTINUE" },
 246     { DEFAULT,          TOKENTYPE_NONE,         "DEFAULT" },
 247     { DO,               TOKENTYPE_NONE,         "DO" },
 248     { DOLSHARP,         TOKENTYPE_NONE,         "DOLSHARP" },
 249     { DORDOR,           TOKENTYPE_NONE,         "DORDOR" },
 250     { DOROP,            TOKENTYPE_OPNUM,        "DOROP" },
 251     { DOTDOT,           TOKENTYPE_IVAL,         "DOTDOT" },
 252     { ELSE,             TOKENTYPE_NONE,         "ELSE" },
 253     { ELSIF,            TOKENTYPE_IVAL,         "ELSIF" },
 254     { EQOP,             TOKENTYPE_OPNUM,        "EQOP" },
 255     { FOR,              TOKENTYPE_IVAL,         "FOR" },
 256     { FORMAT,           TOKENTYPE_NONE,         "FORMAT" },
 257     { FUNC,             TOKENTYPE_OPNUM,        "FUNC" },
 258     { FUNC0,            TOKENTYPE_OPNUM,        "FUNC0" },
 259     { FUNC0SUB,         TOKENTYPE_OPVAL,        "FUNC0SUB" },
 260     { FUNC1,            TOKENTYPE_OPNUM,        "FUNC1" },
 261     { FUNCMETH,         TOKENTYPE_OPVAL,        "FUNCMETH" },
 262     { GIVEN,            TOKENTYPE_IVAL,         "GIVEN" },
 263     { HASHBRACK,        TOKENTYPE_NONE,         "HASHBRACK" },
 264     { IF,               TOKENTYPE_IVAL,         "IF" },
 265     { LABEL,            TOKENTYPE_PVAL,         "LABEL" },
 266     { LOCAL,            TOKENTYPE_IVAL,         "LOCAL" },
 267     { LOOPEX,           TOKENTYPE_OPNUM,        "LOOPEX" },
 268     { LSTOP,            TOKENTYPE_OPNUM,        "LSTOP" },
 269     { LSTOPSUB,         TOKENTYPE_OPVAL,        "LSTOPSUB" },
 270     { MATCHOP,          TOKENTYPE_OPNUM,        "MATCHOP" },
 271     { METHOD,           TOKENTYPE_OPVAL,        "METHOD" },
 272     { MULOP,            TOKENTYPE_OPNUM,        "MULOP" },
 273     { MY,               TOKENTYPE_IVAL,         "MY" },
 274     { MYSUB,            TOKENTYPE_NONE,         "MYSUB" },
 275     { NOAMP,            TOKENTYPE_NONE,         "NOAMP" },
 276     { NOTOP,            TOKENTYPE_NONE,         "NOTOP" },
 277     { OROP,             TOKENTYPE_IVAL,         "OROP" },
 278     { OROR,             TOKENTYPE_NONE,         "OROR" },
 279     { PACKAGE,          TOKENTYPE_NONE,         "PACKAGE" },
 280     { PMFUNC,           TOKENTYPE_OPVAL,        "PMFUNC" },
 281     { POSTDEC,          TOKENTYPE_NONE,         "POSTDEC" },
 282     { POSTINC,          TOKENTYPE_NONE,         "POSTINC" },
 283     { POWOP,            TOKENTYPE_OPNUM,        "POWOP" },
 284     { PREDEC,           TOKENTYPE_NONE,         "PREDEC" },
 285     { PREINC,           TOKENTYPE_NONE,         "PREINC" },
 286     { PRIVATEREF,       TOKENTYPE_OPVAL,        "PRIVATEREF" },
 287     { REFGEN,           TOKENTYPE_NONE,         "REFGEN" },
 288     { RELOP,            TOKENTYPE_OPNUM,        "RELOP" },
 289     { SHIFTOP,          TOKENTYPE_OPNUM,        "SHIFTOP" },
 290     { SUB,              TOKENTYPE_NONE,         "SUB" },
 291     { THING,            TOKENTYPE_OPVAL,        "THING" },
 292     { UMINUS,           TOKENTYPE_NONE,         "UMINUS" },
 293     { UNIOP,            TOKENTYPE_OPNUM,        "UNIOP" },
 294     { UNIOPSUB,         TOKENTYPE_OPVAL,        "UNIOPSUB" },
 295     { UNLESS,           TOKENTYPE_IVAL,         "UNLESS" },
 296     { UNTIL,            TOKENTYPE_IVAL,         "UNTIL" },
 297     { USE,              TOKENTYPE_IVAL,         "USE" },
 298     { WHEN,             TOKENTYPE_IVAL,         "WHEN" },
 299     { WHILE,            TOKENTYPE_IVAL,         "WHILE" },
 300     { WORD,             TOKENTYPE_OPVAL,        "WORD" },
 301     { 0,                TOKENTYPE_NONE,         0 }
 302 };
 303
 304 /* dump the returned token in rv, plus any optional arg in yylval */
 305
 306 STATIC int
 307 S_tokereport(pTHX_ I32 rv)
 308 {
 309     dVAR;
 310     if (DEBUG_T_TEST) {
 311         const char *name = NULL;
 312         enum token_type type = TOKENTYPE_NONE;
 313         const struct debug_tokens *p;
 314         SV* const report = newSVpvs("<== ");
 315
 316         for (p = debug_tokens; p->token; p++) {
 317             if (p->token == (int)rv) {
 318                 name = p->name;
 319                 type = p->type;
 320                 break;
 321             }
 322         }
 323         if (name)
 324             Perl_sv_catpv(aTHX_ report, name);
 325         else if ((char)rv > ' ' && (char)rv < '~')
 326             Perl_sv_catpvf(aTHX_ report, "'%c'", (char)rv);
 327         else if (!rv)
 328             sv_catpvs(report, "EOF");
 329         else
 330             Perl_sv_catpvf(aTHX_ report, "?? %"IVdf, (IV)rv);
 331         switch (type) {
 332         case TOKENTYPE_NONE:
 333         case TOKENTYPE_GVVAL: /* doesn't appear to be used */
 334             break;
 335         case TOKENTYPE_IVAL:
 336             Perl_sv_catpvf(aTHX_ report, "(ival=%"IVdf")", (IV)yylval.ival);
 337             break;
 338         case TOKENTYPE_OPNUM:
 339             Perl_sv_catpvf(aTHX_ report, "(ival=op_%s)",
 340                                     PL_op_name[yylval.ival]);
 341             break;
 342         case TOKENTYPE_PVAL:
 343             Perl_sv_catpvf(aTHX_ report, "(pval=\"%s\")", yylval.pval);
 344             break;
 345         case TOKENTYPE_OPVAL:
 346             if (yylval.opval) {
 347                 Perl_sv_catpvf(aTHX_ report, "(opval=op_%s)",
 348                                     PL_op_name[yylval.opval->op_type]);
 349                 if (yylval.opval->op_type == OP_CONST) {
 350                     Perl_sv_catpvf(aTHX_ report, " %s",
 351                         SvPEEK(cSVOPx_sv(yylval.opval)));
 352                 }
 353
 354             }
 355             else
 356                 sv_catpvs(report, "(opval=null)");
 357             break;
 358         }
 359         PerlIO_printf(Perl_debug_log, "### %s\n\n", SvPV_nolen_const(report));
 360     };
 361     return (int)rv;
 362 }
 363
 364
 365 /* print the buffer with suitable escapes */
 366
 367 STATIC void
 368 S_printbuf(pTHX_ const char* fmt, const char* s)
 369 {
 370     SV* const tmp = newSVpvs("");
 371     PerlIO_printf(Perl_debug_log, fmt, pv_display(tmp, s, strlen(s), 0, 60));
 372     SvREFCNT_dec(tmp);
 373 }
 374
 375 #endif
 376
 377 /*
 378  * S_ao
 379  *
 380  * This subroutine detects &&=, ||=, and //= and turns an ANDAND, OROR or DORDOR
 381  * into an OP_ANDASSIGN, OP_ORASSIGN, or OP_DORASSIGN
 382  */
 383
 384 STATIC int
 385 S_ao(pTHX_ int toketype)
 386 {
 387     dVAR;
 388     if (*PL_bufptr == '=') {
 389         PL_bufptr++;
 390         if (toketype == ANDAND)
 391             yylval.ival = OP_ANDASSIGN;
 392         else if (toketype == OROR)
 393             yylval.ival = OP_ORASSIGN;
 394         else if (toketype == DORDOR)
 395             yylval.ival = OP_DORASSIGN;
 396         toketype = ASSIGNOP;
 397     }
 398     return toketype;
 399 }
 400
 401 /*
 402  * S_no_op
 403  * When Perl expects an operator and finds something else, no_op
 404  * prints the warning.  It always prints "<something> found where
 405  * operator expected.  It prints "Missing semicolon on previous line?"
 406  * if the surprise occurs at the start of the line.  "do you need to
 407  * predeclare ..." is printed out for code like "sub bar; foo bar $x"
 408  * where the compiler doesn't know if foo is a method call or a function.
 409  * It prints "Missing operator before end of line" if there's nothing
 410  * after the missing operator, or "... before <...>" if there is something
 411  * after the missing operator.
 412  */
 413
 414 STATIC void
 415 S_no_op(pTHX_ const char *what, char *s)
 416 {
 417     dVAR;
 418     char * const oldbp = PL_bufptr;
 419     const bool is_first = (PL_oldbufptr == PL_linestart);
 420
 421     if (!s)
 422         s = oldbp;
 423     else
 424         PL_bufptr = s;
 425     yywarn(Perl_form(aTHX_ "%s found where operator expected", what));
 426     if (ckWARN_d(WARN_SYNTAX)) {
 427         if (is_first)
 428             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
 429                     "\t(Missing semicolon on previous line?)\n");
 430         else if (PL_oldoldbufptr && isIDFIRST_lazy_if(PL_oldoldbufptr,UTF)) {
 431             const char *t;
 432             for (t = PL_oldoldbufptr; *t && (isALNUM_lazy_if(t,UTF) || *t == ':'); t++)
 433                 /**/;
 434             if (t < PL_bufptr && isSPACE(*t))
 435                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
 436                         "\t(Do you need to predeclare %.*s?)\n",
 437                     (int)(t - PL_oldoldbufptr), PL_oldoldbufptr);
 438         }
 439         else {
 440             assert(s >= oldbp);
 441             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
 442                     "\t(Missing operator before %.*s?)\n", (int)(s - oldbp), oldbp);
 443         }
 444     }
 445     PL_bufptr = oldbp;
 446 }
 447
 448 /*
 449  * S_missingterm
 450  * Complain about missing quote/regexp/heredoc terminator.
 451  * If it's called with NULL then it cauterizes the line buffer.
 452  * If we're in a delimited string and the delimiter is a control
 453  * character, it's reformatted into a two-char sequence like ^C.
 454  * This is fatal.
 455  */
 456
 457 STATIC void
 458 S_missingterm(pTHX_ char *s)
 459 {
 460     dVAR;
 461     char tmpbuf[3];
 462     char q;
 463     if (s) {
 464         char * const nl = strrchr(s,'\n');
 465         if (nl)
 466             *nl = '\0';
 467     }
 468     else if (
 469 #ifdef EBCDIC
 470         iscntrl(PL_multi_close)
 471 #else
 472         PL_multi_close < 32 || PL_multi_close == 127
 473 #endif
 474         ) {
 475         *tmpbuf = '^';
 476         tmpbuf[1] = (char)toCTRL(PL_multi_close);
 477         tmpbuf[2] = '\0';
 478         s = tmpbuf;
 479     }
 480     else {
 481         *tmpbuf = (char)PL_multi_close;
 482         tmpbuf[1] = '\0';
 483         s = tmpbuf;
 484     }
 485     q = strchr(s,'"') ? '\'' : '"';
 486     Perl_croak(aTHX_ "Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
 487 }
 488
 489 #define FEATURE_IS_ENABLED(name)                                        \
 490         ((0 != (PL_hints & HINT_LOCALIZE_HH))                           \
 491             && S_feature_is_enabled(aTHX_ STR_WITH_LEN(name)))
 492 /*
 493  * S_feature_is_enabled
 494  * Check whether the named feature is enabled.
 495  */
 496 STATIC bool
 497 S_feature_is_enabled(pTHX_ const char *name, STRLEN namelen)
 498 {
 499     dVAR;
 500     HV * const hinthv = GvHV(PL_hintgv);
 501     char he_name[32] = "feature_";
 502     (void) strncpy(&he_name[8], name, 24);
 503
 504     return (hinthv && hv_exists(hinthv, he_name, 8 + namelen));
 505 }
 506
 507 /*
 508  * Perl_deprecate
 509  */
 510
 511 void
 512 Perl_deprecate(pTHX_ const char *s)
 513 {
 514     if (ckWARN(WARN_DEPRECATED))
 515         Perl_warner(aTHX_ packWARN(WARN_DEPRECATED), "Use of %s is deprecated", s);
 516 }
 517
 518 void
 519 Perl_deprecate_old(pTHX_ const char *s)
 520 {
 521     /* This function should NOT be called for any new deprecated warnings */
 522     /* Use Perl_deprecate instead                                         */
 523     /*                                                                    */
 524     /* It is here to maintain backward compatibility with the pre-5.8     */
 525     /* warnings category hierarchy. The "deprecated" category used to     */
 526     /* live under the "syntax" category. It is now a top-level category   */
 527     /* in its own right.                                                  */
 528
 529     if (ckWARN2(WARN_DEPRECATED, WARN_SYNTAX))
 530         Perl_warner(aTHX_ packWARN2(WARN_DEPRECATED, WARN_SYNTAX),
 531                         "Use of %s is deprecated", s);
 532 }
 533
 534 /*
 535  * experimental text filters for win32 carriage-returns, utf16-to-utf8 and
 536  * utf16-to-utf8-reversed.
 537  */
 538
 539 #ifdef PERL_CR_FILTER
 540 static void
 541 strip_return(SV *sv)
 542 {
 543     register const char *s = SvPVX_const(sv);
 544     register const char * const e = s + SvCUR(sv);
 545     /* outer loop optimized to do nothing if there are no CR-LFs */
 546     while (s < e) {
 547         if (*s++ == '\r' && *s == '\n') {
 548             /* hit a CR-LF, need to copy the rest */
 549             register char *d = s - 1;
 550             *d++ = *s++;
 551             while (s < e) {
 552                 if (*s == '\r' && s[1] == '\n')
 553                     s++;
 554                 *d++ = *s++;
 555             }
 556             SvCUR(sv) -= s - d;
 557             return;
 558         }
 559     }
 560 }
 561
 562 STATIC I32
 563 S_cr_textfilter(pTHX_ int idx, SV *sv, int maxlen)
 564 {
 565     const I32 count = FILTER_READ(idx+1, sv, maxlen);
 566     if (count > 0 && !maxlen)
 567         strip_return(sv);
 568     return count;
 569 }
 570 #endif
 571
 572 /*
 573  * Perl_lex_start
 574  * Initialize variables.  Uses the Perl save_stack to save its state (for
 575  * recursive calls to the parser).
 576  */
 577
 578 void
 579 Perl_lex_start(pTHX_ SV *line)
 580 {
 581     dVAR;
 582     const char *s;
 583     STRLEN len;
 584
 585     SAVEI32(PL_lex_dojoin);
 586     SAVEI32(PL_lex_brackets);
 587     SAVEI32(PL_lex_casemods);
 588     SAVEI32(PL_lex_starts);
 589     SAVEI32(PL_lex_state);
 590     SAVEVPTR(PL_lex_inpat);
 591     SAVEI32(PL_lex_inwhat);
 592 #ifdef PERL_MAD
 593     if (PL_lex_state == LEX_KNOWNEXT) {
 594         I32 toke = PL_lasttoke;
 595         while (--toke >= 0) {
 596             SAVEI32(PL_nexttoke[toke].next_type);
 597             SAVEVPTR(PL_nexttoke[toke].next_val);
 598             if (PL_madskills)
 599                 SAVEVPTR(PL_nexttoke[toke].next_mad);
 600         }
 601         SAVEI32(PL_lasttoke);
 602     }
 603     if (PL_madskills) {
 604         SAVESPTR(PL_thistoken);
 605         SAVESPTR(PL_thiswhite);
 606         SAVESPTR(PL_nextwhite);
 607         SAVESPTR(PL_thisopen);
 608         SAVESPTR(PL_thisclose);
 609         SAVESPTR(PL_thisstuff);
 610         SAVEVPTR(PL_thismad);
 611         SAVEI32(PL_realtokenstart);
 612         SAVEI32(PL_faketokens);
 613     }
 614     SAVEI32(PL_curforce);
 615 #else
 616     if (PL_lex_state == LEX_KNOWNEXT) {
 617         I32 toke = PL_nexttoke;
 618         while (--toke >= 0) {
 619             SAVEI32(PL_nexttype[toke]);
 620             SAVEVPTR(PL_nextval[toke]);
 621         }
 622         SAVEI32(PL_nexttoke);
 623     }
 624 #endif
 625     SAVECOPLINE(PL_curcop);
 626     SAVEPPTR(PL_bufptr);
 627     SAVEPPTR(PL_bufend);
 628     SAVEPPTR(PL_oldbufptr);
 629     SAVEPPTR(PL_oldoldbufptr);
 630     SAVEPPTR(PL_last_lop);
 631     SAVEPPTR(PL_last_uni);
 632     SAVEPPTR(PL_linestart);
 633     SAVESPTR(PL_linestr);
 634     SAVEGENERICPV(PL_lex_brackstack);
 635     SAVEGENERICPV(PL_lex_casestack);
 636     SAVEDESTRUCTOR_X(restore_rsfp, PL_rsfp);
 637     SAVESPTR(PL_lex_stuff);
 638     SAVEI32(PL_lex_defer);
 639     SAVEI32(PL_sublex_info.sub_inwhat);
 640     SAVESPTR(PL_lex_repl);
 641     SAVEINT(PL_expect);
 642     SAVEINT(PL_lex_expect);
 643
 644     PL_lex_state = LEX_NORMAL;
 645     PL_lex_defer = 0;
 646     PL_expect = XSTATE;
 647     PL_lex_brackets = 0;
 648     Newx(PL_lex_brackstack, 120, char);
 649     Newx(PL_lex_casestack, 12, char);
 650     PL_lex_casemods = 0;
 651     *PL_lex_casestack = '\0';
 652     PL_lex_dojoin = 0;
 653     PL_lex_starts = 0;
 654     PL_lex_stuff = NULL;
 655     PL_lex_repl = NULL;
 656     PL_lex_inpat = 0;
 657 #ifdef PERL_MAD
 658     PL_lasttoke = 0;
 659 #else
 660     PL_nexttoke = 0;
 661 #endif
 662     PL_lex_inwhat = 0;
 663     PL_sublex_info.sub_inwhat = 0;
 664     PL_linestr = line;
 665     if (SvREADONLY(PL_linestr))
 666         PL_linestr = sv_2mortal(newSVsv(PL_linestr));
 667     s = SvPV_const(PL_linestr, len);
 668     if (!len || s[len-1] != ';') {
 669         if (!(SvFLAGS(PL_linestr) & SVs_TEMP))
 670             PL_linestr = sv_2mortal(newSVsv(PL_linestr));
 671         sv_catpvs(PL_linestr, "\n;");
 672     }
 673     SvTEMP_off(PL_linestr);
 674     PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = SvPVX(PL_linestr);
 675     PL_bufend = PL_bufptr + SvCUR(PL_linestr);
 676     PL_last_lop = PL_last_uni = NULL;
 677     PL_rsfp = 0;
 678 }
 679
 680 /*
 681  * Perl_lex_end
 682  * Finalizer for lexing operations.  Must be called when the parser is
 683  * done with the lexer.
 684  */
 685
 686 void
 687 Perl_lex_end(pTHX)
 688 {
 689     dVAR;
 690     PL_doextract = FALSE;
 691 }
 692
 693 /*
 694  * S_incline
 695  * This subroutine has nothing to do with tilting, whether at windmills
 696  * or pinball tables.  Its name is short for "increment line".  It
 697  * increments the current line number in CopLINE(PL_curcop) and checks
 698  * to see whether the line starts with a comment of the form
 699  *    # line 500 "foo.pm"
 700  * If so, it sets the current line number and file to the values in the comment.
 701  */
 702
 703 STATIC void
 704 S_incline(pTHX_ char *s)
 705 {
 706     dVAR;
 707     char *t;
 708     char *n;
 709     char *e;
 710     char ch;
 711
 712     CopLINE_inc(PL_curcop);
 713     if (*s++ != '#')
 714         return;
 715     while (SPACE_OR_TAB(*s))
 716         s++;
 717     if (strnEQ(s, "line", 4))
 718         s += 4;
 719     else
 720         return;
 721     if (SPACE_OR_TAB(*s))
 722         s++;
 723     else
 724         return;
 725     while (SPACE_OR_TAB(*s))
 726         s++;
 727     if (!isDIGIT(*s))
 728         return;
 729
 730     n = s;
 731     while (isDIGIT(*s))
 732         s++;
 733     while (SPACE_OR_TAB(*s))
 734         s++;
 735     if (*s == '"' && (t = strchr(s+1, '"'))) {
 736         s++;
 737         e = t + 1;
 738     }
 739     else {
 740         for (t = s; !isSPACE(*t); t++) ;
 741         e = t;
 742     }
 743     while (SPACE_OR_TAB(*e) || *e == '\r' || *e == '\f')
 744         e++;
 745     if (*e != '\n' && *e != '\0')
 746         return;         /* false alarm */
 747
 748     ch = *t;
 749     *t = '\0';
 750     if (t - s > 0) {
 751 #ifndef USE_ITHREADS
 752         const char * const cf = CopFILE(PL_curcop);
 753         STRLEN tmplen = cf ? strlen(cf) : 0;
 754         if (tmplen > 7 && strnEQ(cf, "(eval ", 6)) {
 755             /* must copy *{"::_<(eval N)[oldfilename:L]"}
 756              * to *{"::_<newfilename"} */
 757             char smallbuf[256], smallbuf2[256];
 758             char *tmpbuf, *tmpbuf2;
 759             GV **gvp, *gv2;
 760             STRLEN tmplen2 = strlen(s);
 761             if (tmplen + 3 < sizeof smallbuf)
 762                 tmpbuf = smallbuf;
 763             else
 764                 Newx(tmpbuf, tmplen + 3, char);
 765             if (tmplen2 + 3 < sizeof smallbuf2)
 766                 tmpbuf2 = smallbuf2;
 767             else
 768                 Newx(tmpbuf2, tmplen2 + 3, char);
 769             tmpbuf[0] = tmpbuf2[0] = '_';
 770             tmpbuf[1] = tmpbuf2[1] = '<';
 771             memcpy(tmpbuf + 2, cf, ++tmplen);
 772             memcpy(tmpbuf2 + 2, s, ++tmplen2);
 773             ++tmplen; ++tmplen2;
 774             gvp = (GV**)hv_fetch(PL_defstash, tmpbuf, tmplen, FALSE);
 775             if (gvp) {
 776                 gv2 = *(GV**)hv_fetch(PL_defstash, tmpbuf2, tmplen2, TRUE);
 777                 if (!isGV(gv2))
 778                     gv_init(gv2, PL_defstash, tmpbuf2, tmplen2, FALSE);
 779                 /* adjust ${"::_<newfilename"} to store the new file name */
 780                 GvSV(gv2) = newSVpvn(tmpbuf2 + 2, tmplen2 - 2);
 781                 GvHV(gv2) = (HV*)SvREFCNT_inc(GvHV(*gvp));
 782                 GvAV(gv2) = (AV*)SvREFCNT_inc(GvAV(*gvp));
 783             }
 784             if (tmpbuf != smallbuf) Safefree(tmpbuf);
 785             if (tmpbuf2 != smallbuf2) Safefree(tmpbuf2);
 786         }
 787 #endif
 788         CopFILE_free(PL_curcop);
 789         CopFILE_set(PL_curcop, s);
 790     }
 791     *t = ch;
 792     CopLINE_set(PL_curcop, atoi(n)-1);
 793 }
 794
 795 #ifdef PERL_MAD
 796 /* skip space before PL_thistoken */
 797
 798 STATIC char *
 799 S_skipspace0(pTHX_ register char *s)
 800 {
 801     s = skipspace(s);
 802     if (!PL_madskills)
 803         return s;
 804     if (PL_skipwhite) {
 805         if (!PL_thiswhite)
 806             PL_thiswhite = newSVpvn("",0);
 807         sv_catsv(PL_thiswhite, PL_skipwhite);
 808         sv_free(PL_skipwhite);
 809         PL_skipwhite = 0;
 810     }
 811     PL_realtokenstart = s - SvPVX(PL_linestr);
 812     return s;
 813 }
 814
 815 /* skip space after PL_thistoken */
 816
 817 STATIC char *
 818 S_skipspace1(pTHX_ register char *s)
 819 {
 820     const char *start = s;
 821     I32 startoff = start - SvPVX(PL_linestr);
 822
 823     s = skipspace(s);
 824     if (!PL_madskills)
 825         return s;
 826     start = SvPVX(PL_linestr) + startoff;
 827     if (!PL_thistoken && PL_realtokenstart >= 0) {
 828         const char * const tstart = SvPVX(PL_linestr) + PL_realtokenstart;
 829         PL_thistoken = newSVpvn(tstart, start - tstart);
 830     }
 831     PL_realtokenstart = -1;
 832     if (PL_skipwhite) {
 833         if (!PL_nextwhite)
 834             PL_nextwhite = newSVpvn("",0);
 835         sv_catsv(PL_nextwhite, PL_skipwhite);
 836         sv_free(PL_skipwhite);
 837         PL_skipwhite = 0;
 838     }
 839     return s;
 840 }
 841
 842 STATIC char *
 843 S_skipspace2(pTHX_ register char *s, SV **svp)
 844 {
 845     char *start = s;
 846     I32 bufptroff = PL_bufptr - SvPVX(PL_linestr);
 847     I32 startoff = start - SvPVX(PL_linestr);
 848     s = skipspace(s);
 849     PL_bufptr = SvPVX(PL_linestr) + bufptroff;
 850     if (!PL_madskills || !svp)
 851         return s;
 852     start = SvPVX(PL_linestr) + startoff;
 853     if (!PL_thistoken && PL_realtokenstart >= 0) {
 854         char * const tstart = SvPVX(PL_linestr) + PL_realtokenstart;
 855         PL_thistoken = newSVpvn(tstart, start - tstart);
 856         PL_realtokenstart = -1;
 857     }
 858     if (PL_skipwhite) {
 859         if (!*svp)
 860             *svp = newSVpvn("",0);
 861         sv_setsv(*svp, PL_skipwhite);
 862         sv_free(PL_skipwhite);
 863         PL_skipwhite = 0;
 864     }
 865
 866     return s;
 867 }
 868 #endif
 869
 870 /*
 871  * S_skipspace
 872  * Called to gobble the appropriate amount and type of whitespace.
 873  * Skips comments as well.
 874  */
 875
 876 STATIC char *
 877 S_skipspace(pTHX_ register char *s)
 878 {
 879     dVAR;
 880 #ifdef PERL_MAD
 881     int curoff;
 882     int startoff = s - SvPVX(PL_linestr);
 883
 884     if (PL_skipwhite) {
 885         sv_free(PL_skipwhite);
 886         PL_skipwhite = 0;
 887     }
 888 #endif
 889
 890     if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
 891         while (s < PL_bufend && SPACE_OR_TAB(*s))
 892             s++;
 893 #ifdef PERL_MAD
 894         goto done;
 895 #else
 896         return s;
 897 #endif
 898     }
 899     for (;;) {
 900         STRLEN prevlen;
 901         SSize_t oldprevlen, oldoldprevlen;
 902         SSize_t oldloplen = 0, oldunilen = 0;
 903         while (s < PL_bufend && isSPACE(*s)) {
 904             if (*s++ == '\n' && PL_in_eval && !PL_rsfp)
 905                 incline(s);
 906         }
 907
 908         /* comment */
 909         if (s < PL_bufend && *s == '#') {
 910             while (s < PL_bufend && *s != '\n')
 911                 s++;
 912             if (s < PL_bufend) {
 913                 s++;
 914                 if (PL_in_eval && !PL_rsfp) {
 915                     incline(s);
 916                     continue;
 917                 }
 918             }
 919         }
 920
 921         /* only continue to recharge the buffer if we're at the end
 922          * of the buffer, we're not reading from a source filter, and
 923          * we're in normal lexing mode
 924          */
 925         if (s < PL_bufend || !PL_rsfp || PL_sublex_info.sub_inwhat ||
 926                 PL_lex_state == LEX_FORMLINE)
 927 #ifdef PERL_MAD
 928             goto done;
 929 #else
 930             return s;
 931 #endif
 932
 933         /* try to recharge the buffer */
 934 #ifdef PERL_MAD
 935         curoff = s - SvPVX(PL_linestr);
 936 #endif
 937
 938         if ((s = filter_gets(PL_linestr, PL_rsfp,
 939                              (prevlen = SvCUR(PL_linestr)))) == NULL)
 940         {
 941 #ifdef PERL_MAD
 942             if (PL_madskills && curoff != startoff) {
 943                 if (!PL_skipwhite)
 944                     PL_skipwhite = newSVpvn("",0);
 945                 sv_catpvn(PL_skipwhite, SvPVX(PL_linestr) + startoff,
 946                                         curoff - startoff);
 947             }
 948
 949             /* mustn't throw out old stuff yet if madpropping */
 950             SvCUR(PL_linestr) = curoff;
 951             s = SvPVX(PL_linestr) + curoff;
 952             *s = 0;
 953             if (curoff && s[-1] == '\n')
 954                 s[-1] = ' ';
 955 #endif
 956
 957             /* end of file.  Add on the -p or -n magic */
 958             /* XXX these shouldn't really be added here, can't set PL_faketokens */
 959             if (PL_minus_p) {
 960 #ifdef PERL_MAD
 961                 sv_catpv(PL_linestr,
 962                          ";}continue{print or die qq(-p destination: $!\\n);}");
 963 #else
 964                 sv_setpv(PL_linestr,
 965                          ";}continue{print or die qq(-p destination: $!\\n);}");
 966 #endif
 967                 PL_minus_n = PL_minus_p = 0;
 968             }
 969             else if (PL_minus_n) {
 970 #ifdef PERL_MAD
 971                 sv_catpvn(PL_linestr, ";}", 2);
 972 #else
 973                 sv_setpvn(PL_linestr, ";}", 2);
 974 #endif
 975                 PL_minus_n = 0;
 976             }
 977             else
 978 #ifdef PERL_MAD
 979                 sv_catpvn(PL_linestr,";", 1);
 980 #else
 981                 sv_setpvn(PL_linestr,";", 1);
 982 #endif
 983
 984             /* reset variables for next time we lex */
 985             PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = s = PL_linestart
 986                 = SvPVX(PL_linestr)
 987 #ifdef PERL_MAD
 988                 + curoff
 989 #endif
 990                 ;
 991             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
 992             PL_last_lop = PL_last_uni = NULL;
 993
 994             /* Close the filehandle.  Could be from -P preprocessor,
 995              * STDIN, or a regular file.  If we were reading code from
 996              * STDIN (because the commandline held no -e or filename)
 997              * then we don't close it, we reset it so the code can
 998              * read from STDIN too.
 999              */
1000
1001             if (PL_preprocess && !PL_in_eval)
1002                 (void)PerlProc_pclose(PL_rsfp);
1003             else if ((PerlIO*)PL_rsfp == PerlIO_stdin())
1004                 PerlIO_clearerr(PL_rsfp);
1005             else
1006                 (void)PerlIO_close(PL_rsfp);
1007             PL_rsfp = NULL;
1008             return s;
1009         }
1010
1011         /* not at end of file, so we only read another line */
1012         /* make corresponding updates to old pointers, for yyerror() */
1013         oldprevlen = PL_oldbufptr - PL_bufend;
1014         oldoldprevlen = PL_oldoldbufptr - PL_bufend;
1015         if (PL_last_uni)
1016             oldunilen = PL_last_uni - PL_bufend;
1017         if (PL_last_lop)
1018             oldloplen = PL_last_lop - PL_bufend;
1019         PL_linestart = PL_bufptr = s + prevlen;
1020         PL_bufend = s + SvCUR(PL_linestr);
1021         s = PL_bufptr;
1022         PL_oldbufptr = s + oldprevlen;
1023         PL_oldoldbufptr = s + oldoldprevlen;
1024         if (PL_last_uni)
1025             PL_last_uni = s + oldunilen;
1026         if (PL_last_lop)
1027             PL_last_lop = s + oldloplen;
1028         incline(s);
1029
1030         /* debugger active and we're not compiling the debugger code,
1031          * so store the line into the debugger's array of lines
1032          */
1033         if (PERLDB_LINE && PL_curstash != PL_debstash) {
1034             SV * const sv = newSV(0);
1035
1036             sv_upgrade(sv, SVt_PVMG);
1037             sv_setpvn(sv,PL_bufptr,PL_bufend-PL_bufptr);
1038             (void)SvIOK_on(sv);
1039             SvIV_set(sv, 0);
1040             av_store(CopFILEAVx(PL_curcop),(I32)CopLINE(PL_curcop),sv);
1041         }
1042     }
1043
1044 #ifdef PERL_MAD
1045   done:
1046     if (PL_madskills) {
1047         if (!PL_skipwhite)
1048             PL_skipwhite = newSVpvn("",0);
1049         curoff = s - SvPVX(PL_linestr);
1050         if (curoff - startoff)
1051             sv_catpvn(PL_skipwhite, SvPVX(PL_linestr) + startoff,
1052                                 curoff - startoff);
1053     }
1054     return s;
1055 #endif
1056 }
1057
1058 /*
1059  * S_check_uni
1060  * Check the unary operators to ensure there's no ambiguity in how they're
1061  * used.  An ambiguous piece of code would be:
1062  *     rand + 5
1063  * This doesn't mean rand() + 5.  Because rand() is a unary operator,
1064  * the +5 is its argument.
1065  */
1066
1067 STATIC void
1068 S_check_uni(pTHX)
1069 {
1070     dVAR;
1071     const char *s;
1072     const char *t;
1073
1074     if (PL_oldoldbufptr != PL_last_uni)
1075         return;
1076     while (isSPACE(*PL_last_uni))
1077         PL_last_uni++;
1078     for (s = PL_last_uni; isALNUM_lazy_if(s,UTF) || *s == '-'; s++)
1079         /**/;
1080     if ((t = strchr(s, '(')) && t < PL_bufptr)
1081         return;
1082
1083     if (ckWARN_d(WARN_AMBIGUOUS)){
1084         Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
1085                    "Warning: Use of \"%.*s\" without parentheses is ambiguous",
1086                    (int)(s - PL_last_uni), PL_last_uni);
1087     }
1088 }
1089
1090 /*
1091  * LOP : macro to build a list operator.  Its behaviour has been replaced
1092  * with a subroutine, S_lop() for which LOP is just another name.
1093  */
1094
1095 #define LOP(f,x) return lop(f,x,s)
1096
1097 /*
1098  * S_lop
1099  * Build a list operator (or something that might be one).  The rules:
1100  *  - if we have a next token, then it's a list operator [why?]
1101  *  - if the next thing is an opening paren, then it's a function
1102  *  - else it's a list operator
1103  */
1104
1105 STATIC I32
1106 S_lop(pTHX_ I32 f, int x, char *s)
1107 {
1108     dVAR;
1109     yylval.ival = f;
1110     CLINE;
1111     PL_expect = x;
1112     PL_bufptr = s;
1113     PL_last_lop = PL_oldbufptr;
1114     PL_last_lop_op = (OPCODE)f;
1115 #ifdef PERL_MAD
1116     if (PL_lasttoke)
1117         return REPORT(LSTOP);
1118 #else
1119     if (PL_nexttoke)
1120         return REPORT(LSTOP);
1121 #endif
1122     if (*s == '(')
1123         return REPORT(FUNC);
1124     s = PEEKSPACE(s);
1125     if (*s == '(')
1126         return REPORT(FUNC);
1127     else
1128         return REPORT(LSTOP);
1129 }
1130
1131 #ifdef PERL_MAD
1132  /*
1133  * S_start_force
1134  * Sets up for an eventual force_next().  start_force(0) basically does
1135  * an unshift, while start_force(-1) does a push.  yylex removes items
1136  * on the "pop" end.
1137  */
1138
1139 STATIC void
1140 S_start_force(pTHX_ int where)
1141 {
1142     int i;
1143
1144     if (where < 0)      /* so people can duplicate start_force(PL_curforce) */
1145         where = PL_lasttoke;
1146     assert(PL_curforce < 0 || PL_curforce == where);
1147     if (PL_curforce != where) {
1148         for (i = PL_lasttoke; i > where; --i) {
1149             PL_nexttoke[i] = PL_nexttoke[i-1];
1150         }
1151         PL_lasttoke++;
1152     }
1153     if (PL_curforce < 0)        /* in case of duplicate start_force() */
1154         Zero(&PL_nexttoke[where], 1, NEXTTOKE);
1155     PL_curforce = where;
1156     if (PL_nextwhite) {
1157         if (PL_madskills)
1158             curmad('^', newSVpvn("",0));
1159         CURMAD('_', PL_nextwhite);
1160     }
1161 }
1162
1163 STATIC void
1164 S_curmad(pTHX_ char slot, SV *sv)
1165 {
1166     MADPROP **where;
1167
1168     if (!sv)
1169         return;
1170     if (PL_curforce < 0)
1171         where = &PL_thismad;
1172     else
1173         where = &PL_nexttoke[PL_curforce].next_mad;
1174
1175     if (PL_faketokens)
1176         sv_setpvn(sv, "", 0);
1177     else {
1178         if (!IN_BYTES) {
1179             if (UTF && is_utf8_string((U8*)SvPVX(sv), SvCUR(sv)))
1180                 SvUTF8_on(sv);
1181             else if (PL_encoding) {
1182                 sv_recode_to_utf8(sv, PL_encoding);
1183             }
1184         }
1185     }
1186
1187     /* keep a slot open for the head of the list? */
1188     if (slot != '_' && *where && (*where)->mad_key == '^') {
1189         (*where)->mad_key = slot;
1190         sv_free((*where)->mad_val);
1191         (*where)->mad_val = (void*)sv;
1192     }
1193     else
1194         addmad(newMADsv(slot, sv), where, 0);
1195 }
1196 #else
1197 #  define start_force(where)    NOOP
1198 #  define curmad(slot, sv)      NOOP
1199 #endif
1200
1201 /*
1202  * S_force_next
1203  * When the lexer realizes it knows the next token (for instance,
1204  * it is reordering tokens for the parser) then it can call S_force_next
1205  * to know what token to return the next time the lexer is called.  Caller
1206  * will need to set PL_nextval[] (or PL_nexttoke[].next_val with PERL_MAD),
1207  * and possibly PL_expect to ensure the lexer handles the token correctly.
1208  */
1209
1210 STATIC void
1211 S_force_next(pTHX_ I32 type)
1212 {
1213     dVAR;
1214 #ifdef PERL_MAD
1215     if (PL_curforce < 0)
1216         start_force(PL_lasttoke);
1217     PL_nexttoke[PL_curforce].next_type = type;
1218     if (PL_lex_state != LEX_KNOWNEXT)
1219         PL_lex_defer = PL_lex_state;
1220     PL_lex_state = LEX_KNOWNEXT;
1221     PL_lex_expect = PL_expect;
1222     PL_curforce = -1;
1223 #else
1224     PL_nexttype[PL_nexttoke] = type;
1225     PL_nexttoke++;
1226     if (PL_lex_state != LEX_KNOWNEXT) {
1227         PL_lex_defer = PL_lex_state;
1228         PL_lex_expect = PL_expect;
1229         PL_lex_state = LEX_KNOWNEXT;
1230     }
1231 #endif
1232 }
1233
1234 STATIC SV *
1235 S_newSV_maybe_utf8(pTHX_ const char *start, STRLEN len)
1236 {
1237     dVAR;
1238     SV * const sv = newSVpvn(start,len);
1239     if (UTF && !IN_BYTES && is_utf8_string((const U8*)start, len))
1240         SvUTF8_on(sv);
1241     return sv;
1242 }
1243
1244 /*
1245  * S_force_word
1246  * When the lexer knows the next thing is a word (for instance, it has
1247  * just seen -> and it knows that the next char is a word char, then
1248  * it calls S_force_word to stick the next word into the PL_next lookahead.
1249  *
1250  * Arguments:
1251  *   char *start : buffer position (must be within PL_linestr)
1252  *   int token   : PL_next will be this type of bare word (e.g., METHOD,WORD)
1253  *   int check_keyword : if true, Perl checks to make sure the word isn't
1254  *       a keyword (do this if the word is a label, e.g. goto FOO)
1255  *   int allow_pack : if true, : characters will also be allowed (require,
1256  *       use, etc. do this)
1257  *   int allow_initial_tick : used by the "sub" lexer only.
1258  */
1259
1260 STATIC char *
1261 S_force_word(pTHX_ register char *start, int token, int check_keyword, int allow_pack, int allow_initial_tick)
1262 {
1263     dVAR;
1264     register char *s;
1265     STRLEN len;
1266
1267     start = SKIPSPACE1(start);
1268     s = start;
1269     if (isIDFIRST_lazy_if(s,UTF) ||
1270         (allow_pack && *s == ':') ||
1271         (allow_initial_tick && *s == '\'') )
1272     {
1273         s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, allow_pack, &len);
1274         if (check_keyword && keyword(PL_tokenbuf, len))
1275             return start;
1276         start_force(PL_curforce);
1277         if (PL_madskills)
1278             curmad('X', newSVpvn(start,s-start));
1279         if (token == METHOD) {
1280             s = SKIPSPACE1(s);
1281             if (*s == '(')
1282                 PL_expect = XTERM;
1283             else {
1284                 PL_expect = XOPERATOR;
1285             }
1286         }
1287         NEXTVAL_NEXTTOKE.opval
1288             = (OP*)newSVOP(OP_CONST,0,
1289                            S_newSV_maybe_utf8(aTHX_ PL_tokenbuf, len));
1290         NEXTVAL_NEXTTOKE.opval->op_private |= OPpCONST_BARE;
1291         force_next(token);
1292     }
1293     return s;
1294 }
1295
1296 /*
1297  * S_force_ident
1298  * Called when the lexer wants $foo *foo &foo etc, but the program
1299  * text only contains the "foo" portion.  The first argument is a pointer
1300  * to the "foo", and the second argument is the type symbol to prefix.
1301  * Forces the next token to be a "WORD".
1302  * Creates the symbol if it didn't already exist (via gv_fetchpv()).
1303  */
1304
1305 STATIC void
1306 S_force_ident(pTHX_ register const char *s, int kind)
1307 {
1308     dVAR;
1309     if (s && *s) {
1310         const STRLEN len = strlen(s);
1311         OP* const o = (OP*)newSVOP(OP_CONST, 0, newSVpvn(s, len));
1312         start_force(PL_curforce);
1313         NEXTVAL_NEXTTOKE.opval = o;
1314         force_next(WORD);
1315         if (kind) {
1316             o->op_private = OPpCONST_ENTERED;
1317             /* XXX see note in pp_entereval() for why we forgo typo
1318                warnings if the symbol must be introduced in an eval.
1319                GSAR 96-10-12 */
1320             gv_fetchpvn_flags(s, len,
1321                               PL_in_eval ? (GV_ADDMULTI | GV_ADDINEVAL)
1322                               : GV_ADD,
1323                               kind == '$' ? SVt_PV :
1324                               kind == '@' ? SVt_PVAV :
1325                               kind == '%' ? SVt_PVHV :
1326                               SVt_PVGV
1327                               );
1328         }
1329     }
1330 }
1331
1332 NV
1333 Perl_str_to_version(pTHX_ SV *sv)
1334 {
1335     NV retval = 0.0;
1336     NV nshift = 1.0;
1337     STRLEN len;
1338     const char *start = SvPV_const(sv,len);
1339     const char * const end = start + len;
1340     const bool utf = SvUTF8(sv) ? TRUE : FALSE;
1341     while (start < end) {
1342         STRLEN skip;
1343         UV n;
1344         if (utf)
1345             n = utf8n_to_uvchr((U8*)start, len, &skip, 0);
1346         else {
1347             n = *(U8*)start;
1348             skip = 1;
1349         }
1350         retval += ((NV)n)/nshift;
1351         start += skip;
1352         nshift *= 1000;
1353     }
1354     return retval;
1355 }
1356
1357 /*
1358  * S_force_version
1359  * Forces the next token to be a version number.
1360  * If the next token appears to be an invalid version number, (e.g. "v2b"),
1361  * and if "guessing" is TRUE, then no new token is created (and the caller
1362  * must use an alternative parsing method).
1363  */
1364
1365 STATIC char *
1366 S_force_version(pTHX_ char *s, int guessing)
1367 {
1368     dVAR;
1369     OP *version = NULL;
1370     char *d;
1371 #ifdef PERL_MAD
1372     I32 startoff = s - SvPVX(PL_linestr);
1373 #endif
1374
1375     s = SKIPSPACE1(s);
1376
1377     d = s;
1378     if (*d == 'v')
1379         d++;
1380     if (isDIGIT(*d)) {
1381         while (isDIGIT(*d) || *d == '_' || *d == '.')
1382             d++;
1383 #ifdef PERL_MAD
1384         if (PL_madskills) {
1385             start_force(PL_curforce);
1386             curmad('X', newSVpvn(s,d-s));
1387         }
1388 #endif
1389         if (*d == ';' || isSPACE(*d) || *d == '}' || !*d) {
1390             SV *ver;
1391             s = scan_num(s, &yylval);
1392             version = yylval.opval;
1393             ver = cSVOPx(version)->op_sv;
1394             if (SvPOK(ver) && !SvNIOK(ver)) {
1395                 SvUPGRADE(ver, SVt_PVNV);
1396                 SvNV_set(ver, str_to_version(ver));
1397                 SvNOK_on(ver);          /* hint that it is a version */
1398             }
1399         }
1400         else if (guessing) {
1401 #ifdef PERL_MAD
1402             if (PL_madskills) {
1403                 sv_free(PL_nextwhite);  /* let next token collect whitespace */
1404                 PL_nextwhite = 0;
1405                 s = SvPVX(PL_linestr) + startoff;
1406             }
1407 #endif
1408             return s;
1409         }
1410     }
1411
1412 #ifdef PERL_MAD
1413     if (PL_madskills && !version) {
1414         sv_free(PL_nextwhite);  /* let next token collect whitespace */
1415         PL_nextwhite = 0;
1416         s = SvPVX(PL_linestr) + startoff;
1417     }
1418 #endif
1419     /* NOTE: The parser sees the package name and the VERSION swapped */
1420     start_force(PL_curforce);
1421     NEXTVAL_NEXTTOKE.opval = version;
1422     force_next(WORD);
1423
1424     return s;
1425 }
1426
1427 /*
1428  * S_tokeq
1429  * Tokenize a quoted string passed in as an SV.  It finds the next
1430  * chunk, up to end of string or a backslash.  It may make a new
1431  * SV containing that chunk (if HINT_NEW_STRING is on).  It also
1432  * turns \\ into \.
1433  */
1434
1435 STATIC SV *
1436 S_tokeq(pTHX_ SV *sv)
1437 {
1438     dVAR;
1439     register char *s;
1440     register char *send;
1441     register char *d;
1442     STRLEN len = 0;
1443     SV *pv = sv;
1444
1445     if (!SvLEN(sv))
1446         goto finish;
1447
1448     s = SvPV_force(sv, len);
1449     if (SvTYPE(sv) >= SVt_PVIV && SvIVX(sv) == -1)
1450         goto finish;
1451     send = s + len;
1452     while (s < send && *s != '\\')
1453         s++;
1454     if (s == send)
1455         goto finish;
1456     d = s;
1457     if ( PL_hints & HINT_NEW_STRING ) {
1458         pv = sv_2mortal(newSVpvn(SvPVX_const(pv), len));
1459         if (SvUTF8(sv))
1460             SvUTF8_on(pv);
1461     }
1462     while (s < send) {
1463         if (*s == '\\') {
1464             if (s + 1 < send && (s[1] == '\\'))
1465                 s++;            /* all that, just for this */
1466         }
1467         *d++ = *s++;
1468     }
1469     *d = '\0';
1470     SvCUR_set(sv, d - SvPVX_const(sv));
1471   finish:
1472     if ( PL_hints & HINT_NEW_STRING )
1473        return new_constant(NULL, 0, "q", sv, pv, "q");
1474     return sv;
1475 }
1476
1477 /*
1478  * Now come three functions related to double-quote context,
1479  * S_sublex_start, S_sublex_push, and S_sublex_done.  They're used when
1480  * converting things like "\u\Lgnat" into ucfirst(lc("gnat")).  They
1481  * interact with PL_lex_state, and create fake ( ... ) argument lists
1482  * to handle functions and concatenation.
1483  * They assume that whoever calls them will be setting up a fake
1484  * join call, because each subthing puts a ',' after it.  This lets
1485  *   "lower \luPpEr"
1486  * become
1487  *  join($, , 'lower ', lcfirst( 'uPpEr', ) ,)
1488  *
1489  * (I'm not sure whether the spurious commas at the end of lcfirst's
1490  * arguments and join's arguments are created or not).
1491  */
1492
1493 /*
1494  * S_sublex_start
1495  * Assumes that yylval.ival is the op we're creating (e.g. OP_LCFIRST).
1496  *
1497  * Pattern matching will set PL_lex_op to the pattern-matching op to
1498  * make (we return THING if yylval.ival is OP_NULL, PMFUNC otherwise).
1499  *
1500  * OP_CONST and OP_READLINE are easy--just make the new op and return.
1501  *
1502  * Everything else becomes a FUNC.
1503  *
1504  * Sets PL_lex_state to LEX_INTERPPUSH unless (ival was OP_NULL or we
1505  * had an OP_CONST or OP_READLINE).  This just sets us up for a
1506  * call to S_sublex_push().
1507  */
1508
1509 STATIC I32
1510 S_sublex_start(pTHX)
1511 {
1512     dVAR;
1513     register const I32 op_type = yylval.ival;
1514
1515     if (op_type == OP_NULL) {
1516         yylval.opval = PL_lex_op;
1517         PL_lex_op = NULL;
1518         return THING;
1519     }
1520     if (op_type == OP_CONST || op_type == OP_READLINE) {
1521         SV *sv = tokeq(PL_lex_stuff);
1522
1523         if (SvTYPE(sv) == SVt_PVIV) {
1524             /* Overloaded constants, nothing fancy: Convert to SVt_PV: */
1525             STRLEN len;
1526             const char * const p = SvPV_const(sv, len);
1527             SV * const nsv = newSVpvn(p, len);
1528             if (SvUTF8(sv))
1529                 SvUTF8_on(nsv);
1530             SvREFCNT_dec(sv);
1531             sv = nsv;
1532         }
1533         yylval.opval = (OP*)newSVOP(op_type, 0, sv);
1534         PL_lex_stuff = NULL;
1535         /* Allow <FH> // "foo" */
1536         if (op_type == OP_READLINE)
1537             PL_expect = XTERMORDORDOR;
1538         return THING;
1539     }
1540
1541     PL_sublex_info.super_state = PL_lex_state;
1542     PL_sublex_info.sub_inwhat = op_type;
1543     PL_sublex_info.sub_op = PL_lex_op;
1544     PL_lex_state = LEX_INTERPPUSH;
1545
1546     PL_expect = XTERM;
1547     if (PL_lex_op) {
1548         yylval.opval = PL_lex_op;
1549         PL_lex_op = NULL;
1550         return PMFUNC;
1551     }
1552     else
1553         return FUNC;
1554 }
1555
1556 /*
1557  * S_sublex_push
1558  * Create a new scope to save the lexing state.  The scope will be
1559  * ended in S_sublex_done.  Returns a '(', starting the function arguments
1560  * to the uc, lc, etc. found before.
1561  * Sets PL_lex_state to LEX_INTERPCONCAT.
1562  */
1563
1564 STATIC I32
1565 S_sublex_push(pTHX)
1566 {
1567     dVAR;
1568     ENTER;
1569
1570     PL_lex_state = PL_sublex_info.super_state;
1571     SAVEI32(PL_lex_dojoin);
1572     SAVEI32(PL_lex_brackets);
1573     SAVEI32(PL_lex_casemods);
1574     SAVEI32(PL_lex_starts);
1575     SAVEI32(PL_lex_state);
1576     SAVEVPTR(PL_lex_inpat);
1577     SAVEI32(PL_lex_inwhat);
1578     SAVECOPLINE(PL_curcop);
1579     SAVEPPTR(PL_bufptr);
1580     SAVEPPTR(PL_bufend);
1581     SAVEPPTR(PL_oldbufptr);
1582     SAVEPPTR(PL_oldoldbufptr);
1583     SAVEPPTR(PL_last_lop);
1584     SAVEPPTR(PL_last_uni);
1585     SAVEPPTR(PL_linestart);
1586     SAVESPTR(PL_linestr);
1587     SAVEGENERICPV(PL_lex_brackstack);
1588     SAVEGENERICPV(PL_lex_casestack);
1589
1590     PL_linestr = PL_lex_stuff;
1591     PL_lex_stuff = NULL;
1592
1593     PL_bufend = PL_bufptr = PL_oldbufptr = PL_oldoldbufptr = PL_linestart
1594         = SvPVX(PL_linestr);
1595     PL_bufend += SvCUR(PL_linestr);
1596     PL_last_lop = PL_last_uni = NULL;
1597     SAVEFREESV(PL_linestr);
1598
1599     PL_lex_dojoin = FALSE;
1600     PL_lex_brackets = 0;
1601     Newx(PL_lex_brackstack, 120, char);
1602     Newx(PL_lex_casestack, 12, char);
1603     PL_lex_casemods = 0;
1604     *PL_lex_casestack = '\0';
1605     PL_lex_starts = 0;
1606     PL_lex_state = LEX_INTERPCONCAT;
1607     CopLINE_set(PL_curcop, (line_t)PL_multi_start);
1608
1609     PL_lex_inwhat = PL_sublex_info.sub_inwhat;
1610     if (PL_lex_inwhat == OP_MATCH || PL_lex_inwhat == OP_QR || PL_lex_inwhat == OP_SUBST)
1611         PL_lex_inpat = PL_sublex_info.sub_op;
1612     else
1613         PL_lex_inpat = NULL;
1614
1615     return '(';
1616 }
1617
1618 /*
1619  * S_sublex_done
1620  * Restores lexer state after a S_sublex_push.
1621  */
1622
1623 STATIC I32
1624 S_sublex_done(pTHX)
1625 {
1626     dVAR;
1627     if (!PL_lex_starts++) {
1628         SV * const sv = newSVpvs("");
1629         if (SvUTF8(PL_linestr))
1630             SvUTF8_on(sv);
1631         PL_expect = XOPERATOR;
1632         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1633         return THING;
1634     }
1635
1636     if (PL_lex_casemods) {              /* oops, we've got some unbalanced parens */
1637         PL_lex_state = LEX_INTERPCASEMOD;
1638         return yylex();
1639     }
1640
1641     /* Is there a right-hand side to take care of? (s//RHS/ or tr//RHS/) */
1642     if (PL_lex_repl && (PL_lex_inwhat == OP_SUBST || PL_lex_inwhat == OP_TRANS)) {
1643         PL_linestr = PL_lex_repl;
1644         PL_lex_inpat = 0;
1645         PL_bufend = PL_bufptr = PL_oldbufptr = PL_oldoldbufptr = PL_linestart = SvPVX(PL_linestr);
1646         PL_bufend += SvCUR(PL_linestr);
1647         PL_last_lop = PL_last_uni = NULL;
1648         SAVEFREESV(PL_linestr);
1649         PL_lex_dojoin = FALSE;
1650         PL_lex_brackets = 0;
1651         PL_lex_casemods = 0;
1652         *PL_lex_casestack = '\0';
1653         PL_lex_starts = 0;
1654         if (SvEVALED(PL_lex_repl)) {
1655             PL_lex_state = LEX_INTERPNORMAL;
1656             PL_lex_starts++;
1657             /*  we don't clear PL_lex_repl here, so that we can check later
1658                 whether this is an evalled subst; that means we rely on the
1659                 logic to ensure sublex_done() is called again only via the
1660                 branch (in yylex()) that clears PL_lex_repl, else we'll loop */
1661         }
1662         else {
1663             PL_lex_state = LEX_INTERPCONCAT;
1664             PL_lex_repl = NULL;
1665         }
1666         return ',';
1667     }
1668     else {
1669 #ifdef PERL_MAD
1670         if (PL_madskills) {
1671             if (PL_thiswhite) {
1672                 if (!PL_endwhite)
1673                     PL_endwhite = newSVpvn("",0);
1674                 sv_catsv(PL_endwhite, PL_thiswhite);
1675                 PL_thiswhite = 0;
1676             }
1677             if (PL_thistoken)
1678                 sv_setpvn(PL_thistoken,"",0);
1679             else
1680                 PL_realtokenstart = -1;
1681         }
1682 #endif
1683         LEAVE;
1684         PL_bufend = SvPVX(PL_linestr);
1685         PL_bufend += SvCUR(PL_linestr);
1686         PL_expect = XOPERATOR;
1687         PL_sublex_info.sub_inwhat = 0;
1688         return ')';
1689     }
1690 }
1691
1692 /*
1693   scan_const
1694
1695   Extracts a pattern, double-quoted string, or transliteration.  This
1696   is terrifying code.
1697
1698   It looks at lex_inwhat and PL_lex_inpat to find out whether it's
1699   processing a pattern (PL_lex_inpat is true), a transliteration
1700   (lex_inwhat & OP_TRANS is true), or a double-quoted string.
1701
1702   Returns a pointer to the character scanned up to. Iff this is
1703   advanced from the start pointer supplied (ie if anything was
1704   successfully parsed), will leave an OP for the substring scanned
1705   in yylval. Caller must intuit reason for not parsing further
1706   by looking at the next characters herself.
1707
1708   In patterns:
1709     backslashes:
1710       double-quoted style: \r and \n
1711       regexp special ones: \D \s
1712       constants: \x3
1713       backrefs: \1 (deprecated in substitution replacements)
1714       case and quoting: \U \Q \E
1715     stops on @ and $, but not for $ as tail anchor
1716
1717   In transliterations:
1718     characters are VERY literal, except for - not at the start or end
1719     of the string, which indicates a range.  scan_const expands the
1720     range to the full set of intermediate characters.
1721
1722   In double-quoted strings:
1723     backslashes:
1724       double-quoted style: \r and \n
1725       constants: \x3
1726       backrefs: \1 (deprecated)
1727       case and quoting: \U \Q \E
1728     stops on @ and $
1729
1730   scan_const does *not* construct ops to handle interpolated strings.
1731   It stops processing as soon as it finds an embedded $ or @ variable
1732   and leaves it to the caller to work out what's going on.
1733
1734   @ in pattern could be: @foo, @{foo}, @$foo, @'foo, @::foo.
1735
1736   $ in pattern could be $foo or could be tail anchor.  Assumption:
1737   it's a tail anchor if $ is the last thing in the string, or if it's
1738   followed by one of ")| \n\t"
1739
1740   \1 (backreferences) are turned into $1
1741
1742   The structure of the code is
1743       while (there's a character to process) {
1744           handle transliteration ranges
1745           skip regexp comments
1746           skip # initiated comments in //x patterns
1747           check for embedded @foo
1748           check for embedded scalars
1749           if (backslash) {
1750               leave intact backslashes from leave (below)
1751               deprecate \1 in strings and sub replacements
1752               handle string-changing backslashes \l \U \Q \E, etc.
1753               switch (what was escaped) {
1754                   handle - in a transliteration (becomes a literal -)
1755                   handle \132 octal characters
1756                   handle 0x15 hex characters
1757                   handle \cV (control V)
1758                   handle printf backslashes (\f, \r, \n, etc)
1759               } (end switch)
1760           } (end if backslash)
1761     } (end while character to read)
1762
1763 */
1764
1765 STATIC char *
1766 S_scan_const(pTHX_ char *start)
1767 {
1768     dVAR;
1769     register char *send = PL_bufend;            /* end of the constant */
1770     SV *sv = newSV(send - start);               /* sv for the constant */
1771     register char *s = start;                   /* start of the constant */
1772     register char *d = SvPVX(sv);               /* destination for copies */
1773     bool dorange = FALSE;                       /* are we in a translit range? */
1774     bool didrange = FALSE;                      /* did we just finish a range? */
1775     I32  has_utf8 = FALSE;                      /* Output constant is UTF8 */
1776     I32  this_utf8 = UTF;                       /* The source string is assumed to be UTF8 */
1777     UV uv;
1778 #ifdef EBCDIC
1779     UV literal_endpoint = 0;
1780 #endif
1781
1782     const char * const leaveit = /* set of acceptably-backslashed characters */
1783         PL_lex_inpat
1784             ? "\\.^$@AGZdDwWsSbBpPXC+*?|()-nrtfeaxz0123456789[{]} \t\n\r\f\v#"
1785             : "";
1786
1787     if (PL_lex_inwhat == OP_TRANS && PL_sublex_info.sub_op) {
1788         /* If we are doing a trans and we know we want UTF8 set expectation */
1789         has_utf8   = PL_sublex_info.sub_op->op_private & (OPpTRANS_FROM_UTF|OPpTRANS_TO_UTF);
1790         this_utf8  = PL_sublex_info.sub_op->op_private & (PL_lex_repl ? OPpTRANS_FROM_UTF : OPpTRANS_TO_UTF);
1791     }
1792
1793
1794     while (s < send || dorange) {
1795         /* get transliterations out of the way (they're most literal) */
1796         if (PL_lex_inwhat == OP_TRANS) {
1797             /* expand a range A-Z to the full set of characters.  AIE! */
1798             if (dorange) {
1799                 I32 i;                          /* current expanded character */
1800                 I32 min;                        /* first character in range */
1801                 I32 max;                        /* last character in range */
1802
1803                 if (has_utf8) {
1804                     char * const c = (char*)utf8_hop((U8*)d, -1);
1805                     char *e = d++;
1806                     while (e-- > c)
1807                         *(e + 1) = *e;
1808                     *c = (char)UTF_TO_NATIVE(0xff);
1809                     /* mark the range as done, and continue */
1810                     dorange = FALSE;
1811                     didrange = TRUE;
1812                     continue;
1813                 }
1814
1815                 i = d - SvPVX_const(sv);                /* remember current offset */
1816                 SvGROW(sv, SvLEN(sv) + 256);    /* never more than 256 chars in a range */
1817                 d = SvPVX(sv) + i;              /* refresh d after realloc */
1818                 d -= 2;                         /* eat the first char and the - */
1819
1820                 min = (U8)*d;                   /* first char in range */
1821                 max = (U8)d[1];                 /* last char in range  */
1822
1823                 if (min > max) {
1824                     Perl_croak(aTHX_
1825                                "Invalid range \"%c-%c\" in transliteration operator",
1826                                (char)min, (char)max);
1827                 }
1828
1829 #ifdef EBCDIC
1830                 if (literal_endpoint == 2 &&
1831                     ((isLOWER(min) && isLOWER(max)) ||
1832                      (isUPPER(min) && isUPPER(max)))) {
1833                     if (isLOWER(min)) {
1834                         for (i = min; i <= max; i++)
1835                             if (isLOWER(i))
1836                                 *d++ = NATIVE_TO_NEED(has_utf8,i);
1837                     } else {
1838                         for (i = min; i <= max; i++)
1839                             if (isUPPER(i))
1840                                 *d++ = NATIVE_TO_NEED(has_utf8,i);
1841                     }
1842                 }
1843                 else
1844 #endif
1845                     for (i = min; i <= max; i++)
1846                         *d++ = (char)i;
1847
1848                 /* mark the range as done, and continue */
1849                 dorange = FALSE;
1850                 didrange = TRUE;
1851 #ifdef EBCDIC
1852                 literal_endpoint = 0;
1853 #endif
1854                 continue;
1855             }
1856
1857             /* range begins (ignore - as first or last char) */
1858             else if (*s == '-' && s+1 < send  && s != start) {
1859                 if (didrange) {
1860                     Perl_croak(aTHX_ "Ambiguous range in transliteration operator");
1861                 }
1862                 if (has_utf8) {
1863                     *d++ = (char)UTF_TO_NATIVE(0xff);   /* use illegal utf8 byte--see pmtrans */
1864                     s++;
1865                     continue;
1866                 }
1867                 dorange = TRUE;
1868                 s++;
1869             }
1870             else {
1871                 didrange = FALSE;
1872 #ifdef EBCDIC
1873                 literal_endpoint = 0;
1874 #endif
1875             }
1876         }
1877
1878         /* if we get here, we're not doing a transliteration */
1879
1880         /* skip for regexp comments /(?#comment)/ and code /(?{code})/,
1881            except for the last char, which will be done separately. */
1882         else if (*s == '(' && PL_lex_inpat && s[1] == '?') {
1883             if (s[2] == '#') {
1884                 while (s+1 < send && *s != ')')
1885                     *d++ = NATIVE_TO_NEED(has_utf8,*s++);
1886             }
1887             else if (s[2] == '{' /* This should match regcomp.c */
1888                      || ((s[2] == 'p' || s[2] == '?') && s[3] == '{'))
1889             {
1890                 I32 count = 1;
1891                 char *regparse = s + (s[2] == '{' ? 3 : 4);
1892                 char c;
1893
1894                 while (count && (c = *regparse)) {
1895                     if (c == '\\' && regparse[1])
1896                         regparse++;
1897                     else if (c == '{')
1898                         count++;
1899                     else if (c == '}')
1900                         count--;
1901                     regparse++;
1902                 }
1903                 if (*regparse != ')')
1904                     regparse--;         /* Leave one char for continuation. */
1905                 while (s < regparse)
1906                     *d++ = NATIVE_TO_NEED(has_utf8,*s++);
1907             }
1908         }
1909
1910         /* likewise skip #-initiated comments in //x patterns */
1911         else if (*s == '#' && PL_lex_inpat &&
1912           ((PMOP*)PL_lex_inpat)->op_pmflags & PMf_EXTENDED) {
1913             while (s+1 < send && *s != '\n')
1914                 *d++ = NATIVE_TO_NEED(has_utf8,*s++);
1915         }
1916
1917         /* check for embedded arrays
1918            (@foo, @::foo, @'foo, @{foo}, @$foo, @+, @-)
1919            */
1920         else if (*s == '@' && s[1]
1921                  && (isALNUM_lazy_if(s+1,UTF) || strchr(":'{$+-", s[1])))
1922             break;
1923
1924         /* check for embedded scalars.  only stop if we're sure it's a
1925            variable.
1926         */
1927         else if (*s == '$') {
1928             if (!PL_lex_inpat)  /* not a regexp, so $ must be var */
1929                 break;
1930             if (s + 1 < send && !strchr("()| \r\n\t", s[1]))
1931                 break;          /* in regexp, $ might be tail anchor */
1932         }
1933
1934         /* End of else if chain - OP_TRANS rejoin rest */
1935
1936         /* backslashes */
1937         if (*s == '\\' && s+1 < send) {
1938             s++;
1939
1940             /* some backslashes we leave behind */
1941             if (*leaveit && *s && strchr(leaveit, *s)) {
1942                 *d++ = NATIVE_TO_NEED(has_utf8,'\\');
1943                 *d++ = NATIVE_TO_NEED(has_utf8,*s++);
1944                 continue;
1945             }
1946
1947             /* deprecate \1 in strings and substitution replacements */
1948             if (PL_lex_inwhat == OP_SUBST && !PL_lex_inpat &&
1949                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
1950             {
1951                 if (ckWARN(WARN_SYNTAX))
1952                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "\\%c better written as $%c", *s, *s);
1953                 *--s = '$';
1954                 break;
1955             }
1956
1957             /* string-change backslash escapes */
1958             if (PL_lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
1959                 --s;
1960                 break;
1961             }
1962
1963             /* if we get here, it's either a quoted -, or a digit */
1964             switch (*s) {
1965
1966             /* quoted - in transliterations */
1967             case '-':
1968                 if (PL_lex_inwhat == OP_TRANS) {
1969                     *d++ = *s++;
1970                     continue;
1971                 }
1972                 /* FALL THROUGH */
1973             default:
1974                 {
1975                     if (isALNUM(*s) &&
1976                         *s != '_' &&
1977                         ckWARN(WARN_MISC))
1978                         Perl_warner(aTHX_ packWARN(WARN_MISC),
1979                                "Unrecognized escape \\%c passed through",
1980                                *s);
1981                     /* default action is to copy the quoted character */
1982                     goto default_action;
1983                 }
1984
1985             /* \132 indicates an octal constant */
1986             case '0': case '1': case '2': case '3':
1987             case '4': case '5': case '6': case '7':
1988                 {
1989                     I32 flags = 0;
1990                     STRLEN len = 3;
1991                     uv = grok_oct(s, &len, &flags, NULL);
1992                     s += len;
1993                 }
1994                 goto NUM_ESCAPE_INSERT;
1995
1996             /* \x24 indicates a hex constant */
1997             case 'x':
1998                 ++s;
1999                 if (*s == '{') {
2000                     char* const e = strchr(s, '}');
2001                     I32 flags = PERL_SCAN_ALLOW_UNDERSCORES |
2002                       PERL_SCAN_DISALLOW_PREFIX;
2003                     STRLEN len;
2004
2005                     ++s;
2006                     if (!e) {
2007                         yyerror("Missing right brace on \\x{}");
2008                         continue;
2009                     }
2010                     len = e - s;
2011                     uv = grok_hex(s, &len, &flags, NULL);
2012                     s = e + 1;
2013                 }
2014                 else {
2015                     {
2016                         STRLEN len = 2;
2017                         I32 flags = PERL_SCAN_DISALLOW_PREFIX;
2018                         uv = grok_hex(s, &len, &flags, NULL);
2019                         s += len;
2020                     }
2021                 }
2022
2023               NUM_ESCAPE_INSERT:
2024                 /* Insert oct or hex escaped character.
2025                  * There will always enough room in sv since such
2026                  * escapes will be longer than any UTF-8 sequence
2027                  * they can end up as. */
2028
2029                 /* We need to map to chars to ASCII before doing the tests
2030                    to cover EBCDIC
2031                 */
2032                 if (!UNI_IS_INVARIANT(NATIVE_TO_UNI(uv))) {
2033                     if (!has_utf8 && uv > 255) {
2034                         /* Might need to recode whatever we have
2035                          * accumulated so far if it contains any
2036                          * hibit chars.
2037                          *
2038                          * (Can't we keep track of that and avoid
2039                          *  this rescan? --jhi)
2040                          */
2041                         int hicount = 0;
2042                         U8 *c;
2043                         for (c = (U8 *) SvPVX(sv); c < (U8 *)d; c++) {
2044                             if (!NATIVE_IS_INVARIANT(*c)) {
2045                                 hicount++;
2046                             }
2047                         }
2048                         if (hicount) {
2049                             const STRLEN offset = d - SvPVX_const(sv);
2050                             U8 *src, *dst;
2051                             d = SvGROW(sv, SvLEN(sv) + hicount + 1) + offset;
2052                             src = (U8 *)d - 1;
2053                             dst = src+hicount;
2054                             d  += hicount;
2055                             while (src >= (const U8 *)SvPVX_const(sv)) {
2056                                 if (!NATIVE_IS_INVARIANT(*src)) {
2057                                     const U8 ch = NATIVE_TO_ASCII(*src);
2058                                     *dst-- = (U8)UTF8_EIGHT_BIT_LO(ch);
2059                                     *dst-- = (U8)UTF8_EIGHT_BIT_HI(ch);
2060                                 }
2061                                 else {
2062                                     *dst-- = *src;
2063                                 }
2064                                 src--;
2065                             }
2066                         }
2067                     }
2068
2069                     if (has_utf8 || uv > 255) {
2070                         d = (char*)uvchr_to_utf8((U8*)d, uv);
2071                         has_utf8 = TRUE;
2072                         if (PL_lex_inwhat == OP_TRANS &&
2073                             PL_sublex_info.sub_op) {
2074                             PL_sublex_info.sub_op->op_private |=
2075                                 (PL_lex_repl ? OPpTRANS_FROM_UTF
2076                                              : OPpTRANS_TO_UTF);
2077                         }
2078                     }
2079                     else {
2080                         *d++ = (char)uv;
2081                     }
2082                 }
2083                 else {
2084                     *d++ = (char) uv;
2085                 }
2086                 continue;
2087
2088             /* \N{LATIN SMALL LETTER A} is a named character */
2089             case 'N':
2090                 ++s;
2091                 if (*s == '{') {
2092                     char* e = strchr(s, '}');
2093                     SV *res;
2094                     STRLEN len;
2095                     const char *str;
2096
2097                     if (!e) {
2098                         yyerror("Missing right brace on \\N{}");
2099                         e = s - 1;
2100                         goto cont_scan;
2101                     }
2102                     if (e > s + 2 && s[1] == 'U' && s[2] == '+') {
2103                         /* \N{U+...} */
2104                         I32 flags = PERL_SCAN_ALLOW_UNDERSCORES |
2105                           PERL_SCAN_DISALLOW_PREFIX;
2106                         s += 3;
2107                         len = e - s;
2108                         uv = grok_hex(s, &len, &flags, NULL);
2109                         s = e + 1;
2110                         goto NUM_ESCAPE_INSERT;
2111                     }
2112                     res = newSVpvn(s + 1, e - s - 1);
2113                     res = new_constant( NULL, 0, "charnames",
2114                                         res, NULL, "\\N{...}" );
2115                     if (has_utf8)
2116                         sv_utf8_upgrade(res);
2117                     str = SvPV_const(res,len);
2118 #ifdef EBCDIC_NEVER_MIND
2119                     /* charnames uses pack U and that has been
2120                      * recently changed to do the below uni->native
2121                      * mapping, so this would be redundant (and wrong,
2122                      * the code point would be doubly converted).
2123                      * But leave this in just in case the pack U change
2124                      * gets revoked, but the semantics is still
2125                      * desireable for charnames. --jhi */
2126                     {
2127                          UV uv = utf8_to_uvchr((const U8*)str, 0);
2128
2129                          if (uv < 0x100) {
2130                               U8 tmpbuf[UTF8_MAXBYTES+1], *d;
2131
2132                               d = uvchr_to_utf8(tmpbuf, UNI_TO_NATIVE(uv));
2133                               sv_setpvn(res, (char *)tmpbuf, d - tmpbuf);
2134                               str = SvPV_const(res, len);
2135                          }
2136                     }
2137 #endif
2138                     if (!has_utf8 && SvUTF8(res)) {
2139                         const char * const ostart = SvPVX_const(sv);
2140                         SvCUR_set(sv, d - ostart);
2141                         SvPOK_on(sv);
2142                         *d = '\0';
2143                         sv_utf8_upgrade(sv);
2144                         /* this just broke our allocation above... */
2145                         SvGROW(sv, (STRLEN)(send - start));
2146                         d = SvPVX(sv) + SvCUR(sv);
2147                         has_utf8 = TRUE;
2148                     }
2149                     if (len > (STRLEN)(e - s + 4)) { /* I _guess_ 4 is \N{} --jhi */
2150                         const char * const odest = SvPVX_const(sv);
2151
2152                         SvGROW(sv, (SvLEN(sv) + len - (e - s + 4)));
2153                         d = SvPVX(sv) + (d - odest);
2154                     }
2155                     Copy(str, d, len, char);
2156                     d += len;
2157                     SvREFCNT_dec(res);
2158                   cont_scan:
2159                     s = e + 1;
2160                 }
2161                 else
2162                     yyerror("Missing braces on \\N{}");
2163                 continue;
2164
2165             /* \c is a control character */
2166             case 'c':
2167                 s++;
2168                 if (s < send) {
2169                     U8 c = *s++;
2170 #ifdef EBCDIC
2171                     if (isLOWER(c))
2172                         c = toUPPER(c);
2173 #endif
2174                     *d++ = NATIVE_TO_NEED(has_utf8,toCTRL(c));
2175                 }
2176                 else {
2177                     yyerror("Missing control char name in \\c");
2178                 }
2179                 continue;
2180
2181             /* printf-style backslashes, formfeeds, newlines, etc */
2182             case 'b':
2183                 *d++ = NATIVE_TO_NEED(has_utf8,'\b');
2184                 break;
2185             case 'n':
2186                 *d++ = NATIVE_TO_NEED(has_utf8,'\n');
2187                 break;
2188             case 'r':
2189                 *d++ = NATIVE_TO_NEED(has_utf8,'\r');
2190                 break;
2191             case 'f':
2192                 *d++ = NATIVE_TO_NEED(has_utf8,'\f');
2193                 break;
2194             case 't':
2195                 *d++ = NATIVE_TO_NEED(has_utf8,'\t');
2196                 break;
2197             case 'e':
2198                 *d++ = ASCII_TO_NEED(has_utf8,'\033');
2199                 break;
2200             case 'a':
2201                 *d++ = ASCII_TO_NEED(has_utf8,'\007');
2202                 break;
2203             } /* end switch */
2204
2205             s++;
2206             continue;
2207         } /* end if (backslash) */
2208 #ifdef EBCDIC
2209         else
2210             literal_endpoint++;
2211 #endif
2212
2213     default_action:
2214         /* If we started with encoded form, or already know we want it
2215            and then encode the next character */
2216         if ((has_utf8 || this_utf8) && !NATIVE_IS_INVARIANT((U8)(*s))) {
2217             STRLEN len  = 1;
2218             const UV nextuv   = (this_utf8) ? utf8n_to_uvchr((U8*)s, send - s, &len, 0) : (UV) ((U8) *s);
2219             const STRLEN need = UNISKIP(NATIVE_TO_UNI(nextuv));
2220             s += len;
2221             if (need > len) {
2222                 /* encoded value larger than old, need extra space (NOTE: SvCUR() not set here) */
2223                 const STRLEN off = d - SvPVX_const(sv);
2224                 d = SvGROW(sv, SvLEN(sv) + (need-len)) + off;
2225             }
2226             d = (char*)uvchr_to_utf8((U8*)d, nextuv);
2227             has_utf8 = TRUE;
2228         }
2229         else {
2230             *d++ = NATIVE_TO_NEED(has_utf8,*s++);
2231         }
2232     } /* while loop to process each character */
2233
2234     /* terminate the string and set up the sv */
2235     *d = '\0';
2236     SvCUR_set(sv, d - SvPVX_const(sv));
2237     if (SvCUR(sv) >= SvLEN(sv))
2238         Perl_croak(aTHX_ "panic: constant overflowed allocated space");
2239
2240     SvPOK_on(sv);
2241     if (PL_encoding && !has_utf8) {
2242         sv_recode_to_utf8(sv, PL_encoding);
2243         if (SvUTF8(sv))
2244             has_utf8 = TRUE;
2245     }
2246     if (has_utf8) {
2247         SvUTF8_on(sv);
2248         if (PL_lex_inwhat == OP_TRANS && PL_sublex_info.sub_op) {
2249             PL_sublex_info.sub_op->op_private |=
2250                     (PL_lex_repl ? OPpTRANS_FROM_UTF : OPpTRANS_TO_UTF);
2251         }
2252     }
2253
2254     /* shrink the sv if we allocated more than we used */
2255     if (SvCUR(sv) + 5 < SvLEN(sv)) {
2256         SvPV_shrink_to_cur(sv);
2257     }
2258
2259     /* return the substring (via yylval) only if we parsed anything */
2260     if (s > PL_bufptr) {
2261         if ( PL_hints & ( PL_lex_inpat ? HINT_NEW_RE : HINT_NEW_STRING ) )
2262             sv = new_constant(start, s - start, (PL_lex_inpat ? "qr" : "q"),
2263                               sv, NULL,
2264                               ( PL_lex_inwhat == OP_TRANS
2265                                 ? "tr"
2266                                 : ( (PL_lex_inwhat == OP_SUBST && !PL_lex_inpat)
2267                                     ? "s"
2268                                     : "qq")));
2269         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
2270     } else
2271         SvREFCNT_dec(sv);
2272     return s;
2273 }
2274
2275 /* S_intuit_more
2276  * Returns TRUE if there's more to the expression (e.g., a subscript),
2277  * FALSE otherwise.
2278  *
2279  * It deals with "$foo[3]" and /$foo[3]/ and /$foo[0123456789$]+/
2280  *
2281  * ->[ and ->{ return TRUE
2282  * { and [ outside a pattern are always subscripts, so return TRUE
2283  * if we're outside a pattern and it's not { or [, then return FALSE
2284  * if we're in a pattern and the first char is a {
2285  *   {4,5} (any digits around the comma) returns FALSE
2286  * if we're in a pattern and the first char is a [
2287  *   [] returns FALSE
2288  *   [SOMETHING] has a funky algorithm to decide whether it's a
2289  *      character class or not.  It has to deal with things like
2290  *      /$foo[-3]/ and /$foo[$bar]/ as well as /$foo[$\d]+/
2291  * anything else returns TRUE
2292  */
2293
2294 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
2295
2296 STATIC int
2297 S_intuit_more(pTHX_ register char *s)
2298 {
2299     dVAR;
2300     if (PL_lex_brackets)
2301         return TRUE;
2302     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
2303         return TRUE;
2304     if (*s != '{' && *s != '[')
2305         return FALSE;
2306     if (!PL_lex_inpat)
2307         return TRUE;
2308
2309     /* In a pattern, so maybe we have {n,m}. */
2310     if (*s == '{') {
2311         s++;
2312         if (!isDIGIT(*s))
2313             return TRUE;
2314         while (isDIGIT(*s))
2315             s++;
2316         if (*s == ',')
2317             s++;
2318         while (isDIGIT(*s))
2319             s++;
2320         if (*s == '}')
2321             return FALSE;
2322         return TRUE;
2323
2324     }
2325
2326     /* On the other hand, maybe we have a character class */
2327
2328     s++;
2329     if (*s == ']' || *s == '^')
2330         return FALSE;
2331     else {
2332         /* this is terrifying, and it works */
2333         int weight = 2;         /* let's weigh the evidence */
2334         char seen[256];
2335         unsigned char un_char = 255, last_un_char;
2336         const char * const send = strchr(s,']');
2337         char tmpbuf[sizeof PL_tokenbuf * 4];
2338
2339         if (!send)              /* has to be an expression */
2340             return TRUE;
2341
2342         Zero(seen,256,char);
2343         if (*s == '$')
2344             weight -= 3;
2345         else if (isDIGIT(*s)) {
2346             if (s[1] != ']') {
2347                 if (isDIGIT(s[1]) && s[2] == ']')
2348                     weight -= 10;
2349             }
2350             else
2351                 weight -= 100;
2352         }
2353         for (; s < send; s++) {
2354             last_un_char = un_char;
2355             un_char = (unsigned char)*s;
2356             switch (*s) {
2357             case '@':
2358             case '&':
2359             case '$':
2360                 weight -= seen[un_char] * 10;
2361                 if (isALNUM_lazy_if(s+1,UTF)) {
2362                     int len;
2363                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
2364                     len = (int)strlen(tmpbuf);
2365                     if (len > 1 && gv_fetchpvn_flags(tmpbuf, len, 0, SVt_PV))
2366                         weight -= 100;
2367                     else
2368                         weight -= 10;
2369                 }
2370                 else if (*s == '$' && s[1] &&
2371                   strchr("[#!%*<>()-=",s[1])) {
2372                     if (/*{*/ strchr("])} =",s[2]))
2373                         weight -= 10;
2374                     else
2375                         weight -= 1;
2376                 }
2377                 break;
2378             case '\\':
2379                 un_char = 254;
2380                 if (s[1]) {
2381                     if (strchr("wds]",s[1]))
2382                         weight += 100;
2383                     else if (seen['\''] || seen['"'])
2384                         weight += 1;
2385                     else if (strchr("rnftbxcav",s[1]))
2386                         weight += 40;
2387                     else if (isDIGIT(s[1])) {
2388                         weight += 40;
2389                         while (s[1] && isDIGIT(s[1]))
2390                             s++;
2391                     }
2392                 }
2393                 else
2394                     weight += 100;
2395                 break;
2396             case '-':
2397                 if (s[1] == '\\')
2398                     weight += 50;
2399                 if (strchr("aA01! ",last_un_char))
2400                     weight += 30;
2401                 if (strchr("zZ79~",s[1]))
2402                     weight += 30;
2403                 if (last_un_char == 255 && (isDIGIT(s[1]) || s[1] == '$'))
2404                     weight -= 5;        /* cope with negative subscript */
2405                 break;
2406             default:
2407                 if (!isALNUM(last_un_char)
2408                     && !(last_un_char == '$' || last_un_char == '@'
2409                          || last_un_char == '&')
2410                     && isALPHA(*s) && s[1] && isALPHA(s[1])) {
2411                     char *d = tmpbuf;
2412                     while (isALPHA(*s))
2413                         *d++ = *s++;
2414                     *d = '\0';
2415                     if (keyword(tmpbuf, d - tmpbuf))
2416                         weight -= 150;
2417                 }
2418                 if (un_char == last_un_char + 1)
2419                     weight += 5;
2420                 weight -= seen[un_char];
2421                 break;
2422             }
2423             seen[un_char]++;
2424         }
2425         if (weight >= 0)        /* probably a character class */
2426             return FALSE;
2427     }
2428
2429     return TRUE;
2430 }
2431
2432 /*
2433  * S_intuit_method
2434  *
2435  * Does all the checking to disambiguate
2436  *   foo bar
2437  * between foo(bar) and bar->foo.  Returns 0 if not a method, otherwise
2438  * FUNCMETH (bar->foo(args)) or METHOD (bar->foo args).
2439  *
2440  * First argument is the stuff after the first token, e.g. "bar".
2441  *
2442  * Not a method if bar is a filehandle.
2443  * Not a method if foo is a subroutine prototyped to take a filehandle.
2444  * Not a method if it's really "Foo $bar"
2445  * Method if it's "foo $bar"
2446  * Not a method if it's really "print foo $bar"
2447  * Method if it's really "foo package::" (interpreted as package->foo)
2448  * Not a method if bar is known to be a subroutine ("sub bar; foo bar")
2449  * Not a method if bar is a filehandle or package, but is quoted with
2450  *   =>
2451  */
2452
2453 STATIC int
2454 S_intuit_method(pTHX_ char *start, GV *gv, CV *cv)
2455 {
2456     dVAR;
2457     char *s = start + (*start == '$');
2458     char tmpbuf[sizeof PL_tokenbuf];
2459     STRLEN len;
2460     GV* indirgv;
2461 #ifdef PERL_MAD
2462     int soff;
2463 #endif
2464
2465     if (gv) {
2466         if (SvTYPE(gv) == SVt_PVGV && GvIO(gv))
2467             return 0;
2468         if (cv) {
2469             if (SvPOK(cv)) {
2470                 const char *proto = SvPVX_const(cv);
2471                 if (proto) {
2472                     if (*proto == ';')
2473                         proto++;
2474                     if (*proto == '*')
2475                         return 0;
2476                 }
2477             }
2478         } else
2479             gv = 0;
2480     }
2481     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2482     /* start is the beginning of the possible filehandle/object,
2483      * and s is the end of it
2484      * tmpbuf is a copy of it
2485      */
2486
2487     if (*start == '$') {
2488         if (gv || PL_last_lop_op == OP_PRINT || isUPPER(*PL_tokenbuf))
2489             return 0;
2490 #ifdef PERL_MAD
2491         len = start - SvPVX(PL_linestr);
2492 #endif
2493         s = PEEKSPACE(s);
2494 #ifdef PERLMAD
2495         start = SvPVX(PL_linestr) + len;
2496 #endif
2497         PL_bufptr = start;
2498         PL_expect = XREF;
2499         return *s == '(' ? FUNCMETH : METHOD;
2500     }
2501     if (!keyword(tmpbuf, len)) {
2502         if (len > 2 && tmpbuf[len - 2] == ':' && tmpbuf[len - 1] == ':') {
2503             len -= 2;
2504             tmpbuf[len] = '\0';
2505 #ifdef PERL_MAD
2506             soff = s - SvPVX(PL_linestr);
2507 #endif
2508             goto bare_package;
2509         }
2510         indirgv = gv_fetchpvn_flags(tmpbuf, len, 0, SVt_PVCV);
2511         if (indirgv && GvCVu(indirgv))
2512             return 0;
2513         /* filehandle or package name makes it a method */
2514         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
2515 #ifdef PERL_MAD
2516             soff = s - SvPVX(PL_linestr);
2517 #endif
2518             s = PEEKSPACE(s);
2519             if ((PL_bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
2520                 return 0;       /* no assumptions -- "=>" quotes bearword */
2521       bare_package:
2522             start_force(PL_curforce);
2523             NEXTVAL_NEXTTOKE.opval = (OP*)newSVOP(OP_CONST, 0,
2524                                                    newSVpvn(tmpbuf,len));
2525             NEXTVAL_NEXTTOKE.opval->op_private = OPpCONST_BARE;
2526             if (PL_madskills)
2527                 curmad('X', newSVpvn(start,SvPVX(PL_linestr) + soff - start));
2528             PL_expect = XTERM;
2529             force_next(WORD);
2530             PL_bufptr = s;
2531 #ifdef PERL_MAD
2532             PL_bufptr = SvPVX(PL_linestr) + soff; /* restart before space */
2533 #endif
2534             return *s == '(' ? FUNCMETH : METHOD;
2535         }
2536     }
2537     return 0;
2538 }
2539
2540 /*
2541  * S_incl_perldb
2542  * Return a string of Perl code to load the debugger.  If PERL5DB
2543  * is set, it will return the contents of that, otherwise a
2544  * compile-time require of perl5db.pl.
2545  */
2546
2547 STATIC const char*
2548 S_incl_perldb(pTHX)
2549 {
2550     dVAR;
2551     if (PL_perldb) {
2552         const char * const pdb = PerlEnv_getenv("PERL5DB");
2553
2554         if (pdb)
2555             return pdb;
2556         SETERRNO(0,SS_NORMAL);
2557         return "BEGIN { require 'perl5db.pl' }";
2558     }
2559     return "";
2560 }
2561
2562
2563 /* Encoded script support. filter_add() effectively inserts a
2564  * 'pre-processing' function into the current source input stream.
2565  * Note that the filter function only applies to the current source file
2566  * (e.g., it will not affect files 'require'd or 'use'd by this one).
2567  *
2568  * The datasv parameter (which may be NULL) can be used to pass
2569  * private data to this instance of the filter. The filter function
2570  * can recover the SV using the FILTER_DATA macro and use it to
2571  * store private buffers and state information.
2572  *
2573  * The supplied datasv parameter is upgraded to a PVIO type
2574  * and the IoDIRP/IoANY field is used to store the function pointer,
2575  * and IOf_FAKE_DIRP is enabled on datasv to mark this as such.
2576  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
2577  * private use must be set using malloc'd pointers.
2578  */
2579
2580 SV *
2581 Perl_filter_add(pTHX_ filter_t funcp, SV *datasv)
2582 {
2583     dVAR;
2584     if (!funcp)
2585         return NULL;
2586
2587     if (!PL_rsfp_filters)
2588         PL_rsfp_filters = newAV();
2589     if (!datasv)
2590         datasv = newSV(0);
2591     SvUPGRADE(datasv, SVt_PVIO);
2592     IoANY(datasv) = FPTR2DPTR(void *, funcp); /* stash funcp into spare field */
2593     IoFLAGS(datasv) |= IOf_FAKE_DIRP;
2594     DEBUG_P(PerlIO_printf(Perl_debug_log, "filter_add func %p (%s)\n",
2595                           IoANY(datasv), SvPV_nolen(datasv)));
2596     av_unshift(PL_rsfp_filters, 1);
2597     av_store(PL_rsfp_filters, 0, datasv) ;
2598     return(datasv);
2599 }
2600
2601
2602 /* Delete most recently added instance of this filter function. */
2603 void
2604 Perl_filter_del(pTHX_ filter_t funcp)
2605 {
2606     dVAR;
2607     SV *datasv;
2608
2609 #ifdef DEBUGGING
2610     DEBUG_P(PerlIO_printf(Perl_debug_log, "filter_del func %p", FPTR2DPTR(XPVIO *, funcp)));
2611 #endif
2612     if (!PL_rsfp_filters || AvFILLp(PL_rsfp_filters)<0)
2613         return;
2614     /* if filter is on top of stack (usual case) just pop it off */
2615     datasv = FILTER_DATA(AvFILLp(PL_rsfp_filters));
2616     if (IoANY(datasv) == FPTR2DPTR(void *, funcp)) {
2617         IoFLAGS(datasv) &= ~IOf_FAKE_DIRP;
2618         IoANY(datasv) = (void *)NULL;
2619         sv_free(av_pop(PL_rsfp_filters));
2620
2621         return;
2622     }
2623     /* we need to search for the correct entry and clear it     */
2624     Perl_die(aTHX_ "filter_del can only delete in reverse order (currently)");
2625 }
2626
2627
2628 /* Invoke the idxth filter function for the current rsfp.        */
2629 /* maxlen 0 = read one text line */
2630 I32
2631 Perl_filter_read(pTHX_ int idx, SV *buf_sv, int maxlen)
2632 {
2633     dVAR;
2634     filter_t funcp;
2635     SV *datasv = NULL;
2636     /* This API is bad. It should have been using unsigned int for maxlen.
2637        Not sure if we want to change the API, but if not we should sanity
2638        check the value here.  */
2639     const unsigned int correct_length
2640         = maxlen < 0 ?
2641 #ifdef PERL_MICRO
2642         0x7FFFFFFF
2643 #else
2644         INT_MAX
2645 #endif
2646         : maxlen;
2647
2648     if (!PL_rsfp_filters)
2649         return -1;
2650     if (idx > AvFILLp(PL_rsfp_filters)) {       /* Any more filters?    */
2651         /* Provide a default input filter to make life easy.    */
2652         /* Note that we append to the line. This is handy.      */
2653         DEBUG_P(PerlIO_printf(Perl_debug_log,
2654                               "filter_read %d: from rsfp\n", idx));
2655         if (correct_length) {
2656             /* Want a block */
2657             int len ;
2658             const int old_len = SvCUR(buf_sv);
2659
2660             /* ensure buf_sv is large enough */
2661             SvGROW(buf_sv, (STRLEN)(old_len + correct_length)) ;
2662             if ((len = PerlIO_read(PL_rsfp, SvPVX(buf_sv) + old_len,
2663                                    correct_length)) <= 0) {
2664                 if (PerlIO_error(PL_rsfp))
2665                     return -1;          /* error */
2666                 else
2667                     return 0 ;          /* end of file */
2668             }
2669             SvCUR_set(buf_sv, old_len + len) ;
2670         } else {
2671             /* Want a line */
2672             if (sv_gets(buf_sv, PL_rsfp, SvCUR(buf_sv)) == NULL) {
2673                 if (PerlIO_error(PL_rsfp))
2674                     return -1;          /* error */
2675                 else
2676                     return 0 ;          /* end of file */
2677             }
2678         }
2679         return SvCUR(buf_sv);
2680     }
2681     /* Skip this filter slot if filter has been deleted */
2682     if ( (datasv = FILTER_DATA(idx)) == &PL_sv_undef) {
2683         DEBUG_P(PerlIO_printf(Perl_debug_log,
2684                               "filter_read %d: skipped (filter deleted)\n",
2685                               idx));
2686         return FILTER_READ(idx+1, buf_sv, correct_length); /* recurse */
2687     }
2688     /* Get function pointer hidden within datasv        */
2689     funcp = DPTR2FPTR(filter_t, IoANY(datasv));
2690     DEBUG_P(PerlIO_printf(Perl_debug_log,
2691                           "filter_read %d: via function %p (%s)\n",
2692                           idx, datasv, SvPV_nolen_const(datasv)));
2693     /* Call function. The function is expected to       */
2694     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
2695     /* Return: <0:error, =0:eof, >0:not eof             */
2696     return (*funcp)(aTHX_ idx, buf_sv, correct_length);
2697 }
2698
2699 STATIC char *
2700 S_filter_gets(pTHX_ register SV *sv, register PerlIO *fp, STRLEN append)
2701 {
2702     dVAR;
2703 #ifdef PERL_CR_FILTER
2704     if (!PL_rsfp_filters) {
2705         filter_add(S_cr_textfilter,NULL);
2706     }
2707 #endif
2708     if (PL_rsfp_filters) {
2709         if (!append)
2710             SvCUR_set(sv, 0);   /* start with empty line        */
2711         if (FILTER_READ(0, sv, 0) > 0)
2712             return ( SvPVX(sv) ) ;
2713         else
2714             return NULL ;
2715     }
2716     else
2717         return (sv_gets(sv, fp, append));
2718 }
2719
2720 STATIC HV *
2721 S_find_in_my_stash(pTHX_ const char *pkgname, I32 len)
2722 {
2723     dVAR;
2724     GV *gv;
2725
2726     if (len == 11 && *pkgname == '_' && strEQ(pkgname, "__PACKAGE__"))
2727         return PL_curstash;
2728
2729     if (len > 2 &&
2730         (pkgname[len - 2] == ':' && pkgname[len - 1] == ':') &&
2731         (gv = gv_fetchpvn_flags(pkgname, len, 0, SVt_PVHV)))
2732     {
2733         return GvHV(gv);                        /* Foo:: */
2734     }
2735
2736     /* use constant CLASS => 'MyClass' */
2737     if ((gv = gv_fetchpvn_flags(pkgname, len, 0, SVt_PVCV))) {
2738         SV *sv;
2739         if (GvCV(gv) && (sv = cv_const_sv(GvCV(gv)))) {
2740             pkgname = SvPV_nolen_const(sv);
2741         }
2742     }
2743
2744     return gv_stashpv(pkgname, FALSE);
2745 }
2746
2747 #ifdef PERL_MAD
2748  /*
2749  * Perl_madlex
2750  * The intent of this yylex wrapper is to minimize the changes to the
2751  * tokener when we aren't interested in collecting madprops.  It remains
2752  * to be seen how successful this strategy will be...
2753  */
2754
2755 int
2756 Perl_madlex(pTHX)
2757 {
2758     int optype;
2759     char *s = PL_bufptr;
2760
2761     /* make sure PL_thiswhite is initialized */
2762     PL_thiswhite = 0;
2763     PL_thismad = 0;
2764
2765     /* just do what yylex would do on pending identifier; leave PL_thiswhite alone */
2766     if (PL_pending_ident)
2767         return S_pending_ident(aTHX);
2768
2769     /* previous token ate up our whitespace? */
2770     if (!PL_lasttoke && PL_nextwhite) {
2771         PL_thiswhite = PL_nextwhite;
2772         PL_nextwhite = 0;
2773     }
2774
2775     /* isolate the token, and figure out where it is without whitespace */
2776     PL_realtokenstart = -1;
2777     PL_thistoken = 0;
2778     optype = yylex();
2779     s = PL_bufptr;
2780     assert(PL_curforce < 0);
2781
2782     if (!PL_thismad || PL_thismad->mad_key == '^') {    /* not forced already? */
2783         if (!PL_thistoken) {
2784             if (PL_realtokenstart < 0 || !CopLINE(PL_curcop))
2785                 PL_thistoken = newSVpvn("",0);
2786             else {
2787                 char *tstart = SvPVX(PL_linestr) + PL_realtokenstart;
2788                 PL_thistoken = newSVpvn(tstart, s - tstart);
2789             }
2790         }
2791         if (PL_thismad) /* install head */
2792             CURMAD('X', PL_thistoken);
2793     }
2794
2795     /* last whitespace of a sublex? */
2796     if (optype == ')' && PL_endwhite) {
2797         CURMAD('X', PL_endwhite);
2798     }
2799
2800     if (!PL_thismad) {
2801
2802         /* if no whitespace and we're at EOF, bail.  Otherwise fake EOF below. */
2803         if (!PL_thiswhite && !PL_endwhite && !optype) {
2804             sv_free(PL_thistoken);
2805             PL_thistoken = 0;
2806             return 0;
2807         }
2808
2809         /* put off final whitespace till peg */
2810         if (optype == ';' && !PL_rsfp) {
2811             PL_nextwhite = PL_thiswhite;
2812             PL_thiswhite = 0;
2813         }
2814         else if (PL_thisopen) {
2815             CURMAD('q', PL_thisopen);
2816             if (PL_thistoken)
2817                 sv_free(PL_thistoken);
2818             PL_thistoken = 0;
2819         }
2820         else {
2821             /* Store actual token text as madprop X */
2822             CURMAD('X', PL_thistoken);
2823         }
2824
2825         if (PL_thiswhite) {
2826             /* add preceding whitespace as madprop _ */
2827             CURMAD('_', PL_thiswhite);
2828         }
2829
2830         if (PL_thisstuff) {
2831             /* add quoted material as madprop = */
2832             CURMAD('=', PL_thisstuff);
2833         }
2834
2835         if (PL_thisclose) {
2836             /* add terminating quote as madprop Q */
2837             CURMAD('Q', PL_thisclose);
2838         }
2839     }
2840
2841     /* special processing based on optype */
2842
2843     switch (optype) {
2844
2845     /* opval doesn't need a TOKEN since it can already store mp */
2846     case WORD:
2847     case METHOD:
2848     case FUNCMETH:
2849     case THING:
2850     case PMFUNC:
2851     case PRIVATEREF:
2852     case FUNC0SUB:
2853     case UNIOPSUB:
2854     case LSTOPSUB:
2855         if (yylval.opval)
2856             append_madprops(PL_thismad, yylval.opval, 0);
2857         PL_thismad = 0;
2858         return optype;
2859
2860     /* fake EOF */
2861     case 0:
2862         optype = PEG;
2863         if (PL_endwhite) {
2864             addmad(newMADsv('p', PL_endwhite), &PL_thismad, 0);
2865             PL_endwhite = 0;
2866         }
2867         break;
2868
2869     case ']':
2870     case '}':
2871         if (PL_faketokens)
2872             break;
2873         /* remember any fake bracket that lexer is about to discard */
2874         if (PL_lex_brackets == 1 &&
2875             ((expectation)PL_lex_brackstack[0] & XFAKEBRACK))
2876         {
2877             s = PL_bufptr;
2878             while (s < PL_bufend && (*s == ' ' || *s == '\t'))
2879                 s++;
2880             if (*s == '}') {
2881                 PL_thiswhite = newSVpvn(PL_bufptr, ++s - PL_bufptr);
2882                 addmad(newMADsv('#', PL_thiswhite), &PL_thismad, 0);
2883                 PL_thiswhite = 0;
2884                 PL_bufptr = s - 1;
2885                 break;  /* don't bother looking for trailing comment */
2886             }
2887             else
2888                 s = PL_bufptr;
2889         }
2890         if (optype == ']')
2891             break;
2892         /* FALLTHROUGH */
2893
2894     /* attach a trailing comment to its statement instead of next token */
2895     case ';':
2896         if (PL_faketokens)
2897             break;
2898         if (PL_bufptr > PL_oldbufptr && PL_bufptr[-1] == optype) {
2899             s = PL_bufptr;
2900             while (s < PL_bufend && (*s == ' ' || *s == '\t'))
2901                 s++;
2902             if (*s == '\n' || *s == '#') {
2903                 while (s < PL_bufend && *s != '\n')
2904                     s++;
2905                 if (s < PL_bufend)
2906                     s++;
2907                 PL_thiswhite = newSVpvn(PL_bufptr, s - PL_bufptr);
2908                 addmad(newMADsv('#', PL_thiswhite), &PL_thismad, 0);
2909                 PL_thiswhite = 0;
2910                 PL_bufptr = s;
2911             }
2912         }
2913         break;
2914
2915     /* pval */
2916     case LABEL:
2917         break;
2918
2919     /* ival */
2920     default:
2921         break;
2922
2923     }
2924
2925     /* Create new token struct.  Note: opvals return early above. */
2926     yylval.tkval = newTOKEN(optype, yylval, PL_thismad);
2927     PL_thismad = 0;
2928     return optype;
2929 }
2930 #endif
2931
2932 STATIC char *
2933 S_tokenize_use(pTHX_ int is_use, char *s) {
2934     dVAR;
2935     if (PL_expect != XSTATE)
2936         yyerror(Perl_form(aTHX_ "\"%s\" not allowed in expression",
2937                     is_use ? "use" : "no"));
2938     s = SKIPSPACE1(s);
2939     if (isDIGIT(*s) || (*s == 'v' && isDIGIT(s[1]))) {
2940         s = force_version(s, TRUE);
2941         if (*s == ';' || (s = SKIPSPACE1(s), *s == ';')) {
2942             start_force(PL_curforce);
2943             NEXTVAL_NEXTTOKE.opval = NULL;
2944             force_next(WORD);
2945         }
2946         else if (*s == 'v') {
2947             s = force_word(s,WORD,FALSE,TRUE,FALSE);
2948             s = force_version(s, FALSE);
2949         }
2950     }
2951     else {
2952         s = force_word(s,WORD,FALSE,TRUE,FALSE);
2953         s = force_version(s, FALSE);
2954     }
2955     yylval.ival = is_use;
2956     return s;
2957 }
2958 #ifdef DEBUGGING
2959     static const char* const exp_name[] =
2960         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "ATTRBLOCK",
2961           "ATTRTERM", "TERMBLOCK", "TERMORDORDOR"
2962         };
2963 #endif
2964
2965 /*
2966   yylex
2967
2968   Works out what to call the token just pulled out of the input
2969   stream.  The yacc parser takes care of taking the ops we return and
2970   stitching them into a tree.
2971
2972   Returns:
2973     PRIVATEREF
2974
2975   Structure:
2976       if read an identifier
2977           if we're in a my declaration
2978               croak if they tried to say my($foo::bar)
2979               build the ops for a my() declaration
2980           if it's an access to a my() variable
2981               are we in a sort block?
2982                   croak if my($a); $a <=> $b
2983               build ops for access to a my() variable
2984           if in a dq string, and they've said @foo and we can't find @foo
2985               croak
2986           build ops for a bareword
2987       if we already built the token before, use it.
2988 */
2989
2990
2991 #ifdef __SC__
2992 #pragma segment Perl_yylex
2993 #endif
2994 int
2995 Perl_yylex(pTHX)
2996 {
2997     dVAR;
2998     register char *s = PL_bufptr;
2999     register char *d;
3000     STRLEN len;
3001     bool bof = FALSE;
3002
3003     DEBUG_T( {
3004         SV* tmp = newSVpvs("");
3005         PerlIO_printf(Perl_debug_log, "### %"IVdf":LEX_%s/X%s %s\n",
3006             (IV)CopLINE(PL_curcop),
3007             lex_state_names[PL_lex_state],
3008             exp_name[PL_expect],
3009             pv_display(tmp, s, strlen(s), 0, 60));
3010         SvREFCNT_dec(tmp);
3011     } );
3012     /* check if there's an identifier for us to look at */
3013     if (PL_pending_ident)
3014         return REPORT(S_pending_ident(aTHX));
3015
3016     /* no identifier pending identification */
3017
3018     switch (PL_lex_state) {
3019 #ifdef COMMENTARY
3020     case LEX_NORMAL:            /* Some compilers will produce faster */
3021     case LEX_INTERPNORMAL:      /* code if we comment these out. */
3022         break;
3023 #endif
3024
3025     /* when we've already built the next token, just pull it out of the queue */
3026     case LEX_KNOWNEXT:
3027 #ifdef PERL_MAD
3028         PL_lasttoke--;
3029         yylval = PL_nexttoke[PL_lasttoke].next_val;
3030         if (PL_madskills) {
3031             PL_thismad = PL_nexttoke[PL_lasttoke].next_mad;
3032             PL_nexttoke[PL_lasttoke].next_mad = 0;
3033             if (PL_thismad && PL_thismad->mad_key == '_') {
3034                 PL_thiswhite = (SV*)PL_thismad->mad_val;
3035                 PL_thismad->mad_val = 0;
3036                 mad_free(PL_thismad);
3037                 PL_thismad = 0;
3038             }
3039         }
3040         if (!PL_lasttoke) {
3041             PL_lex_state = PL_lex_defer;
3042             PL_expect = PL_lex_expect;
3043             PL_lex_defer = LEX_NORMAL;
3044             if (!PL_nexttoke[PL_lasttoke].next_type)
3045                 return yylex();
3046         }
3047 #else
3048         PL_nexttoke--;
3049         yylval = PL_nextval[PL_nexttoke];
3050         if (!PL_nexttoke) {
3051             PL_lex_state = PL_lex_defer;
3052             PL_expect = PL_lex_expect;
3053             PL_lex_defer = LEX_NORMAL;
3054         }
3055 #endif
3056 #ifdef PERL_MAD
3057         /* FIXME - can these be merged?  */
3058         return(PL_nexttoke[PL_lasttoke].next_type);
3059 #else
3060         return REPORT(PL_nexttype[PL_nexttoke]);
3061 #endif
3062
3063     /* interpolated case modifiers like \L \U, including \Q and \E.
3064        when we get here, PL_bufptr is at the \
3065     */
3066     case LEX_INTERPCASEMOD:
3067 #ifdef DEBUGGING
3068         if (PL_bufptr != PL_bufend && *PL_bufptr != '\\')
3069             Perl_croak(aTHX_ "panic: INTERPCASEMOD");
3070 #endif
3071         /* handle \E or end of string */
3072         if (PL_bufptr == PL_bufend || PL_bufptr[1] == 'E') {
3073             /* if at a \E */
3074             if (PL_lex_casemods) {
3075                 const char oldmod = PL_lex_casestack[--PL_lex_casemods];
3076                 PL_lex_casestack[PL_lex_casemods] = '\0';
3077
3078                 if (PL_bufptr != PL_bufend
3079                     && (oldmod == 'L' || oldmod == 'U' || oldmod == 'Q')) {
3080                     PL_bufptr += 2;
3081                     PL_lex_state = LEX_INTERPCONCAT;
3082 #ifdef PERL_MAD
3083                     if (PL_madskills)
3084                         PL_thistoken = newSVpvn("\\E",2);
3085 #endif
3086                 }
3087                 return REPORT(')');
3088             }
3089 #ifdef PERL_MAD
3090             while (PL_bufptr != PL_bufend &&
3091               PL_bufptr[0] == '\\' && PL_bufptr[1] == 'E') {
3092                 if (!PL_thiswhite)
3093                     PL_thiswhite = newSVpvn("",0);
3094                 sv_catpvn(PL_thiswhite, PL_bufptr, 2);
3095                 PL_bufptr += 2;
3096             }
3097 #else
3098             if (PL_bufptr != PL_bufend)
3099                 PL_bufptr += 2;
3100 #endif
3101             PL_lex_state = LEX_INTERPCONCAT;
3102             return yylex();
3103         }
3104         else {
3105             DEBUG_T({ PerlIO_printf(Perl_debug_log,
3106               "### Saw case modifier\n"); });
3107             s = PL_bufptr + 1;
3108             if (s[1] == '\\' && s[2] == 'E') {
3109 #ifdef PERL_MAD
3110                 if (!PL_thiswhite)
3111                     PL_thiswhite = newSVpvn("",0);
3112                 sv_catpvn(PL_thiswhite, PL_bufptr, 4);
3113 #endif
3114                 PL_bufptr = s + 3;
3115                 PL_lex_state = LEX_INTERPCONCAT;
3116                 return yylex();
3117             }
3118             else {
3119                 I32 tmp;
3120                 if (!PL_madskills) /* when just compiling don't need correct */
3121                     if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
3122                         tmp = *s, *s = s[2], s[2] = (char)tmp;  /* misordered... */
3123                 if ((*s == 'L' || *s == 'U') &&
3124                     (strchr(PL_lex_casestack, 'L') || strchr(PL_lex_casestack, 'U'))) {
3125                     PL_lex_casestack[--PL_lex_casemods] = '\0';
3126                     return REPORT(')');
3127                 }
3128                 if (PL_lex_casemods > 10)
3129                     Renew(PL_lex_casestack, PL_lex_casemods + 2, char);
3130                 PL_lex_casestack[PL_lex_casemods++] = *s;
3131                 PL_lex_casestack[PL_lex_casemods] = '\0';
3132                 PL_lex_state = LEX_INTERPCONCAT;
3133                 start_force(PL_curforce);
3134                 NEXTVAL_NEXTTOKE.ival = 0;
3135                 force_next('(');
3136                 start_force(PL_curforce);
3137                 if (*s == 'l')
3138                     NEXTVAL_NEXTTOKE.ival = OP_LCFIRST;
3139                 else if (*s == 'u')
3140                     NEXTVAL_NEXTTOKE.ival = OP_UCFIRST;
3141                 else if (*s == 'L')
3142                     NEXTVAL_NEXTTOKE.ival = OP_LC;
3143                 else if (*s == 'U')
3144                     NEXTVAL_NEXTTOKE.ival = OP_UC;
3145                 else if (*s == 'Q')
3146                     NEXTVAL_NEXTTOKE.ival = OP_QUOTEMETA;
3147                 else
3148                     Perl_croak(aTHX_ "panic: yylex");
3149                 if (PL_madskills) {
3150                     SV* const tmpsv = newSVpvn("",0);
3151                     Perl_sv_catpvf(aTHX_ tmpsv, "\\%c", *s);
3152                     curmad('_', tmpsv);
3153                 }
3154                 PL_bufptr = s + 1;
3155             }
3156             force_next(FUNC);
3157             if (PL_lex_starts) {
3158                 s = PL_bufptr;
3159                 PL_lex_starts = 0;
3160 #ifdef PERL_MAD
3161                 if (PL_madskills) {
3162                     if (PL_thistoken)
3163                         sv_free(PL_thistoken);
3164                     PL_thistoken = newSVpvn("",0);
3165                 }
3166 #endif
3167                 /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3168                 if (PL_lex_casemods == 1 && PL_lex_inpat)
3169                     OPERATOR(',');
3170                 else
3171                     Aop(OP_CONCAT);
3172             }
3173             else
3174                 return yylex();
3175         }
3176
3177     case LEX_INTERPPUSH:
3178         return REPORT(sublex_push());
3179
3180     case LEX_INTERPSTART:
3181         if (PL_bufptr == PL_bufend)
3182             return REPORT(sublex_done());
3183         DEBUG_T({ PerlIO_printf(Perl_debug_log,
3184               "### Interpolated variable\n"); });
3185         PL_expect = XTERM;
3186         PL_lex_dojoin = (*PL_bufptr == '@');
3187         PL_lex_state = LEX_INTERPNORMAL;
3188         if (PL_lex_dojoin) {
3189             start_force(PL_curforce);
3190             NEXTVAL_NEXTTOKE.ival = 0;
3191             force_next(',');
3192             start_force(PL_curforce);
3193             force_ident("\"", '$');
3194             start_force(PL_curforce);
3195             NEXTVAL_NEXTTOKE.ival = 0;
3196             force_next('$');
3197             start_force(PL_curforce);
3198             NEXTVAL_NEXTTOKE.ival = 0;
3199             force_next('(');
3200             start_force(PL_curforce);
3201             NEXTVAL_NEXTTOKE.ival = OP_JOIN;    /* emulate join($", ...) */
3202             force_next(FUNC);
3203         }
3204         if (PL_lex_starts++) {
3205             s = PL_bufptr;
3206 #ifdef PERL_MAD
3207             if (PL_madskills) {
3208                 if (PL_thistoken)
3209                     sv_free(PL_thistoken);
3210                 PL_thistoken = newSVpvn("",0);
3211             }
3212 #endif
3213             /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3214             if (!PL_lex_casemods && PL_lex_inpat)
3215                 OPERATOR(',');
3216             else
3217                 Aop(OP_CONCAT);
3218         }
3219         return yylex();
3220
3221     case LEX_INTERPENDMAYBE:
3222         if (intuit_more(PL_bufptr)) {
3223             PL_lex_state = LEX_INTERPNORMAL;    /* false alarm, more expr */
3224             break;
3225         }
3226         /* FALL THROUGH */
3227
3228     case LEX_INTERPEND:
3229         if (PL_lex_dojoin) {
3230             PL_lex_dojoin = FALSE;
3231             PL_lex_state = LEX_INTERPCONCAT;
3232 #ifdef PERL_MAD
3233             if (PL_madskills) {
3234                 if (PL_thistoken)
3235                     sv_free(PL_thistoken);
3236                 PL_thistoken = newSVpvn("",0);
3237             }
3238 #endif
3239             return REPORT(')');
3240         }
3241         if (PL_lex_inwhat == OP_SUBST && PL_linestr == PL_lex_repl
3242             && SvEVALED(PL_lex_repl))
3243         {
3244             if (PL_bufptr != PL_bufend)
3245                 Perl_croak(aTHX_ "Bad evalled substitution pattern");
3246             PL_lex_repl = NULL;
3247         }
3248         /* FALLTHROUGH */
3249     case LEX_INTERPCONCAT:
3250 #ifdef DEBUGGING
3251         if (PL_lex_brackets)
3252             Perl_croak(aTHX_ "panic: INTERPCONCAT");
3253 #endif
3254         if (PL_bufptr == PL_bufend)
3255             return REPORT(sublex_done());
3256
3257         if (SvIVX(PL_linestr) == '\'') {
3258             SV *sv = newSVsv(PL_linestr);
3259             if (!PL_lex_inpat)
3260                 sv = tokeq(sv);
3261             else if ( PL_hints & HINT_NEW_RE )
3262                 sv = new_constant(NULL, 0, "qr", sv, sv, "q");
3263             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
3264             s = PL_bufend;
3265         }
3266         else {
3267             s = scan_const(PL_bufptr);
3268             if (*s == '\\')
3269                 PL_lex_state = LEX_INTERPCASEMOD;
3270             else
3271                 PL_lex_state = LEX_INTERPSTART;
3272         }
3273
3274         if (s != PL_bufptr) {
3275             start_force(PL_curforce);
3276             if (PL_madskills) {
3277                 curmad('X', newSVpvn(PL_bufptr,s-PL_bufptr));
3278             }
3279             NEXTVAL_NEXTTOKE = yylval;
3280             PL_expect = XTERM;
3281             force_next(THING);
3282             if (PL_lex_starts++) {
3283 #ifdef PERL_MAD
3284                 if (PL_madskills) {
3285                     if (PL_thistoken)
3286                         sv_free(PL_thistoken);
3287                     PL_thistoken = newSVpvn("",0);
3288                 }
3289 #endif
3290                 /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3291                 if (!PL_lex_casemods && PL_lex_inpat)
3292                     OPERATOR(',');
3293                 else
3294                     Aop(OP_CONCAT);
3295             }
3296             else {
3297                 PL_bufptr = s;
3298                 return yylex();
3299             }
3300         }
3301
3302         return yylex();
3303     case LEX_FORMLINE:
3304         PL_lex_state = LEX_NORMAL;
3305         s = scan_formline(PL_bufptr);
3306         if (!PL_lex_formbrack)
3307             goto rightbracket;
3308         OPERATOR(';');
3309     }
3310
3311     s = PL_bufptr;
3312     PL_oldoldbufptr = PL_oldbufptr;
3313     PL_oldbufptr = s;
3314
3315   retry:
3316 #ifdef PERL_MAD
3317     if (PL_thistoken) {
3318         sv_free(PL_thistoken);
3319         PL_thistoken = 0;
3320     }
3321     PL_realtokenstart = s - SvPVX(PL_linestr);  /* assume but undo on ws */
3322 #endif
3323     switch (*s) {
3324     default:
3325         if (isIDFIRST_lazy_if(s,UTF))
3326             goto keylookup;
3327         Perl_croak(aTHX_ "Unrecognized character \\x%02X", *s & 255);
3328     case 4:
3329     case 26:
3330         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
3331     case 0:
3332 #ifdef PERL_MAD
3333         if (PL_madskills)
3334             PL_faketokens = 0;
3335 #endif
3336         if (!PL_rsfp) {
3337             PL_last_uni = 0;
3338             PL_last_lop = 0;
3339             if (PL_lex_brackets) {
3340                 yyerror(PL_lex_formbrack
3341                     ? "Format not terminated"
3342                     : "Missing right curly or square bracket");
3343             }
3344             DEBUG_T( { PerlIO_printf(Perl_debug_log,
3345                         "### Tokener got EOF\n");
3346             } );
3347             TOKEN(0);
3348         }
3349         if (s++ < PL_bufend)
3350             goto retry;                 /* ignore stray nulls */
3351         PL_last_uni = 0;
3352         PL_last_lop = 0;
3353         if (!PL_in_eval && !PL_preambled) {
3354             PL_preambled = TRUE;
3355 #ifdef PERL_MAD
3356             if (PL_madskills)
3357                 PL_faketokens = 1;
3358 #endif
3359             sv_setpv(PL_linestr,incl_perldb());
3360             if (SvCUR(PL_linestr))
3361                 sv_catpvs(PL_linestr,";");
3362             if (PL_preambleav){
3363                 while(AvFILLp(PL_preambleav) >= 0) {
3364                     SV *tmpsv = av_shift(PL_preambleav);
3365                     sv_catsv(PL_linestr, tmpsv);
3366                     sv_catpvs(PL_linestr, ";");
3367                     sv_free(tmpsv);
3368                 }
3369                 sv_free((SV*)PL_preambleav);
3370                 PL_preambleav = NULL;
3371             }
3372             if (PL_minus_n || PL_minus_p) {
3373                 sv_catpvs(PL_linestr, "LINE: while (<>) {");
3374                 if (PL_minus_l)
3375                     sv_catpvs(PL_linestr,"chomp;");
3376                 if (PL_minus_a) {
3377                     if (PL_minus_F) {
3378                         if ((*PL_splitstr == '/' || *PL_splitstr == '\''
3379                              || *PL_splitstr == '"')
3380                               && strchr(PL_splitstr + 1, *PL_splitstr))
3381                             Perl_sv_catpvf(aTHX_ PL_linestr, "our @F=split(%s);", PL_splitstr);
3382                         else {
3383                             /* "q\0${splitstr}\0" is legal perl. Yes, even NUL
3384                                bytes can be used as quoting characters.  :-) */
3385                             const char *splits = PL_splitstr;
3386                             sv_catpvs(PL_linestr, "our @F=split(q\0");
3387                             do {
3388                                 /* Need to \ \s  */
3389                                 if (*splits == '\\')
3390                                     sv_catpvn(PL_linestr, splits, 1);
3391                                 sv_catpvn(PL_linestr, splits, 1);
3392                             } while (*splits++);
3393                             /* This loop will embed the trailing NUL of
3394                                PL_linestr as the last thing it does before
3395                                terminating.  */
3396                             sv_catpvs(PL_linestr, ");");
3397                         }
3398                     }
3399                     else
3400                         sv_catpvs(PL_linestr,"our @F=split(' ');");
3401                 }
3402             }
3403             if (PL_minus_E)
3404                 sv_catpvs(PL_linestr,"use feature ':5.10';");
3405             sv_catpvs(PL_linestr, "\n");
3406             PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3407             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3408             PL_last_lop = PL_last_uni = NULL;
3409             if (PERLDB_LINE && PL_curstash != PL_debstash) {
3410                 SV * const sv = newSV(0);
3411
3412                 sv_upgrade(sv, SVt_PVMG);
3413                 sv_setsv(sv,PL_linestr);
3414                 (void)SvIOK_on(sv);
3415                 SvIV_set(sv, 0);
3416                 av_store(CopFILEAVx(PL_curcop),(I32)CopLINE(PL_curcop),sv);
3417             }
3418             goto retry;
3419         }
3420         do {
3421             bof = PL_rsfp ? TRUE : FALSE;
3422             if ((s = filter_gets(PL_linestr, PL_rsfp, 0)) == NULL) {
3423               fake_eof:
3424 #ifdef PERL_MAD
3425                 PL_realtokenstart = -1;
3426 #endif
3427                 if (PL_rsfp) {
3428                     if (PL_preprocess && !PL_in_eval)
3429                         (void)PerlProc_pclose(PL_rsfp);
3430                     else if ((PerlIO *)PL_rsfp == PerlIO_stdin())
3431                         PerlIO_clearerr(PL_rsfp);
3432                     else
3433                         (void)PerlIO_close(PL_rsfp);
3434                     PL_rsfp = NULL;
3435                     PL_doextract = FALSE;
3436                 }
3437                 if (!PL_in_eval && (PL_minus_n || PL_minus_p)) {
3438 #ifdef PERL_MAD
3439                     if (PL_madskills)
3440                         PL_faketokens = 1;
3441 #endif
3442                     sv_setpv(PL_linestr,PL_minus_p
3443                              ? ";}continue{print;}" : ";}");
3444                     PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3445                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3446                     PL_last_lop = PL_last_uni = NULL;
3447                     PL_minus_n = PL_minus_p = 0;
3448                     goto retry;
3449                 }
3450                 PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3451                 PL_last_lop = PL_last_uni = NULL;
3452                 sv_setpvn(PL_linestr,"",0);
3453                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
3454             }
3455             /* If it looks like the start of a BOM or raw UTF-16,
3456              * check if it in fact is. */
3457             else if (bof &&
3458                      (*s == 0 ||
3459                       *(U8*)s == 0xEF ||
3460                       *(U8*)s >= 0xFE ||
3461                       s[1] == 0)) {
3462 #ifdef PERLIO_IS_STDIO
3463 #  ifdef __GNU_LIBRARY__
3464 #    if __GNU_LIBRARY__ == 1 /* Linux glibc5 */
3465 #      define FTELL_FOR_PIPE_IS_BROKEN
3466 #    endif
3467 #  else
3468 #    ifdef __GLIBC__
3469 #      if __GLIBC__ == 1 /* maybe some glibc5 release had it like this? */
3470 #        define FTELL_FOR_PIPE_IS_BROKEN
3471 #      endif
3472 #    endif
3473 #  endif
3474 #endif
3475 #ifdef FTELL_FOR_PIPE_IS_BROKEN
3476                 /* This loses the possibility to detect the bof
3477                  * situation on perl -P when the libc5 is being used.
3478                  * Workaround?  Maybe attach some extra state to PL_rsfp?
3479                  */
3480                 if (!PL_preprocess)
3481                     bof = PerlIO_tell(PL_rsfp) == SvCUR(PL_linestr);
3482 #else
3483                 bof = PerlIO_tell(PL_rsfp) == (Off_t)SvCUR(PL_linestr);
3484 #endif
3485                 if (bof) {
3486                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3487                     s = swallow_bom((U8*)s);
3488                 }
3489             }
3490             if (PL_doextract) {
3491                 /* Incest with pod. */
3492 #ifdef PERL_MAD
3493                 if (PL_madskills)
3494                     sv_catsv(PL_thiswhite, PL_linestr);
3495 #endif
3496                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
3497                     sv_setpvn(PL_linestr, "", 0);
3498                     PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3499                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3500                     PL_last_lop = PL_last_uni = NULL;
3501                     PL_doextract = FALSE;
3502                 }
3503             }
3504             incline(s);
3505         } while (PL_doextract);
3506         PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = s;
3507         if (PERLDB_LINE && PL_curstash != PL_debstash) {
3508             SV * const sv = newSV(0);
3509
3510             sv_upgrade(sv, SVt_PVMG);
3511             sv_setsv(sv,PL_linestr);
3512             (void)SvIOK_on(sv);
3513             SvIV_set(sv, 0);
3514             av_store(CopFILEAVx(PL_curcop),(I32)CopLINE(PL_curcop),sv);
3515         }
3516         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3517         PL_last_lop = PL_last_uni = NULL;
3518         if (CopLINE(PL_curcop) == 1) {
3519             while (s < PL_bufend && isSPACE(*s))
3520                 s++;
3521             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
3522                 s++;
3523 #ifdef PERL_MAD
3524             if (PL_madskills)
3525                 PL_thiswhite = newSVpvn(PL_linestart, s - PL_linestart);
3526 #endif
3527             d = NULL;
3528             if (!PL_in_eval) {
3529                 if (*s == '#' && *(s+1) == '!')
3530                     d = s + 2;
3531 #ifdef ALTERNATE_SHEBANG
3532                 else {
3533                     static char const as[] = ALTERNATE_SHEBANG;
3534                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
3535                         d = s + (sizeof(as) - 1);
3536                 }
3537 #endif /* ALTERNATE_SHEBANG */
3538             }
3539             if (d) {
3540                 char *ipath;
3541                 char *ipathend;
3542
3543                 while (isSPACE(*d))
3544                     d++;
3545                 ipath = d;
3546                 while (*d && !isSPACE(*d))
3547                     d++;
3548                 ipathend = d;
3549
3550 #ifdef ARG_ZERO_IS_SCRIPT
3551                 if (ipathend > ipath) {
3552                     /*
3553                      * HP-UX (at least) sets argv[0] to the script name,
3554                      * which makes $^X incorrect.  And Digital UNIX and Linux,
3555                      * at least, set argv[0] to the basename of the Perl
3556                      * interpreter. So, having found "#!", we'll set it right.
3557                      */
3558                     SV * const x = GvSV(gv_fetchpvs("\030", GV_ADD|GV_NOTQUAL,
3559                                                     SVt_PV)); /* $^X */
3560                     assert(SvPOK(x) || SvGMAGICAL(x));
3561                     if (sv_eq(x, CopFILESV(PL_curcop))) {
3562                         sv_setpvn(x, ipath, ipathend - ipath);
3563                         SvSETMAGIC(x);
3564                     }
3565                     else {
3566                         STRLEN blen;
3567                         STRLEN llen;
3568                         const char *bstart = SvPV_const(CopFILESV(PL_curcop),blen);
3569                         const char * const lstart = SvPV_const(x,llen);
3570                         if (llen < blen) {
3571                             bstart += blen - llen;
3572                             if (strnEQ(bstart, lstart, llen) && bstart[-1] == '/') {
3573                                 sv_setpvn(x, ipath, ipathend - ipath);
3574                                 SvSETMAGIC(x);
3575                             }
3576                         }
3577                     }
3578                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
3579                 }
3580 #endif /* ARG_ZERO_IS_SCRIPT */
3581
3582                 /*
3583                  * Look for options.
3584                  */
3585                 d = instr(s,"perl -");
3586                 if (!d) {
3587                     d = instr(s,"perl");
3588 #if defined(DOSISH)
3589                     /* avoid getting into infinite loops when shebang
3590                      * line contains "Perl" rather than "perl" */
3591                     if (!d) {
3592                         for (d = ipathend-4; d >= ipath; --d) {
3593                             if ((*d == 'p' || *d == 'P')
3594                                 && !ibcmp(d, "perl", 4))
3595                             {
3596                                 break;
3597                             }
3598                         }
3599                         if (d < ipath)
3600                             d = NULL;
3601                     }
3602 #endif
3603                 }
3604 #ifdef ALTERNATE_SHEBANG
3605                 /*
3606                  * If the ALTERNATE_SHEBANG on this system starts with a
3607                  * character that can be part of a Perl expression, then if
3608                  * we see it but not "perl", we're probably looking at the
3609                  * start of Perl code, not a request to hand off to some
3610                  * other interpreter.  Similarly, if "perl" is there, but
3611                  * not in the first 'word' of the line, we assume the line
3612                  * contains the start of the Perl program.
3613                  */
3614                 if (d && *s != '#') {
3615                     const char *c = ipath;
3616                     while (*c && !strchr("; \t\r\n\f\v#", *c))
3617                         c++;
3618                     if (c < d)
3619                         d = NULL;       /* "perl" not in first word; ignore */
3620                     else
3621                         *s = '#';       /* Don't try to parse shebang line */
3622                 }
3623 #endif /* ALTERNATE_SHEBANG */
3624 #ifndef MACOS_TRADITIONAL
3625                 if (!d &&
3626                     *s == '#' &&
3627                     ipathend > ipath &&
3628                     !PL_minus_c &&
3629                     !instr(s,"indir") &&
3630                     instr(PL_origargv[0],"perl"))
3631                 {
3632                     dVAR;
3633                     char **newargv;
3634
3635                     *ipathend = '\0';
3636                     s = ipathend + 1;
3637                     while (s < PL_bufend && isSPACE(*s))
3638                         s++;
3639                     if (s < PL_bufend) {
3640                         Newxz(newargv,PL_origargc+3,char*);
3641                         newargv[1] = s;
3642                         while (s < PL_bufend && !isSPACE(*s))
3643                             s++;
3644                         *s = '\0';
3645                         Copy(PL_origargv+1, newargv+2, PL_origargc+1, char*);
3646                     }
3647                     else
3648                         newargv = PL_origargv;
3649                     newargv[0] = ipath;
3650                     PERL_FPU_PRE_EXEC
3651                     PerlProc_execv(ipath, EXEC_ARGV_CAST(newargv));
3652                     PERL_FPU_POST_EXEC
3653                     Perl_croak(aTHX_ "Can't exec %s", ipath);
3654                 }
3655 #endif
3656                 if (d) {
3657                     while (*d && !isSPACE(*d)) d++;
3658                     while (SPACE_OR_TAB(*d)) d++;
3659
3660                     if (*d++ == '-') {
3661                         const bool switches_done = PL_doswitches;
3662                         const U32 oldpdb = PL_perldb;
3663                         const bool oldn = PL_minus_n;
3664                         const bool oldp = PL_minus_p;
3665
3666                         do {
3667                             if (*d == 'M' || *d == 'm' || *d == 'C') {
3668                                 const char * const m = d;
3669                                 while (*d && !isSPACE(*d))
3670                                     d++;
3671                                 Perl_croak(aTHX_ "Too late for \"-%.*s\" option",
3672                                       (int)(d - m), m);
3673                             }
3674                             d = moreswitches(d);
3675                         } while (d);
3676                         if (PL_doswitches && !switches_done) {
3677                             int argc = PL_origargc;
3678                             char **argv = PL_origargv;
3679                             do {
3680                                 argc--,argv++;
3681                             } while (argc && argv[0][0] == '-' && argv[0][1]);
3682                             init_argv_symbols(argc,argv);
3683                         }
3684                         if ((PERLDB_LINE && !oldpdb) ||
3685                             ((PL_minus_n || PL_minus_p) && !(oldn || oldp)))
3686                               /* if we have already added "LINE: while (<>) {",
3687                                  we must not do it again */
3688                         {
3689                             sv_setpvn(PL_linestr, "", 0);
3690                             PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3691                             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3692                             PL_last_lop = PL_last_uni = NULL;
3693                             PL_preambled = FALSE;
3694                             if (PERLDB_LINE)
3695                                 (void)gv_fetchfile(PL_origfilename);
3696                             goto retry;
3697                         }
3698                     }
3699                 }
3700             }
3701         }
3702         if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
3703             PL_bufptr = s;
3704             PL_lex_state = LEX_FORMLINE;
3705             return yylex();
3706         }
3707         goto retry;
3708     case '\r':
3709 #ifdef PERL_STRICT_CR
3710         Perl_warn(aTHX_ "Illegal character \\%03o (carriage return)", '\r');
3711         Perl_croak(aTHX_
3712       "\t(Maybe you didn't strip carriage returns after a network transfer?)\n");
3713 #endif
3714     case ' ': case '\t': case '\f': case 013:
3715 #ifdef MACOS_TRADITIONAL
3716     case '\312':
3717 #endif
3718 #ifdef PERL_MAD
3719         PL_realtokenstart = -1;
3720         s = SKIPSPACE0(s);
3721 #else
3722         s++;
3723 #endif
3724         goto retry;
3725     case '#':
3726     case '\n':
3727 #ifdef PERL_MAD
3728         PL_realtokenstart = -1;
3729         if (PL_madskills)
3730             PL_faketokens = 0;
3731 #endif
3732         if (PL_lex_state != LEX_NORMAL || (PL_in_eval && !PL_rsfp)) {
3733             if (*s == '#' && s == PL_linestart && PL_in_eval && !PL_rsfp) {
3734                 /* handle eval qq[#line 1 "foo"\n ...] */
3735                 CopLINE_dec(PL_curcop);
3736                 incline(s);
3737             }
3738             if (PL_madskills && !PL_lex_formbrack && !PL_in_eval) {
3739                 s = SKIPSPACE0(s);
3740                 if (!PL_in_eval || PL_rsfp)
3741                     incline(s);
3742             }
3743             else {
3744                 d = s;
3745                 while (d < PL_bufend && *d != '\n')
3746                     d++;
3747                 if (d < PL_bufend)
3748                     d++;
3749                 else if (d > PL_bufend) /* Found by Ilya: feed random input to Perl. */
3750                   Perl_croak(aTHX_ "panic: input overflow");
3751 #ifdef PERL_MAD
3752                 if (PL_madskills)
3753                     PL_thiswhite = newSVpvn(s, d - s);
3754 #endif
3755                 s = d;
3756                 incline(s);
3757             }
3758             if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
3759                 PL_bufptr = s;
3760                 PL_lex_state = LEX_FORMLINE;
3761                 return yylex();
3762             }
3763         }
3764         else {
3765 #ifdef PERL_MAD
3766             if (PL_madskills && CopLINE(PL_curcop) >= 1 && !PL_lex_formbrack) {
3767                 if (CopLINE(PL_curcop) == 1 && s[0] == '#' && s[1] == '!') {
3768                     PL_faketokens = 0;
3769                     s = SKIPSPACE0(s);
3770                     TOKEN(PEG); /* make sure any #! line is accessible */
3771                 }
3772                 s = SKIPSPACE0(s);
3773             }
3774             else {
3775 /*              if (PL_madskills && PL_lex_formbrack) { */
3776                     d = s;
3777                     while (d < PL_bufend && *d != '\n')
3778                         d++;
3779                     if (d < PL_bufend)
3780                         d++;
3781                     else if (d > PL_bufend) /* Found by Ilya: feed random input to Perl. */
3782                       Perl_croak(aTHX_ "panic: input overflow");
3783                     if (PL_madskills && CopLINE(PL_curcop) >= 1) {
3784                         if (!PL_thiswhite)
3785                             PL_thiswhite = newSVpvn("",0);
3786                         if (CopLINE(PL_curcop) == 1) {
3787                             sv_setpvn(PL_thiswhite, "", 0);
3788                             PL_faketokens = 0;
3789                         }
3790                         sv_catpvn(PL_thiswhite, s, d - s);
3791                     }
3792                     s = d;
3793 /*              }
3794                 *s = '\0';
3795                 PL_bufend = s; */
3796             }
3797 #else
3798             *s = '\0';
3799             PL_bufend = s;
3800 #endif
3801         }
3802         goto retry;
3803     case '-':
3804         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
3805             I32 ftst = 0;
3806             char tmp;
3807
3808             s++;
3809             PL_bufptr = s;
3810             tmp = *s++;
3811
3812             while (s < PL_bufend && SPACE_OR_TAB(*s))
3813                 s++;
3814
3815             if (strnEQ(s,"=>",2)) {
3816                 s = force_word(PL_bufptr,WORD,FALSE,FALSE,FALSE);
3817                 DEBUG_T( { S_printbuf(aTHX_
3818                         "### Saw unary minus before =>, forcing word %s\n", s);
3819                 } );
3820                 OPERATOR('-');          /* unary minus */
3821             }
3822             PL_last_uni = PL_oldbufptr;
3823             switch (tmp) {
3824             case 'r': ftst = OP_FTEREAD;        break;
3825             case 'w': ftst = OP_FTEWRITE;       break;
3826             case 'x': ftst = OP_FTEEXEC;        break;
3827             case 'o': ftst = OP_FTEOWNED;       break;
3828             case 'R': ftst = OP_FTRREAD;        break;
3829             case 'W': ftst = OP_FTRWRITE;       break;
3830             case 'X': ftst = OP_FTREXEC;        break;
3831             case 'O': ftst = OP_FTROWNED;       break;
3832             case 'e': ftst = OP_FTIS;           break;
3833             case 'z': ftst = OP_FTZERO;         break;
3834             case 's': ftst = OP_FTSIZE;         break;
3835             case 'f': ftst = OP_FTFILE;         break;
3836             case 'd': ftst = OP_FTDIR;          break;
3837             case 'l': ftst = OP_FTLINK;         break;
3838             case 'p': ftst = OP_FTPIPE;         break;
3839             case 'S': ftst = OP_FTSOCK;         break;
3840             case 'u': ftst = OP_FTSUID;         break;
3841             case 'g': ftst = OP_FTSGID;         break;
3842             case 'k': ftst = OP_FTSVTX;         break;
3843             case 'b': ftst = OP_FTBLK;          break;
3844             case 'c': ftst = OP_FTCHR;          break;
3845             case 't': ftst = OP_FTTTY;          break;
3846             case 'T': ftst = OP_FTTEXT;         break;
3847             case 'B': ftst = OP_FTBINARY;       break;
3848             case 'M': case 'A': case 'C':
3849                 gv_fetchpvs("\024", GV_ADD|GV_NOTQUAL, SVt_PV);
3850                 switch (tmp) {
3851                 case 'M': ftst = OP_FTMTIME;    break;
3852                 case 'A': ftst = OP_FTATIME;    break;
3853                 case 'C': ftst = OP_FTCTIME;    break;
3854                 default:                        break;
3855                 }
3856                 break;
3857             default:
3858                 break;
3859             }
3860             if (ftst) {
3861                 PL_last_lop_op = (OPCODE)ftst;
3862                 DEBUG_T( { PerlIO_printf(Perl_debug_log,
3863                         "### Saw file test %c\n", (int)tmp);
3864                 } );
3865                 FTST(ftst);
3866             }
3867             else {
3868                 /* Assume it was a minus followed by a one-letter named
3869                  * subroutine call (or a -bareword), then. */
3870                 DEBUG_T( { PerlIO_printf(Perl_debug_log,
3871                         "### '-%c' looked like a file test but was not\n",
3872                         (int) tmp);
3873                 } );
3874                 s = --PL_bufptr;
3875             }
3876         }
3877         {
3878             const char tmp = *s++;
3879             if (*s == tmp) {
3880                 s++;
3881                 if (PL_expect == XOPERATOR)
3882                     TERM(POSTDEC);
3883                 else
3884                     OPERATOR(PREDEC);
3885             }
3886             else if (*s == '>') {
3887                 s++;
3888                 s = SKIPSPACE1(s);
3889                 if (isIDFIRST_lazy_if(s,UTF)) {
3890                     s = force_word(s,METHOD,FALSE,TRUE,FALSE);
3891                     TOKEN(ARROW);
3892                 }
3893                 else if (*s == '$')
3894                     OPERATOR(ARROW);
3895                 else
3896                     TERM(ARROW);
3897             }
3898             if (PL_expect == XOPERATOR)
3899                 Aop(OP_SUBTRACT);
3900             else {
3901                 if (isSPACE(*s) || !isSPACE(*PL_bufptr))
3902                     check_uni();
3903                 OPERATOR('-');          /* unary minus */
3904             }
3905         }
3906
3907     case '+':
3908         {
3909             const char tmp = *s++;
3910             if (*s == tmp) {
3911                 s++;
3912                 if (PL_expect == XOPERATOR)
3913                     TERM(POSTINC);
3914                 else
3915                     OPERATOR(PREINC);
3916             }
3917             if (PL_expect == XOPERATOR)
3918                 Aop(OP_ADD);
3919             else {
3920                 if (isSPACE(*s) || !isSPACE(*PL_bufptr))
3921                     check_uni();
3922                 OPERATOR('+');
3923             }
3924         }
3925
3926     case '*':
3927         if (PL_expect != XOPERATOR) {
3928             s = scan_ident(s, PL_bufend, PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
3929             PL_expect = XOPERATOR;
3930             force_ident(PL_tokenbuf, '*');
3931             if (!*PL_tokenbuf)
3932                 PREREF('*');
3933             TERM('*');
3934         }
3935         s++;
3936         if (*s == '*') {
3937             s++;
3938             PWop(OP_POW);
3939         }
3940         Mop(OP_MULTIPLY);
3941
3942     case '%':
3943         if (PL_expect == XOPERATOR) {
3944             ++s;
3945             Mop(OP_MODULO);
3946         }
3947         PL_tokenbuf[0] = '%';
3948         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1, sizeof PL_tokenbuf - 1, TRUE);
3949         if (!PL_tokenbuf[1]) {
3950             PREREF('%');
3951         }
3952         PL_pending_ident = '%';
3953         TERM('%');
3954
3955     case '^':
3956         s++;
3957         BOop(OP_BIT_XOR);
3958     case '[':
3959         PL_lex_brackets++;
3960         /* FALL THROUGH */
3961     case '~':
3962         if (s[1] == '~'
3963         && (PL_expect == XOPERATOR || PL_expect == XTERMORDORDOR)
3964         && FEATURE_IS_ENABLED("~~"))
3965         {
3966             s += 2;
3967             Eop(OP_SMARTMATCH);
3968         }
3969     case ',':
3970         {
3971             const char tmp = *s++;
3972             OPERATOR(tmp);
3973         }
3974     case ':':
3975         if (s[1] == ':') {
3976             len = 0;
3977             goto just_a_word_zero_gv;
3978         }
3979         s++;
3980         switch (PL_expect) {
3981             OP *attrs;
3982 #ifdef PERL_MAD
3983             I32 stuffstart;
3984 #endif
3985         case XOPERATOR:
3986             if (!PL_in_my || PL_lex_state != LEX_NORMAL)
3987                 break;
3988             PL_bufptr = s;      /* update in case we back off */
3989             goto grabattrs;
3990         case XATTRBLOCK:
3991             PL_expect = XBLOCK;
3992             goto grabattrs;
3993         case XATTRTERM:
3994             PL_expect = XTERMBLOCK;
3995          grabattrs:
3996 #ifdef PERL_MAD
3997             stuffstart = s - SvPVX(PL_linestr) - 1;
3998 #endif
3999             s = PEEKSPACE(s);
4000             attrs = NULL;
4001             while (isIDFIRST_lazy_if(s,UTF)) {
4002                 I32 tmp;
4003                 SV *sv;
4004                 d = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
4005                 if (isLOWER(*s) && (tmp = keyword(PL_tokenbuf, len))) {
4006                     if (tmp < 0) tmp = -tmp;
4007                     switch (tmp) {
4008                     case KEY_or:
4009                     case KEY_and:
4010                     case KEY_err:
4011                     case KEY_for:
4012                     case KEY_unless:
4013                     case KEY_if:
4014                     case KEY_while:
4015                     case KEY_until:
4016                         goto got_attrs;
4017                     default:
4018                         break;
4019                     }
4020                 }
4021                 sv = newSVpvn(s, len);
4022                 if (*d == '(') {
4023                     d = scan_str(d,TRUE,TRUE);
4024                     if (!d) {
4025                         /* MUST advance bufptr here to avoid bogus
4026                            "at end of line" context messages from yyerror().
4027                          */
4028                         PL_bufptr = s + len;
4029                         yyerror("Unterminated attribute parameter in attribute list");
4030                         if (attrs)
4031                             op_free(attrs);
4032                         sv_free(sv);
4033                         return REPORT(0);       /* EOF indicator */
4034                     }
4035                 }
4036                 if (PL_lex_stuff) {
4037                     sv_catsv(sv, PL_lex_stuff);
4038                     attrs = append_elem(OP_LIST, attrs,
4039                                         newSVOP(OP_CONST, 0, sv));
4040                     SvREFCNT_dec(PL_lex_stuff);
4041                     PL_lex_stuff = NULL;
4042                 }
4043                 else {
4044                     if (len == 6 && strnEQ(SvPVX(sv), "unique", len)) {
4045                         sv_free(sv);
4046                         if (PL_in_my == KEY_our) {
4047 #ifdef USE_ITHREADS
4048                             GvUNIQUE_on(cGVOPx_gv(yylval.opval));
4049 #else
4050                             /* skip to avoid loading attributes.pm */
4051 #endif
4052                             deprecate(":unique");
4053                         }
4054                         else
4055                             Perl_croak(aTHX_ "The 'unique' attribute may only be applied to 'our' variables");
4056                     }
4057
4058                     /* NOTE: any CV attrs applied here need to be part of
4059                        the CVf_BUILTIN_ATTRS define in cv.h! */
4060                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "lvalue", len)) {
4061                         sv_free(sv);
4062                         CvLVALUE_on(PL_compcv);
4063                     }
4064                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "locked", len)) {
4065                         sv_free(sv);
4066                         CvLOCKED_on(PL_compcv);
4067                     }
4068                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "method", len)) {
4069                         sv_free(sv);
4070                         CvMETHOD_on(PL_compcv);
4071                     }
4072                     else if (!PL_in_my && len == 9 && strnEQ(SvPVX(sv), "assertion", len)) {
4073                         sv_free(sv);
4074                         CvASSERTION_on(PL_compcv);
4075                     }
4076                     /* After we've set the flags, it could be argued that
4077                        we don't need to do the attributes.pm-based setting
4078                        process, and shouldn't bother appending recognized
4079                        flags.  To experiment with that, uncomment the
4080                        following "else".  (Note that's already been
4081                        uncommented.  That keeps the above-applied built-in
4082                        attributes from being intercepted (and possibly
4083                        rejected) by a package's attribute routines, but is
4084                        justified by the performance win for the common case
4085                        of applying only built-in attributes.) */
4086                     else
4087                         attrs = append_elem(OP_LIST, attrs,
4088                                             newSVOP(OP_CONST, 0,
4089                                                     sv));
4090                 }
4091                 s = PEEKSPACE(d);
4092                 if (*s == ':' && s[1] != ':')
4093                     s = PEEKSPACE(s+1);
4094                 else if (s == d)
4095                     break;      /* require real whitespace or :'s */
4096                 /* XXX losing whitespace on sequential attributes here */
4097             }
4098             {
4099                 const char tmp
4100                     = (PL_expect == XOPERATOR ? '=' : '{'); /*'}(' for vi */
4101                 if (*s != ';' && *s != '}' && *s != tmp
4102                     && (tmp != '=' || *s != ')')) {
4103                     const char q = ((*s == '\'') ? '"' : '\'');
4104                     /* If here for an expression, and parsed no attrs, back
4105                        off. */
4106                     if (tmp == '=' && !attrs) {
4107                         s = PL_bufptr;
4108                         break;
4109                     }
4110                     /* MUST advance bufptr here to avoid bogus "at end of line"
4111                        context messages from yyerror().
4112                     */
4113                     PL_bufptr = s;
4114                     yyerror( *s
4115                              ? Perl_form(aTHX_ "Invalid separator character "
4116                                          "%c%c%c in attribute list", q, *s, q)
4117                              : "Unterminated attribute list" );
4118                     if (attrs)
4119                         op_free(attrs);
4120                     OPERATOR(':');
4121                 }
4122             }
4123         got_attrs:
4124             if (attrs) {
4125                 start_force(PL_curforce);
4126                 NEXTVAL_NEXTTOKE.opval = attrs;
4127                 CURMAD('_', PL_nextwhite);
4128                 force_next(THING);
4129             }
4130 #ifdef PERL_MAD
4131             if (PL_madskills) {
4132                 PL_thistoken = newSVpvn(SvPVX(PL_linestr) + stuffstart,
4133                                      (s - SvPVX(PL_linestr)) - stuffstart);
4134             }
4135 #endif
4136             TOKEN(COLONATTR);
4137         }
4138         OPERATOR(':');
4139     case '(':
4140         s++;
4141         if (PL_last_lop == PL_oldoldbufptr || PL_last_uni == PL_oldoldbufptr)
4142             PL_oldbufptr = PL_oldoldbufptr;             /* allow print(STDOUT 123) */
4143         else
4144             PL_expect = XTERM;
4145         s = SKIPSPACE1(s);
4146         TOKEN('(');
4147     case ';':
4148         CLINE;
4149         {
4150             const char tmp = *s++;
4151             OPERATOR(tmp);
4152         }
4153     case ')':
4154         {
4155             const char tmp = *s++;
4156             s = SKIPSPACE1(s);
4157             if (*s == '{')
4158                 PREBLOCK(tmp);
4159             TERM(tmp);
4160         }
4161     case ']':
4162         s++;
4163         if (PL_lex_brackets <= 0)
4164             yyerror("Unmatched right square bracket");
4165         else
4166             --PL_lex_brackets;
4167         if (PL_lex_state == LEX_INTERPNORMAL) {
4168             if (PL_lex_brackets == 0) {
4169                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
4170                     PL_lex_state = LEX_INTERPEND;
4171             }
4172         }
4173         TERM(']');
4174     case '{':
4175       leftbracket:
4176         s++;
4177         if (PL_lex_brackets > 100) {
4178             Renew(PL_lex_brackstack, PL_lex_brackets + 10, char);
4179         }
4180         switch (PL_expect) {
4181         case XTERM:
4182             if (PL_lex_formbrack) {
4183                 s--;
4184                 PRETERMBLOCK(DO);
4185             }
4186             if (PL_oldoldbufptr == PL_last_lop)
4187                 PL_lex_brackstack[PL_lex_brackets++] = XTERM;
4188             else
4189                 PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
4190             OPERATOR(HASHBRACK);
4191         case XOPERATOR:
4192             while (s < PL_bufend && SPACE_OR_TAB(*s))
4193                 s++;
4194             d = s;
4195             PL_tokenbuf[0] = '\0';
4196             if (d < PL_bufend && *d == '-') {
4197                 PL_tokenbuf[0] = '-';
4198                 d++;
4199                 while (d < PL_bufend && SPACE_OR_TAB(*d))
4200                     d++;
4201             }
4202             if (d < PL_bufend && isIDFIRST_lazy_if(d,UTF)) {
4203                 d = scan_word(d, PL_tokenbuf + 1, sizeof PL_tokenbuf - 1,
4204                               FALSE, &len);
4205                 while (d < PL_bufend && SPACE_OR_TAB(*d))
4206                     d++;
4207                 if (*d == '}') {
4208                     const char minus = (PL_tokenbuf[0] == '-');
4209                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
4210                     if (minus)
4211                         force_next('-');
4212                 }
4213             }
4214             /* FALL THROUGH */
4215         case XATTRBLOCK:
4216         case XBLOCK:
4217             PL_lex_brackstack[PL_lex_brackets++] = XSTATE;
4218             PL_expect = XSTATE;
4219             break;
4220         case XATTRTERM:
4221         case XTERMBLOCK:
4222             PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
4223             PL_expect = XSTATE;
4224             break;
4225         default: {
4226                 const char *t;
4227                 if (PL_oldoldbufptr == PL_last_lop)
4228                     PL_lex_brackstack[PL_lex_brackets++] = XTERM;
4229                 else
4230                     PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
4231                 s = SKIPSPACE1(s);
4232                 if (*s == '}') {
4233                     if (PL_expect == XREF && PL_lex_state == LEX_INTERPNORMAL) {
4234                         PL_expect = XTERM;
4235                         /* This hack is to get the ${} in the message. */
4236                         PL_bufptr = s+1;
4237                         yyerror("syntax error");
4238                         break;
4239                     }
4240                     OPERATOR(HASHBRACK);
4241                 }
4242                 /* This hack serves to disambiguate a pair of curlies
4243                  * as being a block or an anon hash.  Normally, expectation
4244                  * determines that, but in cases where we're not in a
4245                  * position to expect anything in particular (like inside
4246                  * eval"") we have to resolve the ambiguity.  This code
4247                  * covers the case where the first term in the curlies is a
4248                  * quoted string.  Most other cases need to be explicitly
4249                  * disambiguated by prepending a "+" before the opening
4250                  * curly in order to force resolution as an anon hash.
4251                  *
4252                  * XXX should probably propagate the outer expectation
4253                  * into eval"" to rely less on this hack, but that could
4254                  * potentially break current behavior of eval"".
4255                  * GSAR 97-07-21
4256                  */
4257                 t = s;
4258                 if (*s == '\'' || *s == '"' || *s == '`') {
4259                     /* common case: get past first string, handling escapes */
4260                     for (t++; t < PL_bufend && *t != *s;)
4261                         if (*t++ == '\\' && (*t == '\\' || *t == *s))
4262                             t++;
4263                     t++;
4264                 }
4265                 else if (*s == 'q') {
4266                     if (++t < PL_bufend
4267                         && (!isALNUM(*t)
4268                             || ((*t == 'q' || *t == 'x') && ++t < PL_bufend
4269                                 && !isALNUM(*t))))
4270                     {
4271                         /* skip q//-like construct */
4272                         const char *tmps;
4273                         char open, close, term;
4274                         I32 brackets = 1;
4275
4276                         while (t < PL_bufend && isSPACE(*t))
4277                             t++;
4278                         /* check for q => */
4279                         if (t+1 < PL_bufend && t[0] == '=' && t[1] == '>') {
4280                             OPERATOR(HASHBRACK);
4281                         }
4282                         term = *t;
4283                         open = term;
4284                         if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4285                             term = tmps[5];
4286                         close = term;
4287                         if (open == close)
4288                             for (t++; t < PL_bufend; t++) {
4289                                 if (*t == '\\' && t+1 < PL_bufend && open != '\\')
4290                                     t++;
4291                                 else if (*t == open)
4292                                     break;
4293                             }
4294                         else {
4295                             for (t++; t < PL_bufend; t++) {
4296                                 if (*t == '\\' && t+1 < PL_bufend)
4297                                     t++;
4298                                 else if (*t == close && --brackets <= 0)
4299                                     break;
4300                                 else if (*t == open)
4301                                     brackets++;
4302                             }
4303                         }
4304                         t++;
4305                     }
4306                     else
4307                         /* skip plain q word */
4308                         while (t < PL_bufend && isALNUM_lazy_if(t,UTF))
4309                              t += UTF8SKIP(t);
4310                 }
4311                 else if (isALNUM_lazy_if(t,UTF)) {
4312                     t += UTF8SKIP(t);
4313                     while (t < PL_bufend && isALNUM_lazy_if(t,UTF))
4314                          t += UTF8SKIP(t);
4315                 }
4316                 while (t < PL_bufend && isSPACE(*t))
4317                     t++;
4318                 /* if comma follows first term, call it an anon hash */
4319                 /* XXX it could be a comma expression with loop modifiers */
4320                 if (t < PL_bufend && ((*t == ',' && (*s == 'q' || !isLOWER(*s)))
4321                                    || (*t == '=' && t[1] == '>')))
4322                     OPERATOR(HASHBRACK);
4323                 if (PL_expect == XREF)
4324                     PL_expect = XTERM;
4325                 else {
4326                     PL_lex_brackstack[PL_lex_brackets-1] = XSTATE;
4327                     PL_expect = XSTATE;
4328                 }
4329             }
4330             break;
4331         }
4332         yylval.ival = CopLINE(PL_curcop);
4333         if (isSPACE(*s) || *s == '#')
4334             PL_copline = NOLINE;   /* invalidate current command line number */
4335         TOKEN('{');
4336     case '}':
4337       rightbracket:
4338         s++;
4339         if (PL_lex_brackets <= 0)
4340             yyerror("Unmatched right curly bracket");
4341         else
4342             PL_expect = (expectation)PL_lex_brackstack[--PL_lex_brackets];
4343         if (PL_lex_brackets < PL_lex_formbrack && PL_lex_state != LEX_INTERPNORMAL)
4344             PL_lex_formbrack = 0;
4345         if (PL_lex_state == LEX_INTERPNORMAL) {
4346             if (PL_lex_brackets == 0) {
4347                 if (PL_expect & XFAKEBRACK) {
4348                     PL_expect &= XENUMMASK;
4349                     PL_lex_state = LEX_INTERPEND;
4350                     PL_bufptr = s;
4351 #if 0
4352                     if (PL_madskills) {
4353                         if (!PL_thiswhite)
4354                             PL_thiswhite = newSVpvn("",0);
4355                         sv_catpvn(PL_thiswhite,"}",1);
4356                     }
4357 #endif
4358                     return yylex();     /* ignore fake brackets */
4359                 }
4360                 if (*s == '-' && s[1] == '>')
4361                     PL_lex_state = LEX_INTERPENDMAYBE;
4362                 else if (*s != '[' && *s != '{')
4363                     PL_lex_state = LEX_INTERPEND;
4364             }
4365         }
4366         if (PL_expect & XFAKEBRACK) {
4367             PL_expect &= XENUMMASK;
4368             PL_bufptr = s;
4369             return yylex();             /* ignore fake brackets */
4370         }
4371         start_force(PL_curforce);
4372         if (PL_madskills) {
4373             curmad('X', newSVpvn(s-1,1));
4374             CURMAD('_', PL_thiswhite);
4375         }
4376         force_next('}');
4377 #ifdef PERL_MAD
4378         if (!PL_thistoken)
4379             PL_thistoken = newSVpvn("",0);
4380 #endif
4381         TOKEN(';');
4382     case '&':
4383         s++;
4384         if (*s++ == '&')
4385             AOPERATOR(ANDAND);
4386         s--;
4387         if (PL_expect == XOPERATOR) {
4388             if (PL_bufptr == PL_linestart && ckWARN(WARN_SEMICOLON)
4389                 && isIDFIRST_lazy_if(s,UTF))
4390             {
4391                 CopLINE_dec(PL_curcop);
4392                 Perl_warner(aTHX_ packWARN(WARN_SEMICOLON), PL_warn_nosemi);
4393                 CopLINE_inc(PL_curcop);
4394             }
4395             BAop(OP_BIT_AND);
4396         }
4397
4398         s = scan_ident(s - 1, PL_bufend, PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
4399         if (*PL_tokenbuf) {
4400             PL_expect = XOPERATOR;
4401             force_ident(PL_tokenbuf, '&');
4402         }
4403         else
4404             PREREF('&');
4405         yylval.ival = (OPpENTERSUB_AMPER<<8);
4406         TERM('&');
4407
4408     case '|':
4409         s++;
4410         if (*s++ == '|')
4411             AOPERATOR(OROR);
4412         s--;
4413         BOop(OP_BIT_OR);
4414     case '=':
4415         s++;
4416         {
4417             const char tmp = *s++;
4418             if (tmp == '=')
4419                 Eop(OP_EQ);
4420             if (tmp == '>')
4421                 OPERATOR(',');
4422             if (tmp == '~')
4423                 PMop(OP_MATCH);
4424             if (tmp && isSPACE(*s) && ckWARN(WARN_SYNTAX)
4425                 && strchr("+-*/%.^&|<",tmp))
4426                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4427                             "Reversed %c= operator",(int)tmp);
4428             s--;
4429             if (PL_expect == XSTATE && isALPHA(tmp) &&
4430                 (s == PL_linestart+1 || s[-2] == '\n') )
4431                 {
4432                     if (PL_in_eval && !PL_rsfp) {
4433                         d = PL_bufend;
4434                         while (s < d) {
4435                             if (*s++ == '\n') {
4436                                 incline(s);
4437                                 if (strnEQ(s,"=cut",4)) {
4438                                     s = strchr(s,'\n');
4439                                     if (s)
4440                                         s++;
4441                                     else
4442                                         s = d;
4443                                     incline(s);
4444                                     goto retry;
4445                                 }
4446                             }
4447                         }
4448                         goto retry;
4449                     }
4450 #ifdef PERL_MAD
4451                     if (PL_madskills) {
4452                         if (!PL_thiswhite)
4453                             PL_thiswhite = newSVpvn("",0);
4454                         sv_catpvn(PL_thiswhite, PL_linestart,
4455                                   PL_bufend - PL_linestart);
4456                     }
4457 #endif
4458                     s = PL_bufend;
4459                     PL_doextract = TRUE;
4460                     goto retry;
4461                 }
4462         }
4463         if (PL_lex_brackets < PL_lex_formbrack) {
4464             const char *t;
4465 #ifdef PERL_STRICT_CR
4466             for (t = s; SPACE_OR_TAB(*t); t++) ;
4467 #else
4468             for (t = s; SPACE_OR_TAB(*t) || *t == '\r'; t++) ;
4469 #endif
4470             if (*t == '\n' || *t == '#') {
4471                 s--;
4472                 PL_expect = XBLOCK;
4473                 goto leftbracket;
4474             }
4475         }
4476         yylval.ival = 0;
4477         OPERATOR(ASSIGNOP);
4478     case '!':
4479         s++;
4480         {
4481             const char tmp = *s++;
4482             if (tmp == '=') {
4483                 /* was this !=~ where !~ was meant?
4484                  * warn on m:!=~\s+([/?]|[msy]\W|tr\W): */
4485
4486                 if (*s == '~' && ckWARN(WARN_SYNTAX)) {
4487                     const char *t = s+1;
4488
4489                     while (t < PL_bufend && isSPACE(*t))
4490                         ++t;
4491
4492                     if (*t == '/' || *t == '?' ||
4493                         ((*t == 'm' || *t == 's' || *t == 'y')
4494                          && !isALNUM(t[1])) ||
4495                         (*t == 't' && t[1] == 'r' && !isALNUM(t[2])))
4496                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4497                                     "!=~ should be !~");
4498                 }
4499                 Eop(OP_NE);
4500             }
4501             if (tmp == '~')
4502                 PMop(OP_NOT);
4503         }
4504         s--;
4505         OPERATOR('!');
4506     case '<':
4507         if (PL_expect != XOPERATOR) {
4508             if (s[1] != '<' && !strchr(s,'>'))
4509                 check_uni();
4510             if (s[1] == '<')
4511                 s = scan_heredoc(s);
4512             else
4513                 s = scan_inputsymbol(s);
4514             TERM(sublex_start());
4515         }
4516         s++;
4517         {
4518             char tmp = *s++;
4519             if (tmp == '<')
4520                 SHop(OP_LEFT_SHIFT);
4521             if (tmp == '=') {
4522                 tmp = *s++;
4523                 if (tmp == '>')
4524                     Eop(OP_NCMP);
4525                 s--;
4526                 Rop(OP_LE);
4527             }
4528         }
4529         s--;
4530         Rop(OP_LT);
4531     case '>':
4532         s++;
4533         {
4534             const char tmp = *s++;
4535             if (tmp == '>')
4536                 SHop(OP_RIGHT_SHIFT);
4537             else if (tmp == '=')
4538                 Rop(OP_GE);
4539         }
4540         s--;
4541         Rop(OP_GT);
4542
4543     case '$':
4544         CLINE;
4545
4546         if (PL_expect == XOPERATOR) {
4547             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
4548                 PL_expect = XTERM;
4549                 deprecate_old(commaless_variable_list);
4550                 return REPORT(','); /* grandfather non-comma-format format */
4551             }
4552         }
4553
4554         if (s[1] == '#' && (isIDFIRST_lazy_if(s+2,UTF) || strchr("{$:+-", s[2]))) {
4555             PL_tokenbuf[0] = '@';
4556             s = scan_ident(s + 1, PL_bufend, PL_tokenbuf + 1,
4557                            sizeof PL_tokenbuf - 1, FALSE);
4558             if (PL_expect == XOPERATOR)
4559                 no_op("Array length", s);
4560             if (!PL_tokenbuf[1])
4561                 PREREF(DOLSHARP);
4562             PL_expect = XOPERATOR;
4563             PL_pending_ident = '#';
4564             TOKEN(DOLSHARP);
4565         }
4566
4567         PL_tokenbuf[0] = '$';
4568         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1,
4569                        sizeof PL_tokenbuf - 1, FALSE);
4570         if (PL_expect == XOPERATOR)
4571             no_op("Scalar", s);
4572         if (!PL_tokenbuf[1]) {
4573             if (s == PL_bufend)
4574                 yyerror("Final $ should be \\$ or $name");
4575             PREREF('$');
4576         }
4577
4578         /* This kludge not intended to be bulletproof. */
4579         if (PL_tokenbuf[1] == '[' && !PL_tokenbuf[2]) {
4580             yylval.opval = newSVOP(OP_CONST, 0,
4581                                    newSViv(CopARYBASE_get(&PL_compiling)));
4582             yylval.opval->op_private = OPpCONST_ARYBASE;
4583             TERM(THING);
4584         }
4585
4586         d = s;
4587         {
4588             const char tmp = *s;
4589             if (PL_lex_state == LEX_NORMAL)
4590                 s = SKIPSPACE1(s);
4591
4592             if ((PL_expect != XREF || PL_oldoldbufptr == PL_last_lop)
4593                 && intuit_more(s)) {
4594                 if (*s == '[') {
4595                     PL_tokenbuf[0] = '@';
4596                     if (ckWARN(WARN_SYNTAX)) {
4597                         char *t;
4598                         for(t = s + 1;
4599                             isSPACE(*t) || isALNUM_lazy_if(t,UTF) || *t == '$';
4600                             t++) ;
4601                         if (*t++ == ',') {
4602                             PL_bufptr = PEEKSPACE(PL_bufptr); /* XXX can realloc */
4603                             while (t < PL_bufend && *t != ']')
4604                                 t++;
4605                             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4606                                         "Multidimensional syntax %.*s not supported",
4607                                     (int)((t - PL_bufptr) + 1), PL_bufptr);
4608                         }
4609                     }
4610                 }
4611                 else if (*s == '{') {
4612                     char *t;
4613                     PL_tokenbuf[0] = '%';
4614                     if (strEQ(PL_tokenbuf+1, "SIG")  && ckWARN(WARN_SYNTAX)
4615                         && (t = strchr(s, '}')) && (t = strchr(t, '=')))
4616                         {
4617                             char tmpbuf[sizeof PL_tokenbuf];
4618                             for (t++; isSPACE(*t); t++) ;
4619                             if (isIDFIRST_lazy_if(t,UTF)) {
4620                                 STRLEN dummylen;
4621                                 t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE,
4622                                               &dummylen);
4623                                 for (; isSPACE(*t); t++) ;
4624                                 if (*t == ';' && get_cv(tmpbuf, FALSE))
4625                                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4626                                                 "You need to quote \"%s\"",
4627                                                 tmpbuf);
4628                             }
4629                         }
4630                 }
4631             }
4632
4633             PL_expect = XOPERATOR;
4634             if (PL_lex_state == LEX_NORMAL && isSPACE((char)tmp)) {
4635                 const bool islop = (PL_last_lop == PL_oldoldbufptr);
4636                 if (!islop || PL_last_lop_op == OP_GREPSTART)
4637                     PL_expect = XOPERATOR;
4638                 else if (strchr("$@\"'`q", *s))
4639                     PL_expect = XTERM;          /* e.g. print $fh "foo" */
4640                 else if (strchr("&*<%", *s) && isIDFIRST_lazy_if(s+1,UTF))
4641                     PL_expect = XTERM;          /* e.g. print $fh &sub */
4642                 else if (isIDFIRST_lazy_if(s,UTF)) {
4643                     char tmpbuf[sizeof PL_tokenbuf];
4644                     int t2;
4645                     scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
4646                     if ((t2 = keyword(tmpbuf, len))) {
4647                         /* binary operators exclude handle interpretations */
4648                         switch (t2) {
4649                         case -KEY_x:
4650                         case -KEY_eq:
4651                         case -KEY_ne:
4652                         case -KEY_gt:
4653                         case -KEY_lt:
4654                         case -KEY_ge:
4655                         case -KEY_le:
4656                         case -KEY_cmp:
4657                             break;
4658                         default:
4659                             PL_expect = XTERM;  /* e.g. print $fh length() */
4660                             break;
4661                         }
4662                     }
4663                     else {
4664                         PL_expect = XTERM;      /* e.g. print $fh subr() */
4665                     }
4666                 }
4667                 else if (isDIGIT(*s))
4668                     PL_expect = XTERM;          /* e.g. print $fh 3 */
4669                 else if (*s == '.' && isDIGIT(s[1]))
4670                     PL_expect = XTERM;          /* e.g. print $fh .3 */
4671                 else if ((*s == '?' || *s == '-' || *s == '+')
4672                          && !isSPACE(s[1]) && s[1] != '=')
4673                     PL_expect = XTERM;          /* e.g. print $fh -1 */
4674                 else if (*s == '/' && !isSPACE(s[1]) && s[1] != '='
4675                          && s[1] != '/')
4676                     PL_expect = XTERM;          /* e.g. print $fh /.../
4677                                                    XXX except DORDOR operator
4678                                                 */
4679                 else if (*s == '<' && s[1] == '<' && !isSPACE(s[2])
4680                          && s[2] != '=')
4681                     PL_expect = XTERM;          /* print $fh <<"EOF" */
4682             }
4683         }
4684         PL_pending_ident = '$';
4685         TOKEN('$');
4686
4687     case '@':
4688         if (PL_expect == XOPERATOR)
4689             no_op("Array", s);
4690         PL_tokenbuf[0] = '@';
4691         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1, sizeof PL_tokenbuf - 1, FALSE);
4692         if (!PL_tokenbuf[1]) {
4693             PREREF('@');
4694         }
4695         if (PL_lex_state == LEX_NORMAL)
4696             s = SKIPSPACE1(s);
4697         if ((PL_expect != XREF || PL_oldoldbufptr == PL_last_lop) && intuit_more(s)) {
4698             if (*s == '{')
4699                 PL_tokenbuf[0] = '%';
4700
4701             /* Warn about @ where they meant $. */
4702             if (*s == '[' || *s == '{') {
4703                 if (ckWARN(WARN_SYNTAX)) {
4704                     const char *t = s + 1;
4705                     while (*t && (isALNUM_lazy_if(t,UTF) || strchr(" \t$#+-'\"", *t)))
4706                         t++;
4707                     if (*t == '}' || *t == ']') {
4708                         t++;
4709                         PL_bufptr = PEEKSPACE(PL_bufptr); /* XXX can realloc */
4710                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4711                             "Scalar value %.*s better written as $%.*s",
4712                             (int)(t-PL_bufptr), PL_bufptr,
4713                             (int)(t-PL_bufptr-1), PL_bufptr+1);
4714                     }
4715                 }
4716             }
4717         }
4718         PL_pending_ident = '@';
4719         TERM('@');
4720
4721      case '/':                  /* may be division, defined-or, or pattern */
4722         if (PL_expect == XTERMORDORDOR && s[1] == '/') {
4723             s += 2;
4724             AOPERATOR(DORDOR);
4725         }
4726      case '?':                  /* may either be conditional or pattern */
4727          if(PL_expect == XOPERATOR) {
4728              char tmp = *s++;
4729              if(tmp == '?') {
4730                   OPERATOR('?');
4731              }
4732              else {
4733                  tmp = *s++;
4734                  if(tmp == '/') {
4735                      /* A // operator. */
4736                     AOPERATOR(DORDOR);
4737                  }
4738                  else {
4739                      s--;
4740                      Mop(OP_DIVIDE);
4741                  }
4742              }
4743          }
4744          else {
4745              /* Disable warning on "study /blah/" */
4746              if (PL_oldoldbufptr == PL_last_uni
4747               && (*PL_last_uni != 's' || s - PL_last_uni < 5
4748                   || memNE(PL_last_uni, "study", 5)
4749                   || isALNUM_lazy_if(PL_last_uni+5,UTF)
4750               ))
4751                  check_uni();
4752              s = scan_pat(s,OP_MATCH);
4753              TERM(sublex_start());
4754          }
4755
4756     case '.':
4757         if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack
4758 #ifdef PERL_STRICT_CR
4759             && s[1] == '\n'
4760 #else
4761             && (s[1] == '\n' || (s[1] == '\r' && s[2] == '\n'))
4762 #endif
4763             && (s == PL_linestart || s[-1] == '\n') )
4764         {
4765             PL_lex_formbrack = 0;
4766             PL_expect = XSTATE;
4767             goto rightbracket;
4768         }
4769         if (PL_expect == XOPERATOR || !isDIGIT(s[1])) {
4770             char tmp = *s++;
4771             if (*s == tmp) {
4772                 s++;
4773                 if (*s == tmp) {
4774                     s++;
4775                     yylval.ival = OPf_SPECIAL;
4776                 }
4777                 else
4778                     yylval.ival = 0;
4779                 OPERATOR(DOTDOT);
4780             }
4781             if (PL_expect != XOPERATOR)
4782                 check_uni();
4783             Aop(OP_CONCAT);
4784         }
4785         /* FALL THROUGH */
4786     case '0': case '1': case '2': case '3': case '4':
4787     case '5': case '6': case '7': case '8': case '9':
4788         s = scan_num(s, &yylval);
4789         DEBUG_T( { S_printbuf(aTHX_ "### Saw number in %s\n", s); } );
4790         if (PL_expect == XOPERATOR)
4791             no_op("Number",s);
4792         TERM(THING);
4793
4794     case '\'':
4795         s = scan_str(s,!!PL_madskills,FALSE);
4796         DEBUG_T( { S_printbuf(aTHX_ "### Saw string before %s\n", s); } );
4797         if (PL_expect == XOPERATOR) {
4798             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
4799                 PL_expect = XTERM;
4800                 deprecate_old(commaless_variable_list);
4801                 return REPORT(','); /* grandfather non-comma-format format */
4802             }
4803             else
4804                 no_op("String",s);
4805         }
4806         if (!s)
4807             missingterm(NULL);
4808         yylval.ival = OP_CONST;
4809         TERM(sublex_start());
4810
4811     case '"':
4812         s = scan_str(s,!!PL_madskills,FALSE);
4813         DEBUG_T( { S_printbuf(aTHX_ "### Saw string before %s\n", s); } );
4814         if (PL_expect == XOPERATOR) {
4815             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
4816                 PL_expect = XTERM;
4817                 deprecate_old(commaless_variable_list);
4818                 return REPORT(','); /* grandfather non-comma-format format */
4819             }
4820             else
4821                 no_op("String",s);
4822         }
4823         if (!s)
4824             missingterm(NULL);
4825         yylval.ival = OP_CONST;
4826         /* FIXME. I think that this can be const if char *d is replaced by
4827            more localised variables.  */
4828         for (d = SvPV(PL_lex_stuff, len); len; len--, d++) {
4829             if (*d == '$' || *d == '@' || *d == '\\' || !UTF8_IS_INVARIANT((U8)*d)) {
4830                 yylval.ival = OP_STRINGIFY;
4831                 break;
4832             }
4833         }
4834         TERM(sublex_start());
4835
4836     case '`':
4837         s = scan_str(s,!!PL_madskills,FALSE);
4838         DEBUG_T( { S_printbuf(aTHX_ "### Saw backtick string before %s\n", s); } );
4839         if (PL_expect == XOPERATOR)
4840             no_op("Backticks",s);
4841         if (!s)
4842             missingterm(NULL);
4843         yylval.ival = OP_BACKTICK;
4844         set_csh();
4845         TERM(sublex_start());
4846
4847     case '\\':
4848         s++;
4849         if (PL_lex_inwhat && isDIGIT(*s) && ckWARN(WARN_SYNTAX))
4850             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),"Can't use \\%c to mean $%c in expression",
4851                         *s, *s);
4852         if (PL_expect == XOPERATOR)
4853             no_op("Backslash",s);
4854         OPERATOR(REFGEN);
4855
4856     case 'v':
4857         if (isDIGIT(s[1]) && PL_expect != XOPERATOR) {
4858             char *start = s + 2;
4859             while (isDIGIT(*start) || *start == '_')
4860                 start++;
4861             if (*start == '.' && isDIGIT(start[1])) {
4862                 s = scan_num(s, &yylval);
4863                 TERM(THING);
4864             }
4865             /* avoid v123abc() or $h{v1}, allow C<print v10;> */
4866             else if (!isALPHA(*start) && (PL_expect == XTERM
4867                         || PL_expect == XREF || PL_expect == XSTATE
4868                         || PL_expect == XTERMORDORDOR)) {
4869                 /* XXX Use gv_fetchpvn rather than stomping on a const string */
4870                 const char c = *start;
4871                 GV *gv;
4872                 *start = '\0';
4873                 gv = gv_fetchpv(s, 0, SVt_PVCV);
4874                 *start = c;
4875                 if (!gv) {
4876                     s = scan_num(s, &yylval);
4877                     TERM(THING);
4878                 }
4879             }
4880         }
4881         goto keylookup;
4882     case 'x':
4883         if (isDIGIT(s[1]) && PL_expect == XOPERATOR) {
4884             s++;
4885             Mop(OP_REPEAT);
4886         }
4887         goto keylookup;
4888
4889     case '_':
4890     case 'a': case 'A':
4891     case 'b': case 'B':
4892     case 'c': case 'C':
4893     case 'd': case 'D':
4894     case 'e': case 'E':
4895     case 'f': case 'F':
4896     case 'g': case 'G':
4897     case 'h': case 'H':
4898     case 'i': case 'I':
4899     case 'j': case 'J':
4900     case 'k': case 'K':
4901     case 'l': case 'L':
4902     case 'm': case 'M':
4903     case 'n': case 'N':
4904     case 'o': case 'O':
4905     case 'p': case 'P':
4906     case 'q': case 'Q':
4907     case 'r': case 'R':
4908     case 's': case 'S':
4909     case 't': case 'T':
4910     case 'u': case 'U':
4911               case 'V':
4912     case 'w': case 'W':
4913               case 'X':
4914     case 'y': case 'Y':
4915     case 'z': case 'Z':
4916
4917       keylookup: {
4918         I32 tmp;
4919         I32 orig_keyword = 0;
4920         GV *gv = NULL;
4921         GV **gvp = NULL;
4922
4923         PL_bufptr = s;
4924         s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
4925
4926         /* Some keywords can be followed by any delimiter, including ':' */
4927         tmp = ((len == 1 && strchr("msyq", PL_tokenbuf[0])) ||
4928                (len == 2 && ((PL_tokenbuf[0] == 't' && PL_tokenbuf[1] == 'r') ||
4929                              (PL_tokenbuf[0] == 'q' &&
4930                               strchr("qwxr", PL_tokenbuf[1])))));
4931
4932         /* x::* is just a word, unless x is "CORE" */
4933         if (!tmp && *s == ':' && s[1] == ':' && strNE(PL_tokenbuf, "CORE"))
4934             goto just_a_word;
4935
4936         d = s;
4937         while (d < PL_bufend && isSPACE(*d))
4938                 d++;    /* no comments skipped here, or s### is misparsed */
4939
4940         /* Is this a label? */
4941         if (!tmp && PL_expect == XSTATE
4942               && d < PL_bufend && *d == ':' && *(d + 1) != ':') {
4943             s = d + 1;
4944             yylval.pval = savepv(PL_tokenbuf);
4945             CLINE;
4946             TOKEN(LABEL);
4947         }
4948
4949         /* Check for keywords */
4950         tmp = keyword(PL_tokenbuf, len);
4951
4952         /* Is this a word before a => operator? */
4953         if (*d == '=' && d[1] == '>') {
4954             CLINE;
4955             yylval.opval
4956                 = (OP*)newSVOP(OP_CONST, 0,
4957                                S_newSV_maybe_utf8(aTHX_ PL_tokenbuf, len));
4958             yylval.opval->op_private = OPpCONST_BARE;
4959             TERM(WORD);
4960         }
4961
4962         if (tmp < 0) {                  /* second-class keyword? */
4963             GV *ogv = NULL;     /* override (winner) */
4964             GV *hgv = NULL;     /* hidden (loser) */
4965             if (PL_expect != XOPERATOR && (*s != ':' || s[1] != ':')) {
4966                 CV *cv;
4967                 if ((gv = gv_fetchpvn_flags(PL_tokenbuf, len, 0, SVt_PVCV)) &&
4968                     (cv = GvCVu(gv)))
4969                 {
4970                     if (GvIMPORTED_CV(gv))
4971                         ogv = gv;
4972                     else if (! CvMETHOD(cv))
4973                         hgv = gv;
4974                 }
4975                 if (!ogv &&
4976                     (gvp = (GV**)hv_fetch(PL_globalstash,PL_tokenbuf,len,FALSE)) &&
4977                     (gv = *gvp) != (GV*)&PL_sv_undef &&
4978                     GvCVu(gv) && GvIMPORTED_CV(gv))
4979                 {
4980                     ogv = gv;
4981                 }
4982             }
4983             if (ogv) {
4984                 orig_keyword = tmp;
4985                 tmp = 0;                /* overridden by import or by GLOBAL */
4986             }
4987             else if (gv && !gvp
4988                      && -tmp==KEY_lock  /* XXX generalizable kludge */
4989                      && GvCVu(gv)
4990                      && !hv_fetchs(GvHVn(PL_incgv), "Thread.pm", FALSE))
4991             {
4992                 tmp = 0;                /* any sub overrides "weak" keyword */
4993             }
4994             else {                      /* no override */
4995                 tmp = -tmp;
4996                 if (tmp == KEY_dump && ckWARN(WARN_MISC)) {
4997                     Perl_warner(aTHX_ packWARN(WARN_MISC),
4998                             "dump() better written as CORE::dump()");
4999                 }
5000                 gv = NULL;
5001                 gvp = 0;
5002                 if (hgv && tmp != KEY_x && tmp != KEY_CORE
5003                         && ckWARN(WARN_AMBIGUOUS))      /* never ambiguous */
5004                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5005                         "Ambiguous call resolved as CORE::%s(), %s",
5006                          GvENAME(hgv), "qualify as such or use &");
5007             }
5008         }
5009
5010       reserved_word:
5011         switch (tmp) {
5012
5013         default:                        /* not a keyword */
5014             /* Trade off - by using this evil construction we can pull the
5015                variable gv into the block labelled keylookup. If not, then
5016                we have to give it function scope so that the goto from the
5017                earlier ':' case doesn't bypass the initialisation.  */
5018             if (0) {
5019             just_a_word_zero_gv:
5020                 gv = NULL;
5021                 gvp = NULL;
5022                 orig_keyword = 0;
5023             }
5024           just_a_word: {
5025                 SV *sv;
5026                 int pkgname = 0;
5027                 const char lastchar = (PL_bufptr == PL_oldoldbufptr ? 0 : PL_bufptr[-1]);
5028                 CV *cv;
5029 #ifdef PERL_MAD
5030                 SV *nextPL_nextwhite = 0;
5031 #endif
5032
5033
5034                 /* Get the rest if it looks like a package qualifier */
5035
5036                 if (*s == '\'' || (*s == ':' && s[1] == ':')) {
5037                     STRLEN morelen;
5038                     s = scan_word(s, PL_tokenbuf + len, sizeof PL_tokenbuf - len,
5039                                   TRUE, &morelen);
5040                     if (!morelen)
5041                         Perl_croak(aTHX_ "Bad name after %s%s", PL_tokenbuf,
5042                                 *s == '\'' ? "'" : "::");
5043                     len += morelen;
5044                     pkgname = 1;
5045                 }
5046
5047                 if (PL_expect == XOPERATOR) {
5048                     if (PL_bufptr == PL_linestart) {
5049                         CopLINE_dec(PL_curcop);
5050                         Perl_warner(aTHX_ packWARN(WARN_SEMICOLON), PL_warn_nosemi);
5051                         CopLINE_inc(PL_curcop);
5052                     }
5053                     else
5054                         no_op("Bareword",s);
5055                 }
5056
5057                 /* Look for a subroutine with this name in current package,
5058                    unless name is "Foo::", in which case Foo is a bearword
5059                    (and a package name). */
5060
5061                 if (len > 2 && !PL_madskills &&
5062                     PL_tokenbuf[len - 2] == ':' && PL_tokenbuf[len - 1] == ':')
5063                 {
5064                     if (ckWARN(WARN_BAREWORD)
5065                         && ! gv_fetchpvn_flags(PL_tokenbuf, len, 0, SVt_PVHV))
5066                         Perl_warner(aTHX_ packWARN(WARN_BAREWORD),
5067                             "Bareword \"%s\" refers to nonexistent package",
5068                              PL_tokenbuf);
5069                     len -= 2;
5070                     PL_tokenbuf[len] = '\0';
5071                     gv = NULL;
5072                     gvp = 0;
5073                 }
5074                 else {
5075                     if (!gv) {
5076                         /* Mustn't actually add anything to a symbol table.
5077                            But also don't want to "initialise" any placeholder
5078                            constants that might already be there into full
5079                            blown PVGVs with attached PVCV.  */
5080                         gv = gv_fetchpvn_flags(PL_tokenbuf, len,
5081                                                GV_NOADD_NOINIT, SVt_PVCV);
5082                     }
5083                     len = 0;
5084                 }
5085
5086                 /* if we saw a global override before, get the right name */
5087
5088                 if (gvp) {
5089                     sv = newSVpvs("CORE::GLOBAL::");
5090                     sv_catpv(sv,PL_tokenbuf);
5091                 }
5092                 else {
5093                     /* If len is 0, newSVpv does strlen(), which is correct.
5094                        If len is non-zero, then it will be the true length,
5095                        and so the scalar will be created correctly.  */
5096                     sv = newSVpv(PL_tokenbuf,len);
5097                 }
5098 #ifdef PERL_MAD
5099                 if (PL_madskills && !PL_thistoken) {
5100                     char *start = SvPVX(PL_linestr) + PL_realtokenstart;
5101                     PL_thistoken = newSVpv(start,s - start);
5102                     PL_realtokenstart = s - SvPVX(PL_linestr);
5103                 }
5104 #endif
5105
5106                 /* Presume this is going to be a bareword of some sort. */
5107
5108                 CLINE;
5109                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
5110                 yylval.opval->op_private = OPpCONST_BARE;
5111                 /* UTF-8 package name? */
5112                 if (UTF && !IN_BYTES &&
5113                     is_utf8_string((U8*)SvPVX_const(sv), SvCUR(sv)))
5114                     SvUTF8_on(sv);
5115
5116                 /* And if "Foo::", then that's what it certainly is. */
5117
5118                 if (len)
5119                     goto safe_bareword;
5120
5121                 /* Do the explicit type check so that we don't need to force
5122                    the initialisation of the symbol table to have a real GV.
5123                    Beware - gv may not really be a PVGV, cv may not really be
5124                    a PVCV, (because of the space optimisations that gv_init
5125                    understands) But they're true if for this symbol there is
5126                    respectively a typeglob and a subroutine.
5127                 */
5128                 cv = gv ? ((SvTYPE(gv) == SVt_PVGV)
5129                     /* Real typeglob, so get the real subroutine: */
5130                            ? GvCVu(gv)
5131                     /* A proxy for a subroutine in this package? */
5132                            : SvOK(gv) ? (CV *) gv : NULL)
5133                     : NULL;
5134
5135                 /* See if it's the indirect object for a list operator. */
5136
5137                 if (PL_oldoldbufptr &&
5138                     PL_oldoldbufptr < PL_bufptr &&
5139                     (PL_oldoldbufptr == PL_last_lop
5140                      || PL_oldoldbufptr == PL_last_uni) &&
5141                     /* NO SKIPSPACE BEFORE HERE! */
5142                     (PL_expect == XREF ||
5143                      ((PL_opargs[PL_last_lop_op] >> OASHIFT)& 7) == OA_FILEREF))
5144                 {
5145                     bool immediate_paren = *s == '(';
5146
5147                     /* (Now we can afford to cross potential line boundary.) */
5148                     s = SKIPSPACE2(s,nextPL_nextwhite);
5149 #ifdef PERL_MAD
5150                     PL_nextwhite = nextPL_nextwhite;    /* assume no & deception */
5151 #endif
5152
5153                     /* Two barewords in a row may indicate method call. */
5154
5155                     if ((isIDFIRST_lazy_if(s,UTF) || *s == '$') &&
5156                         (tmp = intuit_method(s, gv, cv)))
5157                         return REPORT(tmp);
5158
5159                     /* If not a declared subroutine, it's an indirect object. */
5160                     /* (But it's an indir obj regardless for sort.) */
5161                     /* Also, if "_" follows a filetest operator, it's a bareword */
5162
5163                     if (
5164                         ( !immediate_paren && (PL_last_lop_op == OP_SORT ||
5165                          ((!gv || !cv) &&
5166                         (PL_last_lop_op != OP_MAPSTART &&
5167                          PL_last_lop_op != OP_GREPSTART))))
5168                        || (PL_tokenbuf[0] == '_' && PL_tokenbuf[1] == '\0'
5169                             && ((PL_opargs[PL_last_lop_op] & OA_CLASS_MASK) == OA_FILESTATOP))
5170                        )
5171                     {
5172                         PL_expect = (PL_last_lop == PL_oldoldbufptr) ? XTERM : XOPERATOR;
5173                         goto bareword;
5174                     }
5175                 }
5176
5177                 PL_expect = XOPERATOR;
5178 #ifdef PERL_MAD
5179                 if (isSPACE(*s))
5180                     s = SKIPSPACE2(s,nextPL_nextwhite);
5181                 PL_nextwhite = nextPL_nextwhite;
5182 #else
5183                 s = skipspace(s);
5184 #endif
5185
5186                 /* Is this a word before a => operator? */
5187                 if (*s == '=' && s[1] == '>' && !pkgname) {
5188                     CLINE;
5189                     sv_setpv(((SVOP*)yylval.opval)->op_sv, PL_tokenbuf);
5190                     if (UTF && !IN_BYTES && is_utf8_string((U8*)PL_tokenbuf, len))
5191                       SvUTF8_on(((SVOP*)yylval.opval)->op_sv);
5192                     TERM(WORD);
5193                 }
5194
5195                 /* If followed by a paren, it's certainly a subroutine. */
5196                 if (*s == '(') {
5197                     CLINE;
5198                     if (cv) {
5199                         for (d = s + 1; SPACE_OR_TAB(*d); d++) ;
5200                         if (*d == ')' && (sv = gv_const_sv(gv))) {
5201                             s = d + 1;
5202 #ifdef PERL_MAD
5203                             if (PL_madskills) {
5204                                 char *par = SvPVX(PL_linestr) + PL_realtokenstart;
5205                                 sv_catpvn(PL_thistoken, par, s - par);
5206                                 if (PL_nextwhite) {
5207                                     sv_free(PL_nextwhite);
5208                                     PL_nextwhite = 0;
5209                                 }
5210                             }
5211 #endif
5212                             goto its_constant;
5213                         }
5214                     }
5215 #ifdef PERL_MAD
5216                     if (PL_madskills) {
5217                         PL_nextwhite = PL_thiswhite;
5218                         PL_thiswhite = 0;
5219                     }
5220                     start_force(PL_curforce);
5221 #endif
5222                     NEXTVAL_NEXTTOKE.opval = yylval.opval;
5223                     PL_expect = XOPERATOR;
5224 #ifdef PERL_MAD
5225                     if (PL_madskills) {
5226                         PL_nextwhite = nextPL_nextwhite;
5227                         curmad('X', PL_thistoken);
5228                         PL_thistoken = newSVpvn("",0);
5229                     }
5230 #endif
5231                     force_next(WORD);
5232                     yylval.ival = 0;
5233                     TOKEN('&');
5234                 }
5235
5236                 /* If followed by var or block, call it a method (unless sub) */
5237
5238                 if ((*s == '$' || *s == '{') && (!gv || !cv)) {
5239                     PL_last_lop = PL_oldbufptr;
5240                     PL_last_lop_op = OP_METHOD;
5241                     PREBLOCK(METHOD);
5242                 }
5243
5244                 /* If followed by a bareword, see if it looks like indir obj. */
5245
5246                 if (!orig_keyword
5247                         && (isIDFIRST_lazy_if(s,UTF) || *s == '$')
5248                         && (tmp = intuit_method(s, gv, cv)))
5249                     return REPORT(tmp);
5250
5251                 /* Not a method, so call it a subroutine (if defined) */
5252
5253                 if (cv) {
5254                     if (lastchar == '-' && ckWARN_d(WARN_AMBIGUOUS))
5255                         Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5256                                 "Ambiguous use of -%s resolved as -&%s()",
5257                                 PL_tokenbuf, PL_tokenbuf);
5258                     /* Check for a constant sub */
5259                     if ((sv = gv_const_sv(gv))) {
5260                   its_constant:
5261                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
5262                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc_simple(sv);
5263                         yylval.opval->op_private = 0;
5264                         TOKEN(WORD);
5265                     }
5266
5267                     /* Resolve to GV now. */
5268                     if (SvTYPE(gv) != SVt_PVGV) {
5269                         gv = gv_fetchpv(PL_tokenbuf, 0, SVt_PVCV);
5270                         assert (SvTYPE(gv) == SVt_PVGV);
5271                         /* cv must have been some sort of placeholder, so
5272                            now needs replacing with a real code reference.  */
5273                         cv = GvCV(gv);
5274                     }
5275
5276                     op_free(yylval.opval);
5277                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
5278                     yylval.opval->op_private |= OPpENTERSUB_NOPAREN;
5279                     PL_last_lop = PL_oldbufptr;
5280                     PL_last_lop_op = OP_ENTERSUB;
5281                     /* Is there a prototype? */
5282                     if (
5283 #ifdef PERL_MAD
5284                         cv &&
5285 #endif
5286                         SvPOK(cv)) {
5287                         STRLEN protolen;
5288                         const char *proto = SvPV_const((SV*)cv, protolen);
5289                         if (!protolen)
5290                             TERM(FUNC0SUB);
5291                         if (*proto == '$' && proto[1] == '\0')
5292                             OPERATOR(UNIOPSUB);
5293                         while (*proto == ';')
5294                             proto++;
5295                         if (*proto == '&' && *s == '{') {
5296                             sv_setpv(PL_subname, PL_curstash ?
5297                                         "__ANON__" : "__ANON__::__ANON__");
5298                             PREBLOCK(LSTOPSUB);
5299                         }
5300                     }
5301 #ifdef PERL_MAD
5302                     {
5303                         if (PL_madskills) {
5304                             PL_nextwhite = PL_thiswhite;
5305                             PL_thiswhite = 0;
5306                         }
5307                         start_force(PL_curforce);
5308                         NEXTVAL_NEXTTOKE.opval = yylval.opval;
5309                         PL_expect = XTERM;
5310                         if (PL_madskills) {
5311                             PL_nextwhite = nextPL_nextwhite;
5312                             curmad('X', PL_thistoken);
5313                             PL_thistoken = newSVpvn("",0);
5314                         }
5315                         force_next(WORD);
5316                         TOKEN(NOAMP);
5317                     }
5318                 }
5319
5320                 /* Guess harder when madskills require "best effort". */
5321                 if (PL_madskills && (!gv || !GvCVu(gv))) {
5322                     int probable_sub = 0;
5323                     if (strchr("\"'`$@%0123456789!*+{[<", *s))
5324                         probable_sub = 1;
5325                     else if (isALPHA(*s)) {
5326                         char tmpbuf[1024];
5327                         STRLEN tmplen;
5328                         d = s;
5329                         d = scan_word(d, tmpbuf, sizeof tmpbuf, TRUE, &tmplen);
5330                         if (!keyword(tmpbuf,tmplen))
5331                             probable_sub = 1;
5332                         else {
5333                             while (d < PL_bufend && isSPACE(*d))
5334                                 d++;
5335                             if (*d == '=' && d[1] == '>')
5336                                 probable_sub = 1;
5337                         }
5338                     }
5339                     if (probable_sub) {
5340                         gv = gv_fetchpv(PL_tokenbuf, TRUE, SVt_PVCV);
5341                         op_free(yylval.opval);
5342                         yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
5343                         yylval.opval->op_private |= OPpENTERSUB_NOPAREN;
5344                         PL_last_lop = PL_oldbufptr;
5345                         PL_last_lop_op = OP_ENTERSUB;
5346                         PL_nextwhite = PL_thiswhite;
5347                         PL_thiswhite = 0;
5348                         start_force(PL_curforce);
5349                         NEXTVAL_NEXTTOKE.opval = yylval.opval;
5350                         PL_expect = XTERM;
5351                         PL_nextwhite = nextPL_nextwhite;
5352                         curmad('X', PL_thistoken);
5353                         PL_thistoken = newSVpvn("",0);
5354                         force_next(WORD);
5355                         TOKEN(NOAMP);
5356                     }
5357 #else
5358                     NEXTVAL_NEXTTOKE.opval = yylval.opval;
5359                     PL_expect = XTERM;
5360                     force_next(WORD);
5361                     TOKEN(NOAMP);
5362 #endif
5363                 }
5364
5365                 /* Call it a bare word */
5366
5367                 if (PL_hints & HINT_STRICT_SUBS)
5368                     yylval.opval->op_private |= OPpCONST_STRICT;
5369                 else {
5370                 bareword:
5371                     if (lastchar != '-') {
5372                         if (ckWARN(WARN_RESERVED)) {
5373                             for (d = PL_tokenbuf; *d && isLOWER(*d); d++) ;
5374                             if (!*d && !gv_stashpv(PL_tokenbuf,FALSE))
5375                                 Perl_warner(aTHX_ packWARN(WARN_RESERVED), PL_warn_reserved,
5376                                        PL_tokenbuf);
5377                         }
5378                     }
5379                 }
5380
5381             safe_bareword:
5382                 if ((lastchar == '*' || lastchar == '%' || lastchar == '&')
5383                     && ckWARN_d(WARN_AMBIGUOUS)) {
5384                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5385                         "Operator or semicolon missing before %c%s",
5386                         lastchar, PL_tokenbuf);
5387                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5388                         "Ambiguous use of %c resolved as operator %c",
5389                         lastchar, lastchar);
5390                 }
5391                 TOKEN(WORD);
5392             }
5393
5394         case KEY___FILE__:
5395             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
5396                                         newSVpv(CopFILE(PL_curcop),0));
5397             TERM(THING);
5398
5399         case KEY___LINE__:
5400             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
5401                                     Perl_newSVpvf(aTHX_ "%"IVdf, (IV)CopLINE(PL_curcop)));
5402             TERM(THING);
5403
5404         case KEY___PACKAGE__:
5405             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
5406                                         (PL_curstash
5407                                          ? newSVhek(HvNAME_HEK(PL_curstash))
5408                                          : &PL_sv_undef));
5409             TERM(THING);
5410
5411         case KEY___DATA__:
5412         case KEY___END__: {
5413             GV *gv;
5414             if (PL_rsfp && (!PL_in_eval || PL_tokenbuf[2] == 'D')) {
5415                 const char *pname = "main";
5416                 if (PL_tokenbuf[2] == 'D')
5417                     pname = HvNAME_get(PL_curstash ? PL_curstash : PL_defstash);
5418                 gv = gv_fetchpv(Perl_form(aTHX_ "%s::DATA", pname), GV_ADD,
5419                                 SVt_PVIO);
5420                 GvMULTI_on(gv);
5421                 if (!GvIO(gv))
5422                     GvIOp(gv) = newIO();
5423                 IoIFP(GvIOp(gv)) = PL_rsfp;
5424 #if defined(HAS_FCNTL) && defined(F_SETFD)
5425                 {
5426                     const int fd = PerlIO_fileno(PL_rsfp);
5427                     fcntl(fd,F_SETFD,fd >= 3);
5428                 }
5429 #endif
5430                 /* Mark this internal pseudo-handle as clean */
5431                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
5432                 if (PL_preprocess)
5433                     IoTYPE(GvIOp(gv)) = IoTYPE_PIPE;
5434                 else if ((PerlIO*)PL_rsfp == PerlIO_stdin())
5435                     IoTYPE(GvIOp(gv)) = IoTYPE_STD;
5436                 else
5437                     IoTYPE(GvIOp(gv)) = IoTYPE_RDONLY;
5438 #if defined(WIN32) && !defined(PERL_TEXTMODE_SCRIPTS)
5439                 /* if the script was opened in binmode, we need to revert
5440                  * it to text mode for compatibility; but only iff it has CRs
5441                  * XXX this is a questionable hack at best. */
5442                 if (PL_bufend-PL_bufptr > 2
5443                     && PL_bufend[-1] == '\n' && PL_bufend[-2] == '\r')
5444                 {
5445                     Off_t loc = 0;
5446                     if (IoTYPE(GvIOp(gv)) == IoTYPE_RDONLY) {
5447                         loc = PerlIO_tell(PL_rsfp);
5448                         (void)PerlIO_seek(PL_rsfp, 0L, 0);
5449                     }
5450 #ifdef NETWARE
5451                         if (PerlLIO_setmode(PL_rsfp, O_TEXT) != -1) {
5452 #else
5453                     if (PerlLIO_setmode(PerlIO_fileno(PL_rsfp), O_TEXT) != -1) {
5454 #endif  /* NETWARE */
5455 #ifdef PERLIO_IS_STDIO /* really? */
5456 #  if defined(__BORLANDC__)
5457                         /* XXX see note in do_binmode() */
5458                         ((FILE*)PL_rsfp)->flags &= ~_F_BIN;
5459 #  endif
5460 #endif
5461                         if (loc > 0)
5462                             PerlIO_seek(PL_rsfp, loc, 0);
5463                     }
5464                 }
5465 #endif
5466 #ifdef PERLIO_LAYERS
5467                 if (!IN_BYTES) {
5468                     if (UTF)
5469                         PerlIO_apply_layers(aTHX_ PL_rsfp, NULL, ":utf8");
5470                     else if (PL_encoding) {
5471                         SV *name;
5472                         dSP;
5473                         ENTER;
5474                         SAVETMPS;
5475                         PUSHMARK(sp);
5476                         EXTEND(SP, 1);
5477                         XPUSHs(PL_encoding);
5478                         PUTBACK;
5479                         call_method("name", G_SCALAR);
5480                         SPAGAIN;
5481                         name = POPs;
5482                         PUTBACK;
5483                         PerlIO_apply_layers(aTHX_ PL_rsfp, NULL,
5484                                             Perl_form(aTHX_ ":encoding(%"SVf")",
5485                                                       name));
5486                         FREETMPS;
5487                         LEAVE;
5488                     }
5489                 }
5490 #endif
5491 #ifdef PERL_MAD
5492                 if (PL_madskills) {
5493                     if (PL_realtokenstart >= 0) {
5494                         char *tstart = SvPVX(PL_linestr) + PL_realtokenstart;
5495                         if (!PL_endwhite)
5496                             PL_endwhite = newSVpvn("",0);
5497                         sv_catsv(PL_endwhite, PL_thiswhite);
5498                         PL_thiswhite = 0;
5499                         sv_catpvn(PL_endwhite, tstart, PL_bufend - tstart);
5500                         PL_realtokenstart = -1;
5501                     }
5502                     while ((s = filter_gets(PL_endwhite, PL_rsfp,
5503                                  SvCUR(PL_endwhite))) != Nullch) ;
5504                 }
5505 #endif
5506                 PL_rsfp = NULL;
5507             }
5508             goto fake_eof;
5509         }
5510
5511         case KEY_AUTOLOAD:
5512         case KEY_DESTROY:
5513         case KEY_BEGIN:
5514         case KEY_CHECK:
5515         case KEY_INIT:
5516         case KEY_END:
5517             if (PL_expect == XSTATE) {
5518                 s = PL_bufptr;
5519                 goto really_sub;
5520             }
5521             goto just_a_word;
5522
5523         case KEY_CORE:
5524             if (*s == ':' && s[1] == ':') {
5525                 s += 2;
5526                 d = s;
5527                 s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
5528                 if (!(tmp = keyword(PL_tokenbuf, len)))
5529                     Perl_croak(aTHX_ "CORE::%s is not a keyword", PL_tokenbuf);
5530                 if (tmp < 0)
5531                     tmp = -tmp;
5532                 else if (tmp == KEY_require || tmp == KEY_do)
5533                     /* that's a way to remember we saw "CORE::" */
5534                     orig_keyword = tmp;
5535                 goto reserved_word;
5536             }
5537             goto just_a_word;
5538
5539         case KEY_abs:
5540             UNI(OP_ABS);
5541
5542         case KEY_alarm:
5543             UNI(OP_ALARM);
5544
5545         case KEY_accept:
5546             LOP(OP_ACCEPT,XTERM);
5547
5548         case KEY_and:
5549             OPERATOR(ANDOP);
5550
5551         case KEY_atan2:
5552             LOP(OP_ATAN2,XTERM);
5553
5554         case KEY_bind:
5555             LOP(OP_BIND,XTERM);
5556
5557         case KEY_binmode:
5558             LOP(OP_BINMODE,XTERM);
5559
5560         case KEY_bless:
5561             LOP(OP_BLESS,XTERM);
5562
5563         case KEY_break:
5564             FUN0(OP_BREAK);
5565
5566         case KEY_chop:
5567             UNI(OP_CHOP);
5568
5569         case KEY_continue:
5570             /* When 'use switch' is in effect, continue has a dual
5571                life as a control operator. */
5572             {
5573                 if (!FEATURE_IS_ENABLED("switch"))
5574                     PREBLOCK(CONTINUE);
5575                 else {
5576                     /* We have to disambiguate the two senses of
5577                       "continue". If the next token is a '{' then
5578                       treat it as the start of a continue block;
5579                       otherwise treat it as a control operator.
5580                      */
5581                     s = skipspace(s);
5582                     if (*s == '{')
5583             PREBLOCK(CONTINUE);
5584                     else
5585                         FUN0(OP_CONTINUE);
5586                 }
5587             }
5588
5589         case KEY_chdir:
5590             /* may use HOME */
5591             (void)gv_fetchpvs("ENV", GV_ADD|GV_NOTQUAL, SVt_PVHV);
5592             UNI(OP_CHDIR);
5593
5594         case KEY_close:
5595             UNI(OP_CLOSE);
5596
5597         case KEY_closedir:
5598             UNI(OP_CLOSEDIR);
5599
5600         case KEY_cmp:
5601             Eop(OP_SCMP);
5602
5603         case KEY_caller:
5604             UNI(OP_CALLER);
5605
5606         case KEY_crypt:
5607 #ifdef FCRYPT
5608             if (!PL_cryptseen) {
5609                 PL_cryptseen = TRUE;
5610                 init_des();
5611             }
5612 #endif
5613             LOP(OP_CRYPT,XTERM);
5614
5615         case KEY_chmod:
5616             LOP(OP_CHMOD,XTERM);
5617
5618         case KEY_chown:
5619             LOP(OP_CHOWN,XTERM);
5620
5621         case KEY_connect:
5622             LOP(OP_CONNECT,XTERM);
5623
5624         case KEY_chr:
5625             UNI(OP_CHR);
5626
5627         case KEY_cos:
5628             UNI(OP_COS);
5629
5630         case KEY_chroot:
5631             UNI(OP_CHROOT);
5632
5633         case KEY_default:
5634             PREBLOCK(DEFAULT);
5635
5636         case KEY_do:
5637             s = SKIPSPACE1(s);
5638             if (*s == '{')
5639                 PRETERMBLOCK(DO);
5640             if (*s != '\'')
5641                 s = force_word(s,WORD,TRUE,TRUE,FALSE);
5642             if (orig_keyword == KEY_do) {
5643                 orig_keyword = 0;
5644                 yylval.ival = 1;
5645             }
5646             else
5647                 yylval.ival = 0;
5648             OPERATOR(DO);
5649
5650         case KEY_die:
5651             PL_hints |= HINT_BLOCK_SCOPE;
5652             LOP(OP_DIE,XTERM);
5653
5654         case KEY_defined:
5655             UNI(OP_DEFINED);
5656
5657         case KEY_delete:
5658             UNI(OP_DELETE);
5659
5660         case KEY_dbmopen:
5661             gv_fetchpvs("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
5662             LOP(OP_DBMOPEN,XTERM);
5663
5664         case KEY_dbmclose:
5665             UNI(OP_DBMCLOSE);
5666
5667         case KEY_dump:
5668             s = force_word(s,WORD,TRUE,FALSE,FALSE);
5669             LOOPX(OP_DUMP);
5670
5671         case KEY_else:
5672             PREBLOCK(ELSE);
5673
5674         case KEY_elsif:
5675             yylval.ival = CopLINE(PL_curcop);
5676             OPERATOR(ELSIF);
5677
5678         case KEY_eq:
5679             Eop(OP_SEQ);
5680
5681         case KEY_exists:
5682             UNI(OP_EXISTS);
5683
5684         case KEY_exit:
5685             if (PL_madskills)
5686                 UNI(OP_INT);
5687             UNI(OP_EXIT);
5688
5689         case KEY_eval:
5690             s = SKIPSPACE1(s);
5691             PL_expect = (*s == '{') ? XTERMBLOCK : XTERM;
5692             UNIBRACK(OP_ENTEREVAL);
5693
5694         case KEY_eof:
5695             UNI(OP_EOF);
5696
5697         case KEY_err:
5698             OPERATOR(DOROP);
5699
5700         case KEY_exp:
5701             UNI(OP_EXP);
5702
5703         case KEY_each:
5704             UNI(OP_EACH);
5705
5706         case KEY_exec:
5707             set_csh();
5708             LOP(OP_EXEC,XREF);
5709
5710         case KEY_endhostent:
5711             FUN0(OP_EHOSTENT);
5712
5713         case KEY_endnetent:
5714             FUN0(OP_ENETENT);
5715
5716         case KEY_endservent:
5717             FUN0(OP_ESERVENT);
5718
5719         case KEY_endprotoent:
5720             FUN0(OP_EPROTOENT);
5721
5722         case KEY_endpwent:
5723             FUN0(OP_EPWENT);
5724
5725         case KEY_endgrent:
5726             FUN0(OP_EGRENT);
5727
5728         case KEY_for:
5729         case KEY_foreach:
5730             yylval.ival = CopLINE(PL_curcop);
5731             s = SKIPSPACE1(s);
5732             if (PL_expect == XSTATE && isIDFIRST_lazy_if(s,UTF)) {
5733                 char *p = s;
5734 #ifdef PERL_MAD
5735                 int soff = s - SvPVX(PL_linestr); /* for skipspace realloc */
5736 #endif
5737
5738                 if ((PL_bufend - p) >= 3 &&
5739                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
5740                     p += 2;
5741                 else if ((PL_bufend - p) >= 4 &&
5742                     strnEQ(p, "our", 3) && isSPACE(*(p + 3)))
5743                     p += 3;
5744                 p = PEEKSPACE(p);
5745                 if (isIDFIRST_lazy_if(p,UTF)) {
5746                     p = scan_ident(p, PL_bufend,
5747                         PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
5748                     p = PEEKSPACE(p);
5749                 }
5750                 if (*p != '$')
5751                     Perl_croak(aTHX_ "Missing $ on loop variable");
5752 #ifdef PERL_MAD
5753                 s = SvPVX(PL_linestr) + soff;
5754 #endif
5755             }
5756             OPERATOR(FOR);
5757
5758         case KEY_formline:
5759             LOP(OP_FORMLINE,XTERM);
5760
5761         case KEY_fork:
5762             FUN0(OP_FORK);
5763
5764         case KEY_fcntl:
5765             LOP(OP_FCNTL,XTERM);
5766
5767         case KEY_fileno:
5768             UNI(OP_FILENO);
5769
5770         case KEY_flock:
5771             LOP(OP_FLOCK,XTERM);
5772
5773         case KEY_gt:
5774             Rop(OP_SGT);
5775
5776         case KEY_ge:
5777             Rop(OP_SGE);
5778
5779         case KEY_grep:
5780             LOP(OP_GREPSTART, XREF);
5781
5782         case KEY_goto:
5783             s = force_word(s,WORD,TRUE,FALSE,FALSE);
5784             LOOPX(OP_GOTO);
5785
5786         case KEY_gmtime:
5787             UNI(OP_GMTIME);
5788
5789         case KEY_getc:
5790             UNIDOR(OP_GETC);
5791
5792         case KEY_getppid:
5793             FUN0(OP_GETPPID);
5794
5795         case KEY_getpgrp:
5796             UNI(OP_GETPGRP);
5797
5798         case KEY_getpriority:
5799             LOP(OP_GETPRIORITY,XTERM);
5800
5801         case KEY_getprotobyname:
5802             UNI(OP_GPBYNAME);
5803
5804         case KEY_getprotobynumber:
5805             LOP(OP_GPBYNUMBER,XTERM);
5806
5807         case KEY_getprotoent:
5808             FUN0(OP_GPROTOENT);
5809
5810         case KEY_getpwent:
5811             FUN0(OP_GPWENT);
5812
5813         case KEY_getpwnam:
5814             UNI(OP_GPWNAM);
5815
5816         case KEY_getpwuid:
5817             UNI(OP_GPWUID);
5818
5819         case KEY_getpeername:
5820             UNI(OP_GETPEERNAME);
5821
5822         case KEY_gethostbyname:
5823             UNI(OP_GHBYNAME);
5824
5825         case KEY_gethostbyaddr:
5826             LOP(OP_GHBYADDR,XTERM);
5827
5828         case KEY_gethostent:
5829             FUN0(OP_GHOSTENT);
5830
5831         case KEY_getnetbyname:
5832             UNI(OP_GNBYNAME);
5833
5834         case KEY_getnetbyaddr:
5835             LOP(OP_GNBYADDR,XTERM);
5836
5837         case KEY_getnetent:
5838             FUN0(OP_GNETENT);
5839
5840         case KEY_getservbyname:
5841             LOP(OP_GSBYNAME,XTERM);
5842
5843         case KEY_getservbyport:
5844             LOP(OP_GSBYPORT,XTERM);
5845
5846         case KEY_getservent:
5847             FUN0(OP_GSERVENT);
5848
5849         case KEY_getsockname:
5850             UNI(OP_GETSOCKNAME);
5851
5852         case KEY_getsockopt:
5853             LOP(OP_GSOCKOPT,XTERM);
5854
5855         case KEY_getgrent:
5856             FUN0(OP_GGRENT);
5857
5858         case KEY_getgrnam:
5859             UNI(OP_GGRNAM);
5860
5861         case KEY_getgrgid:
5862             UNI(OP_GGRGID);
5863
5864         case KEY_getlogin:
5865             FUN0(OP_GETLOGIN);
5866
5867         case KEY_given:
5868             yylval.ival = CopLINE(PL_curcop);
5869             OPERATOR(GIVEN);
5870
5871         case KEY_glob:
5872             set_csh();
5873             LOP(OP_GLOB,XTERM);
5874
5875         case KEY_hex:
5876             UNI(OP_HEX);
5877
5878         case KEY_if:
5879             yylval.ival = CopLINE(PL_curcop);
5880             OPERATOR(IF);
5881
5882         case KEY_index:
5883             LOP(OP_INDEX,XTERM);
5884
5885         case KEY_int:
5886             UNI(OP_INT);
5887
5888         case KEY_ioctl:
5889             LOP(OP_IOCTL,XTERM);
5890
5891         case KEY_join:
5892             LOP(OP_JOIN,XTERM);
5893
5894         case KEY_keys:
5895             UNI(OP_KEYS);
5896
5897         case KEY_kill:
5898             LOP(OP_KILL,XTERM);
5899
5900         case KEY_last:
5901             s = force_word(s,WORD,TRUE,FALSE,FALSE);
5902             LOOPX(OP_LAST);
5903
5904         case KEY_lc:
5905             UNI(OP_LC);
5906
5907         case KEY_lcfirst:
5908             UNI(OP_LCFIRST);
5909
5910         case KEY_local:
5911             yylval.ival = 0;
5912             OPERATOR(LOCAL);
5913
5914         case KEY_length:
5915             UNI(OP_LENGTH);
5916
5917         case KEY_lt:
5918             Rop(OP_SLT);
5919
5920         case KEY_le:
5921             Rop(OP_SLE);
5922
5923         case KEY_localtime:
5924             UNI(OP_LOCALTIME);
5925
5926         case KEY_log:
5927             UNI(OP_LOG);
5928
5929         case KEY_link:
5930             LOP(OP_LINK,XTERM);
5931
5932         case KEY_listen:
5933             LOP(OP_LISTEN,XTERM);
5934
5935         case KEY_lock:
5936             UNI(OP_LOCK);
5937
5938         case KEY_lstat:
5939             UNI(OP_LSTAT);
5940
5941         case KEY_m:
5942             s = scan_pat(s,OP_MATCH);
5943             TERM(sublex_start());
5944
5945         case KEY_map:
5946             LOP(OP_MAPSTART, XREF);
5947
5948         case KEY_mkdir:
5949             LOP(OP_MKDIR,XTERM);
5950
5951         case KEY_msgctl:
5952             LOP(OP_MSGCTL,XTERM);
5953
5954         case KEY_msgget:
5955             LOP(OP_MSGGET,XTERM);
5956
5957         case KEY_msgrcv:
5958             LOP(OP_MSGRCV,XTERM);
5959
5960         case KEY_msgsnd:
5961             LOP(OP_MSGSND,XTERM);
5962
5963         case KEY_our:
5964         case KEY_my:
5965             PL_in_my = tmp;
5966             s = SKIPSPACE1(s);
5967             if (isIDFIRST_lazy_if(s,UTF)) {
5968 #ifdef PERL_MAD
5969                 char* start = s;
5970 #endif
5971                 s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, TRUE, &len);
5972                 if (len == 3 && strnEQ(PL_tokenbuf, "sub", 3))
5973                     goto really_sub;
5974                 PL_in_my_stash = find_in_my_stash(PL_tokenbuf, len);
5975                 if (!PL_in_my_stash) {
5976                     char tmpbuf[1024];
5977                     PL_bufptr = s;
5978                     sprintf(tmpbuf, "No such class %.1000s", PL_tokenbuf);
5979                     yyerror(tmpbuf);
5980                 }
5981 #ifdef PERL_MAD
5982                 if (PL_madskills) {     /* just add type to declarator token */
5983                     sv_catsv(PL_thistoken, PL_nextwhite);
5984                     PL_nextwhite = 0;
5985                     sv_catpvn(PL_thistoken, start, s - start);
5986                 }
5987 #endif
5988             }
5989             yylval.ival = 1;
5990             OPERATOR(MY);
5991
5992         case KEY_next:
5993             s = force_word(s,WORD,TRUE,FALSE,FALSE);
5994             LOOPX(OP_NEXT);
5995
5996         case KEY_ne:
5997             Eop(OP_SNE);
5998
5999         case KEY_no:
6000             s = tokenize_use(0, s);
6001             OPERATOR(USE);
6002
6003         case KEY_not:
6004             if (*s == '(' || (s = SKIPSPACE1(s), *s == '('))
6005                 FUN1(OP_NOT);
6006             else
6007                 OPERATOR(NOTOP);
6008
6009         case KEY_open:
6010             s = SKIPSPACE1(s);
6011             if (isIDFIRST_lazy_if(s,UTF)) {
6012                 const char *t;
6013                 for (d = s; isALNUM_lazy_if(d,UTF); d++) ;
6014                 for (t=d; *t && isSPACE(*t); t++) ;
6015                 if ( *t && strchr("|&*+-=!?:.", *t) && ckWARN_d(WARN_PRECEDENCE)
6016                     /* [perl #16184] */
6017                     && !(t[0] == '=' && t[1] == '>')
6018                 ) {
6019                     int parms_len = (int)(d-s);
6020                     Perl_warner(aTHX_ packWARN(WARN_PRECEDENCE),
6021                            "Precedence problem: open %.*s should be open(%.*s)",
6022                             parms_len, s, parms_len, s);
6023                 }
6024             }
6025             LOP(OP_OPEN,XTERM);
6026
6027         case KEY_or:
6028             yylval.ival = OP_OR;
6029             OPERATOR(OROP);
6030
6031         case KEY_ord:
6032             UNI(OP_ORD);
6033
6034         case KEY_oct:
6035             UNI(OP_OCT);
6036
6037         case KEY_opendir:
6038             LOP(OP_OPEN_DIR,XTERM);
6039
6040         case KEY_print:
6041             checkcomma(s,PL_tokenbuf,"filehandle");
6042             LOP(OP_PRINT,XREF);
6043
6044         case KEY_printf:
6045             checkcomma(s,PL_tokenbuf,"filehandle");
6046             LOP(OP_PRTF,XREF);
6047
6048         case KEY_prototype:
6049             UNI(OP_PROTOTYPE);
6050
6051         case KEY_push:
6052             LOP(OP_PUSH,XTERM);
6053
6054         case KEY_pop:
6055             UNIDOR(OP_POP);
6056
6057         case KEY_pos:
6058             UNIDOR(OP_POS);
6059
6060         case KEY_pack:
6061             LOP(OP_PACK,XTERM);
6062
6063         case KEY_package:
6064             s = force_word(s,WORD,FALSE,TRUE,FALSE);
6065             OPERATOR(PACKAGE);
6066
6067         case KEY_pipe:
6068             LOP(OP_PIPE_OP,XTERM);
6069
6070         case KEY_q:
6071             s = scan_str(s,!!PL_madskills,FALSE);
6072             if (!s)
6073                 missingterm(NULL);
6074             yylval.ival = OP_CONST;
6075             TERM(sublex_start());
6076
6077         case KEY_quotemeta:
6078             UNI(OP_QUOTEMETA);
6079
6080         case KEY_qw:
6081             s = scan_str(s,!!PL_madskills,FALSE);
6082             if (!s)
6083                 missingterm(NULL);
6084             PL_expect = XOPERATOR;
6085             force_next(')');
6086             if (SvCUR(PL_lex_stuff)) {
6087                 OP *words = NULL;
6088                 int warned = 0;
6089                 d = SvPV_force(PL_lex_stuff, len);
6090                 while (len) {
6091                     for (; isSPACE(*d) && len; --len, ++d)
6092                         /**/;
6093                     if (len) {
6094                         SV *sv;
6095                         const char *b = d;
6096                         if (!warned && ckWARN(WARN_QW)) {
6097                             for (; !isSPACE(*d) && len; --len, ++d) {
6098                                 if (*d == ',') {
6099                                     Perl_warner(aTHX_ packWARN(WARN_QW),
6100                                         "Possible attempt to separate words with commas");
6101                                     ++warned;
6102                                 }
6103                                 else if (*d == '#') {
6104                                     Perl_warner(aTHX_ packWARN(WARN_QW),
6105                                         "Possible attempt to put comments in qw() list");
6106                                     ++warned;
6107                                 }
6108                             }
6109                         }
6110                         else {
6111                             for (; !isSPACE(*d) && len; --len, ++d)
6112                                 /**/;
6113                         }
6114                         sv = newSVpvn(b, d-b);
6115                         if (DO_UTF8(PL_lex_stuff))
6116                             SvUTF8_on(sv);
6117                         words = append_elem(OP_LIST, words,
6118                                             newSVOP(OP_CONST, 0, tokeq(sv)));
6119                     }
6120                 }
6121                 if (words) {
6122                     start_force(PL_curforce);
6123                     NEXTVAL_NEXTTOKE.opval = words;
6124                     force_next(THING);
6125                 }
6126             }
6127             if (PL_lex_stuff) {
6128                 SvREFCNT_dec(PL_lex_stuff);
6129                 PL_lex_stuff = NULL;
6130             }
6131             PL_expect = XTERM;
6132             TOKEN('(');
6133
6134         case KEY_qq:
6135             s = scan_str(s,!!PL_madskills,FALSE);
6136             if (!s)
6137                 missingterm(NULL);
6138             yylval.ival = OP_STRINGIFY;
6139             if (SvIVX(PL_lex_stuff) == '\'')
6140                 SvIV_set(PL_lex_stuff, 0);      /* qq'$foo' should intepolate */
6141             TERM(sublex_start());
6142
6143         case KEY_qr:
6144             s = scan_pat(s,OP_QR);
6145             TERM(sublex_start());
6146
6147         case KEY_qx:
6148             s = scan_str(s,!!PL_madskills,FALSE);
6149             if (!s)
6150                 missingterm(NULL);
6151             yylval.ival = OP_BACKTICK;
6152             set_csh();
6153             TERM(sublex_start());
6154
6155         case KEY_return:
6156             OLDLOP(OP_RETURN);
6157
6158         case KEY_require:
6159             s = SKIPSPACE1(s);
6160             if (isDIGIT(*s)) {
6161                 s = force_version(s, FALSE);
6162             }
6163             else if (*s != 'v' || !isDIGIT(s[1])
6164                     || (s = force_version(s, TRUE), *s == 'v'))
6165             {
6166                 *PL_tokenbuf = '\0';
6167                 s = force_word(s,WORD,TRUE,TRUE,FALSE);
6168                 if (isIDFIRST_lazy_if(PL_tokenbuf,UTF))
6169                     gv_stashpvn(PL_tokenbuf, strlen(PL_tokenbuf), TRUE);
6170                 else if (*s == '<')
6171                     yyerror("<> should be quotes");
6172             }
6173             if (orig_keyword == KEY_require) {
6174                 orig_keyword = 0;
6175                 yylval.ival = 1;
6176             }
6177             else
6178                 yylval.ival = 0;
6179             PL_expect = XTERM;
6180             PL_bufptr = s;
6181             PL_last_uni = PL_oldbufptr;
6182             PL_last_lop_op = OP_REQUIRE;
6183             s = skipspace(s);
6184             return REPORT( (int)REQUIRE );
6185
6186         case KEY_reset:
6187             UNI(OP_RESET);
6188
6189         case KEY_redo:
6190             s = force_word(s,WORD,TRUE,FALSE,FALSE);
6191             LOOPX(OP_REDO);
6192
6193         case KEY_rename:
6194             LOP(OP_RENAME,XTERM);
6195
6196         case KEY_rand:
6197             UNI(OP_RAND);
6198
6199         case KEY_rmdir:
6200             UNI(OP_RMDIR);
6201
6202         case KEY_rindex:
6203             LOP(OP_RINDEX,XTERM);
6204
6205         case KEY_read:
6206             LOP(OP_READ,XTERM);
6207
6208         case KEY_readdir:
6209             UNI(OP_READDIR);
6210
6211         case KEY_readline:
6212             set_csh();
6213             UNIDOR(OP_READLINE);
6214
6215         case KEY_readpipe:
6216             set_csh();
6217             UNI(OP_BACKTICK);
6218
6219         case KEY_rewinddir:
6220             UNI(OP_REWINDDIR);
6221
6222         case KEY_recv:
6223             LOP(OP_RECV,XTERM);
6224
6225         case KEY_reverse:
6226             LOP(OP_REVERSE,XTERM);
6227
6228         case KEY_readlink:
6229             UNIDOR(OP_READLINK);
6230
6231         case KEY_ref:
6232             UNI(OP_REF);
6233
6234         case KEY_s:
6235             s = scan_subst(s);
6236             if (yylval.opval)
6237                 TERM(sublex_start());
6238             else
6239                 TOKEN(1);       /* force error */
6240
6241         case KEY_say:
6242             checkcomma(s,PL_tokenbuf,"filehandle");
6243             LOP(OP_SAY,XREF);
6244
6245         case KEY_chomp:
6246             UNI(OP_CHOMP);
6247
6248         case KEY_scalar:
6249             UNI(OP_SCALAR);
6250
6251         case KEY_select:
6252             LOP(OP_SELECT,XTERM);
6253
6254         case KEY_seek:
6255             LOP(OP_SEEK,XTERM);
6256
6257         case KEY_semctl:
6258             LOP(OP_SEMCTL,XTERM);
6259
6260         case KEY_semget:
6261             LOP(OP_SEMGET,XTERM);
6262
6263         case KEY_semop:
6264             LOP(OP_SEMOP,XTERM);
6265
6266         case KEY_send:
6267             LOP(OP_SEND,XTERM);
6268
6269         case KEY_setpgrp:
6270             LOP(OP_SETPGRP,XTERM);
6271
6272         case KEY_setpriority:
6273             LOP(OP_SETPRIORITY,XTERM);
6274
6275         case KEY_sethostent:
6276             UNI(OP_SHOSTENT);
6277
6278         case KEY_setnetent:
6279             UNI(OP_SNETENT);
6280
6281         case KEY_setservent:
6282             UNI(OP_SSERVENT);
6283
6284         case KEY_setprotoent:
6285             UNI(OP_SPROTOENT);
6286
6287         case KEY_setpwent:
6288             FUN0(OP_SPWENT);
6289
6290         case KEY_setgrent:
6291             FUN0(OP_SGRENT);
6292
6293         case KEY_seekdir:
6294             LOP(OP_SEEKDIR,XTERM);
6295
6296         case KEY_setsockopt:
6297             LOP(OP_SSOCKOPT,XTERM);
6298
6299         case KEY_shift:
6300             UNIDOR(OP_SHIFT);
6301
6302         case KEY_shmctl:
6303             LOP(OP_SHMCTL,XTERM);
6304
6305         case KEY_shmget:
6306             LOP(OP_SHMGET,XTERM);
6307
6308         case KEY_shmread:
6309             LOP(OP_SHMREAD,XTERM);
6310
6311         case KEY_shmwrite:
6312             LOP(OP_SHMWRITE,XTERM);
6313
6314         case KEY_shutdown:
6315             LOP(OP_SHUTDOWN,XTERM);
6316
6317         case KEY_sin:
6318             UNI(OP_SIN);
6319
6320         case KEY_sleep:
6321             UNI(OP_SLEEP);
6322
6323         case KEY_socket:
6324             LOP(OP_SOCKET,XTERM);
6325
6326         case KEY_socketpair:
6327             LOP(OP_SOCKPAIR,XTERM);
6328
6329         case KEY_sort:
6330             checkcomma(s,PL_tokenbuf,"subroutine name");
6331             s = SKIPSPACE1(s);
6332             if (*s == ';' || *s == ')')         /* probably a close */
6333                 Perl_croak(aTHX_ "sort is now a reserved word");
6334             PL_expect = XTERM;
6335             s = force_word(s,WORD,TRUE,TRUE,FALSE);
6336             LOP(OP_SORT,XREF);
6337
6338         case KEY_split:
6339             LOP(OP_SPLIT,XTERM);
6340
6341         case KEY_sprintf:
6342             LOP(OP_SPRINTF,XTERM);
6343
6344         case KEY_splice:
6345             LOP(OP_SPLICE,XTERM);
6346
6347         case KEY_sqrt:
6348             UNI(OP_SQRT);
6349
6350         case KEY_srand:
6351             UNI(OP_SRAND);
6352
6353         case KEY_stat:
6354             UNI(OP_STAT);
6355
6356         case KEY_study:
6357             UNI(OP_STUDY);
6358
6359         case KEY_substr:
6360             LOP(OP_SUBSTR,XTERM);
6361
6362         case KEY_format:
6363         case KEY_sub:
6364           really_sub:
6365             {
6366                 char tmpbuf[sizeof PL_tokenbuf];
6367                 SSize_t tboffset = 0;
6368                 expectation attrful;
6369                 bool have_name, have_proto, bad_proto;
6370                 const int key = tmp;
6371
6372 #ifdef PERL_MAD
6373                 SV *tmpwhite = 0;
6374
6375                 char *tstart = SvPVX(PL_linestr) + PL_realtokenstart;
6376                 SV *subtoken = newSVpvn(tstart, s - tstart);
6377                 PL_thistoken = 0;
6378
6379                 d = s;
6380                 s = SKIPSPACE2(s,tmpwhite);
6381 #else
6382                 s = skipspace(s);
6383 #endif
6384
6385                 if (isIDFIRST_lazy_if(s,UTF) || *s == '\'' ||
6386                     (*s == ':' && s[1] == ':'))
6387                 {
6388 #ifdef PERL_MAD
6389                     SV *nametoke;
6390 #endif
6391
6392                     PL_expect = XBLOCK;
6393                     attrful = XATTRBLOCK;
6394                     /* remember buffer pos'n for later force_word */
6395                     tboffset = s - PL_oldbufptr;
6396                     d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
6397 #ifdef PERL_MAD
6398                     if (PL_madskills)
6399                         nametoke = newSVpvn(s, d - s);
6400 #endif
6401                     if (strchr(tmpbuf, ':'))
6402                         sv_setpv(PL_subname, tmpbuf);
6403                     else {
6404                         sv_setsv(PL_subname,PL_curstname);
6405                         sv_catpvs(PL_subname,"::");
6406                         sv_catpvn(PL_subname,tmpbuf,len);
6407                     }
6408                     have_name = TRUE;
6409
6410 #ifdef PERL_MAD
6411
6412                     start_force(0);
6413                     CURMAD('X', nametoke);
6414                     CURMAD('_', tmpwhite);
6415                     (void) force_word(PL_oldbufptr + tboffset, WORD,
6416                                       FALSE, TRUE, TRUE);
6417
6418                     s = SKIPSPACE2(d,tmpwhite);
6419 #else
6420                     s = skipspace(d);
6421 #endif
6422                 }
6423                 else {
6424                     if (key == KEY_my)
6425                         Perl_croak(aTHX_ "Missing name in \"my sub\"");
6426                     PL_expect = XTERMBLOCK;
6427                     attrful = XATTRTERM;
6428                     sv_setpvn(PL_subname,"?",1);
6429                     have_name = FALSE;
6430                 }
6431
6432                 if (key == KEY_format) {
6433                     if (*s == '=')
6434                         PL_lex_formbrack = PL_lex_brackets + 1;
6435 #ifdef PERL_MAD
6436                     PL_thistoken = subtoken;
6437                     s = d;
6438 #else
6439                     if (have_name)
6440                         (void) force_word(PL_oldbufptr + tboffset, WORD,
6441                                           FALSE, TRUE, TRUE);
6442 #endif
6443                     OPERATOR(FORMAT);
6444                 }
6445
6446                 /* Look for a prototype */
6447                 if (*s == '(') {
6448                     char *p;
6449
6450                     s = scan_str(s,!!PL_madskills,FALSE);
6451                     if (!s)
6452                         Perl_croak(aTHX_ "Prototype not terminated");
6453                     /* strip spaces and check for bad characters */
6454                     d = SvPVX(PL_lex_stuff);
6455                     tmp = 0;
6456                     bad_proto = FALSE;
6457                     for (p = d; *p; ++p) {
6458                         if (!isSPACE(*p)) {
6459                             d[tmp++] = *p;
6460                             if (!strchr("$@%*;[]&\\", *p))
6461                                 bad_proto = TRUE;
6462                         }
6463                     }
6464                     d[tmp] = '\0';
6465                     if (bad_proto && ckWARN(WARN_SYNTAX))
6466                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
6467                                     "Illegal character in prototype for %"SVf" : %s",
6468                                     PL_subname, d);
6469                     SvCUR_set(PL_lex_stuff, tmp);
6470                     have_proto = TRUE;
6471
6472 #ifdef PERL_MAD
6473                     start_force(0);
6474                     CURMAD('q', PL_thisopen);
6475                     CURMAD('_', tmpwhite);
6476                     CURMAD('=', PL_thisstuff);
6477                     CURMAD('Q', PL_thisclose);
6478                     NEXTVAL_NEXTTOKE.opval =
6479                         (OP*)newSVOP(OP_CONST, 0, PL_lex_stuff);
6480                     PL_lex_stuff = Nullsv;
6481                     force_next(THING);
6482
6483                     s = SKIPSPACE2(s,tmpwhite);
6484 #else
6485                     s = skipspace(s);
6486 #endif
6487                 }
6488                 else
6489                     have_proto = FALSE;
6490
6491                 if (*s == ':' && s[1] != ':')
6492                     PL_expect = attrful;
6493                 else if (*s != '{' && key == KEY_sub) {
6494                     if (!have_name)
6495                         Perl_croak(aTHX_ "Illegal declaration of anonymous subroutine");
6496                     else if (*s != ';')
6497                         Perl_croak(aTHX_ "Illegal declaration of subroutine %"SVf, PL_subname);
6498                 }
6499
6500 #ifdef PERL_MAD
6501                 start_force(0);
6502                 if (tmpwhite) {
6503                     if (PL_madskills)
6504                         curmad('^', newSVpvn("",0));
6505                     CURMAD('_', tmpwhite);
6506                 }
6507                 force_next(0);
6508
6509                 PL_thistoken = subtoken;
6510 #else
6511                 if (have_proto) {
6512                     NEXTVAL_NEXTTOKE.opval =
6513                         (OP*)newSVOP(OP_CONST, 0, PL_lex_stuff);
6514                     PL_lex_stuff = NULL;
6515                     force_next(THING);
6516                 }
6517 #endif
6518                 if (!have_name) {
6519                     sv_setpv(PL_subname,
6520                         PL_curstash ? "__ANON__" : "__ANON__::__ANON__");
6521                     TOKEN(ANONSUB);
6522                 }
6523 #ifndef PERL_MAD
6524                 (void) force_word(PL_oldbufptr + tboffset, WORD,
6525                                   FALSE, TRUE, TRUE);
6526 #endif
6527                 if (key == KEY_my)
6528                     TOKEN(MYSUB);
6529                 TOKEN(SUB);
6530             }
6531
6532         case KEY_system:
6533             set_csh();
6534             LOP(OP_SYSTEM,XREF);
6535
6536         case KEY_symlink:
6537             LOP(OP_SYMLINK,XTERM);
6538
6539         case KEY_syscall:
6540             LOP(OP_SYSCALL,XTERM);
6541
6542         case KEY_sysopen:
6543             LOP(OP_SYSOPEN,XTERM);
6544
6545         case KEY_sysseek:
6546             LOP(OP_SYSSEEK,XTERM);
6547
6548         case KEY_sysread:
6549             LOP(OP_SYSREAD,XTERM);
6550
6551         case KEY_syswrite:
6552             LOP(OP_SYSWRITE,XTERM);
6553
6554         case KEY_tr:
6555             s = scan_trans(s);
6556             TERM(sublex_start());
6557
6558         case KEY_tell:
6559             UNI(OP_TELL);
6560
6561         case KEY_telldir:
6562             UNI(OP_TELLDIR);
6563
6564         case KEY_tie:
6565             LOP(OP_TIE,XTERM);
6566
6567         case KEY_tied:
6568             UNI(OP_TIED);
6569
6570         case KEY_time:
6571             FUN0(OP_TIME);
6572
6573         case KEY_times:
6574             FUN0(OP_TMS);
6575
6576         case KEY_truncate:
6577             LOP(OP_TRUNCATE,XTERM);
6578
6579         case KEY_uc:
6580             UNI(OP_UC);
6581
6582         case KEY_ucfirst:
6583             UNI(OP_UCFIRST);
6584
6585         case KEY_untie:
6586             UNI(OP_UNTIE);
6587
6588         case KEY_until:
6589             yylval.ival = CopLINE(PL_curcop);
6590             OPERATOR(UNTIL);
6591
6592         case KEY_unless:
6593             yylval.ival = CopLINE(PL_curcop);
6594             OPERATOR(UNLESS);
6595
6596         case KEY_unlink:
6597             LOP(OP_UNLINK,XTERM);
6598
6599         case KEY_undef:
6600             UNIDOR(OP_UNDEF);
6601
6602         case KEY_unpack:
6603             LOP(OP_UNPACK,XTERM);
6604
6605         case KEY_utime:
6606             LOP(OP_UTIME,XTERM);
6607
6608         case KEY_umask:
6609             UNIDOR(OP_UMASK);
6610
6611         case KEY_unshift:
6612             LOP(OP_UNSHIFT,XTERM);
6613
6614         case KEY_use:
6615             s = tokenize_use(1, s);
6616             OPERATOR(USE);
6617
6618         case KEY_values:
6619             UNI(OP_VALUES);
6620
6621         case KEY_vec:
6622             LOP(OP_VEC,XTERM);
6623
6624         case KEY_when:
6625             yylval.ival = CopLINE(PL_curcop);
6626             OPERATOR(WHEN);
6627
6628         case KEY_while:
6629             yylval.ival = CopLINE(PL_curcop);
6630             OPERATOR(WHILE);
6631
6632         case KEY_warn:
6633             PL_hints |= HINT_BLOCK_SCOPE;
6634             LOP(OP_WARN,XTERM);
6635
6636         case KEY_wait:
6637             FUN0(OP_WAIT);
6638
6639         case KEY_waitpid:
6640             LOP(OP_WAITPID,XTERM);
6641
6642         case KEY_wantarray:
6643             FUN0(OP_WANTARRAY);
6644
6645         case KEY_write:
6646 #ifdef EBCDIC
6647         {
6648             char ctl_l[2];
6649             ctl_l[0] = toCTRL('L');
6650             ctl_l[1] = '\0';
6651             gv_fetchpvn_flags(ctl_l, 1, GV_ADD|GV_NOTQUAL, SVt_PV);
6652         }
6653 #else
6654             /* Make sure $^L is defined */
6655             gv_fetchpvs("\f", GV_ADD|GV_NOTQUAL, SVt_PV);
6656 #endif
6657             UNI(OP_ENTERWRITE);
6658
6659         case KEY_x:
6660             if (PL_expect == XOPERATOR)
6661                 Mop(OP_REPEAT);
6662             check_uni();
6663             goto just_a_word;
6664
6665         case KEY_xor:
6666             yylval.ival = OP_XOR;
6667             OPERATOR(OROP);
6668
6669         case KEY_y:
6670             s = scan_trans(s);
6671             TERM(sublex_start());
6672         }
6673     }}
6674 }
6675 #ifdef __SC__
6676 #pragma segment Main
6677 #endif
6678
6679 static int
6680 S_pending_ident(pTHX)
6681 {
6682     dVAR;
6683     register char *d;
6684     register PADOFFSET tmp = 0;
6685     /* pit holds the identifier we read and pending_ident is reset */
6686     char pit = PL_pending_ident;
6687     PL_pending_ident = 0;
6688
6689     /* PL_realtokenstart = realtokenend = PL_bufptr - SvPVX(PL_linestr); */
6690     DEBUG_T({ PerlIO_printf(Perl_debug_log,
6691           "### Pending identifier '%s'\n", PL_tokenbuf); });
6692
6693     /* if we're in a my(), we can't allow dynamics here.
6694        $foo'bar has already been turned into $foo::bar, so
6695        just check for colons.
6696
6697        if it's a legal name, the OP is a PADANY.
6698     */
6699     if (PL_in_my) {
6700         if (PL_in_my == KEY_our) {      /* "our" is merely analogous to "my" */
6701             if (strchr(PL_tokenbuf,':'))
6702                 yyerror(Perl_form(aTHX_ "No package name allowed for "
6703                                   "variable %s in \"our\"",
6704                                   PL_tokenbuf));
6705             tmp = allocmy(PL_tokenbuf);
6706         }
6707         else {
6708             if (strchr(PL_tokenbuf,':'))
6709                 yyerror(Perl_form(aTHX_ PL_no_myglob,PL_tokenbuf));
6710
6711             yylval.opval = newOP(OP_PADANY, 0);
6712             yylval.opval->op_targ = allocmy(PL_tokenbuf);
6713             return PRIVATEREF;
6714         }
6715     }
6716
6717     /*
6718        build the ops for accesses to a my() variable.
6719
6720        Deny my($a) or my($b) in a sort block, *if* $a or $b is
6721        then used in a comparison.  This catches most, but not
6722        all cases.  For instance, it catches
6723            sort { my($a); $a <=> $b }
6724        but not
6725            sort { my($a); $a < $b ? -1 : $a == $b ? 0 : 1; }
6726        (although why you'd do that is anyone's guess).
6727     */
6728
6729     if (!strchr(PL_tokenbuf,':')) {
6730         if (!PL_in_my)
6731             tmp = pad_findmy(PL_tokenbuf);
6732         if (tmp != NOT_IN_PAD) {
6733             /* might be an "our" variable" */
6734             if (PAD_COMPNAME_FLAGS_isOUR(tmp)) {
6735                 /* build ops for a bareword */
6736                 HV *  const stash = PAD_COMPNAME_OURSTASH(tmp);
6737                 HEK * const stashname = HvNAME_HEK(stash);
6738                 SV *  const sym = newSVhek(stashname);
6739                 sv_catpvs(sym, "::");
6740                 sv_catpv(sym, PL_tokenbuf+1);
6741                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sym);
6742                 yylval.opval->op_private = OPpCONST_ENTERED;
6743                 gv_fetchsv(sym,
6744                     (PL_in_eval
6745                         ? (GV_ADDMULTI | GV_ADDINEVAL)
6746                         : GV_ADDMULTI
6747                     ),
6748                     ((PL_tokenbuf[0] == '$') ? SVt_PV
6749                      : (PL_tokenbuf[0] == '@') ? SVt_PVAV
6750                      : SVt_PVHV));
6751                 return WORD;
6752             }
6753
6754             /* if it's a sort block and they're naming $a or $b */
6755             if (PL_last_lop_op == OP_SORT &&
6756                 PL_tokenbuf[0] == '$' &&
6757                 (PL_tokenbuf[1] == 'a' || PL_tokenbuf[1] == 'b')
6758                 && !PL_tokenbuf[2])
6759             {
6760                 for (d = PL_in_eval ? PL_oldoldbufptr : PL_linestart;
6761                      d < PL_bufend && *d != '\n';
6762                      d++)
6763                 {
6764                     if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
6765                         Perl_croak(aTHX_ "Can't use \"my %s\" in sort comparison",
6766                               PL_tokenbuf);
6767                     }
6768                 }
6769             }
6770
6771             yylval.opval = newOP(OP_PADANY, 0);
6772             yylval.opval->op_targ = tmp;
6773             return PRIVATEREF;
6774         }
6775     }
6776
6777     /*
6778        Whine if they've said @foo in a doublequoted string,
6779        and @foo isn't a variable we can find in the symbol
6780        table.
6781     */
6782     if (pit == '@' && PL_lex_state != LEX_NORMAL && !PL_lex_brackets) {
6783         GV *gv = gv_fetchpv(PL_tokenbuf+1, 0, SVt_PVAV);
6784         if ((!gv || ((PL_tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
6785              && ckWARN(WARN_AMBIGUOUS))
6786         {
6787             /* Downgraded from fatal to warning 20000522 mjd */
6788             Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
6789                         "Possible unintended interpolation of %s in string",
6790                          PL_tokenbuf);
6791         }
6792     }
6793
6794     /* build ops for a bareword */
6795     yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(PL_tokenbuf+1, 0));
6796     yylval.opval->op_private = OPpCONST_ENTERED;
6797     gv_fetchpv(
6798             PL_tokenbuf+1,
6799             /* If the identifier refers to a stash, don't autovivify it.
6800              * Change 24660 had the side effect of causing symbol table
6801              * hashes to always be defined, even if they were freshly
6802              * created and the only reference in the entire program was
6803              * the single statement with the defined %foo::bar:: test.
6804              * It appears that all code in the wild doing this actually
6805              * wants to know whether sub-packages have been loaded, so
6806              * by avoiding auto-vivifying symbol tables, we ensure that
6807              * defined %foo::bar:: continues to be false, and the existing
6808              * tests still give the expected answers, even though what
6809              * they're actually testing has now changed subtly.
6810              */
6811             (*PL_tokenbuf == '%' && *(d = PL_tokenbuf + strlen(PL_tokenbuf) - 1) == ':' && d[-1] == ':'
6812              ? 0
6813              : PL_in_eval ? (GV_ADDMULTI | GV_ADDINEVAL) : GV_ADD),
6814             ((PL_tokenbuf[0] == '$') ? SVt_PV
6815              : (PL_tokenbuf[0] == '@') ? SVt_PVAV
6816              : SVt_PVHV));
6817     return WORD;
6818 }
6819
6820 /*
6821  *  The following code was generated by perl_keyword.pl.
6822  */
6823
6824 I32
6825 Perl_keyword (pTHX_ const char *name, I32 len)
6826 {
6827   dVAR;
6828   switch (len)
6829   {
6830     case 1: /* 5 tokens of length 1 */
6831       switch (name[0])
6832       {
6833         case 'm':
6834           {                                       /* m          */
6835             return KEY_m;
6836           }
6837
6838         case 'q':
6839           {                                       /* q          */
6840             return KEY_q;
6841           }
6842
6843         case 's':
6844           {                                       /* s          */
6845             return KEY_s;
6846           }
6847
6848         case 'x':
6849           {                                       /* x          */
6850             return -KEY_x;
6851           }
6852
6853         case 'y':
6854           {                                       /* y          */
6855             return KEY_y;
6856           }
6857
6858         default:
6859           goto unknown;
6860       }
6861
6862     case 2: /* 18 tokens of length 2 */
6863       switch (name[0])
6864       {
6865         case 'd':
6866           if (name[1] == 'o')
6867           {                                       /* do         */
6868             return KEY_do;
6869           }
6870
6871           goto unknown;
6872
6873         case 'e':
6874           if (name[1] == 'q')
6875           {                                       /* eq         */
6876             return -KEY_eq;
6877           }
6878
6879           goto unknown;
6880
6881         case 'g':
6882           switch (name[1])
6883           {
6884             case 'e':
6885               {                                   /* ge         */
6886                 return -KEY_ge;
6887               }
6888
6889             case 't':
6890               {                                   /* gt         */
6891                 return -KEY_gt;
6892               }
6893
6894             default:
6895               goto unknown;
6896           }
6897
6898         case 'i':
6899           if (name[1] == 'f')
6900           {                                       /* if         */
6901             return KEY_if;
6902           }
6903
6904           goto unknown;
6905
6906         case 'l':
6907           switch (name[1])
6908           {
6909             case 'c':
6910               {                                   /* lc         */
6911                 return -KEY_lc;
6912               }
6913
6914             case 'e':
6915               {                                   /* le         */
6916                 return -KEY_le;
6917               }
6918
6919             case 't':
6920               {                                   /* lt         */
6921                 return -KEY_lt;
6922               }
6923
6924             default:
6925               goto unknown;
6926           }
6927
6928         case 'm':
6929           if (name[1] == 'y')
6930           {                                       /* my         */
6931             return KEY_my;
6932           }
6933
6934           goto unknown;
6935
6936         case 'n':
6937           switch (name[1])
6938           {
6939             case 'e':
6940               {                                   /* ne         */
6941                 return -KEY_ne;
6942               }
6943
6944             case 'o':
6945               {                                   /* no         */
6946                 return KEY_no;
6947               }
6948
6949             default:
6950               goto unknown;
6951           }
6952
6953         case 'o':
6954           if (name[1] == 'r')
6955           {                                       /* or         */
6956             return -KEY_or;
6957           }
6958
6959           goto unknown;
6960
6961         case 'q':
6962           switch (name[1])
6963           {
6964             case 'q':
6965               {                                   /* qq         */
6966                 return KEY_qq;
6967               }
6968
6969             case 'r':
6970               {                                   /* qr         */
6971                 return KEY_qr;
6972               }
6973
6974             case 'w':
6975               {                                   /* qw         */
6976                 return KEY_qw;
6977               }
6978
6979             case 'x':
6980               {                                   /* qx         */
6981                 return KEY_qx;
6982               }
6983
6984             default:
6985               goto unknown;
6986           }
6987
6988         case 't':
6989           if (name[1] == 'r')
6990           {                                       /* tr         */
6991             return KEY_tr;
6992           }
6993
6994           goto unknown;
6995
6996         case 'u':
6997           if (name[1] == 'c')
6998           {                                       /* uc         */
6999             return -KEY_uc;
7000           }
7001
7002           goto unknown;
7003
7004         default:
7005           goto unknown;
7006       }
7007
7008     case 3: /* 29 tokens of length 3 */
7009       switch (name[0])
7010       {
7011         case 'E':
7012           if (name[1] == 'N' &&
7013               name[2] == 'D')
7014           {                                       /* END        */
7015             return KEY_END;
7016           }
7017
7018           goto unknown;
7019
7020         case 'a':
7021           switch (name[1])
7022           {
7023             case 'b':
7024               if (name[2] == 's')
7025               {                                   /* abs        */
7026                 return -KEY_abs;
7027               }
7028
7029               goto unknown;
7030
7031             case 'n':
7032               if (name[2] == 'd')
7033               {                                   /* and        */
7034                 return -KEY_and;
7035               }
7036
7037               goto unknown;
7038
7039             default:
7040               goto unknown;
7041           }
7042
7043         case 'c':
7044           switch (name[1])
7045           {
7046             case 'h':
7047               if (name[2] == 'r')
7048               {                                   /* chr        */
7049                 return -KEY_chr;
7050               }
7051
7052               goto unknown;
7053
7054             case 'm':
7055               if (name[2] == 'p')
7056               {                                   /* cmp        */
7057                 return -KEY_cmp;
7058               }
7059
7060               goto unknown;
7061
7062             case 'o':
7063               if (name[2] == 's')
7064               {                                   /* cos        */
7065                 return -KEY_cos;
7066               }
7067
7068               goto unknown;
7069
7070             default:
7071               goto unknown;
7072           }
7073
7074         case 'd':
7075           if (name[1] == 'i' &&
7076               name[2] == 'e')
7077           {                                       /* die        */
7078             return -KEY_die;
7079           }
7080
7081           goto unknown;
7082
7083         case 'e':
7084           switch (name[1])
7085           {
7086             case 'o':
7087               if (name[2] == 'f')
7088               {                                   /* eof        */
7089                 return -KEY_eof;
7090               }
7091
7092               goto unknown;
7093
7094             case 'r':
7095               if (name[2] == 'r')
7096               {                                   /* err        */
7097                 return (FEATURE_IS_ENABLED("err") ? -KEY_err : 0);
7098               }
7099
7100               goto unknown;
7101
7102             case 'x':
7103               if (name[2] == 'p')
7104               {                                   /* exp        */
7105                 return -KEY_exp;
7106               }
7107
7108               goto unknown;
7109
7110             default:
7111               goto unknown;
7112           }
7113
7114         case 'f':
7115           if (name[1] == 'o' &&
7116               name[2] == 'r')
7117           {                                       /* for        */
7118             return KEY_for;
7119           }
7120
7121           goto unknown;
7122
7123         case 'h':
7124           if (name[1] == 'e' &&
7125               name[2] == 'x')
7126           {                                       /* hex        */
7127             return -KEY_hex;
7128           }
7129
7130           goto unknown;
7131
7132         case 'i':
7133           if (name[1] == 'n' &&
7134               name[2] == 't')
7135           {                                       /* int        */
7136             return -KEY_int;
7137           }
7138
7139           goto unknown;
7140
7141         case 'l':
7142           if (name[1] == 'o' &&
7143               name[2] == 'g')
7144           {                                       /* log        */
7145             return -KEY_log;
7146           }
7147
7148           goto unknown;
7149
7150         case 'm':
7151           if (name[1] == 'a' &&
7152               name[2] == 'p')
7153           {                                       /* map        */
7154             return KEY_map;
7155           }
7156
7157           goto unknown;
7158
7159         case 'n':
7160           if (name[1] == 'o' &&
7161               name[2] == 't')
7162           {                                       /* not        */
7163             return -KEY_not;
7164           }
7165
7166           goto unknown;
7167
7168         case 'o':
7169           switch (name[1])
7170           {
7171             case 'c':
7172               if (name[2] == 't')
7173               {                                   /* oct        */
7174                 return -KEY_oct;
7175               }
7176
7177               goto unknown;
7178
7179             case 'r':
7180               if (name[2] == 'd')
7181               {                                   /* ord        */
7182                 return -KEY_ord;
7183               }
7184
7185               goto unknown;
7186
7187             case 'u':
7188               if (name[2] == 'r')
7189               {                                   /* our        */
7190                 return KEY_our;
7191               }
7192
7193               goto unknown;
7194
7195             default:
7196               goto unknown;
7197           }
7198
7199         case 'p':
7200           if (name[1] == 'o')
7201           {
7202             switch (name[2])
7203             {
7204               case 'p':
7205                 {                                 /* pop        */
7206                   return -KEY_pop;
7207                 }
7208
7209               case 's':
7210                 {                                 /* pos        */
7211                   return KEY_pos;
7212                 }
7213
7214               default:
7215                 goto unknown;
7216             }
7217           }
7218
7219           goto unknown;
7220
7221         case 'r':
7222           if (name[1] == 'e' &&
7223               name[2] == 'f')
7224           {                                       /* ref        */
7225             return -KEY_ref;
7226           }
7227
7228           goto unknown;
7229
7230         case 's':
7231           switch (name[1])
7232           {
7233             case 'a':
7234               if (name[2] == 'y')
7235               {                                   /* say        */
7236                 return (FEATURE_IS_ENABLED("say") ? -KEY_say : 0);
7237               }
7238
7239               goto unknown;
7240
7241             case 'i':
7242               if (name[2] == 'n')
7243               {                                   /* sin        */
7244                 return -KEY_sin;
7245               }
7246
7247               goto unknown;
7248
7249             case 'u':
7250               if (name[2] == 'b')
7251               {                                   /* sub        */
7252                 return KEY_sub;
7253               }
7254
7255               goto unknown;
7256
7257             default:
7258               goto unknown;
7259           }
7260
7261         case 't':
7262           if (name[1] == 'i' &&
7263               name[2] == 'e')
7264           {                                       /* tie        */
7265             return KEY_tie;
7266           }
7267
7268           goto unknown;
7269
7270         case 'u':
7271           if (name[1] == 's' &&
7272               name[2] == 'e')
7273           {                                       /* use        */
7274             return KEY_use;
7275           }
7276
7277           goto unknown;
7278
7279         case 'v':
7280           if (name[1] == 'e' &&
7281               name[2] == 'c')
7282           {                                       /* vec        */
7283             return -KEY_vec;
7284           }
7285
7286           goto unknown;
7287
7288         case 'x':
7289           if (name[1] == 'o' &&
7290               name[2] == 'r')
7291           {                                       /* xor        */
7292             return -KEY_xor;
7293           }
7294
7295           goto unknown;
7296
7297         default:
7298           goto unknown;
7299       }
7300
7301     case 4: /* 41 tokens of length 4 */
7302       switch (name[0])
7303       {
7304         case 'C':
7305           if (name[1] == 'O' &&
7306               name[2] == 'R' &&
7307               name[3] == 'E')
7308           {                                       /* CORE       */
7309             return -KEY_CORE;
7310           }
7311
7312           goto unknown;
7313
7314         case 'I':
7315           if (name[1] == 'N' &&
7316               name[2] == 'I' &&
7317               name[3] == 'T')
7318           {                                       /* INIT       */
7319             return KEY_INIT;
7320           }
7321
7322           goto unknown;
7323
7324         case 'b':
7325           if (name[1] == 'i' &&
7326               name[2] == 'n' &&
7327               name[3] == 'd')
7328           {                                       /* bind       */
7329             return -KEY_bind;
7330           }
7331
7332           goto unknown;
7333
7334         case 'c':
7335           if (name[1] == 'h' &&
7336               name[2] == 'o' &&
7337               name[3] == 'p')
7338           {                                       /* chop       */
7339             return -KEY_chop;
7340           }
7341
7342           goto unknown;
7343
7344         case 'd':
7345           if (name[1] == 'u' &&
7346               name[2] == 'm' &&
7347               name[3] == 'p')
7348           {                                       /* dump       */
7349             return -KEY_dump;
7350           }
7351
7352           goto unknown;
7353
7354         case 'e':
7355           switch (name[1])
7356           {
7357             case 'a':
7358               if (name[2] == 'c' &&
7359                   name[3] == 'h')
7360               {                                   /* each       */
7361                 return -KEY_each;
7362               }
7363
7364               goto unknown;
7365
7366             case 'l':
7367               if (name[2] == 's' &&
7368                   name[3] == 'e')
7369               {                                   /* else       */
7370                 return KEY_else;
7371               }
7372
7373               goto unknown;
7374
7375             case 'v':
7376               if (name[2] == 'a' &&
7377                   name[3] == 'l')
7378               {                                   /* eval       */
7379                 return KEY_eval;
7380               }
7381
7382               goto unknown;
7383
7384             case 'x':
7385               switch (name[2])
7386               {
7387                 case 'e':
7388                   if (name[3] == 'c')
7389                   {                               /* exec       */
7390                     return -KEY_exec;
7391                   }
7392
7393                   goto unknown;
7394
7395                 case 'i':
7396                   if (name[3] == 't')
7397                   {                               /* exit       */
7398                     return -KEY_exit;
7399                   }
7400
7401                   goto unknown;
7402
7403                 default:
7404                   goto unknown;
7405               }
7406
7407             default:
7408               goto unknown;
7409           }
7410
7411         case 'f':
7412           if (name[1] == 'o' &&
7413               name[2] == 'r' &&
7414               name[3] == 'k')
7415           {                                       /* fork       */
7416             return -KEY_fork;
7417           }
7418
7419           goto unknown;
7420
7421         case 'g':
7422           switch (name[1])
7423           {
7424             case 'e':
7425               if (name[2] == 't' &&
7426                   name[3] == 'c')
7427               {                                   /* getc       */
7428                 return -KEY_getc;
7429               }
7430
7431               goto unknown;
7432
7433             case 'l':
7434               if (name[2] == 'o' &&
7435                   name[3] == 'b')
7436               {                                   /* glob       */
7437                 return KEY_glob;
7438               }
7439
7440               goto unknown;
7441
7442             case 'o':
7443               if (name[2] == 't' &&
7444                   name[3] == 'o')
7445               {                                   /* goto       */
7446                 return KEY_goto;
7447               }
7448
7449               goto unknown;
7450
7451             case 'r':
7452               if (name[2] == 'e' &&
7453                   name[3] == 'p')
7454               {                                   /* grep       */
7455                 return KEY_grep;
7456               }
7457
7458               goto unknown;
7459
7460             default:
7461               goto unknown;
7462           }
7463
7464         case 'j':
7465           if (name[1] == 'o' &&
7466               name[2] == 'i' &&
7467               name[3] == 'n')
7468           {                                       /* join       */
7469             return -KEY_join;
7470           }
7471
7472           goto unknown;
7473
7474         case 'k':
7475           switch (name[1])
7476           {
7477             case 'e':
7478               if (name[2] == 'y' &&
7479                   name[3] == 's')
7480               {                                   /* keys       */
7481                 return -KEY_keys;
7482               }
7483
7484               goto unknown;
7485
7486             case 'i':
7487               if (name[2] == 'l' &&
7488                   name[3] == 'l')
7489               {                                   /* kill       */
7490                 return -KEY_kill;
7491               }
7492
7493               goto unknown;
7494
7495             default:
7496               goto unknown;
7497           }
7498
7499         case 'l':
7500           switch (name[1])
7501           {
7502             case 'a':
7503               if (name[2] == 's' &&
7504                   name[3] == 't')
7505               {                                   /* last       */
7506                 return KEY_last;
7507               }
7508
7509               goto unknown;
7510
7511             case 'i':
7512               if (name[2] == 'n' &&
7513                   name[3] == 'k')
7514               {                                   /* link       */
7515                 return -KEY_link;
7516               }
7517
7518               goto unknown;
7519
7520             case 'o':
7521               if (name[2] == 'c' &&
7522                   name[3] == 'k')
7523               {                                   /* lock       */
7524                 return -KEY_lock;
7525               }
7526
7527               goto unknown;
7528
7529             default:
7530               goto unknown;
7531           }
7532
7533         case 'n':
7534           if (name[1] == 'e' &&
7535               name[2] == 'x' &&
7536               name[3] == 't')
7537           {                                       /* next       */
7538             return KEY_next;
7539           }
7540
7541           goto unknown;
7542
7543         case 'o':
7544           if (name[1] == 'p' &&
7545               name[2] == 'e' &&
7546               name[3] == 'n')
7547           {                                       /* open       */
7548             return -KEY_open;
7549           }
7550
7551           goto unknown;
7552
7553         case 'p':
7554           switch (name[1])
7555           {
7556             case 'a':
7557               if (name[2] == 'c' &&
7558                   name[3] == 'k')
7559               {                                   /* pack       */
7560                 return -KEY_pack;
7561               }
7562
7563               goto unknown;
7564
7565             case 'i':
7566               if (name[2] == 'p' &&
7567                   name[3] == 'e')
7568               {                                   /* pipe       */
7569                 return -KEY_pipe;
7570               }
7571
7572               goto unknown;
7573
7574             case 'u':
7575               if (name[2] == 's' &&
7576                   name[3] == 'h')
7577               {                                   /* push       */
7578                 return -KEY_push;
7579               }
7580
7581               goto unknown;
7582
7583             default:
7584               goto unknown;
7585           }
7586
7587         case 'r':
7588           switch (name[1])
7589           {
7590             case 'a':
7591               if (name[2] == 'n' &&
7592                   name[3] == 'd')
7593               {                                   /* rand       */
7594                 return -KEY_rand;
7595               }
7596
7597               goto unknown;
7598
7599             case 'e':
7600               switch (name[2])
7601               {
7602                 case 'a':
7603                   if (name[3] == 'd')
7604                   {                               /* read       */
7605                     return -KEY_read;
7606                   }
7607
7608                   goto unknown;
7609
7610                 case 'c':
7611                   if (name[3] == 'v')
7612                   {                               /* recv       */
7613                     return -KEY_recv;
7614                   }
7615
7616                   goto unknown;
7617
7618                 case 'd':
7619                   if (name[3] == 'o')
7620                   {                               /* redo       */
7621                     return KEY_redo;
7622                   }
7623
7624                   goto unknown;
7625
7626                 default:
7627                   goto unknown;
7628               }
7629
7630             default:
7631               goto unknown;
7632           }
7633
7634         case 's':
7635           switch (name[1])
7636           {
7637             case 'e':
7638               switch (name[2])
7639               {
7640                 case 'e':
7641                   if (name[3] == 'k')
7642                   {                               /* seek       */
7643                     return -KEY_seek;
7644                   }
7645
7646                   goto unknown;
7647
7648                 case 'n':
7649                   if (name[3] == 'd')
7650                   {                               /* send       */
7651                     return -KEY_send;
7652                   }
7653
7654                   goto unknown;
7655
7656                 default:
7657                   goto unknown;
7658               }
7659
7660             case 'o':
7661               if (name[2] == 'r' &&
7662                   name[3] == 't')
7663               {                                   /* sort       */
7664                 return KEY_sort;
7665               }
7666
7667               goto unknown;
7668
7669             case 'q':
7670               if (name[2] == 'r' &&
7671                   name[3] == 't')
7672               {                                   /* sqrt       */
7673                 return -KEY_sqrt;
7674               }
7675
7676               goto unknown;
7677
7678             case 't':
7679               if (name[2] == 'a' &&
7680                   name[3] == 't')
7681               {                                   /* stat       */
7682                 return -KEY_stat;
7683               }
7684
7685               goto unknown;
7686
7687             default:
7688               goto unknown;
7689           }
7690
7691         case 't':
7692           switch (name[1])
7693           {
7694             case 'e':
7695               if (name[2] == 'l' &&
7696                   name[3] == 'l')
7697               {                                   /* tell       */
7698                 return -KEY_tell;
7699               }
7700
7701               goto unknown;
7702
7703             case 'i':
7704               switch (name[2])
7705               {
7706                 case 'e':
7707                   if (name[3] == 'd')
7708                   {                               /* tied       */
7709                     return KEY_tied;
7710                   }
7711
7712                   goto unknown;
7713
7714                 case 'm':
7715                   if (name[3] == 'e')
7716                   {                               /* time       */
7717                     return -KEY_time;
7718                   }
7719
7720                   goto unknown;
7721
7722                 default:
7723                   goto unknown;
7724               }
7725
7726             default:
7727               goto unknown;
7728           }
7729
7730         case 'w':
7731           switch (name[1])
7732           {
7733             case 'a':
7734             switch (name[2])
7735             {
7736               case 'i':
7737                 if (name[3] == 't')
7738                 {                                 /* wait       */
7739                   return -KEY_wait;
7740                 }
7741
7742                 goto unknown;
7743
7744               case 'r':
7745                 if (name[3] == 'n')
7746                 {                                 /* warn       */
7747                   return -KEY_warn;
7748                 }
7749
7750                 goto unknown;
7751
7752               default:
7753                 goto unknown;
7754             }
7755
7756             case 'h':
7757               if (name[2] == 'e' &&
7758                   name[3] == 'n')
7759               {                                   /* when       */
7760                 return (FEATURE_IS_ENABLED("switch") ? KEY_when : 0);
7761           }
7762
7763           goto unknown;
7764
7765         default:
7766           goto unknown;
7767       }
7768
7769         default:
7770           goto unknown;
7771       }
7772
7773     case 5: /* 38 tokens of length 5 */
7774       switch (name[0])
7775       {
7776         case 'B':
7777           if (name[1] == 'E' &&
7778               name[2] == 'G' &&
7779               name[3] == 'I' &&
7780               name[4] == 'N')
7781           {                                       /* BEGIN      */
7782             return KEY_BEGIN;
7783           }
7784
7785           goto unknown;
7786
7787         case 'C':
7788           if (name[1] == 'H' &&
7789               name[2] == 'E' &&
7790               name[3] == 'C' &&
7791               name[4] == 'K')
7792           {                                       /* CHECK      */
7793             return KEY_CHECK;
7794           }
7795
7796           goto unknown;
7797
7798         case 'a':
7799           switch (name[1])
7800           {
7801             case 'l':
7802               if (name[2] == 'a' &&
7803                   name[3] == 'r' &&
7804                   name[4] == 'm')
7805               {                                   /* alarm      */
7806                 return -KEY_alarm;
7807               }
7808
7809               goto unknown;
7810
7811             case 't':
7812               if (name[2] == 'a' &&
7813                   name[3] == 'n' &&
7814                   name[4] == '2')
7815               {                                   /* atan2      */
7816                 return -KEY_atan2;
7817               }
7818
7819               goto unknown;
7820
7821             default:
7822               goto unknown;
7823           }
7824
7825         case 'b':
7826           switch (name[1])
7827           {
7828             case 'l':
7829               if (name[2] == 'e' &&
7830               name[3] == 's' &&
7831               name[4] == 's')
7832           {                                       /* bless      */
7833             return -KEY_bless;
7834           }
7835
7836           goto unknown;
7837
7838             case 'r':
7839               if (name[2] == 'e' &&
7840                   name[3] == 'a' &&
7841                   name[4] == 'k')
7842               {                                   /* break      */
7843                 return (FEATURE_IS_ENABLED("switch") ? -KEY_break : 0);
7844               }
7845
7846               goto unknown;
7847
7848             default:
7849               goto unknown;
7850           }
7851
7852         case 'c':
7853           switch (name[1])
7854           {
7855             case 'h':
7856               switch (name[2])
7857               {
7858                 case 'd':
7859                   if (name[3] == 'i' &&
7860                       name[4] == 'r')
7861                   {                               /* chdir      */
7862                     return -KEY_chdir;
7863                   }
7864
7865                   goto unknown;
7866
7867                 case 'm':
7868                   if (name[3] == 'o' &&
7869                       name[4] == 'd')
7870                   {                               /* chmod      */
7871                     return -KEY_chmod;
7872                   }
7873
7874                   goto unknown;
7875
7876                 case 'o':
7877                   switch (name[3])
7878                   {
7879                     case 'm':
7880                       if (name[4] == 'p')
7881                       {                           /* chomp      */
7882                         return -KEY_chomp;
7883                       }
7884
7885                       goto unknown;
7886
7887                     case 'w':
7888                       if (name[4] == 'n')
7889                       {                           /* chown      */
7890                         return -KEY_chown;
7891                       }
7892
7893                       goto unknown;
7894
7895                     default:
7896                       goto unknown;
7897                   }
7898
7899                 default:
7900                   goto unknown;
7901               }
7902
7903             case 'l':
7904               if (name[2] == 'o' &&
7905                   name[3] == 's' &&
7906                   name[4] == 'e')
7907               {                                   /* close      */
7908                 return -KEY_close;
7909               }
7910
7911               goto unknown;
7912
7913             case 'r':
7914               if (name[2] == 'y' &&
7915                   name[3] == 'p' &&
7916                   name[4] == 't')
7917               {                                   /* crypt      */
7918                 return -KEY_crypt;
7919               }
7920
7921               goto unknown;
7922
7923             default:
7924               goto unknown;
7925           }
7926
7927         case 'e':
7928           if (name[1] == 'l' &&
7929               name[2] == 's' &&
7930               name[3] == 'i' &&
7931               name[4] == 'f')
7932           {                                       /* elsif      */
7933             return KEY_elsif;
7934           }
7935
7936           goto unknown;
7937
7938         case 'f':
7939           switch (name[1])
7940           {
7941             case 'c':
7942               if (name[2] == 'n' &&
7943                   name[3] == 't' &&
7944                   name[4] == 'l')
7945               {                                   /* fcntl      */
7946                 return -KEY_fcntl;
7947               }
7948
7949               goto unknown;
7950
7951             case 'l':
7952               if (name[2] == 'o' &&
7953                   name[3] == 'c' &&
7954                   name[4] == 'k')
7955               {                                   /* flock      */
7956                 return -KEY_flock;
7957               }
7958
7959               goto unknown;
7960
7961             default:
7962               goto unknown;
7963           }
7964
7965         case 'g':
7966           if (name[1] == 'i' &&
7967               name[2] == 'v' &&
7968               name[3] == 'e' &&
7969               name[4] == 'n')
7970           {                                       /* given      */
7971             return (FEATURE_IS_ENABLED("switch") ? KEY_given : 0);
7972           }
7973
7974           goto unknown;
7975
7976         case 'i':
7977           switch (name[1])
7978           {
7979             case 'n':
7980               if (name[2] == 'd' &&
7981                   name[3] == 'e' &&
7982                   name[4] == 'x')
7983               {                                   /* index      */
7984                 return -KEY_index;
7985               }
7986
7987               goto unknown;
7988
7989             case 'o':
7990               if (name[2] == 'c' &&
7991                   name[3] == 't' &&
7992                   name[4] == 'l')
7993               {                                   /* ioctl      */
7994                 return -KEY_ioctl;
7995               }
7996
7997               goto unknown;
7998
7999             default:
8000               goto unknown;
8001           }
8002
8003         case 'l':
8004           switch (name[1])
8005           {
8006             case 'o':
8007               if (name[2] == 'c' &&
8008                   name[3] == 'a' &&
8009                   name[4] == 'l')
8010               {                                   /* local      */
8011                 return KEY_local;
8012               }
8013
8014               goto unknown;
8015
8016             case 's':
8017               if (name[2] == 't' &&
8018                   name[3] == 'a' &&
8019                   name[4] == 't')
8020               {                                   /* lstat      */
8021                 return -KEY_lstat;
8022               }
8023
8024               goto unknown;
8025
8026             default:
8027               goto unknown;
8028           }
8029
8030         case 'm':
8031           if (name[1] == 'k' &&
8032               name[2] == 'd' &&
8033               name[3] == 'i' &&
8034               name[4] == 'r')
8035           {                                       /* mkdir      */
8036             return -KEY_mkdir;
8037           }
8038
8039           goto unknown;
8040
8041         case 'p':
8042           if (name[1] == 'r' &&
8043               name[2] == 'i' &&
8044               name[3] == 'n' &&
8045               name[4] == 't')
8046           {                                       /* print      */
8047             return KEY_print;
8048           }
8049
8050           goto unknown;
8051
8052         case 'r':
8053           switch (name[1])
8054           {
8055             case 'e':
8056               if (name[2] == 's' &&
8057                   name[3] == 'e' &&
8058                   name[4] == 't')
8059               {                                   /* reset      */
8060                 return -KEY_reset;
8061               }
8062
8063               goto unknown;
8064
8065             case 'm':
8066               if (name[2] == 'd' &&
8067                   name[3] == 'i' &&
8068                   name[4] == 'r')
8069               {                                   /* rmdir      */
8070                 return -KEY_rmdir;
8071               }
8072
8073               goto unknown;
8074
8075             default:
8076               goto unknown;
8077           }
8078
8079         case 's':
8080           switch (name[1])
8081           {
8082             case 'e':
8083               if (name[2] == 'm' &&
8084                   name[3] == 'o' &&
8085                   name[4] == 'p')
8086               {                                   /* semop      */
8087                 return -KEY_semop;
8088               }
8089
8090               goto unknown;
8091
8092             case 'h':
8093               if (name[2] == 'i' &&
8094                   name[3] == 'f' &&
8095                   name[4] == 't')
8096               {                                   /* shift      */
8097                 return -KEY_shift;
8098               }
8099
8100               goto unknown;
8101
8102             case 'l':
8103               if (name[2] == 'e' &&
8104                   name[3] == 'e' &&
8105                   name[4] == 'p')
8106               {                                   /* sleep      */
8107                 return -KEY_sleep;
8108               }
8109
8110               goto unknown;
8111
8112             case 'p':
8113               if (name[2] == 'l' &&
8114                   name[3] == 'i' &&
8115                   name[4] == 't')
8116               {                                   /* split      */
8117                 return KEY_split;
8118               }
8119
8120               goto unknown;
8121
8122             case 'r':
8123               if (name[2] == 'a' &&
8124                   name[3] == 'n' &&
8125                   name[4] == 'd')
8126               {                                   /* srand      */
8127                 return -KEY_srand;
8128               }
8129
8130               goto unknown;
8131
8132             case 't':
8133               if (name[2] == 'u' &&
8134                   name[3] == 'd' &&
8135                   name[4] == 'y')
8136               {                                   /* study      */
8137                 return KEY_study;
8138               }
8139
8140               goto unknown;
8141
8142             default:
8143               goto unknown;
8144           }
8145
8146         case 't':
8147           if (name[1] == 'i' &&
8148               name[2] == 'm' &&
8149               name[3] == 'e' &&
8150               name[4] == 's')
8151           {                                       /* times      */
8152             return -KEY_times;
8153           }
8154
8155           goto unknown;
8156
8157         case 'u':
8158           switch (name[1])
8159           {
8160             case 'm':
8161               if (name[2] == 'a' &&
8162                   name[3] == 's' &&
8163                   name[4] == 'k')
8164               {                                   /* umask      */
8165                 return -KEY_umask;
8166               }
8167
8168               goto unknown;
8169
8170             case 'n':
8171               switch (name[2])
8172               {
8173                 case 'd':
8174                   if (name[3] == 'e' &&
8175                       name[4] == 'f')
8176                   {                               /* undef      */
8177                     return KEY_undef;
8178                   }
8179
8180                   goto unknown;
8181
8182                 case 't':
8183                   if (name[3] == 'i')
8184                   {
8185                     switch (name[4])
8186                     {
8187                       case 'e':
8188                         {                         /* untie      */
8189                           return KEY_untie;
8190                         }
8191
8192                       case 'l':
8193                         {                         /* until      */
8194                           return KEY_until;
8195                         }
8196
8197                       default:
8198                         goto unknown;
8199                     }
8200                   }
8201
8202                   goto unknown;
8203
8204                 default:
8205                   goto unknown;
8206               }
8207
8208             case 't':
8209               if (name[2] == 'i' &&
8210                   name[3] == 'm' &&
8211                   name[4] == 'e')
8212               {                                   /* utime      */
8213                 return -KEY_utime;
8214               }
8215
8216               goto unknown;
8217
8218             default:
8219               goto unknown;
8220           }
8221
8222         case 'w':
8223           switch (name[1])
8224           {
8225             case 'h':
8226               if (name[2] == 'i' &&
8227                   name[3] == 'l' &&
8228                   name[4] == 'e')
8229               {                                   /* while      */
8230                 return KEY_while;
8231               }
8232
8233               goto unknown;
8234
8235             case 'r':
8236               if (name[2] == 'i' &&
8237                   name[3] == 't' &&
8238                   name[4] == 'e')
8239               {                                   /* write      */
8240                 return -KEY_write;
8241               }
8242
8243               goto unknown;
8244
8245             default:
8246               goto unknown;
8247           }
8248
8249         default:
8250           goto unknown;
8251       }
8252
8253     case 6: /* 33 tokens of length 6 */
8254       switch (name[0])
8255       {
8256         case 'a':
8257           if (name[1] == 'c' &&
8258               name[2] == 'c' &&
8259               name[3] == 'e' &&
8260               name[4] == 'p' &&
8261               name[5] == 't')
8262           {                                       /* accept     */
8263             return -KEY_accept;
8264           }
8265
8266           goto unknown;
8267
8268         case 'c':
8269           switch (name[1])
8270           {
8271             case 'a':
8272               if (name[2] == 'l' &&
8273                   name[3] == 'l' &&
8274                   name[4] == 'e' &&
8275                   name[5] == 'r')
8276               {                                   /* caller     */
8277                 return -KEY_caller;
8278               }
8279
8280               goto unknown;
8281
8282             case 'h':
8283               if (name[2] == 'r' &&
8284                   name[3] == 'o' &&
8285                   name[4] == 'o' &&
8286                   name[5] == 't')
8287               {                                   /* chroot     */
8288                 return -KEY_chroot;
8289               }
8290
8291               goto unknown;
8292
8293             default:
8294               goto unknown;
8295           }
8296
8297         case 'd':
8298           if (name[1] == 'e' &&
8299               name[2] == 'l' &&
8300               name[3] == 'e' &&
8301               name[4] == 't' &&
8302               name[5] == 'e')
8303           {                                       /* delete     */
8304             return KEY_delete;
8305           }
8306
8307           goto unknown;
8308
8309         case 'e':
8310           switch (name[1])
8311           {
8312             case 'l':
8313               if (name[2] == 's' &&
8314                   name[3] == 'e' &&
8315                   name[4] == 'i' &&
8316                   name[5] == 'f')
8317               {                                   /* elseif     */
8318                 if(ckWARN_d(WARN_SYNTAX))
8319                   Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "elseif should be elsif");
8320               }
8321
8322               goto unknown;
8323
8324             case 'x':
8325               if (name[2] == 'i' &&
8326                   name[3] == 's' &&
8327                   name[4] == 't' &&
8328                   name[5] == 's')
8329               {                                   /* exists     */
8330                 return KEY_exists;
8331               }
8332
8333               goto unknown;
8334
8335             default:
8336               goto unknown;
8337           }
8338
8339         case 'f':
8340           switch (name[1])
8341           {
8342             case 'i':
8343               if (name[2] == 'l' &&
8344                   name[3] == 'e' &&
8345                   name[4] == 'n' &&
8346                   name[5] == 'o')
8347               {                                   /* fileno     */
8348                 return -KEY_fileno;
8349               }
8350
8351               goto unknown;
8352
8353             case 'o':
8354               if (name[2] == 'r' &&
8355                   name[3] == 'm' &&
8356                   name[4] == 'a' &&
8357                   name[5] == 't')
8358               {                                   /* format     */
8359                 return KEY_format;
8360               }
8361
8362               goto unknown;
8363
8364             default:
8365               goto unknown;
8366           }
8367
8368         case 'g':
8369           if (name[1] == 'm' &&
8370               name[2] == 't' &&
8371               name[3] == 'i' &&
8372               name[4] == 'm' &&
8373               name[5] == 'e')
8374           {                                       /* gmtime     */
8375             return -KEY_gmtime;
8376           }
8377
8378           goto unknown;
8379
8380         case 'l':
8381           switch (name[1])
8382           {
8383             case 'e':
8384               if (name[2] == 'n' &&
8385                   name[3] == 'g' &&
8386                   name[4] == 't' &&
8387                   name[5] == 'h')
8388               {                                   /* length     */
8389                 return -KEY_length;
8390               }
8391
8392               goto unknown;
8393
8394             case 'i':
8395               if (name[2] == 's' &&
8396                   name[3] == 't' &&
8397                   name[4] == 'e' &&
8398                   name[5] == 'n')
8399               {                                   /* listen     */
8400                 return -KEY_listen;
8401               }
8402
8403               goto unknown;
8404
8405             default:
8406               goto unknown;
8407           }
8408
8409         case 'm':
8410           if (name[1] == 's' &&
8411               name[2] == 'g')
8412           {
8413             switch (name[3])
8414             {
8415               case 'c':
8416                 if (name[4] == 't' &&
8417                     name[5] == 'l')
8418                 {                                 /* msgctl     */
8419                   return -KEY_msgctl;
8420                 }
8421
8422                 goto unknown;
8423
8424               case 'g':
8425                 if (name[4] == 'e' &&
8426                     name[5] == 't')
8427                 {                                 /* msgget     */
8428                   return -KEY_msgget;
8429                 }
8430
8431                 goto unknown;
8432
8433               case 'r':
8434                 if (name[4] == 'c' &&
8435                     name[5] == 'v')
8436                 {                                 /* msgrcv     */
8437                   return -KEY_msgrcv;
8438                 }
8439
8440                 goto unknown;
8441
8442               case 's':
8443                 if (name[4] == 'n' &&
8444                     name[5] == 'd')
8445                 {                                 /* msgsnd     */
8446                   return -KEY_msgsnd;
8447                 }
8448
8449                 goto unknown;
8450
8451               default:
8452                 goto unknown;
8453             }
8454           }
8455
8456           goto unknown;
8457
8458         case 'p':
8459           if (name[1] == 'r' &&
8460               name[2] == 'i' &&
8461               name[3] == 'n' &&
8462               name[4] == 't' &&
8463               name[5] == 'f')
8464           {                                       /* printf     */
8465             return KEY_printf;
8466           }
8467
8468           goto unknown;
8469
8470         case 'r':
8471           switch (name[1])
8472           {
8473             case 'e':
8474               switch (name[2])
8475               {
8476                 case 'n':
8477                   if (name[3] == 'a' &&
8478                       name[4] == 'm' &&
8479                       name[5] == 'e')
8480                   {                               /* rename     */
8481                     return -KEY_rename;
8482                   }
8483
8484                   goto unknown;
8485
8486                 case 't':
8487                   if (name[3] == 'u' &&
8488                       name[4] == 'r' &&
8489                       name[5] == 'n')
8490                   {                               /* return     */
8491                     return KEY_return;
8492                   }
8493
8494                   goto unknown;
8495
8496                 default:
8497                   goto unknown;
8498               }
8499
8500             case 'i':
8501               if (name[2] == 'n' &&
8502                   name[3] == 'd' &&
8503                   name[4] == 'e' &&
8504                   name[5] == 'x')
8505               {                                   /* rindex     */
8506                 return -KEY_rindex;
8507               }
8508
8509               goto unknown;
8510
8511             default:
8512               goto unknown;
8513           }
8514
8515         case 's':
8516           switch (name[1])
8517           {
8518             case 'c':
8519               if (name[2] == 'a' &&
8520                   name[3] == 'l' &&
8521                   name[4] == 'a' &&
8522                   name[5] == 'r')
8523               {                                   /* scalar     */
8524                 return KEY_scalar;
8525               }
8526
8527               goto unknown;
8528
8529             case 'e':
8530               switch (name[2])
8531               {
8532                 case 'l':
8533                   if (name[3] == 'e' &&
8534                       name[4] == 'c' &&
8535                       name[5] == 't')
8536                   {                               /* select     */
8537                     return -KEY_select;
8538                   }
8539
8540                   goto unknown;
8541
8542                 case 'm':
8543                   switch (name[3])
8544                   {
8545                     case 'c':
8546                       if (name[4] == 't' &&
8547                           name[5] == 'l')
8548                       {                           /* semctl     */
8549                         return -KEY_semctl;
8550                       }
8551
8552                       goto unknown;
8553
8554                     case 'g':
8555                       if (name[4] == 'e' &&
8556                           name[5] == 't')
8557                       {                           /* semget     */
8558                         return -KEY_semget;
8559                       }
8560
8561                       goto unknown;
8562
8563                     default:
8564                       goto unknown;
8565                   }
8566
8567                 default:
8568                   goto unknown;
8569               }
8570
8571             case 'h':
8572               if (name[2] == 'm')
8573               {
8574                 switch (name[3])
8575                 {
8576                   case 'c':
8577                     if (name[4] == 't' &&
8578                         name[5] == 'l')
8579                     {                             /* shmctl     */
8580                       return -KEY_shmctl;
8581                     }
8582
8583                     goto unknown;
8584
8585                   case 'g':
8586                     if (name[4] == 'e' &&
8587                         name[5] == 't')
8588                     {                             /* shmget     */
8589                       return -KEY_shmget;
8590                     }
8591
8592                     goto unknown;
8593
8594                   default:
8595                     goto unknown;
8596                 }
8597               }
8598
8599               goto unknown;
8600
8601             case 'o':
8602               if (name[2] == 'c' &&
8603                   name[3] == 'k' &&
8604                   name[4] == 'e' &&
8605                   name[5] == 't')
8606               {                                   /* socket     */
8607                 return -KEY_socket;
8608               }
8609
8610               goto unknown;
8611
8612             case 'p':
8613               if (name[2] == 'l' &&
8614                   name[3] == 'i' &&
8615                   name[4] == 'c' &&
8616                   name[5] == 'e')
8617               {                                   /* splice     */
8618                 return -KEY_splice;
8619               }
8620
8621               goto unknown;
8622
8623             case 'u':
8624               if (name[2] == 'b' &&
8625                   name[3] == 's' &&
8626                   name[4] == 't' &&
8627                   name[5] == 'r')
8628               {                                   /* substr     */
8629                 return -KEY_substr;
8630               }
8631
8632               goto unknown;
8633
8634             case 'y':
8635               if (name[2] == 's' &&
8636                   name[3] == 't' &&
8637                   name[4] == 'e' &&
8638                   name[5] == 'm')
8639               {                                   /* system     */
8640                 return -KEY_system;
8641               }
8642
8643               goto unknown;
8644
8645             default:
8646               goto unknown;
8647           }
8648
8649         case 'u':
8650           if (name[1] == 'n')
8651           {
8652             switch (name[2])
8653             {
8654               case 'l':
8655                 switch (name[3])
8656                 {
8657                   case 'e':
8658                     if (name[4] == 's' &&
8659                         name[5] == 's')
8660                     {                             /* unless     */
8661                       return KEY_unless;
8662                     }
8663
8664                     goto unknown;
8665
8666                   case 'i':
8667                     if (name[4] == 'n' &&
8668                         name[5] == 'k')
8669                     {                             /* unlink     */
8670                       return -KEY_unlink;
8671                     }
8672
8673                     goto unknown;
8674
8675                   default:
8676                     goto unknown;
8677                 }
8678
8679               case 'p':
8680                 if (name[3] == 'a' &&
8681                     name[4] == 'c' &&
8682                     name[5] == 'k')
8683                 {                                 /* unpack     */
8684                   return -KEY_unpack;
8685                 }
8686
8687                 goto unknown;
8688
8689               default:
8690                 goto unknown;
8691             }
8692           }
8693
8694           goto unknown;
8695
8696         case 'v':
8697           if (name[1] == 'a' &&
8698               name[2] == 'l' &&
8699               name[3] == 'u' &&
8700               name[4] == 'e' &&
8701               name[5] == 's')
8702           {                                       /* values     */
8703             return -KEY_values;
8704           }
8705
8706           goto unknown;
8707
8708         default:
8709           goto unknown;
8710       }
8711
8712     case 7: /* 29 tokens of length 7 */
8713       switch (name[0])
8714       {
8715         case 'D':
8716           if (name[1] == 'E' &&
8717               name[2] == 'S' &&
8718               name[3] == 'T' &&
8719               name[4] == 'R' &&
8720               name[5] == 'O' &&
8721               name[6] == 'Y')
8722           {                                       /* DESTROY    */
8723             return KEY_DESTROY;
8724           }
8725
8726           goto unknown;
8727
8728         case '_':
8729           if (name[1] == '_' &&
8730               name[2] == 'E' &&
8731               name[3] == 'N' &&
8732               name[4] == 'D' &&
8733               name[5] == '_' &&
8734               name[6] == '_')
8735           {                                       /* __END__    */
8736             return KEY___END__;
8737           }
8738
8739           goto unknown;
8740
8741         case 'b':
8742           if (name[1] == 'i' &&
8743               name[2] == 'n' &&
8744               name[3] == 'm' &&
8745               name[4] == 'o' &&
8746               name[5] == 'd' &&
8747               name[6] == 'e')
8748           {                                       /* binmode    */
8749             return -KEY_binmode;
8750           }
8751
8752           goto unknown;
8753
8754         case 'c':
8755           if (name[1] == 'o' &&
8756               name[2] == 'n' &&
8757               name[3] == 'n' &&
8758               name[4] == 'e' &&
8759               name[5] == 'c' &&
8760               name[6] == 't')
8761           {                                       /* connect    */
8762             return -KEY_connect;
8763           }
8764
8765           goto unknown;
8766
8767         case 'd':
8768           switch (name[1])
8769           {
8770             case 'b':
8771               if (name[2] == 'm' &&
8772                   name[3] == 'o' &&
8773                   name[4] == 'p' &&
8774                   name[5] == 'e' &&
8775                   name[6] == 'n')
8776               {                                   /* dbmopen    */
8777                 return -KEY_dbmopen;
8778               }
8779
8780               goto unknown;
8781
8782             case 'e':
8783               if (name[2] == 'f')
8784               {
8785                 switch (name[3])
8786                 {
8787                   case 'a':
8788                     if (name[4] == 'u' &&
8789                         name[5] == 'l' &&
8790                         name[6] == 't')
8791                     {                             /* default    */
8792                       return (FEATURE_IS_ENABLED("switch") ? KEY_default : 0);
8793                     }
8794
8795                     goto unknown;
8796
8797                   case 'i':
8798                     if (name[4] == 'n' &&
8799                   name[5] == 'e' &&
8800                   name[6] == 'd')
8801               {                                   /* defined    */
8802                 return KEY_defined;
8803               }
8804
8805               goto unknown;
8806
8807             default:
8808               goto unknown;
8809           }
8810               }
8811
8812               goto unknown;
8813
8814             default:
8815               goto unknown;
8816           }
8817
8818         case 'f':
8819           if (name[1] == 'o' &&
8820               name[2] == 'r' &&
8821               name[3] == 'e' &&
8822               name[4] == 'a' &&
8823               name[5] == 'c' &&
8824               name[6] == 'h')
8825           {                                       /* foreach    */
8826             return KEY_foreach;
8827           }
8828
8829           goto unknown;
8830
8831         case 'g':
8832           if (name[1] == 'e' &&
8833               name[2] == 't' &&
8834               name[3] == 'p')
8835           {
8836             switch (name[4])
8837             {
8838               case 'g':
8839                 if (name[5] == 'r' &&
8840                     name[6] == 'p')
8841                 {                                 /* getpgrp    */
8842                   return -KEY_getpgrp;
8843                 }
8844
8845                 goto unknown;
8846
8847               case 'p':
8848                 if (name[5] == 'i' &&
8849                     name[6] == 'd')
8850                 {                                 /* getppid    */
8851                   return -KEY_getppid;
8852                 }
8853
8854                 goto unknown;
8855
8856               default:
8857                 goto unknown;
8858             }
8859           }
8860
8861           goto unknown;
8862
8863         case 'l':
8864           if (name[1] == 'c' &&
8865               name[2] == 'f' &&
8866               name[3] == 'i' &&
8867               name[4] == 'r' &&
8868               name[5] == 's' &&
8869               name[6] == 't')
8870           {                                       /* lcfirst    */
8871             return -KEY_lcfirst;
8872           }
8873
8874           goto unknown;
8875
8876         case 'o':
8877           if (name[1] == 'p' &&
8878               name[2] == 'e' &&
8879               name[3] == 'n' &&
8880               name[4] == 'd' &&
8881               name[5] == 'i' &&
8882               name[6] == 'r')
8883           {                                       /* opendir    */
8884             return -KEY_opendir;
8885           }
8886
8887           goto unknown;
8888
8889         case 'p':
8890           if (name[1] == 'a' &&
8891               name[2] == 'c' &&
8892               name[3] == 'k' &&
8893               name[4] == 'a' &&
8894               name[5] == 'g' &&
8895               name[6] == 'e')
8896           {                                       /* package    */
8897             return KEY_package;
8898           }
8899
8900           goto unknown;
8901
8902         case 'r':
8903           if (name[1] == 'e')
8904           {
8905             switch (name[2])
8906             {
8907               case 'a':
8908                 if (name[3] == 'd' &&
8909                     name[4] == 'd' &&
8910                     name[5] == 'i' &&
8911                     name[6] == 'r')
8912                 {                                 /* readdir    */
8913                   return -KEY_readdir;
8914                 }
8915
8916                 goto unknown;
8917
8918               case 'q':
8919                 if (name[3] == 'u' &&
8920                     name[4] == 'i' &&
8921                     name[5] == 'r' &&
8922                     name[6] == 'e')
8923                 {                                 /* require    */
8924                   return KEY_require;
8925                 }
8926
8927                 goto unknown;
8928
8929               case 'v':
8930                 if (name[3] == 'e' &&
8931                     name[4] == 'r' &&
8932                     name[5] == 's' &&
8933                     name[6] == 'e')
8934                 {                                 /* reverse    */
8935                   return -KEY_reverse;
8936                 }
8937
8938                 goto unknown;
8939
8940               default:
8941                 goto unknown;
8942             }
8943           }
8944
8945           goto unknown;
8946
8947         case 's':
8948           switch (name[1])
8949           {
8950             case 'e':
8951               switch (name[2])
8952               {
8953                 case 'e':
8954                   if (name[3] == 'k' &&
8955                       name[4] == 'd' &&
8956                       name[5] == 'i' &&
8957                       name[6] == 'r')
8958                   {                               /* seekdir    */
8959                     return -KEY_seekdir;
8960                   }
8961
8962                   goto unknown;
8963
8964                 case 't':
8965                   if (name[3] == 'p' &&
8966                       name[4] == 'g' &&
8967                       name[5] == 'r' &&
8968                       name[6] == 'p')
8969                   {                               /* setpgrp    */
8970                     return -KEY_setpgrp;
8971                   }
8972
8973                   goto unknown;
8974
8975                 default:
8976                   goto unknown;
8977               }
8978
8979             case 'h':
8980               if (name[2] == 'm' &&
8981                   name[3] == 'r' &&
8982                   name[4] == 'e' &&
8983                   name[5] == 'a' &&
8984                   name[6] == 'd')
8985               {                                   /* shmread    */
8986                 return -KEY_shmread;
8987               }
8988
8989               goto unknown;
8990
8991             case 'p':
8992               if (name[2] == 'r' &&
8993                   name[3] == 'i' &&
8994                   name[4] == 'n' &&
8995                   name[5] == 't' &&
8996                   name[6] == 'f')
8997               {                                   /* sprintf    */
8998                 return -KEY_sprintf;
8999               }
9000
9001               goto unknown;
9002
9003             case 'y':
9004               switch (name[2])
9005               {
9006                 case 'm':
9007                   if (name[3] == 'l' &&
9008                       name[4] == 'i' &&
9009                       name[5] == 'n' &&
9010                       name[6] == 'k')
9011                   {                               /* symlink    */
9012                     return -KEY_symlink;
9013                   }
9014
9015                   goto unknown;
9016
9017                 case 's':
9018                   switch (name[3])
9019                   {
9020                     case 'c':
9021                       if (name[4] == 'a' &&
9022                           name[5] == 'l' &&
9023                           name[6] == 'l')
9024                       {                           /* syscall    */
9025                         return -KEY_syscall;
9026                       }
9027
9028                       goto unknown;
9029
9030                     case 'o':
9031                       if (name[4] == 'p' &&
9032                           name[5] == 'e' &&
9033                           name[6] == 'n')
9034                       {                           /* sysopen    */
9035                         return -KEY_sysopen;
9036                       }
9037
9038                       goto unknown;
9039
9040                     case 'r':
9041                       if (name[4] == 'e' &&
9042                           name[5] == 'a' &&
9043                           name[6] == 'd')
9044                       {                           /* sysread    */
9045                         return -KEY_sysread;
9046                       }
9047
9048                       goto unknown;
9049
9050                     case 's':
9051                       if (name[4] == 'e' &&
9052                           name[5] == 'e' &&
9053                           name[6] == 'k')
9054                       {                           /* sysseek    */
9055                         return -KEY_sysseek;
9056                       }
9057
9058                       goto unknown;
9059
9060                     default:
9061                       goto unknown;
9062                   }
9063
9064                 default:
9065                   goto unknown;
9066               }
9067
9068             default:
9069               goto unknown;
9070           }
9071
9072         case 't':
9073           if (name[1] == 'e' &&
9074               name[2] == 'l' &&
9075               name[3] == 'l' &&
9076               name[4] == 'd' &&
9077               name[5] == 'i' &&
9078               name[6] == 'r')
9079           {                                       /* telldir    */
9080             return -KEY_telldir;
9081           }
9082
9083           goto unknown;
9084
9085         case 'u':
9086           switch (name[1])
9087           {
9088             case 'c':
9089               if (name[2] == 'f' &&
9090                   name[3] == 'i' &&
9091                   name[4] == 'r' &&
9092                   name[5] == 's' &&
9093                   name[6] == 't')
9094               {                                   /* ucfirst    */
9095                 return -KEY_ucfirst;
9096               }
9097
9098               goto unknown;
9099
9100             case 'n':
9101               if (name[2] == 's' &&
9102                   name[3] == 'h' &&
9103                   name[4] == 'i' &&
9104                   name[5] == 'f' &&
9105                   name[6] == 't')
9106               {                                   /* unshift    */
9107                 return -KEY_unshift;
9108               }
9109
9110               goto unknown;
9111
9112             default:
9113               goto unknown;
9114           }
9115
9116         case 'w':
9117           if (name[1] == 'a' &&
9118               name[2] == 'i' &&
9119               name[3] == 't' &&
9120               name[4] == 'p' &&
9121               name[5] == 'i' &&
9122               name[6] == 'd')
9123           {                                       /* waitpid    */
9124             return -KEY_waitpid;
9125           }
9126
9127           goto unknown;
9128
9129         default:
9130           goto unknown;
9131       }
9132
9133     case 8: /* 26 tokens of length 8 */
9134       switch (name[0])
9135       {
9136         case 'A':
9137           if (name[1] == 'U' &&
9138               name[2] == 'T' &&
9139               name[3] == 'O' &&
9140               name[4] == 'L' &&
9141               name[5] == 'O' &&
9142               name[6] == 'A' &&
9143               name[7] == 'D')
9144           {                                       /* AUTOLOAD   */
9145             return KEY_AUTOLOAD;
9146           }
9147
9148           goto unknown;
9149
9150         case '_':
9151           if (name[1] == '_')
9152           {
9153             switch (name[2])
9154             {
9155               case 'D':
9156                 if (name[3] == 'A' &&
9157                     name[4] == 'T' &&
9158                     name[5] == 'A' &&
9159                     name[6] == '_' &&
9160                     name[7] == '_')
9161                 {                                 /* __DATA__   */
9162                   return KEY___DATA__;
9163                 }
9164
9165                 goto unknown;
9166
9167               case 'F':
9168                 if (name[3] == 'I' &&
9169                     name[4] == 'L' &&
9170                     name[5] == 'E' &&
9171                     name[6] == '_' &&
9172                     name[7] == '_')
9173                 {                                 /* __FILE__   */
9174                   return -KEY___FILE__;
9175                 }
9176
9177                 goto unknown;
9178
9179               case 'L':
9180                 if (name[3] == 'I' &&
9181                     name[4] == 'N' &&
9182                     name[5] == 'E' &&
9183                     name[6] == '_' &&
9184                     name[7] == '_')
9185                 {                                 /* __LINE__   */
9186                   return -KEY___LINE__;
9187                 }
9188
9189                 goto unknown;
9190
9191               default:
9192                 goto unknown;
9193             }
9194           }
9195
9196           goto unknown;
9197
9198         case 'c':
9199           switch (name[1])
9200           {
9201             case 'l':
9202               if (name[2] == 'o' &&
9203                   name[3] == 's' &&
9204                   name[4] == 'e' &&
9205                   name[5] == 'd' &&
9206                   name[6] == 'i' &&
9207                   name[7] == 'r')
9208               {                                   /* closedir   */
9209                 return -KEY_closedir;
9210               }
9211
9212               goto unknown;
9213
9214             case 'o':
9215               if (name[2] == 'n' &&
9216                   name[3] == 't' &&
9217                   name[4] == 'i' &&
9218                   name[5] == 'n' &&
9219                   name[6] == 'u' &&
9220                   name[7] == 'e')
9221               {                                   /* continue   */
9222                 return -KEY_continue;
9223               }
9224
9225               goto unknown;
9226
9227             default:
9228               goto unknown;
9229           }
9230
9231         case 'd':
9232           if (name[1] == 'b' &&
9233               name[2] == 'm' &&
9234               name[3] == 'c' &&
9235               name[4] == 'l' &&
9236               name[5] == 'o' &&
9237               name[6] == 's' &&
9238               name[7] == 'e')
9239           {                                       /* dbmclose   */
9240             return -KEY_dbmclose;
9241           }
9242
9243           goto unknown;
9244
9245         case 'e':
9246           if (name[1] == 'n' &&
9247               name[2] == 'd')
9248           {
9249             switch (name[3])
9250             {
9251               case 'g':
9252                 if (name[4] == 'r' &&
9253                     name[5] == 'e' &&
9254                     name[6] == 'n' &&
9255                     name[7] == 't')
9256                 {                                 /* endgrent   */
9257                   return -KEY_endgrent;
9258                 }
9259
9260                 goto unknown;
9261
9262               case 'p':
9263                 if (name[4] == 'w' &&
9264                     name[5] == 'e' &&
9265                     name[6] == 'n' &&
9266                     name[7] == 't')
9267                 {                                 /* endpwent   */
9268                   return -KEY_endpwent;
9269                 }
9270
9271                 goto unknown;
9272
9273               default:
9274                 goto unknown;
9275             }
9276           }
9277
9278           goto unknown;
9279
9280         case 'f':
9281           if (name[1] == 'o' &&
9282               name[2] == 'r' &&
9283               name[3] == 'm' &&
9284               name[4] == 'l' &&
9285               name[5] == 'i' &&
9286               name[6] == 'n' &&
9287               name[7] == 'e')
9288           {                                       /* formline   */
9289             return -KEY_formline;
9290           }
9291
9292           goto unknown;
9293
9294         case 'g':
9295           if (name[1] == 'e' &&
9296               name[2] == 't')
9297           {
9298             switch (name[3])
9299             {
9300               case 'g':
9301                 if (name[4] == 'r')
9302                 {
9303                   switch (name[5])
9304                   {
9305                     case 'e':
9306                       if (name[6] == 'n' &&
9307                           name[7] == 't')
9308                       {                           /* getgrent   */
9309                         return -KEY_getgrent;
9310                       }
9311
9312                       goto unknown;
9313
9314                     case 'g':
9315                       if (name[6] == 'i' &&
9316                           name[7] == 'd')
9317                       {                           /* getgrgid   */
9318                         return -KEY_getgrgid;
9319                       }
9320
9321                       goto unknown;
9322
9323                     case 'n':
9324                       if (name[6] == 'a' &&
9325                           name[7] == 'm')
9326                       {                           /* getgrnam   */
9327                         return -KEY_getgrnam;
9328                       }
9329
9330                       goto unknown;
9331
9332                     default:
9333                       goto unknown;
9334                   }
9335                 }
9336
9337                 goto unknown;
9338
9339               case 'l':
9340                 if (name[4] == 'o' &&
9341                     name[5] == 'g' &&
9342                     name[6] == 'i' &&
9343                     name[7] == 'n')
9344                 {                                 /* getlogin   */
9345                   return -KEY_getlogin;
9346                 }
9347
9348                 goto unknown;
9349
9350               case 'p':
9351                 if (name[4] == 'w')
9352                 {
9353                   switch (name[5])
9354                   {
9355                     case 'e':
9356                       if (name[6] == 'n' &&
9357                           name[7] == 't')
9358                       {                           /* getpwent   */
9359                         return -KEY_getpwent;
9360                       }
9361
9362                       goto unknown;
9363
9364                     case 'n':
9365                       if (name[6] == 'a' &&
9366                           name[7] == 'm')
9367                       {                           /* getpwnam   */
9368                         return -KEY_getpwnam;
9369                       }
9370
9371                       goto unknown;
9372
9373                     case 'u':
9374                       if (name[6] == 'i' &&
9375                           name[7] == 'd')
9376                       {                           /* getpwuid   */
9377                         return -KEY_getpwuid;
9378                       }
9379
9380                       goto unknown;
9381
9382                     default:
9383                       goto unknown;
9384                   }
9385                 }
9386
9387                 goto unknown;
9388
9389               default:
9390                 goto unknown;
9391             }
9392           }
9393
9394           goto unknown;
9395
9396         case 'r':
9397           if (name[1] == 'e' &&
9398               name[2] == 'a' &&
9399               name[3] == 'd')
9400           {
9401             switch (name[4])
9402             {
9403               case 'l':
9404                 if (name[5] == 'i' &&
9405                     name[6] == 'n')
9406                 {
9407                   switch (name[7])
9408                   {
9409                     case 'e':
9410                       {                           /* readline   */
9411                         return -KEY_readline;
9412                       }
9413
9414                     case 'k':
9415                       {                           /* readlink   */
9416                         return -KEY_readlink;
9417                       }
9418
9419                     default:
9420                       goto unknown;
9421                   }
9422                 }
9423
9424                 goto unknown;
9425
9426               case 'p':
9427                 if (name[5] == 'i' &&
9428                     name[6] == 'p' &&
9429                     name[7] == 'e')
9430                 {                                 /* readpipe   */
9431                   return -KEY_readpipe;
9432                 }
9433
9434                 goto unknown;
9435
9436               default:
9437                 goto unknown;
9438             }
9439           }
9440
9441           goto unknown;
9442
9443         case 's':
9444           switch (name[1])
9445           {
9446             case 'e':
9447               if (name[2] == 't')
9448               {
9449                 switch (name[3])
9450                 {
9451                   case 'g':
9452                     if (name[4] == 'r' &&
9453                         name[5] == 'e' &&
9454                         name[6] == 'n' &&
9455                         name[7] == 't')
9456                     {                             /* setgrent   */
9457                       return -KEY_setgrent;
9458                     }
9459
9460                     goto unknown;
9461
9462                   case 'p':
9463                     if (name[4] == 'w' &&
9464                         name[5] == 'e' &&
9465                         name[6] == 'n' &&
9466                         name[7] == 't')
9467                     {                             /* setpwent   */
9468                       return -KEY_setpwent;
9469                     }
9470
9471                     goto unknown;
9472
9473                   default:
9474                     goto unknown;
9475                 }
9476               }
9477
9478               goto unknown;
9479
9480             case 'h':
9481               switch (name[2])
9482               {
9483                 case 'm':
9484                   if (name[3] == 'w' &&
9485                       name[4] == 'r' &&
9486                       name[5] == 'i' &&
9487                       name[6] == 't' &&
9488                       name[7] == 'e')
9489                   {                               /* shmwrite   */
9490                     return -KEY_shmwrite;
9491                   }
9492
9493                   goto unknown;
9494
9495                 case 'u':
9496                   if (name[3] == 't' &&
9497                       name[4] == 'd' &&
9498                       name[5] == 'o' &&
9499                       name[6] == 'w' &&
9500                       name[7] == 'n')
9501                   {                               /* shutdown   */
9502                     return -KEY_shutdown;
9503                   }
9504
9505                   goto unknown;
9506
9507                 default:
9508                   goto unknown;
9509               }
9510
9511             case 'y':
9512               if (name[2] == 's' &&
9513                   name[3] == 'w' &&
9514                   name[4] == 'r' &&
9515                   name[5] == 'i' &&
9516                   name[6] == 't' &&
9517                   name[7] == 'e')
9518               {                                   /* syswrite   */
9519                 return -KEY_syswrite;
9520               }
9521
9522               goto unknown;
9523
9524             default:
9525               goto unknown;
9526           }
9527
9528         case 't':
9529           if (name[1] == 'r' &&
9530               name[2] == 'u' &&
9531               name[3] == 'n' &&
9532               name[4] == 'c' &&
9533               name[5] == 'a' &&
9534               name[6] == 't' &&
9535               name[7] == 'e')
9536           {                                       /* truncate   */
9537             return -KEY_truncate;
9538           }
9539
9540           goto unknown;
9541
9542         default:
9543           goto unknown;
9544       }
9545
9546     case 9: /* 8 tokens of length 9 */
9547       switch (name[0])
9548       {
9549         case 'e':
9550           if (name[1] == 'n' &&
9551               name[2] == 'd' &&
9552               name[3] == 'n' &&
9553               name[4] == 'e' &&
9554               name[5] == 't' &&
9555               name[6] == 'e' &&
9556               name[7] == 'n' &&
9557               name[8] == 't')
9558           {                                       /* endnetent  */
9559             return -KEY_endnetent;
9560           }
9561
9562           goto unknown;
9563
9564         case 'g':
9565           if (name[1] == 'e' &&
9566               name[2] == 't' &&
9567               name[3] == 'n' &&
9568               name[4] == 'e' &&
9569               name[5] == 't' &&
9570               name[6] == 'e' &&
9571               name[7] == 'n' &&
9572               name[8] == 't')
9573           {                                       /* getnetent  */
9574             return -KEY_getnetent;
9575           }
9576
9577           goto unknown;
9578
9579         case 'l':
9580           if (name[1] == 'o' &&
9581               name[2] == 'c' &&
9582               name[3] == 'a' &&
9583               name[4] == 'l' &&
9584               name[5] == 't' &&
9585               name[6] == 'i' &&
9586               name[7] == 'm' &&
9587               name[8] == 'e')
9588           {                                       /* localtime  */
9589             return -KEY_localtime;
9590           }
9591
9592           goto unknown;
9593
9594         case 'p':
9595           if (name[1] == 'r' &&
9596               name[2] == 'o' &&
9597               name[3] == 't' &&
9598               name[4] == 'o' &&
9599               name[5] == 't' &&
9600               name[6] == 'y' &&
9601               name[7] == 'p' &&
9602               name[8] == 'e')
9603           {                                       /* prototype  */
9604             return KEY_prototype;
9605           }
9606
9607           goto unknown;
9608
9609         case 'q':
9610           if (name[1] == 'u' &&
9611               name[2] == 'o' &&
9612               name[3] == 't' &&
9613               name[4] == 'e' &&
9614               name[5] == 'm' &&
9615               name[6] == 'e' &&
9616               name[7] == 't' &&
9617               name[8] == 'a')
9618           {                                       /* quotemeta  */
9619             return -KEY_quotemeta;
9620           }
9621
9622           goto unknown;
9623
9624         case 'r':
9625           if (name[1] == 'e' &&
9626               name[2] == 'w' &&
9627               name[3] == 'i' &&
9628               name[4] == 'n' &&
9629               name[5] == 'd' &&
9630               name[6] == 'd' &&
9631               name[7] == 'i' &&
9632               name[8] == 'r')
9633           {                                       /* rewinddir  */
9634             return -KEY_rewinddir;
9635           }
9636
9637           goto unknown;
9638
9639         case 's':
9640           if (name[1] == 'e' &&
9641               name[2] == 't' &&
9642               name[3] == 'n' &&
9643               name[4] == 'e' &&
9644               name[5] == 't' &&
9645               name[6] == 'e' &&
9646               name[7] == 'n' &&
9647               name[8] == 't')
9648           {                                       /* setnetent  */
9649             return -KEY_setnetent;
9650           }
9651
9652           goto unknown;
9653
9654         case 'w':
9655           if (name[1] == 'a' &&
9656               name[2] == 'n' &&
9657               name[3] == 't' &&
9658               name[4] == 'a' &&
9659               name[5] == 'r' &&
9660               name[6] == 'r' &&
9661               name[7] == 'a' &&
9662               name[8] == 'y')
9663           {                                       /* wantarray  */
9664             return -KEY_wantarray;
9665           }
9666
9667           goto unknown;
9668
9669         default:
9670           goto unknown;
9671       }
9672
9673     case 10: /* 9 tokens of length 10 */
9674       switch (name[0])
9675       {
9676         case 'e':
9677           if (name[1] == 'n' &&
9678               name[2] == 'd')
9679           {
9680             switch (name[3])
9681             {
9682               case 'h':
9683                 if (name[4] == 'o' &&
9684                     name[5] == 's' &&
9685                     name[6] == 't' &&
9686                     name[7] == 'e' &&
9687                     name[8] == 'n' &&
9688                     name[9] == 't')
9689                 {                                 /* endhostent */
9690                   return -KEY_endhostent;
9691                 }
9692
9693                 goto unknown;
9694
9695               case 's':
9696                 if (name[4] == 'e' &&
9697                     name[5] == 'r' &&
9698                     name[6] == 'v' &&
9699                     name[7] == 'e' &&
9700                     name[8] == 'n' &&
9701                     name[9] == 't')
9702                 {                                 /* endservent */
9703                   return -KEY_endservent;
9704                 }
9705
9706                 goto unknown;
9707
9708               default:
9709                 goto unknown;
9710             }
9711           }
9712
9713           goto unknown;
9714
9715         case 'g':
9716           if (name[1] == 'e' &&
9717               name[2] == 't')
9718           {
9719             switch (name[3])
9720             {
9721               case 'h':
9722                 if (name[4] == 'o' &&
9723                     name[5] == 's' &&
9724                     name[6] == 't' &&
9725                     name[7] == 'e' &&
9726                     name[8] == 'n' &&
9727                     name[9] == 't')
9728                 {                                 /* gethostent */
9729                   return -KEY_gethostent;
9730                 }
9731
9732                 goto unknown;
9733
9734               case 's':
9735                 switch (name[4])
9736                 {
9737                   case 'e':
9738                     if (name[5] == 'r' &&
9739                         name[6] == 'v' &&
9740                         name[7] == 'e' &&
9741                         name[8] == 'n' &&
9742                         name[9] == 't')
9743                     {                             /* getservent */
9744                       return -KEY_getservent;
9745                     }
9746
9747                     goto unknown;
9748
9749                   case 'o':
9750                     if (name[5] == 'c' &&
9751                         name[6] == 'k' &&
9752                         name[7] == 'o' &&
9753                         name[8] == 'p' &&
9754                         name[9] == 't')
9755                     {                             /* getsockopt */
9756                       return -KEY_getsockopt;
9757                     }
9758
9759                     goto unknown;
9760
9761                   default:
9762                     goto unknown;
9763                 }
9764
9765               default:
9766                 goto unknown;
9767             }
9768           }
9769
9770           goto unknown;
9771
9772         case 's':
9773           switch (name[1])
9774           {
9775             case 'e':
9776               if (name[2] == 't')
9777               {
9778                 switch (name[3])
9779                 {
9780                   case 'h':
9781                     if (name[4] == 'o' &&
9782                         name[5] == 's' &&
9783                         name[6] == 't' &&
9784                         name[7] == 'e' &&
9785                         name[8] == 'n' &&
9786                         name[9] == 't')
9787                     {                             /* sethostent */
9788                       return -KEY_sethostent;
9789                     }
9790
9791                     goto unknown;
9792
9793                   case 's':
9794                     switch (name[4])
9795                     {
9796                       case 'e':
9797                         if (name[5] == 'r' &&
9798                             name[6] == 'v' &&
9799                             name[7] == 'e' &&
9800                             name[8] == 'n' &&
9801                             name[9] == 't')
9802                         {                         /* setservent */
9803                           return -KEY_setservent;
9804                         }
9805
9806                         goto unknown;
9807
9808                       case 'o':
9809                         if (name[5] == 'c' &&
9810                             name[6] == 'k' &&
9811                             name[7] == 'o' &&
9812                             name[8] == 'p' &&
9813                             name[9] == 't')
9814                         {                         /* setsockopt */
9815                           return -KEY_setsockopt;
9816                         }
9817
9818                         goto unknown;
9819
9820                       default:
9821                         goto unknown;
9822                     }
9823
9824                   default:
9825                     goto unknown;
9826                 }
9827               }
9828
9829               goto unknown;
9830
9831             case 'o':
9832               if (name[2] == 'c' &&
9833                   name[3] == 'k' &&
9834                   name[4] == 'e' &&
9835                   name[5] == 't' &&
9836                   name[6] == 'p' &&
9837                   name[7] == 'a' &&
9838                   name[8] == 'i' &&
9839                   name[9] == 'r')
9840               {                                   /* socketpair */
9841                 return -KEY_socketpair;
9842               }
9843
9844               goto unknown;
9845
9846             default:
9847               goto unknown;
9848           }
9849
9850         default:
9851           goto unknown;
9852       }
9853
9854     case 11: /* 8 tokens of length 11 */
9855       switch (name[0])
9856       {
9857         case '_':
9858           if (name[1] == '_' &&
9859               name[2] == 'P' &&
9860               name[3] == 'A' &&
9861               name[4] == 'C' &&
9862               name[5] == 'K' &&
9863               name[6] == 'A' &&
9864               name[7] == 'G' &&
9865               name[8] == 'E' &&
9866               name[9] == '_' &&
9867               name[10] == '_')
9868           {                                       /* __PACKAGE__ */
9869             return -KEY___PACKAGE__;
9870           }
9871
9872           goto unknown;
9873
9874         case 'e':
9875           if (name[1] == 'n' &&
9876               name[2] == 'd' &&
9877               name[3] == 'p' &&
9878               name[4] == 'r' &&
9879               name[5] == 'o' &&
9880               name[6] == 't' &&
9881               name[7] == 'o' &&
9882               name[8] == 'e' &&
9883               name[9] == 'n' &&
9884               name[10] == 't')
9885           {                                       /* endprotoent */
9886             return -KEY_endprotoent;
9887           }
9888
9889           goto unknown;
9890
9891         case 'g':
9892           if (name[1] == 'e' &&
9893               name[2] == 't')
9894           {
9895             switch (name[3])
9896             {
9897               case 'p':
9898                 switch (name[4])
9899                 {
9900                   case 'e':
9901                     if (name[5] == 'e' &&
9902                         name[6] == 'r' &&
9903                         name[7] == 'n' &&
9904                         name[8] == 'a' &&
9905                         name[9] == 'm' &&
9906                         name[10] == 'e')
9907                     {                             /* getpeername */
9908                       return -KEY_getpeername;
9909                     }
9910
9911                     goto unknown;
9912
9913                   case 'r':
9914                     switch (name[5])
9915                     {
9916                       case 'i':
9917                         if (name[6] == 'o' &&
9918                             name[7] == 'r' &&
9919                             name[8] == 'i' &&
9920                             name[9] == 't' &&
9921                             name[10] == 'y')
9922                         {                         /* getpriority */
9923                           return -KEY_getpriority;
9924                         }
9925
9926                         goto unknown;
9927
9928                       case 'o':
9929                         if (name[6] == 't' &&
9930                             name[7] == 'o' &&
9931                             name[8] == 'e' &&
9932                             name[9] == 'n' &&
9933                             name[10] == 't')
9934                         {                         /* getprotoent */
9935                           return -KEY_getprotoent;
9936                         }
9937
9938                         goto unknown;
9939
9940                       default:
9941                         goto unknown;
9942                     }
9943
9944                   default:
9945                     goto unknown;
9946                 }
9947
9948               case 's':
9949                 if (name[4] == 'o' &&
9950                     name[5] == 'c' &&
9951                     name[6] == 'k' &&
9952                     name[7] == 'n' &&
9953                     name[8] == 'a' &&
9954                     name[9] == 'm' &&
9955                     name[10] == 'e')
9956                 {                                 /* getsockname */
9957                   return -KEY_getsockname;
9958                 }
9959
9960                 goto unknown;
9961
9962               default:
9963                 goto unknown;
9964             }
9965           }
9966
9967           goto unknown;
9968
9969         case 's':
9970           if (name[1] == 'e' &&
9971               name[2] == 't' &&
9972               name[3] == 'p' &&
9973               name[4] == 'r')
9974           {
9975             switch (name[5])
9976             {
9977               case 'i':
9978                 if (name[6] == 'o' &&
9979                     name[7] == 'r' &&
9980                     name[8] == 'i' &&
9981                     name[9] == 't' &&
9982                     name[10] == 'y')
9983                 {                                 /* setpriority */
9984                   return -KEY_setpriority;
9985                 }
9986
9987                 goto unknown;
9988
9989               case 'o':
9990                 if (name[6] == 't' &&
9991                     name[7] == 'o' &&
9992                     name[8] == 'e' &&
9993                     name[9] == 'n' &&
9994                     name[10] == 't')
9995                 {                                 /* setprotoent */
9996                   return -KEY_setprotoent;
9997                 }
9998
9999                 goto unknown;
10000
10001               default:
10002                 goto unknown;
10003             }
10004           }
10005
10006           goto unknown;
10007
10008         default:
10009           goto unknown;
10010       }
10011
10012     case 12: /* 2 tokens of length 12 */
10013       if (name[0] == 'g' &&
10014           name[1] == 'e' &&
10015           name[2] == 't' &&
10016           name[3] == 'n' &&
10017           name[4] == 'e' &&
10018           name[5] == 't' &&
10019           name[6] == 'b' &&
10020           name[7] == 'y')
10021       {
10022         switch (name[8])
10023         {
10024           case 'a':
10025             if (name[9] == 'd' &&
10026                 name[10] == 'd' &&
10027                 name[11] == 'r')
10028             {                                     /* getnetbyaddr */
10029               return -KEY_getnetbyaddr;
10030             }
10031
10032             goto unknown;
10033
10034           case 'n':
10035             if (name[9] == 'a' &&
10036                 name[10] == 'm' &&
10037                 name[11] == 'e')
10038             {                                     /* getnetbyname */
10039               return -KEY_getnetbyname;
10040             }
10041
10042             goto unknown;
10043
10044           default:
10045             goto unknown;
10046         }
10047       }
10048
10049       goto unknown;
10050
10051     case 13: /* 4 tokens of length 13 */
10052       if (name[0] == 'g' &&
10053           name[1] == 'e' &&
10054           name[2] == 't')
10055       {
10056         switch (name[3])
10057         {
10058           case 'h':
10059             if (name[4] == 'o' &&
10060                 name[5] == 's' &&
10061                 name[6] == 't' &&
10062                 name[7] == 'b' &&
10063                 name[8] == 'y')
10064             {
10065               switch (name[9])
10066               {
10067                 case 'a':
10068                   if (name[10] == 'd' &&
10069                       name[11] == 'd' &&
10070                       name[12] == 'r')
10071                   {                               /* gethostbyaddr */
10072                     return -KEY_gethostbyaddr;
10073                   }
10074
10075                   goto unknown;
10076
10077                 case 'n':
10078                   if (name[10] == 'a' &&
10079                       name[11] == 'm' &&
10080                       name[12] == 'e')
10081                   {                               /* gethostbyname */
10082                     return -KEY_gethostbyname;
10083                   }
10084
10085                   goto unknown;
10086
10087                 default:
10088                   goto unknown;
10089               }
10090             }
10091
10092             goto unknown;
10093
10094           case 's':
10095             if (name[4] == 'e' &&
10096                 name[5] == 'r' &&
10097                 name[6] == 'v' &&
10098                 name[7] == 'b' &&
10099                 name[8] == 'y')
10100             {
10101               switch (name[9])
10102               {
10103                 case 'n':
10104                   if (name[10] == 'a' &&
10105                       name[11] == 'm' &&
10106                       name[12] == 'e')
10107                   {                               /* getservbyname */
10108                     return -KEY_getservbyname;
10109                   }
10110
10111                   goto unknown;
10112
10113                 case 'p':
10114                   if (name[10] == 'o' &&
10115                       name[11] == 'r' &&
10116                       name[12] == 't')
10117                   {                               /* getservbyport */
10118                     return -KEY_getservbyport;
10119                   }
10120
10121                   goto unknown;
10122
10123                 default:
10124                   goto unknown;
10125               }
10126             }
10127
10128             goto unknown;
10129
10130           default:
10131             goto unknown;
10132         }
10133       }
10134
10135       goto unknown;
10136
10137     case 14: /* 1 tokens of length 14 */
10138       if (name[0] == 'g' &&
10139           name[1] == 'e' &&
10140           name[2] == 't' &&
10141           name[3] == 'p' &&
10142           name[4] == 'r' &&
10143           name[5] == 'o' &&
10144           name[6] == 't' &&
10145           name[7] == 'o' &&
10146           name[8] == 'b' &&
10147           name[9] == 'y' &&
10148           name[10] == 'n' &&
10149           name[11] == 'a' &&
10150           name[12] == 'm' &&
10151           name[13] == 'e')
10152       {                                           /* getprotobyname */
10153         return -KEY_getprotobyname;
10154       }
10155
10156       goto unknown;
10157
10158     case 16: /* 1 tokens of length 16 */
10159       if (name[0] == 'g' &&
10160           name[1] == 'e' &&
10161           name[2] == 't' &&
10162           name[3] == 'p' &&
10163           name[4] == 'r' &&
10164           name[5] == 'o' &&
10165           name[6] == 't' &&
10166           name[7] == 'o' &&
10167           name[8] == 'b' &&
10168           name[9] == 'y' &&
10169           name[10] == 'n' &&
10170           name[11] == 'u' &&
10171           name[12] == 'm' &&
10172           name[13] == 'b' &&
10173           name[14] == 'e' &&
10174           name[15] == 'r')
10175       {                                           /* getprotobynumber */
10176         return -KEY_getprotobynumber;
10177       }
10178
10179       goto unknown;
10180
10181     default:
10182       goto unknown;
10183   }
10184
10185 unknown:
10186   return 0;
10187 }
10188
10189 STATIC void
10190 S_checkcomma(pTHX_ const char *s, const char *name, const char *what)
10191 {
10192     dVAR;
10193
10194     if (*s == ' ' && s[1] == '(') {     /* XXX gotta be a better way */
10195         if (ckWARN(WARN_SYNTAX)) {
10196             int level = 1;
10197             const char *w;
10198             for (w = s+2; *w && level; w++) {
10199                 if (*w == '(')
10200                     ++level;
10201                 else if (*w == ')')
10202                     --level;
10203             }
10204             while (isSPACE(*w))
10205                 ++w;
10206             if (!*w || !strchr(";|})]oaiuw!=", *w))     /* an advisory hack only... */
10207                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
10208                             "%s (...) interpreted as function",name);
10209         }
10210     }
10211     while (s < PL_bufend && isSPACE(*s))
10212         s++;
10213     if (*s == '(')
10214         s++;
10215     while (s < PL_bufend && isSPACE(*s))
10216         s++;
10217     if (isIDFIRST_lazy_if(s,UTF)) {
10218         const char * const w = s++;
10219         while (isALNUM_lazy_if(s,UTF))
10220             s++;
10221         while (s < PL_bufend && isSPACE(*s))
10222             s++;
10223         if (*s == ',') {
10224             GV* gv;
10225             if (keyword(w, s - w))
10226                 return;
10227
10228             gv = gv_fetchpvn_flags(w, s - w, 0, SVt_PVCV);
10229             if (gv && GvCVu(gv))
10230                 return;
10231             Perl_croak(aTHX_ "No comma allowed after %s", what);
10232         }
10233     }
10234 }
10235
10236 /* Either returns sv, or mortalizes sv and returns a new SV*.
10237    Best used as sv=new_constant(..., sv, ...).
10238    If s, pv are NULL, calls subroutine with one argument,
10239    and type is used with error messages only. */
10240
10241 STATIC SV *
10242 S_new_constant(pTHX_ const char *s, STRLEN len, const char *key, SV *sv, SV *pv,
10243                const char *type)
10244 {
10245     dVAR; dSP;
10246     HV * const table = GvHV(PL_hintgv);          /* ^H */
10247     SV *res;
10248     SV **cvp;
10249     SV *cv, *typesv;
10250     const char *why1 = "", *why2 = "", *why3 = "";
10251
10252     if (!table || !(PL_hints & HINT_LOCALIZE_HH)) {
10253         SV *msg;
10254
10255         why2 = strEQ(key,"charnames")
10256                ? "(possibly a missing \"use charnames ...\")"
10257                : "";
10258         msg = Perl_newSVpvf(aTHX_ "Constant(%s) unknown: %s",
10259                             (type ? type: "undef"), why2);
10260
10261         /* This is convoluted and evil ("goto considered harmful")
10262          * but I do not understand the intricacies of all the different
10263          * failure modes of %^H in here.  The goal here is to make
10264          * the most probable error message user-friendly. --jhi */
10265
10266         goto msgdone;
10267
10268     report:
10269         msg = Perl_newSVpvf(aTHX_ "Constant(%s): %s%s%s",
10270                             (type ? type: "undef"), why1, why2, why3);
10271     msgdone:
10272         yyerror(SvPVX_const(msg));
10273         SvREFCNT_dec(msg);
10274         return sv;
10275     }
10276     cvp = hv_fetch(table, key, strlen(key), FALSE);
10277     if (!cvp || !SvOK(*cvp)) {
10278         why1 = "$^H{";
10279         why2 = key;
10280         why3 = "} is not defined";
10281         goto report;
10282     }
10283     sv_2mortal(sv);                     /* Parent created it permanently */
10284     cv = *cvp;
10285     if (!pv && s)
10286         pv = sv_2mortal(newSVpvn(s, len));
10287     if (type && pv)
10288         typesv = sv_2mortal(newSVpv(type, 0));
10289     else
10290         typesv = &PL_sv_undef;
10291
10292     PUSHSTACKi(PERLSI_OVERLOAD);
10293     ENTER ;
10294     SAVETMPS;
10295
10296     PUSHMARK(SP) ;
10297     EXTEND(sp, 3);
10298     if (pv)
10299         PUSHs(pv);
10300     PUSHs(sv);
10301     if (pv)
10302         PUSHs(typesv);
10303     PUTBACK;
10304     call_sv(cv, G_SCALAR | ( PL_in_eval ? 0 : G_EVAL));
10305
10306     SPAGAIN ;
10307
10308     /* Check the eval first */
10309     if (!PL_in_eval && SvTRUE(ERRSV)) {
10310         sv_catpvs(ERRSV, "Propagated");
10311         yyerror(SvPV_nolen_const(ERRSV)); /* Duplicates the message inside eval */
10312         (void)POPs;
10313         res = SvREFCNT_inc_simple(sv);
10314     }
10315     else {
10316         res = POPs;
10317         SvREFCNT_inc_simple_void(res);
10318     }
10319
10320     PUTBACK ;
10321     FREETMPS ;
10322     LEAVE ;
10323     POPSTACK;
10324
10325     if (!SvOK(res)) {
10326         why1 = "Call to &{$^H{";
10327         why2 = key;
10328         why3 = "}} did not return a defined value";
10329         sv = res;
10330         goto report;
10331     }
10332
10333     return res;
10334 }
10335
10336 /* Returns a NUL terminated string, with the length of the string written to
10337    *slp
10338    */
10339 STATIC char *
10340 S_scan_word(pTHX_ register char *s, char *dest, STRLEN destlen, int allow_package, STRLEN *slp)
10341 {
10342     dVAR;
10343     register char *d = dest;
10344     register char * const e = d + destlen - 3;  /* two-character token, ending NUL */
10345     for (;;) {
10346         if (d >= e)
10347             Perl_croak(aTHX_ ident_too_long);
10348         if (isALNUM(*s))        /* UTF handled below */
10349             *d++ = *s++;
10350         else if (*s == '\'' && allow_package && isIDFIRST_lazy_if(s+1,UTF)) {
10351             *d++ = ':';
10352             *d++ = ':';
10353             s++;
10354         }
10355         else if (*s == ':' && s[1] == ':' && allow_package && s[2] != '$') {
10356             *d++ = *s++;
10357             *d++ = *s++;
10358         }
10359         else if (UTF && UTF8_IS_START(*s) && isALNUM_utf8((U8*)s)) {
10360             char *t = s + UTF8SKIP(s);
10361             while (UTF8_IS_CONTINUED(*t) && is_utf8_mark((U8*)t))
10362                 t += UTF8SKIP(t);
10363             if (d + (t - s) > e)
10364                 Perl_croak(aTHX_ ident_too_long);
10365             Copy(s, d, t - s, char);
10366             d += t - s;
10367             s = t;
10368         }
10369         else {
10370             *d = '\0';
10371             *slp = d - dest;
10372             return s;
10373         }
10374     }
10375 }
10376
10377 STATIC char *
10378 S_scan_ident(pTHX_ register char *s, register const char *send, char *dest, STRLEN destlen, I32 ck_uni)
10379 {
10380     dVAR;
10381     char *bracket = NULL;
10382     char funny = *s++;
10383     register char *d = dest;
10384     register char * const e = d + destlen + 3;    /* two-character token, ending NUL */
10385
10386     if (isSPACE(*s))
10387         s = PEEKSPACE(s);
10388     if (isDIGIT(*s)) {
10389         while (isDIGIT(*s)) {
10390             if (d >= e)
10391                 Perl_croak(aTHX_ ident_too_long);
10392             *d++ = *s++;
10393         }
10394     }
10395     else {
10396         for (;;) {
10397             if (d >= e)
10398                 Perl_croak(aTHX_ ident_too_long);
10399             if (isALNUM(*s))    /* UTF handled below */
10400                 *d++ = *s++;
10401             else if (*s == '\'' && isIDFIRST_lazy_if(s+1,UTF)) {
10402                 *d++ = ':';
10403                 *d++ = ':';
10404                 s++;
10405             }
10406             else if (*s == ':' && s[1] == ':') {
10407                 *d++ = *s++;
10408                 *d++ = *s++;
10409             }
10410             else if (UTF && UTF8_IS_START(*s) && isALNUM_utf8((U8*)s)) {
10411                 char *t = s + UTF8SKIP(s);
10412                 while (UTF8_IS_CONTINUED(*t) && is_utf8_mark((U8*)t))
10413                     t += UTF8SKIP(t);
10414                 if (d + (t - s) > e)
10415                     Perl_croak(aTHX_ ident_too_long);
10416                 Copy(s, d, t - s, char);
10417                 d += t - s;
10418                 s = t;
10419             }
10420             else
10421                 break;
10422         }
10423     }
10424     *d = '\0';
10425     d = dest;
10426     if (*d) {
10427         if (PL_lex_state != LEX_NORMAL)
10428             PL_lex_state = LEX_INTERPENDMAYBE;
10429         return s;
10430     }
10431     if (*s == '$' && s[1] &&
10432         (isALNUM_lazy_if(s+1,UTF) || s[1] == '$' || s[1] == '{' || strnEQ(s+1,"::",2)) )
10433     {
10434         return s;
10435     }
10436     if (*s == '{') {
10437         bracket = s;
10438         s++;
10439     }
10440     else if (ck_uni)
10441         check_uni();
10442     if (s < send)
10443         *d = *s++;
10444     d[1] = '\0';
10445     if (*d == '^' && *s && isCONTROLVAR(*s)) {
10446         *d = toCTRL(*s);
10447         s++;
10448     }
10449     if (bracket) {
10450         if (isSPACE(s[-1])) {
10451             while (s < send) {
10452                 const char ch = *s++;
10453                 if (!SPACE_OR_TAB(ch)) {
10454                     *d = ch;
10455                     break;
10456                 }
10457             }
10458         }
10459         if (isIDFIRST_lazy_if(d,UTF)) {
10460             d++;
10461             if (UTF) {
10462                 char *end = s;
10463                 while ((end < send && isALNUM_lazy_if(end,UTF)) || *end == ':') {
10464                     end += UTF8SKIP(end);
10465                     while (end < send && UTF8_IS_CONTINUED(*end) && is_utf8_mark((U8*)end))
10466                         end += UTF8SKIP(end);
10467                 }
10468                 Copy(s, d, end - s, char);
10469                 d += end - s;
10470                 s = end;
10471             }
10472             else {
10473                 while ((isALNUM(*s) || *s == ':') && d < e)
10474                     *d++ = *s++;
10475                 if (d >= e)
10476                     Perl_croak(aTHX_ ident_too_long);
10477             }
10478             *d = '\0';
10479             while (s < send && SPACE_OR_TAB(*s)) s++;
10480             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
10481                 if (ckWARN(WARN_AMBIGUOUS) && keyword(dest, d - dest)) {
10482                     const char *brack = *s == '[' ? "[...]" : "{...}";
10483                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
10484                         "Ambiguous use of %c{%s%s} resolved to %c%s%s",
10485                         funny, dest, brack, funny, dest, brack);
10486                 }
10487                 bracket++;
10488                 PL_lex_brackstack[PL_lex_brackets++] = (char)(XOPERATOR | XFAKEBRACK);
10489                 return s;
10490             }
10491         }
10492         /* Handle extended ${^Foo} variables
10493          * 1999-02-27 mjd-perl-patch@plover.com */
10494         else if (!isALNUM(*d) && !isPRINT(*d) /* isCTRL(d) */
10495                  && isALNUM(*s))
10496         {
10497             d++;
10498             while (isALNUM(*s) && d < e) {
10499                 *d++ = *s++;
10500             }
10501             if (d >= e)
10502                 Perl_croak(aTHX_ ident_too_long);
10503             *d = '\0';
10504         }
10505         if (*s == '}') {
10506             s++;
10507             if (PL_lex_state == LEX_INTERPNORMAL && !PL_lex_brackets) {
10508                 PL_lex_state = LEX_INTERPEND;
10509                 PL_expect = XREF;
10510             }
10511             if (funny == '#')
10512                 funny = '@';
10513             if (PL_lex_state == LEX_NORMAL) {
10514                 if (ckWARN(WARN_AMBIGUOUS) &&
10515                     (keyword(dest, d - dest) || get_cv(dest, FALSE)))
10516                 {
10517                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
10518                         "Ambiguous use of %c{%s} resolved to %c%s",
10519                         funny, dest, funny, dest);
10520                 }
10521             }
10522         }
10523         else {
10524             s = bracket;                /* let the parser handle it */
10525             *dest = '\0';
10526         }
10527     }
10528     else if (PL_lex_state == LEX_INTERPNORMAL && !PL_lex_brackets && !intuit_more(s))
10529         PL_lex_state = LEX_INTERPEND;
10530     return s;
10531 }
10532
10533 void
10534 Perl_pmflag(pTHX_ U32* pmfl, int ch)
10535 {
10536     PERL_UNUSED_CONTEXT;
10537     if (ch == 'i')
10538         *pmfl |= PMf_FOLD;
10539     else if (ch == 'g')
10540         *pmfl |= PMf_GLOBAL;
10541     else if (ch == 'c')
10542         *pmfl |= PMf_CONTINUE;
10543     else if (ch == 'o')
10544         *pmfl |= PMf_KEEP;
10545     else if (ch == 'm')
10546         *pmfl |= PMf_MULTILINE;
10547     else if (ch == 's')
10548         *pmfl |= PMf_SINGLELINE;
10549     else if (ch == 'x')
10550         *pmfl |= PMf_EXTENDED;
10551 }
10552
10553 STATIC char *
10554 S_scan_pat(pTHX_ char *start, I32 type)
10555 {
10556     dVAR;
10557     PMOP *pm;
10558     char *s = scan_str(start,!!PL_madskills,FALSE);
10559     const char * const valid_flags = (type == OP_QR) ? "iomsx" : "iogcmsx";
10560 #ifdef PERL_MAD
10561     char *modstart;
10562 #endif
10563
10564
10565     if (!s) {
10566         const char * const delimiter = skipspace(start);
10567         Perl_croak(aTHX_ *delimiter == '?'
10568                    ? "Search pattern not terminated or ternary operator parsed as search pattern"
10569                    : "Search pattern not terminated" );
10570     }
10571
10572     pm = (PMOP*)newPMOP(type, 0);
10573     if (PL_multi_open == '?')
10574         pm->op_pmflags |= PMf_ONCE;
10575 #ifdef PERL_MAD
10576     modstart = s;
10577 #endif
10578     while (*s && strchr(valid_flags, *s))
10579         pmflag(&pm->op_pmflags,*s++);
10580 #ifdef PERL_MAD
10581     if (PL_madskills && modstart != s) {
10582         SV* tmptoken = newSVpvn(modstart, s - modstart);
10583         append_madprops(newMADPROP('m', MAD_SV, tmptoken, 0), (OP*)pm, 0);
10584     }
10585 #endif
10586     /* issue a warning if /c is specified,but /g is not */
10587     if ((pm->op_pmflags & PMf_CONTINUE) && !(pm->op_pmflags & PMf_GLOBAL)
10588             && ckWARN(WARN_REGEXP))
10589     {
10590         Perl_warner(aTHX_ packWARN(WARN_REGEXP), "Use of /c modifier is meaningless without /g" );
10591     }
10592
10593     pm->op_pmpermflags = pm->op_pmflags;
10594
10595     PL_lex_op = (OP*)pm;
10596     yylval.ival = OP_MATCH;
10597     return s;
10598 }
10599
10600 STATIC char *
10601 S_scan_subst(pTHX_ char *start)
10602 {
10603     dVAR;
10604     register char *s;
10605     register PMOP *pm;
10606     I32 first_start;
10607     I32 es = 0;
10608 #ifdef PERL_MAD
10609     char *modstart;
10610 #endif
10611
10612     yylval.ival = OP_NULL;
10613
10614     s = scan_str(start,!!PL_madskills,FALSE);
10615
10616     if (!s)
10617         Perl_croak(aTHX_ "Substitution pattern not terminated");
10618
10619     if (s[-1] == PL_multi_open)
10620         s--;
10621 #ifdef PERL_MAD
10622     if (PL_madskills) {
10623         CURMAD('q', PL_thisopen);
10624         CURMAD('_', PL_thiswhite);
10625         CURMAD('E', PL_thisstuff);
10626         CURMAD('Q', PL_thisclose);
10627         PL_realtokenstart = s - SvPVX(PL_linestr);
10628     }
10629 #endif
10630
10631     first_start = PL_multi_start;
10632     s = scan_str(s,!!PL_madskills,FALSE);
10633     if (!s) {
10634         if (PL_lex_stuff) {
10635             SvREFCNT_dec(PL_lex_stuff);
10636             PL_lex_stuff = NULL;
10637         }
10638         Perl_croak(aTHX_ "Substitution replacement not terminated");
10639     }
10640     PL_multi_start = first_start;       /* so whole substitution is taken together */
10641
10642     pm = (PMOP*)newPMOP(OP_SUBST, 0);
10643
10644 #ifdef PERL_MAD
10645     if (PL_madskills) {
10646         CURMAD('z', PL_thisopen);
10647         CURMAD('R', PL_thisstuff);
10648         CURMAD('Z', PL_thisclose);
10649     }
10650     modstart = s;
10651 #endif
10652
10653     while (*s) {
10654         if (*s == 'e') {
10655             s++;
10656             es++;
10657         }
10658         else if (strchr("iogcmsx", *s))
10659             pmflag(&pm->op_pmflags,*s++);
10660         else
10661             break;
10662     }
10663
10664 #ifdef PERL_MAD
10665     if (PL_madskills) {
10666         if (modstart != s)
10667             curmad('m', newSVpvn(modstart, s - modstart));
10668         append_madprops(PL_thismad, (OP*)pm, 0);
10669         PL_thismad = 0;
10670     }
10671 #endif
10672     if ((pm->op_pmflags & PMf_CONTINUE) && ckWARN(WARN_REGEXP)) {
10673         Perl_warner(aTHX_ packWARN(WARN_REGEXP), "Use of /c modifier is meaningless in s///" );
10674     }
10675
10676     if (es) {
10677         SV * const repl = newSVpvs("");
10678
10679         PL_sublex_info.super_bufptr = s;
10680         PL_sublex_info.super_bufend = PL_bufend;
10681         PL_multi_end = 0;
10682         pm->op_pmflags |= PMf_EVAL;
10683         while (es-- > 0)
10684             sv_catpv(repl, es ? "eval " : "do ");
10685         sv_catpvs(repl, "{");
10686         sv_catsv(repl, PL_lex_repl);
10687         sv_catpvs(repl, "}");
10688         SvEVALED_on(repl);
10689         SvREFCNT_dec(PL_lex_repl);
10690         PL_lex_repl = repl;
10691     }
10692
10693     pm->op_pmpermflags = pm->op_pmflags;
10694     PL_lex_op = (OP*)pm;
10695     yylval.ival = OP_SUBST;
10696     return s;
10697 }
10698
10699 STATIC char *
10700 S_scan_trans(pTHX_ char *start)
10701 {
10702     dVAR;
10703     register char* s;
10704     OP *o;
10705     short *tbl;
10706     I32 squash;
10707     I32 del;
10708     I32 complement;
10709 #ifdef PERL_MAD
10710     char *modstart;
10711 #endif
10712
10713     yylval.ival = OP_NULL;
10714
10715     s = scan_str(start,!!PL_madskills,FALSE);
10716     if (!s)
10717         Perl_croak(aTHX_ "Transliteration pattern not terminated");
10718
10719     if (s[-1] == PL_multi_open)
10720         s--;
10721 #ifdef PERL_MAD
10722     if (PL_madskills) {
10723         CURMAD('q', PL_thisopen);
10724         CURMAD('_', PL_thiswhite);
10725         CURMAD('E', PL_thisstuff);
10726         CURMAD('Q', PL_thisclose);
10727         PL_realtokenstart = s - SvPVX(PL_linestr);
10728     }
10729 #endif
10730
10731     s = scan_str(s,!!PL_madskills,FALSE);
10732     if (!s) {
10733         if (PL_lex_stuff) {
10734             SvREFCNT_dec(PL_lex_stuff);
10735             PL_lex_stuff = NULL;
10736         }
10737         Perl_croak(aTHX_ "Transliteration replacement not terminated");
10738     }
10739     if (PL_madskills) {
10740         CURMAD('z', PL_thisopen);
10741         CURMAD('R', PL_thisstuff);
10742         CURMAD('Z', PL_thisclose);
10743     }
10744
10745     complement = del = squash = 0;
10746 #ifdef PERL_MAD
10747     modstart = s;
10748 #endif
10749     while (1) {
10750         switch (*s) {
10751         case 'c':
10752             complement = OPpTRANS_COMPLEMENT;
10753             break;
10754         case 'd':
10755             del = OPpTRANS_DELETE;
10756             break;
10757         case 's':
10758             squash = OPpTRANS_SQUASH;
10759             break;
10760         default:
10761             goto no_more;
10762         }
10763         s++;
10764     }
10765   no_more:
10766
10767     Newx(tbl, complement&&!del?258:256, short);
10768     o = newPVOP(OP_TRANS, 0, (char*)tbl);
10769     o->op_private &= ~OPpTRANS_ALL;
10770     o->op_private |= del|squash|complement|
10771       (DO_UTF8(PL_lex_stuff)? OPpTRANS_FROM_UTF : 0)|
10772       (DO_UTF8(PL_lex_repl) ? OPpTRANS_TO_UTF   : 0);
10773
10774     PL_lex_op = o;
10775     yylval.ival = OP_TRANS;
10776
10777 #ifdef PERL_MAD
10778     if (PL_madskills) {
10779         if (modstart != s)
10780             curmad('m', newSVpvn(modstart, s - modstart));
10781         append_madprops(PL_thismad, o, 0);
10782         PL_thismad = 0;
10783     }
10784 #endif
10785
10786     return s;
10787 }
10788
10789 STATIC char *
10790 S_scan_heredoc(pTHX_ register char *s)
10791 {
10792     dVAR;
10793     SV *herewas;
10794     I32 op_type = OP_SCALAR;
10795     I32 len;
10796     SV *tmpstr;
10797     char term;
10798     const char *found_newline;
10799     register char *d;
10800     register char *e;
10801     char *peek;
10802     const int outer = (PL_rsfp && !(PL_lex_inwhat == OP_SCALAR));
10803 #ifdef PERL_MAD
10804     I32 stuffstart = s - SvPVX(PL_linestr);
10805     char *tstart;
10806
10807     PL_realtokenstart = -1;
10808 #endif
10809
10810     s += 2;
10811     d = PL_tokenbuf;
10812     e = PL_tokenbuf + sizeof PL_tokenbuf - 1;
10813     if (!outer)
10814         *d++ = '\n';
10815     for (peek = s; SPACE_OR_TAB(*peek); peek++) ;
10816     if (*peek == '`' || *peek == '\'' || *peek =='"') {
10817         s = peek;
10818         term = *s++;
10819         s = delimcpy(d, e, s, PL_bufend, term, &len);
10820         d += len;
10821         if (s < PL_bufend)
10822             s++;
10823     }
10824     else {
10825         if (*s == '\\')
10826             s++, term = '\'';
10827         else
10828             term = '"';
10829         if (!isALNUM_lazy_if(s,UTF))
10830             deprecate_old("bare << to mean <<\"\"");
10831         for (; isALNUM_lazy_if(s,UTF); s++) {
10832             if (d < e)
10833                 *d++ = *s;
10834         }
10835     }
10836     if (d >= PL_tokenbuf + sizeof PL_tokenbuf - 1)
10837         Perl_croak(aTHX_ "Delimiter for here document is too long");
10838     *d++ = '\n';
10839     *d = '\0';
10840     len = d - PL_tokenbuf;
10841
10842 #ifdef PERL_MAD
10843     if (PL_madskills) {
10844         tstart = PL_tokenbuf + !outer;
10845         PL_thisclose = newSVpvn(tstart, len - !outer);
10846         tstart = SvPVX(PL_linestr) + stuffstart;
10847         PL_thisopen = newSVpvn(tstart, s - tstart);
10848         stuffstart = s - SvPVX(PL_linestr);
10849     }
10850 #endif
10851 #ifndef PERL_STRICT_CR
10852     d = strchr(s, '\r');
10853     if (d) {
10854         char * const olds = s;
10855         s = d;
10856         while (s < PL_bufend) {
10857             if (*s == '\r') {
10858                 *d++ = '\n';
10859                 if (*++s == '\n')
10860                     s++;
10861             }
10862             else if (*s == '\n' && s[1] == '\r') {      /* \015\013 on a mac? */
10863                 *d++ = *s++;
10864                 s++;
10865             }
10866             else
10867                 *d++ = *s++;
10868         }
10869         *d = '\0';
10870         PL_bufend = d;
10871         SvCUR_set(PL_linestr, PL_bufend - SvPVX_const(PL_linestr));
10872         s = olds;
10873     }
10874 #endif
10875 #ifdef PERL_MAD
10876     found_newline = 0;
10877 #endif
10878     if ( outer || !(found_newline = memchr(s, '\n', PL_bufend - s)) ) {
10879         herewas = newSVpvn(s,PL_bufend-s);
10880     }
10881     else {
10882 #ifdef PERL_MAD
10883         herewas = newSVpvn(s-1,found_newline-s+1);
10884 #else
10885         s--;
10886         herewas = newSVpvn(s,found_newline-s);
10887 #endif
10888     }
10889 #ifdef PERL_MAD
10890     if (PL_madskills) {
10891         tstart = SvPVX(PL_linestr) + stuffstart;
10892         if (PL_thisstuff)
10893             sv_catpvn(PL_thisstuff, tstart, s - tstart);
10894         else
10895             PL_thisstuff = newSVpvn(tstart, s - tstart);
10896     }
10897 #endif
10898     s += SvCUR(herewas);
10899
10900 #ifdef PERL_MAD
10901     stuffstart = s - SvPVX(PL_linestr);
10902
10903     if (found_newline)
10904         s--;
10905 #endif
10906
10907     tmpstr = newSV(79);
10908     sv_upgrade(tmpstr, SVt_PVIV);
10909     if (term == '\'') {
10910         op_type = OP_CONST;
10911         SvIV_set(tmpstr, -1);
10912     }
10913     else if (term == '`') {
10914         op_type = OP_BACKTICK;
10915         SvIV_set(tmpstr, '\\');
10916     }
10917
10918     CLINE;
10919     PL_multi_start = CopLINE(PL_curcop);
10920     PL_multi_open = PL_multi_close = '<';
10921     term = *PL_tokenbuf;
10922     if (PL_lex_inwhat == OP_SUBST && PL_in_eval && !PL_rsfp) {
10923         char * const bufptr = PL_sublex_info.super_bufptr;
10924         char * const bufend = PL_sublex_info.super_bufend;
10925         char * const olds = s - SvCUR(herewas);
10926         s = strchr(bufptr, '\n');
10927         if (!s)
10928             s = bufend;
10929         d = s;
10930         while (s < bufend &&
10931           (*s != term || memNE(s,PL_tokenbuf,len)) ) {
10932             if (*s++ == '\n')
10933                 CopLINE_inc(PL_curcop);
10934         }
10935         if (s >= bufend) {
10936             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
10937             missingterm(PL_tokenbuf);
10938         }
10939         sv_setpvn(herewas,bufptr,d-bufptr+1);
10940         sv_setpvn(tmpstr,d+1,s-d);
10941         s += len - 1;
10942         sv_catpvn(herewas,s,bufend-s);
10943         Copy(SvPVX_const(herewas),bufptr,SvCUR(herewas) + 1,char);
10944
10945         s = olds;
10946         goto retval;
10947     }
10948     else if (!outer) {
10949         d = s;
10950         while (s < PL_bufend &&
10951           (*s != term || memNE(s,PL_tokenbuf,len)) ) {
10952             if (*s++ == '\n')
10953                 CopLINE_inc(PL_curcop);
10954         }
10955         if (s >= PL_bufend) {
10956             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
10957             missingterm(PL_tokenbuf);
10958         }
10959         sv_setpvn(tmpstr,d+1,s-d);
10960 #ifdef PERL_MAD
10961         if (PL_madskills) {
10962             if (PL_thisstuff)
10963                 sv_catpvn(PL_thisstuff, d + 1, s - d);
10964             else
10965                 PL_thisstuff = newSVpvn(d + 1, s - d);
10966             stuffstart = s - SvPVX(PL_linestr);
10967         }
10968 #endif
10969         s += len - 1;
10970         CopLINE_inc(PL_curcop); /* the preceding stmt passes a newline */
10971
10972         sv_catpvn(herewas,s,PL_bufend-s);
10973         sv_setsv(PL_linestr,herewas);
10974         PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = s = PL_linestart = SvPVX(PL_linestr);
10975         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
10976         PL_last_lop = PL_last_uni = NULL;
10977     }
10978     else
10979         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
10980     while (s >= PL_bufend) {    /* multiple line string? */
10981 #ifdef PERL_MAD
10982         if (PL_madskills) {
10983             tstart = SvPVX(PL_linestr) + stuffstart;
10984             if (PL_thisstuff)
10985                 sv_catpvn(PL_thisstuff, tstart, PL_bufend - tstart);
10986             else
10987                 PL_thisstuff = newSVpvn(tstart, PL_bufend - tstart);
10988         }
10989 #endif
10990         if (!outer ||
10991          !(PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = filter_gets(PL_linestr, PL_rsfp, 0))) {
10992             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
10993             missingterm(PL_tokenbuf);
10994         }
10995 #ifdef PERL_MAD
10996         stuffstart = s - SvPVX(PL_linestr);
10997 #endif
10998         CopLINE_inc(PL_curcop);
10999         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11000         PL_last_lop = PL_last_uni = NULL;
11001 #ifndef PERL_STRICT_CR
11002         if (PL_bufend - PL_linestart >= 2) {
11003             if ((PL_bufend[-2] == '\r' && PL_bufend[-1] == '\n') ||
11004                 (PL_bufend[-2] == '\n' && PL_bufend[-1] == '\r'))
11005             {
11006                 PL_bufend[-2] = '\n';
11007                 PL_bufend--;
11008                 SvCUR_set(PL_linestr, PL_bufend - SvPVX_const(PL_linestr));
11009             }
11010             else if (PL_bufend[-1] == '\r')
11011                 PL_bufend[-1] = '\n';
11012         }
11013         else if (PL_bufend - PL_linestart == 1 && PL_bufend[-1] == '\r')
11014             PL_bufend[-1] = '\n';
11015 #endif
11016         if (PERLDB_LINE && PL_curstash != PL_debstash) {
11017             SV * const sv = newSV(0);
11018
11019             sv_upgrade(sv, SVt_PVMG);
11020             sv_setsv(sv,PL_linestr);
11021             (void)SvIOK_on(sv);
11022             SvIV_set(sv, 0);
11023             av_store(CopFILEAVx(PL_curcop), (I32)CopLINE(PL_curcop),sv);
11024         }
11025         if (*s == term && memEQ(s,PL_tokenbuf,len)) {
11026             STRLEN off = PL_bufend - 1 - SvPVX_const(PL_linestr);
11027             *(SvPVX(PL_linestr) + off ) = ' ';
11028             sv_catsv(PL_linestr,herewas);
11029             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11030             s = SvPVX(PL_linestr) + off; /* In case PV of PL_linestr moved. */
11031         }
11032         else {
11033             s = PL_bufend;
11034             sv_catsv(tmpstr,PL_linestr);
11035         }
11036     }
11037     s++;
11038 retval:
11039     PL_multi_end = CopLINE(PL_curcop);
11040     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
11041         SvPV_shrink_to_cur(tmpstr);
11042     }
11043     SvREFCNT_dec(herewas);
11044     if (!IN_BYTES) {
11045         if (UTF && is_utf8_string((U8*)SvPVX_const(tmpstr), SvCUR(tmpstr)))
11046             SvUTF8_on(tmpstr);
11047         else if (PL_encoding)
11048             sv_recode_to_utf8(tmpstr, PL_encoding);
11049     }
11050     PL_lex_stuff = tmpstr;
11051     yylval.ival = op_type;
11052     return s;
11053 }
11054
11055 /* scan_inputsymbol
11056    takes: current position in input buffer
11057    returns: new position in input buffer
11058    side-effects: yylval and lex_op are set.
11059
11060    This code handles:
11061
11062    <>           read from ARGV
11063    <FH>         read from filehandle
11064    <pkg::FH>    read from package qualified filehandle
11065    <pkg'FH>     read from package qualified filehandle
11066    <$fh>        read from filehandle in $fh
11067    <*.h>        filename glob
11068
11069 */
11070
11071 STATIC char *
11072 S_scan_inputsymbol(pTHX_ char *start)
11073 {
11074     dVAR;
11075     register char *s = start;           /* current position in buffer */
11076     char *end;
11077     I32 len;
11078
11079     char *d = PL_tokenbuf;                                      /* start of temp holding space */
11080     const char * const e = PL_tokenbuf + sizeof PL_tokenbuf;    /* end of temp holding space */
11081
11082     end = strchr(s, '\n');
11083     if (!end)
11084         end = PL_bufend;
11085     s = delimcpy(d, e, s + 1, end, '>', &len);  /* extract until > */
11086
11087     /* die if we didn't have space for the contents of the <>,
11088        or if it didn't end, or if we see a newline
11089     */
11090
11091     if (len >= sizeof PL_tokenbuf)
11092         Perl_croak(aTHX_ "Excessively long <> operator");
11093     if (s >= end)
11094         Perl_croak(aTHX_ "Unterminated <> operator");
11095
11096     s++;
11097
11098     /* check for <$fh>
11099        Remember, only scalar variables are interpreted as filehandles by
11100        this code.  Anything more complex (e.g., <$fh{$num}>) will be
11101        treated as a glob() call.
11102        This code makes use of the fact that except for the $ at the front,
11103        a scalar variable and a filehandle look the same.
11104     */
11105     if (*d == '$' && d[1]) d++;
11106
11107     /* allow <Pkg'VALUE> or <Pkg::VALUE> */
11108     while (*d && (isALNUM_lazy_if(d,UTF) || *d == '\'' || *d == ':'))
11109         d++;
11110
11111     /* If we've tried to read what we allow filehandles to look like, and
11112        there's still text left, then it must be a glob() and not a getline.
11113        Use scan_str to pull out the stuff between the <> and treat it
11114        as nothing more than a string.
11115     */
11116
11117     if (d - PL_tokenbuf != len) {
11118         yylval.ival = OP_GLOB;
11119         set_csh();
11120         s = scan_str(start,!!PL_madskills,FALSE);
11121         if (!s)
11122            Perl_croak(aTHX_ "Glob not terminated");
11123         return s;
11124     }
11125     else {
11126         bool readline_overriden = FALSE;
11127         GV *gv_readline;
11128         GV **gvp;
11129         /* we're in a filehandle read situation */
11130         d = PL_tokenbuf;
11131
11132         /* turn <> into <ARGV> */
11133         if (!len)
11134             Copy("ARGV",d,5,char);
11135
11136         /* Check whether readline() is overriden */
11137         gv_readline = gv_fetchpvs("readline", GV_NOTQUAL, SVt_PVCV);
11138         if ((gv_readline
11139                 && GvCVu(gv_readline) && GvIMPORTED_CV(gv_readline))
11140                 ||
11141                 ((gvp = (GV**)hv_fetchs(PL_globalstash, "readline", FALSE))
11142                 && (gv_readline = *gvp) != (GV*)&PL_sv_undef
11143                 && GvCVu(gv_readline) && GvIMPORTED_CV(gv_readline)))
11144             readline_overriden = TRUE;
11145
11146         /* if <$fh>, create the ops to turn the variable into a
11147            filehandle
11148         */
11149         if (*d == '$') {
11150             PADOFFSET tmp;
11151
11152             /* try to find it in the pad for this block, otherwise find
11153                add symbol table ops
11154             */
11155             if ((tmp = pad_findmy(d)) != NOT_IN_PAD) {
11156                 if (PAD_COMPNAME_FLAGS_isOUR(tmp)) {
11157                     HV * const stash = PAD_COMPNAME_OURSTASH(tmp);
11158                     HEK * const stashname = HvNAME_HEK(stash);
11159                     SV * const sym = sv_2mortal(newSVhek(stashname));
11160                     sv_catpvs(sym, "::");
11161                     sv_catpv(sym, d+1);
11162                     d = SvPVX(sym);
11163                     goto intro_sym;
11164                 }
11165                 else {
11166                     OP * const o = newOP(OP_PADSV, 0);
11167                     o->op_targ = tmp;
11168                     PL_lex_op = readline_overriden
11169                         ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
11170                                 append_elem(OP_LIST, o,
11171                                     newCVREF(0, newGVOP(OP_GV,0,gv_readline))))
11172                         : (OP*)newUNOP(OP_READLINE, 0, o);
11173                 }
11174             }
11175             else {
11176                 GV *gv;
11177                 ++d;
11178 intro_sym:
11179                 gv = gv_fetchpv(d,
11180                                 (PL_in_eval
11181                                  ? (GV_ADDMULTI | GV_ADDINEVAL)
11182                                  : GV_ADDMULTI),
11183                                 SVt_PV);
11184                 PL_lex_op = readline_overriden
11185                     ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
11186                             append_elem(OP_LIST,
11187                                 newUNOP(OP_RV2SV, 0, newGVOP(OP_GV, 0, gv)),
11188                                 newCVREF(0, newGVOP(OP_GV, 0, gv_readline))))
11189                     : (OP*)newUNOP(OP_READLINE, 0,
11190                             newUNOP(OP_RV2SV, 0,
11191                                 newGVOP(OP_GV, 0, gv)));
11192             }
11193             if (!readline_overriden)
11194                 PL_lex_op->op_flags |= OPf_SPECIAL;
11195             /* we created the ops in PL_lex_op, so make yylval.ival a null op */
11196             yylval.ival = OP_NULL;
11197         }
11198
11199         /* If it's none of the above, it must be a literal filehandle
11200            (<Foo::BAR> or <FOO>) so build a simple readline OP */
11201         else {
11202             GV * const gv = gv_fetchpv(d, GV_ADD, SVt_PVIO);
11203             PL_lex_op = readline_overriden
11204                 ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
11205                         append_elem(OP_LIST,
11206                             newGVOP(OP_GV, 0, gv),
11207                             newCVREF(0, newGVOP(OP_GV, 0, gv_readline))))
11208                 : (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
11209             yylval.ival = OP_NULL;
11210         }
11211     }
11212
11213     return s;
11214 }
11215
11216
11217 /* scan_str
11218    takes: start position in buffer
11219           keep_quoted preserve \ on the embedded delimiter(s)
11220           keep_delims preserve the delimiters around the string
11221    returns: position to continue reading from buffer
11222    side-effects: multi_start, multi_close, lex_repl or lex_stuff, and
11223         updates the read buffer.
11224
11225    This subroutine pulls a string out of the input.  It is called for:
11226         q               single quotes           q(literal text)
11227         '               single quotes           'literal text'
11228         qq              double quotes           qq(interpolate $here please)
11229         "               double quotes           "interpolate $here please"
11230         qx              backticks               qx(/bin/ls -l)
11231         `               backticks               `/bin/ls -l`
11232         qw              quote words             @EXPORT_OK = qw( func() $spam )
11233         m//             regexp match            m/this/
11234         s///            regexp substitute       s/this/that/
11235         tr///           string transliterate    tr/this/that/
11236         y///            string transliterate    y/this/that/
11237         ($*@)           sub prototypes          sub foo ($)
11238         (stuff)         sub attr parameters     sub foo : attr(stuff)
11239         <>              readline or globs       <FOO>, <>, <$fh>, or <*.c>
11240
11241    In most of these cases (all but <>, patterns and transliterate)
11242    yylex() calls scan_str().  m// makes yylex() call scan_pat() which
11243    calls scan_str().  s/// makes yylex() call scan_subst() which calls
11244    scan_str().  tr/// and y/// make yylex() call scan_trans() which
11245    calls scan_str().
11246
11247    It skips whitespace before the string starts, and treats the first
11248    character as the delimiter.  If the delimiter is one of ([{< then
11249    the corresponding "close" character )]}> is used as the closing
11250    delimiter.  It allows quoting of delimiters, and if the string has
11251    balanced delimiters ([{<>}]) it allows nesting.
11252
11253    On success, the SV with the resulting string is put into lex_stuff or,
11254    if that is already non-NULL, into lex_repl. The second case occurs only
11255    when parsing the RHS of the special constructs s/// and tr/// (y///).
11256    For convenience, the terminating delimiter character is stuffed into
11257    SvIVX of the SV.
11258 */
11259
11260 STATIC char *
11261 S_scan_str(pTHX_ char *start, int keep_quoted, int keep_delims)
11262 {
11263     dVAR;
11264     SV *sv;                             /* scalar value: string */
11265     char *tmps;                         /* temp string, used for delimiter matching */
11266     register char *s = start;           /* current position in the buffer */
11267     register char term;                 /* terminating character */
11268     register char *to;                  /* current position in the sv's data */
11269     I32 brackets = 1;                   /* bracket nesting level */
11270     bool has_utf8 = FALSE;              /* is there any utf8 content? */
11271     I32 termcode;                       /* terminating char. code */
11272     U8 termstr[UTF8_MAXBYTES];          /* terminating string */
11273     STRLEN termlen;                     /* length of terminating string */
11274     char *last = NULL;                  /* last position for nesting bracket */
11275 #ifdef PERL_MAD
11276     int stuffstart;
11277     char *tstart;
11278 #endif
11279
11280     /* skip space before the delimiter */
11281     if (isSPACE(*s)) {
11282         s = PEEKSPACE(s);
11283     }
11284
11285 #ifdef PERL_MAD
11286     if (PL_realtokenstart >= 0) {
11287         stuffstart = PL_realtokenstart;
11288         PL_realtokenstart = -1;
11289     }
11290     else
11291         stuffstart = start - SvPVX(PL_linestr);
11292 #endif
11293     /* mark where we are, in case we need to report errors */
11294     CLINE;
11295
11296     /* after skipping whitespace, the next character is the terminator */
11297     term = *s;
11298     if (!UTF) {
11299         termcode = termstr[0] = term;
11300         termlen = 1;
11301     }
11302     else {
11303         termcode = utf8_to_uvchr((U8*)s, &termlen);
11304         Copy(s, termstr, termlen, U8);
11305         if (!UTF8_IS_INVARIANT(term))
11306             has_utf8 = TRUE;
11307     }
11308
11309     /* mark where we are */
11310     PL_multi_start = CopLINE(PL_curcop);
11311     PL_multi_open = term;
11312
11313     /* find corresponding closing delimiter */
11314     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
11315         termcode = termstr[0] = term = tmps[5];
11316
11317     PL_multi_close = term;
11318
11319     /* create a new SV to hold the contents.  79 is the SV's initial length.
11320        What a random number. */
11321     sv = newSV(79);
11322     sv_upgrade(sv, SVt_PVIV);
11323     SvIV_set(sv, termcode);
11324     (void)SvPOK_only(sv);               /* validate pointer */
11325
11326     /* move past delimiter and try to read a complete string */
11327     if (keep_delims)
11328         sv_catpvn(sv, s, termlen);
11329     s += termlen;
11330 #ifdef PERL_MAD
11331     tstart = SvPVX(PL_linestr) + stuffstart;
11332     if (!PL_thisopen && !keep_delims) {
11333         PL_thisopen = newSVpvn(tstart, s - tstart);
11334         stuffstart = s - SvPVX(PL_linestr);
11335     }
11336 #endif
11337     for (;;) {
11338         if (PL_encoding && !UTF) {
11339             bool cont = TRUE;
11340
11341             while (cont) {
11342                 int offset = s - SvPVX_const(PL_linestr);
11343                 const bool found = sv_cat_decode(sv, PL_encoding, PL_linestr,
11344                                            &offset, (char*)termstr, termlen);
11345                 const char * const ns = SvPVX_const(PL_linestr) + offset;
11346                 char * const svlast = SvEND(sv) - 1;
11347
11348                 for (; s < ns; s++) {
11349                     if (*s == '\n' && !PL_rsfp)
11350                         CopLINE_inc(PL_curcop);
11351                 }
11352                 if (!found)
11353                     goto read_more_line;
11354                 else {
11355                     /* handle quoted delimiters */
11356                     if (SvCUR(sv) > 1 && *(svlast-1) == '\\') {
11357                         const char *t;
11358                         for (t = svlast-2; t >= SvPVX_const(sv) && *t == '\\';)
11359                             t--;
11360                         if ((svlast-1 - t) % 2) {
11361                             if (!keep_quoted) {
11362                                 *(svlast-1) = term;
11363                                 *svlast = '\0';
11364                                 SvCUR_set(sv, SvCUR(sv) - 1);
11365                             }
11366                             continue;
11367                         }
11368                     }
11369                     if (PL_multi_open == PL_multi_close) {
11370                         cont = FALSE;
11371                     }
11372                     else {
11373                         const char *t;
11374                         char *w;
11375                         if (!last)
11376                             last = SvPVX(sv);
11377                         for (t = w = last; t < svlast; w++, t++) {
11378                             /* At here, all closes are "was quoted" one,
11379                                so we don't check PL_multi_close. */
11380                             if (*t == '\\') {
11381                                 if (!keep_quoted && *(t+1) == PL_multi_open)
11382                                     t++;
11383                                 else
11384                                     *w++ = *t++;
11385                             }
11386                             else if (*t == PL_multi_open)
11387                                 brackets++;
11388
11389                             *w = *t;
11390                         }
11391                         if (w < t) {
11392                             *w++ = term;
11393                             *w = '\0';
11394                             SvCUR_set(sv, w - SvPVX_const(sv));
11395                         }
11396                         last = w;
11397                         if (--brackets <= 0)
11398                             cont = FALSE;
11399                     }
11400                 }
11401             }
11402             if (!keep_delims) {
11403                 SvCUR_set(sv, SvCUR(sv) - 1);
11404                 *SvEND(sv) = '\0';
11405             }
11406             break;
11407         }
11408
11409         /* extend sv if need be */
11410         SvGROW(sv, SvCUR(sv) + (PL_bufend - s) + 1);
11411         /* set 'to' to the next character in the sv's string */
11412         to = SvPVX(sv)+SvCUR(sv);
11413
11414         /* if open delimiter is the close delimiter read unbridle */
11415         if (PL_multi_open == PL_multi_close) {
11416             for (; s < PL_bufend; s++,to++) {
11417                 /* embedded newlines increment the current line number */
11418                 if (*s == '\n' && !PL_rsfp)
11419                     CopLINE_inc(PL_curcop);
11420                 /* handle quoted delimiters */
11421                 if (*s == '\\' && s+1 < PL_bufend && term != '\\') {
11422                     if (!keep_quoted && s[1] == term)
11423                         s++;
11424                 /* any other quotes are simply copied straight through */
11425                     else
11426                         *to++ = *s++;
11427                 }
11428                 /* terminate when run out of buffer (the for() condition), or
11429                    have found the terminator */
11430                 else if (*s == term) {
11431                     if (termlen == 1)
11432                         break;
11433                     if (s+termlen <= PL_bufend && memEQ(s, (char*)termstr, termlen))
11434                         break;
11435                 }
11436                 else if (!has_utf8 && !UTF8_IS_INVARIANT((U8)*s) && UTF)
11437                     has_utf8 = TRUE;
11438                 *to = *s;
11439             }
11440         }
11441
11442         /* if the terminator isn't the same as the start character (e.g.,
11443            matched brackets), we have to allow more in the quoting, and
11444            be prepared for nested brackets.
11445         */
11446         else {
11447             /* read until we run out of string, or we find the terminator */
11448             for (; s < PL_bufend; s++,to++) {
11449                 /* embedded newlines increment the line count */
11450                 if (*s == '\n' && !PL_rsfp)
11451                     CopLINE_inc(PL_curcop);
11452                 /* backslashes can escape the open or closing characters */
11453                 if (*s == '\\' && s+1 < PL_bufend) {
11454                     if (!keep_quoted &&
11455                         ((s[1] == PL_multi_open) || (s[1] == PL_multi_close)))
11456                         s++;
11457                     else
11458                         *to++ = *s++;
11459                 }
11460                 /* allow nested opens and closes */
11461                 else if (*s == PL_multi_close && --brackets <= 0)
11462                     break;
11463                 else if (*s == PL_multi_open)
11464                     brackets++;
11465                 else if (!has_utf8 && !UTF8_IS_INVARIANT((U8)*s) && UTF)
11466                     has_utf8 = TRUE;
11467                 *to = *s;
11468             }
11469         }
11470         /* terminate the copied string and update the sv's end-of-string */
11471         *to = '\0';
11472         SvCUR_set(sv, to - SvPVX_const(sv));
11473
11474         /*
11475          * this next chunk reads more into the buffer if we're not done yet
11476          */
11477
11478         if (s < PL_bufend)
11479             break;              /* handle case where we are done yet :-) */
11480
11481 #ifndef PERL_STRICT_CR
11482         if (to - SvPVX_const(sv) >= 2) {
11483             if ((to[-2] == '\r' && to[-1] == '\n') ||
11484                 (to[-2] == '\n' && to[-1] == '\r'))
11485             {
11486                 to[-2] = '\n';
11487                 to--;
11488                 SvCUR_set(sv, to - SvPVX_const(sv));
11489             }
11490             else if (to[-1] == '\r')
11491                 to[-1] = '\n';
11492         }
11493         else if (to - SvPVX_const(sv) == 1 && to[-1] == '\r')
11494             to[-1] = '\n';
11495 #endif
11496
11497      read_more_line:
11498         /* if we're out of file, or a read fails, bail and reset the current
11499            line marker so we can report where the unterminated string began
11500         */
11501 #ifdef PERL_MAD
11502         if (PL_madskills) {
11503             char *tstart = SvPVX(PL_linestr) + stuffstart;
11504             if (PL_thisstuff)
11505                 sv_catpvn(PL_thisstuff, tstart, PL_bufend - tstart);
11506             else
11507                 PL_thisstuff = newSVpvn(tstart, PL_bufend - tstart);
11508         }
11509 #endif
11510         if (!PL_rsfp ||
11511          !(PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = filter_gets(PL_linestr, PL_rsfp, 0))) {
11512             sv_free(sv);
11513             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
11514             return NULL;
11515         }
11516 #ifdef PERL_MAD
11517         stuffstart = 0;
11518 #endif
11519         /* we read a line, so increment our line counter */
11520         CopLINE_inc(PL_curcop);
11521
11522         /* update debugger info */
11523         if (PERLDB_LINE && PL_curstash != PL_debstash) {
11524             SV * const line_sv = newSV(0);
11525
11526             sv_upgrade(line_sv, SVt_PVMG);
11527             sv_setsv(line_sv,PL_linestr);
11528             (void)SvIOK_on(line_sv);
11529             SvIV_set(line_sv, 0);
11530             av_store(CopFILEAVx(PL_curcop), (I32)CopLINE(PL_curcop), line_sv);
11531         }
11532
11533         /* having changed the buffer, we must update PL_bufend */
11534         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11535         PL_last_lop = PL_last_uni = NULL;
11536     }
11537
11538     /* at this point, we have successfully read the delimited string */
11539
11540     if (!PL_encoding || UTF) {
11541 #ifdef PERL_MAD
11542         if (PL_madskills) {
11543             char *tstart = SvPVX(PL_linestr) + stuffstart;
11544             if (PL_thisstuff)
11545                 sv_catpvn(PL_thisstuff, tstart, s - tstart);
11546             else
11547                 PL_thisstuff = newSVpvn(tstart, s - tstart);
11548             if (!PL_thisclose && !keep_delims)
11549                 PL_thisclose = newSVpvn(s,termlen);
11550         }
11551 #endif
11552
11553         if (keep_delims)
11554             sv_catpvn(sv, s, termlen);
11555         s += termlen;
11556     }
11557 #ifdef PERL_MAD
11558     else {
11559         if (PL_madskills) {
11560             char *tstart = SvPVX(PL_linestr) + stuffstart;
11561             if (PL_thisstuff)
11562                 sv_catpvn(PL_thisstuff, tstart, s - tstart - termlen);
11563             else
11564                 PL_thisstuff = newSVpvn(tstart, s - tstart - termlen);
11565             if (!PL_thisclose && !keep_delims)
11566                 PL_thisclose = newSVpvn(s - termlen,termlen);
11567         }
11568     }
11569 #endif
11570     if (has_utf8 || PL_encoding)
11571         SvUTF8_on(sv);
11572
11573     PL_multi_end = CopLINE(PL_curcop);
11574
11575     /* if we allocated too much space, give some back */
11576     if (SvCUR(sv) + 5 < SvLEN(sv)) {
11577         SvLEN_set(sv, SvCUR(sv) + 1);
11578         SvPV_renew(sv, SvLEN(sv));
11579     }
11580
11581     /* decide whether this is the first or second quoted string we've read
11582        for this op
11583     */
11584
11585     if (PL_lex_stuff)
11586         PL_lex_repl = sv;
11587     else
11588         PL_lex_stuff = sv;
11589     return s;
11590 }
11591
11592 /*
11593   scan_num
11594   takes: pointer to position in buffer
11595   returns: pointer to new position in buffer
11596   side-effects: builds ops for the constant in yylval.op
11597
11598   Read a number in any of the formats that Perl accepts:
11599
11600   \d(_?\d)*(\.(\d(_?\d)*)?)?[Ee][\+\-]?(\d(_?\d)*)      12 12.34 12.
11601   \.\d(_?\d)*[Ee][\+\-]?(\d(_?\d)*)                     .34
11602   0b[01](_?[01])*
11603   0[0-7](_?[0-7])*
11604   0x[0-9A-Fa-f](_?[0-9A-Fa-f])*
11605
11606   Like most scan_ routines, it uses the PL_tokenbuf buffer to hold the
11607   thing it reads.
11608
11609   If it reads a number without a decimal point or an exponent, it will
11610   try converting the number to an integer and see if it can do so
11611   without loss of precision.
11612 */
11613
11614 char *
11615 Perl_scan_num(pTHX_ const char *start, YYSTYPE* lvalp)
11616 {
11617     dVAR;
11618     register const char *s = start;     /* current position in buffer */
11619     register char *d;                   /* destination in temp buffer */
11620     register char *e;                   /* end of temp buffer */
11621     NV nv;                              /* number read, as a double */
11622     SV *sv = NULL;                      /* place to put the converted number */
11623     bool floatit;                       /* boolean: int or float? */
11624     const char *lastub = NULL;          /* position of last underbar */
11625     static char const number_too_long[] = "Number too long";
11626
11627     /* We use the first character to decide what type of number this is */
11628
11629     switch (*s) {
11630     default:
11631       Perl_croak(aTHX_ "panic: scan_num");
11632
11633     /* if it starts with a 0, it could be an octal number, a decimal in
11634        0.13 disguise, or a hexadecimal number, or a binary number. */
11635     case '0':
11636         {
11637           /* variables:
11638              u          holds the "number so far"
11639              shift      the power of 2 of the base
11640                         (hex == 4, octal == 3, binary == 1)
11641              overflowed was the number more than we can hold?
11642
11643              Shift is used when we add a digit.  It also serves as an "are
11644              we in octal/hex/binary?" indicator to disallow hex characters
11645              when in octal mode.
11646            */
11647             NV n = 0.0;
11648             UV u = 0;
11649             I32 shift;
11650             bool overflowed = FALSE;
11651             bool just_zero  = TRUE;     /* just plain 0 or binary number? */
11652             static const NV nvshift[5] = { 1.0, 2.0, 4.0, 8.0, 16.0 };
11653             static const char* const bases[5] =
11654               { "", "binary", "", "octal", "hexadecimal" };
11655             static const char* const Bases[5] =
11656               { "", "Binary", "", "Octal", "Hexadecimal" };
11657             static const char* const maxima[5] =
11658               { "",
11659                 "0b11111111111111111111111111111111",
11660                 "",
11661                 "037777777777",
11662                 "0xffffffff" };
11663             const char *base, *Base, *max;
11664
11665             /* check for hex */
11666             if (s[1] == 'x') {
11667                 shift = 4;
11668                 s += 2;
11669                 just_zero = FALSE;
11670             } else if (s[1] == 'b') {
11671                 shift = 1;
11672                 s += 2;
11673                 just_zero = FALSE;
11674             }
11675             /* check for a decimal in disguise */
11676             else if (s[1] == '.' || s[1] == 'e' || s[1] == 'E')
11677                 goto decimal;
11678             /* so it must be octal */
11679             else {
11680                 shift = 3;
11681                 s++;
11682             }
11683
11684             if (*s == '_') {
11685                if (ckWARN(WARN_SYNTAX))
11686                    Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11687                                "Misplaced _ in number");
11688                lastub = s++;
11689             }
11690
11691             base = bases[shift];
11692             Base = Bases[shift];
11693             max  = maxima[shift];
11694
11695             /* read the rest of the number */
11696             for (;;) {
11697                 /* x is used in the overflow test,
11698                    b is the digit we're adding on. */
11699                 UV x, b;
11700
11701                 switch (*s) {
11702
11703                 /* if we don't mention it, we're done */
11704                 default:
11705                     goto out;
11706
11707                 /* _ are ignored -- but warned about if consecutive */
11708                 case '_':
11709                     if (lastub && s == lastub + 1 && ckWARN(WARN_SYNTAX))
11710                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11711                                     "Misplaced _ in number");
11712                     lastub = s++;
11713                     break;
11714
11715                 /* 8 and 9 are not octal */
11716                 case '8': case '9':
11717                     if (shift == 3)
11718                         yyerror(Perl_form(aTHX_ "Illegal octal digit '%c'", *s));
11719                     /* FALL THROUGH */
11720
11721                 /* octal digits */
11722                 case '2': case '3': case '4':
11723                 case '5': case '6': case '7':
11724                     if (shift == 1)
11725                         yyerror(Perl_form(aTHX_ "Illegal binary digit '%c'", *s));
11726                     /* FALL THROUGH */
11727
11728                 case '0': case '1':
11729                     b = *s++ & 15;              /* ASCII digit -> value of digit */
11730                     goto digit;
11731
11732                 /* hex digits */
11733                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
11734                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
11735                     /* make sure they said 0x */
11736                     if (shift != 4)
11737                         goto out;
11738                     b = (*s++ & 7) + 9;
11739
11740                     /* Prepare to put the digit we have onto the end
11741                        of the number so far.  We check for overflows.
11742                     */
11743
11744                   digit:
11745                     just_zero = FALSE;
11746                     if (!overflowed) {
11747                         x = u << shift; /* make room for the digit */
11748
11749                         if ((x >> shift) != u
11750                             && !(PL_hints & HINT_NEW_BINARY)) {
11751                             overflowed = TRUE;
11752                             n = (NV) u;
11753                             if (ckWARN_d(WARN_OVERFLOW))
11754                                 Perl_warner(aTHX_ packWARN(WARN_OVERFLOW),
11755                                             "Integer overflow in %s number",
11756                                             base);
11757                         } else
11758                             u = x | b;          /* add the digit to the end */
11759                     }
11760                     if (overflowed) {
11761                         n *= nvshift[shift];
11762                         /* If an NV has not enough bits in its
11763                          * mantissa to represent an UV this summing of
11764                          * small low-order numbers is a waste of time
11765                          * (because the NV cannot preserve the
11766                          * low-order bits anyway): we could just
11767                          * remember when did we overflow and in the
11768                          * end just multiply n by the right
11769                          * amount. */
11770                         n += (NV) b;
11771                     }
11772                     break;
11773                 }
11774             }
11775
11776           /* if we get here, we had success: make a scalar value from
11777              the number.
11778           */
11779           out:
11780
11781             /* final misplaced underbar check */
11782             if (s[-1] == '_') {
11783                 if (ckWARN(WARN_SYNTAX))
11784                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "Misplaced _ in number");
11785             }
11786
11787             sv = newSV(0);
11788             if (overflowed) {
11789                 if (n > 4294967295.0 && ckWARN(WARN_PORTABLE))
11790                     Perl_warner(aTHX_ packWARN(WARN_PORTABLE),
11791                                 "%s number > %s non-portable",
11792                                 Base, max);
11793                 sv_setnv(sv, n);
11794             }
11795             else {
11796 #if UVSIZE > 4
11797                 if (u > 0xffffffff && ckWARN(WARN_PORTABLE))
11798                     Perl_warner(aTHX_ packWARN(WARN_PORTABLE),
11799                                 "%s number > %s non-portable",
11800                                 Base, max);
11801 #endif
11802                 sv_setuv(sv, u);
11803             }
11804             if (just_zero && (PL_hints & HINT_NEW_INTEGER))
11805                 sv = new_constant(start, s - start, "integer",
11806                                   sv, NULL, NULL);
11807             else if (PL_hints & HINT_NEW_BINARY)
11808                 sv = new_constant(start, s - start, "binary", sv, NULL, NULL);
11809         }
11810         break;
11811
11812     /*
11813       handle decimal numbers.
11814       we're also sent here when we read a 0 as the first digit
11815     */
11816     case '1': case '2': case '3': case '4': case '5':
11817     case '6': case '7': case '8': case '9': case '.':
11818       decimal:
11819         d = PL_tokenbuf;
11820         e = PL_tokenbuf + sizeof PL_tokenbuf - 6; /* room for various punctuation */
11821         floatit = FALSE;
11822
11823         /* read next group of digits and _ and copy into d */
11824         while (isDIGIT(*s) || *s == '_') {
11825             /* skip underscores, checking for misplaced ones
11826                if -w is on
11827             */
11828             if (*s == '_') {
11829                 if (lastub && s == lastub + 1 && ckWARN(WARN_SYNTAX))
11830                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11831                                 "Misplaced _ in number");
11832                 lastub = s++;
11833             }
11834             else {
11835                 /* check for end of fixed-length buffer */
11836                 if (d >= e)
11837                     Perl_croak(aTHX_ number_too_long);
11838                 /* if we're ok, copy the character */
11839                 *d++ = *s++;
11840             }
11841         }
11842
11843         /* final misplaced underbar check */
11844         if (lastub && s == lastub + 1) {
11845             if (ckWARN(WARN_SYNTAX))
11846                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "Misplaced _ in number");
11847         }
11848
11849         /* read a decimal portion if there is one.  avoid
11850            3..5 being interpreted as the number 3. followed
11851            by .5
11852         */
11853         if (*s == '.' && s[1] != '.') {
11854             floatit = TRUE;
11855             *d++ = *s++;
11856
11857             if (*s == '_') {
11858                 if (ckWARN(WARN_SYNTAX))
11859                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11860                                 "Misplaced _ in number");
11861                 lastub = s;
11862             }
11863
11864             /* copy, ignoring underbars, until we run out of digits.
11865             */
11866             for (; isDIGIT(*s) || *s == '_'; s++) {
11867                 /* fixed length buffer check */
11868                 if (d >= e)
11869                     Perl_croak(aTHX_ number_too_long);
11870                 if (*s == '_') {
11871                    if (lastub && s == lastub + 1 && ckWARN(WARN_SYNTAX))
11872                        Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11873                                    "Misplaced _ in number");
11874                    lastub = s;
11875                 }
11876                 else
11877                     *d++ = *s;
11878             }
11879             /* fractional part ending in underbar? */
11880             if (s[-1] == '_') {
11881                 if (ckWARN(WARN_SYNTAX))
11882                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11883                                 "Misplaced _ in number");
11884             }
11885             if (*s == '.' && isDIGIT(s[1])) {
11886                 /* oops, it's really a v-string, but without the "v" */
11887                 s = start;
11888                 goto vstring;
11889             }
11890         }
11891
11892         /* read exponent part, if present */
11893         if ((*s == 'e' || *s == 'E') && strchr("+-0123456789_", s[1])) {
11894             floatit = TRUE;
11895             s++;
11896
11897             /* regardless of whether user said 3E5 or 3e5, use lower 'e' */
11898             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
11899
11900             /* stray preinitial _ */
11901             if (*s == '_') {
11902                 if (ckWARN(WARN_SYNTAX))
11903                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11904                                 "Misplaced _ in number");
11905                 lastub = s++;
11906             }
11907
11908             /* allow positive or negative exponent */
11909             if (*s == '+' || *s == '-')
11910                 *d++ = *s++;
11911
11912             /* stray initial _ */
11913             if (*s == '_') {
11914                 if (ckWARN(WARN_SYNTAX))
11915                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11916                                 "Misplaced _ in number");
11917                 lastub = s++;
11918             }
11919
11920             /* read digits of exponent */
11921             while (isDIGIT(*s) || *s == '_') {
11922                 if (isDIGIT(*s)) {
11923                     if (d >= e)
11924                         Perl_croak(aTHX_ number_too_long);
11925                     *d++ = *s++;
11926                 }
11927                 else {
11928                    if (((lastub && s == lastub + 1) ||
11929                         (!isDIGIT(s[1]) && s[1] != '_'))
11930                     && ckWARN(WARN_SYNTAX))
11931                        Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11932                                    "Misplaced _ in number");
11933                    lastub = s++;
11934                 }
11935             }
11936         }
11937
11938
11939         /* make an sv from the string */
11940         sv = newSV(0);
11941
11942         /*
11943            We try to do an integer conversion first if no characters
11944            indicating "float" have been found.
11945          */
11946
11947         if (!floatit) {
11948             UV uv;
11949             const int flags = grok_number (PL_tokenbuf, d - PL_tokenbuf, &uv);
11950
11951             if (flags == IS_NUMBER_IN_UV) {
11952               if (uv <= IV_MAX)
11953                 sv_setiv(sv, uv); /* Prefer IVs over UVs. */
11954               else
11955                 sv_setuv(sv, uv);
11956             } else if (flags == (IS_NUMBER_IN_UV | IS_NUMBER_NEG)) {
11957               if (uv <= (UV) IV_MIN)
11958                 sv_setiv(sv, -(IV)uv);
11959               else
11960                 floatit = TRUE;
11961             } else
11962               floatit = TRUE;
11963         }
11964         if (floatit) {
11965             /* terminate the string */
11966             *d = '\0';
11967             nv = Atof(PL_tokenbuf);
11968             sv_setnv(sv, nv);
11969         }
11970
11971         if ( floatit ? (PL_hints & HINT_NEW_FLOAT) :
11972                        (PL_hints & HINT_NEW_INTEGER) )
11973             sv = new_constant(PL_tokenbuf, d - PL_tokenbuf,
11974                               (floatit ? "float" : "integer"),
11975                               sv, NULL, NULL);
11976         break;
11977
11978     /* if it starts with a v, it could be a v-string */
11979     case 'v':
11980 vstring:
11981                 sv = newSV(5); /* preallocate storage space */
11982                 s = scan_vstring(s,sv);
11983         break;
11984     }
11985
11986     /* make the op for the constant and return */
11987
11988     if (sv)
11989         lvalp->opval = newSVOP(OP_CONST, 0, sv);
11990     else
11991         lvalp->opval = NULL;
11992
11993     return (char *)s;
11994 }
11995
11996 STATIC char *
11997 S_scan_formline(pTHX_ register char *s)
11998 {
11999     dVAR;
12000     register char *eol;
12001     register char *t;
12002     SV * const stuff = newSVpvs("");
12003     bool needargs = FALSE;
12004     bool eofmt = FALSE;
12005 #ifdef PERL_MAD
12006     char *tokenstart = s;
12007     SV* savewhite;
12008
12009     if (PL_madskills) {
12010         savewhite = PL_thiswhite;
12011         PL_thiswhite = 0;
12012     }
12013 #endif
12014
12015     while (!needargs) {
12016         if (*s == '.') {
12017 #ifdef PERL_STRICT_CR
12018             for (t = s+1;SPACE_OR_TAB(*t); t++) ;
12019 #else
12020             for (t = s+1;SPACE_OR_TAB(*t) || *t == '\r'; t++) ;
12021 #endif
12022             if (*t == '\n' || t == PL_bufend) {
12023                 eofmt = TRUE;
12024                 break;
12025             }
12026         }
12027         if (PL_in_eval && !PL_rsfp) {
12028             eol = (char *) memchr(s,'\n',PL_bufend-s);
12029             if (!eol++)
12030                 eol = PL_bufend;
12031         }
12032         else
12033             eol = PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
12034         if (*s != '#') {
12035             for (t = s; t < eol; t++) {
12036                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
12037                     needargs = FALSE;
12038                     goto enough;        /* ~~ must be first line in formline */
12039                 }
12040                 if (*t == '@' || *t == '^')
12041                     needargs = TRUE;
12042             }
12043             if (eol > s) {
12044                 sv_catpvn(stuff, s, eol-s);
12045 #ifndef PERL_STRICT_CR
12046                 if (eol-s > 1 && eol[-2] == '\r' && eol[-1] == '\n') {
12047                     char *end = SvPVX(stuff) + SvCUR(stuff);
12048                     end[-2] = '\n';
12049                     end[-1] = '\0';
12050                     SvCUR_set(stuff, SvCUR(stuff) - 1);
12051                 }
12052 #endif
12053             }
12054             else
12055               break;
12056         }
12057         s = (char*)eol;
12058         if (PL_rsfp) {
12059 #ifdef PERL_MAD
12060             if (PL_madskills) {
12061                 if (PL_thistoken)
12062                     sv_catpvn(PL_thistoken, tokenstart, PL_bufend - tokenstart);
12063                 else
12064                     PL_thistoken = newSVpvn(tokenstart, PL_bufend - tokenstart);
12065             }
12066 #endif
12067             s = filter_gets(PL_linestr, PL_rsfp, 0);
12068 #ifdef PERL_MAD
12069             tokenstart = PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = SvPVX(PL_linestr);
12070 #else
12071             PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = SvPVX(PL_linestr);
12072 #endif
12073             PL_bufend = PL_bufptr + SvCUR(PL_linestr);
12074             PL_last_lop = PL_last_uni = NULL;
12075             if (!s) {
12076                 s = PL_bufptr;
12077                 break;
12078             }
12079         }
12080         incline(s);
12081     }
12082   enough:
12083     if (SvCUR(stuff)) {
12084         PL_expect = XTERM;
12085         if (needargs) {
12086             PL_lex_state = LEX_NORMAL;
12087             start_force(PL_curforce);
12088             NEXTVAL_NEXTTOKE.ival = 0;
12089             force_next(',');
12090         }
12091         else
12092             PL_lex_state = LEX_FORMLINE;
12093         if (!IN_BYTES) {
12094             if (UTF && is_utf8_string((U8*)SvPVX_const(stuff), SvCUR(stuff)))
12095                 SvUTF8_on(stuff);
12096             else if (PL_encoding)
12097                 sv_recode_to_utf8(stuff, PL_encoding);
12098         }
12099         start_force(PL_curforce);
12100         NEXTVAL_NEXTTOKE.opval = (OP*)newSVOP(OP_CONST, 0, stuff);
12101         force_next(THING);
12102         start_force(PL_curforce);
12103         NEXTVAL_NEXTTOKE.ival = OP_FORMLINE;
12104         force_next(LSTOP);
12105     }
12106     else {
12107         SvREFCNT_dec(stuff);
12108         if (eofmt)
12109             PL_lex_formbrack = 0;
12110         PL_bufptr = s;
12111     }
12112 #ifdef PERL_MAD
12113     if (PL_madskills) {
12114         if (PL_thistoken)
12115             sv_catpvn(PL_thistoken, tokenstart, s - tokenstart);
12116         else
12117             PL_thistoken = newSVpvn(tokenstart, s - tokenstart);
12118         PL_thiswhite = savewhite;
12119     }
12120 #endif
12121     return s;
12122 }
12123
12124 STATIC void
12125 S_set_csh(pTHX)
12126 {
12127 #ifdef CSH
12128     dVAR;
12129     if (!PL_cshlen)
12130         PL_cshlen = strlen(PL_cshname);
12131 #else
12132 #if defined(USE_ITHREADS)
12133     PERL_UNUSED_CONTEXT;
12134 #endif
12135 #endif
12136 }
12137
12138 I32
12139 Perl_start_subparse(pTHX_ I32 is_format, U32 flags)
12140 {
12141     dVAR;
12142     const I32 oldsavestack_ix = PL_savestack_ix;
12143     CV* const outsidecv = PL_compcv;
12144
12145     if (PL_compcv) {
12146         assert(SvTYPE(PL_compcv) == SVt_PVCV);
12147     }
12148     SAVEI32(PL_subline);
12149     save_item(PL_subname);
12150     SAVESPTR(PL_compcv);
12151
12152     PL_compcv = (CV*)newSV(0);
12153     sv_upgrade((SV *)PL_compcv, is_format ? SVt_PVFM : SVt_PVCV);
12154     CvFLAGS(PL_compcv) |= flags;
12155
12156     PL_subline = CopLINE(PL_curcop);
12157     CvPADLIST(PL_compcv) = pad_new(padnew_SAVE|padnew_SAVESUB);
12158     CvOUTSIDE(PL_compcv) = (CV*)SvREFCNT_inc_simple(outsidecv);
12159     CvOUTSIDE_SEQ(PL_compcv) = PL_cop_seqmax;
12160
12161     return oldsavestack_ix;
12162 }
12163
12164 #ifdef __SC__
12165 #pragma segment Perl_yylex
12166 #endif
12167 int
12168 Perl_yywarn(pTHX_ const char *s)
12169 {
12170     dVAR;
12171     PL_in_eval |= EVAL_WARNONLY;
12172     yyerror(s);
12173     PL_in_eval &= ~EVAL_WARNONLY;
12174     return 0;
12175 }
12176
12177 int
12178 Perl_yyerror(pTHX_ const char *s)
12179 {
12180     dVAR;
12181     const char *where = NULL;
12182     const char *context = NULL;
12183     int contlen = -1;
12184     SV *msg;
12185
12186     if (!yychar || (yychar == ';' && !PL_rsfp))
12187         where = "at EOF";
12188     else if (PL_oldoldbufptr && PL_bufptr > PL_oldoldbufptr &&
12189       PL_bufptr - PL_oldoldbufptr < 200 && PL_oldoldbufptr != PL_oldbufptr &&
12190       PL_oldbufptr != PL_bufptr) {
12191         /*
12192                 Only for NetWare:
12193                 The code below is removed for NetWare because it abends/crashes on NetWare
12194                 when the script has error such as not having the closing quotes like:
12195                     if ($var eq "value)
12196                 Checking of white spaces is anyway done in NetWare code.
12197         */
12198 #ifndef NETWARE
12199         while (isSPACE(*PL_oldoldbufptr))
12200             PL_oldoldbufptr++;
12201 #endif
12202         context = PL_oldoldbufptr;
12203         contlen = PL_bufptr - PL_oldoldbufptr;
12204     }
12205     else if (PL_oldbufptr && PL_bufptr > PL_oldbufptr &&
12206       PL_bufptr - PL_oldbufptr < 200 && PL_oldbufptr != PL_bufptr) {
12207         /*
12208                 Only for NetWare:
12209                 The code below is removed for NetWare because it abends/crashes on NetWare
12210                 when the script has error such as not having the closing quotes like:
12211                     if ($var eq "value)
12212                 Checking of white spaces is anyway done in NetWare code.
12213         */
12214 #ifndef NETWARE
12215         while (isSPACE(*PL_oldbufptr))
12216             PL_oldbufptr++;
12217 #endif
12218         context = PL_oldbufptr;
12219         contlen = PL_bufptr - PL_oldbufptr;
12220     }
12221     else if (yychar > 255)
12222         where = "next token ???";
12223     else if (yychar == -2) { /* YYEMPTY */
12224         if (PL_lex_state == LEX_NORMAL ||
12225            (PL_lex_state == LEX_KNOWNEXT && PL_lex_defer == LEX_NORMAL))
12226             where = "at end of line";
12227         else if (PL_lex_inpat)
12228             where = "within pattern";
12229         else
12230             where = "within string";
12231     }
12232     else {
12233         SV * const where_sv = sv_2mortal(newSVpvs("next char "));
12234         if (yychar < 32)
12235             Perl_sv_catpvf(aTHX_ where_sv, "^%c", toCTRL(yychar));
12236         else if (isPRINT_LC(yychar))
12237             Perl_sv_catpvf(aTHX_ where_sv, "%c", yychar);
12238         else
12239             Perl_sv_catpvf(aTHX_ where_sv, "\\%03o", yychar & 255);
12240         where = SvPVX_const(where_sv);
12241     }
12242     msg = sv_2mortal(newSVpv(s, 0));
12243     Perl_sv_catpvf(aTHX_ msg, " at %s line %"IVdf", ",
12244         OutCopFILE(PL_curcop), (IV)CopLINE(PL_curcop));
12245     if (context)
12246         Perl_sv_catpvf(aTHX_ msg, "near \"%.*s\"\n", contlen, context);
12247     else
12248         Perl_sv_catpvf(aTHX_ msg, "%s\n", where);
12249     if (PL_multi_start < PL_multi_end && (U32)(CopLINE(PL_curcop) - PL_multi_end) <= 1) {
12250         Perl_sv_catpvf(aTHX_ msg,
12251         "  (Might be a runaway multi-line %c%c string starting on line %"IVdf")\n",
12252                 (int)PL_multi_open,(int)PL_multi_close,(IV)PL_multi_start);
12253         PL_multi_end = 0;
12254     }
12255     if (PL_in_eval & EVAL_WARNONLY && ckWARN_d(WARN_SYNTAX))
12256         Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "%"SVf, msg);
12257     else
12258         qerror(msg);
12259     if (PL_error_count >= 10) {
12260         if (PL_in_eval && SvCUR(ERRSV))
12261             Perl_croak(aTHX_ "%"SVf"%s has too many errors.\n",
12262             ERRSV, OutCopFILE(PL_curcop));
12263         else
12264             Perl_croak(aTHX_ "%s has too many errors.\n",
12265             OutCopFILE(PL_curcop));
12266     }
12267     PL_in_my = 0;
12268     PL_in_my_stash = NULL;
12269     return 0;
12270 }
12271 #ifdef __SC__
12272 #pragma segment Main
12273 #endif
12274
12275 STATIC char*
12276 S_swallow_bom(pTHX_ U8 *s)
12277 {
12278     dVAR;
12279     const STRLEN slen = SvCUR(PL_linestr);
12280     switch (s[0]) {
12281     case 0xFF:
12282         if (s[1] == 0xFE) {
12283             /* UTF-16 little-endian? (or UTF32-LE?) */
12284             if (s[2] == 0 && s[3] == 0)  /* UTF-32 little-endian */
12285                 Perl_croak(aTHX_ "Unsupported script encoding UTF32-LE");
12286 #ifndef PERL_NO_UTF16_FILTER
12287             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF16-LE script encoding (BOM)\n");
12288             s += 2;
12289         utf16le:
12290             if (PL_bufend > (char*)s) {
12291                 U8 *news;
12292                 I32 newlen;
12293
12294                 filter_add(utf16rev_textfilter, NULL);
12295                 Newx(news, (PL_bufend - (char*)s) * 3 / 2 + 1, U8);
12296                 utf16_to_utf8_reversed(s, news,
12297                                        PL_bufend - (char*)s - 1,
12298                                        &newlen);
12299                 sv_setpvn(PL_linestr, (const char*)news, newlen);
12300 #ifdef PERL_MAD
12301                 s = (U8*)SvPVX(PL_linestr);
12302                 Copy(news, s, newlen, U8);
12303                 s[newlen] = '\0';
12304 #endif
12305                 Safefree(news);
12306                 SvUTF8_on(PL_linestr);
12307                 s = (U8*)SvPVX(PL_linestr);
12308 #ifdef PERL_MAD
12309                 /* FIXME - is this a general bug fix?  */
12310                 s[newlen] = '\0';
12311 #endif
12312                 PL_bufend = SvPVX(PL_linestr) + newlen;
12313             }
12314 #else
12315             Perl_croak(aTHX_ "Unsupported script encoding UTF16-LE");
12316 #endif
12317         }
12318         break;
12319     case 0xFE:
12320         if (s[1] == 0xFF) {   /* UTF-16 big-endian? */
12321 #ifndef PERL_NO_UTF16_FILTER
12322             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16BE script encoding (BOM)\n");
12323             s += 2;
12324         utf16be:
12325             if (PL_bufend > (char *)s) {
12326                 U8 *news;
12327                 I32 newlen;
12328
12329                 filter_add(utf16_textfilter, NULL);
12330                 Newx(news, (PL_bufend - (char*)s) * 3 / 2 + 1, U8);
12331                 utf16_to_utf8(s, news,
12332                               PL_bufend - (char*)s,
12333                               &newlen);
12334                 sv_setpvn(PL_linestr, (const char*)news, newlen);
12335                 Safefree(news);
12336                 SvUTF8_on(PL_linestr);
12337                 s = (U8*)SvPVX(PL_linestr);
12338                 PL_bufend = SvPVX(PL_linestr) + newlen;
12339             }
12340 #else
12341             Perl_croak(aTHX_ "Unsupported script encoding UTF16-BE");
12342 #endif
12343         }
12344         break;
12345     case 0xEF:
12346         if (slen > 2 && s[1] == 0xBB && s[2] == 0xBF) {
12347             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-8 script encoding (BOM)\n");
12348             s += 3;                      /* UTF-8 */
12349         }
12350         break;
12351     case 0:
12352         if (slen > 3) {
12353              if (s[1] == 0) {
12354                   if (s[2] == 0xFE && s[3] == 0xFF) {
12355                        /* UTF-32 big-endian */
12356                        Perl_croak(aTHX_ "Unsupported script encoding UTF32-BE");
12357                   }
12358              }
12359              else if (s[2] == 0 && s[3] != 0) {
12360                   /* Leading bytes
12361                    * 00 xx 00 xx
12362                    * are a good indicator of UTF-16BE. */
12363                   if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16BE script encoding (no BOM)\n");
12364                   goto utf16be;
12365              }
12366         }
12367     default:
12368          if (slen > 3 && s[1] == 0 && s[2] != 0 && s[3] == 0) {
12369                   /* Leading bytes
12370                    * xx 00 xx 00
12371                    * are a good indicator of UTF-16LE. */
12372               if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16LE script encoding (no BOM)\n");
12373               goto utf16le;
12374          }
12375     }
12376     return (char*)s;
12377 }
12378
12379 /*
12380  * restore_rsfp
12381  * Restore a source filter.
12382  */
12383
12384 static void
12385 restore_rsfp(pTHX_ void *f)
12386 {
12387     dVAR;
12388     PerlIO * const fp = (PerlIO*)f;
12389
12390     if (PL_rsfp == PerlIO_stdin())
12391         PerlIO_clearerr(PL_rsfp);
12392     else if (PL_rsfp && (PL_rsfp != fp))
12393         PerlIO_close(PL_rsfp);
12394     PL_rsfp = fp;
12395 }
12396
12397 #ifndef PERL_NO_UTF16_FILTER
12398 static I32
12399 utf16_textfilter(pTHX_ int idx, SV *sv, int maxlen)
12400 {
12401     dVAR;
12402     const STRLEN old = SvCUR(sv);
12403     const I32 count = FILTER_READ(idx+1, sv, maxlen);
12404     DEBUG_P(PerlIO_printf(Perl_debug_log,
12405                           "utf16_textfilter(%p): %d %d (%d)\n",
12406                           utf16_textfilter, idx, maxlen, (int) count));
12407     if (count) {
12408         U8* tmps;
12409         I32 newlen;
12410         Newx(tmps, SvCUR(sv) * 3 / 2 + 1, U8);
12411         Copy(SvPVX_const(sv), tmps, old, char);
12412         utf16_to_utf8((U8*)SvPVX_const(sv) + old, tmps + old,
12413                       SvCUR(sv) - old, &newlen);
12414         sv_usepvn(sv, (char*)tmps, (STRLEN)newlen + old);
12415     }
12416     DEBUG_P({sv_dump(sv);});
12417     return SvCUR(sv);
12418 }
12419
12420 static I32
12421 utf16rev_textfilter(pTHX_ int idx, SV *sv, int maxlen)
12422 {
12423     dVAR;
12424     const STRLEN old = SvCUR(sv);
12425     const I32 count = FILTER_READ(idx+1, sv, maxlen);
12426     DEBUG_P(PerlIO_printf(Perl_debug_log,
12427                           "utf16rev_textfilter(%p): %d %d (%d)\n",
12428                           utf16rev_textfilter, idx, maxlen, (int) count));
12429     if (count) {
12430         U8* tmps;
12431         I32 newlen;
12432         Newx(tmps, SvCUR(sv) * 3 / 2 + 1, U8);
12433         Copy(SvPVX_const(sv), tmps, old, char);
12434         utf16_to_utf8((U8*)SvPVX_const(sv) + old, tmps + old,
12435                       SvCUR(sv) - old, &newlen);
12436         sv_usepvn(sv, (char*)tmps, (STRLEN)newlen + old);
12437     }
12438     DEBUG_P({ sv_dump(sv); });
12439     return count;
12440 }
12441 #endif
12442
12443 /*
12444 Returns a pointer to the next character after the parsed
12445 vstring, as well as updating the passed in sv.
12446
12447 Function must be called like
12448
12449         sv = newSV(5);
12450         s = scan_vstring(s,sv);
12451
12452 The sv should already be large enough to store the vstring
12453 passed in, for performance reasons.
12454
12455 */
12456
12457 char *
12458 Perl_scan_vstring(pTHX_ const char *s, SV *sv)
12459 {
12460     dVAR;
12461     const char *pos = s;
12462     const char *start = s;
12463     if (*pos == 'v') pos++;  /* get past 'v' */
12464     while (pos < PL_bufend && (isDIGIT(*pos) || *pos == '_'))
12465         pos++;
12466     if ( *pos != '.') {
12467         /* this may not be a v-string if followed by => */
12468         const char *next = pos;
12469         while (next < PL_bufend && isSPACE(*next))
12470             ++next;
12471         if ((PL_bufend - next) >= 2 && *next == '=' && next[1] == '>' ) {
12472             /* return string not v-string */
12473             sv_setpvn(sv,(char *)s,pos-s);
12474             return (char *)pos;
12475         }
12476     }
12477
12478     if (!isALPHA(*pos)) {
12479         U8 tmpbuf[UTF8_MAXBYTES+1];
12480
12481         if (*s == 'v')
12482             s++;  /* get past 'v' */
12483
12484         sv_setpvn(sv, "", 0);
12485
12486         for (;;) {
12487             /* this is atoi() that tolerates underscores */
12488             U8 *tmpend;
12489             UV rev = 0;
12490             const char *end = pos;
12491             UV mult = 1;
12492             while (--end >= s) {
12493                 if (*end != '_') {
12494                     const UV orev = rev;
12495                     rev += (*end - '0') * mult;
12496                     mult *= 10;
12497                     if (orev > rev && ckWARN_d(WARN_OVERFLOW))
12498                         Perl_warner(aTHX_ packWARN(WARN_OVERFLOW),
12499                                     "Integer overflow in decimal number");
12500                 }
12501             }
12502 #ifdef EBCDIC
12503             if (rev > 0x7FFFFFFF)
12504                  Perl_croak(aTHX_ "In EBCDIC the v-string components cannot exceed 2147483647");
12505 #endif
12506             /* Append native character for the rev point */
12507             tmpend = uvchr_to_utf8(tmpbuf, rev);
12508             sv_catpvn(sv, (const char*)tmpbuf, tmpend - tmpbuf);
12509             if (!UNI_IS_INVARIANT(NATIVE_TO_UNI(rev)))
12510                  SvUTF8_on(sv);
12511             if (pos + 1 < PL_bufend && *pos == '.' && isDIGIT(pos[1]))
12512                  s = ++pos;
12513             else {
12514                  s = pos;
12515                  break;
12516             }
12517             while (pos < PL_bufend && (isDIGIT(*pos) || *pos == '_'))
12518                  pos++;
12519         }
12520         SvPOK_on(sv);
12521         sv_magic(sv,NULL,PERL_MAGIC_vstring,(const char*)start, pos-start);
12522         SvRMAGICAL_on(sv);
12523     }
12524     return (char *)s;
12525 }
12526
12527 /*
12528  * Local variables:
12529  * c-indentation-style: bsd
12530  * c-basic-offset: 4
12531  * indent-tabs-mode: t
12532  * End:
12533  *
12534  * ex: set ts=8 sts=4 sw=4 noet:
12535  */