toke.c

   1 /*    toke.c
   2  *
   3  *    Copyright (C) 1991, 1992, 1993, 1994, 1995, 1996, 1997, 1998, 1999,
   4  *    2000, 2001, 2002, 2003, 2004, 2005, 2006, by Larry Wall and others
   5  *
   6  *    You may distribute under the terms of either the GNU General Public
   7  *    License or the Artistic License, as specified in the README file.
   8  *
   9  */
  10
  11 /*
  12  *   "It all comes from here, the stench and the peril."  --Frodo
  13  */
  14
  15 /*
  16  * This file is the lexer for Perl.  It's closely linked to the
  17  * parser, perly.y.
  18  *
  19  * The main routine is yylex(), which returns the next token.
  20  */
  21
  22 #include "EXTERN.h"
  23 #define PERL_IN_TOKE_C
  24 #include "perl.h"
  25
  26 #define yychar  (*PL_yycharp)
  27 #define yylval  (*PL_yylvalp)
  28
  29 static const char ident_too_long[] = "Identifier too long";
  30 static const char commaless_variable_list[] = "comma-less variable list";
  31
  32 static void restore_rsfp(pTHX_ void *f);
  33 #ifndef PERL_NO_UTF16_FILTER
  34 static I32 utf16_textfilter(pTHX_ int idx, SV *sv, int maxlen);
  35 static I32 utf16rev_textfilter(pTHX_ int idx, SV *sv, int maxlen);
  36 #endif
  37
  38 #ifdef PERL_MAD
  39 #  define CURMAD(slot,sv) if (PL_madskills) { curmad(slot,sv); sv = 0; }
  40 #  define NEXTVAL_NEXTTOKE PL_nexttoke[PL_curforce].next_val
  41 #else
  42 #  define CURMAD(slot,sv)
  43 #  define NEXTVAL_NEXTTOKE PL_nextval[PL_nexttoke]
  44 #endif
  45
  46 #define XFAKEBRACK 128
  47 #define XENUMMASK 127
  48
  49 #ifdef USE_UTF8_SCRIPTS
  50 #   define UTF (!IN_BYTES)
  51 #else
  52 #   define UTF ((PL_linestr && DO_UTF8(PL_linestr)) || (PL_hints & HINT_UTF8))
  53 #endif
  54
  55 /* In variables named $^X, these are the legal values for X.
  56  * 1999-02-27 mjd-perl-patch@plover.com */
  57 #define isCONTROLVAR(x) (isUPPER(x) || strchr("[\\]^_?", (x)))
  58
  59 /* On MacOS, respect nonbreaking spaces */
  60 #ifdef MACOS_TRADITIONAL
  61 #define SPACE_OR_TAB(c) ((c)==' '||(c)=='\312'||(c)=='\t')
  62 #else
  63 #define SPACE_OR_TAB(c) ((c)==' '||(c)=='\t')
  64 #endif
  65
  66 /* LEX_* are values for PL_lex_state, the state of the lexer.
  67  * They are arranged oddly so that the guard on the switch statement
  68  * can get by with a single comparison (if the compiler is smart enough).
  69  */
  70
  71 /* #define LEX_NOTPARSING               11 is done in perl.h. */
  72
  73 #define LEX_NORMAL              10 /* normal code (ie not within "...")     */
  74 #define LEX_INTERPNORMAL         9 /* code within a string, eg "$foo[$x+1]" */
  75 #define LEX_INTERPCASEMOD        8 /* expecting a \U, \Q or \E etc          */
  76 #define LEX_INTERPPUSH           7 /* starting a new sublex parse level     */
  77 #define LEX_INTERPSTART          6 /* expecting the start of a $var         */
  78
  79                                    /* at end of code, eg "$x" followed by:  */
  80 #define LEX_INTERPEND            5 /* ... eg not one of [, { or ->          */
  81 #define LEX_INTERPENDMAYBE       4 /* ... eg one of [, { or ->              */
  82
  83 #define LEX_INTERPCONCAT         3 /* expecting anything, eg at start of
  84                                         string or after \E, $foo, etc       */
  85 #define LEX_INTERPCONST          2 /* NOT USED */
  86 #define LEX_FORMLINE             1 /* expecting a format line               */
  87 #define LEX_KNOWNEXT             0 /* next token known; just return it      */
  88
  89
  90 #ifdef DEBUGGING
  91 static const char* const lex_state_names[] = {
  92     "KNOWNEXT",
  93     "FORMLINE",
  94     "INTERPCONST",
  95     "INTERPCONCAT",
  96     "INTERPENDMAYBE",
  97     "INTERPEND",
  98     "INTERPSTART",
  99     "INTERPPUSH",
 100     "INTERPCASEMOD",
 101     "INTERPNORMAL",
 102     "NORMAL"
 103 };
 104 #endif
 105
 106 #ifdef ff_next
 107 #undef ff_next
 108 #endif
 109
 110 #include "keywords.h"
 111
 112 /* CLINE is a macro that ensures PL_copline has a sane value */
 113
 114 #ifdef CLINE
 115 #undef CLINE
 116 #endif
 117 #define CLINE (PL_copline = (CopLINE(PL_curcop) < PL_copline ? CopLINE(PL_curcop) : PL_copline))
 118
 119 #ifdef PERL_MAD
 120 #  define SKIPSPACE0(s) skipspace0(s)
 121 #  define SKIPSPACE1(s) skipspace1(s)
 122 #  define SKIPSPACE2(s,tsv) skipspace2(s,&tsv)
 123 #  define PEEKSPACE(s) skipspace2(s,0)
 124 #else
 125 #  define SKIPSPACE0(s) skipspace(s)
 126 #  define SKIPSPACE1(s) skipspace(s)
 127 #  define SKIPSPACE2(s,tsv) skipspace(s)
 128 #  define PEEKSPACE(s) skipspace(s)
 129 #endif
 130
 131 /*
 132  * Convenience functions to return different tokens and prime the
 133  * lexer for the next token.  They all take an argument.
 134  *
 135  * TOKEN        : generic token (used for '(', DOLSHARP, etc)
 136  * OPERATOR     : generic operator
 137  * AOPERATOR    : assignment operator
 138  * PREBLOCK     : beginning the block after an if, while, foreach, ...
 139  * PRETERMBLOCK : beginning a non-code-defining {} block (eg, hash ref)
 140  * PREREF       : *EXPR where EXPR is not a simple identifier
 141  * TERM         : expression term
 142  * LOOPX        : loop exiting command (goto, last, dump, etc)
 143  * FTST         : file test operator
 144  * FUN0         : zero-argument function
 145  * FUN1         : not used, except for not, which isn't a UNIOP
 146  * BOop         : bitwise or or xor
 147  * BAop         : bitwise and
 148  * SHop         : shift operator
 149  * PWop         : power operator
 150  * PMop         : pattern-matching operator
 151  * Aop          : addition-level operator
 152  * Mop          : multiplication-level operator
 153  * Eop          : equality-testing operator
 154  * Rop          : relational operator <= != gt
 155  *
 156  * Also see LOP and lop() below.
 157  */
 158
 159 #ifdef DEBUGGING /* Serve -DT. */
 160 #   define REPORT(retval) tokereport((I32)retval)
 161 #else
 162 #   define REPORT(retval) (retval)
 163 #endif
 164
 165 #define TOKEN(retval) return ( PL_bufptr = s, REPORT(retval))
 166 #define OPERATOR(retval) return (PL_expect = XTERM, PL_bufptr = s, REPORT(retval))
 167 #define AOPERATOR(retval) return ao((PL_expect = XTERM, PL_bufptr = s, REPORT(retval)))
 168 #define PREBLOCK(retval) return (PL_expect = XBLOCK,PL_bufptr = s, REPORT(retval))
 169 #define PRETERMBLOCK(retval) return (PL_expect = XTERMBLOCK,PL_bufptr = s, REPORT(retval))
 170 #define PREREF(retval) return (PL_expect = XREF,PL_bufptr = s, REPORT(retval))
 171 #define TERM(retval) return (CLINE, PL_expect = XOPERATOR, PL_bufptr = s, REPORT(retval))
 172 #define LOOPX(f) return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)LOOPEX))
 173 #define FTST(f)  return (yylval.ival=f, PL_expect=XTERMORDORDOR, PL_bufptr=s, REPORT((int)UNIOP))
 174 #define FUN0(f)  return (yylval.ival=f, PL_expect=XOPERATOR, PL_bufptr=s, REPORT((int)FUNC0))
 175 #define FUN1(f)  return (yylval.ival=f, PL_expect=XOPERATOR, PL_bufptr=s, REPORT((int)FUNC1))
 176 #define BOop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)BITOROP)))
 177 #define BAop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)BITANDOP)))
 178 #define SHop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)SHIFTOP)))
 179 #define PWop(f)  return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)POWOP)))
 180 #define PMop(f)  return(yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)MATCHOP))
 181 #define Aop(f)   return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)ADDOP)))
 182 #define Mop(f)   return ao((yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)MULOP)))
 183 #define Eop(f)   return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)EQOP))
 184 #define Rop(f)   return (yylval.ival=f, PL_expect=XTERM, PL_bufptr=s, REPORT((int)RELOP))
 185
 186 /* This bit of chicanery makes a unary function followed by
 187  * a parenthesis into a function with one argument, highest precedence.
 188  * The UNIDOR macro is for unary functions that can be followed by the //
 189  * operator (such as C<shift // 0>).
 190  */
 191 #define UNI2(f,x) { \
 192         yylval.ival = f; \
 193         PL_expect = x; \
 194         PL_bufptr = s; \
 195         PL_last_uni = PL_oldbufptr; \
 196         PL_last_lop_op = f; \
 197         if (*s == '(') \
 198             return REPORT( (int)FUNC1 ); \
 199         s = PEEKSPACE(s); \
 200         return REPORT( *s=='(' ? (int)FUNC1 : (int)UNIOP ); \
 201         }
 202 #define UNI(f)    UNI2(f,XTERM)
 203 #define UNIDOR(f) UNI2(f,XTERMORDORDOR)
 204
 205 #define UNIBRACK(f) { \
 206         yylval.ival = f; \
 207         PL_bufptr = s; \
 208         PL_last_uni = PL_oldbufptr; \
 209         if (*s == '(') \
 210             return REPORT( (int)FUNC1 ); \
 211         s = PEEKSPACE(s); \
 212         return REPORT( (*s == '(') ? (int)FUNC1 : (int)UNIOP ); \
 213         }
 214
 215 /* grandfather return to old style */
 216 #define OLDLOP(f) return(yylval.ival=f,PL_expect = XTERM,PL_bufptr = s,(int)LSTOP)
 217
 218 #ifdef DEBUGGING
 219
 220 /* how to interpret the yylval associated with the token */
 221 enum token_type {
 222     TOKENTYPE_NONE,
 223     TOKENTYPE_IVAL,
 224     TOKENTYPE_OPNUM, /* yylval.ival contains an opcode number */
 225     TOKENTYPE_PVAL,
 226     TOKENTYPE_OPVAL,
 227     TOKENTYPE_GVVAL
 228 };
 229
 230 static struct debug_tokens {
 231     const int token;
 232     enum token_type type;
 233     const char *name;
 234 } const debug_tokens[] =
 235 {
 236     { ADDOP,            TOKENTYPE_OPNUM,        "ADDOP" },
 237     { ANDAND,           TOKENTYPE_NONE,         "ANDAND" },
 238     { ANDOP,            TOKENTYPE_NONE,         "ANDOP" },
 239     { ANONSUB,          TOKENTYPE_IVAL,         "ANONSUB" },
 240     { ARROW,            TOKENTYPE_NONE,         "ARROW" },
 241     { ASSIGNOP,         TOKENTYPE_OPNUM,        "ASSIGNOP" },
 242     { BITANDOP,         TOKENTYPE_OPNUM,        "BITANDOP" },
 243     { BITOROP,          TOKENTYPE_OPNUM,        "BITOROP" },
 244     { COLONATTR,        TOKENTYPE_NONE,         "COLONATTR" },
 245     { CONTINUE,         TOKENTYPE_NONE,         "CONTINUE" },
 246     { DEFAULT,          TOKENTYPE_NONE,         "DEFAULT" },
 247     { DO,               TOKENTYPE_NONE,         "DO" },
 248     { DOLSHARP,         TOKENTYPE_NONE,         "DOLSHARP" },
 249     { DORDOR,           TOKENTYPE_NONE,         "DORDOR" },
 250     { DOROP,            TOKENTYPE_OPNUM,        "DOROP" },
 251     { DOTDOT,           TOKENTYPE_IVAL,         "DOTDOT" },
 252     { ELSE,             TOKENTYPE_NONE,         "ELSE" },
 253     { ELSIF,            TOKENTYPE_IVAL,         "ELSIF" },
 254     { EQOP,             TOKENTYPE_OPNUM,        "EQOP" },
 255     { FOR,              TOKENTYPE_IVAL,         "FOR" },
 256     { FORMAT,           TOKENTYPE_NONE,         "FORMAT" },
 257     { FUNC,             TOKENTYPE_OPNUM,        "FUNC" },
 258     { FUNC0,            TOKENTYPE_OPNUM,        "FUNC0" },
 259     { FUNC0SUB,         TOKENTYPE_OPVAL,        "FUNC0SUB" },
 260     { FUNC1,            TOKENTYPE_OPNUM,        "FUNC1" },
 261     { FUNCMETH,         TOKENTYPE_OPVAL,        "FUNCMETH" },
 262     { GIVEN,            TOKENTYPE_IVAL,         "GIVEN" },
 263     { HASHBRACK,        TOKENTYPE_NONE,         "HASHBRACK" },
 264     { IF,               TOKENTYPE_IVAL,         "IF" },
 265     { LABEL,            TOKENTYPE_PVAL,         "LABEL" },
 266     { LOCAL,            TOKENTYPE_IVAL,         "LOCAL" },
 267     { LOOPEX,           TOKENTYPE_OPNUM,        "LOOPEX" },
 268     { LSTOP,            TOKENTYPE_OPNUM,        "LSTOP" },
 269     { LSTOPSUB,         TOKENTYPE_OPVAL,        "LSTOPSUB" },
 270     { MATCHOP,          TOKENTYPE_OPNUM,        "MATCHOP" },
 271     { METHOD,           TOKENTYPE_OPVAL,        "METHOD" },
 272     { MULOP,            TOKENTYPE_OPNUM,        "MULOP" },
 273     { MY,               TOKENTYPE_IVAL,         "MY" },
 274     { MYSUB,            TOKENTYPE_NONE,         "MYSUB" },
 275     { NOAMP,            TOKENTYPE_NONE,         "NOAMP" },
 276     { NOTOP,            TOKENTYPE_NONE,         "NOTOP" },
 277     { OROP,             TOKENTYPE_IVAL,         "OROP" },
 278     { OROR,             TOKENTYPE_NONE,         "OROR" },
 279     { PACKAGE,          TOKENTYPE_NONE,         "PACKAGE" },
 280     { PMFUNC,           TOKENTYPE_OPVAL,        "PMFUNC" },
 281     { POSTDEC,          TOKENTYPE_NONE,         "POSTDEC" },
 282     { POSTINC,          TOKENTYPE_NONE,         "POSTINC" },
 283     { POWOP,            TOKENTYPE_OPNUM,        "POWOP" },
 284     { PREDEC,           TOKENTYPE_NONE,         "PREDEC" },
 285     { PREINC,           TOKENTYPE_NONE,         "PREINC" },
 286     { PRIVATEREF,       TOKENTYPE_OPVAL,        "PRIVATEREF" },
 287     { REFGEN,           TOKENTYPE_NONE,         "REFGEN" },
 288     { RELOP,            TOKENTYPE_OPNUM,        "RELOP" },
 289     { SHIFTOP,          TOKENTYPE_OPNUM,        "SHIFTOP" },
 290     { SUB,              TOKENTYPE_NONE,         "SUB" },
 291     { THING,            TOKENTYPE_OPVAL,        "THING" },
 292     { UMINUS,           TOKENTYPE_NONE,         "UMINUS" },
 293     { UNIOP,            TOKENTYPE_OPNUM,        "UNIOP" },
 294     { UNIOPSUB,         TOKENTYPE_OPVAL,        "UNIOPSUB" },
 295     { UNLESS,           TOKENTYPE_IVAL,         "UNLESS" },
 296     { UNTIL,            TOKENTYPE_IVAL,         "UNTIL" },
 297     { USE,              TOKENTYPE_IVAL,         "USE" },
 298     { WHEN,             TOKENTYPE_IVAL,         "WHEN" },
 299     { WHILE,            TOKENTYPE_IVAL,         "WHILE" },
 300     { WORD,             TOKENTYPE_OPVAL,        "WORD" },
 301     { 0,                TOKENTYPE_NONE,         0 }
 302 };
 303
 304 /* dump the returned token in rv, plus any optional arg in yylval */
 305
 306 STATIC int
 307 S_tokereport(pTHX_ I32 rv)
 308 {
 309     dVAR;
 310     if (DEBUG_T_TEST) {
 311         const char *name = NULL;
 312         enum token_type type = TOKENTYPE_NONE;
 313         const struct debug_tokens *p;
 314         SV* const report = newSVpvs("<== ");
 315
 316         for (p = debug_tokens; p->token; p++) {
 317             if (p->token == (int)rv) {
 318                 name = p->name;
 319                 type = p->type;
 320                 break;
 321             }
 322         }
 323         if (name)
 324             Perl_sv_catpv(aTHX_ report, name);
 325         else if ((char)rv > ' ' && (char)rv < '~')
 326             Perl_sv_catpvf(aTHX_ report, "'%c'", (char)rv);
 327         else if (!rv)
 328             sv_catpvs(report, "EOF");
 329         else
 330             Perl_sv_catpvf(aTHX_ report, "?? %"IVdf, (IV)rv);
 331         switch (type) {
 332         case TOKENTYPE_NONE:
 333         case TOKENTYPE_GVVAL: /* doesn't appear to be used */
 334             break;
 335         case TOKENTYPE_IVAL:
 336             Perl_sv_catpvf(aTHX_ report, "(ival=%"IVdf")", (IV)yylval.ival);
 337             break;
 338         case TOKENTYPE_OPNUM:
 339             Perl_sv_catpvf(aTHX_ report, "(ival=op_%s)",
 340                                     PL_op_name[yylval.ival]);
 341             break;
 342         case TOKENTYPE_PVAL:
 343             Perl_sv_catpvf(aTHX_ report, "(pval=\"%s\")", yylval.pval);
 344             break;
 345         case TOKENTYPE_OPVAL:
 346             if (yylval.opval) {
 347                 Perl_sv_catpvf(aTHX_ report, "(opval=op_%s)",
 348                                     PL_op_name[yylval.opval->op_type]);
 349                 if (yylval.opval->op_type == OP_CONST) {
 350                     Perl_sv_catpvf(aTHX_ report, " %s",
 351                         SvPEEK(cSVOPx_sv(yylval.opval)));
 352                 }
 353
 354             }
 355             else
 356                 sv_catpvs(report, "(opval=null)");
 357             break;
 358         }
 359         PerlIO_printf(Perl_debug_log, "### %s\n\n", SvPV_nolen_const(report));
 360     };
 361     return (int)rv;
 362 }
 363
 364
 365 /* print the buffer with suitable escapes */
 366
 367 STATIC void
 368 S_printbuf(pTHX_ const char* fmt, const char* s)
 369 {
 370     SV* const tmp = newSVpvs("");
 371     PerlIO_printf(Perl_debug_log, fmt, pv_display(tmp, s, strlen(s), 0, 60));
 372     SvREFCNT_dec(tmp);
 373 }
 374
 375 #endif
 376
 377 /*
 378  * S_ao
 379  *
 380  * This subroutine detects &&=, ||=, and //= and turns an ANDAND, OROR or DORDOR
 381  * into an OP_ANDASSIGN, OP_ORASSIGN, or OP_DORASSIGN
 382  */
 383
 384 STATIC int
 385 S_ao(pTHX_ int toketype)
 386 {
 387     dVAR;
 388     if (*PL_bufptr == '=') {
 389         PL_bufptr++;
 390         if (toketype == ANDAND)
 391             yylval.ival = OP_ANDASSIGN;
 392         else if (toketype == OROR)
 393             yylval.ival = OP_ORASSIGN;
 394         else if (toketype == DORDOR)
 395             yylval.ival = OP_DORASSIGN;
 396         toketype = ASSIGNOP;
 397     }
 398     return toketype;
 399 }
 400
 401 /*
 402  * S_no_op
 403  * When Perl expects an operator and finds something else, no_op
 404  * prints the warning.  It always prints "<something> found where
 405  * operator expected.  It prints "Missing semicolon on previous line?"
 406  * if the surprise occurs at the start of the line.  "do you need to
 407  * predeclare ..." is printed out for code like "sub bar; foo bar $x"
 408  * where the compiler doesn't know if foo is a method call or a function.
 409  * It prints "Missing operator before end of line" if there's nothing
 410  * after the missing operator, or "... before <...>" if there is something
 411  * after the missing operator.
 412  */
 413
 414 STATIC void
 415 S_no_op(pTHX_ const char *what, char *s)
 416 {
 417     dVAR;
 418     char * const oldbp = PL_bufptr;
 419     const bool is_first = (PL_oldbufptr == PL_linestart);
 420
 421     if (!s)
 422         s = oldbp;
 423     else
 424         PL_bufptr = s;
 425     yywarn(Perl_form(aTHX_ "%s found where operator expected", what));
 426     if (ckWARN_d(WARN_SYNTAX)) {
 427         if (is_first)
 428             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
 429                     "\t(Missing semicolon on previous line?)\n");
 430         else if (PL_oldoldbufptr && isIDFIRST_lazy_if(PL_oldoldbufptr,UTF)) {
 431             const char *t;
 432             for (t = PL_oldoldbufptr; *t && (isALNUM_lazy_if(t,UTF) || *t == ':'); t++)
 433                 /**/;
 434             if (t < PL_bufptr && isSPACE(*t))
 435                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
 436                         "\t(Do you need to predeclare %.*s?)\n",
 437                     (int)(t - PL_oldoldbufptr), PL_oldoldbufptr);
 438         }
 439         else {
 440             assert(s >= oldbp);
 441             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
 442                     "\t(Missing operator before %.*s?)\n", (int)(s - oldbp), oldbp);
 443         }
 444     }
 445     PL_bufptr = oldbp;
 446 }
 447
 448 /*
 449  * S_missingterm
 450  * Complain about missing quote/regexp/heredoc terminator.
 451  * If it's called with NULL then it cauterizes the line buffer.
 452  * If we're in a delimited string and the delimiter is a control
 453  * character, it's reformatted into a two-char sequence like ^C.
 454  * This is fatal.
 455  */
 456
 457 STATIC void
 458 S_missingterm(pTHX_ char *s)
 459 {
 460     dVAR;
 461     char tmpbuf[3];
 462     char q;
 463     if (s) {
 464         char * const nl = strrchr(s,'\n');
 465         if (nl)
 466             *nl = '\0';
 467     }
 468     else if (
 469 #ifdef EBCDIC
 470         iscntrl(PL_multi_close)
 471 #else
 472         PL_multi_close < 32 || PL_multi_close == 127
 473 #endif
 474         ) {
 475         *tmpbuf = '^';
 476         tmpbuf[1] = (char)toCTRL(PL_multi_close);
 477         tmpbuf[2] = '\0';
 478         s = tmpbuf;
 479     }
 480     else {
 481         *tmpbuf = (char)PL_multi_close;
 482         tmpbuf[1] = '\0';
 483         s = tmpbuf;
 484     }
 485     q = strchr(s,'"') ? '\'' : '"';
 486     Perl_croak(aTHX_ "Can't find string terminator %c%s%c anywhere before EOF",q,s,q);
 487 }
 488
 489 #define FEATURE_IS_ENABLED(name)                                        \
 490         ((0 != (PL_hints & HINT_LOCALIZE_HH))                           \
 491             && S_feature_is_enabled(aTHX_ STR_WITH_LEN(name)))
 492 /*
 493  * S_feature_is_enabled
 494  * Check whether the named feature is enabled.
 495  */
 496 STATIC bool
 497 S_feature_is_enabled(pTHX_ const char *name, STRLEN namelen)
 498 {
 499     dVAR;
 500     HV * const hinthv = GvHV(PL_hintgv);
 501     char he_name[32] = "feature_";
 502     (void) strncpy(&he_name[8], name, 24);
 503
 504     return (hinthv && hv_exists(hinthv, he_name, 8 + namelen));
 505 }
 506
 507 /*
 508  * Perl_deprecate
 509  */
 510
 511 void
 512 Perl_deprecate(pTHX_ const char *s)
 513 {
 514     if (ckWARN(WARN_DEPRECATED))
 515         Perl_warner(aTHX_ packWARN(WARN_DEPRECATED), "Use of %s is deprecated", s);
 516 }
 517
 518 void
 519 Perl_deprecate_old(pTHX_ const char *s)
 520 {
 521     /* This function should NOT be called for any new deprecated warnings */
 522     /* Use Perl_deprecate instead                                         */
 523     /*                                                                    */
 524     /* It is here to maintain backward compatibility with the pre-5.8     */
 525     /* warnings category hierarchy. The "deprecated" category used to     */
 526     /* live under the "syntax" category. It is now a top-level category   */
 527     /* in its own right.                                                  */
 528
 529     if (ckWARN2(WARN_DEPRECATED, WARN_SYNTAX))
 530         Perl_warner(aTHX_ packWARN2(WARN_DEPRECATED, WARN_SYNTAX),
 531                         "Use of %s is deprecated", s);
 532 }
 533
 534 /*
 535  * experimental text filters for win32 carriage-returns, utf16-to-utf8 and
 536  * utf16-to-utf8-reversed.
 537  */
 538
 539 #ifdef PERL_CR_FILTER
 540 static void
 541 strip_return(SV *sv)
 542 {
 543     register const char *s = SvPVX_const(sv);
 544     register const char * const e = s + SvCUR(sv);
 545     /* outer loop optimized to do nothing if there are no CR-LFs */
 546     while (s < e) {
 547         if (*s++ == '\r' && *s == '\n') {
 548             /* hit a CR-LF, need to copy the rest */
 549             register char *d = s - 1;
 550             *d++ = *s++;
 551             while (s < e) {
 552                 if (*s == '\r' && s[1] == '\n')
 553                     s++;
 554                 *d++ = *s++;
 555             }
 556             SvCUR(sv) -= s - d;
 557             return;
 558         }
 559     }
 560 }
 561
 562 STATIC I32
 563 S_cr_textfilter(pTHX_ int idx, SV *sv, int maxlen)
 564 {
 565     const I32 count = FILTER_READ(idx+1, sv, maxlen);
 566     if (count > 0 && !maxlen)
 567         strip_return(sv);
 568     return count;
 569 }
 570 #endif
 571
 572 /*
 573  * Perl_lex_start
 574  * Initialize variables.  Uses the Perl save_stack to save its state (for
 575  * recursive calls to the parser).
 576  */
 577
 578 void
 579 Perl_lex_start(pTHX_ SV *line)
 580 {
 581     dVAR;
 582     const char *s;
 583     STRLEN len;
 584
 585     SAVEI32(PL_lex_dojoin);
 586     SAVEI32(PL_lex_brackets);
 587     SAVEI32(PL_lex_casemods);
 588     SAVEI32(PL_lex_starts);
 589     SAVEI32(PL_lex_state);
 590     SAVEVPTR(PL_lex_inpat);
 591     SAVEI32(PL_lex_inwhat);
 592 #ifdef PERL_MAD
 593     if (PL_lex_state == LEX_KNOWNEXT) {
 594         I32 toke = PL_lasttoke;
 595         while (--toke >= 0) {
 596             SAVEI32(PL_nexttoke[toke].next_type);
 597             SAVEVPTR(PL_nexttoke[toke].next_val);
 598             if (PL_madskills)
 599                 SAVEVPTR(PL_nexttoke[toke].next_mad);
 600         }
 601         SAVEI32(PL_lasttoke);
 602     }
 603     if (PL_madskills) {
 604         SAVESPTR(PL_thistoken);
 605         SAVESPTR(PL_thiswhite);
 606         SAVESPTR(PL_nextwhite);
 607         SAVESPTR(PL_thisopen);
 608         SAVESPTR(PL_thisclose);
 609         SAVESPTR(PL_thisstuff);
 610         SAVEVPTR(PL_thismad);
 611         SAVEI32(PL_realtokenstart);
 612         SAVEI32(PL_faketokens);
 613     }
 614     SAVEI32(PL_curforce);
 615 #else
 616     if (PL_lex_state == LEX_KNOWNEXT) {
 617         I32 toke = PL_nexttoke;
 618         while (--toke >= 0) {
 619             SAVEI32(PL_nexttype[toke]);
 620             SAVEVPTR(PL_nextval[toke]);
 621         }
 622         SAVEI32(PL_nexttoke);
 623     }
 624 #endif
 625     SAVECOPLINE(PL_curcop);
 626     SAVEPPTR(PL_bufptr);
 627     SAVEPPTR(PL_bufend);
 628     SAVEPPTR(PL_oldbufptr);
 629     SAVEPPTR(PL_oldoldbufptr);
 630     SAVEPPTR(PL_last_lop);
 631     SAVEPPTR(PL_last_uni);
 632     SAVEPPTR(PL_linestart);
 633     SAVESPTR(PL_linestr);
 634     SAVEGENERICPV(PL_lex_brackstack);
 635     SAVEGENERICPV(PL_lex_casestack);
 636     SAVEDESTRUCTOR_X(restore_rsfp, PL_rsfp);
 637     SAVESPTR(PL_lex_stuff);
 638     SAVEI32(PL_lex_defer);
 639     SAVEI32(PL_sublex_info.sub_inwhat);
 640     SAVESPTR(PL_lex_repl);
 641     SAVEINT(PL_expect);
 642     SAVEINT(PL_lex_expect);
 643
 644     PL_lex_state = LEX_NORMAL;
 645     PL_lex_defer = 0;
 646     PL_expect = XSTATE;
 647     PL_lex_brackets = 0;
 648     Newx(PL_lex_brackstack, 120, char);
 649     Newx(PL_lex_casestack, 12, char);
 650     PL_lex_casemods = 0;
 651     *PL_lex_casestack = '\0';
 652     PL_lex_dojoin = 0;
 653     PL_lex_starts = 0;
 654     PL_lex_stuff = NULL;
 655     PL_lex_repl = NULL;
 656     PL_lex_inpat = 0;
 657 #ifdef PERL_MAD
 658     PL_lasttoke = 0;
 659 #else
 660     PL_nexttoke = 0;
 661 #endif
 662     PL_lex_inwhat = 0;
 663     PL_sublex_info.sub_inwhat = 0;
 664     PL_linestr = line;
 665     if (SvREADONLY(PL_linestr))
 666         PL_linestr = sv_2mortal(newSVsv(PL_linestr));
 667     s = SvPV_const(PL_linestr, len);
 668     if (!len || s[len-1] != ';') {
 669         if (!(SvFLAGS(PL_linestr) & SVs_TEMP))
 670             PL_linestr = sv_2mortal(newSVsv(PL_linestr));
 671         sv_catpvs(PL_linestr, "\n;");
 672     }
 673     SvTEMP_off(PL_linestr);
 674     PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = SvPVX(PL_linestr);
 675     PL_bufend = PL_bufptr + SvCUR(PL_linestr);
 676     PL_last_lop = PL_last_uni = NULL;
 677     PL_rsfp = 0;
 678 }
 679
 680 /*
 681  * Perl_lex_end
 682  * Finalizer for lexing operations.  Must be called when the parser is
 683  * done with the lexer.
 684  */
 685
 686 void
 687 Perl_lex_end(pTHX)
 688 {
 689     dVAR;
 690     PL_doextract = FALSE;
 691 }
 692
 693 /*
 694  * S_incline
 695  * This subroutine has nothing to do with tilting, whether at windmills
 696  * or pinball tables.  Its name is short for "increment line".  It
 697  * increments the current line number in CopLINE(PL_curcop) and checks
 698  * to see whether the line starts with a comment of the form
 699  *    # line 500 "foo.pm"
 700  * If so, it sets the current line number and file to the values in the comment.
 701  */
 702
 703 STATIC void
 704 S_incline(pTHX_ char *s)
 705 {
 706     dVAR;
 707     char *t;
 708     char *n;
 709     char *e;
 710     char ch;
 711
 712     CopLINE_inc(PL_curcop);
 713     if (*s++ != '#')
 714         return;
 715     while (SPACE_OR_TAB(*s))
 716         s++;
 717     if (strnEQ(s, "line", 4))
 718         s += 4;
 719     else
 720         return;
 721     if (SPACE_OR_TAB(*s))
 722         s++;
 723     else
 724         return;
 725     while (SPACE_OR_TAB(*s))
 726         s++;
 727     if (!isDIGIT(*s))
 728         return;
 729
 730     n = s;
 731     while (isDIGIT(*s))
 732         s++;
 733     while (SPACE_OR_TAB(*s))
 734         s++;
 735     if (*s == '"' && (t = strchr(s+1, '"'))) {
 736         s++;
 737         e = t + 1;
 738     }
 739     else {
 740         for (t = s; !isSPACE(*t); t++) ;
 741         e = t;
 742     }
 743     while (SPACE_OR_TAB(*e) || *e == '\r' || *e == '\f')
 744         e++;
 745     if (*e != '\n' && *e != '\0')
 746         return;         /* false alarm */
 747
 748     ch = *t;
 749     *t = '\0';
 750     if (t - s > 0) {
 751 #ifndef USE_ITHREADS
 752         const char * const cf = CopFILE(PL_curcop);
 753         STRLEN tmplen = cf ? strlen(cf) : 0;
 754         if (tmplen > 7 && strnEQ(cf, "(eval ", 6)) {
 755             /* must copy *{"::_<(eval N)[oldfilename:L]"}
 756              * to *{"::_<newfilename"} */
 757             char smallbuf[256], smallbuf2[256];
 758             char *tmpbuf, *tmpbuf2;
 759             GV **gvp, *gv2;
 760             STRLEN tmplen2 = strlen(s);
 761             if (tmplen + 3 < sizeof smallbuf)
 762                 tmpbuf = smallbuf;
 763             else
 764                 Newx(tmpbuf, tmplen + 3, char);
 765             if (tmplen2 + 3 < sizeof smallbuf2)
 766                 tmpbuf2 = smallbuf2;
 767             else
 768                 Newx(tmpbuf2, tmplen2 + 3, char);
 769             tmpbuf[0] = tmpbuf2[0] = '_';
 770             tmpbuf[1] = tmpbuf2[1] = '<';
 771             memcpy(tmpbuf + 2, cf, ++tmplen);
 772             memcpy(tmpbuf2 + 2, s, ++tmplen2);
 773             ++tmplen; ++tmplen2;
 774             gvp = (GV**)hv_fetch(PL_defstash, tmpbuf, tmplen, FALSE);
 775             if (gvp) {
 776                 gv2 = *(GV**)hv_fetch(PL_defstash, tmpbuf2, tmplen2, TRUE);
 777                 if (!isGV(gv2))
 778                     gv_init(gv2, PL_defstash, tmpbuf2, tmplen2, FALSE);
 779                 /* adjust ${"::_<newfilename"} to store the new file name */
 780                 GvSV(gv2) = newSVpvn(tmpbuf2 + 2, tmplen2 - 2);
 781                 GvHV(gv2) = (HV*)SvREFCNT_inc(GvHV(*gvp));
 782                 GvAV(gv2) = (AV*)SvREFCNT_inc(GvAV(*gvp));
 783             }
 784             if (tmpbuf != smallbuf) Safefree(tmpbuf);
 785             if (tmpbuf2 != smallbuf2) Safefree(tmpbuf2);
 786         }
 787 #endif
 788         CopFILE_free(PL_curcop);
 789         CopFILE_set(PL_curcop, s);
 790     }
 791     *t = ch;
 792     CopLINE_set(PL_curcop, atoi(n)-1);
 793 }
 794
 795 #ifdef PERL_MAD
 796 /* skip space before PL_thistoken */
 797
 798 STATIC char *
 799 S_skipspace0(pTHX_ register char *s)
 800 {
 801     s = skipspace(s);
 802     if (!PL_madskills)
 803         return s;
 804     if (PL_skipwhite) {
 805         if (!PL_thiswhite)
 806             PL_thiswhite = newSVpvn("",0);
 807         sv_catsv(PL_thiswhite, PL_skipwhite);
 808         sv_free(PL_skipwhite);
 809         PL_skipwhite = 0;
 810     }
 811     PL_realtokenstart = s - SvPVX(PL_linestr);
 812     return s;
 813 }
 814
 815 /* skip space after PL_thistoken */
 816
 817 STATIC char *
 818 S_skipspace1(pTHX_ register char *s)
 819 {
 820     const char *start = s;
 821     I32 startoff = start - SvPVX(PL_linestr);
 822
 823     s = skipspace(s);
 824     if (!PL_madskills)
 825         return s;
 826     start = SvPVX(PL_linestr) + startoff;
 827     if (!PL_thistoken && PL_realtokenstart >= 0) {
 828         const char * const tstart = SvPVX(PL_linestr) + PL_realtokenstart;
 829         PL_thistoken = newSVpvn(tstart, start - tstart);
 830     }
 831     PL_realtokenstart = -1;
 832     if (PL_skipwhite) {
 833         if (!PL_nextwhite)
 834             PL_nextwhite = newSVpvn("",0);
 835         sv_catsv(PL_nextwhite, PL_skipwhite);
 836         sv_free(PL_skipwhite);
 837         PL_skipwhite = 0;
 838     }
 839     return s;
 840 }
 841
 842 STATIC char *
 843 S_skipspace2(pTHX_ register char *s, SV **svp)
 844 {
 845     char *start = s;
 846     I32 bufptroff = PL_bufptr - SvPVX(PL_linestr);
 847     I32 startoff = start - SvPVX(PL_linestr);
 848     s = skipspace(s);
 849     PL_bufptr = SvPVX(PL_linestr) + bufptroff;
 850     if (!PL_madskills || !svp)
 851         return s;
 852     start = SvPVX(PL_linestr) + startoff;
 853     if (!PL_thistoken && PL_realtokenstart >= 0) {
 854         char * const tstart = SvPVX(PL_linestr) + PL_realtokenstart;
 855         PL_thistoken = newSVpvn(tstart, start - tstart);
 856         PL_realtokenstart = -1;
 857     }
 858     if (PL_skipwhite) {
 859         if (!*svp)
 860             *svp = newSVpvn("",0);
 861         sv_setsv(*svp, PL_skipwhite);
 862         sv_free(PL_skipwhite);
 863         PL_skipwhite = 0;
 864     }
 865
 866     return s;
 867 }
 868 #endif
 869
 870 /*
 871  * S_skipspace
 872  * Called to gobble the appropriate amount and type of whitespace.
 873  * Skips comments as well.
 874  */
 875
 876 STATIC char *
 877 S_skipspace(pTHX_ register char *s)
 878 {
 879     dVAR;
 880 #ifdef PERL_MAD
 881     int curoff;
 882     int startoff = s - SvPVX(PL_linestr);
 883
 884     if (PL_skipwhite) {
 885         sv_free(PL_skipwhite);
 886         PL_skipwhite = 0;
 887     }
 888 #endif
 889
 890     if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
 891         while (s < PL_bufend && SPACE_OR_TAB(*s))
 892             s++;
 893 #ifdef PERL_MAD
 894         goto done;
 895 #else
 896         return s;
 897 #endif
 898     }
 899     for (;;) {
 900         STRLEN prevlen;
 901         SSize_t oldprevlen, oldoldprevlen;
 902         SSize_t oldloplen = 0, oldunilen = 0;
 903         while (s < PL_bufend && isSPACE(*s)) {
 904             if (*s++ == '\n' && PL_in_eval && !PL_rsfp)
 905                 incline(s);
 906         }
 907
 908         /* comment */
 909         if (s < PL_bufend && *s == '#') {
 910             while (s < PL_bufend && *s != '\n')
 911                 s++;
 912             if (s < PL_bufend) {
 913                 s++;
 914                 if (PL_in_eval && !PL_rsfp) {
 915                     incline(s);
 916                     continue;
 917                 }
 918             }
 919         }
 920
 921         /* only continue to recharge the buffer if we're at the end
 922          * of the buffer, we're not reading from a source filter, and
 923          * we're in normal lexing mode
 924          */
 925         if (s < PL_bufend || !PL_rsfp || PL_sublex_info.sub_inwhat ||
 926                 PL_lex_state == LEX_FORMLINE)
 927 #ifdef PERL_MAD
 928             goto done;
 929 #else
 930             return s;
 931 #endif
 932
 933         /* try to recharge the buffer */
 934 #ifdef PERL_MAD
 935         curoff = s - SvPVX(PL_linestr);
 936 #endif
 937
 938         if ((s = filter_gets(PL_linestr, PL_rsfp,
 939                              (prevlen = SvCUR(PL_linestr)))) == NULL)
 940         {
 941 #ifdef PERL_MAD
 942             if (PL_madskills && curoff != startoff) {
 943                 if (!PL_skipwhite)
 944                     PL_skipwhite = newSVpvn("",0);
 945                 sv_catpvn(PL_skipwhite, SvPVX(PL_linestr) + startoff,
 946                                         curoff - startoff);
 947             }
 948
 949             /* mustn't throw out old stuff yet if madpropping */
 950             SvCUR(PL_linestr) = curoff;
 951             s = SvPVX(PL_linestr) + curoff;
 952             *s = 0;
 953             if (curoff && s[-1] == '\n')
 954                 s[-1] = ' ';
 955 #endif
 956
 957             /* end of file.  Add on the -p or -n magic */
 958             /* XXX these shouldn't really be added here, can't set PL_faketokens */
 959             if (PL_minus_p) {
 960 #ifdef PERL_MAD
 961                 sv_catpv(PL_linestr,
 962                          ";}continue{print or die qq(-p destination: $!\\n);}");
 963 #else
 964                 sv_setpv(PL_linestr,
 965                          ";}continue{print or die qq(-p destination: $!\\n);}");
 966 #endif
 967                 PL_minus_n = PL_minus_p = 0;
 968             }
 969             else if (PL_minus_n) {
 970 #ifdef PERL_MAD
 971                 sv_catpvn(PL_linestr, ";}", 2);
 972 #else
 973                 sv_setpvn(PL_linestr, ";}", 2);
 974 #endif
 975                 PL_minus_n = 0;
 976             }
 977             else
 978 #ifdef PERL_MAD
 979                 sv_catpvn(PL_linestr,";", 1);
 980 #else
 981                 sv_setpvn(PL_linestr,";", 1);
 982 #endif
 983
 984             /* reset variables for next time we lex */
 985             PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = s = PL_linestart
 986                 = SvPVX(PL_linestr)
 987 #ifdef PERL_MAD
 988                 + curoff
 989 #endif
 990                 ;
 991             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
 992             PL_last_lop = PL_last_uni = NULL;
 993
 994             /* Close the filehandle.  Could be from -P preprocessor,
 995              * STDIN, or a regular file.  If we were reading code from
 996              * STDIN (because the commandline held no -e or filename)
 997              * then we don't close it, we reset it so the code can
 998              * read from STDIN too.
 999              */
1000
1001             if (PL_preprocess && !PL_in_eval)
1002                 (void)PerlProc_pclose(PL_rsfp);
1003             else if ((PerlIO*)PL_rsfp == PerlIO_stdin())
1004                 PerlIO_clearerr(PL_rsfp);
1005             else
1006                 (void)PerlIO_close(PL_rsfp);
1007             PL_rsfp = NULL;
1008             return s;
1009         }
1010
1011         /* not at end of file, so we only read another line */
1012         /* make corresponding updates to old pointers, for yyerror() */
1013         oldprevlen = PL_oldbufptr - PL_bufend;
1014         oldoldprevlen = PL_oldoldbufptr - PL_bufend;
1015         if (PL_last_uni)
1016             oldunilen = PL_last_uni - PL_bufend;
1017         if (PL_last_lop)
1018             oldloplen = PL_last_lop - PL_bufend;
1019         PL_linestart = PL_bufptr = s + prevlen;
1020         PL_bufend = s + SvCUR(PL_linestr);
1021         s = PL_bufptr;
1022         PL_oldbufptr = s + oldprevlen;
1023         PL_oldoldbufptr = s + oldoldprevlen;
1024         if (PL_last_uni)
1025             PL_last_uni = s + oldunilen;
1026         if (PL_last_lop)
1027             PL_last_lop = s + oldloplen;
1028         incline(s);
1029
1030         /* debugger active and we're not compiling the debugger code,
1031          * so store the line into the debugger's array of lines
1032          */
1033         if (PERLDB_LINE && PL_curstash != PL_debstash) {
1034             SV * const sv = newSV(0);
1035
1036             sv_upgrade(sv, SVt_PVMG);
1037             sv_setpvn(sv,PL_bufptr,PL_bufend-PL_bufptr);
1038             (void)SvIOK_on(sv);
1039             SvIV_set(sv, 0);
1040             av_store(CopFILEAVx(PL_curcop),(I32)CopLINE(PL_curcop),sv);
1041         }
1042     }
1043
1044 #ifdef PERL_MAD
1045   done:
1046     if (PL_madskills) {
1047         if (!PL_skipwhite)
1048             PL_skipwhite = newSVpvn("",0);
1049         curoff = s - SvPVX(PL_linestr);
1050         if (curoff - startoff)
1051             sv_catpvn(PL_skipwhite, SvPVX(PL_linestr) + startoff,
1052                                 curoff - startoff);
1053     }
1054     return s;
1055 #endif
1056 }
1057
1058 /*
1059  * S_check_uni
1060  * Check the unary operators to ensure there's no ambiguity in how they're
1061  * used.  An ambiguous piece of code would be:
1062  *     rand + 5
1063  * This doesn't mean rand() + 5.  Because rand() is a unary operator,
1064  * the +5 is its argument.
1065  */
1066
1067 STATIC void
1068 S_check_uni(pTHX)
1069 {
1070     dVAR;
1071     const char *s;
1072     const char *t;
1073
1074     if (PL_oldoldbufptr != PL_last_uni)
1075         return;
1076     while (isSPACE(*PL_last_uni))
1077         PL_last_uni++;
1078     for (s = PL_last_uni; isALNUM_lazy_if(s,UTF) || *s == '-'; s++)
1079         /**/;
1080     if ((t = strchr(s, '(')) && t < PL_bufptr)
1081         return;
1082
1083     if (ckWARN_d(WARN_AMBIGUOUS)){
1084         Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
1085                    "Warning: Use of \"%.*s\" without parentheses is ambiguous",
1086                    (int)(s - PL_last_uni), PL_last_uni);
1087     }
1088 }
1089
1090 /*
1091  * LOP : macro to build a list operator.  Its behaviour has been replaced
1092  * with a subroutine, S_lop() for which LOP is just another name.
1093  */
1094
1095 #define LOP(f,x) return lop(f,x,s)
1096
1097 /*
1098  * S_lop
1099  * Build a list operator (or something that might be one).  The rules:
1100  *  - if we have a next token, then it's a list operator [why?]
1101  *  - if the next thing is an opening paren, then it's a function
1102  *  - else it's a list operator
1103  */
1104
1105 STATIC I32
1106 S_lop(pTHX_ I32 f, int x, char *s)
1107 {
1108     dVAR;
1109     yylval.ival = f;
1110     CLINE;
1111     PL_expect = x;
1112     PL_bufptr = s;
1113     PL_last_lop = PL_oldbufptr;
1114     PL_last_lop_op = (OPCODE)f;
1115 #ifdef PERL_MAD
1116     if (PL_lasttoke)
1117         return REPORT(LSTOP);
1118 #else
1119     if (PL_nexttoke)
1120         return REPORT(LSTOP);
1121 #endif
1122     if (*s == '(')
1123         return REPORT(FUNC);
1124     s = PEEKSPACE(s);
1125     if (*s == '(')
1126         return REPORT(FUNC);
1127     else
1128         return REPORT(LSTOP);
1129 }
1130
1131 #ifdef PERL_MAD
1132  /*
1133  * S_start_force
1134  * Sets up for an eventual force_next().  start_force(0) basically does
1135  * an unshift, while start_force(-1) does a push.  yylex removes items
1136  * on the "pop" end.
1137  */
1138
1139 STATIC void
1140 S_start_force(pTHX_ int where)
1141 {
1142     int i;
1143
1144     if (where < 0)      /* so people can duplicate start_force(PL_curforce) */
1145         where = PL_lasttoke;
1146     assert(PL_curforce < 0 || PL_curforce == where);
1147     if (PL_curforce != where) {
1148         for (i = PL_lasttoke; i > where; --i) {
1149             PL_nexttoke[i] = PL_nexttoke[i-1];
1150         }
1151         PL_lasttoke++;
1152     }
1153     if (PL_curforce < 0)        /* in case of duplicate start_force() */
1154         Zero(&PL_nexttoke[where], 1, NEXTTOKE);
1155     PL_curforce = where;
1156     if (PL_nextwhite) {
1157         if (PL_madskills)
1158             curmad('^', newSVpvn("",0));
1159         CURMAD('_', PL_nextwhite);
1160     }
1161 }
1162
1163 STATIC void
1164 S_curmad(pTHX_ char slot, SV *sv)
1165 {
1166     MADPROP **where;
1167
1168     if (!sv)
1169         return;
1170     if (PL_curforce < 0)
1171         where = &PL_thismad;
1172     else
1173         where = &PL_nexttoke[PL_curforce].next_mad;
1174
1175     if (PL_faketokens)
1176         sv_setpvn(sv, "", 0);
1177     else {
1178         if (!IN_BYTES) {
1179             if (UTF && is_utf8_string((U8*)SvPVX(sv), SvCUR(sv)))
1180                 SvUTF8_on(sv);
1181             else if (PL_encoding) {
1182                 sv_recode_to_utf8(sv, PL_encoding);
1183             }
1184         }
1185     }
1186
1187     /* keep a slot open for the head of the list? */
1188     if (slot != '_' && *where && (*where)->mad_key == '^') {
1189         (*where)->mad_key = slot;
1190         sv_free((*where)->mad_val);
1191         (*where)->mad_val = (void*)sv;
1192     }
1193     else
1194         addmad(newMADsv(slot, sv), where, 0);
1195 }
1196 #else
1197 #  define start_force(where)    NOOP
1198 #  define curmad(slot, sv)      NOOP
1199 #endif
1200
1201 /*
1202  * S_force_next
1203  * When the lexer realizes it knows the next token (for instance,
1204  * it is reordering tokens for the parser) then it can call S_force_next
1205  * to know what token to return the next time the lexer is called.  Caller
1206  * will need to set PL_nextval[] (or PL_nexttoke[].next_val with PERL_MAD),
1207  * and possibly PL_expect to ensure the lexer handles the token correctly.
1208  */
1209
1210 STATIC void
1211 S_force_next(pTHX_ I32 type)
1212 {
1213     dVAR;
1214 #ifdef PERL_MAD
1215     if (PL_curforce < 0)
1216         start_force(PL_lasttoke);
1217     PL_nexttoke[PL_curforce].next_type = type;
1218     if (PL_lex_state != LEX_KNOWNEXT)
1219         PL_lex_defer = PL_lex_state;
1220     PL_lex_state = LEX_KNOWNEXT;
1221     PL_lex_expect = PL_expect;
1222     PL_curforce = -1;
1223 #else
1224     PL_nexttype[PL_nexttoke] = type;
1225     PL_nexttoke++;
1226     if (PL_lex_state != LEX_KNOWNEXT) {
1227         PL_lex_defer = PL_lex_state;
1228         PL_lex_expect = PL_expect;
1229         PL_lex_state = LEX_KNOWNEXT;
1230     }
1231 #endif
1232 }
1233
1234 STATIC SV *
1235 S_newSV_maybe_utf8(pTHX_ const char *start, STRLEN len)
1236 {
1237     dVAR;
1238     SV * const sv = newSVpvn(start,len);
1239     if (UTF && !IN_BYTES && is_utf8_string((const U8*)start, len))
1240         SvUTF8_on(sv);
1241     return sv;
1242 }
1243
1244 /*
1245  * S_force_word
1246  * When the lexer knows the next thing is a word (for instance, it has
1247  * just seen -> and it knows that the next char is a word char, then
1248  * it calls S_force_word to stick the next word into the PL_next lookahead.
1249  *
1250  * Arguments:
1251  *   char *start : buffer position (must be within PL_linestr)
1252  *   int token   : PL_next will be this type of bare word (e.g., METHOD,WORD)
1253  *   int check_keyword : if true, Perl checks to make sure the word isn't
1254  *       a keyword (do this if the word is a label, e.g. goto FOO)
1255  *   int allow_pack : if true, : characters will also be allowed (require,
1256  *       use, etc. do this)
1257  *   int allow_initial_tick : used by the "sub" lexer only.
1258  */
1259
1260 STATIC char *
1261 S_force_word(pTHX_ register char *start, int token, int check_keyword, int allow_pack, int allow_initial_tick)
1262 {
1263     dVAR;
1264     register char *s;
1265     STRLEN len;
1266
1267     start = SKIPSPACE1(start);
1268     s = start;
1269     if (isIDFIRST_lazy_if(s,UTF) ||
1270         (allow_pack && *s == ':') ||
1271         (allow_initial_tick && *s == '\'') )
1272     {
1273         s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, allow_pack, &len);
1274         if (check_keyword && keyword(PL_tokenbuf, len))
1275             return start;
1276         start_force(PL_curforce);
1277         if (PL_madskills)
1278             curmad('X', newSVpvn(start,s-start));
1279         if (token == METHOD) {
1280             s = SKIPSPACE1(s);
1281             if (*s == '(')
1282                 PL_expect = XTERM;
1283             else {
1284                 PL_expect = XOPERATOR;
1285             }
1286         }
1287         NEXTVAL_NEXTTOKE.opval
1288             = (OP*)newSVOP(OP_CONST,0,
1289                            S_newSV_maybe_utf8(aTHX_ PL_tokenbuf, len));
1290         NEXTVAL_NEXTTOKE.opval->op_private |= OPpCONST_BARE;
1291         force_next(token);
1292     }
1293     return s;
1294 }
1295
1296 /*
1297  * S_force_ident
1298  * Called when the lexer wants $foo *foo &foo etc, but the program
1299  * text only contains the "foo" portion.  The first argument is a pointer
1300  * to the "foo", and the second argument is the type symbol to prefix.
1301  * Forces the next token to be a "WORD".
1302  * Creates the symbol if it didn't already exist (via gv_fetchpv()).
1303  */
1304
1305 STATIC void
1306 S_force_ident(pTHX_ register const char *s, int kind)
1307 {
1308     dVAR;
1309     if (s && *s) {
1310         const STRLEN len = strlen(s);
1311         OP* const o = (OP*)newSVOP(OP_CONST, 0, newSVpvn(s, len));
1312         start_force(PL_curforce);
1313         NEXTVAL_NEXTTOKE.opval = o;
1314         force_next(WORD);
1315         if (kind) {
1316             o->op_private = OPpCONST_ENTERED;
1317             /* XXX see note in pp_entereval() for why we forgo typo
1318                warnings if the symbol must be introduced in an eval.
1319                GSAR 96-10-12 */
1320             gv_fetchpvn_flags(s, len,
1321                               PL_in_eval ? (GV_ADDMULTI | GV_ADDINEVAL)
1322                               : GV_ADD,
1323                               kind == '$' ? SVt_PV :
1324                               kind == '@' ? SVt_PVAV :
1325                               kind == '%' ? SVt_PVHV :
1326                               SVt_PVGV
1327                               );
1328         }
1329     }
1330 }
1331
1332 NV
1333 Perl_str_to_version(pTHX_ SV *sv)
1334 {
1335     NV retval = 0.0;
1336     NV nshift = 1.0;
1337     STRLEN len;
1338     const char *start = SvPV_const(sv,len);
1339     const char * const end = start + len;
1340     const bool utf = SvUTF8(sv) ? TRUE : FALSE;
1341     while (start < end) {
1342         STRLEN skip;
1343         UV n;
1344         if (utf)
1345             n = utf8n_to_uvchr((U8*)start, len, &skip, 0);
1346         else {
1347             n = *(U8*)start;
1348             skip = 1;
1349         }
1350         retval += ((NV)n)/nshift;
1351         start += skip;
1352         nshift *= 1000;
1353     }
1354     return retval;
1355 }
1356
1357 /*
1358  * S_force_version
1359  * Forces the next token to be a version number.
1360  * If the next token appears to be an invalid version number, (e.g. "v2b"),
1361  * and if "guessing" is TRUE, then no new token is created (and the caller
1362  * must use an alternative parsing method).
1363  */
1364
1365 STATIC char *
1366 S_force_version(pTHX_ char *s, int guessing)
1367 {
1368     dVAR;
1369     OP *version = NULL;
1370     char *d;
1371 #ifdef PERL_MAD
1372     I32 startoff = s - SvPVX(PL_linestr);
1373 #endif
1374
1375     s = SKIPSPACE1(s);
1376
1377     d = s;
1378     if (*d == 'v')
1379         d++;
1380     if (isDIGIT(*d)) {
1381         while (isDIGIT(*d) || *d == '_' || *d == '.')
1382             d++;
1383 #ifdef PERL_MAD
1384         if (PL_madskills) {
1385             start_force(PL_curforce);
1386             curmad('X', newSVpvn(s,d-s));
1387         }
1388 #endif
1389         if (*d == ';' || isSPACE(*d) || *d == '}' || !*d) {
1390             SV *ver;
1391             s = scan_num(s, &yylval);
1392             version = yylval.opval;
1393             ver = cSVOPx(version)->op_sv;
1394             if (SvPOK(ver) && !SvNIOK(ver)) {
1395                 SvUPGRADE(ver, SVt_PVNV);
1396                 SvNV_set(ver, str_to_version(ver));
1397                 SvNOK_on(ver);          /* hint that it is a version */
1398             }
1399         }
1400         else if (guessing) {
1401 #ifdef PERL_MAD
1402             if (PL_madskills) {
1403                 sv_free(PL_nextwhite);  /* let next token collect whitespace */
1404                 PL_nextwhite = 0;
1405                 s = SvPVX(PL_linestr) + startoff;
1406             }
1407 #endif
1408             return s;
1409         }
1410     }
1411
1412 #ifdef PERL_MAD
1413     if (PL_madskills && !version) {
1414         sv_free(PL_nextwhite);  /* let next token collect whitespace */
1415         PL_nextwhite = 0;
1416         s = SvPVX(PL_linestr) + startoff;
1417     }
1418 #endif
1419     /* NOTE: The parser sees the package name and the VERSION swapped */
1420     start_force(PL_curforce);
1421     NEXTVAL_NEXTTOKE.opval = version;
1422     force_next(WORD);
1423
1424     return s;
1425 }
1426
1427 /*
1428  * S_tokeq
1429  * Tokenize a quoted string passed in as an SV.  It finds the next
1430  * chunk, up to end of string or a backslash.  It may make a new
1431  * SV containing that chunk (if HINT_NEW_STRING is on).  It also
1432  * turns \\ into \.
1433  */
1434
1435 STATIC SV *
1436 S_tokeq(pTHX_ SV *sv)
1437 {
1438     dVAR;
1439     register char *s;
1440     register char *send;
1441     register char *d;
1442     STRLEN len = 0;
1443     SV *pv = sv;
1444
1445     if (!SvLEN(sv))
1446         goto finish;
1447
1448     s = SvPV_force(sv, len);
1449     if (SvTYPE(sv) >= SVt_PVIV && SvIVX(sv) == -1)
1450         goto finish;
1451     send = s + len;
1452     while (s < send && *s != '\\')
1453         s++;
1454     if (s == send)
1455         goto finish;
1456     d = s;
1457     if ( PL_hints & HINT_NEW_STRING ) {
1458         pv = sv_2mortal(newSVpvn(SvPVX_const(pv), len));
1459         if (SvUTF8(sv))
1460             SvUTF8_on(pv);
1461     }
1462     while (s < send) {
1463         if (*s == '\\') {
1464             if (s + 1 < send && (s[1] == '\\'))
1465                 s++;            /* all that, just for this */
1466         }
1467         *d++ = *s++;
1468     }
1469     *d = '\0';
1470     SvCUR_set(sv, d - SvPVX_const(sv));
1471   finish:
1472     if ( PL_hints & HINT_NEW_STRING )
1473        return new_constant(NULL, 0, "q", sv, pv, "q");
1474     return sv;
1475 }
1476
1477 /*
1478  * Now come three functions related to double-quote context,
1479  * S_sublex_start, S_sublex_push, and S_sublex_done.  They're used when
1480  * converting things like "\u\Lgnat" into ucfirst(lc("gnat")).  They
1481  * interact with PL_lex_state, and create fake ( ... ) argument lists
1482  * to handle functions and concatenation.
1483  * They assume that whoever calls them will be setting up a fake
1484  * join call, because each subthing puts a ',' after it.  This lets
1485  *   "lower \luPpEr"
1486  * become
1487  *  join($, , 'lower ', lcfirst( 'uPpEr', ) ,)
1488  *
1489  * (I'm not sure whether the spurious commas at the end of lcfirst's
1490  * arguments and join's arguments are created or not).
1491  */
1492
1493 /*
1494  * S_sublex_start
1495  * Assumes that yylval.ival is the op we're creating (e.g. OP_LCFIRST).
1496  *
1497  * Pattern matching will set PL_lex_op to the pattern-matching op to
1498  * make (we return THING if yylval.ival is OP_NULL, PMFUNC otherwise).
1499  *
1500  * OP_CONST and OP_READLINE are easy--just make the new op and return.
1501  *
1502  * Everything else becomes a FUNC.
1503  *
1504  * Sets PL_lex_state to LEX_INTERPPUSH unless (ival was OP_NULL or we
1505  * had an OP_CONST or OP_READLINE).  This just sets us up for a
1506  * call to S_sublex_push().
1507  */
1508
1509 STATIC I32
1510 S_sublex_start(pTHX)
1511 {
1512     dVAR;
1513     register const I32 op_type = yylval.ival;
1514
1515     if (op_type == OP_NULL) {
1516         yylval.opval = PL_lex_op;
1517         PL_lex_op = NULL;
1518         return THING;
1519     }
1520     if (op_type == OP_CONST || op_type == OP_READLINE) {
1521         SV *sv = tokeq(PL_lex_stuff);
1522
1523         if (SvTYPE(sv) == SVt_PVIV) {
1524             /* Overloaded constants, nothing fancy: Convert to SVt_PV: */
1525             STRLEN len;
1526             const char * const p = SvPV_const(sv, len);
1527             SV * const nsv = newSVpvn(p, len);
1528             if (SvUTF8(sv))
1529                 SvUTF8_on(nsv);
1530             SvREFCNT_dec(sv);
1531             sv = nsv;
1532         }
1533         yylval.opval = (OP*)newSVOP(op_type, 0, sv);
1534         PL_lex_stuff = NULL;
1535         /* Allow <FH> // "foo" */
1536         if (op_type == OP_READLINE)
1537             PL_expect = XTERMORDORDOR;
1538         return THING;
1539     }
1540
1541     PL_sublex_info.super_state = PL_lex_state;
1542     PL_sublex_info.sub_inwhat = op_type;
1543     PL_sublex_info.sub_op = PL_lex_op;
1544     PL_lex_state = LEX_INTERPPUSH;
1545
1546     PL_expect = XTERM;
1547     if (PL_lex_op) {
1548         yylval.opval = PL_lex_op;
1549         PL_lex_op = NULL;
1550         return PMFUNC;
1551     }
1552     else
1553         return FUNC;
1554 }
1555
1556 /*
1557  * S_sublex_push
1558  * Create a new scope to save the lexing state.  The scope will be
1559  * ended in S_sublex_done.  Returns a '(', starting the function arguments
1560  * to the uc, lc, etc. found before.
1561  * Sets PL_lex_state to LEX_INTERPCONCAT.
1562  */
1563
1564 STATIC I32
1565 S_sublex_push(pTHX)
1566 {
1567     dVAR;
1568     ENTER;
1569
1570     PL_lex_state = PL_sublex_info.super_state;
1571     SAVEI32(PL_lex_dojoin);
1572     SAVEI32(PL_lex_brackets);
1573     SAVEI32(PL_lex_casemods);
1574     SAVEI32(PL_lex_starts);
1575     SAVEI32(PL_lex_state);
1576     SAVEVPTR(PL_lex_inpat);
1577     SAVEI32(PL_lex_inwhat);
1578     SAVECOPLINE(PL_curcop);
1579     SAVEPPTR(PL_bufptr);
1580     SAVEPPTR(PL_bufend);
1581     SAVEPPTR(PL_oldbufptr);
1582     SAVEPPTR(PL_oldoldbufptr);
1583     SAVEPPTR(PL_last_lop);
1584     SAVEPPTR(PL_last_uni);
1585     SAVEPPTR(PL_linestart);
1586     SAVESPTR(PL_linestr);
1587     SAVEGENERICPV(PL_lex_brackstack);
1588     SAVEGENERICPV(PL_lex_casestack);
1589
1590     PL_linestr = PL_lex_stuff;
1591     PL_lex_stuff = NULL;
1592
1593     PL_bufend = PL_bufptr = PL_oldbufptr = PL_oldoldbufptr = PL_linestart
1594         = SvPVX(PL_linestr);
1595     PL_bufend += SvCUR(PL_linestr);
1596     PL_last_lop = PL_last_uni = NULL;
1597     SAVEFREESV(PL_linestr);
1598
1599     PL_lex_dojoin = FALSE;
1600     PL_lex_brackets = 0;
1601     Newx(PL_lex_brackstack, 120, char);
1602     Newx(PL_lex_casestack, 12, char);
1603     PL_lex_casemods = 0;
1604     *PL_lex_casestack = '\0';
1605     PL_lex_starts = 0;
1606     PL_lex_state = LEX_INTERPCONCAT;
1607     CopLINE_set(PL_curcop, (line_t)PL_multi_start);
1608
1609     PL_lex_inwhat = PL_sublex_info.sub_inwhat;
1610     if (PL_lex_inwhat == OP_MATCH || PL_lex_inwhat == OP_QR || PL_lex_inwhat == OP_SUBST)
1611         PL_lex_inpat = PL_sublex_info.sub_op;
1612     else
1613         PL_lex_inpat = NULL;
1614
1615     return '(';
1616 }
1617
1618 /*
1619  * S_sublex_done
1620  * Restores lexer state after a S_sublex_push.
1621  */
1622
1623 STATIC I32
1624 S_sublex_done(pTHX)
1625 {
1626     dVAR;
1627     if (!PL_lex_starts++) {
1628         SV * const sv = newSVpvs("");
1629         if (SvUTF8(PL_linestr))
1630             SvUTF8_on(sv);
1631         PL_expect = XOPERATOR;
1632         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
1633         return THING;
1634     }
1635
1636     if (PL_lex_casemods) {              /* oops, we've got some unbalanced parens */
1637         PL_lex_state = LEX_INTERPCASEMOD;
1638         return yylex();
1639     }
1640
1641     /* Is there a right-hand side to take care of? (s//RHS/ or tr//RHS/) */
1642     if (PL_lex_repl && (PL_lex_inwhat == OP_SUBST || PL_lex_inwhat == OP_TRANS)) {
1643         PL_linestr = PL_lex_repl;
1644         PL_lex_inpat = 0;
1645         PL_bufend = PL_bufptr = PL_oldbufptr = PL_oldoldbufptr = PL_linestart = SvPVX(PL_linestr);
1646         PL_bufend += SvCUR(PL_linestr);
1647         PL_last_lop = PL_last_uni = NULL;
1648         SAVEFREESV(PL_linestr);
1649         PL_lex_dojoin = FALSE;
1650         PL_lex_brackets = 0;
1651         PL_lex_casemods = 0;
1652         *PL_lex_casestack = '\0';
1653         PL_lex_starts = 0;
1654         if (SvEVALED(PL_lex_repl)) {
1655             PL_lex_state = LEX_INTERPNORMAL;
1656             PL_lex_starts++;
1657             /*  we don't clear PL_lex_repl here, so that we can check later
1658                 whether this is an evalled subst; that means we rely on the
1659                 logic to ensure sublex_done() is called again only via the
1660                 branch (in yylex()) that clears PL_lex_repl, else we'll loop */
1661         }
1662         else {
1663             PL_lex_state = LEX_INTERPCONCAT;
1664             PL_lex_repl = NULL;
1665         }
1666         return ',';
1667     }
1668     else {
1669 #ifdef PERL_MAD
1670         if (PL_madskills) {
1671             if (PL_thiswhite) {
1672                 if (!PL_endwhite)
1673                     PL_endwhite = newSVpvn("",0);
1674                 sv_catsv(PL_endwhite, PL_thiswhite);
1675                 PL_thiswhite = 0;
1676             }
1677             if (PL_thistoken)
1678                 sv_setpvn(PL_thistoken,"",0);
1679             else
1680                 PL_realtokenstart = -1;
1681         }
1682 #endif
1683         LEAVE;
1684         PL_bufend = SvPVX(PL_linestr);
1685         PL_bufend += SvCUR(PL_linestr);
1686         PL_expect = XOPERATOR;
1687         PL_sublex_info.sub_inwhat = 0;
1688         return ')';
1689     }
1690 }
1691
1692 /*
1693   scan_const
1694
1695   Extracts a pattern, double-quoted string, or transliteration.  This
1696   is terrifying code.
1697
1698   It looks at lex_inwhat and PL_lex_inpat to find out whether it's
1699   processing a pattern (PL_lex_inpat is true), a transliteration
1700   (lex_inwhat & OP_TRANS is true), or a double-quoted string.
1701
1702   Returns a pointer to the character scanned up to. Iff this is
1703   advanced from the start pointer supplied (ie if anything was
1704   successfully parsed), will leave an OP for the substring scanned
1705   in yylval. Caller must intuit reason for not parsing further
1706   by looking at the next characters herself.
1707
1708   In patterns:
1709     backslashes:
1710       double-quoted style: \r and \n
1711       regexp special ones: \D \s
1712       constants: \x3
1713       backrefs: \1 (deprecated in substitution replacements)
1714       case and quoting: \U \Q \E
1715     stops on @ and $, but not for $ as tail anchor
1716
1717   In transliterations:
1718     characters are VERY literal, except for - not at the start or end
1719     of the string, which indicates a range.  scan_const expands the
1720     range to the full set of intermediate characters.
1721
1722   In double-quoted strings:
1723     backslashes:
1724       double-quoted style: \r and \n
1725       constants: \x3
1726       backrefs: \1 (deprecated)
1727       case and quoting: \U \Q \E
1728     stops on @ and $
1729
1730   scan_const does *not* construct ops to handle interpolated strings.
1731   It stops processing as soon as it finds an embedded $ or @ variable
1732   and leaves it to the caller to work out what's going on.
1733
1734   @ in pattern could be: @foo, @{foo}, @$foo, @'foo, @::foo.
1735
1736   $ in pattern could be $foo or could be tail anchor.  Assumption:
1737   it's a tail anchor if $ is the last thing in the string, or if it's
1738   followed by one of ")| \n\t"
1739
1740   \1 (backreferences) are turned into $1
1741
1742   The structure of the code is
1743       while (there's a character to process) {
1744           handle transliteration ranges
1745           skip regexp comments
1746           skip # initiated comments in //x patterns
1747           check for embedded @foo
1748           check for embedded scalars
1749           if (backslash) {
1750               leave intact backslashes from leave (below)
1751               deprecate \1 in strings and sub replacements
1752               handle string-changing backslashes \l \U \Q \E, etc.
1753               switch (what was escaped) {
1754                   handle - in a transliteration (becomes a literal -)
1755                   handle \132 octal characters
1756                   handle 0x15 hex characters
1757                   handle \cV (control V)
1758                   handle printf backslashes (\f, \r, \n, etc)
1759               } (end switch)
1760           } (end if backslash)
1761     } (end while character to read)
1762
1763 */
1764
1765 STATIC char *
1766 S_scan_const(pTHX_ char *start)
1767 {
1768     dVAR;
1769     register char *send = PL_bufend;            /* end of the constant */
1770     SV *sv = newSV(send - start);               /* sv for the constant */
1771     register char *s = start;                   /* start of the constant */
1772     register char *d = SvPVX(sv);               /* destination for copies */
1773     bool dorange = FALSE;                       /* are we in a translit range? */
1774     bool didrange = FALSE;                      /* did we just finish a range? */
1775     I32  has_utf8 = FALSE;                      /* Output constant is UTF8 */
1776     I32  this_utf8 = UTF;                       /* The source string is assumed to be UTF8 */
1777     UV uv;
1778 #ifdef EBCDIC
1779     UV literal_endpoint = 0;
1780 #endif
1781
1782     const char * const leaveit = /* set of acceptably-backslashed characters */
1783         PL_lex_inpat
1784             ? "\\.^$@AGZdDwWsSbBpPXC+*?|()-nrtfeaxz0123456789[{]} \t\n\r\f\v#"
1785             : "";
1786
1787     if (PL_lex_inwhat == OP_TRANS && PL_sublex_info.sub_op) {
1788         /* If we are doing a trans and we know we want UTF8 set expectation */
1789         has_utf8   = PL_sublex_info.sub_op->op_private & (OPpTRANS_FROM_UTF|OPpTRANS_TO_UTF);
1790         this_utf8  = PL_sublex_info.sub_op->op_private & (PL_lex_repl ? OPpTRANS_FROM_UTF : OPpTRANS_TO_UTF);
1791     }
1792
1793
1794     while (s < send || dorange) {
1795         /* get transliterations out of the way (they're most literal) */
1796         if (PL_lex_inwhat == OP_TRANS) {
1797             /* expand a range A-Z to the full set of characters.  AIE! */
1798             if (dorange) {
1799                 I32 i;                          /* current expanded character */
1800                 I32 min;                        /* first character in range */
1801                 I32 max;                        /* last character in range */
1802
1803                 if (has_utf8) {
1804                     char * const c = (char*)utf8_hop((U8*)d, -1);
1805                     char *e = d++;
1806                     while (e-- > c)
1807                         *(e + 1) = *e;
1808                     *c = (char)UTF_TO_NATIVE(0xff);
1809                     /* mark the range as done, and continue */
1810                     dorange = FALSE;
1811                     didrange = TRUE;
1812                     continue;
1813                 }
1814
1815                 i = d - SvPVX_const(sv);                /* remember current offset */
1816                 SvGROW(sv, SvLEN(sv) + 256);    /* never more than 256 chars in a range */
1817                 d = SvPVX(sv) + i;              /* refresh d after realloc */
1818                 d -= 2;                         /* eat the first char and the - */
1819
1820                 min = (U8)*d;                   /* first char in range */
1821                 max = (U8)d[1];                 /* last char in range  */
1822
1823                 if (min > max) {
1824                     Perl_croak(aTHX_
1825                                "Invalid range \"%c-%c\" in transliteration operator",
1826                                (char)min, (char)max);
1827                 }
1828
1829 #ifdef EBCDIC
1830                 if (literal_endpoint == 2 &&
1831                     ((isLOWER(min) && isLOWER(max)) ||
1832                      (isUPPER(min) && isUPPER(max)))) {
1833                     if (isLOWER(min)) {
1834                         for (i = min; i <= max; i++)
1835                             if (isLOWER(i))
1836                                 *d++ = NATIVE_TO_NEED(has_utf8,i);
1837                     } else {
1838                         for (i = min; i <= max; i++)
1839                             if (isUPPER(i))
1840                                 *d++ = NATIVE_TO_NEED(has_utf8,i);
1841                     }
1842                 }
1843                 else
1844 #endif
1845                     for (i = min; i <= max; i++)
1846                         *d++ = (char)i;
1847
1848                 /* mark the range as done, and continue */
1849                 dorange = FALSE;
1850                 didrange = TRUE;
1851 #ifdef EBCDIC
1852                 literal_endpoint = 0;
1853 #endif
1854                 continue;
1855             }
1856
1857             /* range begins (ignore - as first or last char) */
1858             else if (*s == '-' && s+1 < send  && s != start) {
1859                 if (didrange) {
1860                     Perl_croak(aTHX_ "Ambiguous range in transliteration operator");
1861                 }
1862                 if (has_utf8) {
1863                     *d++ = (char)UTF_TO_NATIVE(0xff);   /* use illegal utf8 byte--see pmtrans */
1864                     s++;
1865                     continue;
1866                 }
1867                 dorange = TRUE;
1868                 s++;
1869             }
1870             else {
1871                 didrange = FALSE;
1872 #ifdef EBCDIC
1873                 literal_endpoint = 0;
1874 #endif
1875             }
1876         }
1877
1878         /* if we get here, we're not doing a transliteration */
1879
1880         /* skip for regexp comments /(?#comment)/ and code /(?{code})/,
1881            except for the last char, which will be done separately. */
1882         else if (*s == '(' && PL_lex_inpat && s[1] == '?') {
1883             if (s[2] == '#') {
1884                 while (s+1 < send && *s != ')')
1885                     *d++ = NATIVE_TO_NEED(has_utf8,*s++);
1886             }
1887             else if (s[2] == '{' /* This should match regcomp.c */
1888                      || ((s[2] == 'p' || s[2] == '?') && s[3] == '{'))
1889             {
1890                 I32 count = 1;
1891                 char *regparse = s + (s[2] == '{' ? 3 : 4);
1892                 char c;
1893
1894                 while (count && (c = *regparse)) {
1895                     if (c == '\\' && regparse[1])
1896                         regparse++;
1897                     else if (c == '{')
1898                         count++;
1899                     else if (c == '}')
1900                         count--;
1901                     regparse++;
1902                 }
1903                 if (*regparse != ')')
1904                     regparse--;         /* Leave one char for continuation. */
1905                 while (s < regparse)
1906                     *d++ = NATIVE_TO_NEED(has_utf8,*s++);
1907             }
1908         }
1909
1910         /* likewise skip #-initiated comments in //x patterns */
1911         else if (*s == '#' && PL_lex_inpat &&
1912           ((PMOP*)PL_lex_inpat)->op_pmflags & PMf_EXTENDED) {
1913             while (s+1 < send && *s != '\n')
1914                 *d++ = NATIVE_TO_NEED(has_utf8,*s++);
1915         }
1916
1917         /* check for embedded arrays
1918            (@foo, @::foo, @'foo, @{foo}, @$foo, @+, @-)
1919            */
1920         else if (*s == '@' && s[1]
1921                  && (isALNUM_lazy_if(s+1,UTF) || strchr(":'{$+-", s[1])))
1922             break;
1923
1924         /* check for embedded scalars.  only stop if we're sure it's a
1925            variable.
1926         */
1927         else if (*s == '$') {
1928             if (!PL_lex_inpat)  /* not a regexp, so $ must be var */
1929                 break;
1930             if (s + 1 < send && !strchr("()| \r\n\t", s[1]))
1931                 break;          /* in regexp, $ might be tail anchor */
1932         }
1933
1934         /* End of else if chain - OP_TRANS rejoin rest */
1935
1936         /* backslashes */
1937         if (*s == '\\' && s+1 < send) {
1938             s++;
1939
1940             /* some backslashes we leave behind */
1941             if (*leaveit && *s && strchr(leaveit, *s)) {
1942                 *d++ = NATIVE_TO_NEED(has_utf8,'\\');
1943                 *d++ = NATIVE_TO_NEED(has_utf8,*s++);
1944                 continue;
1945             }
1946
1947             /* deprecate \1 in strings and substitution replacements */
1948             if (PL_lex_inwhat == OP_SUBST && !PL_lex_inpat &&
1949                 isDIGIT(*s) && *s != '0' && !isDIGIT(s[1]))
1950             {
1951                 if (ckWARN(WARN_SYNTAX))
1952                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "\\%c better written as $%c", *s, *s);
1953                 *--s = '$';
1954                 break;
1955             }
1956
1957             /* string-change backslash escapes */
1958             if (PL_lex_inwhat != OP_TRANS && *s && strchr("lLuUEQ", *s)) {
1959                 --s;
1960                 break;
1961             }
1962
1963             /* if we get here, it's either a quoted -, or a digit */
1964             switch (*s) {
1965
1966             /* quoted - in transliterations */
1967             case '-':
1968                 if (PL_lex_inwhat == OP_TRANS) {
1969                     *d++ = *s++;
1970                     continue;
1971                 }
1972                 /* FALL THROUGH */
1973             default:
1974                 {
1975                     if (isALNUM(*s) &&
1976                         *s != '_' &&
1977                         ckWARN(WARN_MISC))
1978                         Perl_warner(aTHX_ packWARN(WARN_MISC),
1979                                "Unrecognized escape \\%c passed through",
1980                                *s);
1981                     /* default action is to copy the quoted character */
1982                     goto default_action;
1983                 }
1984
1985             /* \132 indicates an octal constant */
1986             case '0': case '1': case '2': case '3':
1987             case '4': case '5': case '6': case '7':
1988                 {
1989                     I32 flags = 0;
1990                     STRLEN len = 3;
1991                     uv = grok_oct(s, &len, &flags, NULL);
1992                     s += len;
1993                 }
1994                 goto NUM_ESCAPE_INSERT;
1995
1996             /* \x24 indicates a hex constant */
1997             case 'x':
1998                 ++s;
1999                 if (*s == '{') {
2000                     char* const e = strchr(s, '}');
2001                     I32 flags = PERL_SCAN_ALLOW_UNDERSCORES |
2002                       PERL_SCAN_DISALLOW_PREFIX;
2003                     STRLEN len;
2004
2005                     ++s;
2006                     if (!e) {
2007                         yyerror("Missing right brace on \\x{}");
2008                         continue;
2009                     }
2010                     len = e - s;
2011                     uv = grok_hex(s, &len, &flags, NULL);
2012                     s = e + 1;
2013                 }
2014                 else {
2015                     {
2016                         STRLEN len = 2;
2017                         I32 flags = PERL_SCAN_DISALLOW_PREFIX;
2018                         uv = grok_hex(s, &len, &flags, NULL);
2019                         s += len;
2020                     }
2021                 }
2022
2023               NUM_ESCAPE_INSERT:
2024                 /* Insert oct or hex escaped character.
2025                  * There will always enough room in sv since such
2026                  * escapes will be longer than any UTF-8 sequence
2027                  * they can end up as. */
2028
2029                 /* We need to map to chars to ASCII before doing the tests
2030                    to cover EBCDIC
2031                 */
2032                 if (!UNI_IS_INVARIANT(NATIVE_TO_UNI(uv))) {
2033                     if (!has_utf8 && uv > 255) {
2034                         /* Might need to recode whatever we have
2035                          * accumulated so far if it contains any
2036                          * hibit chars.
2037                          *
2038                          * (Can't we keep track of that and avoid
2039                          *  this rescan? --jhi)
2040                          */
2041                         int hicount = 0;
2042                         U8 *c;
2043                         for (c = (U8 *) SvPVX(sv); c < (U8 *)d; c++) {
2044                             if (!NATIVE_IS_INVARIANT(*c)) {
2045                                 hicount++;
2046                             }
2047                         }
2048                         if (hicount) {
2049                             const STRLEN offset = d - SvPVX_const(sv);
2050                             U8 *src, *dst;
2051                             d = SvGROW(sv, SvLEN(sv) + hicount + 1) + offset;
2052                             src = (U8 *)d - 1;
2053                             dst = src+hicount;
2054                             d  += hicount;
2055                             while (src >= (const U8 *)SvPVX_const(sv)) {
2056                                 if (!NATIVE_IS_INVARIANT(*src)) {
2057                                     const U8 ch = NATIVE_TO_ASCII(*src);
2058                                     *dst-- = (U8)UTF8_EIGHT_BIT_LO(ch);
2059                                     *dst-- = (U8)UTF8_EIGHT_BIT_HI(ch);
2060                                 }
2061                                 else {
2062                                     *dst-- = *src;
2063                                 }
2064                                 src--;
2065                             }
2066                         }
2067                     }
2068
2069                     if (has_utf8 || uv > 255) {
2070                         d = (char*)uvchr_to_utf8((U8*)d, uv);
2071                         has_utf8 = TRUE;
2072                         if (PL_lex_inwhat == OP_TRANS &&
2073                             PL_sublex_info.sub_op) {
2074                             PL_sublex_info.sub_op->op_private |=
2075                                 (PL_lex_repl ? OPpTRANS_FROM_UTF
2076                                              : OPpTRANS_TO_UTF);
2077                         }
2078                     }
2079                     else {
2080                         *d++ = (char)uv;
2081                     }
2082                 }
2083                 else {
2084                     *d++ = (char) uv;
2085                 }
2086                 continue;
2087
2088             /* \N{LATIN SMALL LETTER A} is a named character */
2089             case 'N':
2090                 ++s;
2091                 if (*s == '{') {
2092                     char* e = strchr(s, '}');
2093                     SV *res;
2094                     STRLEN len;
2095                     const char *str;
2096
2097                     if (!e) {
2098                         yyerror("Missing right brace on \\N{}");
2099                         e = s - 1;
2100                         goto cont_scan;
2101                     }
2102                     if (e > s + 2 && s[1] == 'U' && s[2] == '+') {
2103                         /* \N{U+...} */
2104                         I32 flags = PERL_SCAN_ALLOW_UNDERSCORES |
2105                           PERL_SCAN_DISALLOW_PREFIX;
2106                         s += 3;
2107                         len = e - s;
2108                         uv = grok_hex(s, &len, &flags, NULL);
2109                         s = e + 1;
2110                         goto NUM_ESCAPE_INSERT;
2111                     }
2112                     res = newSVpvn(s + 1, e - s - 1);
2113                     res = new_constant( NULL, 0, "charnames",
2114                                         res, NULL, "\\N{...}" );
2115                     if (has_utf8)
2116                         sv_utf8_upgrade(res);
2117                     str = SvPV_const(res,len);
2118 #ifdef EBCDIC_NEVER_MIND
2119                     /* charnames uses pack U and that has been
2120                      * recently changed to do the below uni->native
2121                      * mapping, so this would be redundant (and wrong,
2122                      * the code point would be doubly converted).
2123                      * But leave this in just in case the pack U change
2124                      * gets revoked, but the semantics is still
2125                      * desireable for charnames. --jhi */
2126                     {
2127                          UV uv = utf8_to_uvchr((const U8*)str, 0);
2128
2129                          if (uv < 0x100) {
2130                               U8 tmpbuf[UTF8_MAXBYTES+1], *d;
2131
2132                               d = uvchr_to_utf8(tmpbuf, UNI_TO_NATIVE(uv));
2133                               sv_setpvn(res, (char *)tmpbuf, d - tmpbuf);
2134                               str = SvPV_const(res, len);
2135                          }
2136                     }
2137 #endif
2138                     if (!has_utf8 && SvUTF8(res)) {
2139                         const char * const ostart = SvPVX_const(sv);
2140                         SvCUR_set(sv, d - ostart);
2141                         SvPOK_on(sv);
2142                         *d = '\0';
2143                         sv_utf8_upgrade(sv);
2144                         /* this just broke our allocation above... */
2145                         SvGROW(sv, (STRLEN)(send - start));
2146                         d = SvPVX(sv) + SvCUR(sv);
2147                         has_utf8 = TRUE;
2148                     }
2149                     if (len > (STRLEN)(e - s + 4)) { /* I _guess_ 4 is \N{} --jhi */
2150                         const char * const odest = SvPVX_const(sv);
2151
2152                         SvGROW(sv, (SvLEN(sv) + len - (e - s + 4)));
2153                         d = SvPVX(sv) + (d - odest);
2154                     }
2155                     Copy(str, d, len, char);
2156                     d += len;
2157                     SvREFCNT_dec(res);
2158                   cont_scan:
2159                     s = e + 1;
2160                 }
2161                 else
2162                     yyerror("Missing braces on \\N{}");
2163                 continue;
2164
2165             /* \c is a control character */
2166             case 'c':
2167                 s++;
2168                 if (s < send) {
2169                     U8 c = *s++;
2170 #ifdef EBCDIC
2171                     if (isLOWER(c))
2172                         c = toUPPER(c);
2173 #endif
2174                     *d++ = NATIVE_TO_NEED(has_utf8,toCTRL(c));
2175                 }
2176                 else {
2177                     yyerror("Missing control char name in \\c");
2178                 }
2179                 continue;
2180
2181             /* printf-style backslashes, formfeeds, newlines, etc */
2182             case 'b':
2183                 *d++ = NATIVE_TO_NEED(has_utf8,'\b');
2184                 break;
2185             case 'n':
2186                 *d++ = NATIVE_TO_NEED(has_utf8,'\n');
2187                 break;
2188             case 'r':
2189                 *d++ = NATIVE_TO_NEED(has_utf8,'\r');
2190                 break;
2191             case 'f':
2192                 *d++ = NATIVE_TO_NEED(has_utf8,'\f');
2193                 break;
2194             case 't':
2195                 *d++ = NATIVE_TO_NEED(has_utf8,'\t');
2196                 break;
2197             case 'e':
2198                 *d++ = ASCII_TO_NEED(has_utf8,'\033');
2199                 break;
2200             case 'a':
2201                 *d++ = ASCII_TO_NEED(has_utf8,'\007');
2202                 break;
2203             } /* end switch */
2204
2205             s++;
2206             continue;
2207         } /* end if (backslash) */
2208 #ifdef EBCDIC
2209         else
2210             literal_endpoint++;
2211 #endif
2212
2213     default_action:
2214         /* If we started with encoded form, or already know we want it
2215            and then encode the next character */
2216         if ((has_utf8 || this_utf8) && !NATIVE_IS_INVARIANT((U8)(*s))) {
2217             STRLEN len  = 1;
2218             const UV nextuv   = (this_utf8) ? utf8n_to_uvchr((U8*)s, send - s, &len, 0) : (UV) ((U8) *s);
2219             const STRLEN need = UNISKIP(NATIVE_TO_UNI(nextuv));
2220             s += len;
2221             if (need > len) {
2222                 /* encoded value larger than old, need extra space (NOTE: SvCUR() not set here) */
2223                 const STRLEN off = d - SvPVX_const(sv);
2224                 d = SvGROW(sv, SvLEN(sv) + (need-len)) + off;
2225             }
2226             d = (char*)uvchr_to_utf8((U8*)d, nextuv);
2227             has_utf8 = TRUE;
2228         }
2229         else {
2230             *d++ = NATIVE_TO_NEED(has_utf8,*s++);
2231         }
2232     } /* while loop to process each character */
2233
2234     /* terminate the string and set up the sv */
2235     *d = '\0';
2236     SvCUR_set(sv, d - SvPVX_const(sv));
2237     if (SvCUR(sv) >= SvLEN(sv))
2238         Perl_croak(aTHX_ "panic: constant overflowed allocated space");
2239
2240     SvPOK_on(sv);
2241     if (PL_encoding && !has_utf8) {
2242         sv_recode_to_utf8(sv, PL_encoding);
2243         if (SvUTF8(sv))
2244             has_utf8 = TRUE;
2245     }
2246     if (has_utf8) {
2247         SvUTF8_on(sv);
2248         if (PL_lex_inwhat == OP_TRANS && PL_sublex_info.sub_op) {
2249             PL_sublex_info.sub_op->op_private |=
2250                     (PL_lex_repl ? OPpTRANS_FROM_UTF : OPpTRANS_TO_UTF);
2251         }
2252     }
2253
2254     /* shrink the sv if we allocated more than we used */
2255     if (SvCUR(sv) + 5 < SvLEN(sv)) {
2256         SvPV_shrink_to_cur(sv);
2257     }
2258
2259     /* return the substring (via yylval) only if we parsed anything */
2260     if (s > PL_bufptr) {
2261         if ( PL_hints & ( PL_lex_inpat ? HINT_NEW_RE : HINT_NEW_STRING ) )
2262             sv = new_constant(start, s - start, (PL_lex_inpat ? "qr" : "q"),
2263                               sv, NULL,
2264                               ( PL_lex_inwhat == OP_TRANS
2265                                 ? "tr"
2266                                 : ( (PL_lex_inwhat == OP_SUBST && !PL_lex_inpat)
2267                                     ? "s"
2268                                     : "qq")));
2269         yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
2270     } else
2271         SvREFCNT_dec(sv);
2272     return s;
2273 }
2274
2275 /* S_intuit_more
2276  * Returns TRUE if there's more to the expression (e.g., a subscript),
2277  * FALSE otherwise.
2278  *
2279  * It deals with "$foo[3]" and /$foo[3]/ and /$foo[0123456789$]+/
2280  *
2281  * ->[ and ->{ return TRUE
2282  * { and [ outside a pattern are always subscripts, so return TRUE
2283  * if we're outside a pattern and it's not { or [, then return FALSE
2284  * if we're in a pattern and the first char is a {
2285  *   {4,5} (any digits around the comma) returns FALSE
2286  * if we're in a pattern and the first char is a [
2287  *   [] returns FALSE
2288  *   [SOMETHING] has a funky algorithm to decide whether it's a
2289  *      character class or not.  It has to deal with things like
2290  *      /$foo[-3]/ and /$foo[$bar]/ as well as /$foo[$\d]+/
2291  * anything else returns TRUE
2292  */
2293
2294 /* This is the one truly awful dwimmer necessary to conflate C and sed. */
2295
2296 STATIC int
2297 S_intuit_more(pTHX_ register char *s)
2298 {
2299     dVAR;
2300     if (PL_lex_brackets)
2301         return TRUE;
2302     if (*s == '-' && s[1] == '>' && (s[2] == '[' || s[2] == '{'))
2303         return TRUE;
2304     if (*s != '{' && *s != '[')
2305         return FALSE;
2306     if (!PL_lex_inpat)
2307         return TRUE;
2308
2309     /* In a pattern, so maybe we have {n,m}. */
2310     if (*s == '{') {
2311         s++;
2312         if (!isDIGIT(*s))
2313             return TRUE;
2314         while (isDIGIT(*s))
2315             s++;
2316         if (*s == ',')
2317             s++;
2318         while (isDIGIT(*s))
2319             s++;
2320         if (*s == '}')
2321             return FALSE;
2322         return TRUE;
2323
2324     }
2325
2326     /* On the other hand, maybe we have a character class */
2327
2328     s++;
2329     if (*s == ']' || *s == '^')
2330         return FALSE;
2331     else {
2332         /* this is terrifying, and it works */
2333         int weight = 2;         /* let's weigh the evidence */
2334         char seen[256];
2335         unsigned char un_char = 255, last_un_char;
2336         const char * const send = strchr(s,']');
2337         char tmpbuf[sizeof PL_tokenbuf * 4];
2338
2339         if (!send)              /* has to be an expression */
2340             return TRUE;
2341
2342         Zero(seen,256,char);
2343         if (*s == '$')
2344             weight -= 3;
2345         else if (isDIGIT(*s)) {
2346             if (s[1] != ']') {
2347                 if (isDIGIT(s[1]) && s[2] == ']')
2348                     weight -= 10;
2349             }
2350             else
2351                 weight -= 100;
2352         }
2353         for (; s < send; s++) {
2354             last_un_char = un_char;
2355             un_char = (unsigned char)*s;
2356             switch (*s) {
2357             case '@':
2358             case '&':
2359             case '$':
2360                 weight -= seen[un_char] * 10;
2361                 if (isALNUM_lazy_if(s+1,UTF)) {
2362                     int len;
2363                     scan_ident(s, send, tmpbuf, sizeof tmpbuf, FALSE);
2364                     len = (int)strlen(tmpbuf);
2365                     if (len > 1 && gv_fetchpvn_flags(tmpbuf, len, 0, SVt_PV))
2366                         weight -= 100;
2367                     else
2368                         weight -= 10;
2369                 }
2370                 else if (*s == '$' && s[1] &&
2371                   strchr("[#!%*<>()-=",s[1])) {
2372                     if (/*{*/ strchr("])} =",s[2]))
2373                         weight -= 10;
2374                     else
2375                         weight -= 1;
2376                 }
2377                 break;
2378             case '\\':
2379                 un_char = 254;
2380                 if (s[1]) {
2381                     if (strchr("wds]",s[1]))
2382                         weight += 100;
2383                     else if (seen['\''] || seen['"'])
2384                         weight += 1;
2385                     else if (strchr("rnftbxcav",s[1]))
2386                         weight += 40;
2387                     else if (isDIGIT(s[1])) {
2388                         weight += 40;
2389                         while (s[1] && isDIGIT(s[1]))
2390                             s++;
2391                     }
2392                 }
2393                 else
2394                     weight += 100;
2395                 break;
2396             case '-':
2397                 if (s[1] == '\\')
2398                     weight += 50;
2399                 if (strchr("aA01! ",last_un_char))
2400                     weight += 30;
2401                 if (strchr("zZ79~",s[1]))
2402                     weight += 30;
2403                 if (last_un_char == 255 && (isDIGIT(s[1]) || s[1] == '$'))
2404                     weight -= 5;        /* cope with negative subscript */
2405                 break;
2406             default:
2407                 if (!isALNUM(last_un_char)
2408                     && !(last_un_char == '$' || last_un_char == '@'
2409                          || last_un_char == '&')
2410                     && isALPHA(*s) && s[1] && isALPHA(s[1])) {
2411                     char *d = tmpbuf;
2412                     while (isALPHA(*s))
2413                         *d++ = *s++;
2414                     *d = '\0';
2415                     if (keyword(tmpbuf, d - tmpbuf))
2416                         weight -= 150;
2417                 }
2418                 if (un_char == last_un_char + 1)
2419                     weight += 5;
2420                 weight -= seen[un_char];
2421                 break;
2422             }
2423             seen[un_char]++;
2424         }
2425         if (weight >= 0)        /* probably a character class */
2426             return FALSE;
2427     }
2428
2429     return TRUE;
2430 }
2431
2432 /*
2433  * S_intuit_method
2434  *
2435  * Does all the checking to disambiguate
2436  *   foo bar
2437  * between foo(bar) and bar->foo.  Returns 0 if not a method, otherwise
2438  * FUNCMETH (bar->foo(args)) or METHOD (bar->foo args).
2439  *
2440  * First argument is the stuff after the first token, e.g. "bar".
2441  *
2442  * Not a method if bar is a filehandle.
2443  * Not a method if foo is a subroutine prototyped to take a filehandle.
2444  * Not a method if it's really "Foo $bar"
2445  * Method if it's "foo $bar"
2446  * Not a method if it's really "print foo $bar"
2447  * Method if it's really "foo package::" (interpreted as package->foo)
2448  * Not a method if bar is known to be a subroutine ("sub bar; foo bar")
2449  * Not a method if bar is a filehandle or package, but is quoted with
2450  *   =>
2451  */
2452
2453 STATIC int
2454 S_intuit_method(pTHX_ char *start, GV *gv, CV *cv)
2455 {
2456     dVAR;
2457     char *s = start + (*start == '$');
2458     char tmpbuf[sizeof PL_tokenbuf];
2459     STRLEN len;
2460     GV* indirgv;
2461 #ifdef PERL_MAD
2462     int soff;
2463 #endif
2464
2465     if (gv) {
2466         if (SvTYPE(gv) == SVt_PVGV && GvIO(gv))
2467             return 0;
2468         if (cv) {
2469             if (SvPOK(cv)) {
2470                 const char *proto = SvPVX_const(cv);
2471                 if (proto) {
2472                     if (*proto == ';')
2473                         proto++;
2474                     if (*proto == '*')
2475                         return 0;
2476                 }
2477             }
2478         } else
2479             gv = 0;
2480     }
2481     s = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
2482     /* start is the beginning of the possible filehandle/object,
2483      * and s is the end of it
2484      * tmpbuf is a copy of it
2485      */
2486
2487     if (*start == '$') {
2488         if (gv || PL_last_lop_op == OP_PRINT || isUPPER(*PL_tokenbuf))
2489             return 0;
2490 #ifdef PERL_MAD
2491         len = start - SvPVX(PL_linestr);
2492 #endif
2493         s = PEEKSPACE(s);
2494 #ifdef PERLMAD
2495         start = SvPVX(PL_linestr) + len;
2496 #endif
2497         PL_bufptr = start;
2498         PL_expect = XREF;
2499         return *s == '(' ? FUNCMETH : METHOD;
2500     }
2501     if (!keyword(tmpbuf, len)) {
2502         if (len > 2 && tmpbuf[len - 2] == ':' && tmpbuf[len - 1] == ':') {
2503             len -= 2;
2504             tmpbuf[len] = '\0';
2505 #ifdef PERL_MAD
2506             soff = s - SvPVX(PL_linestr);
2507 #endif
2508             goto bare_package;
2509         }
2510         indirgv = gv_fetchpvn_flags(tmpbuf, len, 0, SVt_PVCV);
2511         if (indirgv && GvCVu(indirgv))
2512             return 0;
2513         /* filehandle or package name makes it a method */
2514         if (!gv || GvIO(indirgv) || gv_stashpvn(tmpbuf, len, FALSE)) {
2515 #ifdef PERL_MAD
2516             soff = s - SvPVX(PL_linestr);
2517 #endif
2518             s = PEEKSPACE(s);
2519             if ((PL_bufend - s) >= 2 && *s == '=' && *(s+1) == '>')
2520                 return 0;       /* no assumptions -- "=>" quotes bearword */
2521       bare_package:
2522             start_force(PL_curforce);
2523             NEXTVAL_NEXTTOKE.opval = (OP*)newSVOP(OP_CONST, 0,
2524                                                    newSVpvn(tmpbuf,len));
2525             NEXTVAL_NEXTTOKE.opval->op_private = OPpCONST_BARE;
2526             if (PL_madskills)
2527                 curmad('X', newSVpvn(start,SvPVX(PL_linestr) + soff - start));
2528             PL_expect = XTERM;
2529             force_next(WORD);
2530             PL_bufptr = s;
2531 #ifdef PERL_MAD
2532             PL_bufptr = SvPVX(PL_linestr) + soff; /* restart before space */
2533 #endif
2534             return *s == '(' ? FUNCMETH : METHOD;
2535         }
2536     }
2537     return 0;
2538 }
2539
2540 /*
2541  * S_incl_perldb
2542  * Return a string of Perl code to load the debugger.  If PERL5DB
2543  * is set, it will return the contents of that, otherwise a
2544  * compile-time require of perl5db.pl.
2545  */
2546
2547 STATIC const char*
2548 S_incl_perldb(pTHX)
2549 {
2550     dVAR;
2551     if (PL_perldb) {
2552         const char * const pdb = PerlEnv_getenv("PERL5DB");
2553
2554         if (pdb)
2555             return pdb;
2556         SETERRNO(0,SS_NORMAL);
2557         return "BEGIN { require 'perl5db.pl' }";
2558     }
2559     return "";
2560 }
2561
2562
2563 /* Encoded script support. filter_add() effectively inserts a
2564  * 'pre-processing' function into the current source input stream.
2565  * Note that the filter function only applies to the current source file
2566  * (e.g., it will not affect files 'require'd or 'use'd by this one).
2567  *
2568  * The datasv parameter (which may be NULL) can be used to pass
2569  * private data to this instance of the filter. The filter function
2570  * can recover the SV using the FILTER_DATA macro and use it to
2571  * store private buffers and state information.
2572  *
2573  * The supplied datasv parameter is upgraded to a PVIO type
2574  * and the IoDIRP/IoANY field is used to store the function pointer,
2575  * and IOf_FAKE_DIRP is enabled on datasv to mark this as such.
2576  * Note that IoTOP_NAME, IoFMT_NAME, IoBOTTOM_NAME, if set for
2577  * private use must be set using malloc'd pointers.
2578  */
2579
2580 SV *
2581 Perl_filter_add(pTHX_ filter_t funcp, SV *datasv)
2582 {
2583     dVAR;
2584     if (!funcp)
2585         return NULL;
2586
2587     if (!PL_rsfp_filters)
2588         PL_rsfp_filters = newAV();
2589     if (!datasv)
2590         datasv = newSV(0);
2591     SvUPGRADE(datasv, SVt_PVIO);
2592     IoANY(datasv) = FPTR2DPTR(void *, funcp); /* stash funcp into spare field */
2593     IoFLAGS(datasv) |= IOf_FAKE_DIRP;
2594     DEBUG_P(PerlIO_printf(Perl_debug_log, "filter_add func %p (%s)\n",
2595                           IoANY(datasv), SvPV_nolen(datasv)));
2596     av_unshift(PL_rsfp_filters, 1);
2597     av_store(PL_rsfp_filters, 0, datasv) ;
2598     return(datasv);
2599 }
2600
2601
2602 /* Delete most recently added instance of this filter function. */
2603 void
2604 Perl_filter_del(pTHX_ filter_t funcp)
2605 {
2606     dVAR;
2607     SV *datasv;
2608
2609 #ifdef DEBUGGING
2610     DEBUG_P(PerlIO_printf(Perl_debug_log, "filter_del func %p", FPTR2DPTR(XPVIO *, funcp)));
2611 #endif
2612     if (!PL_rsfp_filters || AvFILLp(PL_rsfp_filters)<0)
2613         return;
2614     /* if filter is on top of stack (usual case) just pop it off */
2615     datasv = FILTER_DATA(AvFILLp(PL_rsfp_filters));
2616     if (IoANY(datasv) == FPTR2DPTR(void *, funcp)) {
2617         IoFLAGS(datasv) &= ~IOf_FAKE_DIRP;
2618         IoANY(datasv) = (void *)NULL;
2619         sv_free(av_pop(PL_rsfp_filters));
2620
2621         return;
2622     }
2623     /* we need to search for the correct entry and clear it     */
2624     Perl_die(aTHX_ "filter_del can only delete in reverse order (currently)");
2625 }
2626
2627
2628 /* Invoke the idxth filter function for the current rsfp.        */
2629 /* maxlen 0 = read one text line */
2630 I32
2631 Perl_filter_read(pTHX_ int idx, SV *buf_sv, int maxlen)
2632 {
2633     dVAR;
2634     filter_t funcp;
2635     SV *datasv = NULL;
2636     /* This API is bad. It should have been using unsigned int for maxlen.
2637        Not sure if we want to change the API, but if not we should sanity
2638        check the value here.  */
2639     const unsigned int correct_length
2640         = maxlen < 0 ?
2641 #ifdef PERL_MICRO
2642         0x7FFFFFFF
2643 #else
2644         INT_MAX
2645 #endif
2646         : maxlen;
2647
2648     if (!PL_rsfp_filters)
2649         return -1;
2650     if (idx > AvFILLp(PL_rsfp_filters)) {       /* Any more filters?    */
2651         /* Provide a default input filter to make life easy.    */
2652         /* Note that we append to the line. This is handy.      */
2653         DEBUG_P(PerlIO_printf(Perl_debug_log,
2654                               "filter_read %d: from rsfp\n", idx));
2655         if (correct_length) {
2656             /* Want a block */
2657             int len ;
2658             const int old_len = SvCUR(buf_sv);
2659
2660             /* ensure buf_sv is large enough */
2661             SvGROW(buf_sv, (STRLEN)(old_len + correct_length)) ;
2662             if ((len = PerlIO_read(PL_rsfp, SvPVX(buf_sv) + old_len,
2663                                    correct_length)) <= 0) {
2664                 if (PerlIO_error(PL_rsfp))
2665                     return -1;          /* error */
2666                 else
2667                     return 0 ;          /* end of file */
2668             }
2669             SvCUR_set(buf_sv, old_len + len) ;
2670         } else {
2671             /* Want a line */
2672             if (sv_gets(buf_sv, PL_rsfp, SvCUR(buf_sv)) == NULL) {
2673                 if (PerlIO_error(PL_rsfp))
2674                     return -1;          /* error */
2675                 else
2676                     return 0 ;          /* end of file */
2677             }
2678         }
2679         return SvCUR(buf_sv);
2680     }
2681     /* Skip this filter slot if filter has been deleted */
2682     if ( (datasv = FILTER_DATA(idx)) == &PL_sv_undef) {
2683         DEBUG_P(PerlIO_printf(Perl_debug_log,
2684                               "filter_read %d: skipped (filter deleted)\n",
2685                               idx));
2686         return FILTER_READ(idx+1, buf_sv, correct_length); /* recurse */
2687     }
2688     /* Get function pointer hidden within datasv        */
2689     funcp = DPTR2FPTR(filter_t, IoANY(datasv));
2690     DEBUG_P(PerlIO_printf(Perl_debug_log,
2691                           "filter_read %d: via function %p (%s)\n",
2692                           idx, datasv, SvPV_nolen_const(datasv)));
2693     /* Call function. The function is expected to       */
2694     /* call "FILTER_READ(idx+1, buf_sv)" first.         */
2695     /* Return: <0:error, =0:eof, >0:not eof             */
2696     return (*funcp)(aTHX_ idx, buf_sv, correct_length);
2697 }
2698
2699 STATIC char *
2700 S_filter_gets(pTHX_ register SV *sv, register PerlIO *fp, STRLEN append)
2701 {
2702     dVAR;
2703 #ifdef PERL_CR_FILTER
2704     if (!PL_rsfp_filters) {
2705         filter_add(S_cr_textfilter,NULL);
2706     }
2707 #endif
2708     if (PL_rsfp_filters) {
2709         if (!append)
2710             SvCUR_set(sv, 0);   /* start with empty line        */
2711         if (FILTER_READ(0, sv, 0) > 0)
2712             return ( SvPVX(sv) ) ;
2713         else
2714             return NULL ;
2715     }
2716     else
2717         return (sv_gets(sv, fp, append));
2718 }
2719
2720 STATIC HV *
2721 S_find_in_my_stash(pTHX_ const char *pkgname, I32 len)
2722 {
2723     dVAR;
2724     GV *gv;
2725
2726     if (len == 11 && *pkgname == '_' && strEQ(pkgname, "__PACKAGE__"))
2727         return PL_curstash;
2728
2729     if (len > 2 &&
2730         (pkgname[len - 2] == ':' && pkgname[len - 1] == ':') &&
2731         (gv = gv_fetchpvn_flags(pkgname, len, 0, SVt_PVHV)))
2732     {
2733         return GvHV(gv);                        /* Foo:: */
2734     }
2735
2736     /* use constant CLASS => 'MyClass' */
2737     if ((gv = gv_fetchpvn_flags(pkgname, len, 0, SVt_PVCV))) {
2738         SV *sv;
2739         if (GvCV(gv) && (sv = cv_const_sv(GvCV(gv)))) {
2740             pkgname = SvPV_nolen_const(sv);
2741         }
2742     }
2743
2744     return gv_stashpv(pkgname, FALSE);
2745 }
2746
2747 #ifdef PERL_MAD
2748  /*
2749  * Perl_madlex
2750  * The intent of this yylex wrapper is to minimize the changes to the
2751  * tokener when we aren't interested in collecting madprops.  It remains
2752  * to be seen how successful this strategy will be...
2753  */
2754
2755 int
2756 Perl_madlex(pTHX)
2757 {
2758     int optype;
2759     char *s = PL_bufptr;
2760
2761     /* make sure PL_thiswhite is initialized */
2762     PL_thiswhite = 0;
2763     PL_thismad = 0;
2764
2765     /* just do what yylex would do on pending identifier; leave PL_thiswhite alone */
2766     if (PL_pending_ident)
2767         return S_pending_ident(aTHX);
2768
2769     /* previous token ate up our whitespace? */
2770     if (!PL_lasttoke && PL_nextwhite) {
2771         PL_thiswhite = PL_nextwhite;
2772         PL_nextwhite = 0;
2773     }
2774
2775     /* isolate the token, and figure out where it is without whitespace */
2776     PL_realtokenstart = -1;
2777     PL_thistoken = 0;
2778     optype = yylex();
2779     s = PL_bufptr;
2780     assert(PL_curforce < 0);
2781
2782     if (!PL_thismad || PL_thismad->mad_key == '^') {    /* not forced already? */
2783         if (!PL_thistoken) {
2784             if (PL_realtokenstart < 0 || !CopLINE(PL_curcop))
2785                 PL_thistoken = newSVpvn("",0);
2786             else {
2787                 char *tstart = SvPVX(PL_linestr) + PL_realtokenstart;
2788                 PL_thistoken = newSVpvn(tstart, s - tstart);
2789             }
2790         }
2791         if (PL_thismad) /* install head */
2792             CURMAD('X', PL_thistoken);
2793     }
2794
2795     /* last whitespace of a sublex? */
2796     if (optype == ')' && PL_endwhite) {
2797         CURMAD('X', PL_endwhite);
2798     }
2799
2800     if (!PL_thismad) {
2801
2802         /* if no whitespace and we're at EOF, bail.  Otherwise fake EOF below. */
2803         if (!PL_thiswhite && !PL_endwhite && !optype) {
2804             sv_free(PL_thistoken);
2805             PL_thistoken = 0;
2806             return 0;
2807         }
2808
2809         /* put off final whitespace till peg */
2810         if (optype == ';' && !PL_rsfp) {
2811             PL_nextwhite = PL_thiswhite;
2812             PL_thiswhite = 0;
2813         }
2814         else if (PL_thisopen) {
2815             CURMAD('q', PL_thisopen);
2816             if (PL_thistoken)
2817                 sv_free(PL_thistoken);
2818             PL_thistoken = 0;
2819         }
2820         else {
2821             /* Store actual token text as madprop X */
2822             CURMAD('X', PL_thistoken);
2823         }
2824
2825         if (PL_thiswhite) {
2826             /* add preceding whitespace as madprop _ */
2827             CURMAD('_', PL_thiswhite);
2828         }
2829
2830         if (PL_thisstuff) {
2831             /* add quoted material as madprop = */
2832             CURMAD('=', PL_thisstuff);
2833         }
2834
2835         if (PL_thisclose) {
2836             /* add terminating quote as madprop Q */
2837             CURMAD('Q', PL_thisclose);
2838         }
2839     }
2840
2841     /* special processing based on optype */
2842
2843     switch (optype) {
2844
2845     /* opval doesn't need a TOKEN since it can already store mp */
2846     case WORD:
2847     case METHOD:
2848     case FUNCMETH:
2849     case THING:
2850     case PMFUNC:
2851     case PRIVATEREF:
2852     case FUNC0SUB:
2853     case UNIOPSUB:
2854     case LSTOPSUB:
2855         if (yylval.opval)
2856             append_madprops(PL_thismad, yylval.opval, 0);
2857         PL_thismad = 0;
2858         return optype;
2859
2860     /* fake EOF */
2861     case 0:
2862         optype = PEG;
2863         if (PL_endwhite) {
2864             addmad(newMADsv('p', PL_endwhite), &PL_thismad, 0);
2865             PL_endwhite = 0;
2866         }
2867         break;
2868
2869     case ']':
2870     case '}':
2871         if (PL_faketokens)
2872             break;
2873         /* remember any fake bracket that lexer is about to discard */
2874         if (PL_lex_brackets == 1 &&
2875             ((expectation)PL_lex_brackstack[0] & XFAKEBRACK))
2876         {
2877             s = PL_bufptr;
2878             while (s < PL_bufend && (*s == ' ' || *s == '\t'))
2879                 s++;
2880             if (*s == '}') {
2881                 PL_thiswhite = newSVpvn(PL_bufptr, ++s - PL_bufptr);
2882                 addmad(newMADsv('#', PL_thiswhite), &PL_thismad, 0);
2883                 PL_thiswhite = 0;
2884                 PL_bufptr = s - 1;
2885                 break;  /* don't bother looking for trailing comment */
2886             }
2887             else
2888                 s = PL_bufptr;
2889         }
2890         if (optype == ']')
2891             break;
2892         /* FALLTHROUGH */
2893
2894     /* attach a trailing comment to its statement instead of next token */
2895     case ';':
2896         if (PL_faketokens)
2897             break;
2898         if (PL_bufptr > PL_oldbufptr && PL_bufptr[-1] == optype) {
2899             s = PL_bufptr;
2900             while (s < PL_bufend && (*s == ' ' || *s == '\t'))
2901                 s++;
2902             if (*s == '\n' || *s == '#') {
2903                 while (s < PL_bufend && *s != '\n')
2904                     s++;
2905                 if (s < PL_bufend)
2906                     s++;
2907                 PL_thiswhite = newSVpvn(PL_bufptr, s - PL_bufptr);
2908                 addmad(newMADsv('#', PL_thiswhite), &PL_thismad, 0);
2909                 PL_thiswhite = 0;
2910                 PL_bufptr = s;
2911             }
2912         }
2913         break;
2914
2915     /* pval */
2916     case LABEL:
2917         break;
2918
2919     /* ival */
2920     default:
2921         break;
2922
2923     }
2924
2925     /* Create new token struct.  Note: opvals return early above. */
2926     yylval.tkval = newTOKEN(optype, yylval, PL_thismad);
2927     PL_thismad = 0;
2928     return optype;
2929 }
2930 #endif
2931
2932 STATIC char *
2933 S_tokenize_use(pTHX_ int is_use, char *s) {
2934     dVAR;
2935     if (PL_expect != XSTATE)
2936         yyerror(Perl_form(aTHX_ "\"%s\" not allowed in expression",
2937                     is_use ? "use" : "no"));
2938     s = SKIPSPACE1(s);
2939     if (isDIGIT(*s) || (*s == 'v' && isDIGIT(s[1]))) {
2940         s = force_version(s, TRUE);
2941         if (*s == ';' || (s = SKIPSPACE1(s), *s == ';')) {
2942             start_force(PL_curforce);
2943             NEXTVAL_NEXTTOKE.opval = NULL;
2944             force_next(WORD);
2945         }
2946         else if (*s == 'v') {
2947             s = force_word(s,WORD,FALSE,TRUE,FALSE);
2948             s = force_version(s, FALSE);
2949         }
2950     }
2951     else {
2952         s = force_word(s,WORD,FALSE,TRUE,FALSE);
2953         s = force_version(s, FALSE);
2954     }
2955     yylval.ival = is_use;
2956     return s;
2957 }
2958 #ifdef DEBUGGING
2959     static const char* const exp_name[] =
2960         { "OPERATOR", "TERM", "REF", "STATE", "BLOCK", "ATTRBLOCK",
2961           "ATTRTERM", "TERMBLOCK", "TERMORDORDOR"
2962         };
2963 #endif
2964
2965 /*
2966   yylex
2967
2968   Works out what to call the token just pulled out of the input
2969   stream.  The yacc parser takes care of taking the ops we return and
2970   stitching them into a tree.
2971
2972   Returns:
2973     PRIVATEREF
2974
2975   Structure:
2976       if read an identifier
2977           if we're in a my declaration
2978               croak if they tried to say my($foo::bar)
2979               build the ops for a my() declaration
2980           if it's an access to a my() variable
2981               are we in a sort block?
2982                   croak if my($a); $a <=> $b
2983               build ops for access to a my() variable
2984           if in a dq string, and they've said @foo and we can't find @foo
2985               croak
2986           build ops for a bareword
2987       if we already built the token before, use it.
2988 */
2989
2990
2991 #ifdef __SC__
2992 #pragma segment Perl_yylex
2993 #endif
2994 int
2995 Perl_yylex(pTHX)
2996 {
2997     dVAR;
2998     register char *s = PL_bufptr;
2999     register char *d;
3000     STRLEN len;
3001     bool bof = FALSE;
3002
3003     DEBUG_T( {
3004         SV* tmp = newSVpvs("");
3005         PerlIO_printf(Perl_debug_log, "### %"IVdf":LEX_%s/X%s %s\n",
3006             (IV)CopLINE(PL_curcop),
3007             lex_state_names[PL_lex_state],
3008             exp_name[PL_expect],
3009             pv_display(tmp, s, strlen(s), 0, 60));
3010         SvREFCNT_dec(tmp);
3011     } );
3012     /* check if there's an identifier for us to look at */
3013     if (PL_pending_ident)
3014         return REPORT(S_pending_ident(aTHX));
3015
3016     /* no identifier pending identification */
3017
3018     switch (PL_lex_state) {
3019 #ifdef COMMENTARY
3020     case LEX_NORMAL:            /* Some compilers will produce faster */
3021     case LEX_INTERPNORMAL:      /* code if we comment these out. */
3022         break;
3023 #endif
3024
3025     /* when we've already built the next token, just pull it out of the queue */
3026     case LEX_KNOWNEXT:
3027 #ifdef PERL_MAD
3028         PL_lasttoke--;
3029         yylval = PL_nexttoke[PL_lasttoke].next_val;
3030         if (PL_madskills) {
3031             PL_thismad = PL_nexttoke[PL_lasttoke].next_mad;
3032             PL_nexttoke[PL_lasttoke].next_mad = 0;
3033             if (PL_thismad && PL_thismad->mad_key == '_') {
3034                 PL_thiswhite = (SV*)PL_thismad->mad_val;
3035                 PL_thismad->mad_val = 0;
3036                 mad_free(PL_thismad);
3037                 PL_thismad = 0;
3038             }
3039         }
3040         if (!PL_lasttoke) {
3041             PL_lex_state = PL_lex_defer;
3042             PL_expect = PL_lex_expect;
3043             PL_lex_defer = LEX_NORMAL;
3044             if (!PL_nexttoke[PL_lasttoke].next_type)
3045                 return yylex();
3046         }
3047 #else
3048         PL_nexttoke--;
3049         yylval = PL_nextval[PL_nexttoke];
3050         if (!PL_nexttoke) {
3051             PL_lex_state = PL_lex_defer;
3052             PL_expect = PL_lex_expect;
3053             PL_lex_defer = LEX_NORMAL;
3054         }
3055 #endif
3056 #ifdef PERL_MAD
3057         /* FIXME - can these be merged?  */
3058         return(PL_nexttoke[PL_lasttoke].next_type);
3059 #else
3060         return REPORT(PL_nexttype[PL_nexttoke]);
3061 #endif
3062
3063     /* interpolated case modifiers like \L \U, including \Q and \E.
3064        when we get here, PL_bufptr is at the \
3065     */
3066     case LEX_INTERPCASEMOD:
3067 #ifdef DEBUGGING
3068         if (PL_bufptr != PL_bufend && *PL_bufptr != '\\')
3069             Perl_croak(aTHX_ "panic: INTERPCASEMOD");
3070 #endif
3071         /* handle \E or end of string */
3072         if (PL_bufptr == PL_bufend || PL_bufptr[1] == 'E') {
3073             /* if at a \E */
3074             if (PL_lex_casemods) {
3075                 const char oldmod = PL_lex_casestack[--PL_lex_casemods];
3076                 PL_lex_casestack[PL_lex_casemods] = '\0';
3077
3078                 if (PL_bufptr != PL_bufend
3079                     && (oldmod == 'L' || oldmod == 'U' || oldmod == 'Q')) {
3080                     PL_bufptr += 2;
3081                     PL_lex_state = LEX_INTERPCONCAT;
3082 #ifdef PERL_MAD
3083                     if (PL_madskills)
3084                         PL_thistoken = newSVpvn("\\E",2);
3085 #endif
3086                 }
3087                 return REPORT(')');
3088             }
3089 #ifdef PERL_MAD
3090             while (PL_bufptr != PL_bufend &&
3091               PL_bufptr[0] == '\\' && PL_bufptr[1] == 'E') {
3092                 if (!PL_thiswhite)
3093                     PL_thiswhite = newSVpvn("",0);
3094                 sv_catpvn(PL_thiswhite, PL_bufptr, 2);
3095                 PL_bufptr += 2;
3096             }
3097 #else
3098             if (PL_bufptr != PL_bufend)
3099                 PL_bufptr += 2;
3100 #endif
3101             PL_lex_state = LEX_INTERPCONCAT;
3102             return yylex();
3103         }
3104         else {
3105             DEBUG_T({ PerlIO_printf(Perl_debug_log,
3106               "### Saw case modifier\n"); });
3107             s = PL_bufptr + 1;
3108             if (s[1] == '\\' && s[2] == 'E') {
3109 #ifdef PERL_MAD
3110                 if (!PL_thiswhite)
3111                     PL_thiswhite = newSVpvn("",0);
3112                 sv_catpvn(PL_thiswhite, PL_bufptr, 4);
3113 #endif
3114                 PL_bufptr = s + 3;
3115                 PL_lex_state = LEX_INTERPCONCAT;
3116                 return yylex();
3117             }
3118             else {
3119                 I32 tmp;
3120                 if (!PL_madskills) /* when just compiling don't need correct */
3121                     if (strnEQ(s, "L\\u", 3) || strnEQ(s, "U\\l", 3))
3122                         tmp = *s, *s = s[2], s[2] = (char)tmp;  /* misordered... */
3123                 if ((*s == 'L' || *s == 'U') &&
3124                     (strchr(PL_lex_casestack, 'L') || strchr(PL_lex_casestack, 'U'))) {
3125                     PL_lex_casestack[--PL_lex_casemods] = '\0';
3126                     return REPORT(')');
3127                 }
3128                 if (PL_lex_casemods > 10)
3129                     Renew(PL_lex_casestack, PL_lex_casemods + 2, char);
3130                 PL_lex_casestack[PL_lex_casemods++] = *s;
3131                 PL_lex_casestack[PL_lex_casemods] = '\0';
3132                 PL_lex_state = LEX_INTERPCONCAT;
3133                 start_force(PL_curforce);
3134                 NEXTVAL_NEXTTOKE.ival = 0;
3135                 force_next('(');
3136                 start_force(PL_curforce);
3137                 if (*s == 'l')
3138                     NEXTVAL_NEXTTOKE.ival = OP_LCFIRST;
3139                 else if (*s == 'u')
3140                     NEXTVAL_NEXTTOKE.ival = OP_UCFIRST;
3141                 else if (*s == 'L')
3142                     NEXTVAL_NEXTTOKE.ival = OP_LC;
3143                 else if (*s == 'U')
3144                     NEXTVAL_NEXTTOKE.ival = OP_UC;
3145                 else if (*s == 'Q')
3146                     NEXTVAL_NEXTTOKE.ival = OP_QUOTEMETA;
3147                 else
3148                     Perl_croak(aTHX_ "panic: yylex");
3149                 if (PL_madskills) {
3150                     SV* const tmpsv = newSVpvn("",0);
3151                     Perl_sv_catpvf(aTHX_ tmpsv, "\\%c", *s);
3152                     curmad('_', tmpsv);
3153                 }
3154                 PL_bufptr = s + 1;
3155             }
3156             force_next(FUNC);
3157             if (PL_lex_starts) {
3158                 s = PL_bufptr;
3159                 PL_lex_starts = 0;
3160 #ifdef PERL_MAD
3161                 if (PL_madskills) {
3162                     if (PL_thistoken)
3163                         sv_free(PL_thistoken);
3164                     PL_thistoken = newSVpvn("",0);
3165                 }
3166 #endif
3167                 /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3168                 if (PL_lex_casemods == 1 && PL_lex_inpat)
3169                     OPERATOR(',');
3170                 else
3171                     Aop(OP_CONCAT);
3172             }
3173             else
3174                 return yylex();
3175         }
3176
3177     case LEX_INTERPPUSH:
3178         return REPORT(sublex_push());
3179
3180     case LEX_INTERPSTART:
3181         if (PL_bufptr == PL_bufend)
3182             return REPORT(sublex_done());
3183         DEBUG_T({ PerlIO_printf(Perl_debug_log,
3184               "### Interpolated variable\n"); });
3185         PL_expect = XTERM;
3186         PL_lex_dojoin = (*PL_bufptr == '@');
3187         PL_lex_state = LEX_INTERPNORMAL;
3188         if (PL_lex_dojoin) {
3189             start_force(PL_curforce);
3190             NEXTVAL_NEXTTOKE.ival = 0;
3191             force_next(',');
3192             start_force(PL_curforce);
3193             force_ident("\"", '$');
3194             start_force(PL_curforce);
3195             NEXTVAL_NEXTTOKE.ival = 0;
3196             force_next('$');
3197             start_force(PL_curforce);
3198             NEXTVAL_NEXTTOKE.ival = 0;
3199             force_next('(');
3200             start_force(PL_curforce);
3201             NEXTVAL_NEXTTOKE.ival = OP_JOIN;    /* emulate join($", ...) */
3202             force_next(FUNC);
3203         }
3204         if (PL_lex_starts++) {
3205             s = PL_bufptr;
3206 #ifdef PERL_MAD
3207             if (PL_madskills) {
3208                 if (PL_thistoken)
3209                     sv_free(PL_thistoken);
3210                 PL_thistoken = newSVpvn("",0);
3211             }
3212 #endif
3213             /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3214             if (!PL_lex_casemods && PL_lex_inpat)
3215                 OPERATOR(',');
3216             else
3217                 Aop(OP_CONCAT);
3218         }
3219         return yylex();
3220
3221     case LEX_INTERPENDMAYBE:
3222         if (intuit_more(PL_bufptr)) {
3223             PL_lex_state = LEX_INTERPNORMAL;    /* false alarm, more expr */
3224             break;
3225         }
3226         /* FALL THROUGH */
3227
3228     case LEX_INTERPEND:
3229         if (PL_lex_dojoin) {
3230             PL_lex_dojoin = FALSE;
3231             PL_lex_state = LEX_INTERPCONCAT;
3232 #ifdef PERL_MAD
3233             if (PL_madskills) {
3234                 if (PL_thistoken)
3235                     sv_free(PL_thistoken);
3236                 PL_thistoken = newSVpvn("",0);
3237             }
3238 #endif
3239             return REPORT(')');
3240         }
3241         if (PL_lex_inwhat == OP_SUBST && PL_linestr == PL_lex_repl
3242             && SvEVALED(PL_lex_repl))
3243         {
3244             if (PL_bufptr != PL_bufend)
3245                 Perl_croak(aTHX_ "Bad evalled substitution pattern");
3246             PL_lex_repl = NULL;
3247         }
3248         /* FALLTHROUGH */
3249     case LEX_INTERPCONCAT:
3250 #ifdef DEBUGGING
3251         if (PL_lex_brackets)
3252             Perl_croak(aTHX_ "panic: INTERPCONCAT");
3253 #endif
3254         if (PL_bufptr == PL_bufend)
3255             return REPORT(sublex_done());
3256
3257         if (SvIVX(PL_linestr) == '\'') {
3258             SV *sv = newSVsv(PL_linestr);
3259             if (!PL_lex_inpat)
3260                 sv = tokeq(sv);
3261             else if ( PL_hints & HINT_NEW_RE )
3262                 sv = new_constant(NULL, 0, "qr", sv, sv, "q");
3263             yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
3264             s = PL_bufend;
3265         }
3266         else {
3267             s = scan_const(PL_bufptr);
3268             if (*s == '\\')
3269                 PL_lex_state = LEX_INTERPCASEMOD;
3270             else
3271                 PL_lex_state = LEX_INTERPSTART;
3272         }
3273
3274         if (s != PL_bufptr) {
3275             start_force(PL_curforce);
3276             if (PL_madskills) {
3277                 curmad('X', newSVpvn(PL_bufptr,s-PL_bufptr));
3278             }
3279             NEXTVAL_NEXTTOKE = yylval;
3280             PL_expect = XTERM;
3281             force_next(THING);
3282             if (PL_lex_starts++) {
3283 #ifdef PERL_MAD
3284                 if (PL_madskills) {
3285                     if (PL_thistoken)
3286                         sv_free(PL_thistoken);
3287                     PL_thistoken = newSVpvn("",0);
3288                 }
3289 #endif
3290                 /* commas only at base level: /$a\Ub$c/ => ($a,uc(b.$c)) */
3291                 if (!PL_lex_casemods && PL_lex_inpat)
3292                     OPERATOR(',');
3293                 else
3294                     Aop(OP_CONCAT);
3295             }
3296             else {
3297                 PL_bufptr = s;
3298                 return yylex();
3299             }
3300         }
3301
3302         return yylex();
3303     case LEX_FORMLINE:
3304         PL_lex_state = LEX_NORMAL;
3305         s = scan_formline(PL_bufptr);
3306         if (!PL_lex_formbrack)
3307             goto rightbracket;
3308         OPERATOR(';');
3309     }
3310
3311     s = PL_bufptr;
3312     PL_oldoldbufptr = PL_oldbufptr;
3313     PL_oldbufptr = s;
3314
3315   retry:
3316 #ifdef PERL_MAD
3317     if (PL_thistoken) {
3318         sv_free(PL_thistoken);
3319         PL_thistoken = 0;
3320     }
3321     PL_realtokenstart = s - SvPVX(PL_linestr);  /* assume but undo on ws */
3322 #endif
3323     switch (*s) {
3324     default:
3325         if (isIDFIRST_lazy_if(s,UTF))
3326             goto keylookup;
3327         Perl_croak(aTHX_ "Unrecognized character \\x%02X", *s & 255);
3328     case 4:
3329     case 26:
3330         goto fake_eof;                  /* emulate EOF on ^D or ^Z */
3331     case 0:
3332 #ifdef PERL_MAD
3333         if (PL_madskills)
3334             PL_faketokens = 0;
3335 #endif
3336         if (!PL_rsfp) {
3337             PL_last_uni = 0;
3338             PL_last_lop = 0;
3339             if (PL_lex_brackets) {
3340                 yyerror(PL_lex_formbrack
3341                     ? "Format not terminated"
3342                     : "Missing right curly or square bracket");
3343             }
3344             DEBUG_T( { PerlIO_printf(Perl_debug_log,
3345                         "### Tokener got EOF\n");
3346             } );
3347             TOKEN(0);
3348         }
3349         if (s++ < PL_bufend)
3350             goto retry;                 /* ignore stray nulls */
3351         PL_last_uni = 0;
3352         PL_last_lop = 0;
3353         if (!PL_in_eval && !PL_preambled) {
3354             PL_preambled = TRUE;
3355 #ifdef PERL_MAD
3356             if (PL_madskills)
3357                 PL_faketokens = 1;
3358 #endif
3359             sv_setpv(PL_linestr,incl_perldb());
3360             if (SvCUR(PL_linestr))
3361                 sv_catpvs(PL_linestr,";");
3362             if (PL_preambleav){
3363                 while(AvFILLp(PL_preambleav) >= 0) {
3364                     SV *tmpsv = av_shift(PL_preambleav);
3365                     sv_catsv(PL_linestr, tmpsv);
3366                     sv_catpvs(PL_linestr, ";");
3367                     sv_free(tmpsv);
3368                 }
3369                 sv_free((SV*)PL_preambleav);
3370                 PL_preambleav = NULL;
3371             }
3372             if (PL_minus_n || PL_minus_p) {
3373                 sv_catpvs(PL_linestr, "LINE: while (<>) {");
3374                 if (PL_minus_l)
3375                     sv_catpvs(PL_linestr,"chomp;");
3376                 if (PL_minus_a) {
3377                     if (PL_minus_F) {
3378                         if ((*PL_splitstr == '/' || *PL_splitstr == '\''
3379                              || *PL_splitstr == '"')
3380                               && strchr(PL_splitstr + 1, *PL_splitstr))
3381                             Perl_sv_catpvf(aTHX_ PL_linestr, "our @F=split(%s);", PL_splitstr);
3382                         else {
3383                             /* "q\0${splitstr}\0" is legal perl. Yes, even NUL
3384                                bytes can be used as quoting characters.  :-) */
3385                             const char *splits = PL_splitstr;
3386                             sv_catpvs(PL_linestr, "our @F=split(q\0");
3387                             do {
3388                                 /* Need to \ \s  */
3389                                 if (*splits == '\\')
3390                                     sv_catpvn(PL_linestr, splits, 1);
3391                                 sv_catpvn(PL_linestr, splits, 1);
3392                             } while (*splits++);
3393                             /* This loop will embed the trailing NUL of
3394                                PL_linestr as the last thing it does before
3395                                terminating.  */
3396                             sv_catpvs(PL_linestr, ");");
3397                         }
3398                     }
3399                     else
3400                         sv_catpvs(PL_linestr,"our @F=split(' ');");
3401                 }
3402             }
3403             if (PL_minus_E)
3404                 sv_catpvs(PL_linestr,"use feature ':5.10';");
3405             sv_catpvs(PL_linestr, "\n");
3406             PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3407             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3408             PL_last_lop = PL_last_uni = NULL;
3409             if (PERLDB_LINE && PL_curstash != PL_debstash) {
3410                 SV * const sv = newSV(0);
3411
3412                 sv_upgrade(sv, SVt_PVMG);
3413                 sv_setsv(sv,PL_linestr);
3414                 (void)SvIOK_on(sv);
3415                 SvIV_set(sv, 0);
3416                 av_store(CopFILEAVx(PL_curcop),(I32)CopLINE(PL_curcop),sv);
3417             }
3418             goto retry;
3419         }
3420         do {
3421             bof = PL_rsfp ? TRUE : FALSE;
3422             if ((s = filter_gets(PL_linestr, PL_rsfp, 0)) == NULL) {
3423               fake_eof:
3424 #ifdef PERL_MAD
3425                 PL_realtokenstart = -1;
3426 #endif
3427                 if (PL_rsfp) {
3428                     if (PL_preprocess && !PL_in_eval)
3429                         (void)PerlProc_pclose(PL_rsfp);
3430                     else if ((PerlIO *)PL_rsfp == PerlIO_stdin())
3431                         PerlIO_clearerr(PL_rsfp);
3432                     else
3433                         (void)PerlIO_close(PL_rsfp);
3434                     PL_rsfp = NULL;
3435                     PL_doextract = FALSE;
3436                 }
3437                 if (!PL_in_eval && (PL_minus_n || PL_minus_p)) {
3438 #ifdef PERL_MAD
3439                     if (PL_madskills)
3440                         PL_faketokens = 1;
3441 #endif
3442                     sv_setpv(PL_linestr,PL_minus_p
3443                              ? ";}continue{print;}" : ";}");
3444                     PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3445                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3446                     PL_last_lop = PL_last_uni = NULL;
3447                     PL_minus_n = PL_minus_p = 0;
3448                     goto retry;
3449                 }
3450                 PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3451                 PL_last_lop = PL_last_uni = NULL;
3452                 sv_setpvn(PL_linestr,"",0);
3453                 TOKEN(';');     /* not infinite loop because rsfp is NULL now */
3454             }
3455             /* If it looks like the start of a BOM or raw UTF-16,
3456              * check if it in fact is. */
3457             else if (bof &&
3458                      (*s == 0 ||
3459                       *(U8*)s == 0xEF ||
3460                       *(U8*)s >= 0xFE ||
3461                       s[1] == 0)) {
3462 #ifdef PERLIO_IS_STDIO
3463 #  ifdef __GNU_LIBRARY__
3464 #    if __GNU_LIBRARY__ == 1 /* Linux glibc5 */
3465 #      define FTELL_FOR_PIPE_IS_BROKEN
3466 #    endif
3467 #  else
3468 #    ifdef __GLIBC__
3469 #      if __GLIBC__ == 1 /* maybe some glibc5 release had it like this? */
3470 #        define FTELL_FOR_PIPE_IS_BROKEN
3471 #      endif
3472 #    endif
3473 #  endif
3474 #endif
3475 #ifdef FTELL_FOR_PIPE_IS_BROKEN
3476                 /* This loses the possibility to detect the bof
3477                  * situation on perl -P when the libc5 is being used.
3478                  * Workaround?  Maybe attach some extra state to PL_rsfp?
3479                  */
3480                 if (!PL_preprocess)
3481                     bof = PerlIO_tell(PL_rsfp) == SvCUR(PL_linestr);
3482 #else
3483                 bof = PerlIO_tell(PL_rsfp) == (Off_t)SvCUR(PL_linestr);
3484 #endif
3485                 if (bof) {
3486                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3487                     s = swallow_bom((U8*)s);
3488                 }
3489             }
3490             if (PL_doextract) {
3491                 /* Incest with pod. */
3492 #ifdef PERL_MAD
3493                 if (PL_madskills)
3494                     sv_catsv(PL_thiswhite, PL_linestr);
3495 #endif
3496                 if (*s == '=' && strnEQ(s, "=cut", 4)) {
3497                     sv_setpvn(PL_linestr, "", 0);
3498                     PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3499                     PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3500                     PL_last_lop = PL_last_uni = NULL;
3501                     PL_doextract = FALSE;
3502                 }
3503             }
3504             incline(s);
3505         } while (PL_doextract);
3506         PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = s;
3507         if (PERLDB_LINE && PL_curstash != PL_debstash) {
3508             SV * const sv = newSV(0);
3509
3510             sv_upgrade(sv, SVt_PVMG);
3511             sv_setsv(sv,PL_linestr);
3512             (void)SvIOK_on(sv);
3513             SvIV_set(sv, 0);
3514             av_store(CopFILEAVx(PL_curcop),(I32)CopLINE(PL_curcop),sv);
3515         }
3516         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3517         PL_last_lop = PL_last_uni = NULL;
3518         if (CopLINE(PL_curcop) == 1) {
3519             while (s < PL_bufend && isSPACE(*s))
3520                 s++;
3521             if (*s == ':' && s[1] != ':') /* for csh execing sh scripts */
3522                 s++;
3523 #ifdef PERL_MAD
3524             if (PL_madskills)
3525                 PL_thiswhite = newSVpvn(PL_linestart, s - PL_linestart);
3526 #endif
3527             d = NULL;
3528             if (!PL_in_eval) {
3529                 if (*s == '#' && *(s+1) == '!')
3530                     d = s + 2;
3531 #ifdef ALTERNATE_SHEBANG
3532                 else {
3533                     static char const as[] = ALTERNATE_SHEBANG;
3534                     if (*s == as[0] && strnEQ(s, as, sizeof(as) - 1))
3535                         d = s + (sizeof(as) - 1);
3536                 }
3537 #endif /* ALTERNATE_SHEBANG */
3538             }
3539             if (d) {
3540                 char *ipath;
3541                 char *ipathend;
3542
3543                 while (isSPACE(*d))
3544                     d++;
3545                 ipath = d;
3546                 while (*d && !isSPACE(*d))
3547                     d++;
3548                 ipathend = d;
3549
3550 #ifdef ARG_ZERO_IS_SCRIPT
3551                 if (ipathend > ipath) {
3552                     /*
3553                      * HP-UX (at least) sets argv[0] to the script name,
3554                      * which makes $^X incorrect.  And Digital UNIX and Linux,
3555                      * at least, set argv[0] to the basename of the Perl
3556                      * interpreter. So, having found "#!", we'll set it right.
3557                      */
3558                     SV * const x = GvSV(gv_fetchpvs("\030", GV_ADD|GV_NOTQUAL,
3559                                                     SVt_PV)); /* $^X */
3560                     assert(SvPOK(x) || SvGMAGICAL(x));
3561                     if (sv_eq(x, CopFILESV(PL_curcop))) {
3562                         sv_setpvn(x, ipath, ipathend - ipath);
3563                         SvSETMAGIC(x);
3564                     }
3565                     else {
3566                         STRLEN blen;
3567                         STRLEN llen;
3568                         const char *bstart = SvPV_const(CopFILESV(PL_curcop),blen);
3569                         const char * const lstart = SvPV_const(x,llen);
3570                         if (llen < blen) {
3571                             bstart += blen - llen;
3572                             if (strnEQ(bstart, lstart, llen) && bstart[-1] == '/') {
3573                                 sv_setpvn(x, ipath, ipathend - ipath);
3574                                 SvSETMAGIC(x);
3575                             }
3576                         }
3577                     }
3578                     TAINT_NOT;  /* $^X is always tainted, but that's OK */
3579                 }
3580 #endif /* ARG_ZERO_IS_SCRIPT */
3581
3582                 /*
3583                  * Look for options.
3584                  */
3585                 d = instr(s,"perl -");
3586                 if (!d) {
3587                     d = instr(s,"perl");
3588 #if defined(DOSISH)
3589                     /* avoid getting into infinite loops when shebang
3590                      * line contains "Perl" rather than "perl" */
3591                     if (!d) {
3592                         for (d = ipathend-4; d >= ipath; --d) {
3593                             if ((*d == 'p' || *d == 'P')
3594                                 && !ibcmp(d, "perl", 4))
3595                             {
3596                                 break;
3597                             }
3598                         }
3599                         if (d < ipath)
3600                             d = NULL;
3601                     }
3602 #endif
3603                 }
3604 #ifdef ALTERNATE_SHEBANG
3605                 /*
3606                  * If the ALTERNATE_SHEBANG on this system starts with a
3607                  * character that can be part of a Perl expression, then if
3608                  * we see it but not "perl", we're probably looking at the
3609                  * start of Perl code, not a request to hand off to some
3610                  * other interpreter.  Similarly, if "perl" is there, but
3611                  * not in the first 'word' of the line, we assume the line
3612                  * contains the start of the Perl program.
3613                  */
3614                 if (d && *s != '#') {
3615                     const char *c = ipath;
3616                     while (*c && !strchr("; \t\r\n\f\v#", *c))
3617                         c++;
3618                     if (c < d)
3619                         d = NULL;       /* "perl" not in first word; ignore */
3620                     else
3621                         *s = '#';       /* Don't try to parse shebang line */
3622                 }
3623 #endif /* ALTERNATE_SHEBANG */
3624 #ifndef MACOS_TRADITIONAL
3625                 if (!d &&
3626                     *s == '#' &&
3627                     ipathend > ipath &&
3628                     !PL_minus_c &&
3629                     !instr(s,"indir") &&
3630                     instr(PL_origargv[0],"perl"))
3631                 {
3632                     dVAR;
3633                     char **newargv;
3634
3635                     *ipathend = '\0';
3636                     s = ipathend + 1;
3637                     while (s < PL_bufend && isSPACE(*s))
3638                         s++;
3639                     if (s < PL_bufend) {
3640                         Newxz(newargv,PL_origargc+3,char*);
3641                         newargv[1] = s;
3642                         while (s < PL_bufend && !isSPACE(*s))
3643                             s++;
3644                         *s = '\0';
3645                         Copy(PL_origargv+1, newargv+2, PL_origargc+1, char*);
3646                     }
3647                     else
3648                         newargv = PL_origargv;
3649                     newargv[0] = ipath;
3650                     PERL_FPU_PRE_EXEC
3651                     PerlProc_execv(ipath, EXEC_ARGV_CAST(newargv));
3652                     PERL_FPU_POST_EXEC
3653                     Perl_croak(aTHX_ "Can't exec %s", ipath);
3654                 }
3655 #endif
3656                 if (d) {
3657                     while (*d && !isSPACE(*d)) d++;
3658                     while (SPACE_OR_TAB(*d)) d++;
3659
3660                     if (*d++ == '-') {
3661                         const bool switches_done = PL_doswitches;
3662                         const U32 oldpdb = PL_perldb;
3663                         const bool oldn = PL_minus_n;
3664                         const bool oldp = PL_minus_p;
3665
3666                         do {
3667                             if (*d == 'M' || *d == 'm' || *d == 'C') {
3668                                 const char * const m = d;
3669                                 while (*d && !isSPACE(*d))
3670                                     d++;
3671                                 Perl_croak(aTHX_ "Too late for \"-%.*s\" option",
3672                                       (int)(d - m), m);
3673                             }
3674                             d = moreswitches(d);
3675                         } while (d);
3676                         if (PL_doswitches && !switches_done) {
3677                             int argc = PL_origargc;
3678                             char **argv = PL_origargv;
3679                             do {
3680                                 argc--,argv++;
3681                             } while (argc && argv[0][0] == '-' && argv[0][1]);
3682                             init_argv_symbols(argc,argv);
3683                         }
3684                         if ((PERLDB_LINE && !oldpdb) ||
3685                             ((PL_minus_n || PL_minus_p) && !(oldn || oldp)))
3686                               /* if we have already added "LINE: while (<>) {",
3687                                  we must not do it again */
3688                         {
3689                             sv_setpvn(PL_linestr, "", 0);
3690                             PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = SvPVX(PL_linestr);
3691                             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
3692                             PL_last_lop = PL_last_uni = NULL;
3693                             PL_preambled = FALSE;
3694                             if (PERLDB_LINE)
3695                                 (void)gv_fetchfile(PL_origfilename);
3696                             goto retry;
3697                         }
3698                     }
3699                 }
3700             }
3701         }
3702         if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
3703             PL_bufptr = s;
3704             PL_lex_state = LEX_FORMLINE;
3705             return yylex();
3706         }
3707         goto retry;
3708     case '\r':
3709 #ifdef PERL_STRICT_CR
3710         Perl_warn(aTHX_ "Illegal character \\%03o (carriage return)", '\r');
3711         Perl_croak(aTHX_
3712       "\t(Maybe you didn't strip carriage returns after a network transfer?)\n");
3713 #endif
3714     case ' ': case '\t': case '\f': case 013:
3715 #ifdef MACOS_TRADITIONAL
3716     case '\312':
3717 #endif
3718 #ifdef PERL_MAD
3719         PL_realtokenstart = -1;
3720         s = SKIPSPACE0(s);
3721 #else
3722         s++;
3723 #endif
3724         goto retry;
3725     case '#':
3726     case '\n':
3727 #ifdef PERL_MAD
3728         PL_realtokenstart = -1;
3729         if (PL_madskills)
3730             PL_faketokens = 0;
3731 #endif
3732         if (PL_lex_state != LEX_NORMAL || (PL_in_eval && !PL_rsfp)) {
3733             if (*s == '#' && s == PL_linestart && PL_in_eval && !PL_rsfp) {
3734                 /* handle eval qq[#line 1 "foo"\n ...] */
3735                 CopLINE_dec(PL_curcop);
3736                 incline(s);
3737             }
3738             if (PL_madskills && !PL_lex_formbrack && !PL_in_eval) {
3739                 s = SKIPSPACE0(s);
3740                 if (!PL_in_eval || PL_rsfp)
3741                     incline(s);
3742             }
3743             else {
3744                 d = s;
3745                 while (d < PL_bufend && *d != '\n')
3746                     d++;
3747                 if (d < PL_bufend)
3748                     d++;
3749                 else if (d > PL_bufend) /* Found by Ilya: feed random input to Perl. */
3750                   Perl_croak(aTHX_ "panic: input overflow");
3751 #ifdef PERL_MAD
3752                 if (PL_madskills)
3753                     PL_thiswhite = newSVpvn(s, d - s);
3754 #endif
3755                 s = d;
3756                 incline(s);
3757             }
3758             if (PL_lex_formbrack && PL_lex_brackets <= PL_lex_formbrack) {
3759                 PL_bufptr = s;
3760                 PL_lex_state = LEX_FORMLINE;
3761                 return yylex();
3762             }
3763         }
3764         else {
3765 #ifdef PERL_MAD
3766             if (PL_madskills && CopLINE(PL_curcop) >= 1 && !PL_lex_formbrack) {
3767                 if (CopLINE(PL_curcop) == 1 && s[0] == '#' && s[1] == '!') {
3768                     PL_faketokens = 0;
3769                     s = SKIPSPACE0(s);
3770                     TOKEN(PEG); /* make sure any #! line is accessible */
3771                 }
3772                 s = SKIPSPACE0(s);
3773             }
3774             else {
3775 /*              if (PL_madskills && PL_lex_formbrack) { */
3776                     d = s;
3777                     while (d < PL_bufend && *d != '\n')
3778                         d++;
3779                     if (d < PL_bufend)
3780                         d++;
3781                     else if (d > PL_bufend) /* Found by Ilya: feed random input to Perl. */
3782                       Perl_croak(aTHX_ "panic: input overflow");
3783                     if (PL_madskills && CopLINE(PL_curcop) >= 1) {
3784                         if (!PL_thiswhite)
3785                             PL_thiswhite = newSVpvn("",0);
3786                         if (CopLINE(PL_curcop) == 1) {
3787                             sv_setpvn(PL_thiswhite, "", 0);
3788                             PL_faketokens = 0;
3789                         }
3790                         sv_catpvn(PL_thiswhite, s, d - s);
3791                     }
3792                     s = d;
3793 /*              }
3794                 *s = '\0';
3795                 PL_bufend = s; */
3796             }
3797 #else
3798             *s = '\0';
3799             PL_bufend = s;
3800 #endif
3801         }
3802         goto retry;
3803     case '-':
3804         if (s[1] && isALPHA(s[1]) && !isALNUM(s[2])) {
3805             I32 ftst = 0;
3806             char tmp;
3807
3808             s++;
3809             PL_bufptr = s;
3810             tmp = *s++;
3811
3812             while (s < PL_bufend && SPACE_OR_TAB(*s))
3813                 s++;
3814
3815             if (strnEQ(s,"=>",2)) {
3816                 s = force_word(PL_bufptr,WORD,FALSE,FALSE,FALSE);
3817                 DEBUG_T( { S_printbuf(aTHX_
3818                         "### Saw unary minus before =>, forcing word %s\n", s);
3819                 } );
3820                 OPERATOR('-');          /* unary minus */
3821             }
3822             PL_last_uni = PL_oldbufptr;
3823             switch (tmp) {
3824             case 'r': ftst = OP_FTEREAD;        break;
3825             case 'w': ftst = OP_FTEWRITE;       break;
3826             case 'x': ftst = OP_FTEEXEC;        break;
3827             case 'o': ftst = OP_FTEOWNED;       break;
3828             case 'R': ftst = OP_FTRREAD;        break;
3829             case 'W': ftst = OP_FTRWRITE;       break;
3830             case 'X': ftst = OP_FTREXEC;        break;
3831             case 'O': ftst = OP_FTROWNED;       break;
3832             case 'e': ftst = OP_FTIS;           break;
3833             case 'z': ftst = OP_FTZERO;         break;
3834             case 's': ftst = OP_FTSIZE;         break;
3835             case 'f': ftst = OP_FTFILE;         break;
3836             case 'd': ftst = OP_FTDIR;          break;
3837             case 'l': ftst = OP_FTLINK;         break;
3838             case 'p': ftst = OP_FTPIPE;         break;
3839             case 'S': ftst = OP_FTSOCK;         break;
3840             case 'u': ftst = OP_FTSUID;         break;
3841             case 'g': ftst = OP_FTSGID;         break;
3842             case 'k': ftst = OP_FTSVTX;         break;
3843             case 'b': ftst = OP_FTBLK;          break;
3844             case 'c': ftst = OP_FTCHR;          break;
3845             case 't': ftst = OP_FTTTY;          break;
3846             case 'T': ftst = OP_FTTEXT;         break;
3847             case 'B': ftst = OP_FTBINARY;       break;
3848             case 'M': case 'A': case 'C':
3849                 gv_fetchpvs("\024", GV_ADD|GV_NOTQUAL, SVt_PV);
3850                 switch (tmp) {
3851                 case 'M': ftst = OP_FTMTIME;    break;
3852                 case 'A': ftst = OP_FTATIME;    break;
3853                 case 'C': ftst = OP_FTCTIME;    break;
3854                 default:                        break;
3855                 }
3856                 break;
3857             default:
3858                 break;
3859             }
3860             if (ftst) {
3861                 PL_last_lop_op = (OPCODE)ftst;
3862                 DEBUG_T( { PerlIO_printf(Perl_debug_log,
3863                         "### Saw file test %c\n", (int)tmp);
3864                 } );
3865                 FTST(ftst);
3866             }
3867             else {
3868                 /* Assume it was a minus followed by a one-letter named
3869                  * subroutine call (or a -bareword), then. */
3870                 DEBUG_T( { PerlIO_printf(Perl_debug_log,
3871                         "### '-%c' looked like a file test but was not\n",
3872                         (int) tmp);
3873                 } );
3874                 s = --PL_bufptr;
3875             }
3876         }
3877         {
3878             const char tmp = *s++;
3879             if (*s == tmp) {
3880                 s++;
3881                 if (PL_expect == XOPERATOR)
3882                     TERM(POSTDEC);
3883                 else
3884                     OPERATOR(PREDEC);
3885             }
3886             else if (*s == '>') {
3887                 s++;
3888                 s = SKIPSPACE1(s);
3889                 if (isIDFIRST_lazy_if(s,UTF)) {
3890                     s = force_word(s,METHOD,FALSE,TRUE,FALSE);
3891                     TOKEN(ARROW);
3892                 }
3893                 else if (*s == '$')
3894                     OPERATOR(ARROW);
3895                 else
3896                     TERM(ARROW);
3897             }
3898             if (PL_expect == XOPERATOR)
3899                 Aop(OP_SUBTRACT);
3900             else {
3901                 if (isSPACE(*s) || !isSPACE(*PL_bufptr))
3902                     check_uni();
3903                 OPERATOR('-');          /* unary minus */
3904             }
3905         }
3906
3907     case '+':
3908         {
3909             const char tmp = *s++;
3910             if (*s == tmp) {
3911                 s++;
3912                 if (PL_expect == XOPERATOR)
3913                     TERM(POSTINC);
3914                 else
3915                     OPERATOR(PREINC);
3916             }
3917             if (PL_expect == XOPERATOR)
3918                 Aop(OP_ADD);
3919             else {
3920                 if (isSPACE(*s) || !isSPACE(*PL_bufptr))
3921                     check_uni();
3922                 OPERATOR('+');
3923             }
3924         }
3925
3926     case '*':
3927         if (PL_expect != XOPERATOR) {
3928             s = scan_ident(s, PL_bufend, PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
3929             PL_expect = XOPERATOR;
3930             force_ident(PL_tokenbuf, '*');
3931             if (!*PL_tokenbuf)
3932                 PREREF('*');
3933             TERM('*');
3934         }
3935         s++;
3936         if (*s == '*') {
3937             s++;
3938             PWop(OP_POW);
3939         }
3940         Mop(OP_MULTIPLY);
3941
3942     case '%':
3943         if (PL_expect == XOPERATOR) {
3944             ++s;
3945             Mop(OP_MODULO);
3946         }
3947         PL_tokenbuf[0] = '%';
3948         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1, sizeof PL_tokenbuf - 1, TRUE);
3949         if (!PL_tokenbuf[1]) {
3950             PREREF('%');
3951         }
3952         PL_pending_ident = '%';
3953         TERM('%');
3954
3955     case '^':
3956         s++;
3957         BOop(OP_BIT_XOR);
3958     case '[':
3959         PL_lex_brackets++;
3960         /* FALL THROUGH */
3961     case '~':
3962         if (s[1] == '~'
3963         && (PL_expect == XOPERATOR || PL_expect == XTERMORDORDOR)
3964         && FEATURE_IS_ENABLED("~~"))
3965         {
3966             s += 2;
3967             Eop(OP_SMARTMATCH);
3968         }
3969     case ',':
3970         {
3971             const char tmp = *s++;
3972             OPERATOR(tmp);
3973         }
3974     case ':':
3975         if (s[1] == ':') {
3976             len = 0;
3977             goto just_a_word_zero_gv;
3978         }
3979         s++;
3980         switch (PL_expect) {
3981             OP *attrs;
3982 #ifdef PERL_MAD
3983             I32 stuffstart;
3984 #endif
3985         case XOPERATOR:
3986             if (!PL_in_my || PL_lex_state != LEX_NORMAL)
3987                 break;
3988             PL_bufptr = s;      /* update in case we back off */
3989             goto grabattrs;
3990         case XATTRBLOCK:
3991             PL_expect = XBLOCK;
3992             goto grabattrs;
3993         case XATTRTERM:
3994             PL_expect = XTERMBLOCK;
3995          grabattrs:
3996 #ifdef PERL_MAD
3997             stuffstart = s - SvPVX(PL_linestr) - 1;
3998 #endif
3999             s = PEEKSPACE(s);
4000             attrs = NULL;
4001             while (isIDFIRST_lazy_if(s,UTF)) {
4002                 I32 tmp;
4003                 SV *sv;
4004                 d = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
4005                 if (isLOWER(*s) && (tmp = keyword(PL_tokenbuf, len))) {
4006                     if (tmp < 0) tmp = -tmp;
4007                     switch (tmp) {
4008                     case KEY_or:
4009                     case KEY_and:
4010                     case KEY_err:
4011                     case KEY_for:
4012                     case KEY_unless:
4013                     case KEY_if:
4014                     case KEY_while:
4015                     case KEY_until:
4016                         goto got_attrs;
4017                     default:
4018                         break;
4019                     }
4020                 }
4021                 sv = newSVpvn(s, len);
4022                 if (*d == '(') {
4023                     d = scan_str(d,TRUE,TRUE);
4024                     if (!d) {
4025                         /* MUST advance bufptr here to avoid bogus
4026                            "at end of line" context messages from yyerror().
4027                          */
4028                         PL_bufptr = s + len;
4029                         yyerror("Unterminated attribute parameter in attribute list");
4030                         if (attrs)
4031                             op_free(attrs);
4032                         sv_free(sv);
4033                         return REPORT(0);       /* EOF indicator */
4034                     }
4035                 }
4036                 if (PL_lex_stuff) {
4037                     sv_catsv(sv, PL_lex_stuff);
4038                     attrs = append_elem(OP_LIST, attrs,
4039                                         newSVOP(OP_CONST, 0, sv));
4040                     SvREFCNT_dec(PL_lex_stuff);
4041                     PL_lex_stuff = NULL;
4042                 }
4043                 else {
4044                     if (len == 6 && strnEQ(SvPVX(sv), "unique", len)) {
4045                         sv_free(sv);
4046                         if (PL_in_my == KEY_our) {
4047 #ifdef USE_ITHREADS
4048                             GvUNIQUE_on(cGVOPx_gv(yylval.opval));
4049 #else
4050                             /* skip to avoid loading attributes.pm */
4051 #endif
4052                             deprecate(":unique");
4053                         }
4054                         else
4055                             Perl_croak(aTHX_ "The 'unique' attribute may only be applied to 'our' variables");
4056                     }
4057
4058                     /* NOTE: any CV attrs applied here need to be part of
4059                        the CVf_BUILTIN_ATTRS define in cv.h! */
4060                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "lvalue", len)) {
4061                         sv_free(sv);
4062                         CvLVALUE_on(PL_compcv);
4063                     }
4064                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "locked", len)) {
4065                         sv_free(sv);
4066                         CvLOCKED_on(PL_compcv);
4067                     }
4068                     else if (!PL_in_my && len == 6 && strnEQ(SvPVX(sv), "method", len)) {
4069                         sv_free(sv);
4070                         CvMETHOD_on(PL_compcv);
4071                     }
4072                     else if (!PL_in_my && len == 9 && strnEQ(SvPVX(sv), "assertion", len)) {
4073                         sv_free(sv);
4074                         CvASSERTION_on(PL_compcv);
4075                     }
4076                     /* After we've set the flags, it could be argued that
4077                        we don't need to do the attributes.pm-based setting
4078                        process, and shouldn't bother appending recognized
4079                        flags.  To experiment with that, uncomment the
4080                        following "else".  (Note that's already been
4081                        uncommented.  That keeps the above-applied built-in
4082                        attributes from being intercepted (and possibly
4083                        rejected) by a package's attribute routines, but is
4084                        justified by the performance win for the common case
4085                        of applying only built-in attributes.) */
4086                     else
4087                         attrs = append_elem(OP_LIST, attrs,
4088                                             newSVOP(OP_CONST, 0,
4089                                                     sv));
4090                 }
4091                 s = PEEKSPACE(d);
4092                 if (*s == ':' && s[1] != ':')
4093                     s = PEEKSPACE(s+1);
4094                 else if (s == d)
4095                     break;      /* require real whitespace or :'s */
4096                 /* XXX losing whitespace on sequential attributes here */
4097             }
4098             {
4099                 const char tmp
4100                     = (PL_expect == XOPERATOR ? '=' : '{'); /*'}(' for vi */
4101                 if (*s != ';' && *s != '}' && *s != tmp
4102                     && (tmp != '=' || *s != ')')) {
4103                     const char q = ((*s == '\'') ? '"' : '\'');
4104                     /* If here for an expression, and parsed no attrs, back
4105                        off. */
4106                     if (tmp == '=' && !attrs) {
4107                         s = PL_bufptr;
4108                         break;
4109                     }
4110                     /* MUST advance bufptr here to avoid bogus "at end of line"
4111                        context messages from yyerror().
4112                     */
4113                     PL_bufptr = s;
4114                     yyerror( *s
4115                              ? Perl_form(aTHX_ "Invalid separator character "
4116                                          "%c%c%c in attribute list", q, *s, q)
4117                              : "Unterminated attribute list" );
4118                     if (attrs)
4119                         op_free(attrs);
4120                     OPERATOR(':');
4121                 }
4122             }
4123         got_attrs:
4124             if (attrs) {
4125                 start_force(PL_curforce);
4126                 NEXTVAL_NEXTTOKE.opval = attrs;
4127                 CURMAD('_', PL_nextwhite);
4128                 force_next(THING);
4129             }
4130 #ifdef PERL_MAD
4131             if (PL_madskills) {
4132                 PL_thistoken = newSVpvn(SvPVX(PL_linestr) + stuffstart,
4133                                      (s - SvPVX(PL_linestr)) - stuffstart);
4134             }
4135 #endif
4136             TOKEN(COLONATTR);
4137         }
4138         OPERATOR(':');
4139     case '(':
4140         s++;
4141         if (PL_last_lop == PL_oldoldbufptr || PL_last_uni == PL_oldoldbufptr)
4142             PL_oldbufptr = PL_oldoldbufptr;             /* allow print(STDOUT 123) */
4143         else
4144             PL_expect = XTERM;
4145         s = SKIPSPACE1(s);
4146         TOKEN('(');
4147     case ';':
4148         CLINE;
4149         {
4150             const char tmp = *s++;
4151             OPERATOR(tmp);
4152         }
4153     case ')':
4154         {
4155             const char tmp = *s++;
4156             s = SKIPSPACE1(s);
4157             if (*s == '{')
4158                 PREBLOCK(tmp);
4159             TERM(tmp);
4160         }
4161     case ']':
4162         s++;
4163         if (PL_lex_brackets <= 0)
4164             yyerror("Unmatched right square bracket");
4165         else
4166             --PL_lex_brackets;
4167         if (PL_lex_state == LEX_INTERPNORMAL) {
4168             if (PL_lex_brackets == 0) {
4169                 if (*s != '[' && *s != '{' && (*s != '-' || s[1] != '>'))
4170                     PL_lex_state = LEX_INTERPEND;
4171             }
4172         }
4173         TERM(']');
4174     case '{':
4175       leftbracket:
4176         s++;
4177         if (PL_lex_brackets > 100) {
4178             Renew(PL_lex_brackstack, PL_lex_brackets + 10, char);
4179         }
4180         switch (PL_expect) {
4181         case XTERM:
4182             if (PL_lex_formbrack) {
4183                 s--;
4184                 PRETERMBLOCK(DO);
4185             }
4186             if (PL_oldoldbufptr == PL_last_lop)
4187                 PL_lex_brackstack[PL_lex_brackets++] = XTERM;
4188             else
4189                 PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
4190             OPERATOR(HASHBRACK);
4191         case XOPERATOR:
4192             while (s < PL_bufend && SPACE_OR_TAB(*s))
4193                 s++;
4194             d = s;
4195             PL_tokenbuf[0] = '\0';
4196             if (d < PL_bufend && *d == '-') {
4197                 PL_tokenbuf[0] = '-';
4198                 d++;
4199                 while (d < PL_bufend && SPACE_OR_TAB(*d))
4200                     d++;
4201             }
4202             if (d < PL_bufend && isIDFIRST_lazy_if(d,UTF)) {
4203                 d = scan_word(d, PL_tokenbuf + 1, sizeof PL_tokenbuf - 1,
4204                               FALSE, &len);
4205                 while (d < PL_bufend && SPACE_OR_TAB(*d))
4206                     d++;
4207                 if (*d == '}') {
4208                     const char minus = (PL_tokenbuf[0] == '-');
4209                     s = force_word(s + minus, WORD, FALSE, TRUE, FALSE);
4210                     if (minus)
4211                         force_next('-');
4212                 }
4213             }
4214             /* FALL THROUGH */
4215         case XATTRBLOCK:
4216         case XBLOCK:
4217             PL_lex_brackstack[PL_lex_brackets++] = XSTATE;
4218             PL_expect = XSTATE;
4219             break;
4220         case XATTRTERM:
4221         case XTERMBLOCK:
4222             PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
4223             PL_expect = XSTATE;
4224             break;
4225         default: {
4226                 const char *t;
4227                 if (PL_oldoldbufptr == PL_last_lop)
4228                     PL_lex_brackstack[PL_lex_brackets++] = XTERM;
4229                 else
4230                     PL_lex_brackstack[PL_lex_brackets++] = XOPERATOR;
4231                 s = SKIPSPACE1(s);
4232                 if (*s == '}') {
4233                     if (PL_expect == XREF && PL_lex_state == LEX_INTERPNORMAL) {
4234                         PL_expect = XTERM;
4235                         /* This hack is to get the ${} in the message. */
4236                         PL_bufptr = s+1;
4237                         yyerror("syntax error");
4238                         break;
4239                     }
4240                     OPERATOR(HASHBRACK);
4241                 }
4242                 /* This hack serves to disambiguate a pair of curlies
4243                  * as being a block or an anon hash.  Normally, expectation
4244                  * determines that, but in cases where we're not in a
4245                  * position to expect anything in particular (like inside
4246                  * eval"") we have to resolve the ambiguity.  This code
4247                  * covers the case where the first term in the curlies is a
4248                  * quoted string.  Most other cases need to be explicitly
4249                  * disambiguated by prepending a "+" before the opening
4250                  * curly in order to force resolution as an anon hash.
4251                  *
4252                  * XXX should probably propagate the outer expectation
4253                  * into eval"" to rely less on this hack, but that could
4254                  * potentially break current behavior of eval"".
4255                  * GSAR 97-07-21
4256                  */
4257                 t = s;
4258                 if (*s == '\'' || *s == '"' || *s == '`') {
4259                     /* common case: get past first string, handling escapes */
4260                     for (t++; t < PL_bufend && *t != *s;)
4261                         if (*t++ == '\\' && (*t == '\\' || *t == *s))
4262                             t++;
4263                     t++;
4264                 }
4265                 else if (*s == 'q') {
4266                     if (++t < PL_bufend
4267                         && (!isALNUM(*t)
4268                             || ((*t == 'q' || *t == 'x') && ++t < PL_bufend
4269                                 && !isALNUM(*t))))
4270                     {
4271                         /* skip q//-like construct */
4272                         const char *tmps;
4273                         char open, close, term;
4274                         I32 brackets = 1;
4275
4276                         while (t < PL_bufend && isSPACE(*t))
4277                             t++;
4278                         /* check for q => */
4279                         if (t+1 < PL_bufend && t[0] == '=' && t[1] == '>') {
4280                             OPERATOR(HASHBRACK);
4281                         }
4282                         term = *t;
4283                         open = term;
4284                         if (term && (tmps = strchr("([{< )]}> )]}>",term)))
4285                             term = tmps[5];
4286                         close = term;
4287                         if (open == close)
4288                             for (t++; t < PL_bufend; t++) {
4289                                 if (*t == '\\' && t+1 < PL_bufend && open != '\\')
4290                                     t++;
4291                                 else if (*t == open)
4292                                     break;
4293                             }
4294                         else {
4295                             for (t++; t < PL_bufend; t++) {
4296                                 if (*t == '\\' && t+1 < PL_bufend)
4297                                     t++;
4298                                 else if (*t == close && --brackets <= 0)
4299                                     break;
4300                                 else if (*t == open)
4301                                     brackets++;
4302                             }
4303                         }
4304                         t++;
4305                     }
4306                     else
4307                         /* skip plain q word */
4308                         while (t < PL_bufend && isALNUM_lazy_if(t,UTF))
4309                              t += UTF8SKIP(t);
4310                 }
4311                 else if (isALNUM_lazy_if(t,UTF)) {
4312                     t += UTF8SKIP(t);
4313                     while (t < PL_bufend && isALNUM_lazy_if(t,UTF))
4314                          t += UTF8SKIP(t);
4315                 }
4316                 while (t < PL_bufend && isSPACE(*t))
4317                     t++;
4318                 /* if comma follows first term, call it an anon hash */
4319                 /* XXX it could be a comma expression with loop modifiers */
4320                 if (t < PL_bufend && ((*t == ',' && (*s == 'q' || !isLOWER(*s)))
4321                                    || (*t == '=' && t[1] == '>')))
4322                     OPERATOR(HASHBRACK);
4323                 if (PL_expect == XREF)
4324                     PL_expect = XTERM;
4325                 else {
4326                     PL_lex_brackstack[PL_lex_brackets-1] = XSTATE;
4327                     PL_expect = XSTATE;
4328                 }
4329             }
4330             break;
4331         }
4332         yylval.ival = CopLINE(PL_curcop);
4333         if (isSPACE(*s) || *s == '#')
4334             PL_copline = NOLINE;   /* invalidate current command line number */
4335         TOKEN('{');
4336     case '}':
4337       rightbracket:
4338         s++;
4339         if (PL_lex_brackets <= 0)
4340             yyerror("Unmatched right curly bracket");
4341         else
4342             PL_expect = (expectation)PL_lex_brackstack[--PL_lex_brackets];
4343         if (PL_lex_brackets < PL_lex_formbrack && PL_lex_state != LEX_INTERPNORMAL)
4344             PL_lex_formbrack = 0;
4345         if (PL_lex_state == LEX_INTERPNORMAL) {
4346             if (PL_lex_brackets == 0) {
4347                 if (PL_expect & XFAKEBRACK) {
4348                     PL_expect &= XENUMMASK;
4349                     PL_lex_state = LEX_INTERPEND;
4350                     PL_bufptr = s;
4351 #if 0
4352                     if (PL_madskills) {
4353                         if (!PL_thiswhite)
4354                             PL_thiswhite = newSVpvn("",0);
4355                         sv_catpvn(PL_thiswhite,"}",1);
4356                     }
4357 #endif
4358                     return yylex();     /* ignore fake brackets */
4359                 }
4360                 if (*s == '-' && s[1] == '>')
4361                     PL_lex_state = LEX_INTERPENDMAYBE;
4362                 else if (*s != '[' && *s != '{')
4363                     PL_lex_state = LEX_INTERPEND;
4364             }
4365         }
4366         if (PL_expect & XFAKEBRACK) {
4367             PL_expect &= XENUMMASK;
4368             PL_bufptr = s;
4369             return yylex();             /* ignore fake brackets */
4370         }
4371         start_force(PL_curforce);
4372         if (PL_madskills) {
4373             curmad('X', newSVpvn(s-1,1));
4374             CURMAD('_', PL_thiswhite);
4375         }
4376         force_next('}');
4377 #ifdef PERL_MAD
4378         if (!PL_thistoken)
4379             PL_thistoken = newSVpvn("",0);
4380 #endif
4381         TOKEN(';');
4382     case '&':
4383         s++;
4384         if (*s++ == '&')
4385             AOPERATOR(ANDAND);
4386         s--;
4387         if (PL_expect == XOPERATOR) {
4388             if (PL_bufptr == PL_linestart && ckWARN(WARN_SEMICOLON)
4389                 && isIDFIRST_lazy_if(s,UTF))
4390             {
4391                 CopLINE_dec(PL_curcop);
4392                 Perl_warner(aTHX_ packWARN(WARN_SEMICOLON), PL_warn_nosemi);
4393                 CopLINE_inc(PL_curcop);
4394             }
4395             BAop(OP_BIT_AND);
4396         }
4397
4398         s = scan_ident(s - 1, PL_bufend, PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
4399         if (*PL_tokenbuf) {
4400             PL_expect = XOPERATOR;
4401             force_ident(PL_tokenbuf, '&');
4402         }
4403         else
4404             PREREF('&');
4405         yylval.ival = (OPpENTERSUB_AMPER<<8);
4406         TERM('&');
4407
4408     case '|':
4409         s++;
4410         if (*s++ == '|')
4411             AOPERATOR(OROR);
4412         s--;
4413         BOop(OP_BIT_OR);
4414     case '=':
4415         s++;
4416         {
4417             const char tmp = *s++;
4418             if (tmp == '=')
4419                 Eop(OP_EQ);
4420             if (tmp == '>')
4421                 OPERATOR(',');
4422             if (tmp == '~')
4423                 PMop(OP_MATCH);
4424             if (tmp && isSPACE(*s) && ckWARN(WARN_SYNTAX)
4425                 && strchr("+-*/%.^&|<",tmp))
4426                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4427                             "Reversed %c= operator",(int)tmp);
4428             s--;
4429             if (PL_expect == XSTATE && isALPHA(tmp) &&
4430                 (s == PL_linestart+1 || s[-2] == '\n') )
4431                 {
4432                     if (PL_in_eval && !PL_rsfp) {
4433                         d = PL_bufend;
4434                         while (s < d) {
4435                             if (*s++ == '\n') {
4436                                 incline(s);
4437                                 if (strnEQ(s,"=cut",4)) {
4438                                     s = strchr(s,'\n');
4439                                     if (s)
4440                                         s++;
4441                                     else
4442                                         s = d;
4443                                     incline(s);
4444                                     goto retry;
4445                                 }
4446                             }
4447                         }
4448                         goto retry;
4449                     }
4450 #ifdef PERL_MAD
4451                     if (PL_madskills) {
4452                         if (!PL_thiswhite)
4453                             PL_thiswhite = newSVpvn("",0);
4454                         sv_catpvn(PL_thiswhite, PL_linestart,
4455                                   PL_bufend - PL_linestart);
4456                     }
4457 #endif
4458                     s = PL_bufend;
4459                     PL_doextract = TRUE;
4460                     goto retry;
4461                 }
4462         }
4463         if (PL_lex_brackets < PL_lex_formbrack) {
4464             const char *t;
4465 #ifdef PERL_STRICT_CR
4466             for (t = s; SPACE_OR_TAB(*t); t++) ;
4467 #else
4468             for (t = s; SPACE_OR_TAB(*t) || *t == '\r'; t++) ;
4469 #endif
4470             if (*t == '\n' || *t == '#') {
4471                 s--;
4472                 PL_expect = XBLOCK;
4473                 goto leftbracket;
4474             }
4475         }
4476         yylval.ival = 0;
4477         OPERATOR(ASSIGNOP);
4478     case '!':
4479         s++;
4480         {
4481             const char tmp = *s++;
4482             if (tmp == '=') {
4483                 /* was this !=~ where !~ was meant?
4484                  * warn on m:!=~\s+([/?]|[msy]\W|tr\W): */
4485
4486                 if (*s == '~' && ckWARN(WARN_SYNTAX)) {
4487                     const char *t = s+1;
4488
4489                     while (t < PL_bufend && isSPACE(*t))
4490                         ++t;
4491
4492                     if (*t == '/' || *t == '?' ||
4493                         ((*t == 'm' || *t == 's' || *t == 'y')
4494                          && !isALNUM(t[1])) ||
4495                         (*t == 't' && t[1] == 'r' && !isALNUM(t[2])))
4496                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4497                                     "!=~ should be !~");
4498                 }
4499                 Eop(OP_NE);
4500             }
4501             if (tmp == '~')
4502                 PMop(OP_NOT);
4503         }
4504         s--;
4505         OPERATOR('!');
4506     case '<':
4507         if (PL_expect != XOPERATOR) {
4508             if (s[1] != '<' && !strchr(s,'>'))
4509                 check_uni();
4510             if (s[1] == '<')
4511                 s = scan_heredoc(s);
4512             else
4513                 s = scan_inputsymbol(s);
4514             TERM(sublex_start());
4515         }
4516         s++;
4517         {
4518             char tmp = *s++;
4519             if (tmp == '<')
4520                 SHop(OP_LEFT_SHIFT);
4521             if (tmp == '=') {
4522                 tmp = *s++;
4523                 if (tmp == '>')
4524                     Eop(OP_NCMP);
4525                 s--;
4526                 Rop(OP_LE);
4527             }
4528         }
4529         s--;
4530         Rop(OP_LT);
4531     case '>':
4532         s++;
4533         {
4534             const char tmp = *s++;
4535             if (tmp == '>')
4536                 SHop(OP_RIGHT_SHIFT);
4537             else if (tmp == '=')
4538                 Rop(OP_GE);
4539         }
4540         s--;
4541         Rop(OP_GT);
4542
4543     case '$':
4544         CLINE;
4545
4546         if (PL_expect == XOPERATOR) {
4547             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
4548                 PL_expect = XTERM;
4549                 deprecate_old(commaless_variable_list);
4550                 return REPORT(','); /* grandfather non-comma-format format */
4551             }
4552         }
4553
4554         if (s[1] == '#' && (isIDFIRST_lazy_if(s+2,UTF) || strchr("{$:+-", s[2]))) {
4555             PL_tokenbuf[0] = '@';
4556             s = scan_ident(s + 1, PL_bufend, PL_tokenbuf + 1,
4557                            sizeof PL_tokenbuf - 1, FALSE);
4558             if (PL_expect == XOPERATOR)
4559                 no_op("Array length", s);
4560             if (!PL_tokenbuf[1])
4561                 PREREF(DOLSHARP);
4562             PL_expect = XOPERATOR;
4563             PL_pending_ident = '#';
4564             TOKEN(DOLSHARP);
4565         }
4566
4567         PL_tokenbuf[0] = '$';
4568         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1,
4569                        sizeof PL_tokenbuf - 1, FALSE);
4570         if (PL_expect == XOPERATOR)
4571             no_op("Scalar", s);
4572         if (!PL_tokenbuf[1]) {
4573             if (s == PL_bufend)
4574                 yyerror("Final $ should be \\$ or $name");
4575             PREREF('$');
4576         }
4577
4578         /* This kludge not intended to be bulletproof. */
4579         if (PL_tokenbuf[1] == '[' && !PL_tokenbuf[2]) {
4580             yylval.opval = newSVOP(OP_CONST, 0,
4581                                    newSViv(CopARYBASE_get(&PL_compiling)));
4582             yylval.opval->op_private = OPpCONST_ARYBASE;
4583             TERM(THING);
4584         }
4585
4586         d = s;
4587         {
4588             const char tmp = *s;
4589             if (PL_lex_state == LEX_NORMAL)
4590                 s = SKIPSPACE1(s);
4591
4592             if ((PL_expect != XREF || PL_oldoldbufptr == PL_last_lop)
4593                 && intuit_more(s)) {
4594                 if (*s == '[') {
4595                     PL_tokenbuf[0] = '@';
4596                     if (ckWARN(WARN_SYNTAX)) {
4597                         char *t;
4598                         for(t = s + 1;
4599                             isSPACE(*t) || isALNUM_lazy_if(t,UTF) || *t == '$';
4600                             t++) ;
4601                         if (*t++ == ',') {
4602                             PL_bufptr = PEEKSPACE(PL_bufptr); /* XXX can realloc */
4603                             while (t < PL_bufend && *t != ']')
4604                                 t++;
4605                             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4606                                         "Multidimensional syntax %.*s not supported",
4607                                     (int)((t - PL_bufptr) + 1), PL_bufptr);
4608                         }
4609                     }
4610                 }
4611                 else if (*s == '{') {
4612                     char *t;
4613                     PL_tokenbuf[0] = '%';
4614                     if (strEQ(PL_tokenbuf+1, "SIG")  && ckWARN(WARN_SYNTAX)
4615                         && (t = strchr(s, '}')) && (t = strchr(t, '=')))
4616                         {
4617                             char tmpbuf[sizeof PL_tokenbuf];
4618                             for (t++; isSPACE(*t); t++) ;
4619                             if (isIDFIRST_lazy_if(t,UTF)) {
4620                                 STRLEN dummylen;
4621                                 t = scan_word(t, tmpbuf, sizeof tmpbuf, TRUE,
4622                                               &dummylen);
4623                                 for (; isSPACE(*t); t++) ;
4624                                 if (*t == ';' && get_cv(tmpbuf, FALSE))
4625                                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4626                                                 "You need to quote \"%s\"",
4627                                                 tmpbuf);
4628                             }
4629                         }
4630                 }
4631             }
4632
4633             PL_expect = XOPERATOR;
4634             if (PL_lex_state == LEX_NORMAL && isSPACE((char)tmp)) {
4635                 const bool islop = (PL_last_lop == PL_oldoldbufptr);
4636                 if (!islop || PL_last_lop_op == OP_GREPSTART)
4637                     PL_expect = XOPERATOR;
4638                 else if (strchr("$@\"'`q", *s))
4639                     PL_expect = XTERM;          /* e.g. print $fh "foo" */
4640                 else if (strchr("&*<%", *s) && isIDFIRST_lazy_if(s+1,UTF))
4641                     PL_expect = XTERM;          /* e.g. print $fh &sub */
4642                 else if (isIDFIRST_lazy_if(s,UTF)) {
4643                     char tmpbuf[sizeof PL_tokenbuf];
4644                     int t2;
4645                     scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
4646                     if ((t2 = keyword(tmpbuf, len))) {
4647                         /* binary operators exclude handle interpretations */
4648                         switch (t2) {
4649                         case -KEY_x:
4650                         case -KEY_eq:
4651                         case -KEY_ne:
4652                         case -KEY_gt:
4653                         case -KEY_lt:
4654                         case -KEY_ge:
4655                         case -KEY_le:
4656                         case -KEY_cmp:
4657                             break;
4658                         default:
4659                             PL_expect = XTERM;  /* e.g. print $fh length() */
4660                             break;
4661                         }
4662                     }
4663                     else {
4664                         PL_expect = XTERM;      /* e.g. print $fh subr() */
4665                     }
4666                 }
4667                 else if (isDIGIT(*s))
4668                     PL_expect = XTERM;          /* e.g. print $fh 3 */
4669                 else if (*s == '.' && isDIGIT(s[1]))
4670                     PL_expect = XTERM;          /* e.g. print $fh .3 */
4671                 else if ((*s == '?' || *s == '-' || *s == '+')
4672                          && !isSPACE(s[1]) && s[1] != '=')
4673                     PL_expect = XTERM;          /* e.g. print $fh -1 */
4674                 else if (*s == '/' && !isSPACE(s[1]) && s[1] != '='
4675                          && s[1] != '/')
4676                     PL_expect = XTERM;          /* e.g. print $fh /.../
4677                                                    XXX except DORDOR operator
4678                                                 */
4679                 else if (*s == '<' && s[1] == '<' && !isSPACE(s[2])
4680                          && s[2] != '=')
4681                     PL_expect = XTERM;          /* print $fh <<"EOF" */
4682             }
4683         }
4684         PL_pending_ident = '$';
4685         TOKEN('$');
4686
4687     case '@':
4688         if (PL_expect == XOPERATOR)
4689             no_op("Array", s);
4690         PL_tokenbuf[0] = '@';
4691         s = scan_ident(s, PL_bufend, PL_tokenbuf + 1, sizeof PL_tokenbuf - 1, FALSE);
4692         if (!PL_tokenbuf[1]) {
4693             PREREF('@');
4694         }
4695         if (PL_lex_state == LEX_NORMAL)
4696             s = SKIPSPACE1(s);
4697         if ((PL_expect != XREF || PL_oldoldbufptr == PL_last_lop) && intuit_more(s)) {
4698             if (*s == '{')
4699                 PL_tokenbuf[0] = '%';
4700
4701             /* Warn about @ where they meant $. */
4702             if (*s == '[' || *s == '{') {
4703                 if (ckWARN(WARN_SYNTAX)) {
4704                     const char *t = s + 1;
4705                     while (*t && (isALNUM_lazy_if(t,UTF) || strchr(" \t$#+-'\"", *t)))
4706                         t++;
4707                     if (*t == '}' || *t == ']') {
4708                         t++;
4709                         PL_bufptr = PEEKSPACE(PL_bufptr); /* XXX can realloc */
4710                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
4711                             "Scalar value %.*s better written as $%.*s",
4712                             (int)(t-PL_bufptr), PL_bufptr,
4713                             (int)(t-PL_bufptr-1), PL_bufptr+1);
4714                     }
4715                 }
4716             }
4717         }
4718         PL_pending_ident = '@';
4719         TERM('@');
4720
4721      case '/':                  /* may be division, defined-or, or pattern */
4722         if (PL_expect == XTERMORDORDOR && s[1] == '/') {
4723             s += 2;
4724             AOPERATOR(DORDOR);
4725         }
4726      case '?':                  /* may either be conditional or pattern */
4727          if(PL_expect == XOPERATOR) {
4728              char tmp = *s++;
4729              if(tmp == '?') {
4730                   OPERATOR('?');
4731              }
4732              else {
4733                  tmp = *s++;
4734                  if(tmp == '/') {
4735                      /* A // operator. */
4736                     AOPERATOR(DORDOR);
4737                  }
4738                  else {
4739                      s--;
4740                      Mop(OP_DIVIDE);
4741                  }
4742              }
4743          }
4744          else {
4745              /* Disable warning on "study /blah/" */
4746              if (PL_oldoldbufptr == PL_last_uni
4747               && (*PL_last_uni != 's' || s - PL_last_uni < 5
4748                   || memNE(PL_last_uni, "study", 5)
4749                   || isALNUM_lazy_if(PL_last_uni+5,UTF)
4750               ))
4751                  check_uni();
4752              s = scan_pat(s,OP_MATCH);
4753              TERM(sublex_start());
4754          }
4755
4756     case '.':
4757         if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack
4758 #ifdef PERL_STRICT_CR
4759             && s[1] == '\n'
4760 #else
4761             && (s[1] == '\n' || (s[1] == '\r' && s[2] == '\n'))
4762 #endif
4763             && (s == PL_linestart || s[-1] == '\n') )
4764         {
4765             PL_lex_formbrack = 0;
4766             PL_expect = XSTATE;
4767             goto rightbracket;
4768         }
4769         if (PL_expect == XOPERATOR || !isDIGIT(s[1])) {
4770             char tmp = *s++;
4771             if (*s == tmp) {
4772                 s++;
4773                 if (*s == tmp) {
4774                     s++;
4775                     yylval.ival = OPf_SPECIAL;
4776                 }
4777                 else
4778                     yylval.ival = 0;
4779                 OPERATOR(DOTDOT);
4780             }
4781             if (PL_expect != XOPERATOR)
4782                 check_uni();
4783             Aop(OP_CONCAT);
4784         }
4785         /* FALL THROUGH */
4786     case '0': case '1': case '2': case '3': case '4':
4787     case '5': case '6': case '7': case '8': case '9':
4788         s = scan_num(s, &yylval);
4789         DEBUG_T( { S_printbuf(aTHX_ "### Saw number in %s\n", s); } );
4790         if (PL_expect == XOPERATOR)
4791             no_op("Number",s);
4792         TERM(THING);
4793
4794     case '\'':
4795         s = scan_str(s,!!PL_madskills,FALSE);
4796         DEBUG_T( { S_printbuf(aTHX_ "### Saw string before %s\n", s); } );
4797         if (PL_expect == XOPERATOR) {
4798             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
4799                 PL_expect = XTERM;
4800                 deprecate_old(commaless_variable_list);
4801                 return REPORT(','); /* grandfather non-comma-format format */
4802             }
4803             else
4804                 no_op("String",s);
4805         }
4806         if (!s)
4807             missingterm(NULL);
4808         yylval.ival = OP_CONST;
4809         TERM(sublex_start());
4810
4811     case '"':
4812         s = scan_str(s,!!PL_madskills,FALSE);
4813         DEBUG_T( { S_printbuf(aTHX_ "### Saw string before %s\n", s); } );
4814         if (PL_expect == XOPERATOR) {
4815             if (PL_lex_formbrack && PL_lex_brackets == PL_lex_formbrack) {
4816                 PL_expect = XTERM;
4817                 deprecate_old(commaless_variable_list);
4818                 return REPORT(','); /* grandfather non-comma-format format */
4819             }
4820             else
4821                 no_op("String",s);
4822         }
4823         if (!s)
4824             missingterm(NULL);
4825         yylval.ival = OP_CONST;
4826         /* FIXME. I think that this can be const if char *d is replaced by
4827            more localised variables.  */
4828         for (d = SvPV(PL_lex_stuff, len); len; len--, d++) {
4829             if (*d == '$' || *d == '@' || *d == '\\' || !UTF8_IS_INVARIANT((U8)*d)) {
4830                 yylval.ival = OP_STRINGIFY;
4831                 break;
4832             }
4833         }
4834         TERM(sublex_start());
4835
4836     case '`':
4837         s = scan_str(s,!!PL_madskills,FALSE);
4838         DEBUG_T( { S_printbuf(aTHX_ "### Saw backtick string before %s\n", s); } );
4839         if (PL_expect == XOPERATOR)
4840             no_op("Backticks",s);
4841         if (!s)
4842             missingterm(NULL);
4843         yylval.ival = OP_BACKTICK;
4844         set_csh();
4845         TERM(sublex_start());
4846
4847     case '\\':
4848         s++;
4849         if (PL_lex_inwhat && isDIGIT(*s) && ckWARN(WARN_SYNTAX))
4850             Perl_warner(aTHX_ packWARN(WARN_SYNTAX),"Can't use \\%c to mean $%c in expression",
4851                         *s, *s);
4852         if (PL_expect == XOPERATOR)
4853             no_op("Backslash",s);
4854         OPERATOR(REFGEN);
4855
4856     case 'v':
4857         if (isDIGIT(s[1]) && PL_expect != XOPERATOR) {
4858             char *start = s + 2;
4859             while (isDIGIT(*start) || *start == '_')
4860                 start++;
4861             if (*start == '.' && isDIGIT(start[1])) {
4862                 s = scan_num(s, &yylval);
4863                 TERM(THING);
4864             }
4865             /* avoid v123abc() or $h{v1}, allow C<print v10;> */
4866             else if (!isALPHA(*start) && (PL_expect == XTERM
4867                         || PL_expect == XREF || PL_expect == XSTATE
4868                         || PL_expect == XTERMORDORDOR)) {
4869                 /* XXX Use gv_fetchpvn rather than stomping on a const string */
4870                 const char c = *start;
4871                 GV *gv;
4872                 *start = '\0';
4873                 gv = gv_fetchpv(s, 0, SVt_PVCV);
4874                 *start = c;
4875                 if (!gv) {
4876                     s = scan_num(s, &yylval);
4877                     TERM(THING);
4878                 }
4879             }
4880         }
4881         goto keylookup;
4882     case 'x':
4883         if (isDIGIT(s[1]) && PL_expect == XOPERATOR) {
4884             s++;
4885             Mop(OP_REPEAT);
4886         }
4887         goto keylookup;
4888
4889     case '_':
4890     case 'a': case 'A':
4891     case 'b': case 'B':
4892     case 'c': case 'C':
4893     case 'd': case 'D':
4894     case 'e': case 'E':
4895     case 'f': case 'F':
4896     case 'g': case 'G':
4897     case 'h': case 'H':
4898     case 'i': case 'I':
4899     case 'j': case 'J':
4900     case 'k': case 'K':
4901     case 'l': case 'L':
4902     case 'm': case 'M':
4903     case 'n': case 'N':
4904     case 'o': case 'O':
4905     case 'p': case 'P':
4906     case 'q': case 'Q':
4907     case 'r': case 'R':
4908     case 's': case 'S':
4909     case 't': case 'T':
4910     case 'u': case 'U':
4911               case 'V':
4912     case 'w': case 'W':
4913               case 'X':
4914     case 'y': case 'Y':
4915     case 'z': case 'Z':
4916
4917       keylookup: {
4918         I32 tmp;
4919         I32 orig_keyword = 0;
4920         GV *gv = NULL;
4921         GV **gvp = NULL;
4922
4923         PL_bufptr = s;
4924         s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
4925
4926         /* Some keywords can be followed by any delimiter, including ':' */
4927         tmp = ((len == 1 && strchr("msyq", PL_tokenbuf[0])) ||
4928                (len == 2 && ((PL_tokenbuf[0] == 't' && PL_tokenbuf[1] == 'r') ||
4929                              (PL_tokenbuf[0] == 'q' &&
4930                               strchr("qwxr", PL_tokenbuf[1])))));
4931
4932         /* x::* is just a word, unless x is "CORE" */
4933         if (!tmp && *s == ':' && s[1] == ':' && strNE(PL_tokenbuf, "CORE"))
4934             goto just_a_word;
4935
4936         d = s;
4937         while (d < PL_bufend && isSPACE(*d))
4938                 d++;    /* no comments skipped here, or s### is misparsed */
4939
4940         /* Is this a label? */
4941         if (!tmp && PL_expect == XSTATE
4942               && d < PL_bufend && *d == ':' && *(d + 1) != ':') {
4943             s = d + 1;
4944             yylval.pval = savepv(PL_tokenbuf);
4945             CLINE;
4946             TOKEN(LABEL);
4947         }
4948
4949         /* Check for keywords */
4950         tmp = keyword(PL_tokenbuf, len);
4951
4952         /* Is this a word before a => operator? */
4953         if (*d == '=' && d[1] == '>') {
4954             CLINE;
4955             yylval.opval
4956                 = (OP*)newSVOP(OP_CONST, 0,
4957                                S_newSV_maybe_utf8(aTHX_ PL_tokenbuf, len));
4958             yylval.opval->op_private = OPpCONST_BARE;
4959             TERM(WORD);
4960         }
4961
4962         if (tmp < 0) {                  /* second-class keyword? */
4963             GV *ogv = NULL;     /* override (winner) */
4964             GV *hgv = NULL;     /* hidden (loser) */
4965             if (PL_expect != XOPERATOR && (*s != ':' || s[1] != ':')) {
4966                 CV *cv;
4967                 if ((gv = gv_fetchpvn_flags(PL_tokenbuf, len, 0, SVt_PVCV)) &&
4968                     (cv = GvCVu(gv)))
4969                 {
4970                     if (GvIMPORTED_CV(gv))
4971                         ogv = gv;
4972                     else if (! CvMETHOD(cv))
4973                         hgv = gv;
4974                 }
4975                 if (!ogv &&
4976                     (gvp = (GV**)hv_fetch(PL_globalstash,PL_tokenbuf,len,FALSE)) &&
4977                     (gv = *gvp) != (GV*)&PL_sv_undef &&
4978                     GvCVu(gv) && GvIMPORTED_CV(gv))
4979                 {
4980                     ogv = gv;
4981                 }
4982             }
4983             if (ogv) {
4984                 orig_keyword = tmp;
4985                 tmp = 0;                /* overridden by import or by GLOBAL */
4986             }
4987             else if (gv && !gvp
4988                      && -tmp==KEY_lock  /* XXX generalizable kludge */
4989                      && GvCVu(gv)
4990                      && !hv_fetchs(GvHVn(PL_incgv), "Thread.pm", FALSE))
4991             {
4992                 tmp = 0;                /* any sub overrides "weak" keyword */
4993             }
4994             else {                      /* no override */
4995                 tmp = -tmp;
4996                 if (tmp == KEY_dump && ckWARN(WARN_MISC)) {
4997                     Perl_warner(aTHX_ packWARN(WARN_MISC),
4998                             "dump() better written as CORE::dump()");
4999                 }
5000                 gv = NULL;
5001                 gvp = 0;
5002                 if (hgv && tmp != KEY_x && tmp != KEY_CORE
5003                         && ckWARN(WARN_AMBIGUOUS))      /* never ambiguous */
5004                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5005                         "Ambiguous call resolved as CORE::%s(), %s",
5006                          GvENAME(hgv), "qualify as such or use &");
5007             }
5008         }
5009
5010       reserved_word:
5011         switch (tmp) {
5012
5013         default:                        /* not a keyword */
5014             /* Trade off - by using this evil construction we can pull the
5015                variable gv into the block labelled keylookup. If not, then
5016                we have to give it function scope so that the goto from the
5017                earlier ':' case doesn't bypass the initialisation.  */
5018             if (0) {
5019             just_a_word_zero_gv:
5020                 gv = NULL;
5021                 gvp = NULL;
5022                 orig_keyword = 0;
5023             }
5024           just_a_word: {
5025                 SV *sv;
5026                 int pkgname = 0;
5027                 const char lastchar = (PL_bufptr == PL_oldoldbufptr ? 0 : PL_bufptr[-1]);
5028                 CV *cv;
5029 #ifdef PERL_MAD
5030                 SV *nextPL_nextwhite = 0;
5031 #endif
5032
5033
5034                 /* Get the rest if it looks like a package qualifier */
5035
5036                 if (*s == '\'' || (*s == ':' && s[1] == ':')) {
5037                     STRLEN morelen;
5038                     s = scan_word(s, PL_tokenbuf + len, sizeof PL_tokenbuf - len,
5039                                   TRUE, &morelen);
5040                     if (!morelen)
5041                         Perl_croak(aTHX_ "Bad name after %s%s", PL_tokenbuf,
5042                                 *s == '\'' ? "'" : "::");
5043                     len += morelen;
5044                     pkgname = 1;
5045                 }
5046
5047                 if (PL_expect == XOPERATOR) {
5048                     if (PL_bufptr == PL_linestart) {
5049                         CopLINE_dec(PL_curcop);
5050                         Perl_warner(aTHX_ packWARN(WARN_SEMICOLON), PL_warn_nosemi);
5051                         CopLINE_inc(PL_curcop);
5052                     }
5053                     else
5054                         no_op("Bareword",s);
5055                 }
5056
5057                 /* Look for a subroutine with this name in current package,
5058                    unless name is "Foo::", in which case Foo is a bearword
5059                    (and a package name). */
5060
5061                 if (len > 2 && !PL_madskills &&
5062                     PL_tokenbuf[len - 2] == ':' && PL_tokenbuf[len - 1] == ':')
5063                 {
5064                     if (ckWARN(WARN_BAREWORD)
5065                         && ! gv_fetchpvn_flags(PL_tokenbuf, len, 0, SVt_PVHV))
5066                         Perl_warner(aTHX_ packWARN(WARN_BAREWORD),
5067                             "Bareword \"%s\" refers to nonexistent package",
5068                              PL_tokenbuf);
5069                     len -= 2;
5070                     PL_tokenbuf[len] = '\0';
5071                     gv = NULL;
5072                     gvp = 0;
5073                 }
5074                 else {
5075                     if (!gv) {
5076                         /* Mustn't actually add anything to a symbol table.
5077                            But also don't want to "initialise" any placeholder
5078                            constants that might already be there into full
5079                            blown PVGVs with attached PVCV.  */
5080                         gv = gv_fetchpvn_flags(PL_tokenbuf, len,
5081                                                GV_NOADD_NOINIT, SVt_PVCV);
5082                     }
5083                     len = 0;
5084                 }
5085
5086                 /* if we saw a global override before, get the right name */
5087
5088                 if (gvp) {
5089                     sv = newSVpvs("CORE::GLOBAL::");
5090                     sv_catpv(sv,PL_tokenbuf);
5091                 }
5092                 else {
5093                     /* If len is 0, newSVpv does strlen(), which is correct.
5094                        If len is non-zero, then it will be the true length,
5095                        and so the scalar will be created correctly.  */
5096                     sv = newSVpv(PL_tokenbuf,len);
5097                 }
5098 #ifdef PERL_MAD
5099                 if (PL_madskills && !PL_thistoken) {
5100                     char *start = SvPVX(PL_linestr) + PL_realtokenstart;
5101                     PL_thistoken = newSVpv(start,s - start);
5102                     PL_realtokenstart = s - SvPVX(PL_linestr);
5103                 }
5104 #endif
5105
5106                 /* Presume this is going to be a bareword of some sort. */
5107
5108                 CLINE;
5109                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sv);
5110                 yylval.opval->op_private = OPpCONST_BARE;
5111                 /* UTF-8 package name? */
5112                 if (UTF && !IN_BYTES &&
5113                     is_utf8_string((U8*)SvPVX_const(sv), SvCUR(sv)))
5114                     SvUTF8_on(sv);
5115
5116                 /* And if "Foo::", then that's what it certainly is. */
5117
5118                 if (len)
5119                     goto safe_bareword;
5120
5121                 /* Do the explicit type check so that we don't need to force
5122                    the initialisation of the symbol table to have a real GV.
5123                    Beware - gv may not really be a PVGV, cv may not really be
5124                    a PVCV, (because of the space optimisations that gv_init
5125                    understands) But they're true if for this symbol there is
5126                    respectively a typeglob and a subroutine.
5127                 */
5128                 cv = gv ? ((SvTYPE(gv) == SVt_PVGV)
5129                     /* Real typeglob, so get the real subroutine: */
5130                            ? GvCVu(gv)
5131                     /* A proxy for a subroutine in this package? */
5132                            : SvOK(gv) ? (CV *) gv : NULL)
5133                     : NULL;
5134
5135                 /* See if it's the indirect object for a list operator. */
5136
5137                 if (PL_oldoldbufptr &&
5138                     PL_oldoldbufptr < PL_bufptr &&
5139                     (PL_oldoldbufptr == PL_last_lop
5140                      || PL_oldoldbufptr == PL_last_uni) &&
5141                     /* NO SKIPSPACE BEFORE HERE! */
5142                     (PL_expect == XREF ||
5143                      ((PL_opargs[PL_last_lop_op] >> OASHIFT)& 7) == OA_FILEREF))
5144                 {
5145                     bool immediate_paren = *s == '(';
5146
5147                     /* (Now we can afford to cross potential line boundary.) */
5148                     s = SKIPSPACE2(s,nextPL_nextwhite);
5149 #ifdef PERL_MAD
5150                     PL_nextwhite = nextPL_nextwhite;    /* assume no & deception */
5151 #endif
5152
5153                     /* Two barewords in a row may indicate method call. */
5154
5155                     if ((isIDFIRST_lazy_if(s,UTF) || *s == '$') &&
5156                         (tmp = intuit_method(s, gv, cv)))
5157                         return REPORT(tmp);
5158
5159                     /* If not a declared subroutine, it's an indirect object. */
5160                     /* (But it's an indir obj regardless for sort.) */
5161                     /* Also, if "_" follows a filetest operator, it's a bareword */
5162
5163                     if (
5164                         ( !immediate_paren && (PL_last_lop_op == OP_SORT ||
5165                          ((!gv || !cv) &&
5166                         (PL_last_lop_op != OP_MAPSTART &&
5167                          PL_last_lop_op != OP_GREPSTART))))
5168                        || (PL_tokenbuf[0] == '_' && PL_tokenbuf[1] == '\0'
5169                             && ((PL_opargs[PL_last_lop_op] & OA_CLASS_MASK) == OA_FILESTATOP))
5170                        )
5171                     {
5172                         PL_expect = (PL_last_lop == PL_oldoldbufptr) ? XTERM : XOPERATOR;
5173                         goto bareword;
5174                     }
5175                 }
5176
5177                 PL_expect = XOPERATOR;
5178 #ifdef PERL_MAD
5179                 if (isSPACE(*s))
5180                     s = SKIPSPACE2(s,nextPL_nextwhite);
5181                 PL_nextwhite = nextPL_nextwhite;
5182 #else
5183                 s = skipspace(s);
5184 #endif
5185
5186                 /* Is this a word before a => operator? */
5187                 if (*s == '=' && s[1] == '>' && !pkgname) {
5188                     CLINE;
5189                     sv_setpv(((SVOP*)yylval.opval)->op_sv, PL_tokenbuf);
5190                     if (UTF && !IN_BYTES && is_utf8_string((U8*)PL_tokenbuf, len))
5191                       SvUTF8_on(((SVOP*)yylval.opval)->op_sv);
5192                     TERM(WORD);
5193                 }
5194
5195                 /* If followed by a paren, it's certainly a subroutine. */
5196                 if (*s == '(') {
5197                     CLINE;
5198                     if (cv) {
5199                         for (d = s + 1; SPACE_OR_TAB(*d); d++) ;
5200                         if (*d == ')' && (sv = gv_const_sv(gv))) {
5201                             s = d + 1;
5202 #ifdef PERL_MAD
5203                             if (PL_madskills) {
5204                                 char *par = SvPVX(PL_linestr) + PL_realtokenstart;
5205                                 sv_catpvn(PL_thistoken, par, s - par);
5206                                 if (PL_nextwhite) {
5207                                     sv_free(PL_nextwhite);
5208                                     PL_nextwhite = 0;
5209                                 }
5210                             }
5211 #endif
5212                             goto its_constant;
5213                         }
5214                     }
5215 #ifdef PERL_MAD
5216                     if (PL_madskills) {
5217                         PL_nextwhite = PL_thiswhite;
5218                         PL_thiswhite = 0;
5219                     }
5220                     start_force(PL_curforce);
5221 #endif
5222                     NEXTVAL_NEXTTOKE.opval = yylval.opval;
5223                     PL_expect = XOPERATOR;
5224 #ifdef PERL_MAD
5225                     if (PL_madskills) {
5226                         PL_nextwhite = nextPL_nextwhite;
5227                         curmad('X', PL_thistoken);
5228                         PL_thistoken = newSVpvn("",0);
5229                     }
5230 #endif
5231                     force_next(WORD);
5232                     yylval.ival = 0;
5233                     TOKEN('&');
5234                 }
5235
5236                 /* If followed by var or block, call it a method (unless sub) */
5237
5238                 if ((*s == '$' || *s == '{') && (!gv || !cv)) {
5239                     PL_last_lop = PL_oldbufptr;
5240                     PL_last_lop_op = OP_METHOD;
5241                     PREBLOCK(METHOD);
5242                 }
5243
5244                 /* If followed by a bareword, see if it looks like indir obj. */
5245
5246                 if (!orig_keyword
5247                         && (isIDFIRST_lazy_if(s,UTF) || *s == '$')
5248                         && (tmp = intuit_method(s, gv, cv)))
5249                     return REPORT(tmp);
5250
5251                 /* Not a method, so call it a subroutine (if defined) */
5252
5253                 if (cv) {
5254                     if (lastchar == '-' && ckWARN_d(WARN_AMBIGUOUS))
5255                         Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5256                                 "Ambiguous use of -%s resolved as -&%s()",
5257                                 PL_tokenbuf, PL_tokenbuf);
5258                     /* Check for a constant sub */
5259                     if ((sv = gv_const_sv(gv))) {
5260                   its_constant:
5261                         SvREFCNT_dec(((SVOP*)yylval.opval)->op_sv);
5262                         ((SVOP*)yylval.opval)->op_sv = SvREFCNT_inc_simple(sv);
5263                         yylval.opval->op_private = 0;
5264                         TOKEN(WORD);
5265                     }
5266
5267                     /* Resolve to GV now. */
5268                     if (SvTYPE(gv) != SVt_PVGV) {
5269                         gv = gv_fetchpv(PL_tokenbuf, 0, SVt_PVCV);
5270                         assert (SvTYPE(gv) == SVt_PVGV);
5271                         /* cv must have been some sort of placeholder, so
5272                            now needs replacing with a real code reference.  */
5273                         cv = GvCV(gv);
5274                     }
5275
5276                     op_free(yylval.opval);
5277                     yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
5278                     yylval.opval->op_private |= OPpENTERSUB_NOPAREN;
5279                     PL_last_lop = PL_oldbufptr;
5280                     PL_last_lop_op = OP_ENTERSUB;
5281                     /* Is there a prototype? */
5282                     if (
5283 #ifdef PERL_MAD
5284                         cv &&
5285 #endif
5286                         SvPOK(cv)) {
5287                         STRLEN protolen;
5288                         const char *proto = SvPV_const((SV*)cv, protolen);
5289                         if (!protolen)
5290                             TERM(FUNC0SUB);
5291                         if (*proto == '$' && proto[1] == '\0')
5292                             OPERATOR(UNIOPSUB);
5293                         while (*proto == ';')
5294                             proto++;
5295                         if (*proto == '&' && *s == '{') {
5296                             sv_setpv(PL_subname, PL_curstash ?
5297                                         "__ANON__" : "__ANON__::__ANON__");
5298                             PREBLOCK(LSTOPSUB);
5299                         }
5300                     }
5301 #ifdef PERL_MAD
5302                     {
5303                         if (PL_madskills) {
5304                             PL_nextwhite = PL_thiswhite;
5305                             PL_thiswhite = 0;
5306                         }
5307                         start_force(PL_curforce);
5308                         NEXTVAL_NEXTTOKE.opval = yylval.opval;
5309                         PL_expect = XTERM;
5310                         if (PL_madskills) {
5311                             PL_nextwhite = nextPL_nextwhite;
5312                             curmad('X', PL_thistoken);
5313                             PL_thistoken = newSVpvn("",0);
5314                         }
5315                         force_next(WORD);
5316                         TOKEN(NOAMP);
5317                     }
5318                 }
5319
5320                 /* Guess harder when madskills require "best effort". */
5321                 if (PL_madskills && (!gv || !GvCVu(gv))) {
5322                     int probable_sub = 0;
5323                     if (strchr("\"'`$@%0123456789!*+{[<", *s))
5324                         probable_sub = 1;
5325                     else if (isALPHA(*s)) {
5326                         char tmpbuf[1024];
5327                         STRLEN tmplen;
5328                         d = s;
5329                         d = scan_word(d, tmpbuf, sizeof tmpbuf, TRUE, &tmplen);
5330                         if (!keyword(tmpbuf,tmplen))
5331                             probable_sub = 1;
5332                         else {
5333                             while (d < PL_bufend && isSPACE(*d))
5334                                 d++;
5335                             if (*d == '=' && d[1] == '>')
5336                                 probable_sub = 1;
5337                         }
5338                     }
5339                     if (probable_sub) {
5340                         gv = gv_fetchpv(PL_tokenbuf, TRUE, SVt_PVCV);
5341                         op_free(yylval.opval);
5342                         yylval.opval = newCVREF(0, newGVOP(OP_GV, 0, gv));
5343                         yylval.opval->op_private |= OPpENTERSUB_NOPAREN;
5344                         PL_last_lop = PL_oldbufptr;
5345                         PL_last_lop_op = OP_ENTERSUB;
5346                         PL_nextwhite = PL_thiswhite;
5347                         PL_thiswhite = 0;
5348                         start_force(PL_curforce);
5349                         NEXTVAL_NEXTTOKE.opval = yylval.opval;
5350                         PL_expect = XTERM;
5351                         PL_nextwhite = nextPL_nextwhite;
5352                         curmad('X', PL_thistoken);
5353                         PL_thistoken = newSVpvn("",0);
5354                         force_next(WORD);
5355                         TOKEN(NOAMP);
5356                     }
5357 #else
5358                     NEXTVAL_NEXTTOKE.opval = yylval.opval;
5359                     PL_expect = XTERM;
5360                     force_next(WORD);
5361                     TOKEN(NOAMP);
5362 #endif
5363                 }
5364
5365                 /* Call it a bare word */
5366
5367                 if (PL_hints & HINT_STRICT_SUBS)
5368                     yylval.opval->op_private |= OPpCONST_STRICT;
5369                 else {
5370                 bareword:
5371                     if (lastchar != '-') {
5372                         if (ckWARN(WARN_RESERVED)) {
5373                             for (d = PL_tokenbuf; *d && isLOWER(*d); d++) ;
5374                             if (!*d && !gv_stashpv(PL_tokenbuf,FALSE))
5375                                 Perl_warner(aTHX_ packWARN(WARN_RESERVED), PL_warn_reserved,
5376                                        PL_tokenbuf);
5377                         }
5378                     }
5379                 }
5380
5381             safe_bareword:
5382                 if ((lastchar == '*' || lastchar == '%' || lastchar == '&')
5383                     && ckWARN_d(WARN_AMBIGUOUS)) {
5384                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5385                         "Operator or semicolon missing before %c%s",
5386                         lastchar, PL_tokenbuf);
5387                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
5388                         "Ambiguous use of %c resolved as operator %c",
5389                         lastchar, lastchar);
5390                 }
5391                 TOKEN(WORD);
5392             }
5393
5394         case KEY___FILE__:
5395             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
5396                                         newSVpv(CopFILE(PL_curcop),0));
5397             TERM(THING);
5398
5399         case KEY___LINE__:
5400             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
5401                                     Perl_newSVpvf(aTHX_ "%"IVdf, (IV)CopLINE(PL_curcop)));
5402             TERM(THING);
5403
5404         case KEY___PACKAGE__:
5405             yylval.opval = (OP*)newSVOP(OP_CONST, 0,
5406                                         (PL_curstash
5407                                          ? newSVhek(HvNAME_HEK(PL_curstash))
5408                                          : &PL_sv_undef));
5409             TERM(THING);
5410
5411         case KEY___DATA__:
5412         case KEY___END__: {
5413             GV *gv;
5414             if (PL_rsfp && (!PL_in_eval || PL_tokenbuf[2] == 'D')) {
5415                 const char *pname = "main";
5416                 if (PL_tokenbuf[2] == 'D')
5417                     pname = HvNAME_get(PL_curstash ? PL_curstash : PL_defstash);
5418                 gv = gv_fetchpv(Perl_form(aTHX_ "%s::DATA", pname), GV_ADD,
5419                                 SVt_PVIO);
5420                 GvMULTI_on(gv);
5421                 if (!GvIO(gv))
5422                     GvIOp(gv) = newIO();
5423                 IoIFP(GvIOp(gv)) = PL_rsfp;
5424 #if defined(HAS_FCNTL) && defined(F_SETFD)
5425                 {
5426                     const int fd = PerlIO_fileno(PL_rsfp);
5427                     fcntl(fd,F_SETFD,fd >= 3);
5428                 }
5429 #endif
5430                 /* Mark this internal pseudo-handle as clean */
5431                 IoFLAGS(GvIOp(gv)) |= IOf_UNTAINT;
5432                 if (PL_preprocess)
5433                     IoTYPE(GvIOp(gv)) = IoTYPE_PIPE;
5434                 else if ((PerlIO*)PL_rsfp == PerlIO_stdin())
5435                     IoTYPE(GvIOp(gv)) = IoTYPE_STD;
5436                 else
5437                     IoTYPE(GvIOp(gv)) = IoTYPE_RDONLY;
5438 #if defined(WIN32) && !defined(PERL_TEXTMODE_SCRIPTS)
5439                 /* if the script was opened in binmode, we need to revert
5440                  * it to text mode for compatibility; but only iff it has CRs
5441                  * XXX this is a questionable hack at best. */
5442                 if (PL_bufend-PL_bufptr > 2
5443                     && PL_bufend[-1] == '\n' && PL_bufend[-2] == '\r')
5444                 {
5445                     Off_t loc = 0;
5446                     if (IoTYPE(GvIOp(gv)) == IoTYPE_RDONLY) {
5447                         loc = PerlIO_tell(PL_rsfp);
5448                         (void)PerlIO_seek(PL_rsfp, 0L, 0);
5449                     }
5450 #ifdef NETWARE
5451                         if (PerlLIO_setmode(PL_rsfp, O_TEXT) != -1) {
5452 #else
5453                     if (PerlLIO_setmode(PerlIO_fileno(PL_rsfp), O_TEXT) != -1) {
5454 #endif  /* NETWARE */
5455 #ifdef PERLIO_IS_STDIO /* really? */
5456 #  if defined(__BORLANDC__)
5457                         /* XXX see note in do_binmode() */
5458                         ((FILE*)PL_rsfp)->flags &= ~_F_BIN;
5459 #  endif
5460 #endif
5461                         if (loc > 0)
5462                             PerlIO_seek(PL_rsfp, loc, 0);
5463                     }
5464                 }
5465 #endif
5466 #ifdef PERLIO_LAYERS
5467                 if (!IN_BYTES) {
5468                     if (UTF)
5469                         PerlIO_apply_layers(aTHX_ PL_rsfp, NULL, ":utf8");
5470                     else if (PL_encoding) {
5471                         SV *name;
5472                         dSP;
5473                         ENTER;
5474                         SAVETMPS;
5475                         PUSHMARK(sp);
5476                         EXTEND(SP, 1);
5477                         XPUSHs(PL_encoding);
5478                         PUTBACK;
5479                         call_method("name", G_SCALAR);
5480                         SPAGAIN;
5481                         name = POPs;
5482                         PUTBACK;
5483                         PerlIO_apply_layers(aTHX_ PL_rsfp, NULL,
5484                                             Perl_form(aTHX_ ":encoding(%"SVf")",
5485                                                       name));
5486                         FREETMPS;
5487                         LEAVE;
5488                     }
5489                 }
5490 #endif
5491 #ifdef PERL_MAD
5492                 if (PL_madskills) {
5493                     if (PL_realtokenstart >= 0) {
5494                         char *tstart = SvPVX(PL_linestr) + PL_realtokenstart;
5495                         if (!PL_endwhite)
5496                             PL_endwhite = newSVpvn("",0);
5497                         sv_catsv(PL_endwhite, PL_thiswhite);
5498                         PL_thiswhite = 0;
5499                         sv_catpvn(PL_endwhite, tstart, PL_bufend - tstart);
5500                         PL_realtokenstart = -1;
5501                     }
5502                     while ((s = filter_gets(PL_endwhite, PL_rsfp,
5503                                  SvCUR(PL_endwhite))) != Nullch) ;
5504                 }
5505 #endif
5506                 PL_rsfp = NULL;
5507             }
5508             goto fake_eof;
5509         }
5510
5511         case KEY_AUTOLOAD:
5512         case KEY_DESTROY:
5513         case KEY_BEGIN:
5514         case KEY_CHECK:
5515         case KEY_INIT:
5516         case KEY_END:
5517             if (PL_expect == XSTATE) {
5518                 s = PL_bufptr;
5519                 goto really_sub;
5520             }
5521             goto just_a_word;
5522
5523         case KEY_CORE:
5524             if (*s == ':' && s[1] == ':') {
5525                 s += 2;
5526                 d = s;
5527                 s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, FALSE, &len);
5528                 if (!(tmp = keyword(PL_tokenbuf, len)))
5529                     Perl_croak(aTHX_ "CORE::%s is not a keyword", PL_tokenbuf);
5530                 if (tmp < 0)
5531                     tmp = -tmp;
5532                 else if (tmp == KEY_require || tmp == KEY_do)
5533                     /* that's a way to remember we saw "CORE::" */
5534                     orig_keyword = tmp;
5535                 goto reserved_word;
5536             }
5537             goto just_a_word;
5538
5539         case KEY_abs:
5540             UNI(OP_ABS);
5541
5542         case KEY_alarm:
5543             UNI(OP_ALARM);
5544
5545         case KEY_accept:
5546             LOP(OP_ACCEPT,XTERM);
5547
5548         case KEY_and:
5549             OPERATOR(ANDOP);
5550
5551         case KEY_atan2:
5552             LOP(OP_ATAN2,XTERM);
5553
5554         case KEY_bind:
5555             LOP(OP_BIND,XTERM);
5556
5557         case KEY_binmode:
5558             LOP(OP_BINMODE,XTERM);
5559
5560         case KEY_bless:
5561             LOP(OP_BLESS,XTERM);
5562
5563         case KEY_break:
5564             FUN0(OP_BREAK);
5565
5566         case KEY_chop:
5567             UNI(OP_CHOP);
5568
5569         case KEY_continue:
5570             /* When 'use switch' is in effect, continue has a dual
5571                life as a control operator. */
5572             {
5573                 if (!FEATURE_IS_ENABLED("switch"))
5574                     PREBLOCK(CONTINUE);
5575                 else {
5576                     /* We have to disambiguate the two senses of
5577                       "continue". If the next token is a '{' then
5578                       treat it as the start of a continue block;
5579                       otherwise treat it as a control operator.
5580                      */
5581                     s = skipspace(s);
5582                     if (*s == '{')
5583             PREBLOCK(CONTINUE);
5584                     else
5585                         FUN0(OP_CONTINUE);
5586                 }
5587             }
5588
5589         case KEY_chdir:
5590             /* may use HOME */
5591             (void)gv_fetchpvs("ENV", GV_ADD|GV_NOTQUAL, SVt_PVHV);
5592             UNI(OP_CHDIR);
5593
5594         case KEY_close:
5595             UNI(OP_CLOSE);
5596
5597         case KEY_closedir:
5598             UNI(OP_CLOSEDIR);
5599
5600         case KEY_cmp:
5601             Eop(OP_SCMP);
5602
5603         case KEY_caller:
5604             UNI(OP_CALLER);
5605
5606         case KEY_crypt:
5607 #ifdef FCRYPT
5608             if (!PL_cryptseen) {
5609                 PL_cryptseen = TRUE;
5610                 init_des();
5611             }
5612 #endif
5613             LOP(OP_CRYPT,XTERM);
5614
5615         case KEY_chmod:
5616             LOP(OP_CHMOD,XTERM);
5617
5618         case KEY_chown:
5619             LOP(OP_CHOWN,XTERM);
5620
5621         case KEY_connect:
5622             LOP(OP_CONNECT,XTERM);
5623
5624         case KEY_chr:
5625             UNI(OP_CHR);
5626
5627         case KEY_cos:
5628             UNI(OP_COS);
5629
5630         case KEY_chroot:
5631             UNI(OP_CHROOT);
5632
5633         case KEY_default:
5634             PREBLOCK(DEFAULT);
5635
5636         case KEY_do:
5637             s = SKIPSPACE1(s);
5638             if (*s == '{')
5639                 PRETERMBLOCK(DO);
5640             if (*s != '\'')
5641                 s = force_word(s,WORD,TRUE,TRUE,FALSE);
5642             if (orig_keyword == KEY_do) {
5643                 orig_keyword = 0;
5644                 yylval.ival = 1;
5645             }
5646             else
5647                 yylval.ival = 0;
5648             OPERATOR(DO);
5649
5650         case KEY_die:
5651             PL_hints |= HINT_BLOCK_SCOPE;
5652             LOP(OP_DIE,XTERM);
5653
5654         case KEY_defined:
5655             UNI(OP_DEFINED);
5656
5657         case KEY_delete:
5658             UNI(OP_DELETE);
5659
5660         case KEY_dbmopen:
5661             gv_fetchpvs("AnyDBM_File::ISA", GV_ADDMULTI, SVt_PVAV);
5662             LOP(OP_DBMOPEN,XTERM);
5663
5664         case KEY_dbmclose:
5665             UNI(OP_DBMCLOSE);
5666
5667         case KEY_dump:
5668             s = force_word(s,WORD,TRUE,FALSE,FALSE);
5669             LOOPX(OP_DUMP);
5670
5671         case KEY_else:
5672             PREBLOCK(ELSE);
5673
5674         case KEY_elsif:
5675             yylval.ival = CopLINE(PL_curcop);
5676             OPERATOR(ELSIF);
5677
5678         case KEY_eq:
5679             Eop(OP_SEQ);
5680
5681         case KEY_exists:
5682             UNI(OP_EXISTS);
5683
5684         case KEY_exit:
5685             if (PL_madskills)
5686                 UNI(OP_INT);
5687             UNI(OP_EXIT);
5688
5689         case KEY_eval:
5690             s = SKIPSPACE1(s);
5691             PL_expect = (*s == '{') ? XTERMBLOCK : XTERM;
5692             UNIBRACK(OP_ENTEREVAL);
5693
5694         case KEY_eof:
5695             UNI(OP_EOF);
5696
5697         case KEY_err:
5698             OPERATOR(DOROP);
5699
5700         case KEY_exp:
5701             UNI(OP_EXP);
5702
5703         case KEY_each:
5704             UNI(OP_EACH);
5705
5706         case KEY_exec:
5707             set_csh();
5708             LOP(OP_EXEC,XREF);
5709
5710         case KEY_endhostent:
5711             FUN0(OP_EHOSTENT);
5712
5713         case KEY_endnetent:
5714             FUN0(OP_ENETENT);
5715
5716         case KEY_endservent:
5717             FUN0(OP_ESERVENT);
5718
5719         case KEY_endprotoent:
5720             FUN0(OP_EPROTOENT);
5721
5722         case KEY_endpwent:
5723             FUN0(OP_EPWENT);
5724
5725         case KEY_endgrent:
5726             FUN0(OP_EGRENT);
5727
5728         case KEY_for:
5729         case KEY_foreach:
5730             yylval.ival = CopLINE(PL_curcop);
5731             s = SKIPSPACE1(s);
5732             if (PL_expect == XSTATE && isIDFIRST_lazy_if(s,UTF)) {
5733                 char *p = s;
5734 #ifdef PERL_MAD
5735                 int soff = s - SvPVX(PL_linestr); /* for skipspace realloc */
5736 #endif
5737
5738                 if ((PL_bufend - p) >= 3 &&
5739                     strnEQ(p, "my", 2) && isSPACE(*(p + 2)))
5740                     p += 2;
5741                 else if ((PL_bufend - p) >= 4 &&
5742                     strnEQ(p, "our", 3) && isSPACE(*(p + 3)))
5743                     p += 3;
5744                 p = PEEKSPACE(p);
5745                 if (isIDFIRST_lazy_if(p,UTF)) {
5746                     p = scan_ident(p, PL_bufend,
5747                         PL_tokenbuf, sizeof PL_tokenbuf, TRUE);
5748                     p = PEEKSPACE(p);
5749                 }
5750                 if (*p != '$')
5751                     Perl_croak(aTHX_ "Missing $ on loop variable");
5752 #ifdef PERL_MAD
5753                 s = SvPVX(PL_linestr) + soff;
5754 #endif
5755             }
5756             OPERATOR(FOR);
5757
5758         case KEY_formline:
5759             LOP(OP_FORMLINE,XTERM);
5760
5761         case KEY_fork:
5762             FUN0(OP_FORK);
5763
5764         case KEY_fcntl:
5765             LOP(OP_FCNTL,XTERM);
5766
5767         case KEY_fileno:
5768             UNI(OP_FILENO);
5769
5770         case KEY_flock:
5771             LOP(OP_FLOCK,XTERM);
5772
5773         case KEY_gt:
5774             Rop(OP_SGT);
5775
5776         case KEY_ge:
5777             Rop(OP_SGE);
5778
5779         case KEY_grep:
5780             LOP(OP_GREPSTART, XREF);
5781
5782         case KEY_goto:
5783             s = force_word(s,WORD,TRUE,FALSE,FALSE);
5784             LOOPX(OP_GOTO);
5785
5786         case KEY_gmtime:
5787             UNI(OP_GMTIME);
5788
5789         case KEY_getc:
5790             UNIDOR(OP_GETC);
5791
5792         case KEY_getppid:
5793             FUN0(OP_GETPPID);
5794
5795         case KEY_getpgrp:
5796             UNI(OP_GETPGRP);
5797
5798         case KEY_getpriority:
5799             LOP(OP_GETPRIORITY,XTERM);
5800
5801         case KEY_getprotobyname:
5802             UNI(OP_GPBYNAME);
5803
5804         case KEY_getprotobynumber:
5805             LOP(OP_GPBYNUMBER,XTERM);
5806
5807         case KEY_getprotoent:
5808             FUN0(OP_GPROTOENT);
5809
5810         case KEY_getpwent:
5811             FUN0(OP_GPWENT);
5812
5813         case KEY_getpwnam:
5814             UNI(OP_GPWNAM);
5815
5816         case KEY_getpwuid:
5817             UNI(OP_GPWUID);
5818
5819         case KEY_getpeername:
5820             UNI(OP_GETPEERNAME);
5821
5822         case KEY_gethostbyname:
5823             UNI(OP_GHBYNAME);
5824
5825         case KEY_gethostbyaddr:
5826             LOP(OP_GHBYADDR,XTERM);
5827
5828         case KEY_gethostent:
5829             FUN0(OP_GHOSTENT);
5830
5831         case KEY_getnetbyname:
5832             UNI(OP_GNBYNAME);
5833
5834         case KEY_getnetbyaddr:
5835             LOP(OP_GNBYADDR,XTERM);
5836
5837         case KEY_getnetent:
5838             FUN0(OP_GNETENT);
5839
5840         case KEY_getservbyname:
5841             LOP(OP_GSBYNAME,XTERM);
5842
5843         case KEY_getservbyport:
5844             LOP(OP_GSBYPORT,XTERM);
5845
5846         case KEY_getservent:
5847             FUN0(OP_GSERVENT);
5848
5849         case KEY_getsockname:
5850             UNI(OP_GETSOCKNAME);
5851
5852         case KEY_getsockopt:
5853             LOP(OP_GSOCKOPT,XTERM);
5854
5855         case KEY_getgrent:
5856             FUN0(OP_GGRENT);
5857
5858         case KEY_getgrnam:
5859             UNI(OP_GGRNAM);
5860
5861         case KEY_getgrgid:
5862             UNI(OP_GGRGID);
5863
5864         case KEY_getlogin:
5865             FUN0(OP_GETLOGIN);
5866
5867         case KEY_given:
5868             yylval.ival = CopLINE(PL_curcop);
5869             OPERATOR(GIVEN);
5870
5871         case KEY_glob:
5872             set_csh();
5873             LOP(OP_GLOB,XTERM);
5874
5875         case KEY_hex:
5876             UNI(OP_HEX);
5877
5878         case KEY_if:
5879             yylval.ival = CopLINE(PL_curcop);
5880             OPERATOR(IF);
5881
5882         case KEY_index:
5883             LOP(OP_INDEX,XTERM);
5884
5885         case KEY_int:
5886             UNI(OP_INT);
5887
5888         case KEY_ioctl:
5889             LOP(OP_IOCTL,XTERM);
5890
5891         case KEY_join:
5892             LOP(OP_JOIN,XTERM);
5893
5894         case KEY_keys:
5895             UNI(OP_KEYS);
5896
5897         case KEY_kill:
5898             LOP(OP_KILL,XTERM);
5899
5900         case KEY_last:
5901             s = force_word(s,WORD,TRUE,FALSE,FALSE);
5902             LOOPX(OP_LAST);
5903
5904         case KEY_lc:
5905             UNI(OP_LC);
5906
5907         case KEY_lcfirst:
5908             UNI(OP_LCFIRST);
5909
5910         case KEY_local:
5911             yylval.ival = 0;
5912             OPERATOR(LOCAL);
5913
5914         case KEY_length:
5915             UNI(OP_LENGTH);
5916
5917         case KEY_lt:
5918             Rop(OP_SLT);
5919
5920         case KEY_le:
5921             Rop(OP_SLE);
5922
5923         case KEY_localtime:
5924             UNI(OP_LOCALTIME);
5925
5926         case KEY_log:
5927             UNI(OP_LOG);
5928
5929         case KEY_link:
5930             LOP(OP_LINK,XTERM);
5931
5932         case KEY_listen:
5933             LOP(OP_LISTEN,XTERM);
5934
5935         case KEY_lock:
5936             UNI(OP_LOCK);
5937
5938         case KEY_lstat:
5939             UNI(OP_LSTAT);
5940
5941         case KEY_m:
5942             s = scan_pat(s,OP_MATCH);
5943             TERM(sublex_start());
5944
5945         case KEY_map:
5946             LOP(OP_MAPSTART, XREF);
5947
5948         case KEY_mkdir:
5949             LOP(OP_MKDIR,XTERM);
5950
5951         case KEY_msgctl:
5952             LOP(OP_MSGCTL,XTERM);
5953
5954         case KEY_msgget:
5955             LOP(OP_MSGGET,XTERM);
5956
5957         case KEY_msgrcv:
5958             LOP(OP_MSGRCV,XTERM);
5959
5960         case KEY_msgsnd:
5961             LOP(OP_MSGSND,XTERM);
5962
5963         case KEY_our:
5964         case KEY_my:
5965             PL_in_my = tmp;
5966             s = SKIPSPACE1(s);
5967             if (isIDFIRST_lazy_if(s,UTF)) {
5968 #ifdef PERL_MAD
5969                 char* start = s;
5970 #endif
5971                 s = scan_word(s, PL_tokenbuf, sizeof PL_tokenbuf, TRUE, &len);
5972                 if (len == 3 && strnEQ(PL_tokenbuf, "sub", 3))
5973                     goto really_sub;
5974                 PL_in_my_stash = find_in_my_stash(PL_tokenbuf, len);
5975                 if (!PL_in_my_stash) {
5976                     char tmpbuf[1024];
5977                     PL_bufptr = s;
5978 #ifdef USE_SNPRINTF
5979                     snprintf(tmpbuf, sizeof(tmpbuf), "No such class %.1000s", PL_tokenbuf);
5980 #else
5981                     sprintf(tmpbuf, "No such class %.1000s", PL_tokenbuf);
5982 #endif /* #ifdef USE_SNPRINTF */
5983                     yyerror(tmpbuf);
5984                 }
5985 #ifdef PERL_MAD
5986                 if (PL_madskills) {     /* just add type to declarator token */
5987                     sv_catsv(PL_thistoken, PL_nextwhite);
5988                     PL_nextwhite = 0;
5989                     sv_catpvn(PL_thistoken, start, s - start);
5990                 }
5991 #endif
5992             }
5993             yylval.ival = 1;
5994             OPERATOR(MY);
5995
5996         case KEY_next:
5997             s = force_word(s,WORD,TRUE,FALSE,FALSE);
5998             LOOPX(OP_NEXT);
5999
6000         case KEY_ne:
6001             Eop(OP_SNE);
6002
6003         case KEY_no:
6004             s = tokenize_use(0, s);
6005             OPERATOR(USE);
6006
6007         case KEY_not:
6008             if (*s == '(' || (s = SKIPSPACE1(s), *s == '('))
6009                 FUN1(OP_NOT);
6010             else
6011                 OPERATOR(NOTOP);
6012
6013         case KEY_open:
6014             s = SKIPSPACE1(s);
6015             if (isIDFIRST_lazy_if(s,UTF)) {
6016                 const char *t;
6017                 for (d = s; isALNUM_lazy_if(d,UTF); d++) ;
6018                 for (t=d; *t && isSPACE(*t); t++) ;
6019                 if ( *t && strchr("|&*+-=!?:.", *t) && ckWARN_d(WARN_PRECEDENCE)
6020                     /* [perl #16184] */
6021                     && !(t[0] == '=' && t[1] == '>')
6022                 ) {
6023                     int parms_len = (int)(d-s);
6024                     Perl_warner(aTHX_ packWARN(WARN_PRECEDENCE),
6025                            "Precedence problem: open %.*s should be open(%.*s)",
6026                             parms_len, s, parms_len, s);
6027                 }
6028             }
6029             LOP(OP_OPEN,XTERM);
6030
6031         case KEY_or:
6032             yylval.ival = OP_OR;
6033             OPERATOR(OROP);
6034
6035         case KEY_ord:
6036             UNI(OP_ORD);
6037
6038         case KEY_oct:
6039             UNI(OP_OCT);
6040
6041         case KEY_opendir:
6042             LOP(OP_OPEN_DIR,XTERM);
6043
6044         case KEY_print:
6045             checkcomma(s,PL_tokenbuf,"filehandle");
6046             LOP(OP_PRINT,XREF);
6047
6048         case KEY_printf:
6049             checkcomma(s,PL_tokenbuf,"filehandle");
6050             LOP(OP_PRTF,XREF);
6051
6052         case KEY_prototype:
6053             UNI(OP_PROTOTYPE);
6054
6055         case KEY_push:
6056             LOP(OP_PUSH,XTERM);
6057
6058         case KEY_pop:
6059             UNIDOR(OP_POP);
6060
6061         case KEY_pos:
6062             UNIDOR(OP_POS);
6063
6064         case KEY_pack:
6065             LOP(OP_PACK,XTERM);
6066
6067         case KEY_package:
6068             s = force_word(s,WORD,FALSE,TRUE,FALSE);
6069             OPERATOR(PACKAGE);
6070
6071         case KEY_pipe:
6072             LOP(OP_PIPE_OP,XTERM);
6073
6074         case KEY_q:
6075             s = scan_str(s,!!PL_madskills,FALSE);
6076             if (!s)
6077                 missingterm(NULL);
6078             yylval.ival = OP_CONST;
6079             TERM(sublex_start());
6080
6081         case KEY_quotemeta:
6082             UNI(OP_QUOTEMETA);
6083
6084         case KEY_qw:
6085             s = scan_str(s,!!PL_madskills,FALSE);
6086             if (!s)
6087                 missingterm(NULL);
6088             PL_expect = XOPERATOR;
6089             force_next(')');
6090             if (SvCUR(PL_lex_stuff)) {
6091                 OP *words = NULL;
6092                 int warned = 0;
6093                 d = SvPV_force(PL_lex_stuff, len);
6094                 while (len) {
6095                     for (; isSPACE(*d) && len; --len, ++d)
6096                         /**/;
6097                     if (len) {
6098                         SV *sv;
6099                         const char *b = d;
6100                         if (!warned && ckWARN(WARN_QW)) {
6101                             for (; !isSPACE(*d) && len; --len, ++d) {
6102                                 if (*d == ',') {
6103                                     Perl_warner(aTHX_ packWARN(WARN_QW),
6104                                         "Possible attempt to separate words with commas");
6105                                     ++warned;
6106                                 }
6107                                 else if (*d == '#') {
6108                                     Perl_warner(aTHX_ packWARN(WARN_QW),
6109                                         "Possible attempt to put comments in qw() list");
6110                                     ++warned;
6111                                 }
6112                             }
6113                         }
6114                         else {
6115                             for (; !isSPACE(*d) && len; --len, ++d)
6116                                 /**/;
6117                         }
6118                         sv = newSVpvn(b, d-b);
6119                         if (DO_UTF8(PL_lex_stuff))
6120                             SvUTF8_on(sv);
6121                         words = append_elem(OP_LIST, words,
6122                                             newSVOP(OP_CONST, 0, tokeq(sv)));
6123                     }
6124                 }
6125                 if (words) {
6126                     start_force(PL_curforce);
6127                     NEXTVAL_NEXTTOKE.opval = words;
6128                     force_next(THING);
6129                 }
6130             }
6131             if (PL_lex_stuff) {
6132                 SvREFCNT_dec(PL_lex_stuff);
6133                 PL_lex_stuff = NULL;
6134             }
6135             PL_expect = XTERM;
6136             TOKEN('(');
6137
6138         case KEY_qq:
6139             s = scan_str(s,!!PL_madskills,FALSE);
6140             if (!s)
6141                 missingterm(NULL);
6142             yylval.ival = OP_STRINGIFY;
6143             if (SvIVX(PL_lex_stuff) == '\'')
6144                 SvIV_set(PL_lex_stuff, 0);      /* qq'$foo' should intepolate */
6145             TERM(sublex_start());
6146
6147         case KEY_qr:
6148             s = scan_pat(s,OP_QR);
6149             TERM(sublex_start());
6150
6151         case KEY_qx:
6152             s = scan_str(s,!!PL_madskills,FALSE);
6153             if (!s)
6154                 missingterm(NULL);
6155             yylval.ival = OP_BACKTICK;
6156             set_csh();
6157             TERM(sublex_start());
6158
6159         case KEY_return:
6160             OLDLOP(OP_RETURN);
6161
6162         case KEY_require:
6163             s = SKIPSPACE1(s);
6164             if (isDIGIT(*s)) {
6165                 s = force_version(s, FALSE);
6166             }
6167             else if (*s != 'v' || !isDIGIT(s[1])
6168                     || (s = force_version(s, TRUE), *s == 'v'))
6169             {
6170                 *PL_tokenbuf = '\0';
6171                 s = force_word(s,WORD,TRUE,TRUE,FALSE);
6172                 if (isIDFIRST_lazy_if(PL_tokenbuf,UTF))
6173                     gv_stashpvn(PL_tokenbuf, strlen(PL_tokenbuf), TRUE);
6174                 else if (*s == '<')
6175                     yyerror("<> should be quotes");
6176             }
6177             if (orig_keyword == KEY_require) {
6178                 orig_keyword = 0;
6179                 yylval.ival = 1;
6180             }
6181             else
6182                 yylval.ival = 0;
6183             PL_expect = XTERM;
6184             PL_bufptr = s;
6185             PL_last_uni = PL_oldbufptr;
6186             PL_last_lop_op = OP_REQUIRE;
6187             s = skipspace(s);
6188             return REPORT( (int)REQUIRE );
6189
6190         case KEY_reset:
6191             UNI(OP_RESET);
6192
6193         case KEY_redo:
6194             s = force_word(s,WORD,TRUE,FALSE,FALSE);
6195             LOOPX(OP_REDO);
6196
6197         case KEY_rename:
6198             LOP(OP_RENAME,XTERM);
6199
6200         case KEY_rand:
6201             UNI(OP_RAND);
6202
6203         case KEY_rmdir:
6204             UNI(OP_RMDIR);
6205
6206         case KEY_rindex:
6207             LOP(OP_RINDEX,XTERM);
6208
6209         case KEY_read:
6210             LOP(OP_READ,XTERM);
6211
6212         case KEY_readdir:
6213             UNI(OP_READDIR);
6214
6215         case KEY_readline:
6216             set_csh();
6217             UNIDOR(OP_READLINE);
6218
6219         case KEY_readpipe:
6220             set_csh();
6221             UNI(OP_BACKTICK);
6222
6223         case KEY_rewinddir:
6224             UNI(OP_REWINDDIR);
6225
6226         case KEY_recv:
6227             LOP(OP_RECV,XTERM);
6228
6229         case KEY_reverse:
6230             LOP(OP_REVERSE,XTERM);
6231
6232         case KEY_readlink:
6233             UNIDOR(OP_READLINK);
6234
6235         case KEY_ref:
6236             UNI(OP_REF);
6237
6238         case KEY_s:
6239             s = scan_subst(s);
6240             if (yylval.opval)
6241                 TERM(sublex_start());
6242             else
6243                 TOKEN(1);       /* force error */
6244
6245         case KEY_say:
6246             checkcomma(s,PL_tokenbuf,"filehandle");
6247             LOP(OP_SAY,XREF);
6248
6249         case KEY_chomp:
6250             UNI(OP_CHOMP);
6251
6252         case KEY_scalar:
6253             UNI(OP_SCALAR);
6254
6255         case KEY_select:
6256             LOP(OP_SELECT,XTERM);
6257
6258         case KEY_seek:
6259             LOP(OP_SEEK,XTERM);
6260
6261         case KEY_semctl:
6262             LOP(OP_SEMCTL,XTERM);
6263
6264         case KEY_semget:
6265             LOP(OP_SEMGET,XTERM);
6266
6267         case KEY_semop:
6268             LOP(OP_SEMOP,XTERM);
6269
6270         case KEY_send:
6271             LOP(OP_SEND,XTERM);
6272
6273         case KEY_setpgrp:
6274             LOP(OP_SETPGRP,XTERM);
6275
6276         case KEY_setpriority:
6277             LOP(OP_SETPRIORITY,XTERM);
6278
6279         case KEY_sethostent:
6280             UNI(OP_SHOSTENT);
6281
6282         case KEY_setnetent:
6283             UNI(OP_SNETENT);
6284
6285         case KEY_setservent:
6286             UNI(OP_SSERVENT);
6287
6288         case KEY_setprotoent:
6289             UNI(OP_SPROTOENT);
6290
6291         case KEY_setpwent:
6292             FUN0(OP_SPWENT);
6293
6294         case KEY_setgrent:
6295             FUN0(OP_SGRENT);
6296
6297         case KEY_seekdir:
6298             LOP(OP_SEEKDIR,XTERM);
6299
6300         case KEY_setsockopt:
6301             LOP(OP_SSOCKOPT,XTERM);
6302
6303         case KEY_shift:
6304             UNIDOR(OP_SHIFT);
6305
6306         case KEY_shmctl:
6307             LOP(OP_SHMCTL,XTERM);
6308
6309         case KEY_shmget:
6310             LOP(OP_SHMGET,XTERM);
6311
6312         case KEY_shmread:
6313             LOP(OP_SHMREAD,XTERM);
6314
6315         case KEY_shmwrite:
6316             LOP(OP_SHMWRITE,XTERM);
6317
6318         case KEY_shutdown:
6319             LOP(OP_SHUTDOWN,XTERM);
6320
6321         case KEY_sin:
6322             UNI(OP_SIN);
6323
6324         case KEY_sleep:
6325             UNI(OP_SLEEP);
6326
6327         case KEY_socket:
6328             LOP(OP_SOCKET,XTERM);
6329
6330         case KEY_socketpair:
6331             LOP(OP_SOCKPAIR,XTERM);
6332
6333         case KEY_sort:
6334             checkcomma(s,PL_tokenbuf,"subroutine name");
6335             s = SKIPSPACE1(s);
6336             if (*s == ';' || *s == ')')         /* probably a close */
6337                 Perl_croak(aTHX_ "sort is now a reserved word");
6338             PL_expect = XTERM;
6339             s = force_word(s,WORD,TRUE,TRUE,FALSE);
6340             LOP(OP_SORT,XREF);
6341
6342         case KEY_split:
6343             LOP(OP_SPLIT,XTERM);
6344
6345         case KEY_sprintf:
6346             LOP(OP_SPRINTF,XTERM);
6347
6348         case KEY_splice:
6349             LOP(OP_SPLICE,XTERM);
6350
6351         case KEY_sqrt:
6352             UNI(OP_SQRT);
6353
6354         case KEY_srand:
6355             UNI(OP_SRAND);
6356
6357         case KEY_stat:
6358             UNI(OP_STAT);
6359
6360         case KEY_study:
6361             UNI(OP_STUDY);
6362
6363         case KEY_substr:
6364             LOP(OP_SUBSTR,XTERM);
6365
6366         case KEY_format:
6367         case KEY_sub:
6368           really_sub:
6369             {
6370                 char tmpbuf[sizeof PL_tokenbuf];
6371                 SSize_t tboffset = 0;
6372                 expectation attrful;
6373                 bool have_name, have_proto, bad_proto;
6374                 const int key = tmp;
6375
6376 #ifdef PERL_MAD
6377                 SV *tmpwhite = 0;
6378
6379                 char *tstart = SvPVX(PL_linestr) + PL_realtokenstart;
6380                 SV *subtoken = newSVpvn(tstart, s - tstart);
6381                 PL_thistoken = 0;
6382
6383                 d = s;
6384                 s = SKIPSPACE2(s,tmpwhite);
6385 #else
6386                 s = skipspace(s);
6387 #endif
6388
6389                 if (isIDFIRST_lazy_if(s,UTF) || *s == '\'' ||
6390                     (*s == ':' && s[1] == ':'))
6391                 {
6392 #ifdef PERL_MAD
6393                     SV *nametoke;
6394 #endif
6395
6396                     PL_expect = XBLOCK;
6397                     attrful = XATTRBLOCK;
6398                     /* remember buffer pos'n for later force_word */
6399                     tboffset = s - PL_oldbufptr;
6400                     d = scan_word(s, tmpbuf, sizeof tmpbuf, TRUE, &len);
6401 #ifdef PERL_MAD
6402                     if (PL_madskills)
6403                         nametoke = newSVpvn(s, d - s);
6404 #endif
6405                     if (strchr(tmpbuf, ':'))
6406                         sv_setpv(PL_subname, tmpbuf);
6407                     else {
6408                         sv_setsv(PL_subname,PL_curstname);
6409                         sv_catpvs(PL_subname,"::");
6410                         sv_catpvn(PL_subname,tmpbuf,len);
6411                     }
6412                     have_name = TRUE;
6413
6414 #ifdef PERL_MAD
6415
6416                     start_force(0);
6417                     CURMAD('X', nametoke);
6418                     CURMAD('_', tmpwhite);
6419                     (void) force_word(PL_oldbufptr + tboffset, WORD,
6420                                       FALSE, TRUE, TRUE);
6421
6422                     s = SKIPSPACE2(d,tmpwhite);
6423 #else
6424                     s = skipspace(d);
6425 #endif
6426                 }
6427                 else {
6428                     if (key == KEY_my)
6429                         Perl_croak(aTHX_ "Missing name in \"my sub\"");
6430                     PL_expect = XTERMBLOCK;
6431                     attrful = XATTRTERM;
6432                     sv_setpvn(PL_subname,"?",1);
6433                     have_name = FALSE;
6434                 }
6435
6436                 if (key == KEY_format) {
6437                     if (*s == '=')
6438                         PL_lex_formbrack = PL_lex_brackets + 1;
6439 #ifdef PERL_MAD
6440                     PL_thistoken = subtoken;
6441                     s = d;
6442 #else
6443                     if (have_name)
6444                         (void) force_word(PL_oldbufptr + tboffset, WORD,
6445                                           FALSE, TRUE, TRUE);
6446 #endif
6447                     OPERATOR(FORMAT);
6448                 }
6449
6450                 /* Look for a prototype */
6451                 if (*s == '(') {
6452                     char *p;
6453
6454                     s = scan_str(s,!!PL_madskills,FALSE);
6455                     if (!s)
6456                         Perl_croak(aTHX_ "Prototype not terminated");
6457                     /* strip spaces and check for bad characters */
6458                     d = SvPVX(PL_lex_stuff);
6459                     tmp = 0;
6460                     bad_proto = FALSE;
6461                     for (p = d; *p; ++p) {
6462                         if (!isSPACE(*p)) {
6463                             d[tmp++] = *p;
6464                             if (!strchr("$@%*;[]&\\", *p))
6465                                 bad_proto = TRUE;
6466                         }
6467                     }
6468                     d[tmp] = '\0';
6469                     if (bad_proto && ckWARN(WARN_SYNTAX))
6470                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
6471                                     "Illegal character in prototype for %"SVf" : %s",
6472                                     PL_subname, d);
6473                     SvCUR_set(PL_lex_stuff, tmp);
6474                     have_proto = TRUE;
6475
6476 #ifdef PERL_MAD
6477                     start_force(0);
6478                     CURMAD('q', PL_thisopen);
6479                     CURMAD('_', tmpwhite);
6480                     CURMAD('=', PL_thisstuff);
6481                     CURMAD('Q', PL_thisclose);
6482                     NEXTVAL_NEXTTOKE.opval =
6483                         (OP*)newSVOP(OP_CONST, 0, PL_lex_stuff);
6484                     PL_lex_stuff = Nullsv;
6485                     force_next(THING);
6486
6487                     s = SKIPSPACE2(s,tmpwhite);
6488 #else
6489                     s = skipspace(s);
6490 #endif
6491                 }
6492                 else
6493                     have_proto = FALSE;
6494
6495                 if (*s == ':' && s[1] != ':')
6496                     PL_expect = attrful;
6497                 else if (*s != '{' && key == KEY_sub) {
6498                     if (!have_name)
6499                         Perl_croak(aTHX_ "Illegal declaration of anonymous subroutine");
6500                     else if (*s != ';')
6501                         Perl_croak(aTHX_ "Illegal declaration of subroutine %"SVf, PL_subname);
6502                 }
6503
6504 #ifdef PERL_MAD
6505                 start_force(0);
6506                 if (tmpwhite) {
6507                     if (PL_madskills)
6508                         curmad('^', newSVpvn("",0));
6509                     CURMAD('_', tmpwhite);
6510                 }
6511                 force_next(0);
6512
6513                 PL_thistoken = subtoken;
6514 #else
6515                 if (have_proto) {
6516                     NEXTVAL_NEXTTOKE.opval =
6517                         (OP*)newSVOP(OP_CONST, 0, PL_lex_stuff);
6518                     PL_lex_stuff = NULL;
6519                     force_next(THING);
6520                 }
6521 #endif
6522                 if (!have_name) {
6523                     sv_setpv(PL_subname,
6524                         PL_curstash ? "__ANON__" : "__ANON__::__ANON__");
6525                     TOKEN(ANONSUB);
6526                 }
6527 #ifndef PERL_MAD
6528                 (void) force_word(PL_oldbufptr + tboffset, WORD,
6529                                   FALSE, TRUE, TRUE);
6530 #endif
6531                 if (key == KEY_my)
6532                     TOKEN(MYSUB);
6533                 TOKEN(SUB);
6534             }
6535
6536         case KEY_system:
6537             set_csh();
6538             LOP(OP_SYSTEM,XREF);
6539
6540         case KEY_symlink:
6541             LOP(OP_SYMLINK,XTERM);
6542
6543         case KEY_syscall:
6544             LOP(OP_SYSCALL,XTERM);
6545
6546         case KEY_sysopen:
6547             LOP(OP_SYSOPEN,XTERM);
6548
6549         case KEY_sysseek:
6550             LOP(OP_SYSSEEK,XTERM);
6551
6552         case KEY_sysread:
6553             LOP(OP_SYSREAD,XTERM);
6554
6555         case KEY_syswrite:
6556             LOP(OP_SYSWRITE,XTERM);
6557
6558         case KEY_tr:
6559             s = scan_trans(s);
6560             TERM(sublex_start());
6561
6562         case KEY_tell:
6563             UNI(OP_TELL);
6564
6565         case KEY_telldir:
6566             UNI(OP_TELLDIR);
6567
6568         case KEY_tie:
6569             LOP(OP_TIE,XTERM);
6570
6571         case KEY_tied:
6572             UNI(OP_TIED);
6573
6574         case KEY_time:
6575             FUN0(OP_TIME);
6576
6577         case KEY_times:
6578             FUN0(OP_TMS);
6579
6580         case KEY_truncate:
6581             LOP(OP_TRUNCATE,XTERM);
6582
6583         case KEY_uc:
6584             UNI(OP_UC);
6585
6586         case KEY_ucfirst:
6587             UNI(OP_UCFIRST);
6588
6589         case KEY_untie:
6590             UNI(OP_UNTIE);
6591
6592         case KEY_until:
6593             yylval.ival = CopLINE(PL_curcop);
6594             OPERATOR(UNTIL);
6595
6596         case KEY_unless:
6597             yylval.ival = CopLINE(PL_curcop);
6598             OPERATOR(UNLESS);
6599
6600         case KEY_unlink:
6601             LOP(OP_UNLINK,XTERM);
6602
6603         case KEY_undef:
6604             UNIDOR(OP_UNDEF);
6605
6606         case KEY_unpack:
6607             LOP(OP_UNPACK,XTERM);
6608
6609         case KEY_utime:
6610             LOP(OP_UTIME,XTERM);
6611
6612         case KEY_umask:
6613             UNIDOR(OP_UMASK);
6614
6615         case KEY_unshift:
6616             LOP(OP_UNSHIFT,XTERM);
6617
6618         case KEY_use:
6619             s = tokenize_use(1, s);
6620             OPERATOR(USE);
6621
6622         case KEY_values:
6623             UNI(OP_VALUES);
6624
6625         case KEY_vec:
6626             LOP(OP_VEC,XTERM);
6627
6628         case KEY_when:
6629             yylval.ival = CopLINE(PL_curcop);
6630             OPERATOR(WHEN);
6631
6632         case KEY_while:
6633             yylval.ival = CopLINE(PL_curcop);
6634             OPERATOR(WHILE);
6635
6636         case KEY_warn:
6637             PL_hints |= HINT_BLOCK_SCOPE;
6638             LOP(OP_WARN,XTERM);
6639
6640         case KEY_wait:
6641             FUN0(OP_WAIT);
6642
6643         case KEY_waitpid:
6644             LOP(OP_WAITPID,XTERM);
6645
6646         case KEY_wantarray:
6647             FUN0(OP_WANTARRAY);
6648
6649         case KEY_write:
6650 #ifdef EBCDIC
6651         {
6652             char ctl_l[2];
6653             ctl_l[0] = toCTRL('L');
6654             ctl_l[1] = '\0';
6655             gv_fetchpvn_flags(ctl_l, 1, GV_ADD|GV_NOTQUAL, SVt_PV);
6656         }
6657 #else
6658             /* Make sure $^L is defined */
6659             gv_fetchpvs("\f", GV_ADD|GV_NOTQUAL, SVt_PV);
6660 #endif
6661             UNI(OP_ENTERWRITE);
6662
6663         case KEY_x:
6664             if (PL_expect == XOPERATOR)
6665                 Mop(OP_REPEAT);
6666             check_uni();
6667             goto just_a_word;
6668
6669         case KEY_xor:
6670             yylval.ival = OP_XOR;
6671             OPERATOR(OROP);
6672
6673         case KEY_y:
6674             s = scan_trans(s);
6675             TERM(sublex_start());
6676         }
6677     }}
6678 }
6679 #ifdef __SC__
6680 #pragma segment Main
6681 #endif
6682
6683 static int
6684 S_pending_ident(pTHX)
6685 {
6686     dVAR;
6687     register char *d;
6688     register PADOFFSET tmp = 0;
6689     /* pit holds the identifier we read and pending_ident is reset */
6690     char pit = PL_pending_ident;
6691     PL_pending_ident = 0;
6692
6693     /* PL_realtokenstart = realtokenend = PL_bufptr - SvPVX(PL_linestr); */
6694     DEBUG_T({ PerlIO_printf(Perl_debug_log,
6695           "### Pending identifier '%s'\n", PL_tokenbuf); });
6696
6697     /* if we're in a my(), we can't allow dynamics here.
6698        $foo'bar has already been turned into $foo::bar, so
6699        just check for colons.
6700
6701        if it's a legal name, the OP is a PADANY.
6702     */
6703     if (PL_in_my) {
6704         if (PL_in_my == KEY_our) {      /* "our" is merely analogous to "my" */
6705             if (strchr(PL_tokenbuf,':'))
6706                 yyerror(Perl_form(aTHX_ "No package name allowed for "
6707                                   "variable %s in \"our\"",
6708                                   PL_tokenbuf));
6709             tmp = allocmy(PL_tokenbuf);
6710         }
6711         else {
6712             if (strchr(PL_tokenbuf,':'))
6713                 yyerror(Perl_form(aTHX_ PL_no_myglob,PL_tokenbuf));
6714
6715             yylval.opval = newOP(OP_PADANY, 0);
6716             yylval.opval->op_targ = allocmy(PL_tokenbuf);
6717             return PRIVATEREF;
6718         }
6719     }
6720
6721     /*
6722        build the ops for accesses to a my() variable.
6723
6724        Deny my($a) or my($b) in a sort block, *if* $a or $b is
6725        then used in a comparison.  This catches most, but not
6726        all cases.  For instance, it catches
6727            sort { my($a); $a <=> $b }
6728        but not
6729            sort { my($a); $a < $b ? -1 : $a == $b ? 0 : 1; }
6730        (although why you'd do that is anyone's guess).
6731     */
6732
6733     if (!strchr(PL_tokenbuf,':')) {
6734         if (!PL_in_my)
6735             tmp = pad_findmy(PL_tokenbuf);
6736         if (tmp != NOT_IN_PAD) {
6737             /* might be an "our" variable" */
6738             if (PAD_COMPNAME_FLAGS_isOUR(tmp)) {
6739                 /* build ops for a bareword */
6740                 HV *  const stash = PAD_COMPNAME_OURSTASH(tmp);
6741                 HEK * const stashname = HvNAME_HEK(stash);
6742                 SV *  const sym = newSVhek(stashname);
6743                 sv_catpvs(sym, "::");
6744                 sv_catpv(sym, PL_tokenbuf+1);
6745                 yylval.opval = (OP*)newSVOP(OP_CONST, 0, sym);
6746                 yylval.opval->op_private = OPpCONST_ENTERED;
6747                 gv_fetchsv(sym,
6748                     (PL_in_eval
6749                         ? (GV_ADDMULTI | GV_ADDINEVAL)
6750                         : GV_ADDMULTI
6751                     ),
6752                     ((PL_tokenbuf[0] == '$') ? SVt_PV
6753                      : (PL_tokenbuf[0] == '@') ? SVt_PVAV
6754                      : SVt_PVHV));
6755                 return WORD;
6756             }
6757
6758             /* if it's a sort block and they're naming $a or $b */
6759             if (PL_last_lop_op == OP_SORT &&
6760                 PL_tokenbuf[0] == '$' &&
6761                 (PL_tokenbuf[1] == 'a' || PL_tokenbuf[1] == 'b')
6762                 && !PL_tokenbuf[2])
6763             {
6764                 for (d = PL_in_eval ? PL_oldoldbufptr : PL_linestart;
6765                      d < PL_bufend && *d != '\n';
6766                      d++)
6767                 {
6768                     if (strnEQ(d,"<=>",3) || strnEQ(d,"cmp",3)) {
6769                         Perl_croak(aTHX_ "Can't use \"my %s\" in sort comparison",
6770                               PL_tokenbuf);
6771                     }
6772                 }
6773             }
6774
6775             yylval.opval = newOP(OP_PADANY, 0);
6776             yylval.opval->op_targ = tmp;
6777             return PRIVATEREF;
6778         }
6779     }
6780
6781     /*
6782        Whine if they've said @foo in a doublequoted string,
6783        and @foo isn't a variable we can find in the symbol
6784        table.
6785     */
6786     if (pit == '@' && PL_lex_state != LEX_NORMAL && !PL_lex_brackets) {
6787         GV *gv = gv_fetchpv(PL_tokenbuf+1, 0, SVt_PVAV);
6788         if ((!gv || ((PL_tokenbuf[0] == '@') ? !GvAV(gv) : !GvHV(gv)))
6789              && ckWARN(WARN_AMBIGUOUS))
6790         {
6791             /* Downgraded from fatal to warning 20000522 mjd */
6792             Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
6793                         "Possible unintended interpolation of %s in string",
6794                          PL_tokenbuf);
6795         }
6796     }
6797
6798     /* build ops for a bareword */
6799     yylval.opval = (OP*)newSVOP(OP_CONST, 0, newSVpv(PL_tokenbuf+1, 0));
6800     yylval.opval->op_private = OPpCONST_ENTERED;
6801     gv_fetchpv(
6802             PL_tokenbuf+1,
6803             /* If the identifier refers to a stash, don't autovivify it.
6804              * Change 24660 had the side effect of causing symbol table
6805              * hashes to always be defined, even if they were freshly
6806              * created and the only reference in the entire program was
6807              * the single statement with the defined %foo::bar:: test.
6808              * It appears that all code in the wild doing this actually
6809              * wants to know whether sub-packages have been loaded, so
6810              * by avoiding auto-vivifying symbol tables, we ensure that
6811              * defined %foo::bar:: continues to be false, and the existing
6812              * tests still give the expected answers, even though what
6813              * they're actually testing has now changed subtly.
6814              */
6815             (*PL_tokenbuf == '%' && *(d = PL_tokenbuf + strlen(PL_tokenbuf) - 1) == ':' && d[-1] == ':'
6816              ? 0
6817              : PL_in_eval ? (GV_ADDMULTI | GV_ADDINEVAL) : GV_ADD),
6818             ((PL_tokenbuf[0] == '$') ? SVt_PV
6819              : (PL_tokenbuf[0] == '@') ? SVt_PVAV
6820              : SVt_PVHV));
6821     return WORD;
6822 }
6823
6824 /*
6825  *  The following code was generated by perl_keyword.pl.
6826  */
6827
6828 I32
6829 Perl_keyword (pTHX_ const char *name, I32 len)
6830 {
6831   dVAR;
6832   switch (len)
6833   {
6834     case 1: /* 5 tokens of length 1 */
6835       switch (name[0])
6836       {
6837         case 'm':
6838           {                                       /* m          */
6839             return KEY_m;
6840           }
6841
6842         case 'q':
6843           {                                       /* q          */
6844             return KEY_q;
6845           }
6846
6847         case 's':
6848           {                                       /* s          */
6849             return KEY_s;
6850           }
6851
6852         case 'x':
6853           {                                       /* x          */
6854             return -KEY_x;
6855           }
6856
6857         case 'y':
6858           {                                       /* y          */
6859             return KEY_y;
6860           }
6861
6862         default:
6863           goto unknown;
6864       }
6865
6866     case 2: /* 18 tokens of length 2 */
6867       switch (name[0])
6868       {
6869         case 'd':
6870           if (name[1] == 'o')
6871           {                                       /* do         */
6872             return KEY_do;
6873           }
6874
6875           goto unknown;
6876
6877         case 'e':
6878           if (name[1] == 'q')
6879           {                                       /* eq         */
6880             return -KEY_eq;
6881           }
6882
6883           goto unknown;
6884
6885         case 'g':
6886           switch (name[1])
6887           {
6888             case 'e':
6889               {                                   /* ge         */
6890                 return -KEY_ge;
6891               }
6892
6893             case 't':
6894               {                                   /* gt         */
6895                 return -KEY_gt;
6896               }
6897
6898             default:
6899               goto unknown;
6900           }
6901
6902         case 'i':
6903           if (name[1] == 'f')
6904           {                                       /* if         */
6905             return KEY_if;
6906           }
6907
6908           goto unknown;
6909
6910         case 'l':
6911           switch (name[1])
6912           {
6913             case 'c':
6914               {                                   /* lc         */
6915                 return -KEY_lc;
6916               }
6917
6918             case 'e':
6919               {                                   /* le         */
6920                 return -KEY_le;
6921               }
6922
6923             case 't':
6924               {                                   /* lt         */
6925                 return -KEY_lt;
6926               }
6927
6928             default:
6929               goto unknown;
6930           }
6931
6932         case 'm':
6933           if (name[1] == 'y')
6934           {                                       /* my         */
6935             return KEY_my;
6936           }
6937
6938           goto unknown;
6939
6940         case 'n':
6941           switch (name[1])
6942           {
6943             case 'e':
6944               {                                   /* ne         */
6945                 return -KEY_ne;
6946               }
6947
6948             case 'o':
6949               {                                   /* no         */
6950                 return KEY_no;
6951               }
6952
6953             default:
6954               goto unknown;
6955           }
6956
6957         case 'o':
6958           if (name[1] == 'r')
6959           {                                       /* or         */
6960             return -KEY_or;
6961           }
6962
6963           goto unknown;
6964
6965         case 'q':
6966           switch (name[1])
6967           {
6968             case 'q':
6969               {                                   /* qq         */
6970                 return KEY_qq;
6971               }
6972
6973             case 'r':
6974               {                                   /* qr         */
6975                 return KEY_qr;
6976               }
6977
6978             case 'w':
6979               {                                   /* qw         */
6980                 return KEY_qw;
6981               }
6982
6983             case 'x':
6984               {                                   /* qx         */
6985                 return KEY_qx;
6986               }
6987
6988             default:
6989               goto unknown;
6990           }
6991
6992         case 't':
6993           if (name[1] == 'r')
6994           {                                       /* tr         */
6995             return KEY_tr;
6996           }
6997
6998           goto unknown;
6999
7000         case 'u':
7001           if (name[1] == 'c')
7002           {                                       /* uc         */
7003             return -KEY_uc;
7004           }
7005
7006           goto unknown;
7007
7008         default:
7009           goto unknown;
7010       }
7011
7012     case 3: /* 29 tokens of length 3 */
7013       switch (name[0])
7014       {
7015         case 'E':
7016           if (name[1] == 'N' &&
7017               name[2] == 'D')
7018           {                                       /* END        */
7019             return KEY_END;
7020           }
7021
7022           goto unknown;
7023
7024         case 'a':
7025           switch (name[1])
7026           {
7027             case 'b':
7028               if (name[2] == 's')
7029               {                                   /* abs        */
7030                 return -KEY_abs;
7031               }
7032
7033               goto unknown;
7034
7035             case 'n':
7036               if (name[2] == 'd')
7037               {                                   /* and        */
7038                 return -KEY_and;
7039               }
7040
7041               goto unknown;
7042
7043             default:
7044               goto unknown;
7045           }
7046
7047         case 'c':
7048           switch (name[1])
7049           {
7050             case 'h':
7051               if (name[2] == 'r')
7052               {                                   /* chr        */
7053                 return -KEY_chr;
7054               }
7055
7056               goto unknown;
7057
7058             case 'm':
7059               if (name[2] == 'p')
7060               {                                   /* cmp        */
7061                 return -KEY_cmp;
7062               }
7063
7064               goto unknown;
7065
7066             case 'o':
7067               if (name[2] == 's')
7068               {                                   /* cos        */
7069                 return -KEY_cos;
7070               }
7071
7072               goto unknown;
7073
7074             default:
7075               goto unknown;
7076           }
7077
7078         case 'd':
7079           if (name[1] == 'i' &&
7080               name[2] == 'e')
7081           {                                       /* die        */
7082             return -KEY_die;
7083           }
7084
7085           goto unknown;
7086
7087         case 'e':
7088           switch (name[1])
7089           {
7090             case 'o':
7091               if (name[2] == 'f')
7092               {                                   /* eof        */
7093                 return -KEY_eof;
7094               }
7095
7096               goto unknown;
7097
7098             case 'r':
7099               if (name[2] == 'r')
7100               {                                   /* err        */
7101                 return (FEATURE_IS_ENABLED("err") ? -KEY_err : 0);
7102               }
7103
7104               goto unknown;
7105
7106             case 'x':
7107               if (name[2] == 'p')
7108               {                                   /* exp        */
7109                 return -KEY_exp;
7110               }
7111
7112               goto unknown;
7113
7114             default:
7115               goto unknown;
7116           }
7117
7118         case 'f':
7119           if (name[1] == 'o' &&
7120               name[2] == 'r')
7121           {                                       /* for        */
7122             return KEY_for;
7123           }
7124
7125           goto unknown;
7126
7127         case 'h':
7128           if (name[1] == 'e' &&
7129               name[2] == 'x')
7130           {                                       /* hex        */
7131             return -KEY_hex;
7132           }
7133
7134           goto unknown;
7135
7136         case 'i':
7137           if (name[1] == 'n' &&
7138               name[2] == 't')
7139           {                                       /* int        */
7140             return -KEY_int;
7141           }
7142
7143           goto unknown;
7144
7145         case 'l':
7146           if (name[1] == 'o' &&
7147               name[2] == 'g')
7148           {                                       /* log        */
7149             return -KEY_log;
7150           }
7151
7152           goto unknown;
7153
7154         case 'm':
7155           if (name[1] == 'a' &&
7156               name[2] == 'p')
7157           {                                       /* map        */
7158             return KEY_map;
7159           }
7160
7161           goto unknown;
7162
7163         case 'n':
7164           if (name[1] == 'o' &&
7165               name[2] == 't')
7166           {                                       /* not        */
7167             return -KEY_not;
7168           }
7169
7170           goto unknown;
7171
7172         case 'o':
7173           switch (name[1])
7174           {
7175             case 'c':
7176               if (name[2] == 't')
7177               {                                   /* oct        */
7178                 return -KEY_oct;
7179               }
7180
7181               goto unknown;
7182
7183             case 'r':
7184               if (name[2] == 'd')
7185               {                                   /* ord        */
7186                 return -KEY_ord;
7187               }
7188
7189               goto unknown;
7190
7191             case 'u':
7192               if (name[2] == 'r')
7193               {                                   /* our        */
7194                 return KEY_our;
7195               }
7196
7197               goto unknown;
7198
7199             default:
7200               goto unknown;
7201           }
7202
7203         case 'p':
7204           if (name[1] == 'o')
7205           {
7206             switch (name[2])
7207             {
7208               case 'p':
7209                 {                                 /* pop        */
7210                   return -KEY_pop;
7211                 }
7212
7213               case 's':
7214                 {                                 /* pos        */
7215                   return KEY_pos;
7216                 }
7217
7218               default:
7219                 goto unknown;
7220             }
7221           }
7222
7223           goto unknown;
7224
7225         case 'r':
7226           if (name[1] == 'e' &&
7227               name[2] == 'f')
7228           {                                       /* ref        */
7229             return -KEY_ref;
7230           }
7231
7232           goto unknown;
7233
7234         case 's':
7235           switch (name[1])
7236           {
7237             case 'a':
7238               if (name[2] == 'y')
7239               {                                   /* say        */
7240                 return (FEATURE_IS_ENABLED("say") ? -KEY_say : 0);
7241               }
7242
7243               goto unknown;
7244
7245             case 'i':
7246               if (name[2] == 'n')
7247               {                                   /* sin        */
7248                 return -KEY_sin;
7249               }
7250
7251               goto unknown;
7252
7253             case 'u':
7254               if (name[2] == 'b')
7255               {                                   /* sub        */
7256                 return KEY_sub;
7257               }
7258
7259               goto unknown;
7260
7261             default:
7262               goto unknown;
7263           }
7264
7265         case 't':
7266           if (name[1] == 'i' &&
7267               name[2] == 'e')
7268           {                                       /* tie        */
7269             return KEY_tie;
7270           }
7271
7272           goto unknown;
7273
7274         case 'u':
7275           if (name[1] == 's' &&
7276               name[2] == 'e')
7277           {                                       /* use        */
7278             return KEY_use;
7279           }
7280
7281           goto unknown;
7282
7283         case 'v':
7284           if (name[1] == 'e' &&
7285               name[2] == 'c')
7286           {                                       /* vec        */
7287             return -KEY_vec;
7288           }
7289
7290           goto unknown;
7291
7292         case 'x':
7293           if (name[1] == 'o' &&
7294               name[2] == 'r')
7295           {                                       /* xor        */
7296             return -KEY_xor;
7297           }
7298
7299           goto unknown;
7300
7301         default:
7302           goto unknown;
7303       }
7304
7305     case 4: /* 41 tokens of length 4 */
7306       switch (name[0])
7307       {
7308         case 'C':
7309           if (name[1] == 'O' &&
7310               name[2] == 'R' &&
7311               name[3] == 'E')
7312           {                                       /* CORE       */
7313             return -KEY_CORE;
7314           }
7315
7316           goto unknown;
7317
7318         case 'I':
7319           if (name[1] == 'N' &&
7320               name[2] == 'I' &&
7321               name[3] == 'T')
7322           {                                       /* INIT       */
7323             return KEY_INIT;
7324           }
7325
7326           goto unknown;
7327
7328         case 'b':
7329           if (name[1] == 'i' &&
7330               name[2] == 'n' &&
7331               name[3] == 'd')
7332           {                                       /* bind       */
7333             return -KEY_bind;
7334           }
7335
7336           goto unknown;
7337
7338         case 'c':
7339           if (name[1] == 'h' &&
7340               name[2] == 'o' &&
7341               name[3] == 'p')
7342           {                                       /* chop       */
7343             return -KEY_chop;
7344           }
7345
7346           goto unknown;
7347
7348         case 'd':
7349           if (name[1] == 'u' &&
7350               name[2] == 'm' &&
7351               name[3] == 'p')
7352           {                                       /* dump       */
7353             return -KEY_dump;
7354           }
7355
7356           goto unknown;
7357
7358         case 'e':
7359           switch (name[1])
7360           {
7361             case 'a':
7362               if (name[2] == 'c' &&
7363                   name[3] == 'h')
7364               {                                   /* each       */
7365                 return -KEY_each;
7366               }
7367
7368               goto unknown;
7369
7370             case 'l':
7371               if (name[2] == 's' &&
7372                   name[3] == 'e')
7373               {                                   /* else       */
7374                 return KEY_else;
7375               }
7376
7377               goto unknown;
7378
7379             case 'v':
7380               if (name[2] == 'a' &&
7381                   name[3] == 'l')
7382               {                                   /* eval       */
7383                 return KEY_eval;
7384               }
7385
7386               goto unknown;
7387
7388             case 'x':
7389               switch (name[2])
7390               {
7391                 case 'e':
7392                   if (name[3] == 'c')
7393                   {                               /* exec       */
7394                     return -KEY_exec;
7395                   }
7396
7397                   goto unknown;
7398
7399                 case 'i':
7400                   if (name[3] == 't')
7401                   {                               /* exit       */
7402                     return -KEY_exit;
7403                   }
7404
7405                   goto unknown;
7406
7407                 default:
7408                   goto unknown;
7409               }
7410
7411             default:
7412               goto unknown;
7413           }
7414
7415         case 'f':
7416           if (name[1] == 'o' &&
7417               name[2] == 'r' &&
7418               name[3] == 'k')
7419           {                                       /* fork       */
7420             return -KEY_fork;
7421           }
7422
7423           goto unknown;
7424
7425         case 'g':
7426           switch (name[1])
7427           {
7428             case 'e':
7429               if (name[2] == 't' &&
7430                   name[3] == 'c')
7431               {                                   /* getc       */
7432                 return -KEY_getc;
7433               }
7434
7435               goto unknown;
7436
7437             case 'l':
7438               if (name[2] == 'o' &&
7439                   name[3] == 'b')
7440               {                                   /* glob       */
7441                 return KEY_glob;
7442               }
7443
7444               goto unknown;
7445
7446             case 'o':
7447               if (name[2] == 't' &&
7448                   name[3] == 'o')
7449               {                                   /* goto       */
7450                 return KEY_goto;
7451               }
7452
7453               goto unknown;
7454
7455             case 'r':
7456               if (name[2] == 'e' &&
7457                   name[3] == 'p')
7458               {                                   /* grep       */
7459                 return KEY_grep;
7460               }
7461
7462               goto unknown;
7463
7464             default:
7465               goto unknown;
7466           }
7467
7468         case 'j':
7469           if (name[1] == 'o' &&
7470               name[2] == 'i' &&
7471               name[3] == 'n')
7472           {                                       /* join       */
7473             return -KEY_join;
7474           }
7475
7476           goto unknown;
7477
7478         case 'k':
7479           switch (name[1])
7480           {
7481             case 'e':
7482               if (name[2] == 'y' &&
7483                   name[3] == 's')
7484               {                                   /* keys       */
7485                 return -KEY_keys;
7486               }
7487
7488               goto unknown;
7489
7490             case 'i':
7491               if (name[2] == 'l' &&
7492                   name[3] == 'l')
7493               {                                   /* kill       */
7494                 return -KEY_kill;
7495               }
7496
7497               goto unknown;
7498
7499             default:
7500               goto unknown;
7501           }
7502
7503         case 'l':
7504           switch (name[1])
7505           {
7506             case 'a':
7507               if (name[2] == 's' &&
7508                   name[3] == 't')
7509               {                                   /* last       */
7510                 return KEY_last;
7511               }
7512
7513               goto unknown;
7514
7515             case 'i':
7516               if (name[2] == 'n' &&
7517                   name[3] == 'k')
7518               {                                   /* link       */
7519                 return -KEY_link;
7520               }
7521
7522               goto unknown;
7523
7524             case 'o':
7525               if (name[2] == 'c' &&
7526                   name[3] == 'k')
7527               {                                   /* lock       */
7528                 return -KEY_lock;
7529               }
7530
7531               goto unknown;
7532
7533             default:
7534               goto unknown;
7535           }
7536
7537         case 'n':
7538           if (name[1] == 'e' &&
7539               name[2] == 'x' &&
7540               name[3] == 't')
7541           {                                       /* next       */
7542             return KEY_next;
7543           }
7544
7545           goto unknown;
7546
7547         case 'o':
7548           if (name[1] == 'p' &&
7549               name[2] == 'e' &&
7550               name[3] == 'n')
7551           {                                       /* open       */
7552             return -KEY_open;
7553           }
7554
7555           goto unknown;
7556
7557         case 'p':
7558           switch (name[1])
7559           {
7560             case 'a':
7561               if (name[2] == 'c' &&
7562                   name[3] == 'k')
7563               {                                   /* pack       */
7564                 return -KEY_pack;
7565               }
7566
7567               goto unknown;
7568
7569             case 'i':
7570               if (name[2] == 'p' &&
7571                   name[3] == 'e')
7572               {                                   /* pipe       */
7573                 return -KEY_pipe;
7574               }
7575
7576               goto unknown;
7577
7578             case 'u':
7579               if (name[2] == 's' &&
7580                   name[3] == 'h')
7581               {                                   /* push       */
7582                 return -KEY_push;
7583               }
7584
7585               goto unknown;
7586
7587             default:
7588               goto unknown;
7589           }
7590
7591         case 'r':
7592           switch (name[1])
7593           {
7594             case 'a':
7595               if (name[2] == 'n' &&
7596                   name[3] == 'd')
7597               {                                   /* rand       */
7598                 return -KEY_rand;
7599               }
7600
7601               goto unknown;
7602
7603             case 'e':
7604               switch (name[2])
7605               {
7606                 case 'a':
7607                   if (name[3] == 'd')
7608                   {                               /* read       */
7609                     return -KEY_read;
7610                   }
7611
7612                   goto unknown;
7613
7614                 case 'c':
7615                   if (name[3] == 'v')
7616                   {                               /* recv       */
7617                     return -KEY_recv;
7618                   }
7619
7620                   goto unknown;
7621
7622                 case 'd':
7623                   if (name[3] == 'o')
7624                   {                               /* redo       */
7625                     return KEY_redo;
7626                   }
7627
7628                   goto unknown;
7629
7630                 default:
7631                   goto unknown;
7632               }
7633
7634             default:
7635               goto unknown;
7636           }
7637
7638         case 's':
7639           switch (name[1])
7640           {
7641             case 'e':
7642               switch (name[2])
7643               {
7644                 case 'e':
7645                   if (name[3] == 'k')
7646                   {                               /* seek       */
7647                     return -KEY_seek;
7648                   }
7649
7650                   goto unknown;
7651
7652                 case 'n':
7653                   if (name[3] == 'd')
7654                   {                               /* send       */
7655                     return -KEY_send;
7656                   }
7657
7658                   goto unknown;
7659
7660                 default:
7661                   goto unknown;
7662               }
7663
7664             case 'o':
7665               if (name[2] == 'r' &&
7666                   name[3] == 't')
7667               {                                   /* sort       */
7668                 return KEY_sort;
7669               }
7670
7671               goto unknown;
7672
7673             case 'q':
7674               if (name[2] == 'r' &&
7675                   name[3] == 't')
7676               {                                   /* sqrt       */
7677                 return -KEY_sqrt;
7678               }
7679
7680               goto unknown;
7681
7682             case 't':
7683               if (name[2] == 'a' &&
7684                   name[3] == 't')
7685               {                                   /* stat       */
7686                 return -KEY_stat;
7687               }
7688
7689               goto unknown;
7690
7691             default:
7692               goto unknown;
7693           }
7694
7695         case 't':
7696           switch (name[1])
7697           {
7698             case 'e':
7699               if (name[2] == 'l' &&
7700                   name[3] == 'l')
7701               {                                   /* tell       */
7702                 return -KEY_tell;
7703               }
7704
7705               goto unknown;
7706
7707             case 'i':
7708               switch (name[2])
7709               {
7710                 case 'e':
7711                   if (name[3] == 'd')
7712                   {                               /* tied       */
7713                     return KEY_tied;
7714                   }
7715
7716                   goto unknown;
7717
7718                 case 'm':
7719                   if (name[3] == 'e')
7720                   {                               /* time       */
7721                     return -KEY_time;
7722                   }
7723
7724                   goto unknown;
7725
7726                 default:
7727                   goto unknown;
7728               }
7729
7730             default:
7731               goto unknown;
7732           }
7733
7734         case 'w':
7735           switch (name[1])
7736           {
7737             case 'a':
7738             switch (name[2])
7739             {
7740               case 'i':
7741                 if (name[3] == 't')
7742                 {                                 /* wait       */
7743                   return -KEY_wait;
7744                 }
7745
7746                 goto unknown;
7747
7748               case 'r':
7749                 if (name[3] == 'n')
7750                 {                                 /* warn       */
7751                   return -KEY_warn;
7752                 }
7753
7754                 goto unknown;
7755
7756               default:
7757                 goto unknown;
7758             }
7759
7760             case 'h':
7761               if (name[2] == 'e' &&
7762                   name[3] == 'n')
7763               {                                   /* when       */
7764                 return (FEATURE_IS_ENABLED("switch") ? KEY_when : 0);
7765           }
7766
7767           goto unknown;
7768
7769         default:
7770           goto unknown;
7771       }
7772
7773         default:
7774           goto unknown;
7775       }
7776
7777     case 5: /* 38 tokens of length 5 */
7778       switch (name[0])
7779       {
7780         case 'B':
7781           if (name[1] == 'E' &&
7782               name[2] == 'G' &&
7783               name[3] == 'I' &&
7784               name[4] == 'N')
7785           {                                       /* BEGIN      */
7786             return KEY_BEGIN;
7787           }
7788
7789           goto unknown;
7790
7791         case 'C':
7792           if (name[1] == 'H' &&
7793               name[2] == 'E' &&
7794               name[3] == 'C' &&
7795               name[4] == 'K')
7796           {                                       /* CHECK      */
7797             return KEY_CHECK;
7798           }
7799
7800           goto unknown;
7801
7802         case 'a':
7803           switch (name[1])
7804           {
7805             case 'l':
7806               if (name[2] == 'a' &&
7807                   name[3] == 'r' &&
7808                   name[4] == 'm')
7809               {                                   /* alarm      */
7810                 return -KEY_alarm;
7811               }
7812
7813               goto unknown;
7814
7815             case 't':
7816               if (name[2] == 'a' &&
7817                   name[3] == 'n' &&
7818                   name[4] == '2')
7819               {                                   /* atan2      */
7820                 return -KEY_atan2;
7821               }
7822
7823               goto unknown;
7824
7825             default:
7826               goto unknown;
7827           }
7828
7829         case 'b':
7830           switch (name[1])
7831           {
7832             case 'l':
7833               if (name[2] == 'e' &&
7834               name[3] == 's' &&
7835               name[4] == 's')
7836           {                                       /* bless      */
7837             return -KEY_bless;
7838           }
7839
7840           goto unknown;
7841
7842             case 'r':
7843               if (name[2] == 'e' &&
7844                   name[3] == 'a' &&
7845                   name[4] == 'k')
7846               {                                   /* break      */
7847                 return (FEATURE_IS_ENABLED("switch") ? -KEY_break : 0);
7848               }
7849
7850               goto unknown;
7851
7852             default:
7853               goto unknown;
7854           }
7855
7856         case 'c':
7857           switch (name[1])
7858           {
7859             case 'h':
7860               switch (name[2])
7861               {
7862                 case 'd':
7863                   if (name[3] == 'i' &&
7864                       name[4] == 'r')
7865                   {                               /* chdir      */
7866                     return -KEY_chdir;
7867                   }
7868
7869                   goto unknown;
7870
7871                 case 'm':
7872                   if (name[3] == 'o' &&
7873                       name[4] == 'd')
7874                   {                               /* chmod      */
7875                     return -KEY_chmod;
7876                   }
7877
7878                   goto unknown;
7879
7880                 case 'o':
7881                   switch (name[3])
7882                   {
7883                     case 'm':
7884                       if (name[4] == 'p')
7885                       {                           /* chomp      */
7886                         return -KEY_chomp;
7887                       }
7888
7889                       goto unknown;
7890
7891                     case 'w':
7892                       if (name[4] == 'n')
7893                       {                           /* chown      */
7894                         return -KEY_chown;
7895                       }
7896
7897                       goto unknown;
7898
7899                     default:
7900                       goto unknown;
7901                   }
7902
7903                 default:
7904                   goto unknown;
7905               }
7906
7907             case 'l':
7908               if (name[2] == 'o' &&
7909                   name[3] == 's' &&
7910                   name[4] == 'e')
7911               {                                   /* close      */
7912                 return -KEY_close;
7913               }
7914
7915               goto unknown;
7916
7917             case 'r':
7918               if (name[2] == 'y' &&
7919                   name[3] == 'p' &&
7920                   name[4] == 't')
7921               {                                   /* crypt      */
7922                 return -KEY_crypt;
7923               }
7924
7925               goto unknown;
7926
7927             default:
7928               goto unknown;
7929           }
7930
7931         case 'e':
7932           if (name[1] == 'l' &&
7933               name[2] == 's' &&
7934               name[3] == 'i' &&
7935               name[4] == 'f')
7936           {                                       /* elsif      */
7937             return KEY_elsif;
7938           }
7939
7940           goto unknown;
7941
7942         case 'f':
7943           switch (name[1])
7944           {
7945             case 'c':
7946               if (name[2] == 'n' &&
7947                   name[3] == 't' &&
7948                   name[4] == 'l')
7949               {                                   /* fcntl      */
7950                 return -KEY_fcntl;
7951               }
7952
7953               goto unknown;
7954
7955             case 'l':
7956               if (name[2] == 'o' &&
7957                   name[3] == 'c' &&
7958                   name[4] == 'k')
7959               {                                   /* flock      */
7960                 return -KEY_flock;
7961               }
7962
7963               goto unknown;
7964
7965             default:
7966               goto unknown;
7967           }
7968
7969         case 'g':
7970           if (name[1] == 'i' &&
7971               name[2] == 'v' &&
7972               name[3] == 'e' &&
7973               name[4] == 'n')
7974           {                                       /* given      */
7975             return (FEATURE_IS_ENABLED("switch") ? KEY_given : 0);
7976           }
7977
7978           goto unknown;
7979
7980         case 'i':
7981           switch (name[1])
7982           {
7983             case 'n':
7984               if (name[2] == 'd' &&
7985                   name[3] == 'e' &&
7986                   name[4] == 'x')
7987               {                                   /* index      */
7988                 return -KEY_index;
7989               }
7990
7991               goto unknown;
7992
7993             case 'o':
7994               if (name[2] == 'c' &&
7995                   name[3] == 't' &&
7996                   name[4] == 'l')
7997               {                                   /* ioctl      */
7998                 return -KEY_ioctl;
7999               }
8000
8001               goto unknown;
8002
8003             default:
8004               goto unknown;
8005           }
8006
8007         case 'l':
8008           switch (name[1])
8009           {
8010             case 'o':
8011               if (name[2] == 'c' &&
8012                   name[3] == 'a' &&
8013                   name[4] == 'l')
8014               {                                   /* local      */
8015                 return KEY_local;
8016               }
8017
8018               goto unknown;
8019
8020             case 's':
8021               if (name[2] == 't' &&
8022                   name[3] == 'a' &&
8023                   name[4] == 't')
8024               {                                   /* lstat      */
8025                 return -KEY_lstat;
8026               }
8027
8028               goto unknown;
8029
8030             default:
8031               goto unknown;
8032           }
8033
8034         case 'm':
8035           if (name[1] == 'k' &&
8036               name[2] == 'd' &&
8037               name[3] == 'i' &&
8038               name[4] == 'r')
8039           {                                       /* mkdir      */
8040             return -KEY_mkdir;
8041           }
8042
8043           goto unknown;
8044
8045         case 'p':
8046           if (name[1] == 'r' &&
8047               name[2] == 'i' &&
8048               name[3] == 'n' &&
8049               name[4] == 't')
8050           {                                       /* print      */
8051             return KEY_print;
8052           }
8053
8054           goto unknown;
8055
8056         case 'r':
8057           switch (name[1])
8058           {
8059             case 'e':
8060               if (name[2] == 's' &&
8061                   name[3] == 'e' &&
8062                   name[4] == 't')
8063               {                                   /* reset      */
8064                 return -KEY_reset;
8065               }
8066
8067               goto unknown;
8068
8069             case 'm':
8070               if (name[2] == 'd' &&
8071                   name[3] == 'i' &&
8072                   name[4] == 'r')
8073               {                                   /* rmdir      */
8074                 return -KEY_rmdir;
8075               }
8076
8077               goto unknown;
8078
8079             default:
8080               goto unknown;
8081           }
8082
8083         case 's':
8084           switch (name[1])
8085           {
8086             case 'e':
8087               if (name[2] == 'm' &&
8088                   name[3] == 'o' &&
8089                   name[4] == 'p')
8090               {                                   /* semop      */
8091                 return -KEY_semop;
8092               }
8093
8094               goto unknown;
8095
8096             case 'h':
8097               if (name[2] == 'i' &&
8098                   name[3] == 'f' &&
8099                   name[4] == 't')
8100               {                                   /* shift      */
8101                 return -KEY_shift;
8102               }
8103
8104               goto unknown;
8105
8106             case 'l':
8107               if (name[2] == 'e' &&
8108                   name[3] == 'e' &&
8109                   name[4] == 'p')
8110               {                                   /* sleep      */
8111                 return -KEY_sleep;
8112               }
8113
8114               goto unknown;
8115
8116             case 'p':
8117               if (name[2] == 'l' &&
8118                   name[3] == 'i' &&
8119                   name[4] == 't')
8120               {                                   /* split      */
8121                 return KEY_split;
8122               }
8123
8124               goto unknown;
8125
8126             case 'r':
8127               if (name[2] == 'a' &&
8128                   name[3] == 'n' &&
8129                   name[4] == 'd')
8130               {                                   /* srand      */
8131                 return -KEY_srand;
8132               }
8133
8134               goto unknown;
8135
8136             case 't':
8137               if (name[2] == 'u' &&
8138                   name[3] == 'd' &&
8139                   name[4] == 'y')
8140               {                                   /* study      */
8141                 return KEY_study;
8142               }
8143
8144               goto unknown;
8145
8146             default:
8147               goto unknown;
8148           }
8149
8150         case 't':
8151           if (name[1] == 'i' &&
8152               name[2] == 'm' &&
8153               name[3] == 'e' &&
8154               name[4] == 's')
8155           {                                       /* times      */
8156             return -KEY_times;
8157           }
8158
8159           goto unknown;
8160
8161         case 'u':
8162           switch (name[1])
8163           {
8164             case 'm':
8165               if (name[2] == 'a' &&
8166                   name[3] == 's' &&
8167                   name[4] == 'k')
8168               {                                   /* umask      */
8169                 return -KEY_umask;
8170               }
8171
8172               goto unknown;
8173
8174             case 'n':
8175               switch (name[2])
8176               {
8177                 case 'd':
8178                   if (name[3] == 'e' &&
8179                       name[4] == 'f')
8180                   {                               /* undef      */
8181                     return KEY_undef;
8182                   }
8183
8184                   goto unknown;
8185
8186                 case 't':
8187                   if (name[3] == 'i')
8188                   {
8189                     switch (name[4])
8190                     {
8191                       case 'e':
8192                         {                         /* untie      */
8193                           return KEY_untie;
8194                         }
8195
8196                       case 'l':
8197                         {                         /* until      */
8198                           return KEY_until;
8199                         }
8200
8201                       default:
8202                         goto unknown;
8203                     }
8204                   }
8205
8206                   goto unknown;
8207
8208                 default:
8209                   goto unknown;
8210               }
8211
8212             case 't':
8213               if (name[2] == 'i' &&
8214                   name[3] == 'm' &&
8215                   name[4] == 'e')
8216               {                                   /* utime      */
8217                 return -KEY_utime;
8218               }
8219
8220               goto unknown;
8221
8222             default:
8223               goto unknown;
8224           }
8225
8226         case 'w':
8227           switch (name[1])
8228           {
8229             case 'h':
8230               if (name[2] == 'i' &&
8231                   name[3] == 'l' &&
8232                   name[4] == 'e')
8233               {                                   /* while      */
8234                 return KEY_while;
8235               }
8236
8237               goto unknown;
8238
8239             case 'r':
8240               if (name[2] == 'i' &&
8241                   name[3] == 't' &&
8242                   name[4] == 'e')
8243               {                                   /* write      */
8244                 return -KEY_write;
8245               }
8246
8247               goto unknown;
8248
8249             default:
8250               goto unknown;
8251           }
8252
8253         default:
8254           goto unknown;
8255       }
8256
8257     case 6: /* 33 tokens of length 6 */
8258       switch (name[0])
8259       {
8260         case 'a':
8261           if (name[1] == 'c' &&
8262               name[2] == 'c' &&
8263               name[3] == 'e' &&
8264               name[4] == 'p' &&
8265               name[5] == 't')
8266           {                                       /* accept     */
8267             return -KEY_accept;
8268           }
8269
8270           goto unknown;
8271
8272         case 'c':
8273           switch (name[1])
8274           {
8275             case 'a':
8276               if (name[2] == 'l' &&
8277                   name[3] == 'l' &&
8278                   name[4] == 'e' &&
8279                   name[5] == 'r')
8280               {                                   /* caller     */
8281                 return -KEY_caller;
8282               }
8283
8284               goto unknown;
8285
8286             case 'h':
8287               if (name[2] == 'r' &&
8288                   name[3] == 'o' &&
8289                   name[4] == 'o' &&
8290                   name[5] == 't')
8291               {                                   /* chroot     */
8292                 return -KEY_chroot;
8293               }
8294
8295               goto unknown;
8296
8297             default:
8298               goto unknown;
8299           }
8300
8301         case 'd':
8302           if (name[1] == 'e' &&
8303               name[2] == 'l' &&
8304               name[3] == 'e' &&
8305               name[4] == 't' &&
8306               name[5] == 'e')
8307           {                                       /* delete     */
8308             return KEY_delete;
8309           }
8310
8311           goto unknown;
8312
8313         case 'e':
8314           switch (name[1])
8315           {
8316             case 'l':
8317               if (name[2] == 's' &&
8318                   name[3] == 'e' &&
8319                   name[4] == 'i' &&
8320                   name[5] == 'f')
8321               {                                   /* elseif     */
8322                 if(ckWARN_d(WARN_SYNTAX))
8323                   Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "elseif should be elsif");
8324               }
8325
8326               goto unknown;
8327
8328             case 'x':
8329               if (name[2] == 'i' &&
8330                   name[3] == 's' &&
8331                   name[4] == 't' &&
8332                   name[5] == 's')
8333               {                                   /* exists     */
8334                 return KEY_exists;
8335               }
8336
8337               goto unknown;
8338
8339             default:
8340               goto unknown;
8341           }
8342
8343         case 'f':
8344           switch (name[1])
8345           {
8346             case 'i':
8347               if (name[2] == 'l' &&
8348                   name[3] == 'e' &&
8349                   name[4] == 'n' &&
8350                   name[5] == 'o')
8351               {                                   /* fileno     */
8352                 return -KEY_fileno;
8353               }
8354
8355               goto unknown;
8356
8357             case 'o':
8358               if (name[2] == 'r' &&
8359                   name[3] == 'm' &&
8360                   name[4] == 'a' &&
8361                   name[5] == 't')
8362               {                                   /* format     */
8363                 return KEY_format;
8364               }
8365
8366               goto unknown;
8367
8368             default:
8369               goto unknown;
8370           }
8371
8372         case 'g':
8373           if (name[1] == 'm' &&
8374               name[2] == 't' &&
8375               name[3] == 'i' &&
8376               name[4] == 'm' &&
8377               name[5] == 'e')
8378           {                                       /* gmtime     */
8379             return -KEY_gmtime;
8380           }
8381
8382           goto unknown;
8383
8384         case 'l':
8385           switch (name[1])
8386           {
8387             case 'e':
8388               if (name[2] == 'n' &&
8389                   name[3] == 'g' &&
8390                   name[4] == 't' &&
8391                   name[5] == 'h')
8392               {                                   /* length     */
8393                 return -KEY_length;
8394               }
8395
8396               goto unknown;
8397
8398             case 'i':
8399               if (name[2] == 's' &&
8400                   name[3] == 't' &&
8401                   name[4] == 'e' &&
8402                   name[5] == 'n')
8403               {                                   /* listen     */
8404                 return -KEY_listen;
8405               }
8406
8407               goto unknown;
8408
8409             default:
8410               goto unknown;
8411           }
8412
8413         case 'm':
8414           if (name[1] == 's' &&
8415               name[2] == 'g')
8416           {
8417             switch (name[3])
8418             {
8419               case 'c':
8420                 if (name[4] == 't' &&
8421                     name[5] == 'l')
8422                 {                                 /* msgctl     */
8423                   return -KEY_msgctl;
8424                 }
8425
8426                 goto unknown;
8427
8428               case 'g':
8429                 if (name[4] == 'e' &&
8430                     name[5] == 't')
8431                 {                                 /* msgget     */
8432                   return -KEY_msgget;
8433                 }
8434
8435                 goto unknown;
8436
8437               case 'r':
8438                 if (name[4] == 'c' &&
8439                     name[5] == 'v')
8440                 {                                 /* msgrcv     */
8441                   return -KEY_msgrcv;
8442                 }
8443
8444                 goto unknown;
8445
8446               case 's':
8447                 if (name[4] == 'n' &&
8448                     name[5] == 'd')
8449                 {                                 /* msgsnd     */
8450                   return -KEY_msgsnd;
8451                 }
8452
8453                 goto unknown;
8454
8455               default:
8456                 goto unknown;
8457             }
8458           }
8459
8460           goto unknown;
8461
8462         case 'p':
8463           if (name[1] == 'r' &&
8464               name[2] == 'i' &&
8465               name[3] == 'n' &&
8466               name[4] == 't' &&
8467               name[5] == 'f')
8468           {                                       /* printf     */
8469             return KEY_printf;
8470           }
8471
8472           goto unknown;
8473
8474         case 'r':
8475           switch (name[1])
8476           {
8477             case 'e':
8478               switch (name[2])
8479               {
8480                 case 'n':
8481                   if (name[3] == 'a' &&
8482                       name[4] == 'm' &&
8483                       name[5] == 'e')
8484                   {                               /* rename     */
8485                     return -KEY_rename;
8486                   }
8487
8488                   goto unknown;
8489
8490                 case 't':
8491                   if (name[3] == 'u' &&
8492                       name[4] == 'r' &&
8493                       name[5] == 'n')
8494                   {                               /* return     */
8495                     return KEY_return;
8496                   }
8497
8498                   goto unknown;
8499
8500                 default:
8501                   goto unknown;
8502               }
8503
8504             case 'i':
8505               if (name[2] == 'n' &&
8506                   name[3] == 'd' &&
8507                   name[4] == 'e' &&
8508                   name[5] == 'x')
8509               {                                   /* rindex     */
8510                 return -KEY_rindex;
8511               }
8512
8513               goto unknown;
8514
8515             default:
8516               goto unknown;
8517           }
8518
8519         case 's':
8520           switch (name[1])
8521           {
8522             case 'c':
8523               if (name[2] == 'a' &&
8524                   name[3] == 'l' &&
8525                   name[4] == 'a' &&
8526                   name[5] == 'r')
8527               {                                   /* scalar     */
8528                 return KEY_scalar;
8529               }
8530
8531               goto unknown;
8532
8533             case 'e':
8534               switch (name[2])
8535               {
8536                 case 'l':
8537                   if (name[3] == 'e' &&
8538                       name[4] == 'c' &&
8539                       name[5] == 't')
8540                   {                               /* select     */
8541                     return -KEY_select;
8542                   }
8543
8544                   goto unknown;
8545
8546                 case 'm':
8547                   switch (name[3])
8548                   {
8549                     case 'c':
8550                       if (name[4] == 't' &&
8551                           name[5] == 'l')
8552                       {                           /* semctl     */
8553                         return -KEY_semctl;
8554                       }
8555
8556                       goto unknown;
8557
8558                     case 'g':
8559                       if (name[4] == 'e' &&
8560                           name[5] == 't')
8561                       {                           /* semget     */
8562                         return -KEY_semget;
8563                       }
8564
8565                       goto unknown;
8566
8567                     default:
8568                       goto unknown;
8569                   }
8570
8571                 default:
8572                   goto unknown;
8573               }
8574
8575             case 'h':
8576               if (name[2] == 'm')
8577               {
8578                 switch (name[3])
8579                 {
8580                   case 'c':
8581                     if (name[4] == 't' &&
8582                         name[5] == 'l')
8583                     {                             /* shmctl     */
8584                       return -KEY_shmctl;
8585                     }
8586
8587                     goto unknown;
8588
8589                   case 'g':
8590                     if (name[4] == 'e' &&
8591                         name[5] == 't')
8592                     {                             /* shmget     */
8593                       return -KEY_shmget;
8594                     }
8595
8596                     goto unknown;
8597
8598                   default:
8599                     goto unknown;
8600                 }
8601               }
8602
8603               goto unknown;
8604
8605             case 'o':
8606               if (name[2] == 'c' &&
8607                   name[3] == 'k' &&
8608                   name[4] == 'e' &&
8609                   name[5] == 't')
8610               {                                   /* socket     */
8611                 return -KEY_socket;
8612               }
8613
8614               goto unknown;
8615
8616             case 'p':
8617               if (name[2] == 'l' &&
8618                   name[3] == 'i' &&
8619                   name[4] == 'c' &&
8620                   name[5] == 'e')
8621               {                                   /* splice     */
8622                 return -KEY_splice;
8623               }
8624
8625               goto unknown;
8626
8627             case 'u':
8628               if (name[2] == 'b' &&
8629                   name[3] == 's' &&
8630                   name[4] == 't' &&
8631                   name[5] == 'r')
8632               {                                   /* substr     */
8633                 return -KEY_substr;
8634               }
8635
8636               goto unknown;
8637
8638             case 'y':
8639               if (name[2] == 's' &&
8640                   name[3] == 't' &&
8641                   name[4] == 'e' &&
8642                   name[5] == 'm')
8643               {                                   /* system     */
8644                 return -KEY_system;
8645               }
8646
8647               goto unknown;
8648
8649             default:
8650               goto unknown;
8651           }
8652
8653         case 'u':
8654           if (name[1] == 'n')
8655           {
8656             switch (name[2])
8657             {
8658               case 'l':
8659                 switch (name[3])
8660                 {
8661                   case 'e':
8662                     if (name[4] == 's' &&
8663                         name[5] == 's')
8664                     {                             /* unless     */
8665                       return KEY_unless;
8666                     }
8667
8668                     goto unknown;
8669
8670                   case 'i':
8671                     if (name[4] == 'n' &&
8672                         name[5] == 'k')
8673                     {                             /* unlink     */
8674                       return -KEY_unlink;
8675                     }
8676
8677                     goto unknown;
8678
8679                   default:
8680                     goto unknown;
8681                 }
8682
8683               case 'p':
8684                 if (name[3] == 'a' &&
8685                     name[4] == 'c' &&
8686                     name[5] == 'k')
8687                 {                                 /* unpack     */
8688                   return -KEY_unpack;
8689                 }
8690
8691                 goto unknown;
8692
8693               default:
8694                 goto unknown;
8695             }
8696           }
8697
8698           goto unknown;
8699
8700         case 'v':
8701           if (name[1] == 'a' &&
8702               name[2] == 'l' &&
8703               name[3] == 'u' &&
8704               name[4] == 'e' &&
8705               name[5] == 's')
8706           {                                       /* values     */
8707             return -KEY_values;
8708           }
8709
8710           goto unknown;
8711
8712         default:
8713           goto unknown;
8714       }
8715
8716     case 7: /* 29 tokens of length 7 */
8717       switch (name[0])
8718       {
8719         case 'D':
8720           if (name[1] == 'E' &&
8721               name[2] == 'S' &&
8722               name[3] == 'T' &&
8723               name[4] == 'R' &&
8724               name[5] == 'O' &&
8725               name[6] == 'Y')
8726           {                                       /* DESTROY    */
8727             return KEY_DESTROY;
8728           }
8729
8730           goto unknown;
8731
8732         case '_':
8733           if (name[1] == '_' &&
8734               name[2] == 'E' &&
8735               name[3] == 'N' &&
8736               name[4] == 'D' &&
8737               name[5] == '_' &&
8738               name[6] == '_')
8739           {                                       /* __END__    */
8740             return KEY___END__;
8741           }
8742
8743           goto unknown;
8744
8745         case 'b':
8746           if (name[1] == 'i' &&
8747               name[2] == 'n' &&
8748               name[3] == 'm' &&
8749               name[4] == 'o' &&
8750               name[5] == 'd' &&
8751               name[6] == 'e')
8752           {                                       /* binmode    */
8753             return -KEY_binmode;
8754           }
8755
8756           goto unknown;
8757
8758         case 'c':
8759           if (name[1] == 'o' &&
8760               name[2] == 'n' &&
8761               name[3] == 'n' &&
8762               name[4] == 'e' &&
8763               name[5] == 'c' &&
8764               name[6] == 't')
8765           {                                       /* connect    */
8766             return -KEY_connect;
8767           }
8768
8769           goto unknown;
8770
8771         case 'd':
8772           switch (name[1])
8773           {
8774             case 'b':
8775               if (name[2] == 'm' &&
8776                   name[3] == 'o' &&
8777                   name[4] == 'p' &&
8778                   name[5] == 'e' &&
8779                   name[6] == 'n')
8780               {                                   /* dbmopen    */
8781                 return -KEY_dbmopen;
8782               }
8783
8784               goto unknown;
8785
8786             case 'e':
8787               if (name[2] == 'f')
8788               {
8789                 switch (name[3])
8790                 {
8791                   case 'a':
8792                     if (name[4] == 'u' &&
8793                         name[5] == 'l' &&
8794                         name[6] == 't')
8795                     {                             /* default    */
8796                       return (FEATURE_IS_ENABLED("switch") ? KEY_default : 0);
8797                     }
8798
8799                     goto unknown;
8800
8801                   case 'i':
8802                     if (name[4] == 'n' &&
8803                   name[5] == 'e' &&
8804                   name[6] == 'd')
8805               {                                   /* defined    */
8806                 return KEY_defined;
8807               }
8808
8809               goto unknown;
8810
8811             default:
8812               goto unknown;
8813           }
8814               }
8815
8816               goto unknown;
8817
8818             default:
8819               goto unknown;
8820           }
8821
8822         case 'f':
8823           if (name[1] == 'o' &&
8824               name[2] == 'r' &&
8825               name[3] == 'e' &&
8826               name[4] == 'a' &&
8827               name[5] == 'c' &&
8828               name[6] == 'h')
8829           {                                       /* foreach    */
8830             return KEY_foreach;
8831           }
8832
8833           goto unknown;
8834
8835         case 'g':
8836           if (name[1] == 'e' &&
8837               name[2] == 't' &&
8838               name[3] == 'p')
8839           {
8840             switch (name[4])
8841             {
8842               case 'g':
8843                 if (name[5] == 'r' &&
8844                     name[6] == 'p')
8845                 {                                 /* getpgrp    */
8846                   return -KEY_getpgrp;
8847                 }
8848
8849                 goto unknown;
8850
8851               case 'p':
8852                 if (name[5] == 'i' &&
8853                     name[6] == 'd')
8854                 {                                 /* getppid    */
8855                   return -KEY_getppid;
8856                 }
8857
8858                 goto unknown;
8859
8860               default:
8861                 goto unknown;
8862             }
8863           }
8864
8865           goto unknown;
8866
8867         case 'l':
8868           if (name[1] == 'c' &&
8869               name[2] == 'f' &&
8870               name[3] == 'i' &&
8871               name[4] == 'r' &&
8872               name[5] == 's' &&
8873               name[6] == 't')
8874           {                                       /* lcfirst    */
8875             return -KEY_lcfirst;
8876           }
8877
8878           goto unknown;
8879
8880         case 'o':
8881           if (name[1] == 'p' &&
8882               name[2] == 'e' &&
8883               name[3] == 'n' &&
8884               name[4] == 'd' &&
8885               name[5] == 'i' &&
8886               name[6] == 'r')
8887           {                                       /* opendir    */
8888             return -KEY_opendir;
8889           }
8890
8891           goto unknown;
8892
8893         case 'p':
8894           if (name[1] == 'a' &&
8895               name[2] == 'c' &&
8896               name[3] == 'k' &&
8897               name[4] == 'a' &&
8898               name[5] == 'g' &&
8899               name[6] == 'e')
8900           {                                       /* package    */
8901             return KEY_package;
8902           }
8903
8904           goto unknown;
8905
8906         case 'r':
8907           if (name[1] == 'e')
8908           {
8909             switch (name[2])
8910             {
8911               case 'a':
8912                 if (name[3] == 'd' &&
8913                     name[4] == 'd' &&
8914                     name[5] == 'i' &&
8915                     name[6] == 'r')
8916                 {                                 /* readdir    */
8917                   return -KEY_readdir;
8918                 }
8919
8920                 goto unknown;
8921
8922               case 'q':
8923                 if (name[3] == 'u' &&
8924                     name[4] == 'i' &&
8925                     name[5] == 'r' &&
8926                     name[6] == 'e')
8927                 {                                 /* require    */
8928                   return KEY_require;
8929                 }
8930
8931                 goto unknown;
8932
8933               case 'v':
8934                 if (name[3] == 'e' &&
8935                     name[4] == 'r' &&
8936                     name[5] == 's' &&
8937                     name[6] == 'e')
8938                 {                                 /* reverse    */
8939                   return -KEY_reverse;
8940                 }
8941
8942                 goto unknown;
8943
8944               default:
8945                 goto unknown;
8946             }
8947           }
8948
8949           goto unknown;
8950
8951         case 's':
8952           switch (name[1])
8953           {
8954             case 'e':
8955               switch (name[2])
8956               {
8957                 case 'e':
8958                   if (name[3] == 'k' &&
8959                       name[4] == 'd' &&
8960                       name[5] == 'i' &&
8961                       name[6] == 'r')
8962                   {                               /* seekdir    */
8963                     return -KEY_seekdir;
8964                   }
8965
8966                   goto unknown;
8967
8968                 case 't':
8969                   if (name[3] == 'p' &&
8970                       name[4] == 'g' &&
8971                       name[5] == 'r' &&
8972                       name[6] == 'p')
8973                   {                               /* setpgrp    */
8974                     return -KEY_setpgrp;
8975                   }
8976
8977                   goto unknown;
8978
8979                 default:
8980                   goto unknown;
8981               }
8982
8983             case 'h':
8984               if (name[2] == 'm' &&
8985                   name[3] == 'r' &&
8986                   name[4] == 'e' &&
8987                   name[5] == 'a' &&
8988                   name[6] == 'd')
8989               {                                   /* shmread    */
8990                 return -KEY_shmread;
8991               }
8992
8993               goto unknown;
8994
8995             case 'p':
8996               if (name[2] == 'r' &&
8997                   name[3] == 'i' &&
8998                   name[4] == 'n' &&
8999                   name[5] == 't' &&
9000                   name[6] == 'f')
9001               {                                   /* sprintf    */
9002                 return -KEY_sprintf;
9003               }
9004
9005               goto unknown;
9006
9007             case 'y':
9008               switch (name[2])
9009               {
9010                 case 'm':
9011                   if (name[3] == 'l' &&
9012                       name[4] == 'i' &&
9013                       name[5] == 'n' &&
9014                       name[6] == 'k')
9015                   {                               /* symlink    */
9016                     return -KEY_symlink;
9017                   }
9018
9019                   goto unknown;
9020
9021                 case 's':
9022                   switch (name[3])
9023                   {
9024                     case 'c':
9025                       if (name[4] == 'a' &&
9026                           name[5] == 'l' &&
9027                           name[6] == 'l')
9028                       {                           /* syscall    */
9029                         return -KEY_syscall;
9030                       }
9031
9032                       goto unknown;
9033
9034                     case 'o':
9035                       if (name[4] == 'p' &&
9036                           name[5] == 'e' &&
9037                           name[6] == 'n')
9038                       {                           /* sysopen    */
9039                         return -KEY_sysopen;
9040                       }
9041
9042                       goto unknown;
9043
9044                     case 'r':
9045                       if (name[4] == 'e' &&
9046                           name[5] == 'a' &&
9047                           name[6] == 'd')
9048                       {                           /* sysread    */
9049                         return -KEY_sysread;
9050                       }
9051
9052                       goto unknown;
9053
9054                     case 's':
9055                       if (name[4] == 'e' &&
9056                           name[5] == 'e' &&
9057                           name[6] == 'k')
9058                       {                           /* sysseek    */
9059                         return -KEY_sysseek;
9060                       }
9061
9062                       goto unknown;
9063
9064                     default:
9065                       goto unknown;
9066                   }
9067
9068                 default:
9069                   goto unknown;
9070               }
9071
9072             default:
9073               goto unknown;
9074           }
9075
9076         case 't':
9077           if (name[1] == 'e' &&
9078               name[2] == 'l' &&
9079               name[3] == 'l' &&
9080               name[4] == 'd' &&
9081               name[5] == 'i' &&
9082               name[6] == 'r')
9083           {                                       /* telldir    */
9084             return -KEY_telldir;
9085           }
9086
9087           goto unknown;
9088
9089         case 'u':
9090           switch (name[1])
9091           {
9092             case 'c':
9093               if (name[2] == 'f' &&
9094                   name[3] == 'i' &&
9095                   name[4] == 'r' &&
9096                   name[5] == 's' &&
9097                   name[6] == 't')
9098               {                                   /* ucfirst    */
9099                 return -KEY_ucfirst;
9100               }
9101
9102               goto unknown;
9103
9104             case 'n':
9105               if (name[2] == 's' &&
9106                   name[3] == 'h' &&
9107                   name[4] == 'i' &&
9108                   name[5] == 'f' &&
9109                   name[6] == 't')
9110               {                                   /* unshift    */
9111                 return -KEY_unshift;
9112               }
9113
9114               goto unknown;
9115
9116             default:
9117               goto unknown;
9118           }
9119
9120         case 'w':
9121           if (name[1] == 'a' &&
9122               name[2] == 'i' &&
9123               name[3] == 't' &&
9124               name[4] == 'p' &&
9125               name[5] == 'i' &&
9126               name[6] == 'd')
9127           {                                       /* waitpid    */
9128             return -KEY_waitpid;
9129           }
9130
9131           goto unknown;
9132
9133         default:
9134           goto unknown;
9135       }
9136
9137     case 8: /* 26 tokens of length 8 */
9138       switch (name[0])
9139       {
9140         case 'A':
9141           if (name[1] == 'U' &&
9142               name[2] == 'T' &&
9143               name[3] == 'O' &&
9144               name[4] == 'L' &&
9145               name[5] == 'O' &&
9146               name[6] == 'A' &&
9147               name[7] == 'D')
9148           {                                       /* AUTOLOAD   */
9149             return KEY_AUTOLOAD;
9150           }
9151
9152           goto unknown;
9153
9154         case '_':
9155           if (name[1] == '_')
9156           {
9157             switch (name[2])
9158             {
9159               case 'D':
9160                 if (name[3] == 'A' &&
9161                     name[4] == 'T' &&
9162                     name[5] == 'A' &&
9163                     name[6] == '_' &&
9164                     name[7] == '_')
9165                 {                                 /* __DATA__   */
9166                   return KEY___DATA__;
9167                 }
9168
9169                 goto unknown;
9170
9171               case 'F':
9172                 if (name[3] == 'I' &&
9173                     name[4] == 'L' &&
9174                     name[5] == 'E' &&
9175                     name[6] == '_' &&
9176                     name[7] == '_')
9177                 {                                 /* __FILE__   */
9178                   return -KEY___FILE__;
9179                 }
9180
9181                 goto unknown;
9182
9183               case 'L':
9184                 if (name[3] == 'I' &&
9185                     name[4] == 'N' &&
9186                     name[5] == 'E' &&
9187                     name[6] == '_' &&
9188                     name[7] == '_')
9189                 {                                 /* __LINE__   */
9190                   return -KEY___LINE__;
9191                 }
9192
9193                 goto unknown;
9194
9195               default:
9196                 goto unknown;
9197             }
9198           }
9199
9200           goto unknown;
9201
9202         case 'c':
9203           switch (name[1])
9204           {
9205             case 'l':
9206               if (name[2] == 'o' &&
9207                   name[3] == 's' &&
9208                   name[4] == 'e' &&
9209                   name[5] == 'd' &&
9210                   name[6] == 'i' &&
9211                   name[7] == 'r')
9212               {                                   /* closedir   */
9213                 return -KEY_closedir;
9214               }
9215
9216               goto unknown;
9217
9218             case 'o':
9219               if (name[2] == 'n' &&
9220                   name[3] == 't' &&
9221                   name[4] == 'i' &&
9222                   name[5] == 'n' &&
9223                   name[6] == 'u' &&
9224                   name[7] == 'e')
9225               {                                   /* continue   */
9226                 return -KEY_continue;
9227               }
9228
9229               goto unknown;
9230
9231             default:
9232               goto unknown;
9233           }
9234
9235         case 'd':
9236           if (name[1] == 'b' &&
9237               name[2] == 'm' &&
9238               name[3] == 'c' &&
9239               name[4] == 'l' &&
9240               name[5] == 'o' &&
9241               name[6] == 's' &&
9242               name[7] == 'e')
9243           {                                       /* dbmclose   */
9244             return -KEY_dbmclose;
9245           }
9246
9247           goto unknown;
9248
9249         case 'e':
9250           if (name[1] == 'n' &&
9251               name[2] == 'd')
9252           {
9253             switch (name[3])
9254             {
9255               case 'g':
9256                 if (name[4] == 'r' &&
9257                     name[5] == 'e' &&
9258                     name[6] == 'n' &&
9259                     name[7] == 't')
9260                 {                                 /* endgrent   */
9261                   return -KEY_endgrent;
9262                 }
9263
9264                 goto unknown;
9265
9266               case 'p':
9267                 if (name[4] == 'w' &&
9268                     name[5] == 'e' &&
9269                     name[6] == 'n' &&
9270                     name[7] == 't')
9271                 {                                 /* endpwent   */
9272                   return -KEY_endpwent;
9273                 }
9274
9275                 goto unknown;
9276
9277               default:
9278                 goto unknown;
9279             }
9280           }
9281
9282           goto unknown;
9283
9284         case 'f':
9285           if (name[1] == 'o' &&
9286               name[2] == 'r' &&
9287               name[3] == 'm' &&
9288               name[4] == 'l' &&
9289               name[5] == 'i' &&
9290               name[6] == 'n' &&
9291               name[7] == 'e')
9292           {                                       /* formline   */
9293             return -KEY_formline;
9294           }
9295
9296           goto unknown;
9297
9298         case 'g':
9299           if (name[1] == 'e' &&
9300               name[2] == 't')
9301           {
9302             switch (name[3])
9303             {
9304               case 'g':
9305                 if (name[4] == 'r')
9306                 {
9307                   switch (name[5])
9308                   {
9309                     case 'e':
9310                       if (name[6] == 'n' &&
9311                           name[7] == 't')
9312                       {                           /* getgrent   */
9313                         return -KEY_getgrent;
9314                       }
9315
9316                       goto unknown;
9317
9318                     case 'g':
9319                       if (name[6] == 'i' &&
9320                           name[7] == 'd')
9321                       {                           /* getgrgid   */
9322                         return -KEY_getgrgid;
9323                       }
9324
9325                       goto unknown;
9326
9327                     case 'n':
9328                       if (name[6] == 'a' &&
9329                           name[7] == 'm')
9330                       {                           /* getgrnam   */
9331                         return -KEY_getgrnam;
9332                       }
9333
9334                       goto unknown;
9335
9336                     default:
9337                       goto unknown;
9338                   }
9339                 }
9340
9341                 goto unknown;
9342
9343               case 'l':
9344                 if (name[4] == 'o' &&
9345                     name[5] == 'g' &&
9346                     name[6] == 'i' &&
9347                     name[7] == 'n')
9348                 {                                 /* getlogin   */
9349                   return -KEY_getlogin;
9350                 }
9351
9352                 goto unknown;
9353
9354               case 'p':
9355                 if (name[4] == 'w')
9356                 {
9357                   switch (name[5])
9358                   {
9359                     case 'e':
9360                       if (name[6] == 'n' &&
9361                           name[7] == 't')
9362                       {                           /* getpwent   */
9363                         return -KEY_getpwent;
9364                       }
9365
9366                       goto unknown;
9367
9368                     case 'n':
9369                       if (name[6] == 'a' &&
9370                           name[7] == 'm')
9371                       {                           /* getpwnam   */
9372                         return -KEY_getpwnam;
9373                       }
9374
9375                       goto unknown;
9376
9377                     case 'u':
9378                       if (name[6] == 'i' &&
9379                           name[7] == 'd')
9380                       {                           /* getpwuid   */
9381                         return -KEY_getpwuid;
9382                       }
9383
9384                       goto unknown;
9385
9386                     default:
9387                       goto unknown;
9388                   }
9389                 }
9390
9391                 goto unknown;
9392
9393               default:
9394                 goto unknown;
9395             }
9396           }
9397
9398           goto unknown;
9399
9400         case 'r':
9401           if (name[1] == 'e' &&
9402               name[2] == 'a' &&
9403               name[3] == 'd')
9404           {
9405             switch (name[4])
9406             {
9407               case 'l':
9408                 if (name[5] == 'i' &&
9409                     name[6] == 'n')
9410                 {
9411                   switch (name[7])
9412                   {
9413                     case 'e':
9414                       {                           /* readline   */
9415                         return -KEY_readline;
9416                       }
9417
9418                     case 'k':
9419                       {                           /* readlink   */
9420                         return -KEY_readlink;
9421                       }
9422
9423                     default:
9424                       goto unknown;
9425                   }
9426                 }
9427
9428                 goto unknown;
9429
9430               case 'p':
9431                 if (name[5] == 'i' &&
9432                     name[6] == 'p' &&
9433                     name[7] == 'e')
9434                 {                                 /* readpipe   */
9435                   return -KEY_readpipe;
9436                 }
9437
9438                 goto unknown;
9439
9440               default:
9441                 goto unknown;
9442             }
9443           }
9444
9445           goto unknown;
9446
9447         case 's':
9448           switch (name[1])
9449           {
9450             case 'e':
9451               if (name[2] == 't')
9452               {
9453                 switch (name[3])
9454                 {
9455                   case 'g':
9456                     if (name[4] == 'r' &&
9457                         name[5] == 'e' &&
9458                         name[6] == 'n' &&
9459                         name[7] == 't')
9460                     {                             /* setgrent   */
9461                       return -KEY_setgrent;
9462                     }
9463
9464                     goto unknown;
9465
9466                   case 'p':
9467                     if (name[4] == 'w' &&
9468                         name[5] == 'e' &&
9469                         name[6] == 'n' &&
9470                         name[7] == 't')
9471                     {                             /* setpwent   */
9472                       return -KEY_setpwent;
9473                     }
9474
9475                     goto unknown;
9476
9477                   default:
9478                     goto unknown;
9479                 }
9480               }
9481
9482               goto unknown;
9483
9484             case 'h':
9485               switch (name[2])
9486               {
9487                 case 'm':
9488                   if (name[3] == 'w' &&
9489                       name[4] == 'r' &&
9490                       name[5] == 'i' &&
9491                       name[6] == 't' &&
9492                       name[7] == 'e')
9493                   {                               /* shmwrite   */
9494                     return -KEY_shmwrite;
9495                   }
9496
9497                   goto unknown;
9498
9499                 case 'u':
9500                   if (name[3] == 't' &&
9501                       name[4] == 'd' &&
9502                       name[5] == 'o' &&
9503                       name[6] == 'w' &&
9504                       name[7] == 'n')
9505                   {                               /* shutdown   */
9506                     return -KEY_shutdown;
9507                   }
9508
9509                   goto unknown;
9510
9511                 default:
9512                   goto unknown;
9513               }
9514
9515             case 'y':
9516               if (name[2] == 's' &&
9517                   name[3] == 'w' &&
9518                   name[4] == 'r' &&
9519                   name[5] == 'i' &&
9520                   name[6] == 't' &&
9521                   name[7] == 'e')
9522               {                                   /* syswrite   */
9523                 return -KEY_syswrite;
9524               }
9525
9526               goto unknown;
9527
9528             default:
9529               goto unknown;
9530           }
9531
9532         case 't':
9533           if (name[1] == 'r' &&
9534               name[2] == 'u' &&
9535               name[3] == 'n' &&
9536               name[4] == 'c' &&
9537               name[5] == 'a' &&
9538               name[6] == 't' &&
9539               name[7] == 'e')
9540           {                                       /* truncate   */
9541             return -KEY_truncate;
9542           }
9543
9544           goto unknown;
9545
9546         default:
9547           goto unknown;
9548       }
9549
9550     case 9: /* 8 tokens of length 9 */
9551       switch (name[0])
9552       {
9553         case 'e':
9554           if (name[1] == 'n' &&
9555               name[2] == 'd' &&
9556               name[3] == 'n' &&
9557               name[4] == 'e' &&
9558               name[5] == 't' &&
9559               name[6] == 'e' &&
9560               name[7] == 'n' &&
9561               name[8] == 't')
9562           {                                       /* endnetent  */
9563             return -KEY_endnetent;
9564           }
9565
9566           goto unknown;
9567
9568         case 'g':
9569           if (name[1] == 'e' &&
9570               name[2] == 't' &&
9571               name[3] == 'n' &&
9572               name[4] == 'e' &&
9573               name[5] == 't' &&
9574               name[6] == 'e' &&
9575               name[7] == 'n' &&
9576               name[8] == 't')
9577           {                                       /* getnetent  */
9578             return -KEY_getnetent;
9579           }
9580
9581           goto unknown;
9582
9583         case 'l':
9584           if (name[1] == 'o' &&
9585               name[2] == 'c' &&
9586               name[3] == 'a' &&
9587               name[4] == 'l' &&
9588               name[5] == 't' &&
9589               name[6] == 'i' &&
9590               name[7] == 'm' &&
9591               name[8] == 'e')
9592           {                                       /* localtime  */
9593             return -KEY_localtime;
9594           }
9595
9596           goto unknown;
9597
9598         case 'p':
9599           if (name[1] == 'r' &&
9600               name[2] == 'o' &&
9601               name[3] == 't' &&
9602               name[4] == 'o' &&
9603               name[5] == 't' &&
9604               name[6] == 'y' &&
9605               name[7] == 'p' &&
9606               name[8] == 'e')
9607           {                                       /* prototype  */
9608             return KEY_prototype;
9609           }
9610
9611           goto unknown;
9612
9613         case 'q':
9614           if (name[1] == 'u' &&
9615               name[2] == 'o' &&
9616               name[3] == 't' &&
9617               name[4] == 'e' &&
9618               name[5] == 'm' &&
9619               name[6] == 'e' &&
9620               name[7] == 't' &&
9621               name[8] == 'a')
9622           {                                       /* quotemeta  */
9623             return -KEY_quotemeta;
9624           }
9625
9626           goto unknown;
9627
9628         case 'r':
9629           if (name[1] == 'e' &&
9630               name[2] == 'w' &&
9631               name[3] == 'i' &&
9632               name[4] == 'n' &&
9633               name[5] == 'd' &&
9634               name[6] == 'd' &&
9635               name[7] == 'i' &&
9636               name[8] == 'r')
9637           {                                       /* rewinddir  */
9638             return -KEY_rewinddir;
9639           }
9640
9641           goto unknown;
9642
9643         case 's':
9644           if (name[1] == 'e' &&
9645               name[2] == 't' &&
9646               name[3] == 'n' &&
9647               name[4] == 'e' &&
9648               name[5] == 't' &&
9649               name[6] == 'e' &&
9650               name[7] == 'n' &&
9651               name[8] == 't')
9652           {                                       /* setnetent  */
9653             return -KEY_setnetent;
9654           }
9655
9656           goto unknown;
9657
9658         case 'w':
9659           if (name[1] == 'a' &&
9660               name[2] == 'n' &&
9661               name[3] == 't' &&
9662               name[4] == 'a' &&
9663               name[5] == 'r' &&
9664               name[6] == 'r' &&
9665               name[7] == 'a' &&
9666               name[8] == 'y')
9667           {                                       /* wantarray  */
9668             return -KEY_wantarray;
9669           }
9670
9671           goto unknown;
9672
9673         default:
9674           goto unknown;
9675       }
9676
9677     case 10: /* 9 tokens of length 10 */
9678       switch (name[0])
9679       {
9680         case 'e':
9681           if (name[1] == 'n' &&
9682               name[2] == 'd')
9683           {
9684             switch (name[3])
9685             {
9686               case 'h':
9687                 if (name[4] == 'o' &&
9688                     name[5] == 's' &&
9689                     name[6] == 't' &&
9690                     name[7] == 'e' &&
9691                     name[8] == 'n' &&
9692                     name[9] == 't')
9693                 {                                 /* endhostent */
9694                   return -KEY_endhostent;
9695                 }
9696
9697                 goto unknown;
9698
9699               case 's':
9700                 if (name[4] == 'e' &&
9701                     name[5] == 'r' &&
9702                     name[6] == 'v' &&
9703                     name[7] == 'e' &&
9704                     name[8] == 'n' &&
9705                     name[9] == 't')
9706                 {                                 /* endservent */
9707                   return -KEY_endservent;
9708                 }
9709
9710                 goto unknown;
9711
9712               default:
9713                 goto unknown;
9714             }
9715           }
9716
9717           goto unknown;
9718
9719         case 'g':
9720           if (name[1] == 'e' &&
9721               name[2] == 't')
9722           {
9723             switch (name[3])
9724             {
9725               case 'h':
9726                 if (name[4] == 'o' &&
9727                     name[5] == 's' &&
9728                     name[6] == 't' &&
9729                     name[7] == 'e' &&
9730                     name[8] == 'n' &&
9731                     name[9] == 't')
9732                 {                                 /* gethostent */
9733                   return -KEY_gethostent;
9734                 }
9735
9736                 goto unknown;
9737
9738               case 's':
9739                 switch (name[4])
9740                 {
9741                   case 'e':
9742                     if (name[5] == 'r' &&
9743                         name[6] == 'v' &&
9744                         name[7] == 'e' &&
9745                         name[8] == 'n' &&
9746                         name[9] == 't')
9747                     {                             /* getservent */
9748                       return -KEY_getservent;
9749                     }
9750
9751                     goto unknown;
9752
9753                   case 'o':
9754                     if (name[5] == 'c' &&
9755                         name[6] == 'k' &&
9756                         name[7] == 'o' &&
9757                         name[8] == 'p' &&
9758                         name[9] == 't')
9759                     {                             /* getsockopt */
9760                       return -KEY_getsockopt;
9761                     }
9762
9763                     goto unknown;
9764
9765                   default:
9766                     goto unknown;
9767                 }
9768
9769               default:
9770                 goto unknown;
9771             }
9772           }
9773
9774           goto unknown;
9775
9776         case 's':
9777           switch (name[1])
9778           {
9779             case 'e':
9780               if (name[2] == 't')
9781               {
9782                 switch (name[3])
9783                 {
9784                   case 'h':
9785                     if (name[4] == 'o' &&
9786                         name[5] == 's' &&
9787                         name[6] == 't' &&
9788                         name[7] == 'e' &&
9789                         name[8] == 'n' &&
9790                         name[9] == 't')
9791                     {                             /* sethostent */
9792                       return -KEY_sethostent;
9793                     }
9794
9795                     goto unknown;
9796
9797                   case 's':
9798                     switch (name[4])
9799                     {
9800                       case 'e':
9801                         if (name[5] == 'r' &&
9802                             name[6] == 'v' &&
9803                             name[7] == 'e' &&
9804                             name[8] == 'n' &&
9805                             name[9] == 't')
9806                         {                         /* setservent */
9807                           return -KEY_setservent;
9808                         }
9809
9810                         goto unknown;
9811
9812                       case 'o':
9813                         if (name[5] == 'c' &&
9814                             name[6] == 'k' &&
9815                             name[7] == 'o' &&
9816                             name[8] == 'p' &&
9817                             name[9] == 't')
9818                         {                         /* setsockopt */
9819                           return -KEY_setsockopt;
9820                         }
9821
9822                         goto unknown;
9823
9824                       default:
9825                         goto unknown;
9826                     }
9827
9828                   default:
9829                     goto unknown;
9830                 }
9831               }
9832
9833               goto unknown;
9834
9835             case 'o':
9836               if (name[2] == 'c' &&
9837                   name[3] == 'k' &&
9838                   name[4] == 'e' &&
9839                   name[5] == 't' &&
9840                   name[6] == 'p' &&
9841                   name[7] == 'a' &&
9842                   name[8] == 'i' &&
9843                   name[9] == 'r')
9844               {                                   /* socketpair */
9845                 return -KEY_socketpair;
9846               }
9847
9848               goto unknown;
9849
9850             default:
9851               goto unknown;
9852           }
9853
9854         default:
9855           goto unknown;
9856       }
9857
9858     case 11: /* 8 tokens of length 11 */
9859       switch (name[0])
9860       {
9861         case '_':
9862           if (name[1] == '_' &&
9863               name[2] == 'P' &&
9864               name[3] == 'A' &&
9865               name[4] == 'C' &&
9866               name[5] == 'K' &&
9867               name[6] == 'A' &&
9868               name[7] == 'G' &&
9869               name[8] == 'E' &&
9870               name[9] == '_' &&
9871               name[10] == '_')
9872           {                                       /* __PACKAGE__ */
9873             return -KEY___PACKAGE__;
9874           }
9875
9876           goto unknown;
9877
9878         case 'e':
9879           if (name[1] == 'n' &&
9880               name[2] == 'd' &&
9881               name[3] == 'p' &&
9882               name[4] == 'r' &&
9883               name[5] == 'o' &&
9884               name[6] == 't' &&
9885               name[7] == 'o' &&
9886               name[8] == 'e' &&
9887               name[9] == 'n' &&
9888               name[10] == 't')
9889           {                                       /* endprotoent */
9890             return -KEY_endprotoent;
9891           }
9892
9893           goto unknown;
9894
9895         case 'g':
9896           if (name[1] == 'e' &&
9897               name[2] == 't')
9898           {
9899             switch (name[3])
9900             {
9901               case 'p':
9902                 switch (name[4])
9903                 {
9904                   case 'e':
9905                     if (name[5] == 'e' &&
9906                         name[6] == 'r' &&
9907                         name[7] == 'n' &&
9908                         name[8] == 'a' &&
9909                         name[9] == 'm' &&
9910                         name[10] == 'e')
9911                     {                             /* getpeername */
9912                       return -KEY_getpeername;
9913                     }
9914
9915                     goto unknown;
9916
9917                   case 'r':
9918                     switch (name[5])
9919                     {
9920                       case 'i':
9921                         if (name[6] == 'o' &&
9922                             name[7] == 'r' &&
9923                             name[8] == 'i' &&
9924                             name[9] == 't' &&
9925                             name[10] == 'y')
9926                         {                         /* getpriority */
9927                           return -KEY_getpriority;
9928                         }
9929
9930                         goto unknown;
9931
9932                       case 'o':
9933                         if (name[6] == 't' &&
9934                             name[7] == 'o' &&
9935                             name[8] == 'e' &&
9936                             name[9] == 'n' &&
9937                             name[10] == 't')
9938                         {                         /* getprotoent */
9939                           return -KEY_getprotoent;
9940                         }
9941
9942                         goto unknown;
9943
9944                       default:
9945                         goto unknown;
9946                     }
9947
9948                   default:
9949                     goto unknown;
9950                 }
9951
9952               case 's':
9953                 if (name[4] == 'o' &&
9954                     name[5] == 'c' &&
9955                     name[6] == 'k' &&
9956                     name[7] == 'n' &&
9957                     name[8] == 'a' &&
9958                     name[9] == 'm' &&
9959                     name[10] == 'e')
9960                 {                                 /* getsockname */
9961                   return -KEY_getsockname;
9962                 }
9963
9964                 goto unknown;
9965
9966               default:
9967                 goto unknown;
9968             }
9969           }
9970
9971           goto unknown;
9972
9973         case 's':
9974           if (name[1] == 'e' &&
9975               name[2] == 't' &&
9976               name[3] == 'p' &&
9977               name[4] == 'r')
9978           {
9979             switch (name[5])
9980             {
9981               case 'i':
9982                 if (name[6] == 'o' &&
9983                     name[7] == 'r' &&
9984                     name[8] == 'i' &&
9985                     name[9] == 't' &&
9986                     name[10] == 'y')
9987                 {                                 /* setpriority */
9988                   return -KEY_setpriority;
9989                 }
9990
9991                 goto unknown;
9992
9993               case 'o':
9994                 if (name[6] == 't' &&
9995                     name[7] == 'o' &&
9996                     name[8] == 'e' &&
9997                     name[9] == 'n' &&
9998                     name[10] == 't')
9999                 {                                 /* setprotoent */
10000                   return -KEY_setprotoent;
10001                 }
10002
10003                 goto unknown;
10004
10005               default:
10006                 goto unknown;
10007             }
10008           }
10009
10010           goto unknown;
10011
10012         default:
10013           goto unknown;
10014       }
10015
10016     case 12: /* 2 tokens of length 12 */
10017       if (name[0] == 'g' &&
10018           name[1] == 'e' &&
10019           name[2] == 't' &&
10020           name[3] == 'n' &&
10021           name[4] == 'e' &&
10022           name[5] == 't' &&
10023           name[6] == 'b' &&
10024           name[7] == 'y')
10025       {
10026         switch (name[8])
10027         {
10028           case 'a':
10029             if (name[9] == 'd' &&
10030                 name[10] == 'd' &&
10031                 name[11] == 'r')
10032             {                                     /* getnetbyaddr */
10033               return -KEY_getnetbyaddr;
10034             }
10035
10036             goto unknown;
10037
10038           case 'n':
10039             if (name[9] == 'a' &&
10040                 name[10] == 'm' &&
10041                 name[11] == 'e')
10042             {                                     /* getnetbyname */
10043               return -KEY_getnetbyname;
10044             }
10045
10046             goto unknown;
10047
10048           default:
10049             goto unknown;
10050         }
10051       }
10052
10053       goto unknown;
10054
10055     case 13: /* 4 tokens of length 13 */
10056       if (name[0] == 'g' &&
10057           name[1] == 'e' &&
10058           name[2] == 't')
10059       {
10060         switch (name[3])
10061         {
10062           case 'h':
10063             if (name[4] == 'o' &&
10064                 name[5] == 's' &&
10065                 name[6] == 't' &&
10066                 name[7] == 'b' &&
10067                 name[8] == 'y')
10068             {
10069               switch (name[9])
10070               {
10071                 case 'a':
10072                   if (name[10] == 'd' &&
10073                       name[11] == 'd' &&
10074                       name[12] == 'r')
10075                   {                               /* gethostbyaddr */
10076                     return -KEY_gethostbyaddr;
10077                   }
10078
10079                   goto unknown;
10080
10081                 case 'n':
10082                   if (name[10] == 'a' &&
10083                       name[11] == 'm' &&
10084                       name[12] == 'e')
10085                   {                               /* gethostbyname */
10086                     return -KEY_gethostbyname;
10087                   }
10088
10089                   goto unknown;
10090
10091                 default:
10092                   goto unknown;
10093               }
10094             }
10095
10096             goto unknown;
10097
10098           case 's':
10099             if (name[4] == 'e' &&
10100                 name[5] == 'r' &&
10101                 name[6] == 'v' &&
10102                 name[7] == 'b' &&
10103                 name[8] == 'y')
10104             {
10105               switch (name[9])
10106               {
10107                 case 'n':
10108                   if (name[10] == 'a' &&
10109                       name[11] == 'm' &&
10110                       name[12] == 'e')
10111                   {                               /* getservbyname */
10112                     return -KEY_getservbyname;
10113                   }
10114
10115                   goto unknown;
10116
10117                 case 'p':
10118                   if (name[10] == 'o' &&
10119                       name[11] == 'r' &&
10120                       name[12] == 't')
10121                   {                               /* getservbyport */
10122                     return -KEY_getservbyport;
10123                   }
10124
10125                   goto unknown;
10126
10127                 default:
10128                   goto unknown;
10129               }
10130             }
10131
10132             goto unknown;
10133
10134           default:
10135             goto unknown;
10136         }
10137       }
10138
10139       goto unknown;
10140
10141     case 14: /* 1 tokens of length 14 */
10142       if (name[0] == 'g' &&
10143           name[1] == 'e' &&
10144           name[2] == 't' &&
10145           name[3] == 'p' &&
10146           name[4] == 'r' &&
10147           name[5] == 'o' &&
10148           name[6] == 't' &&
10149           name[7] == 'o' &&
10150           name[8] == 'b' &&
10151           name[9] == 'y' &&
10152           name[10] == 'n' &&
10153           name[11] == 'a' &&
10154           name[12] == 'm' &&
10155           name[13] == 'e')
10156       {                                           /* getprotobyname */
10157         return -KEY_getprotobyname;
10158       }
10159
10160       goto unknown;
10161
10162     case 16: /* 1 tokens of length 16 */
10163       if (name[0] == 'g' &&
10164           name[1] == 'e' &&
10165           name[2] == 't' &&
10166           name[3] == 'p' &&
10167           name[4] == 'r' &&
10168           name[5] == 'o' &&
10169           name[6] == 't' &&
10170           name[7] == 'o' &&
10171           name[8] == 'b' &&
10172           name[9] == 'y' &&
10173           name[10] == 'n' &&
10174           name[11] == 'u' &&
10175           name[12] == 'm' &&
10176           name[13] == 'b' &&
10177           name[14] == 'e' &&
10178           name[15] == 'r')
10179       {                                           /* getprotobynumber */
10180         return -KEY_getprotobynumber;
10181       }
10182
10183       goto unknown;
10184
10185     default:
10186       goto unknown;
10187   }
10188
10189 unknown:
10190   return 0;
10191 }
10192
10193 STATIC void
10194 S_checkcomma(pTHX_ const char *s, const char *name, const char *what)
10195 {
10196     dVAR;
10197
10198     if (*s == ' ' && s[1] == '(') {     /* XXX gotta be a better way */
10199         if (ckWARN(WARN_SYNTAX)) {
10200             int level = 1;
10201             const char *w;
10202             for (w = s+2; *w && level; w++) {
10203                 if (*w == '(')
10204                     ++level;
10205                 else if (*w == ')')
10206                     --level;
10207             }
10208             while (isSPACE(*w))
10209                 ++w;
10210             if (!*w || !strchr(";|})]oaiuw!=", *w))     /* an advisory hack only... */
10211                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
10212                             "%s (...) interpreted as function",name);
10213         }
10214     }
10215     while (s < PL_bufend && isSPACE(*s))
10216         s++;
10217     if (*s == '(')
10218         s++;
10219     while (s < PL_bufend && isSPACE(*s))
10220         s++;
10221     if (isIDFIRST_lazy_if(s,UTF)) {
10222         const char * const w = s++;
10223         while (isALNUM_lazy_if(s,UTF))
10224             s++;
10225         while (s < PL_bufend && isSPACE(*s))
10226             s++;
10227         if (*s == ',') {
10228             GV* gv;
10229             if (keyword(w, s - w))
10230                 return;
10231
10232             gv = gv_fetchpvn_flags(w, s - w, 0, SVt_PVCV);
10233             if (gv && GvCVu(gv))
10234                 return;
10235             Perl_croak(aTHX_ "No comma allowed after %s", what);
10236         }
10237     }
10238 }
10239
10240 /* Either returns sv, or mortalizes sv and returns a new SV*.
10241    Best used as sv=new_constant(..., sv, ...).
10242    If s, pv are NULL, calls subroutine with one argument,
10243    and type is used with error messages only. */
10244
10245 STATIC SV *
10246 S_new_constant(pTHX_ const char *s, STRLEN len, const char *key, SV *sv, SV *pv,
10247                const char *type)
10248 {
10249     dVAR; dSP;
10250     HV * const table = GvHV(PL_hintgv);          /* ^H */
10251     SV *res;
10252     SV **cvp;
10253     SV *cv, *typesv;
10254     const char *why1 = "", *why2 = "", *why3 = "";
10255
10256     if (!table || !(PL_hints & HINT_LOCALIZE_HH)) {
10257         SV *msg;
10258
10259         why2 = strEQ(key,"charnames")
10260                ? "(possibly a missing \"use charnames ...\")"
10261                : "";
10262         msg = Perl_newSVpvf(aTHX_ "Constant(%s) unknown: %s",
10263                             (type ? type: "undef"), why2);
10264
10265         /* This is convoluted and evil ("goto considered harmful")
10266          * but I do not understand the intricacies of all the different
10267          * failure modes of %^H in here.  The goal here is to make
10268          * the most probable error message user-friendly. --jhi */
10269
10270         goto msgdone;
10271
10272     report:
10273         msg = Perl_newSVpvf(aTHX_ "Constant(%s): %s%s%s",
10274                             (type ? type: "undef"), why1, why2, why3);
10275     msgdone:
10276         yyerror(SvPVX_const(msg));
10277         SvREFCNT_dec(msg);
10278         return sv;
10279     }
10280     cvp = hv_fetch(table, key, strlen(key), FALSE);
10281     if (!cvp || !SvOK(*cvp)) {
10282         why1 = "$^H{";
10283         why2 = key;
10284         why3 = "} is not defined";
10285         goto report;
10286     }
10287     sv_2mortal(sv);                     /* Parent created it permanently */
10288     cv = *cvp;
10289     if (!pv && s)
10290         pv = sv_2mortal(newSVpvn(s, len));
10291     if (type && pv)
10292         typesv = sv_2mortal(newSVpv(type, 0));
10293     else
10294         typesv = &PL_sv_undef;
10295
10296     PUSHSTACKi(PERLSI_OVERLOAD);
10297     ENTER ;
10298     SAVETMPS;
10299
10300     PUSHMARK(SP) ;
10301     EXTEND(sp, 3);
10302     if (pv)
10303         PUSHs(pv);
10304     PUSHs(sv);
10305     if (pv)
10306         PUSHs(typesv);
10307     PUTBACK;
10308     call_sv(cv, G_SCALAR | ( PL_in_eval ? 0 : G_EVAL));
10309
10310     SPAGAIN ;
10311
10312     /* Check the eval first */
10313     if (!PL_in_eval && SvTRUE(ERRSV)) {
10314         sv_catpvs(ERRSV, "Propagated");
10315         yyerror(SvPV_nolen_const(ERRSV)); /* Duplicates the message inside eval */
10316         (void)POPs;
10317         res = SvREFCNT_inc_simple(sv);
10318     }
10319     else {
10320         res = POPs;
10321         SvREFCNT_inc_simple_void(res);
10322     }
10323
10324     PUTBACK ;
10325     FREETMPS ;
10326     LEAVE ;
10327     POPSTACK;
10328
10329     if (!SvOK(res)) {
10330         why1 = "Call to &{$^H{";
10331         why2 = key;
10332         why3 = "}} did not return a defined value";
10333         sv = res;
10334         goto report;
10335     }
10336
10337     return res;
10338 }
10339
10340 /* Returns a NUL terminated string, with the length of the string written to
10341    *slp
10342    */
10343 STATIC char *
10344 S_scan_word(pTHX_ register char *s, char *dest, STRLEN destlen, int allow_package, STRLEN *slp)
10345 {
10346     dVAR;
10347     register char *d = dest;
10348     register char * const e = d + destlen - 3;  /* two-character token, ending NUL */
10349     for (;;) {
10350         if (d >= e)
10351             Perl_croak(aTHX_ ident_too_long);
10352         if (isALNUM(*s))        /* UTF handled below */
10353             *d++ = *s++;
10354         else if (*s == '\'' && allow_package && isIDFIRST_lazy_if(s+1,UTF)) {
10355             *d++ = ':';
10356             *d++ = ':';
10357             s++;
10358         }
10359         else if (*s == ':' && s[1] == ':' && allow_package && s[2] != '$') {
10360             *d++ = *s++;
10361             *d++ = *s++;
10362         }
10363         else if (UTF && UTF8_IS_START(*s) && isALNUM_utf8((U8*)s)) {
10364             char *t = s + UTF8SKIP(s);
10365             while (UTF8_IS_CONTINUED(*t) && is_utf8_mark((U8*)t))
10366                 t += UTF8SKIP(t);
10367             if (d + (t - s) > e)
10368                 Perl_croak(aTHX_ ident_too_long);
10369             Copy(s, d, t - s, char);
10370             d += t - s;
10371             s = t;
10372         }
10373         else {
10374             *d = '\0';
10375             *slp = d - dest;
10376             return s;
10377         }
10378     }
10379 }
10380
10381 STATIC char *
10382 S_scan_ident(pTHX_ register char *s, register const char *send, char *dest, STRLEN destlen, I32 ck_uni)
10383 {
10384     dVAR;
10385     char *bracket = NULL;
10386     char funny = *s++;
10387     register char *d = dest;
10388     register char * const e = d + destlen + 3;    /* two-character token, ending NUL */
10389
10390     if (isSPACE(*s))
10391         s = PEEKSPACE(s);
10392     if (isDIGIT(*s)) {
10393         while (isDIGIT(*s)) {
10394             if (d >= e)
10395                 Perl_croak(aTHX_ ident_too_long);
10396             *d++ = *s++;
10397         }
10398     }
10399     else {
10400         for (;;) {
10401             if (d >= e)
10402                 Perl_croak(aTHX_ ident_too_long);
10403             if (isALNUM(*s))    /* UTF handled below */
10404                 *d++ = *s++;
10405             else if (*s == '\'' && isIDFIRST_lazy_if(s+1,UTF)) {
10406                 *d++ = ':';
10407                 *d++ = ':';
10408                 s++;
10409             }
10410             else if (*s == ':' && s[1] == ':') {
10411                 *d++ = *s++;
10412                 *d++ = *s++;
10413             }
10414             else if (UTF && UTF8_IS_START(*s) && isALNUM_utf8((U8*)s)) {
10415                 char *t = s + UTF8SKIP(s);
10416                 while (UTF8_IS_CONTINUED(*t) && is_utf8_mark((U8*)t))
10417                     t += UTF8SKIP(t);
10418                 if (d + (t - s) > e)
10419                     Perl_croak(aTHX_ ident_too_long);
10420                 Copy(s, d, t - s, char);
10421                 d += t - s;
10422                 s = t;
10423             }
10424             else
10425                 break;
10426         }
10427     }
10428     *d = '\0';
10429     d = dest;
10430     if (*d) {
10431         if (PL_lex_state != LEX_NORMAL)
10432             PL_lex_state = LEX_INTERPENDMAYBE;
10433         return s;
10434     }
10435     if (*s == '$' && s[1] &&
10436         (isALNUM_lazy_if(s+1,UTF) || s[1] == '$' || s[1] == '{' || strnEQ(s+1,"::",2)) )
10437     {
10438         return s;
10439     }
10440     if (*s == '{') {
10441         bracket = s;
10442         s++;
10443     }
10444     else if (ck_uni)
10445         check_uni();
10446     if (s < send)
10447         *d = *s++;
10448     d[1] = '\0';
10449     if (*d == '^' && *s && isCONTROLVAR(*s)) {
10450         *d = toCTRL(*s);
10451         s++;
10452     }
10453     if (bracket) {
10454         if (isSPACE(s[-1])) {
10455             while (s < send) {
10456                 const char ch = *s++;
10457                 if (!SPACE_OR_TAB(ch)) {
10458                     *d = ch;
10459                     break;
10460                 }
10461             }
10462         }
10463         if (isIDFIRST_lazy_if(d,UTF)) {
10464             d++;
10465             if (UTF) {
10466                 char *end = s;
10467                 while ((end < send && isALNUM_lazy_if(end,UTF)) || *end == ':') {
10468                     end += UTF8SKIP(end);
10469                     while (end < send && UTF8_IS_CONTINUED(*end) && is_utf8_mark((U8*)end))
10470                         end += UTF8SKIP(end);
10471                 }
10472                 Copy(s, d, end - s, char);
10473                 d += end - s;
10474                 s = end;
10475             }
10476             else {
10477                 while ((isALNUM(*s) || *s == ':') && d < e)
10478                     *d++ = *s++;
10479                 if (d >= e)
10480                     Perl_croak(aTHX_ ident_too_long);
10481             }
10482             *d = '\0';
10483             while (s < send && SPACE_OR_TAB(*s)) s++;
10484             if ((*s == '[' || (*s == '{' && strNE(dest, "sub")))) {
10485                 if (ckWARN(WARN_AMBIGUOUS) && keyword(dest, d - dest)) {
10486                     const char *brack = *s == '[' ? "[...]" : "{...}";
10487                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
10488                         "Ambiguous use of %c{%s%s} resolved to %c%s%s",
10489                         funny, dest, brack, funny, dest, brack);
10490                 }
10491                 bracket++;
10492                 PL_lex_brackstack[PL_lex_brackets++] = (char)(XOPERATOR | XFAKEBRACK);
10493                 return s;
10494             }
10495         }
10496         /* Handle extended ${^Foo} variables
10497          * 1999-02-27 mjd-perl-patch@plover.com */
10498         else if (!isALNUM(*d) && !isPRINT(*d) /* isCTRL(d) */
10499                  && isALNUM(*s))
10500         {
10501             d++;
10502             while (isALNUM(*s) && d < e) {
10503                 *d++ = *s++;
10504             }
10505             if (d >= e)
10506                 Perl_croak(aTHX_ ident_too_long);
10507             *d = '\0';
10508         }
10509         if (*s == '}') {
10510             s++;
10511             if (PL_lex_state == LEX_INTERPNORMAL && !PL_lex_brackets) {
10512                 PL_lex_state = LEX_INTERPEND;
10513                 PL_expect = XREF;
10514             }
10515             if (funny == '#')
10516                 funny = '@';
10517             if (PL_lex_state == LEX_NORMAL) {
10518                 if (ckWARN(WARN_AMBIGUOUS) &&
10519                     (keyword(dest, d - dest) || get_cv(dest, FALSE)))
10520                 {
10521                     Perl_warner(aTHX_ packWARN(WARN_AMBIGUOUS),
10522                         "Ambiguous use of %c{%s} resolved to %c%s",
10523                         funny, dest, funny, dest);
10524                 }
10525             }
10526         }
10527         else {
10528             s = bracket;                /* let the parser handle it */
10529             *dest = '\0';
10530         }
10531     }
10532     else if (PL_lex_state == LEX_INTERPNORMAL && !PL_lex_brackets && !intuit_more(s))
10533         PL_lex_state = LEX_INTERPEND;
10534     return s;
10535 }
10536
10537 void
10538 Perl_pmflag(pTHX_ U32* pmfl, int ch)
10539 {
10540     PERL_UNUSED_CONTEXT;
10541     if (ch == 'i')
10542         *pmfl |= PMf_FOLD;
10543     else if (ch == 'g')
10544         *pmfl |= PMf_GLOBAL;
10545     else if (ch == 'c')
10546         *pmfl |= PMf_CONTINUE;
10547     else if (ch == 'o')
10548         *pmfl |= PMf_KEEP;
10549     else if (ch == 'm')
10550         *pmfl |= PMf_MULTILINE;
10551     else if (ch == 's')
10552         *pmfl |= PMf_SINGLELINE;
10553     else if (ch == 'x')
10554         *pmfl |= PMf_EXTENDED;
10555 }
10556
10557 STATIC char *
10558 S_scan_pat(pTHX_ char *start, I32 type)
10559 {
10560     dVAR;
10561     PMOP *pm;
10562     char *s = scan_str(start,!!PL_madskills,FALSE);
10563     const char * const valid_flags = (type == OP_QR) ? "iomsx" : "iogcmsx";
10564 #ifdef PERL_MAD
10565     char *modstart;
10566 #endif
10567
10568
10569     if (!s) {
10570         const char * const delimiter = skipspace(start);
10571         Perl_croak(aTHX_ *delimiter == '?'
10572                    ? "Search pattern not terminated or ternary operator parsed as search pattern"
10573                    : "Search pattern not terminated" );
10574     }
10575
10576     pm = (PMOP*)newPMOP(type, 0);
10577     if (PL_multi_open == '?')
10578         pm->op_pmflags |= PMf_ONCE;
10579 #ifdef PERL_MAD
10580     modstart = s;
10581 #endif
10582     while (*s && strchr(valid_flags, *s))
10583         pmflag(&pm->op_pmflags,*s++);
10584 #ifdef PERL_MAD
10585     if (PL_madskills && modstart != s) {
10586         SV* tmptoken = newSVpvn(modstart, s - modstart);
10587         append_madprops(newMADPROP('m', MAD_SV, tmptoken, 0), (OP*)pm, 0);
10588     }
10589 #endif
10590     /* issue a warning if /c is specified,but /g is not */
10591     if ((pm->op_pmflags & PMf_CONTINUE) && !(pm->op_pmflags & PMf_GLOBAL)
10592             && ckWARN(WARN_REGEXP))
10593     {
10594         Perl_warner(aTHX_ packWARN(WARN_REGEXP), "Use of /c modifier is meaningless without /g" );
10595     }
10596
10597     pm->op_pmpermflags = pm->op_pmflags;
10598
10599     PL_lex_op = (OP*)pm;
10600     yylval.ival = OP_MATCH;
10601     return s;
10602 }
10603
10604 STATIC char *
10605 S_scan_subst(pTHX_ char *start)
10606 {
10607     dVAR;
10608     register char *s;
10609     register PMOP *pm;
10610     I32 first_start;
10611     I32 es = 0;
10612 #ifdef PERL_MAD
10613     char *modstart;
10614 #endif
10615
10616     yylval.ival = OP_NULL;
10617
10618     s = scan_str(start,!!PL_madskills,FALSE);
10619
10620     if (!s)
10621         Perl_croak(aTHX_ "Substitution pattern not terminated");
10622
10623     if (s[-1] == PL_multi_open)
10624         s--;
10625 #ifdef PERL_MAD
10626     if (PL_madskills) {
10627         CURMAD('q', PL_thisopen);
10628         CURMAD('_', PL_thiswhite);
10629         CURMAD('E', PL_thisstuff);
10630         CURMAD('Q', PL_thisclose);
10631         PL_realtokenstart = s - SvPVX(PL_linestr);
10632     }
10633 #endif
10634
10635     first_start = PL_multi_start;
10636     s = scan_str(s,!!PL_madskills,FALSE);
10637     if (!s) {
10638         if (PL_lex_stuff) {
10639             SvREFCNT_dec(PL_lex_stuff);
10640             PL_lex_stuff = NULL;
10641         }
10642         Perl_croak(aTHX_ "Substitution replacement not terminated");
10643     }
10644     PL_multi_start = first_start;       /* so whole substitution is taken together */
10645
10646     pm = (PMOP*)newPMOP(OP_SUBST, 0);
10647
10648 #ifdef PERL_MAD
10649     if (PL_madskills) {
10650         CURMAD('z', PL_thisopen);
10651         CURMAD('R', PL_thisstuff);
10652         CURMAD('Z', PL_thisclose);
10653     }
10654     modstart = s;
10655 #endif
10656
10657     while (*s) {
10658         if (*s == 'e') {
10659             s++;
10660             es++;
10661         }
10662         else if (strchr("iogcmsx", *s))
10663             pmflag(&pm->op_pmflags,*s++);
10664         else
10665             break;
10666     }
10667
10668 #ifdef PERL_MAD
10669     if (PL_madskills) {
10670         if (modstart != s)
10671             curmad('m', newSVpvn(modstart, s - modstart));
10672         append_madprops(PL_thismad, (OP*)pm, 0);
10673         PL_thismad = 0;
10674     }
10675 #endif
10676     if ((pm->op_pmflags & PMf_CONTINUE) && ckWARN(WARN_REGEXP)) {
10677         Perl_warner(aTHX_ packWARN(WARN_REGEXP), "Use of /c modifier is meaningless in s///" );
10678     }
10679
10680     if (es) {
10681         SV * const repl = newSVpvs("");
10682
10683         PL_sublex_info.super_bufptr = s;
10684         PL_sublex_info.super_bufend = PL_bufend;
10685         PL_multi_end = 0;
10686         pm->op_pmflags |= PMf_EVAL;
10687         while (es-- > 0)
10688             sv_catpv(repl, es ? "eval " : "do ");
10689         sv_catpvs(repl, "{");
10690         sv_catsv(repl, PL_lex_repl);
10691         sv_catpvs(repl, "}");
10692         SvEVALED_on(repl);
10693         SvREFCNT_dec(PL_lex_repl);
10694         PL_lex_repl = repl;
10695     }
10696
10697     pm->op_pmpermflags = pm->op_pmflags;
10698     PL_lex_op = (OP*)pm;
10699     yylval.ival = OP_SUBST;
10700     return s;
10701 }
10702
10703 STATIC char *
10704 S_scan_trans(pTHX_ char *start)
10705 {
10706     dVAR;
10707     register char* s;
10708     OP *o;
10709     short *tbl;
10710     I32 squash;
10711     I32 del;
10712     I32 complement;
10713 #ifdef PERL_MAD
10714     char *modstart;
10715 #endif
10716
10717     yylval.ival = OP_NULL;
10718
10719     s = scan_str(start,!!PL_madskills,FALSE);
10720     if (!s)
10721         Perl_croak(aTHX_ "Transliteration pattern not terminated");
10722
10723     if (s[-1] == PL_multi_open)
10724         s--;
10725 #ifdef PERL_MAD
10726     if (PL_madskills) {
10727         CURMAD('q', PL_thisopen);
10728         CURMAD('_', PL_thiswhite);
10729         CURMAD('E', PL_thisstuff);
10730         CURMAD('Q', PL_thisclose);
10731         PL_realtokenstart = s - SvPVX(PL_linestr);
10732     }
10733 #endif
10734
10735     s = scan_str(s,!!PL_madskills,FALSE);
10736     if (!s) {
10737         if (PL_lex_stuff) {
10738             SvREFCNT_dec(PL_lex_stuff);
10739             PL_lex_stuff = NULL;
10740         }
10741         Perl_croak(aTHX_ "Transliteration replacement not terminated");
10742     }
10743     if (PL_madskills) {
10744         CURMAD('z', PL_thisopen);
10745         CURMAD('R', PL_thisstuff);
10746         CURMAD('Z', PL_thisclose);
10747     }
10748
10749     complement = del = squash = 0;
10750 #ifdef PERL_MAD
10751     modstart = s;
10752 #endif
10753     while (1) {
10754         switch (*s) {
10755         case 'c':
10756             complement = OPpTRANS_COMPLEMENT;
10757             break;
10758         case 'd':
10759             del = OPpTRANS_DELETE;
10760             break;
10761         case 's':
10762             squash = OPpTRANS_SQUASH;
10763             break;
10764         default:
10765             goto no_more;
10766         }
10767         s++;
10768     }
10769   no_more:
10770
10771     Newx(tbl, complement&&!del?258:256, short);
10772     o = newPVOP(OP_TRANS, 0, (char*)tbl);
10773     o->op_private &= ~OPpTRANS_ALL;
10774     o->op_private |= del|squash|complement|
10775       (DO_UTF8(PL_lex_stuff)? OPpTRANS_FROM_UTF : 0)|
10776       (DO_UTF8(PL_lex_repl) ? OPpTRANS_TO_UTF   : 0);
10777
10778     PL_lex_op = o;
10779     yylval.ival = OP_TRANS;
10780
10781 #ifdef PERL_MAD
10782     if (PL_madskills) {
10783         if (modstart != s)
10784             curmad('m', newSVpvn(modstart, s - modstart));
10785         append_madprops(PL_thismad, o, 0);
10786         PL_thismad = 0;
10787     }
10788 #endif
10789
10790     return s;
10791 }
10792
10793 STATIC char *
10794 S_scan_heredoc(pTHX_ register char *s)
10795 {
10796     dVAR;
10797     SV *herewas;
10798     I32 op_type = OP_SCALAR;
10799     I32 len;
10800     SV *tmpstr;
10801     char term;
10802     const char *found_newline;
10803     register char *d;
10804     register char *e;
10805     char *peek;
10806     const int outer = (PL_rsfp && !(PL_lex_inwhat == OP_SCALAR));
10807 #ifdef PERL_MAD
10808     I32 stuffstart = s - SvPVX(PL_linestr);
10809     char *tstart;
10810
10811     PL_realtokenstart = -1;
10812 #endif
10813
10814     s += 2;
10815     d = PL_tokenbuf;
10816     e = PL_tokenbuf + sizeof PL_tokenbuf - 1;
10817     if (!outer)
10818         *d++ = '\n';
10819     for (peek = s; SPACE_OR_TAB(*peek); peek++) ;
10820     if (*peek == '`' || *peek == '\'' || *peek =='"') {
10821         s = peek;
10822         term = *s++;
10823         s = delimcpy(d, e, s, PL_bufend, term, &len);
10824         d += len;
10825         if (s < PL_bufend)
10826             s++;
10827     }
10828     else {
10829         if (*s == '\\')
10830             s++, term = '\'';
10831         else
10832             term = '"';
10833         if (!isALNUM_lazy_if(s,UTF))
10834             deprecate_old("bare << to mean <<\"\"");
10835         for (; isALNUM_lazy_if(s,UTF); s++) {
10836             if (d < e)
10837                 *d++ = *s;
10838         }
10839     }
10840     if (d >= PL_tokenbuf + sizeof PL_tokenbuf - 1)
10841         Perl_croak(aTHX_ "Delimiter for here document is too long");
10842     *d++ = '\n';
10843     *d = '\0';
10844     len = d - PL_tokenbuf;
10845
10846 #ifdef PERL_MAD
10847     if (PL_madskills) {
10848         tstart = PL_tokenbuf + !outer;
10849         PL_thisclose = newSVpvn(tstart, len - !outer);
10850         tstart = SvPVX(PL_linestr) + stuffstart;
10851         PL_thisopen = newSVpvn(tstart, s - tstart);
10852         stuffstart = s - SvPVX(PL_linestr);
10853     }
10854 #endif
10855 #ifndef PERL_STRICT_CR
10856     d = strchr(s, '\r');
10857     if (d) {
10858         char * const olds = s;
10859         s = d;
10860         while (s < PL_bufend) {
10861             if (*s == '\r') {
10862                 *d++ = '\n';
10863                 if (*++s == '\n')
10864                     s++;
10865             }
10866             else if (*s == '\n' && s[1] == '\r') {      /* \015\013 on a mac? */
10867                 *d++ = *s++;
10868                 s++;
10869             }
10870             else
10871                 *d++ = *s++;
10872         }
10873         *d = '\0';
10874         PL_bufend = d;
10875         SvCUR_set(PL_linestr, PL_bufend - SvPVX_const(PL_linestr));
10876         s = olds;
10877     }
10878 #endif
10879 #ifdef PERL_MAD
10880     found_newline = 0;
10881 #endif
10882     if ( outer || !(found_newline = memchr(s, '\n', PL_bufend - s)) ) {
10883         herewas = newSVpvn(s,PL_bufend-s);
10884     }
10885     else {
10886 #ifdef PERL_MAD
10887         herewas = newSVpvn(s-1,found_newline-s+1);
10888 #else
10889         s--;
10890         herewas = newSVpvn(s,found_newline-s);
10891 #endif
10892     }
10893 #ifdef PERL_MAD
10894     if (PL_madskills) {
10895         tstart = SvPVX(PL_linestr) + stuffstart;
10896         if (PL_thisstuff)
10897             sv_catpvn(PL_thisstuff, tstart, s - tstart);
10898         else
10899             PL_thisstuff = newSVpvn(tstart, s - tstart);
10900     }
10901 #endif
10902     s += SvCUR(herewas);
10903
10904 #ifdef PERL_MAD
10905     stuffstart = s - SvPVX(PL_linestr);
10906
10907     if (found_newline)
10908         s--;
10909 #endif
10910
10911     tmpstr = newSV(79);
10912     sv_upgrade(tmpstr, SVt_PVIV);
10913     if (term == '\'') {
10914         op_type = OP_CONST;
10915         SvIV_set(tmpstr, -1);
10916     }
10917     else if (term == '`') {
10918         op_type = OP_BACKTICK;
10919         SvIV_set(tmpstr, '\\');
10920     }
10921
10922     CLINE;
10923     PL_multi_start = CopLINE(PL_curcop);
10924     PL_multi_open = PL_multi_close = '<';
10925     term = *PL_tokenbuf;
10926     if (PL_lex_inwhat == OP_SUBST && PL_in_eval && !PL_rsfp) {
10927         char * const bufptr = PL_sublex_info.super_bufptr;
10928         char * const bufend = PL_sublex_info.super_bufend;
10929         char * const olds = s - SvCUR(herewas);
10930         s = strchr(bufptr, '\n');
10931         if (!s)
10932             s = bufend;
10933         d = s;
10934         while (s < bufend &&
10935           (*s != term || memNE(s,PL_tokenbuf,len)) ) {
10936             if (*s++ == '\n')
10937                 CopLINE_inc(PL_curcop);
10938         }
10939         if (s >= bufend) {
10940             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
10941             missingterm(PL_tokenbuf);
10942         }
10943         sv_setpvn(herewas,bufptr,d-bufptr+1);
10944         sv_setpvn(tmpstr,d+1,s-d);
10945         s += len - 1;
10946         sv_catpvn(herewas,s,bufend-s);
10947         Copy(SvPVX_const(herewas),bufptr,SvCUR(herewas) + 1,char);
10948
10949         s = olds;
10950         goto retval;
10951     }
10952     else if (!outer) {
10953         d = s;
10954         while (s < PL_bufend &&
10955           (*s != term || memNE(s,PL_tokenbuf,len)) ) {
10956             if (*s++ == '\n')
10957                 CopLINE_inc(PL_curcop);
10958         }
10959         if (s >= PL_bufend) {
10960             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
10961             missingterm(PL_tokenbuf);
10962         }
10963         sv_setpvn(tmpstr,d+1,s-d);
10964 #ifdef PERL_MAD
10965         if (PL_madskills) {
10966             if (PL_thisstuff)
10967                 sv_catpvn(PL_thisstuff, d + 1, s - d);
10968             else
10969                 PL_thisstuff = newSVpvn(d + 1, s - d);
10970             stuffstart = s - SvPVX(PL_linestr);
10971         }
10972 #endif
10973         s += len - 1;
10974         CopLINE_inc(PL_curcop); /* the preceding stmt passes a newline */
10975
10976         sv_catpvn(herewas,s,PL_bufend-s);
10977         sv_setsv(PL_linestr,herewas);
10978         PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = s = PL_linestart = SvPVX(PL_linestr);
10979         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
10980         PL_last_lop = PL_last_uni = NULL;
10981     }
10982     else
10983         sv_setpvn(tmpstr,"",0);   /* avoid "uninitialized" warning */
10984     while (s >= PL_bufend) {    /* multiple line string? */
10985 #ifdef PERL_MAD
10986         if (PL_madskills) {
10987             tstart = SvPVX(PL_linestr) + stuffstart;
10988             if (PL_thisstuff)
10989                 sv_catpvn(PL_thisstuff, tstart, PL_bufend - tstart);
10990             else
10991                 PL_thisstuff = newSVpvn(tstart, PL_bufend - tstart);
10992         }
10993 #endif
10994         if (!outer ||
10995          !(PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = filter_gets(PL_linestr, PL_rsfp, 0))) {
10996             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
10997             missingterm(PL_tokenbuf);
10998         }
10999 #ifdef PERL_MAD
11000         stuffstart = s - SvPVX(PL_linestr);
11001 #endif
11002         CopLINE_inc(PL_curcop);
11003         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11004         PL_last_lop = PL_last_uni = NULL;
11005 #ifndef PERL_STRICT_CR
11006         if (PL_bufend - PL_linestart >= 2) {
11007             if ((PL_bufend[-2] == '\r' && PL_bufend[-1] == '\n') ||
11008                 (PL_bufend[-2] == '\n' && PL_bufend[-1] == '\r'))
11009             {
11010                 PL_bufend[-2] = '\n';
11011                 PL_bufend--;
11012                 SvCUR_set(PL_linestr, PL_bufend - SvPVX_const(PL_linestr));
11013             }
11014             else if (PL_bufend[-1] == '\r')
11015                 PL_bufend[-1] = '\n';
11016         }
11017         else if (PL_bufend - PL_linestart == 1 && PL_bufend[-1] == '\r')
11018             PL_bufend[-1] = '\n';
11019 #endif
11020         if (PERLDB_LINE && PL_curstash != PL_debstash) {
11021             SV * const sv = newSV(0);
11022
11023             sv_upgrade(sv, SVt_PVMG);
11024             sv_setsv(sv,PL_linestr);
11025             (void)SvIOK_on(sv);
11026             SvIV_set(sv, 0);
11027             av_store(CopFILEAVx(PL_curcop), (I32)CopLINE(PL_curcop),sv);
11028         }
11029         if (*s == term && memEQ(s,PL_tokenbuf,len)) {
11030             STRLEN off = PL_bufend - 1 - SvPVX_const(PL_linestr);
11031             *(SvPVX(PL_linestr) + off ) = ' ';
11032             sv_catsv(PL_linestr,herewas);
11033             PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11034             s = SvPVX(PL_linestr) + off; /* In case PV of PL_linestr moved. */
11035         }
11036         else {
11037             s = PL_bufend;
11038             sv_catsv(tmpstr,PL_linestr);
11039         }
11040     }
11041     s++;
11042 retval:
11043     PL_multi_end = CopLINE(PL_curcop);
11044     if (SvCUR(tmpstr) + 5 < SvLEN(tmpstr)) {
11045         SvPV_shrink_to_cur(tmpstr);
11046     }
11047     SvREFCNT_dec(herewas);
11048     if (!IN_BYTES) {
11049         if (UTF && is_utf8_string((U8*)SvPVX_const(tmpstr), SvCUR(tmpstr)))
11050             SvUTF8_on(tmpstr);
11051         else if (PL_encoding)
11052             sv_recode_to_utf8(tmpstr, PL_encoding);
11053     }
11054     PL_lex_stuff = tmpstr;
11055     yylval.ival = op_type;
11056     return s;
11057 }
11058
11059 /* scan_inputsymbol
11060    takes: current position in input buffer
11061    returns: new position in input buffer
11062    side-effects: yylval and lex_op are set.
11063
11064    This code handles:
11065
11066    <>           read from ARGV
11067    <FH>         read from filehandle
11068    <pkg::FH>    read from package qualified filehandle
11069    <pkg'FH>     read from package qualified filehandle
11070    <$fh>        read from filehandle in $fh
11071    <*.h>        filename glob
11072
11073 */
11074
11075 STATIC char *
11076 S_scan_inputsymbol(pTHX_ char *start)
11077 {
11078     dVAR;
11079     register char *s = start;           /* current position in buffer */
11080     char *end;
11081     I32 len;
11082
11083     char *d = PL_tokenbuf;                                      /* start of temp holding space */
11084     const char * const e = PL_tokenbuf + sizeof PL_tokenbuf;    /* end of temp holding space */
11085
11086     end = strchr(s, '\n');
11087     if (!end)
11088         end = PL_bufend;
11089     s = delimcpy(d, e, s + 1, end, '>', &len);  /* extract until > */
11090
11091     /* die if we didn't have space for the contents of the <>,
11092        or if it didn't end, or if we see a newline
11093     */
11094
11095     if (len >= (I32)sizeof PL_tokenbuf)
11096         Perl_croak(aTHX_ "Excessively long <> operator");
11097     if (s >= end)
11098         Perl_croak(aTHX_ "Unterminated <> operator");
11099
11100     s++;
11101
11102     /* check for <$fh>
11103        Remember, only scalar variables are interpreted as filehandles by
11104        this code.  Anything more complex (e.g., <$fh{$num}>) will be
11105        treated as a glob() call.
11106        This code makes use of the fact that except for the $ at the front,
11107        a scalar variable and a filehandle look the same.
11108     */
11109     if (*d == '$' && d[1]) d++;
11110
11111     /* allow <Pkg'VALUE> or <Pkg::VALUE> */
11112     while (*d && (isALNUM_lazy_if(d,UTF) || *d == '\'' || *d == ':'))
11113         d++;
11114
11115     /* If we've tried to read what we allow filehandles to look like, and
11116        there's still text left, then it must be a glob() and not a getline.
11117        Use scan_str to pull out the stuff between the <> and treat it
11118        as nothing more than a string.
11119     */
11120
11121     if (d - PL_tokenbuf != len) {
11122         yylval.ival = OP_GLOB;
11123         set_csh();
11124         s = scan_str(start,!!PL_madskills,FALSE);
11125         if (!s)
11126            Perl_croak(aTHX_ "Glob not terminated");
11127         return s;
11128     }
11129     else {
11130         bool readline_overriden = FALSE;
11131         GV *gv_readline;
11132         GV **gvp;
11133         /* we're in a filehandle read situation */
11134         d = PL_tokenbuf;
11135
11136         /* turn <> into <ARGV> */
11137         if (!len)
11138             Copy("ARGV",d,5,char);
11139
11140         /* Check whether readline() is overriden */
11141         gv_readline = gv_fetchpvs("readline", GV_NOTQUAL, SVt_PVCV);
11142         if ((gv_readline
11143                 && GvCVu(gv_readline) && GvIMPORTED_CV(gv_readline))
11144                 ||
11145                 ((gvp = (GV**)hv_fetchs(PL_globalstash, "readline", FALSE))
11146                 && (gv_readline = *gvp) != (GV*)&PL_sv_undef
11147                 && GvCVu(gv_readline) && GvIMPORTED_CV(gv_readline)))
11148             readline_overriden = TRUE;
11149
11150         /* if <$fh>, create the ops to turn the variable into a
11151            filehandle
11152         */
11153         if (*d == '$') {
11154             PADOFFSET tmp;
11155
11156             /* try to find it in the pad for this block, otherwise find
11157                add symbol table ops
11158             */
11159             if ((tmp = pad_findmy(d)) != NOT_IN_PAD) {
11160                 if (PAD_COMPNAME_FLAGS_isOUR(tmp)) {
11161                     HV * const stash = PAD_COMPNAME_OURSTASH(tmp);
11162                     HEK * const stashname = HvNAME_HEK(stash);
11163                     SV * const sym = sv_2mortal(newSVhek(stashname));
11164                     sv_catpvs(sym, "::");
11165                     sv_catpv(sym, d+1);
11166                     d = SvPVX(sym);
11167                     goto intro_sym;
11168                 }
11169                 else {
11170                     OP * const o = newOP(OP_PADSV, 0);
11171                     o->op_targ = tmp;
11172                     PL_lex_op = readline_overriden
11173                         ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
11174                                 append_elem(OP_LIST, o,
11175                                     newCVREF(0, newGVOP(OP_GV,0,gv_readline))))
11176                         : (OP*)newUNOP(OP_READLINE, 0, o);
11177                 }
11178             }
11179             else {
11180                 GV *gv;
11181                 ++d;
11182 intro_sym:
11183                 gv = gv_fetchpv(d,
11184                                 (PL_in_eval
11185                                  ? (GV_ADDMULTI | GV_ADDINEVAL)
11186                                  : GV_ADDMULTI),
11187                                 SVt_PV);
11188                 PL_lex_op = readline_overriden
11189                     ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
11190                             append_elem(OP_LIST,
11191                                 newUNOP(OP_RV2SV, 0, newGVOP(OP_GV, 0, gv)),
11192                                 newCVREF(0, newGVOP(OP_GV, 0, gv_readline))))
11193                     : (OP*)newUNOP(OP_READLINE, 0,
11194                             newUNOP(OP_RV2SV, 0,
11195                                 newGVOP(OP_GV, 0, gv)));
11196             }
11197             if (!readline_overriden)
11198                 PL_lex_op->op_flags |= OPf_SPECIAL;
11199             /* we created the ops in PL_lex_op, so make yylval.ival a null op */
11200             yylval.ival = OP_NULL;
11201         }
11202
11203         /* If it's none of the above, it must be a literal filehandle
11204            (<Foo::BAR> or <FOO>) so build a simple readline OP */
11205         else {
11206             GV * const gv = gv_fetchpv(d, GV_ADD, SVt_PVIO);
11207             PL_lex_op = readline_overriden
11208                 ? (OP*)newUNOP(OP_ENTERSUB, OPf_STACKED,
11209                         append_elem(OP_LIST,
11210                             newGVOP(OP_GV, 0, gv),
11211                             newCVREF(0, newGVOP(OP_GV, 0, gv_readline))))
11212                 : (OP*)newUNOP(OP_READLINE, 0, newGVOP(OP_GV, 0, gv));
11213             yylval.ival = OP_NULL;
11214         }
11215     }
11216
11217     return s;
11218 }
11219
11220
11221 /* scan_str
11222    takes: start position in buffer
11223           keep_quoted preserve \ on the embedded delimiter(s)
11224           keep_delims preserve the delimiters around the string
11225    returns: position to continue reading from buffer
11226    side-effects: multi_start, multi_close, lex_repl or lex_stuff, and
11227         updates the read buffer.
11228
11229    This subroutine pulls a string out of the input.  It is called for:
11230         q               single quotes           q(literal text)
11231         '               single quotes           'literal text'
11232         qq              double quotes           qq(interpolate $here please)
11233         "               double quotes           "interpolate $here please"
11234         qx              backticks               qx(/bin/ls -l)
11235         `               backticks               `/bin/ls -l`
11236         qw              quote words             @EXPORT_OK = qw( func() $spam )
11237         m//             regexp match            m/this/
11238         s///            regexp substitute       s/this/that/
11239         tr///           string transliterate    tr/this/that/
11240         y///            string transliterate    y/this/that/
11241         ($*@)           sub prototypes          sub foo ($)
11242         (stuff)         sub attr parameters     sub foo : attr(stuff)
11243         <>              readline or globs       <FOO>, <>, <$fh>, or <*.c>
11244
11245    In most of these cases (all but <>, patterns and transliterate)
11246    yylex() calls scan_str().  m// makes yylex() call scan_pat() which
11247    calls scan_str().  s/// makes yylex() call scan_subst() which calls
11248    scan_str().  tr/// and y/// make yylex() call scan_trans() which
11249    calls scan_str().
11250
11251    It skips whitespace before the string starts, and treats the first
11252    character as the delimiter.  If the delimiter is one of ([{< then
11253    the corresponding "close" character )]}> is used as the closing
11254    delimiter.  It allows quoting of delimiters, and if the string has
11255    balanced delimiters ([{<>}]) it allows nesting.
11256
11257    On success, the SV with the resulting string is put into lex_stuff or,
11258    if that is already non-NULL, into lex_repl. The second case occurs only
11259    when parsing the RHS of the special constructs s/// and tr/// (y///).
11260    For convenience, the terminating delimiter character is stuffed into
11261    SvIVX of the SV.
11262 */
11263
11264 STATIC char *
11265 S_scan_str(pTHX_ char *start, int keep_quoted, int keep_delims)
11266 {
11267     dVAR;
11268     SV *sv;                             /* scalar value: string */
11269     char *tmps;                         /* temp string, used for delimiter matching */
11270     register char *s = start;           /* current position in the buffer */
11271     register char term;                 /* terminating character */
11272     register char *to;                  /* current position in the sv's data */
11273     I32 brackets = 1;                   /* bracket nesting level */
11274     bool has_utf8 = FALSE;              /* is there any utf8 content? */
11275     I32 termcode;                       /* terminating char. code */
11276     U8 termstr[UTF8_MAXBYTES];          /* terminating string */
11277     STRLEN termlen;                     /* length of terminating string */
11278     char *last = NULL;                  /* last position for nesting bracket */
11279 #ifdef PERL_MAD
11280     int stuffstart;
11281     char *tstart;
11282 #endif
11283
11284     /* skip space before the delimiter */
11285     if (isSPACE(*s)) {
11286         s = PEEKSPACE(s);
11287     }
11288
11289 #ifdef PERL_MAD
11290     if (PL_realtokenstart >= 0) {
11291         stuffstart = PL_realtokenstart;
11292         PL_realtokenstart = -1;
11293     }
11294     else
11295         stuffstart = start - SvPVX(PL_linestr);
11296 #endif
11297     /* mark where we are, in case we need to report errors */
11298     CLINE;
11299
11300     /* after skipping whitespace, the next character is the terminator */
11301     term = *s;
11302     if (!UTF) {
11303         termcode = termstr[0] = term;
11304         termlen = 1;
11305     }
11306     else {
11307         termcode = utf8_to_uvchr((U8*)s, &termlen);
11308         Copy(s, termstr, termlen, U8);
11309         if (!UTF8_IS_INVARIANT(term))
11310             has_utf8 = TRUE;
11311     }
11312
11313     /* mark where we are */
11314     PL_multi_start = CopLINE(PL_curcop);
11315     PL_multi_open = term;
11316
11317     /* find corresponding closing delimiter */
11318     if (term && (tmps = strchr("([{< )]}> )]}>",term)))
11319         termcode = termstr[0] = term = tmps[5];
11320
11321     PL_multi_close = term;
11322
11323     /* create a new SV to hold the contents.  79 is the SV's initial length.
11324        What a random number. */
11325     sv = newSV(79);
11326     sv_upgrade(sv, SVt_PVIV);
11327     SvIV_set(sv, termcode);
11328     (void)SvPOK_only(sv);               /* validate pointer */
11329
11330     /* move past delimiter and try to read a complete string */
11331     if (keep_delims)
11332         sv_catpvn(sv, s, termlen);
11333     s += termlen;
11334 #ifdef PERL_MAD
11335     tstart = SvPVX(PL_linestr) + stuffstart;
11336     if (!PL_thisopen && !keep_delims) {
11337         PL_thisopen = newSVpvn(tstart, s - tstart);
11338         stuffstart = s - SvPVX(PL_linestr);
11339     }
11340 #endif
11341     for (;;) {
11342         if (PL_encoding && !UTF) {
11343             bool cont = TRUE;
11344
11345             while (cont) {
11346                 int offset = s - SvPVX_const(PL_linestr);
11347                 const bool found = sv_cat_decode(sv, PL_encoding, PL_linestr,
11348                                            &offset, (char*)termstr, termlen);
11349                 const char * const ns = SvPVX_const(PL_linestr) + offset;
11350                 char * const svlast = SvEND(sv) - 1;
11351
11352                 for (; s < ns; s++) {
11353                     if (*s == '\n' && !PL_rsfp)
11354                         CopLINE_inc(PL_curcop);
11355                 }
11356                 if (!found)
11357                     goto read_more_line;
11358                 else {
11359                     /* handle quoted delimiters */
11360                     if (SvCUR(sv) > 1 && *(svlast-1) == '\\') {
11361                         const char *t;
11362                         for (t = svlast-2; t >= SvPVX_const(sv) && *t == '\\';)
11363                             t--;
11364                         if ((svlast-1 - t) % 2) {
11365                             if (!keep_quoted) {
11366                                 *(svlast-1) = term;
11367                                 *svlast = '\0';
11368                                 SvCUR_set(sv, SvCUR(sv) - 1);
11369                             }
11370                             continue;
11371                         }
11372                     }
11373                     if (PL_multi_open == PL_multi_close) {
11374                         cont = FALSE;
11375                     }
11376                     else {
11377                         const char *t;
11378                         char *w;
11379                         if (!last)
11380                             last = SvPVX(sv);
11381                         for (t = w = last; t < svlast; w++, t++) {
11382                             /* At here, all closes are "was quoted" one,
11383                                so we don't check PL_multi_close. */
11384                             if (*t == '\\') {
11385                                 if (!keep_quoted && *(t+1) == PL_multi_open)
11386                                     t++;
11387                                 else
11388                                     *w++ = *t++;
11389                             }
11390                             else if (*t == PL_multi_open)
11391                                 brackets++;
11392
11393                             *w = *t;
11394                         }
11395                         if (w < t) {
11396                             *w++ = term;
11397                             *w = '\0';
11398                             SvCUR_set(sv, w - SvPVX_const(sv));
11399                         }
11400                         last = w;
11401                         if (--brackets <= 0)
11402                             cont = FALSE;
11403                     }
11404                 }
11405             }
11406             if (!keep_delims) {
11407                 SvCUR_set(sv, SvCUR(sv) - 1);
11408                 *SvEND(sv) = '\0';
11409             }
11410             break;
11411         }
11412
11413         /* extend sv if need be */
11414         SvGROW(sv, SvCUR(sv) + (PL_bufend - s) + 1);
11415         /* set 'to' to the next character in the sv's string */
11416         to = SvPVX(sv)+SvCUR(sv);
11417
11418         /* if open delimiter is the close delimiter read unbridle */
11419         if (PL_multi_open == PL_multi_close) {
11420             for (; s < PL_bufend; s++,to++) {
11421                 /* embedded newlines increment the current line number */
11422                 if (*s == '\n' && !PL_rsfp)
11423                     CopLINE_inc(PL_curcop);
11424                 /* handle quoted delimiters */
11425                 if (*s == '\\' && s+1 < PL_bufend && term != '\\') {
11426                     if (!keep_quoted && s[1] == term)
11427                         s++;
11428                 /* any other quotes are simply copied straight through */
11429                     else
11430                         *to++ = *s++;
11431                 }
11432                 /* terminate when run out of buffer (the for() condition), or
11433                    have found the terminator */
11434                 else if (*s == term) {
11435                     if (termlen == 1)
11436                         break;
11437                     if (s+termlen <= PL_bufend && memEQ(s, (char*)termstr, termlen))
11438                         break;
11439                 }
11440                 else if (!has_utf8 && !UTF8_IS_INVARIANT((U8)*s) && UTF)
11441                     has_utf8 = TRUE;
11442                 *to = *s;
11443             }
11444         }
11445
11446         /* if the terminator isn't the same as the start character (e.g.,
11447            matched brackets), we have to allow more in the quoting, and
11448            be prepared for nested brackets.
11449         */
11450         else {
11451             /* read until we run out of string, or we find the terminator */
11452             for (; s < PL_bufend; s++,to++) {
11453                 /* embedded newlines increment the line count */
11454                 if (*s == '\n' && !PL_rsfp)
11455                     CopLINE_inc(PL_curcop);
11456                 /* backslashes can escape the open or closing characters */
11457                 if (*s == '\\' && s+1 < PL_bufend) {
11458                     if (!keep_quoted &&
11459                         ((s[1] == PL_multi_open) || (s[1] == PL_multi_close)))
11460                         s++;
11461                     else
11462                         *to++ = *s++;
11463                 }
11464                 /* allow nested opens and closes */
11465                 else if (*s == PL_multi_close && --brackets <= 0)
11466                     break;
11467                 else if (*s == PL_multi_open)
11468                     brackets++;
11469                 else if (!has_utf8 && !UTF8_IS_INVARIANT((U8)*s) && UTF)
11470                     has_utf8 = TRUE;
11471                 *to = *s;
11472             }
11473         }
11474         /* terminate the copied string and update the sv's end-of-string */
11475         *to = '\0';
11476         SvCUR_set(sv, to - SvPVX_const(sv));
11477
11478         /*
11479          * this next chunk reads more into the buffer if we're not done yet
11480          */
11481
11482         if (s < PL_bufend)
11483             break;              /* handle case where we are done yet :-) */
11484
11485 #ifndef PERL_STRICT_CR
11486         if (to - SvPVX_const(sv) >= 2) {
11487             if ((to[-2] == '\r' && to[-1] == '\n') ||
11488                 (to[-2] == '\n' && to[-1] == '\r'))
11489             {
11490                 to[-2] = '\n';
11491                 to--;
11492                 SvCUR_set(sv, to - SvPVX_const(sv));
11493             }
11494             else if (to[-1] == '\r')
11495                 to[-1] = '\n';
11496         }
11497         else if (to - SvPVX_const(sv) == 1 && to[-1] == '\r')
11498             to[-1] = '\n';
11499 #endif
11500
11501      read_more_line:
11502         /* if we're out of file, or a read fails, bail and reset the current
11503            line marker so we can report where the unterminated string began
11504         */
11505 #ifdef PERL_MAD
11506         if (PL_madskills) {
11507             char *tstart = SvPVX(PL_linestr) + stuffstart;
11508             if (PL_thisstuff)
11509                 sv_catpvn(PL_thisstuff, tstart, PL_bufend - tstart);
11510             else
11511                 PL_thisstuff = newSVpvn(tstart, PL_bufend - tstart);
11512         }
11513 #endif
11514         if (!PL_rsfp ||
11515          !(PL_oldoldbufptr = PL_oldbufptr = s = PL_linestart = filter_gets(PL_linestr, PL_rsfp, 0))) {
11516             sv_free(sv);
11517             CopLINE_set(PL_curcop, (line_t)PL_multi_start);
11518             return NULL;
11519         }
11520 #ifdef PERL_MAD
11521         stuffstart = 0;
11522 #endif
11523         /* we read a line, so increment our line counter */
11524         CopLINE_inc(PL_curcop);
11525
11526         /* update debugger info */
11527         if (PERLDB_LINE && PL_curstash != PL_debstash) {
11528             SV * const line_sv = newSV(0);
11529
11530             sv_upgrade(line_sv, SVt_PVMG);
11531             sv_setsv(line_sv,PL_linestr);
11532             (void)SvIOK_on(line_sv);
11533             SvIV_set(line_sv, 0);
11534             av_store(CopFILEAVx(PL_curcop), (I32)CopLINE(PL_curcop), line_sv);
11535         }
11536
11537         /* having changed the buffer, we must update PL_bufend */
11538         PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
11539         PL_last_lop = PL_last_uni = NULL;
11540     }
11541
11542     /* at this point, we have successfully read the delimited string */
11543
11544     if (!PL_encoding || UTF) {
11545 #ifdef PERL_MAD
11546         if (PL_madskills) {
11547             char *tstart = SvPVX(PL_linestr) + stuffstart;
11548             if (PL_thisstuff)
11549                 sv_catpvn(PL_thisstuff, tstart, s - tstart);
11550             else
11551                 PL_thisstuff = newSVpvn(tstart, s - tstart);
11552             if (!PL_thisclose && !keep_delims)
11553                 PL_thisclose = newSVpvn(s,termlen);
11554         }
11555 #endif
11556
11557         if (keep_delims)
11558             sv_catpvn(sv, s, termlen);
11559         s += termlen;
11560     }
11561 #ifdef PERL_MAD
11562     else {
11563         if (PL_madskills) {
11564             char *tstart = SvPVX(PL_linestr) + stuffstart;
11565             if (PL_thisstuff)
11566                 sv_catpvn(PL_thisstuff, tstart, s - tstart - termlen);
11567             else
11568                 PL_thisstuff = newSVpvn(tstart, s - tstart - termlen);
11569             if (!PL_thisclose && !keep_delims)
11570                 PL_thisclose = newSVpvn(s - termlen,termlen);
11571         }
11572     }
11573 #endif
11574     if (has_utf8 || PL_encoding)
11575         SvUTF8_on(sv);
11576
11577     PL_multi_end = CopLINE(PL_curcop);
11578
11579     /* if we allocated too much space, give some back */
11580     if (SvCUR(sv) + 5 < SvLEN(sv)) {
11581         SvLEN_set(sv, SvCUR(sv) + 1);
11582         SvPV_renew(sv, SvLEN(sv));
11583     }
11584
11585     /* decide whether this is the first or second quoted string we've read
11586        for this op
11587     */
11588
11589     if (PL_lex_stuff)
11590         PL_lex_repl = sv;
11591     else
11592         PL_lex_stuff = sv;
11593     return s;
11594 }
11595
11596 /*
11597   scan_num
11598   takes: pointer to position in buffer
11599   returns: pointer to new position in buffer
11600   side-effects: builds ops for the constant in yylval.op
11601
11602   Read a number in any of the formats that Perl accepts:
11603
11604   \d(_?\d)*(\.(\d(_?\d)*)?)?[Ee][\+\-]?(\d(_?\d)*)      12 12.34 12.
11605   \.\d(_?\d)*[Ee][\+\-]?(\d(_?\d)*)                     .34
11606   0b[01](_?[01])*
11607   0[0-7](_?[0-7])*
11608   0x[0-9A-Fa-f](_?[0-9A-Fa-f])*
11609
11610   Like most scan_ routines, it uses the PL_tokenbuf buffer to hold the
11611   thing it reads.
11612
11613   If it reads a number without a decimal point or an exponent, it will
11614   try converting the number to an integer and see if it can do so
11615   without loss of precision.
11616 */
11617
11618 char *
11619 Perl_scan_num(pTHX_ const char *start, YYSTYPE* lvalp)
11620 {
11621     dVAR;
11622     register const char *s = start;     /* current position in buffer */
11623     register char *d;                   /* destination in temp buffer */
11624     register char *e;                   /* end of temp buffer */
11625     NV nv;                              /* number read, as a double */
11626     SV *sv = NULL;                      /* place to put the converted number */
11627     bool floatit;                       /* boolean: int or float? */
11628     const char *lastub = NULL;          /* position of last underbar */
11629     static char const number_too_long[] = "Number too long";
11630
11631     /* We use the first character to decide what type of number this is */
11632
11633     switch (*s) {
11634     default:
11635       Perl_croak(aTHX_ "panic: scan_num");
11636
11637     /* if it starts with a 0, it could be an octal number, a decimal in
11638        0.13 disguise, or a hexadecimal number, or a binary number. */
11639     case '0':
11640         {
11641           /* variables:
11642              u          holds the "number so far"
11643              shift      the power of 2 of the base
11644                         (hex == 4, octal == 3, binary == 1)
11645              overflowed was the number more than we can hold?
11646
11647              Shift is used when we add a digit.  It also serves as an "are
11648              we in octal/hex/binary?" indicator to disallow hex characters
11649              when in octal mode.
11650            */
11651             NV n = 0.0;
11652             UV u = 0;
11653             I32 shift;
11654             bool overflowed = FALSE;
11655             bool just_zero  = TRUE;     /* just plain 0 or binary number? */
11656             static const NV nvshift[5] = { 1.0, 2.0, 4.0, 8.0, 16.0 };
11657             static const char* const bases[5] =
11658               { "", "binary", "", "octal", "hexadecimal" };
11659             static const char* const Bases[5] =
11660               { "", "Binary", "", "Octal", "Hexadecimal" };
11661             static const char* const maxima[5] =
11662               { "",
11663                 "0b11111111111111111111111111111111",
11664                 "",
11665                 "037777777777",
11666                 "0xffffffff" };
11667             const char *base, *Base, *max;
11668
11669             /* check for hex */
11670             if (s[1] == 'x') {
11671                 shift = 4;
11672                 s += 2;
11673                 just_zero = FALSE;
11674             } else if (s[1] == 'b') {
11675                 shift = 1;
11676                 s += 2;
11677                 just_zero = FALSE;
11678             }
11679             /* check for a decimal in disguise */
11680             else if (s[1] == '.' || s[1] == 'e' || s[1] == 'E')
11681                 goto decimal;
11682             /* so it must be octal */
11683             else {
11684                 shift = 3;
11685                 s++;
11686             }
11687
11688             if (*s == '_') {
11689                if (ckWARN(WARN_SYNTAX))
11690                    Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11691                                "Misplaced _ in number");
11692                lastub = s++;
11693             }
11694
11695             base = bases[shift];
11696             Base = Bases[shift];
11697             max  = maxima[shift];
11698
11699             /* read the rest of the number */
11700             for (;;) {
11701                 /* x is used in the overflow test,
11702                    b is the digit we're adding on. */
11703                 UV x, b;
11704
11705                 switch (*s) {
11706
11707                 /* if we don't mention it, we're done */
11708                 default:
11709                     goto out;
11710
11711                 /* _ are ignored -- but warned about if consecutive */
11712                 case '_':
11713                     if (lastub && s == lastub + 1 && ckWARN(WARN_SYNTAX))
11714                         Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11715                                     "Misplaced _ in number");
11716                     lastub = s++;
11717                     break;
11718
11719                 /* 8 and 9 are not octal */
11720                 case '8': case '9':
11721                     if (shift == 3)
11722                         yyerror(Perl_form(aTHX_ "Illegal octal digit '%c'", *s));
11723                     /* FALL THROUGH */
11724
11725                 /* octal digits */
11726                 case '2': case '3': case '4':
11727                 case '5': case '6': case '7':
11728                     if (shift == 1)
11729                         yyerror(Perl_form(aTHX_ "Illegal binary digit '%c'", *s));
11730                     /* FALL THROUGH */
11731
11732                 case '0': case '1':
11733                     b = *s++ & 15;              /* ASCII digit -> value of digit */
11734                     goto digit;
11735
11736                 /* hex digits */
11737                 case 'a': case 'b': case 'c': case 'd': case 'e': case 'f':
11738                 case 'A': case 'B': case 'C': case 'D': case 'E': case 'F':
11739                     /* make sure they said 0x */
11740                     if (shift != 4)
11741                         goto out;
11742                     b = (*s++ & 7) + 9;
11743
11744                     /* Prepare to put the digit we have onto the end
11745                        of the number so far.  We check for overflows.
11746                     */
11747
11748                   digit:
11749                     just_zero = FALSE;
11750                     if (!overflowed) {
11751                         x = u << shift; /* make room for the digit */
11752
11753                         if ((x >> shift) != u
11754                             && !(PL_hints & HINT_NEW_BINARY)) {
11755                             overflowed = TRUE;
11756                             n = (NV) u;
11757                             if (ckWARN_d(WARN_OVERFLOW))
11758                                 Perl_warner(aTHX_ packWARN(WARN_OVERFLOW),
11759                                             "Integer overflow in %s number",
11760                                             base);
11761                         } else
11762                             u = x | b;          /* add the digit to the end */
11763                     }
11764                     if (overflowed) {
11765                         n *= nvshift[shift];
11766                         /* If an NV has not enough bits in its
11767                          * mantissa to represent an UV this summing of
11768                          * small low-order numbers is a waste of time
11769                          * (because the NV cannot preserve the
11770                          * low-order bits anyway): we could just
11771                          * remember when did we overflow and in the
11772                          * end just multiply n by the right
11773                          * amount. */
11774                         n += (NV) b;
11775                     }
11776                     break;
11777                 }
11778             }
11779
11780           /* if we get here, we had success: make a scalar value from
11781              the number.
11782           */
11783           out:
11784
11785             /* final misplaced underbar check */
11786             if (s[-1] == '_') {
11787                 if (ckWARN(WARN_SYNTAX))
11788                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "Misplaced _ in number");
11789             }
11790
11791             sv = newSV(0);
11792             if (overflowed) {
11793                 if (n > 4294967295.0 && ckWARN(WARN_PORTABLE))
11794                     Perl_warner(aTHX_ packWARN(WARN_PORTABLE),
11795                                 "%s number > %s non-portable",
11796                                 Base, max);
11797                 sv_setnv(sv, n);
11798             }
11799             else {
11800 #if UVSIZE > 4
11801                 if (u > 0xffffffff && ckWARN(WARN_PORTABLE))
11802                     Perl_warner(aTHX_ packWARN(WARN_PORTABLE),
11803                                 "%s number > %s non-portable",
11804                                 Base, max);
11805 #endif
11806                 sv_setuv(sv, u);
11807             }
11808             if (just_zero && (PL_hints & HINT_NEW_INTEGER))
11809                 sv = new_constant(start, s - start, "integer",
11810                                   sv, NULL, NULL);
11811             else if (PL_hints & HINT_NEW_BINARY)
11812                 sv = new_constant(start, s - start, "binary", sv, NULL, NULL);
11813         }
11814         break;
11815
11816     /*
11817       handle decimal numbers.
11818       we're also sent here when we read a 0 as the first digit
11819     */
11820     case '1': case '2': case '3': case '4': case '5':
11821     case '6': case '7': case '8': case '9': case '.':
11822       decimal:
11823         d = PL_tokenbuf;
11824         e = PL_tokenbuf + sizeof PL_tokenbuf - 6; /* room for various punctuation */
11825         floatit = FALSE;
11826
11827         /* read next group of digits and _ and copy into d */
11828         while (isDIGIT(*s) || *s == '_') {
11829             /* skip underscores, checking for misplaced ones
11830                if -w is on
11831             */
11832             if (*s == '_') {
11833                 if (lastub && s == lastub + 1 && ckWARN(WARN_SYNTAX))
11834                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11835                                 "Misplaced _ in number");
11836                 lastub = s++;
11837             }
11838             else {
11839                 /* check for end of fixed-length buffer */
11840                 if (d >= e)
11841                     Perl_croak(aTHX_ number_too_long);
11842                 /* if we're ok, copy the character */
11843                 *d++ = *s++;
11844             }
11845         }
11846
11847         /* final misplaced underbar check */
11848         if (lastub && s == lastub + 1) {
11849             if (ckWARN(WARN_SYNTAX))
11850                 Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "Misplaced _ in number");
11851         }
11852
11853         /* read a decimal portion if there is one.  avoid
11854            3..5 being interpreted as the number 3. followed
11855            by .5
11856         */
11857         if (*s == '.' && s[1] != '.') {
11858             floatit = TRUE;
11859             *d++ = *s++;
11860
11861             if (*s == '_') {
11862                 if (ckWARN(WARN_SYNTAX))
11863                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11864                                 "Misplaced _ in number");
11865                 lastub = s;
11866             }
11867
11868             /* copy, ignoring underbars, until we run out of digits.
11869             */
11870             for (; isDIGIT(*s) || *s == '_'; s++) {
11871                 /* fixed length buffer check */
11872                 if (d >= e)
11873                     Perl_croak(aTHX_ number_too_long);
11874                 if (*s == '_') {
11875                    if (lastub && s == lastub + 1 && ckWARN(WARN_SYNTAX))
11876                        Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11877                                    "Misplaced _ in number");
11878                    lastub = s;
11879                 }
11880                 else
11881                     *d++ = *s;
11882             }
11883             /* fractional part ending in underbar? */
11884             if (s[-1] == '_') {
11885                 if (ckWARN(WARN_SYNTAX))
11886                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11887                                 "Misplaced _ in number");
11888             }
11889             if (*s == '.' && isDIGIT(s[1])) {
11890                 /* oops, it's really a v-string, but without the "v" */
11891                 s = start;
11892                 goto vstring;
11893             }
11894         }
11895
11896         /* read exponent part, if present */
11897         if ((*s == 'e' || *s == 'E') && strchr("+-0123456789_", s[1])) {
11898             floatit = TRUE;
11899             s++;
11900
11901             /* regardless of whether user said 3E5 or 3e5, use lower 'e' */
11902             *d++ = 'e';         /* At least some Mach atof()s don't grok 'E' */
11903
11904             /* stray preinitial _ */
11905             if (*s == '_') {
11906                 if (ckWARN(WARN_SYNTAX))
11907                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11908                                 "Misplaced _ in number");
11909                 lastub = s++;
11910             }
11911
11912             /* allow positive or negative exponent */
11913             if (*s == '+' || *s == '-')
11914                 *d++ = *s++;
11915
11916             /* stray initial _ */
11917             if (*s == '_') {
11918                 if (ckWARN(WARN_SYNTAX))
11919                     Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11920                                 "Misplaced _ in number");
11921                 lastub = s++;
11922             }
11923
11924             /* read digits of exponent */
11925             while (isDIGIT(*s) || *s == '_') {
11926                 if (isDIGIT(*s)) {
11927                     if (d >= e)
11928                         Perl_croak(aTHX_ number_too_long);
11929                     *d++ = *s++;
11930                 }
11931                 else {
11932                    if (((lastub && s == lastub + 1) ||
11933                         (!isDIGIT(s[1]) && s[1] != '_'))
11934                     && ckWARN(WARN_SYNTAX))
11935                        Perl_warner(aTHX_ packWARN(WARN_SYNTAX),
11936                                    "Misplaced _ in number");
11937                    lastub = s++;
11938                 }
11939             }
11940         }
11941
11942
11943         /* make an sv from the string */
11944         sv = newSV(0);
11945
11946         /*
11947            We try to do an integer conversion first if no characters
11948            indicating "float" have been found.
11949          */
11950
11951         if (!floatit) {
11952             UV uv;
11953             const int flags = grok_number (PL_tokenbuf, d - PL_tokenbuf, &uv);
11954
11955             if (flags == IS_NUMBER_IN_UV) {
11956               if (uv <= IV_MAX)
11957                 sv_setiv(sv, uv); /* Prefer IVs over UVs. */
11958               else
11959                 sv_setuv(sv, uv);
11960             } else if (flags == (IS_NUMBER_IN_UV | IS_NUMBER_NEG)) {
11961               if (uv <= (UV) IV_MIN)
11962                 sv_setiv(sv, -(IV)uv);
11963               else
11964                 floatit = TRUE;
11965             } else
11966               floatit = TRUE;
11967         }
11968         if (floatit) {
11969             /* terminate the string */
11970             *d = '\0';
11971             nv = Atof(PL_tokenbuf);
11972             sv_setnv(sv, nv);
11973         }
11974
11975         if ( floatit ? (PL_hints & HINT_NEW_FLOAT) :
11976                        (PL_hints & HINT_NEW_INTEGER) )
11977             sv = new_constant(PL_tokenbuf, d - PL_tokenbuf,
11978                               (floatit ? "float" : "integer"),
11979                               sv, NULL, NULL);
11980         break;
11981
11982     /* if it starts with a v, it could be a v-string */
11983     case 'v':
11984 vstring:
11985                 sv = newSV(5); /* preallocate storage space */
11986                 s = scan_vstring(s,sv);
11987         break;
11988     }
11989
11990     /* make the op for the constant and return */
11991
11992     if (sv)
11993         lvalp->opval = newSVOP(OP_CONST, 0, sv);
11994     else
11995         lvalp->opval = NULL;
11996
11997     return (char *)s;
11998 }
11999
12000 STATIC char *
12001 S_scan_formline(pTHX_ register char *s)
12002 {
12003     dVAR;
12004     register char *eol;
12005     register char *t;
12006     SV * const stuff = newSVpvs("");
12007     bool needargs = FALSE;
12008     bool eofmt = FALSE;
12009 #ifdef PERL_MAD
12010     char *tokenstart = s;
12011     SV* savewhite;
12012
12013     if (PL_madskills) {
12014         savewhite = PL_thiswhite;
12015         PL_thiswhite = 0;
12016     }
12017 #endif
12018
12019     while (!needargs) {
12020         if (*s == '.') {
12021 #ifdef PERL_STRICT_CR
12022             for (t = s+1;SPACE_OR_TAB(*t); t++) ;
12023 #else
12024             for (t = s+1;SPACE_OR_TAB(*t) || *t == '\r'; t++) ;
12025 #endif
12026             if (*t == '\n' || t == PL_bufend) {
12027                 eofmt = TRUE;
12028                 break;
12029             }
12030         }
12031         if (PL_in_eval && !PL_rsfp) {
12032             eol = (char *) memchr(s,'\n',PL_bufend-s);
12033             if (!eol++)
12034                 eol = PL_bufend;
12035         }
12036         else
12037             eol = PL_bufend = SvPVX(PL_linestr) + SvCUR(PL_linestr);
12038         if (*s != '#') {
12039             for (t = s; t < eol; t++) {
12040                 if (*t == '~' && t[1] == '~' && SvCUR(stuff)) {
12041                     needargs = FALSE;
12042                     goto enough;        /* ~~ must be first line in formline */
12043                 }
12044                 if (*t == '@' || *t == '^')
12045                     needargs = TRUE;
12046             }
12047             if (eol > s) {
12048                 sv_catpvn(stuff, s, eol-s);
12049 #ifndef PERL_STRICT_CR
12050                 if (eol-s > 1 && eol[-2] == '\r' && eol[-1] == '\n') {
12051                     char *end = SvPVX(stuff) + SvCUR(stuff);
12052                     end[-2] = '\n';
12053                     end[-1] = '\0';
12054                     SvCUR_set(stuff, SvCUR(stuff) - 1);
12055                 }
12056 #endif
12057             }
12058             else
12059               break;
12060         }
12061         s = (char*)eol;
12062         if (PL_rsfp) {
12063 #ifdef PERL_MAD
12064             if (PL_madskills) {
12065                 if (PL_thistoken)
12066                     sv_catpvn(PL_thistoken, tokenstart, PL_bufend - tokenstart);
12067                 else
12068                     PL_thistoken = newSVpvn(tokenstart, PL_bufend - tokenstart);
12069             }
12070 #endif
12071             s = filter_gets(PL_linestr, PL_rsfp, 0);
12072 #ifdef PERL_MAD
12073             tokenstart = PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = SvPVX(PL_linestr);
12074 #else
12075             PL_oldoldbufptr = PL_oldbufptr = PL_bufptr = PL_linestart = SvPVX(PL_linestr);
12076 #endif
12077             PL_bufend = PL_bufptr + SvCUR(PL_linestr);
12078             PL_last_lop = PL_last_uni = NULL;
12079             if (!s) {
12080                 s = PL_bufptr;
12081                 break;
12082             }
12083         }
12084         incline(s);
12085     }
12086   enough:
12087     if (SvCUR(stuff)) {
12088         PL_expect = XTERM;
12089         if (needargs) {
12090             PL_lex_state = LEX_NORMAL;
12091             start_force(PL_curforce);
12092             NEXTVAL_NEXTTOKE.ival = 0;
12093             force_next(',');
12094         }
12095         else
12096             PL_lex_state = LEX_FORMLINE;
12097         if (!IN_BYTES) {
12098             if (UTF && is_utf8_string((U8*)SvPVX_const(stuff), SvCUR(stuff)))
12099                 SvUTF8_on(stuff);
12100             else if (PL_encoding)
12101                 sv_recode_to_utf8(stuff, PL_encoding);
12102         }
12103         start_force(PL_curforce);
12104         NEXTVAL_NEXTTOKE.opval = (OP*)newSVOP(OP_CONST, 0, stuff);
12105         force_next(THING);
12106         start_force(PL_curforce);
12107         NEXTVAL_NEXTTOKE.ival = OP_FORMLINE;
12108         force_next(LSTOP);
12109     }
12110     else {
12111         SvREFCNT_dec(stuff);
12112         if (eofmt)
12113             PL_lex_formbrack = 0;
12114         PL_bufptr = s;
12115     }
12116 #ifdef PERL_MAD
12117     if (PL_madskills) {
12118         if (PL_thistoken)
12119             sv_catpvn(PL_thistoken, tokenstart, s - tokenstart);
12120         else
12121             PL_thistoken = newSVpvn(tokenstart, s - tokenstart);
12122         PL_thiswhite = savewhite;
12123     }
12124 #endif
12125     return s;
12126 }
12127
12128 STATIC void
12129 S_set_csh(pTHX)
12130 {
12131 #ifdef CSH
12132     dVAR;
12133     if (!PL_cshlen)
12134         PL_cshlen = strlen(PL_cshname);
12135 #else
12136 #if defined(USE_ITHREADS)
12137     PERL_UNUSED_CONTEXT;
12138 #endif
12139 #endif
12140 }
12141
12142 I32
12143 Perl_start_subparse(pTHX_ I32 is_format, U32 flags)
12144 {
12145     dVAR;
12146     const I32 oldsavestack_ix = PL_savestack_ix;
12147     CV* const outsidecv = PL_compcv;
12148
12149     if (PL_compcv) {
12150         assert(SvTYPE(PL_compcv) == SVt_PVCV);
12151     }
12152     SAVEI32(PL_subline);
12153     save_item(PL_subname);
12154     SAVESPTR(PL_compcv);
12155
12156     PL_compcv = (CV*)newSV(0);
12157     sv_upgrade((SV *)PL_compcv, is_format ? SVt_PVFM : SVt_PVCV);
12158     CvFLAGS(PL_compcv) |= flags;
12159
12160     PL_subline = CopLINE(PL_curcop);
12161     CvPADLIST(PL_compcv) = pad_new(padnew_SAVE|padnew_SAVESUB);
12162     CvOUTSIDE(PL_compcv) = (CV*)SvREFCNT_inc_simple(outsidecv);
12163     CvOUTSIDE_SEQ(PL_compcv) = PL_cop_seqmax;
12164
12165     return oldsavestack_ix;
12166 }
12167
12168 #ifdef __SC__
12169 #pragma segment Perl_yylex
12170 #endif
12171 int
12172 Perl_yywarn(pTHX_ const char *s)
12173 {
12174     dVAR;
12175     PL_in_eval |= EVAL_WARNONLY;
12176     yyerror(s);
12177     PL_in_eval &= ~EVAL_WARNONLY;
12178     return 0;
12179 }
12180
12181 int
12182 Perl_yyerror(pTHX_ const char *s)
12183 {
12184     dVAR;
12185     const char *where = NULL;
12186     const char *context = NULL;
12187     int contlen = -1;
12188     SV *msg;
12189
12190     if (!yychar || (yychar == ';' && !PL_rsfp))
12191         where = "at EOF";
12192     else if (PL_oldoldbufptr && PL_bufptr > PL_oldoldbufptr &&
12193       PL_bufptr - PL_oldoldbufptr < 200 && PL_oldoldbufptr != PL_oldbufptr &&
12194       PL_oldbufptr != PL_bufptr) {
12195         /*
12196                 Only for NetWare:
12197                 The code below is removed for NetWare because it abends/crashes on NetWare
12198                 when the script has error such as not having the closing quotes like:
12199                     if ($var eq "value)
12200                 Checking of white spaces is anyway done in NetWare code.
12201         */
12202 #ifndef NETWARE
12203         while (isSPACE(*PL_oldoldbufptr))
12204             PL_oldoldbufptr++;
12205 #endif
12206         context = PL_oldoldbufptr;
12207         contlen = PL_bufptr - PL_oldoldbufptr;
12208     }
12209     else if (PL_oldbufptr && PL_bufptr > PL_oldbufptr &&
12210       PL_bufptr - PL_oldbufptr < 200 && PL_oldbufptr != PL_bufptr) {
12211         /*
12212                 Only for NetWare:
12213                 The code below is removed for NetWare because it abends/crashes on NetWare
12214                 when the script has error such as not having the closing quotes like:
12215                     if ($var eq "value)
12216                 Checking of white spaces is anyway done in NetWare code.
12217         */
12218 #ifndef NETWARE
12219         while (isSPACE(*PL_oldbufptr))
12220             PL_oldbufptr++;
12221 #endif
12222         context = PL_oldbufptr;
12223         contlen = PL_bufptr - PL_oldbufptr;
12224     }
12225     else if (yychar > 255)
12226         where = "next token ???";
12227     else if (yychar == -2) { /* YYEMPTY */
12228         if (PL_lex_state == LEX_NORMAL ||
12229            (PL_lex_state == LEX_KNOWNEXT && PL_lex_defer == LEX_NORMAL))
12230             where = "at end of line";
12231         else if (PL_lex_inpat)
12232             where = "within pattern";
12233         else
12234             where = "within string";
12235     }
12236     else {
12237         SV * const where_sv = sv_2mortal(newSVpvs("next char "));
12238         if (yychar < 32)
12239             Perl_sv_catpvf(aTHX_ where_sv, "^%c", toCTRL(yychar));
12240         else if (isPRINT_LC(yychar))
12241             Perl_sv_catpvf(aTHX_ where_sv, "%c", yychar);
12242         else
12243             Perl_sv_catpvf(aTHX_ where_sv, "\\%03o", yychar & 255);
12244         where = SvPVX_const(where_sv);
12245     }
12246     msg = sv_2mortal(newSVpv(s, 0));
12247     Perl_sv_catpvf(aTHX_ msg, " at %s line %"IVdf", ",
12248         OutCopFILE(PL_curcop), (IV)CopLINE(PL_curcop));
12249     if (context)
12250         Perl_sv_catpvf(aTHX_ msg, "near \"%.*s\"\n", contlen, context);
12251     else
12252         Perl_sv_catpvf(aTHX_ msg, "%s\n", where);
12253     if (PL_multi_start < PL_multi_end && (U32)(CopLINE(PL_curcop) - PL_multi_end) <= 1) {
12254         Perl_sv_catpvf(aTHX_ msg,
12255         "  (Might be a runaway multi-line %c%c string starting on line %"IVdf")\n",
12256                 (int)PL_multi_open,(int)PL_multi_close,(IV)PL_multi_start);
12257         PL_multi_end = 0;
12258     }
12259     if (PL_in_eval & EVAL_WARNONLY && ckWARN_d(WARN_SYNTAX))
12260         Perl_warner(aTHX_ packWARN(WARN_SYNTAX), "%"SVf, msg);
12261     else
12262         qerror(msg);
12263     if (PL_error_count >= 10) {
12264         if (PL_in_eval && SvCUR(ERRSV))
12265             Perl_croak(aTHX_ "%"SVf"%s has too many errors.\n",
12266             ERRSV, OutCopFILE(PL_curcop));
12267         else
12268             Perl_croak(aTHX_ "%s has too many errors.\n",
12269             OutCopFILE(PL_curcop));
12270     }
12271     PL_in_my = 0;
12272     PL_in_my_stash = NULL;
12273     return 0;
12274 }
12275 #ifdef __SC__
12276 #pragma segment Main
12277 #endif
12278
12279 STATIC char*
12280 S_swallow_bom(pTHX_ U8 *s)
12281 {
12282     dVAR;
12283     const STRLEN slen = SvCUR(PL_linestr);
12284     switch (s[0]) {
12285     case 0xFF:
12286         if (s[1] == 0xFE) {
12287             /* UTF-16 little-endian? (or UTF32-LE?) */
12288             if (s[2] == 0 && s[3] == 0)  /* UTF-32 little-endian */
12289                 Perl_croak(aTHX_ "Unsupported script encoding UTF32-LE");
12290 #ifndef PERL_NO_UTF16_FILTER
12291             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF16-LE script encoding (BOM)\n");
12292             s += 2;
12293         utf16le:
12294             if (PL_bufend > (char*)s) {
12295                 U8 *news;
12296                 I32 newlen;
12297
12298                 filter_add(utf16rev_textfilter, NULL);
12299                 Newx(news, (PL_bufend - (char*)s) * 3 / 2 + 1, U8);
12300                 utf16_to_utf8_reversed(s, news,
12301                                        PL_bufend - (char*)s - 1,
12302                                        &newlen);
12303                 sv_setpvn(PL_linestr, (const char*)news, newlen);
12304 #ifdef PERL_MAD
12305                 s = (U8*)SvPVX(PL_linestr);
12306                 Copy(news, s, newlen, U8);
12307                 s[newlen] = '\0';
12308 #endif
12309                 Safefree(news);
12310                 SvUTF8_on(PL_linestr);
12311                 s = (U8*)SvPVX(PL_linestr);
12312 #ifdef PERL_MAD
12313                 /* FIXME - is this a general bug fix?  */
12314                 s[newlen] = '\0';
12315 #endif
12316                 PL_bufend = SvPVX(PL_linestr) + newlen;
12317             }
12318 #else
12319             Perl_croak(aTHX_ "Unsupported script encoding UTF16-LE");
12320 #endif
12321         }
12322         break;
12323     case 0xFE:
12324         if (s[1] == 0xFF) {   /* UTF-16 big-endian? */
12325 #ifndef PERL_NO_UTF16_FILTER
12326             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16BE script encoding (BOM)\n");
12327             s += 2;
12328         utf16be:
12329             if (PL_bufend > (char *)s) {
12330                 U8 *news;
12331                 I32 newlen;
12332
12333                 filter_add(utf16_textfilter, NULL);
12334                 Newx(news, (PL_bufend - (char*)s) * 3 / 2 + 1, U8);
12335                 utf16_to_utf8(s, news,
12336                               PL_bufend - (char*)s,
12337                               &newlen);
12338                 sv_setpvn(PL_linestr, (const char*)news, newlen);
12339                 Safefree(news);
12340                 SvUTF8_on(PL_linestr);
12341                 s = (U8*)SvPVX(PL_linestr);
12342                 PL_bufend = SvPVX(PL_linestr) + newlen;
12343             }
12344 #else
12345             Perl_croak(aTHX_ "Unsupported script encoding UTF16-BE");
12346 #endif
12347         }
12348         break;
12349     case 0xEF:
12350         if (slen > 2 && s[1] == 0xBB && s[2] == 0xBF) {
12351             if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-8 script encoding (BOM)\n");
12352             s += 3;                      /* UTF-8 */
12353         }
12354         break;
12355     case 0:
12356         if (slen > 3) {
12357              if (s[1] == 0) {
12358                   if (s[2] == 0xFE && s[3] == 0xFF) {
12359                        /* UTF-32 big-endian */
12360                        Perl_croak(aTHX_ "Unsupported script encoding UTF32-BE");
12361                   }
12362              }
12363              else if (s[2] == 0 && s[3] != 0) {
12364                   /* Leading bytes
12365                    * 00 xx 00 xx
12366                    * are a good indicator of UTF-16BE. */
12367                   if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16BE script encoding (no BOM)\n");
12368                   goto utf16be;
12369              }
12370         }
12371     default:
12372          if (slen > 3 && s[1] == 0 && s[2] != 0 && s[3] == 0) {
12373                   /* Leading bytes
12374                    * xx 00 xx 00
12375                    * are a good indicator of UTF-16LE. */
12376               if (DEBUG_p_TEST || DEBUG_T_TEST) PerlIO_printf(Perl_debug_log, "UTF-16LE script encoding (no BOM)\n");
12377               goto utf16le;
12378          }
12379     }
12380     return (char*)s;
12381 }
12382
12383 /*
12384  * restore_rsfp
12385  * Restore a source filter.
12386  */
12387
12388 static void
12389 restore_rsfp(pTHX_ void *f)
12390 {
12391     dVAR;
12392     PerlIO * const fp = (PerlIO*)f;
12393
12394     if (PL_rsfp == PerlIO_stdin())
12395         PerlIO_clearerr(PL_rsfp);
12396     else if (PL_rsfp && (PL_rsfp != fp))
12397         PerlIO_close(PL_rsfp);
12398     PL_rsfp = fp;
12399 }
12400
12401 #ifndef PERL_NO_UTF16_FILTER
12402 static I32
12403 utf16_textfilter(pTHX_ int idx, SV *sv, int maxlen)
12404 {
12405     dVAR;
12406     const STRLEN old = SvCUR(sv);
12407     const I32 count = FILTER_READ(idx+1, sv, maxlen);
12408     DEBUG_P(PerlIO_printf(Perl_debug_log,
12409                           "utf16_textfilter(%p): %d %d (%d)\n",
12410                           utf16_textfilter, idx, maxlen, (int) count));
12411     if (count) {
12412         U8* tmps;
12413         I32 newlen;
12414         Newx(tmps, SvCUR(sv) * 3 / 2 + 1, U8);
12415         Copy(SvPVX_const(sv), tmps, old, char);
12416         utf16_to_utf8((U8*)SvPVX_const(sv) + old, tmps + old,
12417                       SvCUR(sv) - old, &newlen);
12418         sv_usepvn(sv, (char*)tmps, (STRLEN)newlen + old);
12419     }
12420     DEBUG_P({sv_dump(sv);});
12421     return SvCUR(sv);
12422 }
12423
12424 static I32
12425 utf16rev_textfilter(pTHX_ int idx, SV *sv, int maxlen)
12426 {
12427     dVAR;
12428     const STRLEN old = SvCUR(sv);
12429     const I32 count = FILTER_READ(idx+1, sv, maxlen);
12430     DEBUG_P(PerlIO_printf(Perl_debug_log,
12431                           "utf16rev_textfilter(%p): %d %d (%d)\n",
12432                           utf16rev_textfilter, idx, maxlen, (int) count));
12433     if (count) {
12434         U8* tmps;
12435         I32 newlen;
12436         Newx(tmps, SvCUR(sv) * 3 / 2 + 1, U8);
12437         Copy(SvPVX_const(sv), tmps, old, char);
12438         utf16_to_utf8((U8*)SvPVX_const(sv) + old, tmps + old,
12439                       SvCUR(sv) - old, &newlen);
12440         sv_usepvn(sv, (char*)tmps, (STRLEN)newlen + old);
12441     }
12442     DEBUG_P({ sv_dump(sv); });
12443     return count;
12444 }
12445 #endif
12446
12447 /*
12448 Returns a pointer to the next character after the parsed
12449 vstring, as well as updating the passed in sv.
12450
12451 Function must be called like
12452
12453         sv = newSV(5);
12454         s = scan_vstring(s,sv);
12455
12456 The sv should already be large enough to store the vstring
12457 passed in, for performance reasons.
12458
12459 */
12460
12461 char *
12462 Perl_scan_vstring(pTHX_ const char *s, SV *sv)
12463 {
12464     dVAR;
12465     const char *pos = s;
12466     const char *start = s;
12467     if (*pos == 'v') pos++;  /* get past 'v' */
12468     while (pos < PL_bufend && (isDIGIT(*pos) || *pos == '_'))
12469         pos++;
12470     if ( *pos != '.') {
12471         /* this may not be a v-string if followed by => */
12472         const char *next = pos;
12473         while (next < PL_bufend && isSPACE(*next))
12474             ++next;
12475         if ((PL_bufend - next) >= 2 && *next == '=' && next[1] == '>' ) {
12476             /* return string not v-string */
12477             sv_setpvn(sv,(char *)s,pos-s);
12478             return (char *)pos;
12479         }
12480     }
12481
12482     if (!isALPHA(*pos)) {
12483         U8 tmpbuf[UTF8_MAXBYTES+1];
12484
12485         if (*s == 'v')
12486             s++;  /* get past 'v' */
12487
12488         sv_setpvn(sv, "", 0);
12489
12490         for (;;) {
12491             /* this is atoi() that tolerates underscores */
12492             U8 *tmpend;
12493             UV rev = 0;
12494             const char *end = pos;
12495             UV mult = 1;
12496             while (--end >= s) {
12497                 if (*end != '_') {
12498                     const UV orev = rev;
12499                     rev += (*end - '0') * mult;
12500                     mult *= 10;
12501                     if (orev > rev && ckWARN_d(WARN_OVERFLOW))
12502                         Perl_warner(aTHX_ packWARN(WARN_OVERFLOW),
12503                                     "Integer overflow in decimal number");
12504                 }
12505             }
12506 #ifdef EBCDIC
12507             if (rev > 0x7FFFFFFF)
12508                  Perl_croak(aTHX_ "In EBCDIC the v-string components cannot exceed 2147483647");
12509 #endif
12510             /* Append native character for the rev point */
12511             tmpend = uvchr_to_utf8(tmpbuf, rev);
12512             sv_catpvn(sv, (const char*)tmpbuf, tmpend - tmpbuf);
12513             if (!UNI_IS_INVARIANT(NATIVE_TO_UNI(rev)))
12514                  SvUTF8_on(sv);
12515             if (pos + 1 < PL_bufend && *pos == '.' && isDIGIT(pos[1]))
12516                  s = ++pos;
12517             else {
12518                  s = pos;
12519                  break;
12520             }
12521             while (pos < PL_bufend && (isDIGIT(*pos) || *pos == '_'))
12522                  pos++;
12523         }
12524         SvPOK_on(sv);
12525         sv_magic(sv,NULL,PERL_MAGIC_vstring,(const char*)start, pos-start);
12526         SvRMAGICAL_on(sv);
12527     }
12528     return (char *)s;
12529 }
12530
12531 /*
12532  * Local variables:
12533  * c-indentation-style: bsd
12534  * c-basic-offset: 4
12535  * indent-tabs-mode: t
12536  * End:
12537  *
12538  * ex: set ts=8 sts=4 sw=4 noet:
12539  */